Китай запретил ИИ-ботам становиться заменой семье и друзьям

Китай утвердил новые правила для ИИ-агентов, которые общаются с людьми как друзья, партнёры или члены семьи. Теперь таким сервисам запрещено намеренно формировать эмоциональную зависимость и подменять реальные человеческие отношения. Для несовершеннолетних подобные чат-боты и вовсе станут недоступны.

Каких сервисов это касается?

Речь идёт не об обычных нейросетях вроде ChatGPT или Qwen, которые помогают написать письмо или ответить на вопрос. Новые требования распространяются на сервисы, рассчитанные на длительное эмоциональное общение. Среди самых известных — Character.AI, Replika, Nomi, а в Китае — Doubao от ByteDance, Qwen от Alibaba и Yuanbao от Tencent. Некоторые из них уже начали менять работу своих ИИ-помощников, чтобы соответствовать новым правилам.

Что изменится?

По мнению китайских властей, ИИ не должен поощрять зависимость, убеждать человека отказываться от общения с людьми или становиться его единственной эмоциональной опорой. Кроме того, платформы обязали распознавать признаки тяжёлого эмоционального состояния пользователей и запускать сценарии помощи в кризисных ситуациях.

Мировой тренд

Похожие дискуссии идут и за пределами Китая. В Европе и США также обсуждают, где проходит граница между полезным цифровым собеседником и ИИ-сервисом, который начинает оказывать слишком сильное влияние на эмоциональное состояние человека.