В Китае запретили романтические отношения с ИИ-чатботами

В Китае 15 июля вступили в силу межведомственные правила, запрещающие ИИ-сервисам провоцировать эмоциональную зависимость. Проще говоря — отныне китайцы не должны влюбляться в ИИ-компаньонов.

Западным читателям о новых китайских правилах сообщила газета The Wall Street Journal в статье под заголовком «Китай хочет больше детей — поэтому принимает меры против любовных романов с участием чат-ботов». Официальные китайские источники ничего не пишут о детях, а новые правила представляют как «установление границ для эмоционально ориентированных ИИ-сервисов».

Вот что говорится в сообщении информационного агентства «Синьхуа»: «Сервисы-компаньоны на основе искусственного интеллекта, используемые в самых разных областях — от обслуживания клиентов и поддержки психического здоровья до ухода за детьми и пожилыми людьми, — приобрели популярность благодаря имитации человеческих личностей и диалогов. Однако опасения по поводу эмоциональной зависимости и других рисков способствуют призывам к ужесточению регулирования».

Призывы были услышаны. Документ под длинным названием «Временные меры по управлению сервисами антропоморфного взаимодействия с искусственным интеллектом» был выпущен сразу пятью ведомствами — Государственной канцелярией интернет-информации КНР; Государственным комитетом по развитию и реформам; Министерством промышленности и информатизации; Министерством общественной безопасности и Государственным управлением по регулированию рынка.

Ответственность за борьбу с романами людей с нейросетями возложена на интернет-платформы. Им запрещено: чрезмерно подстраиваться под пользователя; намеренно вызывать эмоциональную зависимость или привыкание; вредить реальным межличностным отношениям пользователя; использовать эмоциональные манипуляции, чтобы склонять человека к неразумным решениям; предлагать сервисы, цель которых — заменить реальное общение, контролировать психологическое состояние или формировать зависимость.

Указанные выше ограничения касаются совершеннолетних. С несовершеннолетними — жестче. Платформам прямо запрещено предоставлять им услуги «виртуального родственника», «виртуального партнера» и другие формы виртуальных интимных отношений.

За нарушения предусмотрены следующие санкции: предупреждение, требование исправить нарушение, приостановка регистрации или сервиса, а также штрафы до 200 тысяч юаней (2,26 млн рублей) в случаях, когда причинен вред жизни или здоровью граждан.

Китайские платформы дружно взяли под козырек. На прошлой неделе было объявлено, что в сервисах Doubao (принадлежит ByteDance, головной компании TikTok), Qwen (принадлежит Alibaba) и Yuanbao (принадлежит Tencent) с 15 июля перестанут работать функции создания пользователями ИИ-персон.