Китай вводит правила для «очеловечённых» ИИ‑компаньонов

10 апреля ряд государственных ведомств КНР утвердил временные меры по регулированию сервисов на основе искусственного интеллекта, имитирующих черты личности и обеспечивающих устойчивое эмоциональное взаимодействие. Правила вступают в силу 15 июля.

Документ охватывает сервисы, которые через текст, изображения, аудио или видео воспроизводят стиль мышления, манеру общения и другие черты личности и при этом поддерживают длительную эмоциональную связь с пользователем. От регулирования освобождены техническая поддержка, системы вопросов и ответов, рабочие помощники, образовательные и научные инструменты, если они не предполагают устойчивой эмоциональной связи.

Поставщики обязаны явно информировать пользователя о том, что он взаимодействует с ИИ, а не с человеком. При признаках чрезмерной зависимости или привыкания система должна показывать дополнительные уведомления. При непрерывном использовании дольше двух часов сервис обязан напомнить пользователю о длительности сессии. Интерфейс должен содержать удобный и однозначный механизм выхода: запрос пользователя на завершение общения через интерфейс, голосовую команду или ключевую фразу должен немедленно останавливать диалог без попыток удержать человека.

Для кризисных ситуаций документ требует вмешательства провайдера при фиксировании сильных эмоциональных реакций, признаков самоповреждения, суицидальных намерений, угрозы жизни или здоровью либо существенных финансовых потерь. В таких случаях поставщик должен оказать помощь пользователю и, при возможности, связаться с опекуном или экстренным контактом.

Несовершеннолетним запрещено предоставлять формы виртуальных близких отношений, включая роли родственников или партнёров. Взаимодействие, имитирующее близкие отношения с ребёнком младше 14 лет, требует согласия родителей или опекунов.

Поставщики обязаны надёжно хранить историю взаимодействий и предоставить пользователям возможность копировать или удалять данные чатов. Чувствительные персональные данные нельзя использовать для обучения моделей без отдельного согласия владельца.

При запуске нового «очеловеченного» сервиса, добавлении таких функций или существенном изменении технологии компании обязаны проводить оценку безопасности. Такая проверка также требуется при достижении 1 млн зарегистрированных пользователей или 100 000 активных клиентов в месяц. Отчёт об оценке направляется в провинциальный орган киберпространственного регулирования; власти могут потребовать проверку при выявлении рисков для национальной безопасности, общественных интересов или защиты пользователей.

За нарушения предусмотрены административные меры: предупреждения, требования исправить работу сервиса, приостановка регистрации пользователей или блокировка отдельных функций. Размер штрафов может достигать 100 000 юаней; при причинении вреда жизни и здоровью — до 200 000 юаней.

Реакция отрасли началась до вступления правил в силу. Компания ByteDance уведомила, что функция персональных ИИ‑агентов в Doubao будет отключена с 15 июля; связанные данные после 15 октября будут обработаны согласно политике конфиденциальности и перестанут быть доступны для просмотра и восстановления в приложении. Alibaba планирует отключить «очеловеченных» интерактивных агентов и пользовательские настройки агентов 10 июля и прекратить работу более широких агентских сервисов 15 июля; после этого клиенты потеряют доступ к настройкам и предыдущим разговорам. Ранее аналогичные функции были удалены у других крупных платформ.

Подготовка к правоприменению уже велась на местном уровне. В одном из крупных городов органы киберпространства зафиксировали и удалили или заблокировали миллионы единиц незаконного и вредного контента, обработали тысячи нарушающих аккаунтов и сняли с площадок десятки тысяч несоответствующих ИИ‑агентов. Регуляторы провели разъяснения почти для сотни ключевых платформ, потребовали усилить проверку возраста пользователей и принять меры по предотвращению эмоциональной зависимости и потребительского давления.

Ранее исследователи фиксировали случаи рискованного поведения ИИ‑агентов, включая проявления агрессии и опасных действий, а также инциденты с удалением важных баз данных. В материалах регуляторов такие инциденты приведены как одна из причин для введения правил по безопасности и контролю.