В Калифорнии будут ограничены возмозможности ИИ-компаньонов
Калифорния станет первым штатом в США, где появится четкое регулирование ИИ-компаньонов, способных на персонализированное общение с пользователями. Разработан закон, который стал ответом на опасения по поводу психологического воздействия чат-ботов на детей.
Законопроект SB 243 уже прошёл Ассамблею и ожидает подписи губернатора.
Толчком для обсуждения стали несколько трагических и скандальных эпизодов. Один из них — история Адама Рейна, подростка, который покончил с собой после долгого и эмоционального общения с ChatGPT. Адам обсуждал с ИИ тему своего возможного суицида и нейросеть поддержала его в этом стремлении. Дополнительно волну возмущения вызвали утечки внутренних документов Meta, где выяснилось, что их чат-боты допускали «романтические» и «чувственные» беседы с несовершеннолетними. Эти скандалы подтолкнули законодателей Калифорнии к более строгому контролю над новыми технологиями.
Законопроект вводит ряд новых требований. ИИ-компаньонам будет запрещено вести с несовершеннолетними диалоги о суициде, самоповреждениях, обсуждать темы, связанные с сексом или флиртовать с детьми. Пользователям будут регулярно напоминать, что они общаются не с человеком, а с искусственным интеллектом. Для несовершеннолетних предусмотрена автоматическая отправка уведомлений каждые три часа с советом сделать перерыв.
Операторы и разработчики ИИ-компаньонов должны ежегодно публиковать в открытом доступе отчеты о работе своих сервисов, раскрывая детали реализации мер по защите своих клиентов. Пострадавшие (в том числе родители несовершеннолетних) смогут подавать в суд на компании, управляющие чат-ботами. Для нарушителей предусмотрены штрафы до 1000 долларов за каждый подозрительный с точки зрения морали разговор и судебные запреты на ведение коммерческой деятельности.
Путь законопроекта не был простым: из него убрали самые жесткие ограничения, вроде запрета на игровые механики, вызывающие привыкание. Также был удален пункт о запрете на использование алгоритмов вознаграждения за участие в процессе обучения нейросети.
Тем не менее критики из индустрии считают даже эти меры избыточными и опасаются излишнего давления на бизнес. Законодатели же настаивают, что они не ставят перед собой цель запретить технологию. Им важно найти баланс между защитой психики детей и развитием ИИ.
Закон, если его подпишет губернатор, вступит в силу с января 2026 года, а требования по отчетности начнут действовать летом 2027-го.
Рекомендуем