Калифорния усилила онлайн-защиту детей, но без запрета чат-ботов
Калифорния ужесточила правила детской онлайн‑безопасности, но не стала полностью запрещать чат-боты. Губернатор Гэвин Ньюсом утвердил требования к верификации возраста, предупреждениям в соцсетях и защитным мерам для ИИ‑собеседников, отклонив более широкий запрет как чрезмерный. За распространение интимных дипфейков теперь предусмотрена гражданская ответственность — до $250 000.
Ньюсом подписал пакет законов, усиливающий онлайн‑защиту несовершеннолетних. Главное внимание уделено практическим мерам: компании должны раскрывать использование ИИ, иметь базовые сценарии реагирования на кризисные ситуации и внедрять «сигналы возраста» из операционных систем и магазинов приложений, чтобы защитные режимы срабатывали согласованно. В тот же день губернатор наложил вето на более широкий запрет чат-ботов для детей, назвав инициативу слишком расплывчатой и ограничивающей легитимные образовательные и поддерживающие сценарии.
Правила для ИИ‑собеседников строятся на прозрачности и безопасности. Платформы обязаны сообщать, что пользователь общается с искусственным интеллектом, включать напоминания о необходимости делать перерывы для несовершеннолетних и блокировать показ сексуально откровенных изображений для лиц младше 18 лет. Также должны действовать протоколы распознавания сигналов о намерении причинить себе вред и алгоритмы перенаправления таких случаев в службы поддержки. Компании обязаны публиковать документацию о принципах работы систем и предоставлять статистику профильным органам. Чат-ботам запрещено выдавать себя за лицензированных медработников.
Проверка возраста переносится на уровень платформ. Вместо того чтобы каждое приложение импровизировало, операционные системы и магазины приложений передают приложению возрастной маркер, который учитывается при ограничении функций и контента. Задача — унифицировать триггеры, уменьшить инвазивные проверки и сделать понятными границы ответственности, если защита не сработала.
Самая жесткая часть пакета — гражданские иски. Потерпевшие, включая несовершеннолетних, могут требовать до $250,000 с третьих лиц, которые сознательно помогают распространять интимные дипфейки. Указанная сумма задаёт ориентир для масштаба возможных исков и фиксируется в законе как примерный предел ответственности.
Политически сигнал прозрачен: подписав процедурные «поручни» и отклонив «тотальный» запрет, Сакраменто проводит линию — ограничивать поведение и вводить проверяемые процессы вместо запрета целой категории. Этот подход сочетается с отдельной инициативой штата, устраняющей в гражданских делах лазейку «это сделал ИИ». Теперь переносить всю вину на модель станет сложнее.
На федеральном уровне намечается контраст. Законопроект RISE Act в Сенате США предлагает условный иммунитет от гражданской ответственности для ряда разработчиков ИИ. Калифорния ужесточает подотчетность, тогда как Вашингтон рассматривает послабления для части создателей. Столкнутся ли эти подходы, будет зависеть от норм о приоритете федерального права и точности формулировок.
Официальная позиция звучит коротко. «Калифорния может быть лидером в ИИ, но делать это нужно ответственно, защищая наших детей на каждом шаге», — говорит Ньюсом. Первая леди штата Дженнифер Сибел Ньюсом добавляет: «Лидерство — это и умение ставить границы там, где это важнее всего». Здесь важна не риторика, а сама конструкция политики.
Для разработчиков и платформ список задач понятен: добавить раскрытия об ИИ в чатах; выстроить и документировать сценарии эскалации кризисных сигналов; встроить «сигналы возраста» из ОС и магазинов приложений; пересмотреть модерацию и реагирование на дипфейки. Речь не о запретах ИИ, а о процессах, которые можно проверить. Ближайшее трение — в деталях внедрения, разъяснениях ведомств и том, как быстро экосистема приложений примет новые сигналы, не ломая сервисы для смешанной аудитории.
Рекомендуем