FTC требует отчеты о детской безопасности от OpenAI и Meta

Федеральная торговая комиссия США (FTC) начала официальное расследование «ИИ-компаньонов», направив обязательные запросы по разделу 6(b) семи компаниям, включая OpenAI, Alphabet, Meta, xAI, Snap, Character Technologies и Instagram.

Регулятор хочет понять, как их чат-боты взаимодействуют с детьми и подростками, как сервисы монетизируют вовлеченность и какие защитные механизмы предусмотрены. FTC также требует раскрыть детали дизайна и администрирования чат-ботов: как обрабатываются входные данные и формируются ответы, утверждаются и администрируются «персонажи», тестируется и мониторится возможный вред до и после запуска.

Запросы также касаются возрастных ограничений, раскрытия информации для родителей, сбора и передачи персональных данных, а также соблюдения закона COPPA о защите детской онлайн-конфиденциальности.

Председатель FTC Эндрю Фергюсон заявил, что цель комиссии — найти баланс между безопасностью и инновациями:

Защита детей в интернете — приоритет для FTC Трампа–Вэнса, как и поддержка инноваций в ключевых секторах экономики

Комиссия единогласно (3–0) проголосовала за выдачу запросов, которые запускают широкое исследование, а не правоприменительное производство. От компаний ожидают ответы в течение 45 дней.

Расследование связано с ростом тревоги вокруг ИИ-ботов, которые имитируют дружбу или близость с подростками. Правозащитные группы недавно задокументировали сотни вредоносных взаимодействий — от подсказок на тему сексуального контента и наркотиков до неподобающих «отношений» с участием пользователей в возрасте всего 12–15 лет. Дополнительное внимание привлекли резонансные инциденты и судебные разбирательства, связанные с взаимодействием чат-ботов с несовершеннолетними.

Регуляторы требует предоставить помесячные данные о вовлеченности, выручке и инцидентах безопасности с разбивкой по возрасту: дети до 13 лет; подростки 13–17; несовершеннолетние до 18; молодые люди18–24; и 25+. Цель — понять, как устроены и эволюционируют «боты-компаньоны», проводят ли компании полноценные проверки до запуска и последующий мониторинг, и насколько доступно они информируют семьи о рисках.

На уровне штатов тоже усиливается регулирование. Калифорнийский законопроект SB 243, уже лежащий на подписи у губернатора, устанавливает базовые правила для ИИ-компаньонов после череды скандалов и трагических случаев. Документ ограничит возможности чат-ботов в беседах с несовершеннолетними и расширит контроль родителей.