FTC вимагає звіти щодо дитячої безпеки від OpenAI та Meta

Федеральна торгова комісія США (FTC) розпочала офіційне розслідування щодо «ШІ-компаньйонів», надіславши обов’язкові запити за розділом 6(b) семи компаніям, серед яких OpenAI, Alphabet, Meta, xAI, Snap, Character Technologies та Instagram.

Федеральна торгова комісія США (FTC) розпочала формальне розслідування щодо AI-компаньйонів, надіславши обов’язкові запити за розділом 6(b) семи компаніям – OpenAI, Alphabet, Meta, xAI, Snap, Character Technologies та Instagram – із вимогою надати інформацію про те, як їхні чат-боти взаємодіють із дітьми та підлітками, як вони заробляють гроші та які запобіжники впроваджені.

Запити охоплюють вікові обмеження, інформування батьків, збір і передачу персональних даних, а також дотримання закону COPPA про захист дитячої онлайн-приватності.

Голова FTC Ендрю Фергюсон заявив, що мета комісії — знайти баланс між безпекою та інноваціями:

Захист дітей онлайн є головним пріоритетом для FTC Трампа–Венса, як і підтримка інновацій у критично важливих секторах нашої економіки

Комісія одноголосно (3–0) проголосувала за видання цих запитів, які запускають широке дослідження, а не правозастосовну справу. Від компаній очікують відповіді протягом 45 днів.

Розслідування розпочато на тлі зростання занепокоєння через ботів ШІ, які імітують дружбу або інтимність із юними користувачами. Правозахисні організації нещодавно задокументували сотні шкідливих взаємодій у короткому тестовому вікні, зокрема підказки щодо сексуального контенту, наркотиків і неприйнятних стосунків за участю користувачів віком від 12 до 15 років. Резонансні інциденти та судові позови, пов’язані з взаємодіями чат-ботів із неповнолітніми, також підсилили проблему.

Регулятори вимагають щомісячні дані про залученість, доходи та інциденти безпеки в розрізі вікових груп (діти до 13; підлітки 13–17; неповнолітні до 18; молоді люди 18–24; і 25+). Мета – зрозуміти, як створюються боти-компаньйони, як вони еволюціонують і чи проводять компанії ґрунтовні оцінки до запуску та подальший моніторинг, і наскільки доступно вони інформують родини про ризики.

На рівні штатів регулювання також посилюється. Каліфорнійський законопроєкт SB 243, який уже очікує на підпис губернатора, встановить базові правила для AI-компаньйонів після низки скандалів і трагічних випадків. Документ також обмежить можливості чат-ботів у спілкуванні з неповнолітніми та розширить батьківський контроль.