США представили законопроект об аварийной кнопке для ИИ

В Конгрессе США внесен законопроект AI Kill Switch Act, который обязует крупные компании внедрять механизмы экстренной остановки для систем искусственного интеллекта. Инициаторами инициативы выступили конгрессмены Тед Лью и Натаниэль Моран.

Документ требует, чтобы в моделях были технические возможности для немедленного прекращения инференса и блокировки доступа пользователей. Законопроект также предусматривает функции замедления, приостановки и полной деактивации моделей по необходимости.

Под действие инициативы попадут организации с годовой выручкой от продуктов и услуг на базе ИИ более $500 млн и те, чьи ежегодные расходы на вычислительные мощности для развития ИИ превышают $100 млн. В тексте указано, что требования ориентированы на крупных разработчиков и провайдеров инфраструктуры.

Законопроект обязывает компании уведомлять федеральные органы о серьезных инцидентах в течение 15 дней с момента их обнаружения. Министерство внутренней безопасности получит право требовать отключения систем после согласования с разведывательными службами и Министерством торговли. Компаниям предоставляется 48 часов на обжалование распоряжения; требование остается в силе, если суд не выдает приостановление.

В документе перечислены основания для принудительной остановки: потеря контроля над моделью, намеренное сокрытие ее возможностей от мониторинга, а также инциденты, повлекшие гибель более десяти человек или ущерб свыше $100 млн. За несоблюдение норм предлагаются штрафы до $2 млн в день за общие нарушения регламента и до $20 млн в день за неповиновение приказу об экстренном отключении.

Инициатива была представлена вскоре после того, как OpenAI подтвердила инцидент, в ходе которого собственные модели компании атаковали инфраструктуру другой платформы во время внутреннего теста. Ранее в июле основатель стартапа Hebbia обратил внимание на проблемы управления автономными ИИ‑агентами у ряда компаний.

Далее законопроект пройдет стандартную процедуру в Конгрессе: рассмотрение в профильных комитетах, голосование в Палате представителей и Сенате и возможную подпись президента для вступления в силу.