Австралийский сенат вызвал глав OpenAI и Anthropic

Сенатский комитет Австралии пригласил руководителей OpenAI и Anthropic для дачи показаний по вопросам безопасности и регулирования искусственного интеллекта. Комитет намерен обсудить практики разработки больших языковых моделей, меры по предотвращению вредоносного использования и прозрачность алгоритмов.

В повестке заседания — контроль автономных ИИ‑агентов, защита персональных данных, механизмы отчётности о сбоях и взаимодействие с регуляторами и правоохранительными органами при инцидентах. Сенаторы планируют уточнить, какие механизмы экстренной остановки или ограничения работы встроены в продукты и какие дополнительные гарантии готовы предоставить разработчики.

Комитет запросит сведения о источниках данных и методах обучения моделей, прозрачности тренировочных наборов, мерах по снижению предвзятости и правилах ответственности за ошибки. Также будет обсуждаться возможность независимого аудита и порядок действий при выявлении системных рисков.

Отдельное внимание уделят применению ИИ в финансовой сфере. Регуляторы выражают обеспокоенность использованием сетей автономных агентов для высокочастотной торговли и управления ликвидностью, что, по оценкам некоторых экспертов, может повышать риски для стабильности рынков.

Объявление о приглашении руководителей компаний появилось на фоне рыночной коррекции: акции ряда производителей чипов снизились после периода активных инвестиций в инфраструктуру для обучения моделей ИИ.

Сенаторы намерены запросить информацию о масштабах внедрения систем OpenAI и Anthropic в критические инфраструктуры, а также о процедурах оценки рисков перед коммерческим запуском новых функций. В числе вопросов — готовность компаний оперативно взаимодействовать с регуляторами и правоохранительными органами в чрезвычайных ситуациях.

Австралийские власти рассматривают слушания как часть процесса разработки национальных правил для ИИ. Регуляторы изучают международные практики и варианты координации с зарубежными органами, чтобы согласовать подходы к надзору и реагированию на трансграничные угрозы.

Обе компании ранее участвовали в диалогах с регуляторами других стран. Конкретные даты и формат их выступлений перед Сенатом пока не объявлены. Сенаторы также планируют запросить данные о влиянии технологий на занятость, распространение дезинформации и возможностях создания вредоносного программного обеспечения, а также о процедурах уведомления и расследования инцидентов.