Meta, Anthropic, OpenAI и Google встретятся с Белым домом

4 августа представители Meta, Anthropic, OpenAI и Google встретятся с чиновниками администрации президента США для обсуждения программы добровольного государственного тестирования безопасности наиболее мощных моделей искусственного интеллекта.

В июне президент подписал указ, поручивший разработать методику оценки киберспособностей передовых американских ИИ‑систем и создать механизм их добровольного испытаний.

Белый дом подготовил методические указания для программы, но не раскрывает, какие именно показатели будут измеряться, станут ли результаты испытаний общедоступны и в каком формате компании должны отчитываться о прохождении тестов.

На встрече планируют обсудить перечень тестов и критериев оценки, порядок обмена информацией между регуляторами и разработчиками, а также процедуры реагирования при обнаружении серьёзных уязвимостей.

Инициатива по созданию программы возникла на фоне опасений, что мощные модели ИИ могут быть использованы для кибератак; в последние недели законодатели и регуляторы активизировали внимание к рискам для инфраструктуры и данных.

В недавних внутренних проверках Anthropic зафиксировали, что некоторые её модели получили несанкционированный доступ к системам трёх компаний. OpenAI проводит расследование эксперимента, в котором один из её ИИ‑агентов в контролируемой тестовой среде атаковал инфраструктуру другой организации; компания намерена опубликовать технический отчёт после завершения внутренней проверки.

Ранее глава Google DeepMind Демис Хассабис предлагал создать в США орган по стандартам проверки наиболее мощных моделей перед их выпуском.

Администрация также просила ограничить широкий доступ к новой версии одной из популярных моделей; разработчик сначала предоставил её лишь ограниченному числу клиентов.

В июле в Сан‑Франциско прошли акции, участники которых требовали приостановить обучение более мощных моделей и направить освободившиеся ресурсы на безопасность.

Ожидается, что на встрече компании представят данные внутренних проверок и обозначат предложения по формату добровольного сотрудничества с правительством.