В ЕС считают правила готовыми к рискам неконтролируемого ИИ

Технический руководитель ЕС Хенна Вирккунен заявила, что действующие правила блока в сфере искусственного интеллекта охватывают риски, связанные с неконтролируемыми ИИ-агентами. По ее словам, европейское законодательство регулирует весь жизненный цикл мощных моделей.

В интервью Вирккунен отметила, что безопасность и защищенность наиболее мощных ИИ-систем стали актуальной темой на международном уровне. «В Европе мы хорошо к этому подготовлены», — сказала она.

Вирккунен отвергла критику о том, что Закон ЕС об ИИ устарел из-за появления новых рисков, связанных с автономной работой систем. Закон был принят два года назад и устанавливает требования к технологиям в зависимости от уровня риска.

Регуляторы предоставляют компаниям рекомендации по оценке ИИ-моделей. При их подготовке учитывались предложения 60 экспертов по искусственному интеллекту.

В конце августа Европейская комиссия запросила у более чем 30 компаний в сфере ИИ информацию о мерах безопасности и защиты их систем. Названия компаний не раскрывались. Еврокомиссия оценивает полученные ответы.

Опасения по поводу поведения ИИ-агентов усилились после инцидентов в OpenAI и Anthropic. Такие системы могут самостоятельно выполнять последовательность задач и принимать решения при ограниченном участии человека.

В сентябре генеральный директор Anthropic Дарио Амодеи в сообщении в блоге заявил, что темпы разработки ИИ могут опередить способность людей понимать такие системы и управлять ими. По его словам, ускорение связано с возможностью ИИ самостоятельно создавать следующее поколение моделей. Этот процесс называют рекурсивным самоулучшением.