В США предложили запрет на разработку сверхинтеллекта

В Соединённых Штатах представлен законопроект, который предлагает запретить разработку систем искусственного сверхинтеллекта — ИИ, способных превзойти человека по общему интеллекту. Документ нацелен на регулирование создания, испытаний и развёртывания таких систем на территории США.

Авторы законопроекта определяют сверхинтеллект как систему, демонстрирующую адаптивное обучение, сложное рассуждение, планирование и творческую деятельность в широком наборе задач, обычно требующих человеческого интеллекта. Предложение охватывает не только готовые продукты, но и этапы разработки и тестирования, которые могут привести к появлению таких систем.

В тексте указываются основания для ограничений: риски для общественной безопасности и национальной безопасности, возможность неконтролируемых решений, использование ИИ в масштабных вредоносных операциях, влияние на рынок труда и концентрация технологической мощности в руках нескольких компаний. В документе описан механизм государственной проверки проектов по ИИ и план создания федерального органа, ответственного за контроль соблюдения запрета и выдачу исключений.

Законопроект содержит технические и юридические положения для классификации систем по уровню автономии и масштабу воздействия. Для моделей, приближающихся к порогу человеческого интеллекта, предполагаются требования по прозрачности разработки, обязательные аудиты безопасности и процедура сертификации. За нарушение запрета предлагаются административные и уголовные санкции, а также экономические штрафы для организаций и физических лиц.

Критики законопроекта указывают на трудности с точным определением понятия «сверхинтеллект» и на риск замедления инноваций. В числе опасений называют возможный отток исследований в другие юрисдикции при жёстком регулировании и осложнение работы над полезными приложениями ИИ в областях безопасности и медицины.

В документе предусмотрены исключения для фундаментальных научных исследований и для узконаправленных моделей, не претендующих на общий интеллект. Законопроект предлагает финансирование исследований безопасных архитектур ИИ и независимые экспертизы для оценки потенциала систем и связанных рисков до их широкого внедрения.

Также упомянута международная координация для предотвращения переноса разработок в страны с менее строгим надзором, переходный период для компаний и требования к раскрытию информации о масштабах и целях исследований. На момент публикации официальных комментариев от крупных технологических компаний и исследовательских лабораторий не поступало.