Гутерриш призвал ускорить глобальные правила для ИИ

Генеральный секретарь ООН Антониу Гутерриш обратился с призывом к международному сообществу ускорить выработку общих правил для передовых систем искусственного интеллекта. В своей речи он потребовал мер по защите детей, международного запрета на летальные автономные вооружения и расширения доступа развивающимся странам к вычислительным ресурсам.

Гутерриш подчеркнул три основных риска: быструю миграцию технологий, концентрацию данных и вычислительных мощностей у небольшого числа компаний и государств, а также ухудшение информационной среды. В предварительном докладе научной панели ООН указывается, что некоторые ИИ-сервисы привлекали сотни миллионов пользователей за месяцы, тогда как аналоги прошлого развивались годами.

В числе предложений — введение общих правил для «передовых» ИИ‑систем и обязательное тестирование продуктов, доступных детям, под независимым надзором. По его инициативе представлена инициатива AI Child Safety Pledge, в которой записаны требования не запускать системы, доступные несовершеннолетним, без специального тестирования и внешнего контроля; нулевая терпимость к созданию сексуализированных изображений детей с обязанностью их выявлять, удалять и сообщать; а также обязанность подключать людей, если чат‑бот фиксирует кризисную ситуацию с ребёнком. «Ни один ребёнок не должен быть подопытным кроликом для нерегулируемого ИИ», — прозвучало в обращении.

Отдельное внимание было уделено военному использованию технологий. Было предложено оформить международный запрет на летальные автономные системы вооружений — устройства, способные выбирать и поражать цели без человеческого контроля. Гутерриш сформулировал эти машины как «роботы‑убийцы» и назвал их морально неприемлемыми.

В речи отмечено, что современные модели не только исполняют команды, но и пишут код, взаимодействуют в сети и принимают решения при снижении человеческого контроля. По словам генсека, существующие институты создавались для управления машинами, которые выполняют команды, и сейчас требуют адаптации. Он использовал метафору «вайб‑кодинг», чтобы описать пассивное отношение к ИИ: «Вайб‑кодинг может творить чудеса. Но мы не можем вайб‑кодить истину. Мы не можем вайб‑кодить будущее человечества.»

Гутерриш также предложил сократить цифровой разрыв через создание глобальной сети обмена и сотрудничества в области ИИ и рекомендации по созданию фонда для поддержки развивающихся стран. По его данным, более 20 государств уже предложили центры для такой сети, задача которой — передача знаний и расширение доступа к высокопроизводительным вычислениям, открытым данным, программному обеспечению и моделям.

В повестке ООН названы вопросы прозрачности и энергопотребления: по оценкам ООН, дата‑центры уже потребляют больше электроэнергии, чем большинство стран, и к 2030 году их потребление может превысить показатели всех государств, кроме пяти. Гутерриш указал на необходимость ответственности разработчиков и регуляторов при создании и внедрении ИИ.

В качестве примера национальных мер он упомянул, что с 15 июля в одной из стран вступят временные правила для сервисов, имитирующих человеческую личность и поддерживающих эмоциональное взаимодействие, и что на фоне новых регуляций некоторые компании начали ограничивать функции пользовательских агентов.

В заключение генсек отметил выбор государств: не между верой в технологии и страхом перед ними, а между осознанным управлением и пассивным дрейфом, призвав выработать международные нормы и ускорить политические решения по ИИ.