Экс‑исследователь OpenAI предложил паузу в гонке ИИ до 2040

Дэниел Кокотайло и основанная им организация AI Futures Project представили документ AI 2040: Plan A. В нём описан план международной паузы в гонке за сверхинтеллектом и поэтапного замедления развития ИИ до 2040 года с набором мер для контроля и верификации.

В сценарии описана хронология: к 2029 году США и Китай должны заключить соглашение об отказе от скоростной гонки за сверхинтеллектом. Без такого соглашения автоматизация разработки и масштабные обучающие прогоны, по оценке авторов, могли бы начаться уже в 2030 году. До 2035 года развитие платформ остаётся на уровне, сопоставимом с лучшими человеческими экспертами; затем вводится пауза, чтобы сохранить человеческий надзор. В 2040 году паузу планируют снять при условии соблюдения установленных правил.

Plan A опирается на четыре принципа: дать время для исследований безопасности, обеспечить публичную прозрачность разработок, распределить вычислительные мощности между разными организациями и сохранить возможность обратимости решений. Для проверки соблюдения соглашения документ предлагает механизмы верификации и мониторинга.

Система верификации включает наблюдаемость дата‑центров из космоса, публичное декларирование закупок специализированных чипов и датчики, фиксирующие отсутствие новых обучающих прогонов. Исследования и результаты экспериментов по замыслу авторов должны быть доступны для проверки другими странами и компаниями. В документе также описан механизм, названный «взаимно гарантированное уничтожение вычислительных мощностей», сопоставимый по логике с ядерным сдерживанием: новые вычислительные центры по соглашению размещаются в местах, к которым соперник имеет лёгкий доступ, чтобы в случае нарушения их можно было быстро нейтрализовать.

Авторы указывают, что при срыве соглашения принимающая сторона может попытаться захватить чужие мощности на своей территории, а владелец — уничтожить их, чтобы они не достались противнику. В тексте приведён пример размещения: китайские мощности — в Канаде, а американские — в Монголии.

Документ содержит экономические оценки. По расчётам AI Futures Project, мировые вычислительные ресурсы вырастут с эквивалента 20 млн H100 в 2026 году до 60 млрд к 2034 году. Авторы прогнозируют периоды реального роста ВВП США до 50% в год в отдельные годы 2030‑х, тогда как обычный рост составляет примерно 3%. Одновременно предполагается резкое сокращение занятости: доля занятых в США, по оценкам проекта, упадёт с 62% в 2027 году до 12% к 2040 году.

В качестве компенсации потерь рабочих мест документ предлагает введение «гражданских дивидендов» — регулярных выплат каждому взрослому, финансируемых за счёт сборов с компаний за разрешения на вычисления и эксплуатацию роботов. Приведённые оценки дивидендов: $45 000 на человека в 2032 году, $1 000 000 в 2035 году и $10 000 000 в 2039 году.

Авторы также описали четыре альтернативных сценария развития событий. Сценарий B предполагает создание коалиции, давление на Китай, включая кибератаки и удары по ИИ‑объектам, что может привести к потере контроля над ИИ или к вооружённому конфликту. Сценарий C предусматривает попытки внутреннего регулирования и временную паузу, которая затем быстро снимается под давлением корпораций, что ведёт к концентрации власти у узкой элиты. Сценарий D — минимальное регулирование и открытая гонка — связан с рисками потери контроля, концентрации власти и возможного крупномасштабного конфликта. План S предлагает бессрочную остановку передовых разработок; авторы считают, что такая сделка со временем может распасться.

Документ AI 2040: Plan A опубликован на фоне предыдущих прогнозов команды. В прогнозе AI 2027 авторы оценивали вероятность катастрофических исходов, включая риск массового вымирания или установления диктатуры, в диапазоне 10–30%. Дэниел Кокотайло покинул OpenAI в апреле 2024 года из‑за разногласий по вопросам безопасности и в 2025 году основал AI Futures Project, которая продолжает публиковать прогнозы и рекомендации по управлению рисками, связанными с развитием ИИ.