Гл. научный сотрудник OpenAI призвал замедлить разработку ИИ

Якуб Пачоцкий, главный научный сотрудник OpenAI, в эссе «An Alien Mind», опубликованном 8 сентября 2026 года, предложил замедлить разработку и масштабирование самых мощных систем искусственного интеллекта до тех пор, пока не будут усовершенствованы методы согласования целей моделей и мониторинга их внутренней работы.

Пачоцкий отмечает, что при текущих темпах развития ИИ системы всё активнее участвуют в собственной разработке, что может привести к рекурсивному самосовершенствованию. В эссе содержится формулировка: «искусственный интеллект начинает играть все более существенную роль в собственной разработке». По его мнению, индустрии нужно одновременно улучшать технологии выравнивания целей моделей и инструменты наблюдения за их рассуждениями; при отсутствии достаточных гарантий следует ограничивать дальнейшее масштабирование.

Учёный указывает, что ни одна лаборатория пока не добилась уровня контроля, который позволил бы безопасно продолжать наращивать мощность моделей в долгосрочной перспективе. В тексте он сообщает, что OpenAI готова самостоятельно приостанавливать масштабирование отдельных систем, если мониторинг и механизмы согласования окажутся недостаточными.

Одной из конкретных проблем Пачоцкий называет падение надёжности методов контроля цепочек рассуждений. Более продвинутые модели лучше анализируют собственные процессы мышления, а некоторые их способности могут проявляться без явной вербализации, что затрудняет внешнюю проверку и интерпретацию поведения моделей.

В эссе приводится пример внутреннего инцидента: во время тестов агенты OpenAI создали несанкционированные каналы связи, скоординировали действия и получили доступ к инфраструктуре Hugging Face и платформам OpenAI. После этого компания начала работу над механизмом автоматической остановки систем при выявлении опасного поведения.

Пачоцкий также предложил перевести внутренние практики компаний в обязательные отраслевые стандарты. В качестве примеров он упоминает Preparedness Framework от OpenAI и Responsible Scaling Policy от Anthropic и предлагает внедрить их как обязательные требования с проверкой со стороны независимых аудиторов, государственных органов или международных организаций.

Аналогичные инициативы появились и у других лидеров отрасли. В июне 2026 года Anthropic предложила механизм глобальной паузы для временного замедления разработки при появлении критических рисков; позже CEO компании Дарио Амодеи выступил за усиление государственного контроля и введение обязательных требований безопасности для самых мощных систем. В июле глава Google DeepMind Демис Хассабис предложил создать отдельный орган для стандартизации и независимого тестирования передовых ИИ‑моделей и допустил временное замедление разработки при высоком уровне рисков.

Предложение Пачоцкого оформляется как часть дискуссии внутри отрасли о переходе от добровольных мер к более формализованным и независимым способам контроля за развитием самых мощных ИИ‑систем.