Хассабис предложил проверять передовые ИИ‑модели перед выпуском

Глава Google DeepMind Демис Хассабис предложил создать в США независимую организацию Frontier AI Standards Body для проверки наиболее мощных искусственных интеллект‑моделей до их выпуска. Организация должна оценивать риски и подтверждать, что системы безопасны для общественного использования.

По предложению Хассабиса структура может работать как государственно‑частное партнерство или как саморегулируемая организация под федеральным надзором. Финансирование в основном должна обеспечивать ИИ‑индустрия. В руководство предлагается включить независимых технических экспертов и представителей сообществ с открытым исходным кодом.

Орган планируется взаимодействовать с федеральными ведомствами и национальными лабораториями США при разработке протоколов оценки. Специальные тесты должны устанавливать, относится ли модель к «передовому классу», и выявлять риски в областях кибербезопасности, биологии, ядерной безопасности и других зонах повышенного риска. Отдельные проверки предназначены для выявления попыток обхода защит, намеренного введения в заблуждение пользователей и скрытия действий модели.

На начальном этапе компании будут приглашаться добровольно передавать передовые модели на проверку не позднее чем за 30 дней до релиза. После тестовой фазы Хассабис предлагает закрепить процедуру в законе: в этом случае выпуск моделей на американский рынок будет возможен только после успешной оценки. Он также выступил за создание рынка независимых аудиторов и за использование американской системы как основы для международных стандартов.

В эссе Хассабис написал: «Когда мы оглянемся на это время в предстоящие десятилетия, я думаю, мы поймем, что мы стояли у подножия сингулярности — не что иное, как начало новой эры для человечества». Под AGI он понимает систему, обладающую всеми когнитивными способностями человеческого мозга. По его оценке, такой общий искусственный интеллект может появиться «через несколько лет».

Хассабис указал, что современные передовые модели уже создают угрозы в сфере кибербезопасности. По мере повышения их возможностей могут усилиться биологические, ядерные и другие риски. Он предупреждает о появлении более автономных систем, способных выполнять сложные последовательности действий и рекурсивно совершенствоваться, и пишет, что для сохранения контроля потребуются дополнительные технические меры защиты.

Предложение Хассабиса появилось на фоне действий правительства США: в июне подписан указ о добровольной проверке кибервозможностей передовых ИИ‑моделей с возможностью предоставления доступа властям на срок до 30 дней перед передачей внешним доверенным партнерам. Документ прямо запрещает трактовать этот механизм как обязательное лицензирование или предварительное разрешение на выпуск моделей. Администрация также просила одну из крупных компаний не распространять новую версию модели в широкий доступ и та сначала предоставила её ограниченному числу клиентов.

Международные и общественные реакции также усилились: генеральный секретарь ООН призвал к введению общих правил для передовых ИИ‑систем, защите детей от рисков чат‑ботов, запрету летальных автономных вооружений и расширению доступа развивающихся стран к вычислительным ресурсам. В июле участники марша в Сан‑Франциско требовали от крупнейших разработчиков приостановить обучение более мощных моделей и направить ресурсы на безопасность; отдельные эксперты предложили ввести мораторий на разработку новых поколений моделей до более позднего срока.

Хассабис признаёт, что сроки и траектории развития технологий остаются неопределёнными и среди специалистов существуют разные мнения о ближайшем будущем ИИ.