Пауза для ИИ: защита от рисков или барьер для конкурентов?

Открытое письмо опубликовал некоммерческий Future of Life Institute 22 марта 2023 года, вскоре после выпуска GPT-4 компанией OpenAI. Авторы предложили временно остановить обучение систем, превосходящих GPT-4 по возможностям, если для них нельзя обеспечить надежные меры безопасности.

Документ подписали более 1 000 специалистов и руководителей технологических компаний. Среди них были Илон Маск, сооснователь Apple Стив Возняк и исследователь искусственного интеллекта Йошуа Бенджио. Авторы письма указали, что лаборатории конкурируют в разработке систем, поведение которых разработчики не всегда могут контролировать или предсказать.

Период паузы предлагалось использовать для создания общих протоколов безопасности, независимых проверок и государственных правил для передовых моделей. Разработчикам также рекомендовали прекращать обучение системы, если они не могут подтвердить, что ее поведение не представляет серьезной угрозы.

В письме перечислялись возможные риски, включая распространение дезинформации, автоматизацию рабочих задач, создание вредоносного программного кода и использование ИИ для массового влияния на общественное мнение. Авторы не призывали останавливать исследования искусственного интеллекта или прекращать использование уже выпущенных продуктов.

Инициативу поддержала часть ученых и предпринимателей. Другие специалисты указали, что срок и условия паузы сформулированы неясно. Вопросы также вызвали критерии, по которым можно определить, какие модели мощнее GPT-4, и порядок контроля за компаниями, которые не присоединятся к мораторию.

Критики предупреждали, что ограничение может повысить порог входа на рынок. Крупные разработчики располагают большими вычислительными ресурсами, готовыми продуктами и доступом к данным. Им было бы проще возобновить исследования после окончания паузы, чем небольшим лабораториям.

На момент публикации письма единых международных норм для передовых систем ИИ не существовало. Компании самостоятельно устанавливали правила тестирования и ограничения для моделей, а государственные органы разных стран обсуждали регулирование генеративного ИИ.