Маск: контроль над ИИ может исчезнуть за 10 лет

В недавнем интервью главному редактору Зэнни Минтон Беддос Илон Маск заявил, что искусственный интеллект может превзойти совокупный интеллект человечества примерно за пять лет, а люди, вероятно, утратят над ним контроль в течение десяти лет.

По его оценке, со временем ИИ сможет выполнять почти все интеллектуальные задачи лучше человека. В ходе беседы он привёл фразу: “На самом деле не останется ничего, что ИИ не сможет делать лучше людей, кроме, возможно, того, чтобы быть человеком”.

Маск назвал одним из вероятных сценариев так называемую “эпоху изобилия”, при которой ИИ и роботы обеспечат людей большинством товаров и услуг. Он привязал этот сценарий к горизонту 2036 года и одновременно отметил, что риск катастрофических исходов не равен нулю; ранее он оценивал вероятность гибели человечества из‑за ИИ и робототехники в 10–20%.

Остановить развитие технологий он не считает реалистичной задачей. Вместо попыток заморозить разработки Маск предложил механизмы взаимной проверки: ведущие ИИ‑компании должны регулярно обсуждать вопросы безопасности и до публичного релиза предоставлять конкурентам ограниченный доступ к новым передовым моделям, чтобы выявлять потенциально опасные способности систем.

Если компании не устранить серьёзные риски, по его словам, в работу должны вмешаться государственные регуляторы. По аналогичной идее ранее выступал и глава одной из ведущих лабораторий по разработке ИИ.

Маск также критиковал преобразование OpenAI из некоммерческой организации в коммерческую структуру и руководителя этой организации, утверждая, что проект отклонялся от первоначальной миссии открытости. О главе другой крупной лаборатории, Дарио Амодеи, он высказался мягче, назвав его принципиальным человеком и подчеркнув необходимость сотрудничества по вопросам безопасности даже между конкурентами.

Ранее Маск подавал иск против руководства OpenAI и Microsoft, утверждая об отходе от некоммерческих принципов; в мае федеральный суд в Окленде отклонил иск из‑за пропуска срока подачи и присяжные поддержали ответчиков по вопросу сроков.

В качестве контекста Маск упомянул оценки других специалистов: ряд исследователей предупреждал о рисках сверхразумного ИИ, некоторые деятели технического сообщества называли такую технологию потенциально катастрофической, тогда как другие указывали на отсутствие экономических стимулов у ИИ к уничтожению человечества.

В заключение он предложил сочетать открытое обсуждение рисков между компаниями с регуляторным контролем в случае неадекватной реакции отрасли, при этом сохранив уверенность в материальных преимуществах технологий для людей.