DeepMind: спор о сознании ИИ может стать политическим

Исследователи Google DeepMind Адам Бейлс и Иасон Габриэль в работе Artificial Minds, Human Disagreement: The Politics of AI Consciousness предупреждают, что споры о наличии сознания у ИИ могут быть глубокими и трудноразрешимыми. Они предлагают обсуждать не только сам вопрос о сознании, но и правила принятия решений в отсутствии общественного и экспертного согласия.

В документе отмечается, что общество может по‑разному реагировать на продвинутые ИИ‑системы: часть людей станет выстраивать с ними эмоциональные связи и приписывать внутренний опыт, другие сочтут такую идею неправдоподобной. Авторы указывают, что такие разногласия способны перерасти в практические споры о допустимости отключения систем, учёте их предпочтений и о присвоении морального статуса.

В работе подчёркивается отсутствие единого теста, который окончательно подтвердил бы наличие субъективного опыта у машины. Из‑за этого технологии могут широко распространиться, а общественное отношение к ним сформироваться до появления научного или политического консенсуса. По мнению авторов, это переводит обсуждение из чисто философской плоскости в институциональную: в него вовлечены право, корпоративная ответственность и правила взаимодействия с системами.

В марте исследователь Александр Лерхнер представил аргументы, что алгоритмическая обработка символов может имитировать поведение сознательного агента, но не порождать феноменальный опыт. Этот подход противопоставляется идее, что поведение системы может свидетельствовать о внутреннем переживании.

Данные общественных опросов показывают разнообразие мнений. В одном опросе 300 жителей США треть респондентов считала, что крупные языковые модели «точно не» обладают субъективным опытом; остальные допускали такую возможность. Авторы опроса отмечали ограничения методики: формулировки вопросов, уровень знакомства респондентов с моделями и понимание термина «сознание» влияют на ответы.

Некоторые компании уже вводят внутренние практики в условиях неопределённости. В апреле 2025 года одна из компаний объявила программу исследований model welfare, заявив о неясности научного консенсуса по вопросу сознания моделей. В феврале 2026 года та же компания сообщила о планах сохранить доступ к модели Claude Opus 3 для платных пользователей и открыть у неё публичный канал для эссе как эксперимент по работе с возможными модельными предпочтениями.

На правовом уровне отдельные штаты США приняли нормы, исключающие признание ИИ юридическими лицами. Такие законы закрепляют правовую позицию, но не отвечают на философские вопросы о природе сознания.

В технологическом сообществе звучат разные позиции. Один из основателей нескольких проектов в блокчейн‑и ИИ‑сфере утверждает, что ИИ не станет сознательным из‑за отсутствия присущих биологическим видам стремлений. Представитель крупной ИТ‑компании выражает опасение социальных рисков, если люди начнут воспринимать ИИ как сознательных существ и требовать для них прав или учёта благополучия.

Авторы DeepMind предлагают развивать общественный диалог и разрабатывать политики, которые можно применять независимо от окончательного научного ответа на вопрос о природе искусственного сознания.