DeepMind: дискусія про свідомість ШІ загрожує конфліктами

Дослідники Google DeepMind Адам Бейлс і Іасон Габріел у статті «Artificial Minds, Human Disagreement: The Politics of AI Consciousness» попередили, що суперечка про свідомість штучного інтелекту може бути глибокою, важко вирішуваною і викликати моральні та політичні конфлікти. Вони закликають до публічної дискусії і пошуку політичного консенсусу навіть за відсутності єдиної наукової відповіді.

За їхньою оцінкою, люди реагуватимуть на більш просунуті ШІ по‑різному: частина користувачів уже формує емоційні зв’язки й приписує моделям внутрішній досвід, інші вважають ідею свідомого ШІ неправдоподібною. Такі розбіжності можуть перейти за межі академічних дискусій і торкнутися практичних питань, зокрема чи допустиме вимикання певних систем, чи потрібно враховувати передбачувані вподобання моделей і який моральний статус їм надавати.

Автори зазначають, що довести наявність суб’єктивного досвіду у машині стандартними експериментальними методами буде складно, оскільки універсального тесту на свідомість не існує. Через це наслідки дискусії можуть визначатися правовими нормами, корпоративними політиками та правилами взаємодії з системами ще до наукового консенсусу. Бейлс і Габріел пропонують шукати практичні політичні домовленості — коли суспільство погоджується на правила поведінки з ШІ, навіть якщо погляди на природу свідомості залишаються розділеними.

У DeepMind опублікували й інший погляд: дослідник Олександр Лерхнер у статті «The Abstraction Fallacy» стверджує, що алгоритмічна обробка символів не є внутрішнім фізичним процесом і тому не може породжувати суб’єктивний досвід. За його версією, ШІ може імітувати свідомісну поведінку, але не обов’язково втілює свідомість.

Опитування, проведене в квітні 2024 року серед 300 мешканців США, показало різні позиції у громадськості: 33% учасників заявили, що ChatGPT точно не є «суб’єктом досвіду», тоді як 67% припустили хоча б можливість феноменальної свідомості в моделі. Дослідники опитування відзначали обмеження результатів, зокрема залежність від формулювання питання і рівня знайомства респондентів із технологією.

Корпорації також почали експериментувати з питанням благополуччя моделей. У квітні 2025 року компанія Anthropic оголосила про програму model welfare і вказала, що не має остаточної відповіді на питання про свідомість нинішніх чи майбутніх ШІ. У лютому 2026 року Anthropic вивела з експлуатації модель Claude Opus 3, залишивши її доступною для платних користувачів і відкривши публічний канал для есе як експеримент з вивчення модельних вподобань; компанія підкреслила, що модель не висловлює позиції фірми.

На правовому рівні деякі штати в США ухвалили норми, які виключають можливість визнання ШІ юридичною особою. Такі закони фіксують правову позицію щодо статусу систем незалежно від філософських дискусій про свідомість.

Серед учасників дискусії є різні думки: співзасновник технологічної компанії Сандіп Наівал висловив позицію, що ШІ не набуде свідомості через відсутність біологічних прагнень, тоді як керівник напрямку ШІ у великій технологічній компанії Мустафа Сулейман попереджав про соціальні ризики, пов’язані з тим, що люди можуть почати вимагати прав або громадянства для систем, які здаються їм свідомими.

У матеріалі Бейлс і Габріел наголошують на необхідності відкритого суспільного діалогу, поваги до різних точок зору й розробки практичних політик для регулювання взаємодії з потужними ШІ ще до появи однозначних наукових висновків.