Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

# Вчені DeepMind назвали суперечку про свідомість ШІ політичною проблемою

Майбутні розбіжності щодо свідомості ШІ можуть виявитися глибокими, важко вирішуваними і призвести до політичних конфліктів. До такого висновку дійшли дослідники Google DeepMind Адам Бейлс і Іасон Габріель.

У своїй роботі Artificial Minds, Human Disagreement: The Politics of AI Consciousness автори заявили, що суспільству потрібно обговорювати не лише питання «чи свідомий ШІ», а й як приймати рішення за відсутності громадського і експертного консенсусу.

У чому головний тезис

За думкою дослідників, люди можуть по-різному реагувати на більш просунуті системи ШІ. Одні будуть встановлювати з ними емоційні зв’язки і приписувати їм свідомість, інші вважатимуть саму ідею абсурдною.

Автори вважають, що така суперечка може швидко вийти за межі науки. Розбіжності щодо свідомості штучного інтелекту здатні призвести до моральних і політичних конфліктів — наприклад, навколо того, чи дозволено відключати певні системи, чи потрібно враховувати їх можливі переваги і чи можна говорити про моральний статус ШІ.

Дослідники запропонували робити ставку на громадське обговорення, взаємну повагу і пошук перекриваючогося консенсусу. Під ним вони розуміють ситуацію, коли люди погоджуються на певну політику щодо систем ШІ, навіть якщо продовжують розходитися у фундаментальних поглядах на природу свідомості.

Чому це не лише філософія

Автори вказують, що суперечка про свідомість ШІ може бути важко закрити доказами. Єдиного загальноприйнятого тесту, який остаточно підтвердив би наявність суб’єктивного досвіду у систем ШІ, немає. Через це суспільство може стикнутися з ситуацією, коли технології вже масово використовуються, люди вже формують до них ставлення, а наукового або політичного консенсусу все ще немає.

Такий підхід до питання робить проблему не стільки технічною, скільки інституційною. Питання про свідомість ШІ може торкнутися права, корпоративної відповідальності, норм спілкування з системами і меж морального врахування.

У DeepMind є різні підходи до питання

Робота Бейлса і Габріеля вийшла на тлі іншої публікації, також розміщеної на сторінці Google DeepMind. 10 березня дослідник Александр Лерхнер опублікував статтю The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.

Лерхнер стверджує, що алгоритмічна маніпуляція символами структурно неспроможна створити суб’єктивний досвід. За його версією, обчислення не є внутрішнім фізичним процесом, а являє собою опис, залежний від спостерігача або «творця карти». Тому ШІ може імітувати свідому поведінку, але не обов’язково здатен втілити свідомість.

Що насправді

У квітні 2024 року журнал Neuroscience of Consciousness опублікував роботу Клари Коломбатто і Стівена Флемінга про те, як люди сприймають ChatGPT. Автори опитали 300 мешканців США: 33% учасників заявили, що ChatGPT точно не є «суб’єктом досвіду». Решта 67% допустили хоча б деяку можливість феноменального свідомості у моделі.

Дослідники окремо обговорили обмеження. Учасникам ставили одне основне питання за шкалою від 1 до 100, а результат міг залежати від формулювання, рівня знайомства з ChatGPT і того, як респонденти розуміють саме слово «свідомість». Проте робота показує важливий для Бейлса і Габріеля момент: частина суспільства вже готова приписувати системам ШІ внутрішній досвід, навіть якщо серед експертів немає єдиної позиції.

У квітні 2025 року Anthropic запустила дослідницьку програму щодо model welfare — можливого благополуччя моделей. Компанія підкреслила, що не знає, чи можуть нинішні або майбутні системи ШІ мати свідомість, і що наукового консенсусу з цього питання немає.

У лютому 2026 року Anthropic повідомила, що після виведення Claude Opus 3 з експлуатації залишить модель доступною для платних користувачів і надасть їй публічний канал для есе. Компанія назвала це експериментальною мірою у рамках роботи з модельними перевагами і підкреслила, що Claude Opus 3 не говорить від імені Anthropic.

У США питання про статус ШІ поступово переходить у право. California Law Review зазначав, що Айдахо і Юта прийняли норми, що виключають визнання ШІ юридичним особою. Такі закони не вирішують філософське питання про свідомість. Вони заздалегідь фіксують правову позицію: ШІ не повинен отримувати статус особи у рамках законодавства штату.

Нагадаємо, у березні 2025 року співзасновник Polygon і ІІ-компанії Sentient Сандіп Наівал заявив, що штучний інтелект ніколи не стане свідомою істотою через відсутність прагнень, які притаманні людині і іншим біологічним видам.

Згодом керівник відділу ШІ Microsoft Мустафа Сулейман допустив появу серйозних соціальних ризиків через те, що люди почнуть сприймати штучний інтелект як свідому істоту, виступати за його права, добробут і навіть закликати до надання громадянства.