Експерти закликають бути обережними у розробці свідомих систем штучного інтелекту

Більше ніж 100 експертів із галузі штучного інтелекту, серед них Сем Стівен Фрай, звернулися з закликом до відповідального дослідження свідомості ШІ. Вони підкреслюють необхідність запобігти потенційним стражданням у системах ШІ, якщо вони досягнуть самосвідомості.

П’ять керівних принципів для досліджень свідомості ШІ

Підписанти пропонують п’ять принципів, щоб спрямовувати етичний розвиток свідомих систем ШІ:

2.      

**Пріоритет дослідження свідомості ШІ:** Сфокусуйтеся на розумінні та оцінюванні свідомості в ШІ, щоб запобігти зловживанням і стражданням.

    
4.      

**Упроваджуйте обмеження в розробці:** Встановіть чіткі межі, щоб гарантувати відповідальний розвиток свідомих систем ШІ.

    
6.      

**Застосовуйте поетапний підхід:** Рухайтеся поступово у створенні свідомих систем ШІ, дозволяючи ретельну оцінку на кожному етапі.

    
8.      

**Сприяйте публічній прозорості:** Публікуйте результати досліджень для того, щоб сприяти поінформованій дискусії та етичному нагляду.

    
10.      
 
 **Уникайте перебільшених заяв:** Утримайтеся від введення в оману або надто самовпевнених тверджень щодо створення свідомого ШІ.

Ці принципи спрямовані на те, щоб у міру прогресу технологій ШІ етичні міркування залишалися на передньому плані.

Потенційні ризики свідомого ШІ

У супровідній науковій роботі висвітлюється можливість того, що системи ШІ можуть бути розроблені так, щоб мати, або виглядати так, ніби вони мають, свідомість у найближчому майбутньому. Це викликає занепокоєння щодо етичного ставлення до таких систем.

Дослідники застерігають, що без належних вказівок існує ризик створення свідомих істот, здатних відчувати страждання.

У роботі також розглядається проблема визначення свідомості в системах ШІ, визнаючи триваючі дискусії та невизначеності. Вона підкреслює важливість установлення керівних принципів, щоб запобігти ненавмисному створенню свідомих істот.

Дізнайтеся про топові новини та події в фінтеху!

Підпишіться на розсилку FinTech Weekly

Етичні міркування та майбутні наслідки

Якщо систему ШІ визнають “моральним пацієнтом” — істотою, яка має моральне значення сама по собі, — виникають етичні питання щодо її ставлення.

Наприклад, чи було б вимикання такого ШІ порівнянним із заподіянням шкоди істоті, що відчуває? Ці міркування підкреслюють необхідність етичних рамок для керування розвитком ШІ.

Роботу та лист було організовано Conscium — дослідницькою організацією, співзасновником якої є головний директор з питань ШІ WPP Деніел Халм. Conscium зосереджується на поглибленні розуміння побудови безпечного ШІ, який приносить користь людству.

Експертні погляди щодо сенситивності ШІ

Питання досягнення ШІ свідомості є темою дискусій серед експертів.

У 2023 році сер Деміс Гассабіс, керівник програми ШІ Google, заявив, що хоча нинішні системи ШІ не є сенситивними, є можливість, що в майбутньому вони можуть стати такими. Він зазначив, що філософи ще не дійшли згоди щодо визначення свідомості, але потенціал того, що ШІ розвине самосвідомість, залишається предметом розгляду.

Висновок

Перспектива розробки свідомих систем потребує ретельного етичного осмислення. Відкритий лист і супровідна наукова робота слугують закликом до дії для спільноти ШІ: пріоритезувати відповідальні дослідження та практики розробки.

Дотримуючись запропонованих принципів, дослідники та розробники можуть рухатися до того, щоб прогрес у ШІ відбувався етично — із фокусом на запобіганні потенційним стражданням у свідомих системах ШІ.