Експерти закликають бути обережними у розробці свідомих систем штучного інтелекту

Понад 100 експертів із штучного інтелекту, серед них Сір Стівен Фрай, закликали до відповідальних досліджень штучного інтелекту щодо свідомості. Вони наголошують на необхідності запобігти потенційним стражданням в системах ШІ, якщо вони досягнуть самосвідомості.

П’ять керівних принципів досліджень свідомості в ШІ

Підписанти пропонують п’ять принципів, щоб спрямовувати етичний розвиток свідомих систем штучного інтелекту:

2.      

**Пріоритезуйте дослідження свідомості в ШІ:** Зосередьтеся на розумінні та оцінюванні свідомості в ШІ, щоб запобігти знущанню та стражданням.

    
4.      

**Запровадьте обмеження в розробці:** Встановіть чіткі межі, щоб свідомі системи ШІ розроблялися відповідально.

    
6.      

**Застосовуйте поетапний підхід:** Рухайтеся поступово в розвитку свідомого ШІ, дозволяючи ретельне оцінювання на кожному етапі.

    
8.      

**Сприяйте публічній прозорості:** Публікуйте результати досліджень для громадськості, щоб сприяти поінформованому обговоренню та етичному нагляду.

    
10.      
 
 **Уникайте перебільшених заяв:** Уникайте оманливих або надто самовпевнених тверджень щодо створення свідомого ШІ.

Ці принципи спрямовані на те, щоб у міру просування технологій ШІ етичні міркування залишалися на передньому плані.

Потенційні ризики свідомого ШІ

Дотична наукова робота підкреслює можливість того, що системи ШІ можуть бути розроблені так, щоб мати, або виглядати так, ніби вони мають, свідомість у найближчому майбутньому. Це викликає занепокоєння щодо етичного ставлення до таких систем.

Дослідники застерігають, що без належних настанов існує ризик створення свідомих істот, здатних переживати страждання.

У статті також розглядається виклик визначення свідомості в системах ШІ, визнаючи триваючі дискусії та невизначеності. Вона підкреслює важливість розроблення настанов, щоб запобігти ненавмисному створенню свідомих істот.

Дізнайтеся про топ-новини та події з фінтеху!

Підпишіться на розсилку FinTech Weekly

Етичні міркування та майбутні наслідки

Якщо систему ШІ визнають як “морального пацієнта” — сутність, яка має моральну цінність сама по собі — виникають етичні питання щодо її поводження.

Наприклад, чи буде вимкнення такого ШІ порівнюваним із завданням шкоди істоті, що відчуває? Ці міркування підкреслюють необхідність етичних рамок, які б спрямовували розробку ШІ.

Статтю та лист організувала Conscium — дослідницька організація, співзасновником якої є головний директор з питань ШІ компанії WPP, Деніел Галм. Conscium фокусується на поглибленні розуміння того, як будувати безпечний ШІ, що приносить користь людству.

Погляди експертів на сентиєнтність ШІ

Питання досягнення ШІ свідомості є темою дебатів серед експертів.

У 2023 році Сір Деміс Хассабіс, керівник програми ШІ у Google, заявив, що хоча нинішні системи ШІ не є сентиєнтними, існує можливість, що вони можуть стати такими в майбутньому. Він зазначив, що філософи ще не дійшли згоди щодо визначення свідомості, але потенціал для того, щоб ШІ розвивав самосвідомість, залишається предметом розгляду.

Висновок

Перспектива розвитку свідомих систем потребує уважного етичного осмислення. Відкритий лист і супровідна наукова робота слугують закликом до дії для спільноти ШІ — пріоритезувати відповідальні дослідження та практики розробки.

Дотримуючись запропонованих принципів, дослідники та розробники можуть рухатися до того, щоб досягнення в ШІ реалізовувалися етично — із фокусом на запобігання потенційним стражданням у свідомих системах ШІ.