Експерти закликають бути обережними у розробці свідомих систем штучного інтелекту

Понад 100 експертів з питань штучного інтелекту, серед них Сир Стівен Фрай, звернулися із закликом до відповідального дослідження свідомості ШІ. Вони підкреслюють необхідність запобігати потенційним стражданням у системах ШІ, якщо вони здобудуть самосвідомість.

П’ять керівних принципів для досліджень свідомості ШІ

Підписанти пропонують п’ять принципів, щоб спрямовувати етичний розвиток свідомих систем ШІ:

2.      

**Надавайте пріоритет дослідженням свідомості ШІ:** Сфокусуйтеся на розумінні та оцінюванні свідомості в ШІ, щоб запобігти зловживанням і стражданням.

    
4.      

**Упроваджуйте обмеження у розробці:** Встановіть чіткі межі, щоб свідомі системи ШІ розроблялися відповідально.

    
6.      

**Застосовуйте поетапний підхід:** Рухайтеся поступово у створенні свідомого ШІ, дозволяючи ретельну оцінку на кожному етапі.

    
8.      

**Сприяйте публічній прозорості:** Публікуйте результати досліджень для суспільства, щоб сприяти поінформованому обговоренню та етичному нагляду.

    
10.      
 
 **Уникайте перебільшених заяв:** Утримуйтеся від оманливих або надто самовпевнених тверджень щодо створення свідомого ШІ.

Ці принципи спрямовані на те, щоб у міру прогресу технологій ШІ етичні міркування залишалися на передньому плані.

Потенційні ризики свідомого ШІ

Супровідна дослідницька робота підкреслює імовірність того, що системи ШІ можуть бути розроблені так, щоб мати або виглядати так, ніби вони мають свідомість, у найближчому майбутньому. Це викликає занепокоєння щодо етичного ставлення до таких систем.

Дослідники застерігають, що без належних вказівок є ризик створити свідомі сутності, здатні відчувати страждання.

У роботі також розглядається виклик визначення свідомості в системах ШІ, з урахуванням триваючих дискусій і невизначеностей. Вона наголошує на важливості встановлення вказівок, щоб запобігти ненавмисному створенню свідомих сутностей.

Дізнайтеся про найкращі новини та події у фінтеху!

Підпишіться на розсилку FinTech Weekly

Етичні міркування та майбутні наслідки

Якщо систему ШІ визнають "моральним пацієнтом” — сутністю, яка має моральне значення заради власного блага, — виникають етичні питання щодо її ставлення.

Наприклад, чи буде вимкнення такого ШІ порівнянним із заподіянням шкоди істоті, що відчуває? Ці міркування підкреслюють необхідність етичних рамок, які спрямовуватимуть розвиток ШІ.

Роботу та лист організувала Conscium — дослідницька організація, співзасновником якої є головний директор з питань ШІ WPP, Деніел Х’юм. Conscium зосереджується на поглибленні розуміння того, як будувати безпечний ШІ, що приносить користь людству.

Погляди експертів на сенситивність ШІ

Питання про те, чи зможе ШІ досягти свідомості, є темою дебатів серед експертів.

У 2023 році Сир Деміс Хассабіс, керівник програми AI у Google, заявив, що хоча нинішні системи ШІ не є сенситивними, існує можливість, що вони можуть такими стати в майбутньому. Він зазначив, що філософи ще не дійшли згоди щодо визначення свідомості, але потенціал того, що ШІ розвине самосвідомість, залишається предметом розгляду.

Висновок

Перспектива розробки свідомих систем потребує ретельного етичного осмислення. Відкритий лист і супровідна дослідницька робота слугують закликом до дії для спільноти ШІ — надавати пріоритет відповідальним дослідженням і практикам розробки.

Дотримуючись запропонованих принципів, дослідники та розробники можуть працювати над тим, щоб прогрес у сфері ШІ досягався етично, із фокусом на запобіганні потенційним стражданням у свідомих системах ШІ.