Експерти закликають обережно підходити до розробки свідомих систем штучного інтелекту

Більше 100 експертів у галузі штучного інтелекту, серед яких сер Стефен Фрай, закликали до відповідального дослідження свідомості ШІ. Вони наголошують на необхідності запобігти потенційним стражданням у системах ШІ у разі досягнення ними самосвідомості.

П’ять керівних принципів дослідження свідомості ШІ

Підписанти пропонують п’ять принципів для керівництва етичним розвитком свідомих систем ШІ:

2.      

**Пріоритетне дослідження свідомості ШІ:** Зосередитися на розумінні та оцінці свідомості в ШІ, щоб запобігти неправильному ставленню та стражданням.

    
4.      

**Впровадження обмежень у розвиток:** Встановити чіткі межі для відповідального розвитку свідомих систем ШІ.

    
6.      

**Застосовувати поетапний підхід:** Поступово просуватися у розвитку свідомого ШІ, дозволяючи ретельно оцінювати кожен етап.

    
8.      

**Заохочувати публічну прозорість:** Ділитися результатами досліджень із громадськістю для сприяння обізнаній дискусії та етичному нагляду.

    
10.      
 
 **Уникати перебільшених заяв:** Утримуватися від створення оманливих або надмірно впевнених заяв щодо створення свідомого ШІ.

Ці принципи спрямовані на те, щоб у міру розвитку технологій ШІ етичні питання залишалися в центрі уваги.

Можливі ризики свідомого ШІ

Додатний дослідницький документ підкреслює можливість того, що системи ШІ можуть бути розроблені для володіння або імітації свідомості у найближчому майбутньому. Це викликає занепокоєння щодо етичного ставлення до таких систем.

Дослідники застерігають, що без належних керівних принципів існує ризик створення свідомих сутностей, здатних зазнавати страждань.

У документі також порушується питання визначення свідомості в системах ШІ, визнаючи тривалі дебати та невизначеності. Він підкреслює важливість встановлення керівних принципів для запобігання випадковому створенню свідомих сутностей.

Дізнайтеся про найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Етичні міркування та майбутні наслідки

Якщо систему ШІ визнають “моральним пацієнтом” — сутністю, яка має моральне значення сама по собі — виникають етичні питання щодо її ставлення.

Наприклад, чи буде відключення такої системи ШІ порівнянним із заподіянням шкоди відчуваючій істоті? Ці міркування підкреслюють необхідність етичних рамок для керівництва розвитком ШІ.

Документ і лист були організовані Conscium, дослідницькою організацією, співзаснованою головним офіцером з ШІ WPP, Деніелом Хулмом. Conscium зосереджена на поглибленні розуміння створення безпечного ШІ, що приносить користь людству.

Перспективи експертів щодо свідомості ШІ

Питання досягнення свідомості ШІ є предметом дебатів серед експертів.

У 2023 році сер Деміс Хассабіс, керівник програми ШІ Google, заявив, що хоча поточні системи ШІ не є відчуваючими, існує можливість, що вони можуть стати такими у майбутньому. Він зазначив, що філософи ще не дійшли згоди щодо визначення свідомості, але потенціал для розвитку самосвідомості у ШІ залишається предметом розгляду.

Висновок

Можливість створення свідомих систем вимагає ретельного етичного обґрунтування. Відкрите листування та супровідний дослідницький документ є закликом до спільноти ШІ діяти відповідально у дослідженнях і розробках.

Дотримуючись запропонованих принципів, дослідники та розробники можуть працювати над тим, щоб досягнення у сфері ШІ були етичними, з особливою увагою до запобігання потенційним стражданням у свідомих системах.