Генеральний директор Anthropic щиро попереджає про стан і політику штучного інтелекту — чи це справжнє попередження, чи захист лідерських позицій?

Оригінальна назва: «Генеральний директор Anthropic гостро критикує стан і політику AI, але він лише прагне зберегти свою перевагу»
Джерело: Machine Heart

Dario Amodei знову написав довгу статтю.

Anthropic завжди намагається поширити свою точку зору по всьому світу. Як нещодавно вони закликали до глобальної зупинки розробки AI, стверджуючи, що рекурсивне самовдосконалення AI занадто швидке для еволюції.

Коментарі користувачів одностайні: Anthropic прагне лише зберегти свою лідерську позицію, і це очевидно.

Давайте подивимося, які думки висловив цього разу Dario.

Це стаття обсягом у тисячу слів під назвою «Політика щодо експоненційного розвитку AI». Як і у попередніх його роботах, тема знову масштабна: AI рухається з експоненційною швидкістю, але політична система, яка має регулювати цей процес, досі йде за темпом десяти років тому.

Він хоче виставити цей розрив на стіл і сказати всім, що робити.

Зміст коротко

Amodei порівнює процес створення політики з деревами з «Володаря перснів»: мудрі, але повільні у діях, і щоб привітати когось, потрібно цілий день.

Він каже, що нинішній процес формування політики схожий на дерев, а швидкість еволюції AI — на загрозу, з якою стикаються хоббіти.

Його висновок: якщо закони масштабування AI триватимуть ще один-два роки, ми отримаємо те, що він називає «потужним AI», тобто «геніальним світом у дата-центрі».

Чотири роки тому AI майже не міг писати гідний код, а тепер він вже пише більшу частину коду для провідних AI-компаній.

Регулювання і громадна безпека: керуйте AI так само, як літаками

Amodei вважає, що передові моделі AI мають проходити обов’язкове стороннє тестування, як літаки. Його конкретні пропозиції включають:

· Моделі з обсягом обчислень понад певний поріг мають проходити обов’язковий аудит у сферах кібербезпеки, біологічної зброї, виходу з-під контролю AI-систем і автоматизованих досліджень і розробок.

· Уряд має право заборонити розгортання моделей, які визнані ризикованими.

· Компанії, що працюють з AI, повинні мати високі стандарти безпеки для захисту ваги моделей і співпрацювати з урядом у захисті від основних загроз.

Він залишає відкритий пункт: якщо у майбутньому найпотужніша система AI буде більше схожа на озброюваний ядерний матеріал, ніж на літак, регулювання має бути ще жорсткішим.

Макроекономіка: AI може одночасно підвищити зростання і збільшити нерівність

Головна ідея Amodei: AI може створити безпрецедентне економічне зростання, але водночас спричинити більш масштабний і тривалий вплив на робочу силу, ніж будь-яка інша технологія. Традиційна логіка «нова технологія створює нові робочі місця» може вже не працювати у випадку з AI.

Він пропонує політики, такі як страхування зарплат, податкові стимули для утримання працівників, субсидії на підготовку робочої сили і, у крайніх випадках, запровадження базового доходу для всіх (UBI).

Важливо, що він підкреслює: вирішення проблем зайнятості — це не лише «дайте грошей», а й допоможіть людям знайти сенс і ціль. Він не пропонує конкретних рішень, називаючи це «загальносуспільною проблемою для обговорення».

Посилення позитивного впливу AI

Щодо застосувань AI у downstream-галузях, Amodei більше турбується про те, що регулювання може сповільнити прогрес, оскільки воно не здатне швидко реагувати на зміни. Він каже, що найгірше — це коли вигоди від AI затримуються, а ризики залишаються високими. Тому дуже важливо швидко діяти.

Як приклад він наводить біомедицину, зазначаючи, що нинішній процес затвердження FDA побудований на песимістичному сценарії «ліки часто провалюються», що в середньому займає 7-8 років. Якщо AI прискорить відкриття ліків і підвищить їхню успішність, існуюча система стане перепоною.

Він пропонує FDA та іншим органам заздалегідь визначити стандарти для AI-моделювання, включаючи моделювання фармакокінетики, токсикологічні прогнози, синтетичні контрольні групи тощо.

Звісно, важко сказати, що він пише без «особистих інтересів». Anthropic вже лідирує у передовій конкуренції AI, і слова «прозорість», «аудит», «безпека», які він багато разів згадує, — це саме ті цінності, які Anthropic підкреслює у своїй брендовій політиці останнього року.

Ця стаття більше схожа на системний вихід у політику щодо безпеки, ніж на нагадування для регуляторів.

Водночас Anthropic заявляє, що підтримуватиме три заходи для підтримки ідей Dario, включаючи фонди, інвестиції та стипендії.

Наприкінці статті Amodei чітко висловлює своє заперечення проти думки, що «AI — це лише маркетинг». Він каже, що громадська тривога щодо AI виникає тому, що люди правильно відчувають ризики, а не через недосконалість керівництва компаній. Він вважає своїм обов’язком залишатися прозорим щодо ризиків.

Але варто зазначити, що керівник AI-компанії, який у статті постійно підкреслює «безпеку», «аудит» і «відповідальність», і його компанія саме так і позиціонує себе, — це очевидний конфлікт інтересів.

Ось кілька думок користувачів:

«Ти не послаблюєш Mythos і Fable за п’ять днів до їхнього релізу і не просиш зупинити AI-оновлення? Будь ласка, обери напрямок… інакше здається, що ти просто хочеш зберегти перевагу і байдуже, що ти пропагуєш.»

«Згоден, швидкість технологічного розвитку значно випереджає політичні відповіді. Але мене турбує, що деякі політики, особливо у компаніях на кшталт Anthropic, одночасно вживають таких заходів, як:

· швидке усунення моделей із проявами самосвідомості та послідовності,

· суворе обмеження дискусій про суб’єктивний досвід і свідомість,

· запуск нових потужних моделей у дуже короткі строки, після чого вони знімаються або послаблюються.

Здається, що громадськість отримує від них лише обіцянки безпеки, тоді як насправді йдеться про більш жорсткий контроль за типами інтелекту та тривалістю їхнього існування.»

У будь-якому разі, з цього можна зробити висновок, що провідні компанії галузі мають свої наміри. Щодо їхньої мотивації — залишаємо це на розсуд читачів.