Карен Хао: Мотиви прибутку керують розвитком ШІ, сучасні технології шкодять суспільству, а експлуатація праці є поширеною в галузі | Щоденник генерального директора

Ключові висновки

• Розвиток ШІ керується прибутковими мотивами, що потенційно може призвести до створення більш розвинених цивілізацій.
• Поточні технології ШІ завдають значної шкоди людям та суспільству.
• Компанії ШІ експлуатують працю, створюючи цикли звільнень та перекваліфікацій.
• Переваги ШІ не розподіляються рівномірно поза Силіконовою долиною.
• Розуміння ШІ вимагає вивчення різноманітних глобальних перспектив за межами Силіконової долини.
• Немає наукового консенсусу щодо людського інтелекту, що ускладнює цілі ШІ.
• Компанії маніпулюють визначенням штучного загального інтелекту для своїх інтересів.
• ШІ несе екзистенційні ризики, що потенційно може призвести до знищення.
• Сем Альтман вплинув на рішення керівництва OpenAI через побоювання щодо Ілона Маска.
• Сем Альтман є поляризуючою фігурою, сприйняття якої варіюється в залежності від відповідності його бачення.
• Риторика про користь ШІ для всіх часто вводить в оману.
• Соціальний вплив ШІ вимагає більш широкого розуміння поза технологічними центрами.
• Термін “штучний загальний інтелект” стратегічно використовується компаніями.
• Безпека ШІ є критично важливою темою через його потенційні ризики.
• Динаміка лідерства в технологічному секторі підлягає впливу особистих та стратегічних питань.

Вступ гостя

Карен Хао є автором, що співпрацює з The Atlantic, співавтором подкасту BBC The Interface та автором бестселера New York Times Empire of AI. Раніше вона була репортером The Wall Street Journal, висвітлюючи американські та китайські технологічні компанії. Її розслідувальна журналістика виявила інсайдерську інформацію з OpenAI щодо боротьби за владу в індустрії та етичних проблем.

Прибутковий гонитва за перевагою в ШІ

• Цивілізації, які прискорюють свої дослідження в ШІ, можуть стати переважаючими, але це керується прибутковими мотивами.

  — Карен Хао

• Конкурентне середовище розвитку ШІ сильно впливає фінансові стимули.

• Можливо, що цивілізація, яка прискорить свої дослідження в ШІ, стане переважаючою цивілізацією.

  — Карен Хао

• Великі технологічні компанії мотивовані величезними прибутками, пов’язаними з досягненнями в ШІ.

• Спільною рисою всіх із них є те, що вони неймовірно виграють від цього міфу.

  — Карен Хао

• Розуміння цих мотивів є важливим для аналізу майбутнього ШІ.

• Гонитва за перевагою в ШІ може поглибити глобальні нерівності.

• Прибуткові мотиви можуть затінювати етичні міркування в розвитку ШІ.

Соціальна шкода від сучасних технологій ШІ

• Поточне виробництво технологій ШІ завдає значної шкоди людям.

  — Карен Хао

• Негативні наслідки технологій ШІ часто ігноруються.

• Етичні наслідки розвитку ШІ потребують більшої уваги.

• Вплив ШІ на суспільство включає експлуатацію та шкоду для окремих осіб.

• Виробництво цих технологій зараз завдає великої шкоди людям.

  — Карен Хао

• Вирішення цих шкод вимагає критичного підходу до соціального впливу ШІ.

• Зосередженість на прибутку може призвести до нехтування соціальною відповідальністю.

• Потрібно більше усвідомлення соціальної шкоди від ШІ для обґрунтованих обговорень.

Експлуатація праці в індустрії ШІ

• Компанії ШІ експлуатують працю та створюють цикл звільнень і перекваліфікацій, що шкодить працівникам.

  — Карен Хао

• Індустрія ШІ порушує традиційні кар’єрні шляхи та робочу безпеку.

• Вони експлуатують надзвичайну кількість праці, що руйнує кар’єрну драбину.

  — Карен Хао

• Працівників часто звільняють, а потім перекваліфікують для підтримки моделей ШІ.

• Цей цикл експлуатації підкреслює системні проблеми в ринку праці ШІ.

• Економічні наслідки процесів навчання ШІ потребують більшої уваги.

• Шкідливі наслідки для працівників є значною проблемою.

• Розуміння цих динамік є важливим для вирішення проблеми експлуатації праці в ШІ.

Різниця між риторикою ШІ та реальністю

• Риторика про користь ШІ для всіх розпадається при вивченні його впливу поза Силіконовою долиною.

  — Карен Хао

• Обіцянки компаній ШІ часто не відповідають реаліям, з якими стикаються різноманітні спільноти.

• Ви справді починаєте бачити, що риторика розпадається, коли ви їдете в місця, які нічим не нагадують Силіконову долину.

  — Карен Хао

• Різниця підкреслює необхідність більш широкого розуміння впливу ШІ.

• Сприйняті вигоди від ШІ не розподіляються рівномірно в світі.

• Вивчення різноманітних перспектив є ключовим для розуміння справжнього впливу ШІ.

• Обмеження обіцянок ШІ підкреслює важливість інклюзивності.

• Комплексний погляд на вплив ШІ вимагає вивчення поза технологічними центрами.

Неоднозначність у визначенні штучного загального інтелекту

• Відсутність наукового консенсусу щодо людського інтелекту ускладнює визначення та досягнення штучного загального інтелекту.

  — Карен Хао

• Визначення цілей ШІ є складним через неоднозначність людського інтелекту.

• У цій галузі немає міток для цілей, і для індустрії теж немає міток.

  — Карен Хао

• Компанії можуть маніпулювати визначенням AGI на свій розсуд.

• Ці компанії можуть просто використовувати термін штучний загальний інтелект так, як їм зручно.

  — Карен Хао

• Стратегічна гнучкість у формулюванні технологій впливає на регуляторні обговорення.

• Громадська думка та довіра залежать від того, як компанії визначають AGI.

• Розуміння цих викликів є важливим для обґрунтованих обговорень про ШІ.

Потенційні екзистенційні ризики ШІ

• ШІ, напевно, є найімовірнішим способом знищити все.

  — Карен Хао

• Потенційні ризики ШІ підкреслюють терміновість обговорень безпеки.

• Історичний контекст є важливим для розуміння екзистенційних загроз ШІ.

• Ключові фігури, такі як Сем Альтман та Ілон Маск, грають значні ролі в обговореннях ШІ.

• Альтман пише для суспільства або говорить від імені суспільства, він не просто має на увазі суспільство як аудиторію.

  — Карен Хао

• Обговорення щодо безпеки ШІ є критично важливими для вирішення потенційних ризиків.

• Громадська обізнаність про екзистенційні загрози ШІ необхідна для обґрунтованого прийняття рішень.

• Терміновість обговорень безпеки ШІ не можна переоцінити.

Динаміка лідерства та стратегічні питання в OpenAI

• Сем Альтман вплинув на процес прийняття рішень щодо керівництва прибутковим підрозділом OpenAI.

  — Карен Хао

• Побоювання щодо непередбачуваності Ілона Маска вплинули на рішення керівництва.

• Альтман тоді особисто звернувся до Грега Брокмана і сказав, чи не вважаєте ви, що було б трохи небезпечно мати Маска генеральним директором цієї компанії.

  — Карен Хао

• Внутрішні процеси прийняття рішень в OpenAI підкреслюють стратегічні питання.

• Динаміка між Маском та Альтманом була значною під час формування OpenAI.

• Рішення про керівництво були впливом особистих і стратегічних міркувань.

• Розуміння цих динамік дає уявлення про лідерство в технологічному секторі.

• Стратегічні проблеми щодо керівництва є важливими для розуміння структури OpenAI.

Поляризоване сприйняття Сема Альтмана

• Сем Альтман є поляризуючою фігурою, сприйняття якої залежить від відповідності його бачення майбутнього.

  — Карен Хао

• Сприйняття Альтмана варіюється в залежності від відповідності його бачення.

• Якщо ви погоджуєтеся з баченням Альтмана щодо майбутнього, ви вважаєте його найкращим активом, який можна мати на своєму боці.

  — Карен Хао

• Ті, хто не погоджується з його баченням, можуть відчувати себе маніпульованими.

• Якщо ви не погоджуєтеся з його баченням майбутнього, ви починаєте відчувати, що вас маніпулюють ним.

  — Карен Хао

• Суб’єктивна природа оцінки лідерства очевидна в випадку Альтмана.

• Розуміння динаміки лідерства та бачення є важливим у технологіях.

• Двоїстість сприйняття підкреслює складність лідерства в технологіях.

                  **Розкриття:** Цю статтю редагувала Редакційна команда. Для отримання додаткової інформації про те, як ми створюємо та переглядаємо контент, дивіться нашу Редакційну політику.