Карен Хао: Мотиви прибутку керують розвитком ШІ, сучасні технології шкодять суспільству, а експлуатація праці є поширеною в галузі | Щоденник генерального директора

Ключові висновки

• Розвиток ШІ зумовлюють мотиви прибутку, що потенційно може призвести до появи більш розвинених цивілізацій.
• Поточні технології ШІ завдають значної шкоди людям і суспільству.
• Компанії ШІ використовують працю, створюючи цикли звільнень і перенавчання.
• Переваги ШІ розподіляються не однаково за межами Силіконової долини.
• Щоб зрозуміти ШІ, потрібно розглядати різні глобальні перспективи, окрім Силіконової долини.
• Немає наукового консенсусу щодо людського інтелекту, що ускладнює цілі ШІ.
• Компанії маніпулюють визначенням штучного загального інтелекту (AGI) заради власних інтересів.
• ШІ створює екзистенційні ризики, потенційно ведучи до знищення.
• Сем Альтман вплинув на рішення щодо лідерства в OpenAI через занепокоєння щодо Ілона Маска.
• Сем Альтман — поляризуюча постать, а його сприйняття різниться залежно від того, наскільки він узгоджується з його баченням.
• Риторика про те, що ШІ приносить користь усім, часто є оманливою.
• Суспільний вплив ШІ потребує ширшого розуміння, ніж лише технополіси.
• Термін “штучний загальний інтелект” використовується компаніями стратегічно.
• Безпека ШІ — критично важлива тема для обговорення через її потенційні ризики.
• Динаміка лідерства в техніці залежить від особистих і стратегічних міркувань.

Гостьовий вступ

Карен Хао — авторка, що співпрацює з The Atlantic, співведуча подкасту BBC The Interface та авторка бестселера The New York Times “Empire of AI”. Раніше вона була репортеркою The Wall Street Journal, висвітлюючи технологічні компанії США та Китаю. Її розслідувальна журналістика виявила погляди інсайдерів OpenAI на галузеві боротьби за владу та етичні занепокоєння.

Перегони за першість у ШІ, зумовлені прибутком

• Цивілізації, які прискорюють дослідження ШІ, можуть стати більш досконалими, але це керується мотивами прибутку.

  — Карен Хао

• Конкурентне середовище розвитку ШІ значною мірою залежить від фінансових стимулів.

• Можливо, цивілізація, яка прискорює свої дослідження за допомогою ШІ, і стане більш досконалою цивілізацією.

  — Карен Хао

• Великі технологічні компанії мотивовані величезними прибутками, пов’язаними з прогресом у ШІ.

• Спільна риса всіх них у тому, що вони неймовірно заробляють на цьому міфі.

  — Карен Хао

• Розуміння цих мотивацій має вирішальне значення для аналізу майбутнього ШІ.

• Перегони за першість у ШІ можуть загострювати глобальні нерівності.

• Мотиви прибутку можуть перекривати етичні міркування у розвитку ШІ.

Суспільна шкода поточних технологій ШІ

• Поточне виробництво технологій ШІ завдає значної шкоди людям.

  — Карен Хао

• Негативні наслідки технологій ШІ часто лишаються поза увагою.

• Етичні наслідки розвитку ШІ потребують більшої уваги.

• Вплив ШІ на суспільство включає експлуатацію та шкоду, яку отримують окремі люди.

• Виробництво цих технологій прямо зараз завдає людям дуже багато шкоди.

  — Карен Хао

• Щоб протидіяти цим шкодам, потрібна критична перспектива щодо суспільного впливу ШІ.

• Фокус на прибутку може призвести до ігнорування соціальної відповідальності.

• Потрібна більша обізнаність про суспільну шкоду ШІ для поінформованих обговорень.

Експлуатація праці в індустрії ШІ

• Компанії ШІ експлуатують працю та створюють цикл звільнень і перенавчання, який шкодить працівникам.

  — Карен Хао

• Індустрія ШІ руйнує традиційні кар’єрні траєкторії та безпеку робочих місць.

• Вони експлуатують надзвичайно велику кількість праці, що руйнує “сходи” кар’єри.

  — Карен Хао

• Працівників часто звільняють, а потім перенавчають, щоб підтримувати моделі ШІ.

• Цей цикл експлуатації підкреслює системні проблеми на ринку праці в галузі ШІ.

• Економічні наслідки процесів навчання ШІ потребують більшої перевірки.

• Шкідливий вплив на працівників — вагома причина для занепокоєння.

• Розуміння цих процесів має вирішальне значення для протидії експлуатації праці в ШІ.

Розрив між риторикою про ШІ та реальністю

• Риторика про те, що ШІ приносить користь усім, руйнується, якщо оцінювати його вплив поза межами Силіконової долини.

  — Карен Хао

• Обіцянки компаній ШІ часто не збігаються з реаліями, з якими стикаються різні спільноти.

• Ти по-справжньому починаєш бачити, як ця риторика розсипається, щойно ти потрапляєш у місця, які зовсім не схожі на Силіконову долину.

  — Карен Хао

• Розрив підкреслює потребу в ширшому розумінні впливу ШІ.

• Переваги ШІ, які сприймаються, розподіляються у світі не однаково.

• Вивчення різних перспектив має вирішальне значення для розуміння справжнього впливу ШІ.

• Обмеження обіцянок ШІ підкреслюють важливість інклюзивності.

• Комплексний погляд на вплив ШІ потребує виходу за межі технополіси.

Невизначеність у визначенні штучного загального інтелекту

• Відсутність наукового консенсусу щодо людського інтелекту ускладнює визначення та прагнення до штучного загального інтелекту.

  — Карен Хао

• Визначати цілі ШІ складно через неоднозначність у трактуванні людського інтелекту.

• Для цієї сфери немає “контрольних точок”, і для індустрії теж немає “контрольних точок”.

  — Карен Хао

• Компанії можуть маніпулювати визначенням AGI, щоб відповідати власним інтересам.

• Ці компанії можуть просто використовувати термін штучний загальний інтелект (artificial general intelligence) так, як їм заманеться.

  — Карен Хао

• Стратегічна гнучкість у формулюванні технологій впливає на регуляторні обговорення.

• Суспільне сприйняття та довіра залежать від того, як компанії визначають AGI.

• Розуміння цих викликів має вирішальне значення для поінформованих обговорень про ШІ.

Потенційні екзистенційні ризики ШІ

• ШІ, ймовірно, є найреальнішим шляхом знищити все.

  — Карен Хао

• Потенційні ризики ШІ підкреслюють нагальність розмов про безпеку.

• Історичний контекст важливий для розуміння екзистенційних загроз ШІ.

• Ключові фігури на кшталт Сема Альтмана та Ілона Маска відіграють значну роль в обговореннях ШІ.

• Альтман пише для публіки або говорить від імені публіки; він не просто має публіку як аудиторію.

  — Карен Хао

• Розмова про безпеку ШІ критично важлива для того, щоб адресувати потенційні ризики.

• Публічна обізнаність про екзистенційні загрози ШІ необхідна для ухвалення поінформованих рішень.

• Нагальність обговорень безпеки ШІ неможливо перебільшити.

Динаміка лідерства та стратегічні занепокоєння в OpenAI

• Сем Альтман вплинув на процес ухвалення рішень щодо лідерства в OpenAI у її прибутковій структурі.

  — Карен Хао

• Занепокоєння щодо непередбачуваності Ілона Маска вплинули на рішення щодо лідерства.

• Тоді Альтман звернувся до Грега Брокмана особисто і сказав: невже ти не вважаєш, що було б трохи небезпечно, якби Маск був генеральним директором цієї компанії?

  — Карен Хао

• Внутрішні процеси ухвалення рішень в OpenAI підкреслюють стратегічні занепокоєння.

• Динаміка між Маском і Альтманом була значущою під час формування OpenAI.

• Рішення щодо лідерства залежали від особистих і стратегічних міркувань.

• Розуміння цієї динаміки дає уявлення про лідерство в технічній сфері.

• Стратегічні занепокоєння щодо лідерства є критично важливими для розуміння структури OpenAI.

Поляризоване сприйняття Сема Альтмана

• Сем Альтман — поляризуюча постать, а його сприйняття залежить від того, наскільки він узгоджується з його баченням майбутнього.

  — Карен Хао

• Сприйняття Альтмана різниться залежно від узгодження з його баченням.

• Якщо ти поділяєш бачення Альтмана щодо майбутнього, то вважатимеш, що він — найкращий актив, який тільки можна мати на своєму боці.

  — Карен Хао

• Ті, хто не погоджується з його баченням, можуть відчувати, що ним маніпулюють.

• Якщо ти не погоджуєшся з його баченням майбутнього, то починаєш відчувати, ніби тобою маніпулюють саме він.

  — Карен Хао

• Суб’єктивний характер оцінювання лідерства очевидний у випадку Альтмана.

• Розуміння динаміки лідерства та бачення має вирішальне значення в техніці.

• Двоякість сприйняття підкреслює складність лідерства в технічній сфері.

                  **Повідомлення про розкриття:** Цю статтю відредагувала редакційна команда. Для отримання додаткової інформації про те, як ми створюємо та перевіряємо контент, перегляньте нашу Редакційну політику.