Карен Хао: Мотиви прибутку керують розвитком ШІ, сучасні технології шкодять суспільству, а експлуатація праці є поширеною в галузі | Щоденник генерального директора

Ключові висновки

• Розвиток ШІ керується прагненням до прибутку, що може призвести до створення вищих цивілізацій.
• Поточні технології ШІ завдають значної шкоди людям і суспільству.
• Компанії, що займаються ШІ, експлуатують працівників, створюючи цикли звільнень і перепідготовки.
• Переваги ШІ не рівномірно розподілені за межами Кремнієвої долини.
• Щоб зрозуміти ШІ, потрібно враховувати різноманітні глобальні перспективи поза Кремнієвою долиною.
• Наукової згоди щодо людського інтелекту немає, що ускладнює цілі ШІ.
• Компанії маніпулюють визначенням штучного загального інтелекту для своїх інтересів.
• ШІ становить екзистенційні ризики, що може призвести до руйнування.
• Сем Альтман впливав на рішення керівництва OpenAI через побоювання щодо Ілона Маска.
• Сем Альтман — поляризуюча фігура, сприйняття якої залежить від відповідності його бачення.
• Риторика про те, що ШІ приносить користь усім, часто є оманливою.
• Вплив ШІ на суспільство вимагає ширшого розуміння поза технологічними центрами.
• Термін «штучний загальний інтелект» стратегічно використовують компанії.
• Безпека ШІ — важлива тема через потенційні ризики.
• Лідерські динаміки у технологічній сфері впливають особисті та стратегічні мотиви.

Вступ гостя

Карен Хао — співробітник The Atlantic, співведуча подкасту BBC The Interface та автор бестселера The New York Times «Імперія ШІ». Раніше вона була репортеркою The Wall Street Journal, висвітлюючи американські та китайські технологічні компанії. Її розслідування розкрили внутрішні конфлікти та етичні питання у галузі на основі інтерв’ю з працівниками OpenAI.

Гонка за перевагу у ШІ, орієнтована на прибуток

• Цивілізації, що прискорюють свої дослідження ШІ, можуть стати вищими, але це зумовлено прагненням до прибутку.

  — Карен Хао

• Конкурентне середовище розвитку ШІ значною мірою визначається фінансовими інтересами.

• Можливо, цивілізація, яка прискорить свої дослідження ШІ, стане переважаючою.

  — Карен Хао

• Ведучі технологічні компанії мотивовані величезними прибутками від розвитку ШІ.

• Спільною рисою всіх є їхній величезний прибуток від цього міфу.

  — Карен Хао

• Розуміння цих мотивів є ключовим для аналізу майбутнього ШІ.

• Гонка за перевагу у ШІ може поглибити глобальні нерівності.

• Прагнення до прибутку може затінювати етичні питання у розвитку ШІ.

Шкода для суспільства від сучасних технологій ШІ

• Поточне виробництво технологій ШІ завдає значної шкоди людям.

  — Карен Хао

• Негативні наслідки ШІ часто ігноруються.

• Етичні питання розвитку ШІ потребують більшої уваги.

• Вплив ШІ на суспільство включає експлуатацію та шкоду окремим особам.

• Виробництво цих технологій зараз завдає багато шкоди людям.

  — Карен Хао

• Вирішення цих проблем вимагає критичного підходу до впливу ШІ на суспільство.

• Орієнтація на прибуток може призводити до нехтування соціальною відповідальністю.

• Необхідно підвищувати обізнаність про шкоду ШІ для суспільства для обґрунтованих дискусій.

Експлуатація праці у галузі ШІ

• Компанії, що займаються ШІ, експлуатують працівників і створюють цикл звільнень і перепідготовки, що шкодить працівникам.

  — Карен Хао

• Галузь ШІ руйнує традиційні кар’єрні шляхи та гарантії працевлаштування.

• Вони експлуатують величезну кількість праці, що руйнує кар’єрну сходинку.

  — Карен Хао

• Працівників часто звільняють і потім перепідготовлюють для підтримки моделей ШІ.

• Цикл експлуатації підкреслює системні проблеми у ринку праці ШІ.

• Економічні наслідки процесів тренування ШІ потребують більшого аналізу.

• Важкі наслідки для працівників — значна проблема.

• Розуміння цих динамік є ключовим для вирішення проблем експлуатації праці у галузі ШІ.

Розрив між риторикою та реальністю у ШІ

• Риторика про те, що ШІ приносить користь усім, руйнується при аналізі його впливу поза Кремнієвою долиною.

  — Карен Хао

• Обіцянки компаній, що займаються ШІ, часто не відповідають реальності різноманітних спільнот.

• Ви починаєте бачити, як ця риторика руйнується, коли їдете у місця, що зовсім не схожі на Кремнієву долину.

  — Карен Хао

• Різниця підкреслює необхідність ширшого розуміння впливу ШІ.

• Перспективи, що сприймаються як вигідні, не рівномірно розподілені у світі.

• Вивчення різних точок зору важливе для розуміння справжнього впливу ШІ.

• Обмеження обіцянок ШІ підкреслює важливість інклюзивності.

• Комплексне уявлення про вплив ШІ вимагає виходу за межі технологічних центрів.

Неоднозначність у визначенні штучного загального інтелекту

• Відсутність наукової згоди щодо людського інтелекту ускладнює визначення та пошук штучного загального інтелекту.

  — Карен Хао

• Визначення цілей ШІ ускладнене через неоднозначність людського інтелекту.

• У цій галузі немає чітких орієнтирів і у галузі немає єдиних цілей.

  — Карен Хао

• Компанії можуть маніпулювати визначенням AGI для своїх інтересів.

• Ці компанії можуть просто використовувати термін «штучний загальний інтелект» будь-яким чином.

  — Карен Хао

• Стратегічна гнучкість у формулюванні технологій впливає на регуляторні дискусії.

• Відповідальність і довіра громадськості залежать від того, як компанії визначають AGI.

• Розуміння цих викликів є важливим для обґрунтованих дискусій про ШІ.

Можливі екзистенційні ризики ШІ

• ШІ, ймовірно, є найімовірнішим шляхом знищення всього.

  — Карен Хао

• Потенційні ризики ШІ підкреслюють необхідність обговорення безпеки.

• Історичний контекст важливий для розуміння екзистенційних загроз ШІ.

• Важливі фігури, такі як Сем Альтман і Ілон Маск, відіграють значну роль у дискусіях про ШІ.

• Альтман пише для публіки або говорить від імені публіки, але не лише для неї.

  — Карен Хао

• Обговорення безпеки ШІ є критичним для вирішення потенційних ризиків.

• Обізнаність громадськості про екзистенційні загрози ШІ необхідна для обґрунтованих рішень.

• Не можна недооцінювати важливість обговорень безпеки ШІ.

Динаміка керівництва та стратегічні питання в OpenAI

• Сем Альтман впливав на процес прийняття рішень щодо керівництва комерційної частини OpenAI.

  — Карен Хао

• Побоювання щодо непередбачуваності Маска впливали на рішення керівництва.

• Потім Альтман особисто звернувся до Грега Брокмана і сказав, що було б небезпечно, щоб Маск був генеральним директором цієї компанії.

  — Карен Хао

• Внутрішні процеси ухвалення рішень в OpenAI відображають стратегічні побоювання.

• Взаємовідносини між Маском і Альтманом були важливими під час створення OpenAI.

• Рішення щодо керівництва базувалися на особистих і стратегічних міркуваннях.

• Розуміння цих динамік дає уявлення про керівництво у технологічній сфері.

• Стратегічні питання щодо керівництва є ключовими для розуміння структури OpenAI.

Поляризація сприйняття Сем Альтмана

• Сем Альтман — поляризуюча фігура, чий образ залежить від відповідності його бачення майбутнього.

  — Карен Хао

• Відношення до Альтмана варіюються залежно від співпадіння з його баченням.

• Якщо ви поділяєте бачення Альтмана щодо майбутнього, вважаєте його найкращим активом.

  — Карен Хао

• Ті, хто не погоджуються з його баченням, можуть відчувати себе маніпульованими.

• Якщо ви не погоджуєтеся з його баченням майбутнього, починаєте відчувати, що ним керують.

  — Карен Хао

• Суб’єктивність оцінки лідерства проявляється у випадку Альтмана.

• Розуміння динаміки лідерства і бачення є важливим у технологічній сфері.

• Двоякість сприйняття підкреслює складність технологічного керівництва.