Карен Хао: Мотиви прибутку керують розвитком ШІ, сучасні технології шкодять суспільству, а експлуатація праці є поширеною в галузі | Щоденник генерального директора

Ключові висновки

• Розробка ШІ визначається мотивами прибутку, що потенційно може приводити до появи більш досконалих цивілізацій.
• Нинішні технології ШІ завдають значної шкоди людям і суспільству.
• Компанії в сфері ШІ експлуатують працю, створюючи цикли звільнень і перенавчання.
• Переваги ШІ розподіляються не однаково поза Силіконовою долиною.
• Щоб зрозуміти ШІ, потрібно розглянути різноманітні глобальні погляди, крім Силіконової долини.
• Немає наукового консенсусу щодо людського інтелекту, що ускладнює цілі ШІ.
• Компанії маніпулюють визначенням штучного загального інтелекту відповідно до своїх інтересів.
• ШІ створює екзистенційні ризики, потенційно ведучи до знищення.
• Сем Альтман вплинув на рішення керівництва OpenAI через занепокоєння щодо Ілона Маска.
• Сем Альтман — поляризуюча фігура, а сприйняття різниться залежно від того, наскільки його бачення узгоджується.
• Риторика про те, що ШІ приносить користь усім, часто буває оманливою.
• Суспільний вплив ШІ потребує ширшого розуміння, ніж лише хаби технологій.
• Термін “штучний загальний інтелект” використовується компаніями стратегічно.
• Безпека ШІ — критично важлива тема для обговорення через її потенційні ризики.
• Динаміка лідерства в техніці перебуває під впливом особистих і стратегічних міркувань.

Вступ від гості

Керен Хао — авторка-постачальниця The Atlantic, співведуча подкасту BBC The Interface та авторка бестселерів The New York Times “Empire of AI”. Раніше вона працювала репортеркою The Wall Street Journal, висвітлюючи технологічні компанії США та Китаю. Її розслідувальна журналістика виявила погляди зсередини OpenAI на силові протистояння в індустрії та етичні занепокоєння.

Перегони з упором на прибуток за першість у ШІ

• Цивілізації, які прискорюють свої дослідження в сфері ШІ, можуть стати більш досконалими, але це зумовлено мотивами прибутку.

  — Керен Хао

• Конкурентний ландшафт розвитку ШІ значною мірою визначається фінансовими стимулами.

• Можливо, цивілізація, яка прискорює свої дослідження за допомогою ШІ, і стане більш досконалою цивілізацією.

  — Керен Хао

• Великі технологічні компанії керуються величезними прибутками, пов’язаними з досягненнями в ШІ.

• Спільна риса всіх їх у тому, що вони неймовірно заробляють на цьому міфі.

  — Керен Хао

• Розуміння цих мотивів є критично важливим для аналізу майбутнього ШІ.

• Перегони за першість у ШІ можуть загострити глобальну нерівність.

• Мотиви прибутку можуть витісняти етичні міркування в розвитку ШІ.

Суспільна шкода нинішніх технологій ШІ

• Нинішнє виробництво технологій ШІ завдає значної шкоди людям.

  — Керен Хао

• Негативні наслідки технологій ШІ часто залишаються поза увагою.

• Етичні наслідки розвитку ШІ потребують більшої уваги.

• Вплив ШІ на суспільство включає експлуатацію та шкоду окремим людям.

• Виробництво цих технологій прямо зараз завдає людям дуже багато шкоди.

  — Керен Хао

• Щоб протидіяти цим шкодам, потрібен критичний погляд на суспільний вплив ШІ.

• Фокус на прибутку може призводити до нехтування соціальною відповідальністю.

• Необхідне підвищення обізнаності про суспільну шкоду від ШІ для поінформованих обговорень.

Експлуатація праці в індустрії ШІ

• Компанії в сфері ШІ експлуатують працю й створюють цикл звільнень та перенавчання, що шкодить працівникам.

  — Керен Хао

• Індустрія ШІ порушує традиційні траєкторії кар’єри та безпеку робочих місць.

• Вони експлуатують надзвичайно багато праці, через що ламається “сходинка” кар’єрного зростання.

  — Керен Хао

• Працівників часто звільняють, а потім перенавчають, щоб підтримувати моделі ШІ.

• Цей цикл експлуатації підкреслює системні проблеми в ринку праці для ШІ.

• Економічні наслідки процесів навчання ШІ потребують більш прискіпливого розгляду.

• Деструктивний вплив на працівників — значне занепокоєння.

• Розуміння цих процесів є ключовим для боротьби з експлуатацією праці в ШІ.

Диспропорція між риторикою ШІ та реальністю

• Риторика про те, що ШІ приносить користь усім, руйнується, якщо подивитися на його вплив поза межами Силіконової долини.

  — Керен Хао

• Обіцянки компаній у сфері ШІ часто не відповідають реаліям, з якими стикаються різноманітні спільноти.

• Ви справді починаєте бачити, як ця риторика розсипається, коли ви їдете туди, де немає нічого схожого на Силіконову долину.

  — Керен Хао

• Диспропорція підкреслює потребу в ширшому розумінні суспільного впливу ШІ.

• Відчутні переваги ШІ не розподіляються однаково по всьому світу.

• Розгляд різних перспектив є критично важливим для розуміння справжнього впливу ШІ.

• Обмеження обіцянок ШІ підкреслюють важливість інклюзивності.

• Комплексне бачення суспільного впливу ШІ потребує погляду за межі технологічних хабів.

Невизначеність у визначенні штучного загального інтелекту

• Відсутність наукового консенсусу щодо людського інтелекту ускладнює визначення та досягнення штучного загального інтелекту.

  — Керен Хао

• Визначити цілі ШІ складно через неоднозначність людського інтелекту.

• Немає “контрольних точок” для цієї сфери, і немає “контрольних точок” для індустрії.

  — Керен Хао

• Компанії можуть маніпулювати визначенням ШЗІ (AGI), щоб відповідати своїм інтересам.

• Ці компанії можуть просто використовувати термін “штучний загальний інтелект” так, як їм заманеться.

  — Керен Хао

• Стратегічна гнучкість у формулюванні технологій впливає на дискусії щодо регулювання.

• Суспільне сприйняття й довіра залежать від того, як компанії визначають AGI.

• Розуміння цих викликів є критично важливим для поінформованих обговорень про ШІ.

Потенційні екзистенційні ризики ШІ

• Ймовірно, ШІ — це найбільш імовірний шлях знищити все.

  — Керен Хао

• Потенційні ризики ШІ підкреслюють нагальність розмов про безпеку.

• Історичний контекст важливий для розуміння екзистенційних загроз ШІ.

• Ключові фігури на кшталт Сема Альтмана та Ілона Маска відіграють значну роль у дискусіях про ШІ.

• Альтман пише для публіки або говорить для публіки — і він не просто має на увазі публіку як аудиторію.

  — Керен Хао

• Розмова про безпеку ШІ критично важлива для протидії потенційним ризикам.

• Публічне усвідомлення екзистенційних загроз ШІ необхідне для прийняття поінформованих рішень.

• Нагальність обговорень щодо безпеки ШІ неможливо перебільшити.

Динаміка лідерства та стратегічні занепокоєння в OpenAI

• Сем Альтман вплинув на процес ухвалення рішень щодо лідерства в OpenAI’s у їхній комерційній організації.

  — Керен Хао

• Занепокоєння щодо непередбачуваності Ілона Маска вплинули на рішення щодо лідерства.

• Тоді Альтман особисто звернувся до Грега Брокмана й сказав: хіба вам не здається, що це може бути трохи небезпечно — щоб Маск був CEO цієї компанії?

  — Керен Хао

• Внутрішні процеси ухвалення рішень в OpenAI демонструють стратегічні занепокоєння.

• Динаміка між Маском і Альтманом була значущою під час формування OpenAI.

• На рішення щодо лідерства впливали особисті й стратегічні міркування.

• Розуміння цієї динаміки дає уявлення про технологічне лідерство.

• Стратегічні занепокоєння щодо лідерства є критично важливими для розуміння структури OpenAI.

Поляризоване сприйняття Сема Альтмана

• Сем Альтман — поляризуюча фігура, і його сприйняття залежить від того, наскільки він узгоджується з його баченням майбутнього.

  — Керен Хао

• Сприйняття Альтмана різниться залежно від узгодженості з його баченням.

• Якщо ви поділяєте бачення Альтмана щодо майбутнього, ви вирішите, що він — найкращий актив, який тільки можна мати на своєму боці.

  — Керен Хао

• Ті, хто не погоджується з його баченням, можуть відчувати, що ним маніпулюють.

• Якщо ви не погоджуєтеся з його баченням майбутнього, у вас починає складатися відчуття, ніби вами маніпулюють.

  — Керен Хао

• Суб’єктивний характер оцінювання лідерства очевидний у випадку Альтмана.

• Розуміння динаміки лідерства й бачення є критично важливим у техніці.

• Двоїстість сприйняття підкреслює складність технологічного лідерства.

                  **Розкриття інформації:** Цю статтю відредагувала Редакційна команда. Щоб дізнатися більше про те, як ми створюємо та перевіряємо контент, ознайомтеся з нашою Редакційною політикою.