Anthropic спільне попередження: ймовірність настання програмного сингульярності 50%, і це може вплинути як на білих, так і на синіх комірців?

Антропік вищі керівники відвідали Тайвань, підкреслюючи, що без Тайваню не було б їхнього майже трильйонного доларового оцінювання розвитку. Співзасновник також попередив, що у майбутньому з ймовірністю 50% настане софтверний сингулярність, і знані працівники першими стикнуться з безробіттям.

Під час Computex американська AI-компанія Anthropic, оцінена вже майже у трильйон доларів, також рухається до IPO, поглиблюючи співпрацю з Тайванем.

Наступним стало повідомлення про запрошення Trend Micro приєднатися до кібербезпекового проекту «Glasswing», а співзасновник Anthropic Бен Манн на заході 5 червня виголосив: «Без Тайваню — немає Anthropic», і повністю виступив китайською мовою, демонструючи дружелюбність.

На Developer Day, організованому Тайванською школою штучного інтелекту (AIA), Манн заявив китайською, що його місія у дослідженні AI — забезпечити позитивний вплив штучного інтелекту на майбутнє людства. Він переконаний, що демократичні країни мають бути лідерами у розвитку AI і прагне поглиблювати співпрацю з Тайванем.

Перед створенням Anthropic у 2021 році разом з Даріо Амоді, Манн працював у Google шість років. Після прочитання книги «Суперінтелект» він переключився на дослідження безпеки AI.

Манн був ключовим членом архітектури GPT-3 від OpenAI і важливим рушієм MCP (Model Context Protocol). Зараз він керує відділом «Anthropic Labs», що зосереджений на експериментах застосувань, і є командою, яка створила Claude Code та Claude Design.

Чи неминучий масштабний безробіття через софтверний сингулярність?

Обговорюючи можливості моделей рівня Mythos, Манн зазначив, що стрімкий розвиток програмних можливостей моделей дозволить більшій кількості людей безпечно створювати програмні застосунки самостійно. «Що станеться з програмістами, які займалися цим раніше? Це більшою проблемою, ніж здається.»

Замість того, щоб зосереджуватися на тому, чи може AI мислити як людина, Манн більше цікавиться, яку реальну зміну він може принести у економіку та суспільство. Він запропонував концепцію «Економічного тесту Тюрінга» — інструмент для вимірювання економічної продуктивності: якщо роботу можна делегувати AI-агенту, і роботодавець не зможе визначити, чи результат створений машиною чи людиною, ця робота проходить економічний тест Тюрінга.

Джерело: Digital Age, фотографія Хо Цзюньвей, співзасновник Anthropic і керівник Anthropic Labs Бен Манн у Тайвані

Манн переконаний, що у найближчі п’ять років ймовірність настання софтверного сингулярності — 50%. Тоді питання контролю над машинами також буде вирішено. Тому першими з цим стикнуться знані працівники, потім — фізична праця, — сказав він.

Манн зазначив, що поточні економічні показники не вказують на швидке масштабне безробіття, — «але це цілком відповідає нашим очікуванням». Він пояснив, що для виклику масштабного безробіття AI має здатність виконувати кожну задачу, яку може людина, але наразі ще не досягла такого рівня.

Проте прогрес у тренуванні моделей не сповільнюється. Манн навів приклад, що, як і більшість людей не могли передбачити фінансову кризу 2008 року за допомогою індикаторів, «я вважаю, що нас чекає період турбулентності».

Його погляди не є загальноприйнятими у галузі. Генеральний директор NVIDIA Дженсен Ху, зазвичай, ставиться до впливу AI більш оптимістично, вважаючи, що AI може створити більше робочих місць. Амоні, керівник Anthropic, який у 2025 році пророкував «масову різанину білих комірців», нещодавно пом’якшив свою позицію, кажучи, що мова йде про трансформацію, а не зникнення роботи.

Манн вважає, що масштабне безробіття важко вирішити без державного втручання. Anthropic співпрацює з урядом і обговорює ці питання, і він сподівається, що Тайвань зможе «рухатися швидше за деякі уряди у світі».

Візит високопосадовців Anthropic разом із політикою технологічної безпеки адміністрації Байдена

Разом із Манном у Тайвань приїхав Тарун Чхабра, керівник з питань національної безпеки у Anthropic. Він був ключовою фігурою у політиці технологічної безпеки адміністрації Байдена, займаючись експортним контролем проти Китаю, інвестиційними перевірками та обмеженнями у телекомунікаціях.

Під час роботи у Білому домі Чхабра зосереджувався на створенні демократичного технологічного альянсу. Він співпрацював із країнами «П’яти очей», Японією, Південною Кореєю, Індією та Європейським союзом у сфері технологічної дипломатії, прагнучи залучити міжнародних партнерів до американських стандартів у технологіях.

Джерело: Digital Age, фотографія Хо Цзюньвей, співзасновник Anthropic і керівник політики національної безпеки Тарун Чхабра у розмові з заступником міністра цифрового розвитку Ян Цзялінг та професором Ху Юнчжень з офісу AICoE Тайваню.

Цей фон робить стратегічне значення візиту керівництва Anthropic до Тайваню значно важливішим, ніж просто обмін досвідом розробки, — це яскравий приклад співпраці у сфері технологій та ланцюгів постачання між Тайванем і США.

Манн прямо заявив у розмові, що демократичний альянс має запобігти перемозі Китаю у гонці AI. Навіть якщо демократичні країни випередять у створенні надрозуму, не можна розслаблятися, оскільки інші країни продовжать дослідження. «Anthropic намагається використати наші лідерські позиції, щоб закласти міцний прецедент для підвищення безпеки.»

Він навів приклад, що перед випуском нової моделі Anthropic тестувала її здатність прискорювати розробку біологічної зброї. Виявивши значне покращення, компанія відклала реліз, щоб посилити заходи безпеки.

Подібна політика застосовується і до останньої моделі Mythos. Mythos здатна виявляти вразливості у безпеці програмного забезпечення краще за більшість людей, тому Anthropic запустила «Проєкт Glasswing», випустивши попередню версію лише обраним партнерам для попереднього тестування та посилення безпеки.

Манн зазначив, що компанія розуміє, що затримка з випуском передових моделей зменшує ризик зловживань, але водночас затримує можливості їхнього корисного застосування — наприклад, для підсилення кіберзахисту або прискорення розробки ліків для важких хворих. «Ми реально відчуваємо ціну затримки», — сказав він. Але безпека залишається пріоритетом.

«У Anthropic ми глибоко обмірковуємо ці ризики», — заявив Манн. «Зі зростанням потужності технологій, як ми можемо гарантувати, що країни, які не поділяють наших цінностей, відповідально використовуватимуть цю технологію?»

Якщо надрозум так небезпечний, навіщо його розробляти? У розмові Чхабра дав відповідь: «Якщо Anthropic не розробить цю модель, її розроблять конкуренти.» Щоб запобігти зловживанням з боку злих акторів, Anthropic має встановлювати стандарти безпеки попереду. «Ми змагаємося з часом.»

У відповідь на слова Манна, Чхабра ще раз підкреслив, що без ланцюгів постачання з Тайваню Anthropic не існуватиме. Демократичні країни мають перемогти у гонці AI, і «спільне забезпечення безпеки цього ланцюга — абсолютно важливе і необхідне».

Чхабра також зазначив, що Тайвань часто є першим місцем, яке стикається з передовими кібернападами, і ці атаки мають цінну інформацію для союзників. Він сподівається, що через партнерство Тайвань і США зможуть продемонструвати всім демократіям міцну стійкість і надійність ланцюгів постачання.

• Статтю надано з дозволу: Digital Age
• Оригінальна назва: «Співзасновник Anthropic у Тайвані попереджає: «Майже 50% шансів на настання софтверного сингулярності, знані працівники першими постраждають»»
• Автор: Фу Гуаньцзі