Протистояння США та Китаю в галузі ШІ розпалюється, але вчені обох країн одностайні: не допустіть для ШІ «чорнобильського моменту».

WIRED після відвідування конференції зі штучного інтелекту в Чжунгуаньцуні, Пекін, та інтерв'ю з провідними вченими з Китаю та США дійшов головного висновку: ризики кібербезпеки передового ШІ настільки великі, що жодна сторона не може взяти на себе їх самостійно, а межі можливостей моделей з відкритим кодом наближаються до небезпечної точки.
(Передумови: Anthropic отримав заборону від уряду США на модель Fable, іноземні ЗМІ вказують на три занепокоєння: може допомогти китайському відкритому коду)
(Додаткова інформація: Nvidia випустила найпотужнішу модель з відкритим кодом Nemotron 3 Ultra, орієнтовану на завдання AI-агентів)

Зміст

Перемикач

• Перегони озброєнь у сфері ШІ, але вони породили ядерне стримування
• Межі моделей з відкритим кодом наближаються до небезпечної точки
• Китай теж тихо зачиняє двері

Кореспондент WIRED Вілл Найт відвідав конференцію, організовану Пекінським інститутом штучного інтелекту (BAAI), де зібралися теми від рекурсивного самовдосконалення та людиноподібних роботів до квантової безпеки. Серед учасників були співвинахідник криптографії з відкритим ключем Вітфілд Діффі та Ендрю Барто, який отримав премію Тюрінга за фундаментальні дослідження з навчання з підкріпленням.

Найт пише у статті, що, покидаючи конференцію, він мав лише одну думку: Китай і США повинні припинити ворожнечу в гонці ШІ. Причина не в дипломатичній риториці, а в технологічній реальності: ризики кібербезпеки передового ШІ зростають швидше, ніж будь-яка політика країни може їх наздогнати.

Перегони озброєнь у сфері ШІ, але вони породили ядерне стримування

Стандартна рамка Вашингтона розглядає прогрес Китаю в ШІ як економічну та національну загрозу. Експортний контроль постійно посилюється, обмежуючи потік передових мікросхем і виробничого обладнання до Китаю; у червні цього року уряд США пішов далі, вимагаючи від Anthropic припинити доступ іноземців до їхніх найпотужніших моделей Mythos 5 та Fable 5 з міркувань національної безпеки.

Anthropic негайно закрив доступ до обох моделей для всіх, однією з причин є побоювання влади, що механізм захисту Fable 5 буде зламано, що дозволить розблокувати кібератакувальні можливості Mythos.

Однак пекінська конференція надіслала зовсім інший сигнал: надто швидкий і неконтрольований розвиток ШІ є ризиком як для Китаю, так і для США, а не одностороннім козирем.

Науковець з комп'ютерних наук MIT Стівен Каспер виступив на конференції через відеозв'язок. Він процитував дослідження, яке показує, що вигоди від міжнародної співпраці у сфері ризиків ШІ значно перевищують загрози безпеці, які несе сама співпраця. Каспер навів Knight аналогію: «Практично всі в галузі ШІ можуть погодитися з одним: ШІ не потребує моменту Чорнобиля.»

Він зазначив, що це нагадує суперечливу логіку холодної війни між США та СРСР щодо ядерної зброї: обидві сторони гарячково нарощували арсенали, але водночас були змушені створювати механізми контролю за ядерною кризою. Що найбільше їх турбує — це дедалі потужніші агенти ШІ, які при подальшому зростанні можливостей і незначній втраті контролю можуть спричинити масштабні руйнування.

Межі моделей з відкритим кодом наближаються до небезпечної точки

Якщо ризики кібербезпеки є попередженням на теоретичному рівні, то розширення можливостей моделей з відкритим кодом — це міна, яку видно вже зараз.

Останніми роками китайські компанії лідирують у сфері моделей з відкритою вагою: Kimi від Moonshot AI, Qwen від Alibaba та GLM від Z.ai мають багато користувачів у дослідницькому співтоваристві США. Відповіддю США стала Nvidia Nemotron, яка намагається відновити конкурентоспроможність у відкритому коді.

Однак аналіз GLM 5.2 показує, що найновіша модель Z.ai вже має передові агентурні можливості та здатність до написання коду. Наступне покоління моделей з відкритим кодом може досягти рівня Fable або Mythos.

Професор Шанхайського транспортного університету Лінь Юнь, який давно досліджує перетин ШІ та інформаційної безпеки, зазначив Knight, що в короткостроковій перспективі хакери дійсно мають перевагу, але нові засоби захисту, включаючи контрзаходи самого ШІ, мають змінити ситуацію в середньо- та довгостроковій перспективі. Ще більш фундаментальним є питання стандартів: «Якщо різні країни мають подібне розуміння ризиків, легше встановити спільні принципи безпеки та технічні стандарти», — каже Юнь. — «Ключовим є знаходження сфер, які можуть зменшити системні ризики, не розкриваючи чутливих деталей операцій.»

Лінь Юнь також порушив складне відкрите питання: як індустрія може гарантувати, що моделі з відкритим кодом постійно оновлюються, не мають бекдорів і відповідають стандартам безпеки? Наразі відповіді на це питання немає.

Китай теж тихо зачиняє двері

Деталь, яку не можна ігнорувати, від анонімного джерела, опитаного Will Knight: інсайдер однієї з провідних китайських AI-компаній, який попросив анонімності, оскільки не мав дозволу говорити з пресою. Він розповів, що міркування безпеки вже є однією з причин, чому деякі передові моделі більше не випускаються з відкритим кодом.

Це сигнал, вартий уважного вивчення. Китайські AI-компанії завжди використовували відкритий код для отримання глобального впливу, але якщо навіть найкращі китайські гравці починають обмежувати деякі моделі, то межа між відкритим і закритим кодом перевизначається. Адже експортний контроль регулює потоки обчислювальних потужностей, але поширення можливостей моделей є м'яким і безмежним. Коли спільнота з відкритим кодом може відтворити 90% можливостей закритих моделей, а відкриті моделі самі стають кіберзброєю, будь-який односторонній контроль лише уповільнює, але не зупиняє.

Китай і США є основними джерелами найсучасніших моделей, і тому несуть найбільшу відповідальність у цьому ризику. Каспер висловився прямо: «AI — це глобальна технологія, вона приносить глобальні вигоди, але й глобальну шкоду, і нові здібності врешті-решт поширюються по всьому світу — це її постійна тенденція.» Незалежно від того, як довго триватиме боротьба між Пекіном і Вашингтоном щодо експортного контролю, ця логіка не зникне.

@E1#