Керівник Palantir у Великій Британії заявив, що рішення про те, як застосовуватиметься ШІ для наведення цілей у війні, ухвалюють військові

2 дні тому

ПоділитисяЗберегти

Додати як бажане в Google

Марс Цєслак,AI кореспонденті

Метт Мерфі,BBC Verify

Louis Mosley від Palantir каже, що саме військові відповідальні за те, як використовуються системи ШІ

На цей час гігант у сфері технологій Palantir відступив від занепокоєнь, що військове використання його платформ ШІ може призвести до непередбачуваних ризиків. У ексклюзивному інтерв’ю для BBC компанія заявляє, що спосіб застосування технології є відповідальністю її військових клієнтів.

Це відбувається на тлі того, що експерти висловили занепокоєння щодо використання оборонної платформи Palantir із підтримкою ШІ — Maven Smart System — під час війни та її нібито застосування в атаках США на Іран.

Аналітики попереджали, що військове використання платформи, яка допомагає персоналу планувати атаки, залишає мало часу для «значущої верифікації» її результатів і може призвести до ураження неправильних цілей.

Але керівник підрозділу Palantir у Великій Британії та Європі, Louis Mosley, сказав BBC у широкомасштабному інтерв’ю, що хоча платформи ШІ на кшталт Maven були «інструментальними» для управління США війною проти Ірану, відповідальність за те, як використовується їхній результат, завжди має залишатися «за військовою організацією».

«Завжди є людина в контурі, тож завжди є людина, яка ухвалює остаточне рішення. Саме так зараз і налаштовано».

Maven Smart System було запущено Пентагоном у 2017 році, і вона призначена для пришвидшення рішень щодо військового наведення цілей шляхом об’єднання масивів даних, зокрема різних даних розвідки, супутникових та дронових зображень.

Система аналізує ці дані, а потім може надавати рекомендації щодо наведення цілей. Вона також може пропонувати рівень сили для застосування залежно від наявності персоналу та військової техніки, наприклад літаків.

Але пильність щодо застосування таких інструментів у веденні бойових дій зростає. У лютому Пентагон оголосив, що він поетапно виводитиме з використання систему ШІ Claude від Anthropic — яка допомагає живити Maven — після того, як компанія відмовилася дозволити використання її ШІ в автономній зброї та системах нагляду. Palantir каже, що альтернативи можуть її замінити.

З моменту початку війни з Іраном у лютому США, за повідомленнями, використовували Maven для планування ударів по всій країні.

Демонстраційні кадри Palantir’s Maven Smart System

Під час звернення до BBC щодо ризику того, що Maven може запропонувати неправильні цілі — що може включати цивільних — Mosley наполягав, що платформа призначена лише для того, щоб служити орієнтиром і пришвидшувати процес ухвалення рішень військовим, і що її не слід сприймати як автоматизовану систему наведення цілей.

«Це можна уявити як інструмент підтримки», — сказав Mosley. «Він дає їм змогу синтезувати величезні обсяги інформації, які раніше вони мали б робити вручну — крок за кроком».

Втім, коли BBC ставило Mosley запитання про ризик того, що командири, які працюють під тиском часу, наказують своїм офіцерам брати результат Maven як уже «запротокольований», Mosley переклав відповідальність на конкретні військові сили.

«Це справді запитання для наших військових клієнтів. Саме вони вирішують політико-рамкову основу, яка визначає, хто може ухвалювати яке рішення», — сказав він. «Це не наша роль».

З 28 лютого США запустили понад 11 000 ударів по Ірану, багато з яких, за повідомленнями, були визначені Maven.

Адм. Бред Купер, керівник американських військових на Близькому Сході, похвалив системи ШІ за допомогу офіцерам «прогортати величезні масиви даних за секунди, щоб наші лідери могли відсіяти шум і ухвалювати розумніші рішення швидше, ніж ворог зможе відреагувати».

Фірма зі ШІ Anthropic шукає експерта зі зброї, щоб зупинити користувачів від «зловживання»

OpenAI змінює угоду з військовими США після критики

Трамп наказує уряду припинити використання Anthropic у битві через застосування ШІ

Але дехто побоюється, що участь ШІ в плануванні місій створює суттєві ризики.

«Така пріоритизація швидкості й масштабу, а також застосування сили — тоді залишає зовсім мало часу для змістовної верифікації цілей, щоб переконатися, що там випадково не опинилися цивільні цілі», — сказала проф. Elke Schwarz з Queen Mary University of London.

«Якщо є ризик убивства, і ви підпорядковуєте багато свого критичного мислення програмному забезпеченню, яке подбає про ці речі за вас, тоді ви просто стаєте залежними від програмного забезпечення», — додала вона. «Це гонитва вниз».

Останніми тижнями посадовці Пентагону стикалися з запитаннями щодо того, чи застосовувалися інструменти ШІ на кшталт Maven для визначення цілей у смертельному ударі по школі в іранському містечку Мінаб. Іранські посадовці заявили, що під час удару загинули 168 людей, зокрема близько 110 дітей, у перший день війни.

У Конгресі низка старших демократів закликала до посилення контролю за платформами ШІ на кшталт Maven. Rep Sara Jacobs — член Комітету з питань збройних сил Палати представників — закликала до чітко встановлених правил і нормативів щодо того, як і коли використовуються системи ШІ.

«Інструменти ШІ не є на 100% надійними — вони можуть давати збої в непомітні способи, а оператори все одно продовжують надмірно їм довіряти», — сказала вона NBC News минулого місяця.

«Ми несемо відповідальність за те, щоб запровадити суворі запобіжні обмеження щодо використання ШІ у військових цілях, і гарантувати, що людина перебуває в контурі кожного рішення щодо застосування летальної сили, тому що ціна помилки може бути руйнівною для цивільних і для військовослужбовців, які виконують ці місії».

Але Mosley відкинув припущення, що швидкість платформи його компанії змушує Пентагон поспішати з ухваленням рішень і потенційно створює небезпечні ситуації. Натомість він стверджував, що швидкість, з якою командири зараз вживають дій, є «наслідком підвищеної ефективності», яку забезпечив Maven.

Посилаючись на «операційну безпеку», Пентагон відмовився коментувати, коли до нього зверталася BBC щодо того, як системи ШІ на кшталт Maven застосовуватимуться в майбутньому, або хто відповідатиме, якщо станеться щось невдале.

Але посадовці в США, схоже, рухаються вперед із планами додатково інтегрувати Maven у свої системи.

Минулого тижня новинне агентство Reuters повідомило, що Пентагон визначив Maven як «офіційну програму, що має статус базової» — фактично встановивши його як технологію, яку інтегруватимуть у довгостроковій перспективі в армію США.

У листі, отриманому Reuters, заступник міністра оборони Стів Файнберг сказав, що платформа надасть командирам «найновіші інструменти, необхідні для виявлення, стримування та домінування над нашими супротивниками в усіх доменах».

Додаткові матеріали Джеміме Херд

Штучний інтелект

Війна з Іраном