Керівник Palantir UK заявляє, що саме військові мають вирішувати, як використовуватиметься ШІ для прицілювання у війні

3 дні тому

ПоділитисяЗберегти

Додати як обране в Google

Марс Цеслак,AI кореспондентand

Метт Мерфі,BBC Verify

Louis Mosley з Palantir каже, що військові несуть відповідальність за те, як використовуються його системи ШІ

Супергігант Palantir відступив від занепокоєнь, що військове використання його платформ ШІ може призвести до непередбачуваних ризиків. У ексклюзивному інтерв’ю BBC компанія наполягала, що спосіб застосування технології — це відповідальність її військових клієнтів.

Це відбувається на тлі того, що експерти висловили занепокоєння щодо використання оборонної платформи Palantir із підтримкою ШІ — Maven Smart System — під час війни та її, як повідомляється, застосування в атаках США на Іран.

Аналітики попереджали, що військове використання платформи, яка допомагає персоналу планувати атаки, залишає надто мало часу для «значущої перевірки» її результатів і може призвести до ураження неправильних цілей.

Але керівник компанії у Великій Британії та Європі Louis Mosley сказав BBC у широкому інтерв’ю, що, хоча платформи ШІ на кшталт Maven були «інструментальними» для управління війною США проти Ірану, відповідальність за те, як використовуються їхні результати, завжди має залишатися «за військовою організацією».

«Завжди є людина в контурі, тож завжди є людина, яка ухвалює остаточне рішення. Так виглядає поточна схема».

Maven Smart System було запущено Пентагоном у 2017 році, і вона призначена прискорити ухвалення рішень щодо військового прицілювання, об’єднуючи масиви даних, зокрема різні джерела розвідки, супутникові та дронові зображення.

Система аналізує ці дані, а далі може надавати рекомендації щодо прицілювання. Вона також може пропонувати рівень сили, яку слід застосувати, залежно від наявності персоналу та військової техніки, наприклад літаків.

Та посилюється пильність щодо використання таких інструментів у війні. У лютому Пентагон оголосив, що він поступово відмовлятиметься від системи ШІ Claude компанії Anthropic — яка допомагає живити Maven — після того, як компанія відмовилася дозволити використання її ШІ в автономній зброї та для спостереження. Palantir каже, що альтернативи можуть її замінити.

Від початку війни з Іраном у лютому США, як повідомляється, використовували Maven для планування ударів по всій країні.

Демонстраційні кадри Palantir Maven Smart System

Після того як BBC вказала на ризик того, що Maven може запропонувати неправильні цілі — що може включати цивільних, — Mosley наполягав, що платформа призначена лише бути орієнтиром, щоб пришвидшити процес ухвалення рішень для військового персоналу, і її не слід сприймати як автоматизовану систему прицілювання.

«Можеш думати про це як про інструмент підтримки», — сказав Mosley. «Він дозволяє їм синтезувати величезні обсяги інформації, які раніше їм доводилося б робити вручну — крок за кроком, одне за одним».

Однак Mosley відкинув зауваження, висловлені BBC, щодо ризику того, що командири, які працюють у цейтноті, можуть наказати своїм офіцерам сприймати вихідні дані Maven як «підтверджені за замовчуванням».

«Це справді питання для наших військових клієнтів. Саме вони вирішують політико-рамкову основу, що визначає, хто має ухвалювати яке рішення», — сказав він. «Це не наша роль».

З 28 лютого США розпочали понад 11 000 ударів по Ірану, багато з яких, як повідомляється, були визначені Maven.

Адм. Бред Купер, керівник американських військових на Близькому Сході, вихваляв системи ШІ за те, що вони допомагають офіцерам «за лічені секунди просіювати величезні обсяги даних, тож наші лідери можуть відсікати інформаційний шум і ухвалювати розумніші рішення швидше, ніж ворог встигає відреагувати».

Фірма зі ШІ Anthropic шукає експерта з озброєнь, щоб зупинити користувачів від «зловживання»

OpenAI змінює угоду з американськими військовими після негативної реакції

Трамп наказує уряду припинити використовувати Anthropic у бойових діях через суперечку щодо використання ШІ

Але дехто побоюється, що участь ШІ в плануванні місій створює суттєві ризики.

«Це пріоритизація швидкості та масштабу, а також застосування сили, а потім — дуже мало часу для змістовної верифікації цілей, щоб переконатися, що вони не включають випадково цивільні цілі», — сказала проф. Елке Шварц із Університету Queen Mary у Лондоні.

«Якщо є ризик убивства, і ти “підключаєш” великий обсяг власного критичного мислення до програмного забезпечення, яке подбає про ці речі замість тебе, то ти просто починаєш покладатися на програмне забезпечення», — додала вона. «Це гонитва на дно».

Упродовж останніх тижнів посадовців Пентагону запитували, чи використовували інструменти ШІ на кшталт Maven для визначення цілей під час смертельного удару по школі в іранському місті Міньяб. Іранські посадовці заявили, що удар забрав життя 168 людей, зокрема приблизно 110 дітей, у перший день війни.

У Конгресі кілька високопосадових демократів закликали до посиленого контролю за платформами ШІ на кшталт Maven. Rep Сара Джейкобс — член Комітету у справах збройних сил Палати представників — закликала запровадити чітко встановлені правила й нормативні акти щодо того, як і коли використовуються системи ШІ.

«Інструменти ШІ не є на 100% надійними — вони можуть виходити з ладу тонкими, непомітними способами, а оператори все одно продовжують їм надмірно довіряти», — сказала вона в NBC News минулого місяця.

«Ми несемо відповідальність за те, щоб запровадити суворі запобіжні обмеження у використанні ШІ військовими, і гарантувати, що людина перебуває в контурі кожного рішення щодо застосування смертельної сили, тому що ціна помилки може бути руйнівною для цивільних і для військовослужбовців, які виконують ці місії».

Але Mosley відкинув припущення, що швидкість платформи його компанії поспішає ухвалення рішень у Пентагоні та потенційно створює небезпечні ситуації. Натомість він стверджував, що швидкість, з якою командири тепер вживають заходів, є «наслідком підвищеної ефективності», яку забезпечив Maven.

Посилаючись на «операційну безпеку», Пентагон відмовився коментувати, коли BBC звернулася із запитом про те, як системи ШІ на кшталт Maven використовуватимуться в майбутньому, або хто нестиме відповідальність у разі, якщо щось піде не так.

Та, схоже, посадовці в США рухаються вперед із планами ще глибше інтегрувати Maven у свої системи.

Минулого тижня агентство Reuters повідомило, що Пентагон визначив Maven як «офіційну програму, що відповідає за реальність» — закріпивши його як технологію для інтеграції у довгостроковій перспективі в межах збройних сил США.

У листі, який отримав Reuters, заступник міністра оборони Стів Файнберг сказав, що платформа надасть командирам «найсучасніші інструменти, необхідні для виявлення, стримування та домінування над нашими супротивниками в усіх доменах».

Додатковий репортаж Джеміми Херд

Штучний інтелект

Війна з Іраном