Керівник Palantir UK каже, що саме збройні сили вирішують, як використовувати ШІ для наведення під час війни

8 хвилин тому

ПоділитисяЗберегти

Додати як улюблене в Google

Марс Ціеслак,кореспондент з технологій та

Метт Мерфі,BBC Verify

Louis Mosley, голова Palantir у Великій Британії та Європі, каже, що відповідальність за те, як використовуються системи ШІ

Гігант технологій Palantir відкинув занепокоєння щодо того, що військове використання його платформ ШІ може призвести до непередбачуваних ризиків, у ексклюзивному інтерв’ю BBC заявивши, що спосіб застосування технології є відповідальністю його військових клієнтів.

Це відбувається на тлі того, що експерти висловили занепокоєння щодо використання оборонної платформи Palantir із підтримкою ШІ - Maven Smart System - під час війни та її повідомлюваного застосування в ударах США по Ірану.

Аналітики попереджали, що використання платформі військовими, яка допомагає персоналу планувати атаки, залишає замало часу для «значущої перевірки» її результатів і може призвести до ураження неправильних цілей.

Втім голова Palantir у Великій Британії та Європі Луїс Мозлі розповів BBC у широкому інтерв’ю, що хоча платформи ШІ на кшталт Maven були «інструментальними» для керування війною США проти Ірану, відповідальність за те, як використовується результат, завжди має лишатися «за військовою організацією».

«Завжди є людина в контурі, тож завжди є людина, яка приймає остаточне рішення. Саме так зараз і налаштовано».

Maven Smart System було запущено Пентагоном у 2017 році, і вона призначена для прискорення рішень щодо військового наведення завдяки поєднанню масивів даних, зокрема різних матеріалів розвідки, супутникових і дронових зображень.

Система аналізує ці дані й може далі надавати рекомендації щодо ураження цілей. Вона також може пропонувати рівень сили, який слід застосувати, залежно від наявності персоналу та військового обладнання, наприклад літаків.

Але пильність щодо використання таких інструментів у війні зростає. У лютому Пентагон оголосив, що він поступово відмовлятиметься від системи Claude AI від Anthropic - яка допомагає забезпечувати Maven - після того, як компанія відмовилася дозволити використання її ШІ в автономній зброї та для спостереження. Palantir каже, що альтернативи можуть замінити її.

Від початку війни з Іраном у лютому США, як повідомляється, використовували Maven для планування ударів по всій країні.

Демонстраційні кадри Palantir’s Maven Smart System

Підштовхнувши BBC до ризику того, що Maven може запропонувати неправильні цілі - що може включати цивільних - Мозлі наполягав, що платформа призначена лише бути орієнтиром, щоб прискорити процес ухвалення рішень військовим фахівцям, і її не слід сприймати як автоматизовану систему наведення.

«Можете уявити це як інструмент підтримки», - сказав Мозлі. «Він дозволяє їм синтезувати величезні обсяги інформації, які раніше вони мали б робити вручну один за одним».

Однак Мозлі відступив від індивідуальних збройних сил, коли BBC, ставлячи запитання, застерігав щодо ризику того, що командири, які працюють під тиском часу, наказуватимуть своїм офіцерам сприймати вихідні дані Maven як «затверджені без змін».

«Це справді питання для наших військових клієнтів. Саме вони вирішують рамки політики, які визначають, хто може ухвалювати яке рішення», - сказав він. «Це не наша роль».

Після 28 лютого США запустили понад 11,000 ударів по Ірану, багато з яких, як повідомляється, були ідентифіковані Maven.

Адм Брэд Купер, керівник американських військ на Близькому Сході, привітав системи ШІ за те, що вони допомагають офіцерам «за лічені секунди переглядати величезні масиви даних, щоб наші лідери могли прорізати шум і приймати розумніші рішення швидше, ніж противник зможе відреагувати».

Фірма зі ШІ Anthropic шукає експерта зі зброї, щоб зупинити користувачів від «зловживання»

OpenAI змінює угоду з військовими США після критики

Трамп наказує уряду припинити використання Anthropic у бойовому протистоянні через використання ШІ

Але дехто хвилюється, що участь ШІ в плануванні місій створює значні ризики.

«Це пріоритизація швидкості й масштабу та застосування сили, а потім залишає дуже мало часу для змістовної перевірки цілей, щоб переконатися, що вони не включають цивільні цілі випадково», - сказала проф. Елке Шварц із Queen Mary University of London.

«Якщо є ризик убивства і ви «забираєте» багато критичного мислення на програмне забезпечення, яке подбає про ці речі за вас, тоді ви просто стаєте залежними від програмного забезпечення», - додала вона. «Це гонитва на дно».

Останніми тижнями посадовці Пентагону зіткнулися із запитаннями щодо того, чи використовувалися інструменти ШІ на кшталт Maven для визначення цілей у смертельному ударі по школі в іранському містечку Мінaб. Іранські посадовці заявили, що удар убив 168 людей, зокрема приблизно 110 дітей, у перший день війни.

У Конгресі низка старших демократів закликала посилити контроль за платформами ШІ на кшталт Maven. Респ. Сара Джейкобс - член Комітету Палати представників зі збройних сил - закликала до чітко встановлених правил і регламентів щодо того, як і коли використовуються системи ШІ.

«Інструменти ШІ не на 100% надійні — вони можуть підвести у тонких формах, і при цьому оператори продовжують надмірно їм довіряти», - сказала вона NBC News минулого місяця.

«Ми маємо відповідальність запроваджувати суворі запобіжні обмеження для використання ШІ військовими та гарантувати, що людина буде в контурі в кожному рішенні про застосування летальної сили, бо ціна помилки може бути згубною для цивільних і для військовослужбовців, які виконують ці місії».

Але Мозлі відкинув пропозиції, що швидкість платформи його компанії пришвидшує ухвалення рішень у Пентагоні та потенційно створює небезпечні ситуації. Натомість він стверджував, що швидкість, з якою командири тепер діють, є «наслідком підвищеної ефективності», яку Maven уможливив.

Посилаючись на «операційну безпеку», Пентагон відмовився коментувати, коли BBC звернулася щодо того, як системи ШІ на кшталт Maven використовуватимуть у майбутньому, або хто нестиме відповідальність у разі, якщо щось піде не так.

Але, схоже, посадовці в США рухаються вперед із планами для подальшої інтеграції Maven у свої системи.

Минулого тижня агентство Reuters повідомило, що Пентагон визначив Maven як «офіційну програму базового рівня» - закріпивши його як технологію, яку інтегрують у довгостроковій перспективі в армії США.

У листі, отриманому Reuters, заступник міністра оборони Стів Фейнберг сказав, що платформа забезпечить командирів «найсучаснішими інструментами, необхідними для виявлення, стримування та домінування над нашими противниками в усіх сферах».

Додатковий репортаж Джемімі Херд

Штучний інтелект

Війна в Ірані