Керівник Palantir у Великій Британії каже, що це справа армій — вирішувати, як використовувати ШІ для прицілювання у війні

1 день тому

ПоділитисяЗберегти

Додати як улюблене в Google

Марк Цєслак,кореспондент із технологій та

Менн Мерфі,перевірка BBC

Генерал Louis Mosley з Palantir каже, що відповідальні за те, як використовуються системи ШІ

Гігант у сфері технологій Palantir відкинув занепокоєння, що військове застосування його платформ ШІ може призвести до непередбачуваних ризиків, в ексклюзивному інтерв’ю для BBC заявивши, що спосіб використання технології є відповідальністю його військових клієнтів.

Це сталося на тлі того, що експерти висловили занепокоєння щодо використання оборонної платформи Palantir, яка працює на ШІ, — Maven Smart System — під час війни та її повідомлюваного застосування в атаках США на Іран.

Аналітики попереджали, що військове використання платформи, яка допомагає персоналу планувати атаки, залишає дуже мало часу для «значущої верифікації» її результатів і може призвести до ураження неправильних цілей.

Втім, керівник підрозділу Palantir у Великій Британії та Європі Луїс Мозлі розповів BBC у широкому інтерв’ю, що хоча платформи ШІ на кшталт Maven були «інструментальними» для управління війною США проти Ірану, відповідальність за те, як використовується її результат, завжди має залишатися «за військовою організацією».

«Завжди є людина в контурі, тож завжди є людина, яка ухвалює остаточне рішення. Так налаштовано зараз».

Maven Smart System було запущено Пентагоном у 2017 році, і вона призначена пришвидшувати рішення щодо військового прицілювання, об’єднуючи масиви даних, зокрема різні види розвідданих, супутникові та дронові зображення.

Система аналізує ці дані, а потім може надавати рекомендації щодо прицілювання. Вона також може пропонувати рівень застосування сили залежно від наявності персоналу та військової техніки, наприклад літаків.

Але контроль над застосуванням таких інструментів у війні посилився. У лютому Пентагон оголосив, що згортає систему ШІ Claude компанії Anthropic — яка допомагає живити Maven — після того, як компанія відмовилася дозволити використання її ШІ в автономній зброї та системах спостереження. Palantir каже, що альтернативи можуть замінити її.

Відтоді як у лютому почалася війна з Іраном, США, за повідомленнями, використовували Maven для планування ударів по всій країні.

Демонстраційні кадри Palantir Maven Smart System

Підштовхнутий BBC до теми ризику, що Maven може запропонувати неправильні цілі — які можуть включати цивільних — Мозлі наполягав, що платформа призначена лише як орієнтир для пришвидшення процесу прийняття рішень для військовослужбовців і її не слід сприймати як автоматизовану систему прицілювання.

«Можна думати про це як про інструмент підтримки», — сказав Мозлі. «Він дає їм можливість синтезувати величезні обсяги інформації, яку раніше їм доводилося б робити вручну — по одному кроку за кроком».

Втім, коли BBC поставила йому запитання щодо ризику того, що командири, які діють під тиском часу, можуть наказати своїм офіцерам сприймати вихідні дані Maven як «завізований», Мозлі відступив до компетенції окремих армій.

«Це справді питання для наших військових клієнтів. Саме вони визначають політико-рамкову структуру, яка визначає, хто має право ухвалювати яке рішення», — сказав він. «Це не наша роль».

Від 28 лютого США розпочали понад 11 000 ударів по Ірану, і багато з них, за повідомленнями, були визначені Maven.

Адм. Бред Купер, керівник американських військових на Близькому Сході, вихвалив системи ШІ за допомогу офіцерам «за лічені секунди просіювати величезні масиви даних, щоб наші лідери могли відсікати шум і приймати розумніші рішення швидше, ніж противник зможе відреагувати».

Компанія зі ШІ Anthropic шукає експерта зі зброї, щоб зупинити користувачів від «зловживань»

OpenAI змінює угоду з військовими США після негативної реакції

Трамп наказує уряду припинити використовувати Anthropic у битві через використання ШІ

Але дехто хвилюється, що участь ШІ в плануванні місій створює значні ризики.

«Це пріоритезація швидкості й масштабу та застосування сили, а потім залишає дуже мало часу для значущої верифікації цілей, щоб переконатися, що вони не включають цивільні цілі випадково», — сказала проф. Ельке Шварц із Queen Mary University of London.

«Якщо є ризик убивати, і ви підміняєте собі багато критичного мислення програмним забезпеченням, яке подбає про ці речі замість вас, то ви просто стаєте залежними від програмного забезпечення», — додала вона. «Це гонка донизу».

Останніми тижнями посадовці Пентагону стикалися із запитаннями щодо того, чи застосовувалися інструменти ШІ на кшталт Maven для визначення цілей у смертельному ударі по школі в іранському містечку Мінан. Іранські посадовці заявили, що удар убив 168 людей, зокрема приблизно 110 дітей, у перший день війни.

У Конгресі низка старших демократів закликала посилити контроль над платформами ШІ на кшталт Maven. Республіканка Сара Джейкобс — член Комітету Палати представників із питань збройних сил — закликала запровадити чітко встановлені правила та регламенти щодо того, як і коли використовуються системи ШІ.

«Інструменти ШІ не на 100% надійні — вони можуть відмовити приховано й непомітно, а оператори при цьому продовжують надто їм довіряти», — сказала вона в інтерв’ю NBC News минулого місяця.

«Ми маємо відповідальність забезпечити жорсткі запобіжні бар’єри для використання ШІ військовими та гарантувати, що людина буде в контурі в кожному рішенні щодо застосування летальної сили, тому що ціна помилки може бути руйнівною для цивільних і для військовослужбовців, які виконують ці місії».

Але Мозлі відкинув припущення, що швидкість платформи його компанії спрямовує поспішність у прийнятті рішень у Пентагоні та потенційно створює небезпечні ситуації. Натомість він стверджував, що швидкість, з якою командири зараз вживають дій, є «наслідком підвищеної ефективності», яку забезпечив Maven.

Посилаючись на «операційну безпеку», Пентагон відмовився коментувати, коли до нього звернулися з BBC щодо того, як системи ШІ на кшталт Maven використовуватимуть у майбутньому, або хто нестиме відповідальність у разі, якщо станеться щось неправильно.

Але схоже, що посадовці в США рухаються вперед із планами подальшої інтеграції Maven у свої системи.

Минулого тижня інформаційне агентство Reuters повідомило, що Пентагон визначив Maven як «офіційну програму рівня запису» — закріпивши його як технологію, яку інтегруватимуть у довгостроковій перспективі в межах збройних сил США.

У листі, який отримало Reuters, заступник міністра оборони Стів Файнберг сказав, що платформа надасть командирам «найсучасніші інструменти, необхідні для виявлення, стримування та домінування над нашими противниками в усіх доменах».

Додатковий матеріал від Джеміми Герд

Штучний інтелект

Війна в Ірані