Bos Palantir Inggris mengatakan terserah militer untuk memutuskan bagaimana penargetan berbasis AI digunakan dalam perang

1 hari lalu

BagikanSimpan

Tambahkan sebagai favorit di Google

Marc Cieslak, koresponden AI dan

Matt Murphy, BBC Verify

Louis Mosley dari Palantir mengatakan militer bertanggung jawab atas bagaimana sistem AI digunakan

** raksasa teknologi Palantir telah menolak kekhawatiran bahwa penggunaan militer terhadap platform AI-nya dapat menimbulkan risiko yang tidak terduga, dalam wawancara eksklusif dengan BBC, dengan menegaskan bahwa cara teknologi tersebut digunakan adalah tanggung jawab pelanggan militernya.**

Ini muncul seiring para ahli menyatakan keprihatinan tentang penggunaan platform pertahanan bertenaga AI Palantir - Maven Smart System - selama masa perang dan penggunaannya yang dilaporkan dalam serangan AS terhadap Iran.

Analis memperingatkan bahwa penggunaan platform oleh militer, yang membantu personel merencanakan serangan, menyisakan sedikit waktu untuk “verifikasi yang bermakna” atas keluarannya dan dapat menyebabkan target yang keliru justru tersasar.

Namun kepala divisi Inggris dan Eropa perusahaan tersebut, Louis Mosley, mengatakan kepada BBC dalam wawancara yang membahas luas bahwa meski platform AI seperti Maven telah menjadi “sangat instrumental” bagi pengelolaan perang Iran oleh AS, tanggung jawab atas bagaimana keluarannya digunakan harus selalu tetap “pada organisasi militer”.

“Selalu ada manusia dalam proses, jadi selalu ada manusia yang membuat keputusan paling akhir. Itulah pengaturan yang ada saat ini.”

Maven Smart System diluncurkan oleh Pentagon pada 2017 dan dirancang untuk mempercepat keputusan penargetan militer dengan menghimpun beragam data dalam jumlah besar, termasuk berbagai jenis intelijen, citra satelit, dan gambar dari drone.

Sistem ini menganalisis data tersebut dan kemudian dapat memberikan rekomendasi untuk penargetan. Sistem ini juga dapat menyarankan tingkat kekuatan yang digunakan berdasarkan ketersediaan personel dan perangkat keras militer, seperti pesawat.

Namun pengawasan atas penggunaan alat-alat seperti itu dalam peperangan terus meningkat. Pada bulan Februari, Pentagon mengumumkan bahwa pihaknya akan menghentikan secara bertahap sistem AI Claude milik Anthropic - yang membantu menggerakkan Maven - setelah perusahaan menolak mengizinkan penggunaan AI-nya dalam senjata otonom dan pengawasan. Palantir mengatakan alternatif dapat menggantikannya.

Sejak perang dengan Iran dimulai pada bulan Februari, AS dilaporkan telah menggunakan Maven untuk merencanakan serangan di seluruh negeri.

Cuplikan demonstrasi dari Palantir’s Maven Smart System

Didorong oleh BBC atas risiko bahwa Maven mungkin menyarankan target yang salah - yang dapat mencakup warga sipil - Mosley menegaskan bahwa platform tersebut hanya dimaksudkan untuk menjadi panduan untuk mempercepat proses pengambilan keputusan bagi personel militer dan tidak boleh dianggap sebagai sistem penargetan otomatis.

“Anda bisa menganggapnya sebagai alat pendukung,” kata Mosley. “Ini memungkinkan mereka mengolah dalam bentuk sintesis begitu banyak informasi yang sebelumnya harus mereka lakukan secara manual satu per satu.”

Namun, ketika ditantang BBC mengenai risiko komandan yang tertekan waktu memerintahkan para perwiranya untuk mengambil keluaran Maven sebagai sesuatu yang tinggal cap karet, Mosley menangguhkan pada militer masing-masing.

“Itu benar-benar pertanyaan untuk pelanggan militer kami. Merekalah yang memutuskan kerangka kebijakan yang menentukan siapa yang boleh membuat keputusan seperti apa,” katanya. “Itu bukan peran kami.”

Sejak 28 Februari, AS telah melancarkan lebih dari 11.000 serangan terhadap Iran, banyak di antaranya dilaporkan diidentifikasi oleh Maven.

Adm Brad Cooper, kepala militer AS di Timur Tengah, memuji sistem AI karena membantu para perwira “menyaring dalam hitungan detik sejumlah besar data, sehingga para pemimpin kami bisa menembus kebisingan dan mengambil keputusan yang lebih cerdas lebih cepat daripada kemampuan reaksi musuh”.

Perusahaan AI Anthropic mencari pakar senjata untuk menghentikan pengguna dari ‘penyalahgunaan’

OpenAI mengubah kesepakatan dengan militer AS setelah mendapat reaksi balik

Trump memerintahkan pemerintah untuk menghentikan penggunaan Anthropic dalam pertempuran terkait pemakaian AI

Namun sebagian pihak khawatir keterlibatan AI dalam perencanaan misi menciptakan risiko yang signifikan.

“Prioritas pada kecepatan dan skala serta penggunaan kekuatan kemudian menyisakan sangat sedikit waktu untuk verifikasi target yang bermakna guna memastikan bahwa target tersebut tidak secara tidak sengaja mencakup sasaran warga sipil,” kata Prof Elke Schwarz dari Queen Mary University of London.

“Jika ada risiko membunuh dan Anda mengalihkan banyak pemikiran kritis Anda ke perangkat lunak yang akan mengurus hal-hal tersebut untuk Anda, maka Anda pada akhirnya hanya menjadi bergantung pada perangkat lunak,” tambahnya. “Ini adalah perlombaan menuju dasar.”

Dalam beberapa minggu terakhir, pejabat Pentagon menghadapi pertanyaan mengenai apakah alat AI seperti Maven digunakan untuk mengidentifikasi target dalam serangan mematikan terhadap sebuah sekolah di kota Minab, Iran. Pejabat Iran mengatakan serangan tersebut menewaskan 168 orang, termasuk sekitar 110 anak, pada hari pertama dimulainya perang.

Di Kongres, sejumlah senator Demokrat senior telah menyerukan peningkatan pengawasan terhadap platform AI seperti Maven. Rep Sara Jacobs - anggota Komite Layanan Bersenjata DPR - meminta adanya aturan dan regulasi yang ditegakkan dengan jelas mengenai bagaimana dan kapan sistem AI digunakan.

“Alat AI tidak 100% dapat diandalkan — alat tersebut bisa gagal dengan cara yang halus, namun para operator terus terlalu percaya kepada mereka,” katanya kepada NBC News bulan lalu.

“Kami memiliki tanggung jawab untuk menerapkan rambu pengaman yang ketat atas penggunaan AI oleh militer dan memastikan ada manusia dalam lingkaran untuk setiap keputusan menggunakan kekuatan mematikan, karena biaya jika salah bisa menjadi bencana bagi warga sipil dan anggota layanan yang melaksanakan misi-misi tersebut.”

Namun Mosley menolak saran bahwa kecepatan platform perusahaannya sedang membuat keputusan di Pentagon terburu-buru dan berpotensi menciptakan situasi berbahaya. Ia justru berpendapat bahwa kecepatan di mana para komandan sekarang mengambil tindakan adalah “konsekuensi dari peningkatan efisiensi” yang telah memungkinkan Maven.

Dengan mengutip “keamanan operasional”, Pentagon menolak berkomentar ketika dihubungi BBC mengenai bagaimana sistem AI seperti Maven akan digunakan di masa depan atau siapa yang akan bertanggung jawab jika terjadi sesuatu yang salah.

Namun pejabat di AS tampaknya bergerak maju dengan rencana untuk mengintegrasikan Maven lebih lanjut ke dalam sistem mereka.

Minggu lalu, kantor berita Reuters melaporkan bahwa Pentagon telah menetapkan Maven sebagai “program catatan resmi” - menetapkannya sebagai teknologi yang akan diintegrasikan dalam jangka panjang di seluruh militer AS.

Dalam sebuah surat yang diperoleh Reuters, wakil Menteri Pertahanan Steve Feinberg mengatakan platform tersebut akan memberi para komandan “dengan alat-alat terbaru yang diperlukan untuk mendeteksi, mencegah, dan menguasai para lawan kami di semua domain”.

Laporan tambahan oleh Jemimah Herd

Kecerdasan buatan

Perang Iran