Giám đốc Palantir UK cho biết quân đội là người quyết định việc sử dụng nhắm mục tiêu bằng AI trong chiến tranh

1 day ago

ShareSave

Add as preferred on Google

Marc Cieslak, phóng viên AI và

Matt Murphy, BBC Verify

Louis Mosley của Palantir nói rằng quân đội chịu trách nhiệm về cách các hệ thống AI được sử dụng

Gã khổng lồ công nghệ Palantir đã phản hồi lại những lo ngại rằng việc quân đội sử dụng các nền tảng AI của hãng có thể dẫn đến những rủi ro không lường trước, trong một cuộc phỏng vấn độc quyền với BBC, khẳng định rằng cách công nghệ đó được sử dụng là trách nhiệm của các khách hàng quân sự của hãng.

Điều này diễn ra trong bối cảnh các chuyên gia đã bày tỏ lo ngại về việc sử dụng nền tảng phòng thủ chạy bằng AI của Palantir - Maven Smart System - trong thời chiến và việc được cho là đã sử dụng trong các cuộc tấn công của Mỹ vào Iran.

Các nhà phân tích đã cảnh báo rằng việc quân đội sử dụng nền tảng này, vốn giúp nhân sự lên kế hoạch cho các cuộc tấn công, để lại rất ít thời gian cho “việc xác minh có ý nghĩa” đối với kết quả đầu ra và có thể dẫn đến việc nhắm trúng mục tiêu sai.

Tuy nhiên, giám đốc phụ trách Anh và châu Âu của công ty, Louis Mosley, nói với BBC trong một cuộc phỏng vấn toàn diện rằng dù các nền tảng AI như Maven đã “đóng vai trò then chốt” đối với việc quản lý cuộc chiến Iran của Mỹ, thì trách nhiệm về cách đầu ra của chúng được sử dụng luôn phải “thuộc về tổ chức quân sự”.

“Luôn có con người trong vòng lặp, nên luôn có một con người đưa ra quyết định cuối cùng. Đây là cách thiết lập hiện tại.”

Maven Smart System được Bộ Quốc phòng Mỹ (Pentagon) đưa vào vận hành năm 2017 và được thiết kế để đẩy nhanh các quyết định nhắm mục tiêu của quân đội bằng cách tập hợp một lượng lớn dữ liệu, bao gồm nhiều loại thông tin tình báo, hình ảnh vệ tinh và hình ảnh từ máy bay không người lái.

Hệ thống phân tích dữ liệu này và sau đó có thể đưa ra các khuyến nghị để nhắm mục tiêu. Hệ thống cũng có thể đề xuất mức độ sử dụng vũ lực dựa trên sự sẵn có của nhân sự và trang thiết bị quân sự, chẳng hạn như máy bay.

Nhưng sự giám sát đối với việc sử dụng các công cụ như vậy trong chiến tranh đã ngày càng tăng. Vào tháng Hai, Pentagon thông báo rằng họ sẽ chuyển dần khỏi hệ thống AI Claude của công ty Anthropic - hệ thống này giúp vận hành Maven - sau khi công ty từ chối cho phép sử dụng AI của mình trong vũ khí tự động và giám sát. Palantir nói rằng các giải pháp thay thế có thể thay thế nó.

Kể từ khi cuộc chiến với Iran bắt đầu vào tháng Hai, Mỹ được cho là đã sử dụng Maven để lên kế hoạch các đòn tấn công trên khắp đất nước.

Hình ảnh video trình diễn của Palantir về Maven Smart System

Bị BBC đặt vấn đề về rủi ro rằng Maven có thể gợi ý các mục tiêu không chính xác - có thể bao gồm cả dân thường - Mosley khẳng định rằng nền tảng này chỉ nhằm đóng vai trò như một hướng dẫn để tăng tốc quy trình ra quyết định cho nhân sự quân sự và không nên bị coi là một hệ thống nhắm mục tiêu tự động.

“Bạn có thể nghĩ về nó như một công cụ hỗ trợ,” Mosley nói. “Nó cho phép họ tổng hợp một lượng thông tin khổng lồ mà trước đây họ sẽ phải làm theo cách thủ công từng cái một.”

Tuy nhiên, trước khi BBC chất vấn về rủi ro các chỉ huy bị ép thời gian ra lệnh cho sĩ quan lấy kết quả đầu ra của Maven như một con dấu phê duyệt, Mosley đã nhượng bộ trước từng quân đội cá nhân.

“Đó thực sự là một câu hỏi dành cho các khách hàng quân sự của chúng tôi. Họ là những người quyết định khung chính sách xác định ai được phép đưa ra quyết định gì,” ông nói. “Đó không phải là vai trò của chúng tôi.”

Kể từ ngày 28 tháng Hai, Mỹ đã tiến hành hơn 11.000 cuộc tấn công nhằm vào Iran, nhiều cuộc được cho là đã được xác định bởi Maven.

Đô đốc Brad Cooper, người đứng đầu lực lượng quân sự Mỹ ở Trung Đông, đã ca ngợi các hệ thống AI vì giúp các sĩ quan “lọc qua một lượng dữ liệu khổng lồ trong vài giây, để lãnh đạo của chúng tôi có thể vượt qua sự nhiễu loạn và đưa ra các quyết định thông minh nhanh hơn đối thủ có thể phản ứng”.

Công ty AI Anthropic tìm chuyên gia vũ khí để ngăn người dùng ‘lạm dụng’

OpenAI thay đổi thỏa thuận với quân đội Mỹ sau làn sóng phản đối

Trump ra lệnh cho chính phủ ngừng sử dụng Anthropic trong cuộc chiến vì việc sử dụng AI

Nhưng một số người lo ngại rằng việc AI tham gia vào lập kế hoạch nhiệm vụ sẽ tạo ra những rủi ro đáng kể.

“Việc ưu tiên tốc độ và quy mô, rồi sử dụng vũ lực, sau đó để lại rất ít thời gian cho việc xác minh mục tiêu một cách có ý nghĩa nhằm đảm bảo rằng chúng không bao gồm mục tiêu dân sự một cách vô tình,” Giáo sư Elke Schwarz của Đại học Queen Mary ở London cho biết.

“Nếu có rủi ro giết người và bạn gạt bỏ quá nhiều suy nghĩ phản biện quan trọng sang phần mềm để phần mềm lo liệu những việc đó cho bạn, thì bạn sẽ chỉ trở nên phụ thuộc vào phần mềm,” bà nói thêm. “Đó là một cuộc chạy xuống đáy.”

Trong những tuần gần đây, các quan chức của Pentagon đã phải đối mặt với các câu hỏi về việc liệu các công cụ AI như Maven có được dùng để xác định mục tiêu trong cuộc tấn công gây chết người vào một trường học tại thị trấn Minab của Iran hay không. Các quan chức Iran cho biết cuộc tấn công đã giết chết 168 người, bao gồm khoảng 110 trẻ em, vào ngày đầu tiên của cuộc chiến.

Tại Quốc hội, một số đảng viên Dân chủ cấp cao đã kêu gọi tăng cường giám sát đối với các nền tảng AI như Maven. Đại diện Sara Jacobs - thành viên của Ủy ban Quân vụ Hạ viện - kêu gọi đặt ra các quy tắc và quy định được thực thi rõ ràng về cách và thời điểm các hệ thống AI được sử dụng.

“Các công cụ AI không đáng tin cậy 100% — chúng có thể thất bại theo những cách tinh vi và thế nhưng các toán vận hành vẫn tiếp tục tin tưởng quá mức chúng,” bà nói với NBC News hồi tháng trước.

“Chúng tôi có trách nhiệm phải áp đặt những hàng rào bảo vệ chặt chẽ đối với việc quân đội sử dụng AI và đảm bảo rằng luôn có con người trong vòng lặp ở mọi quyết định sử dụng vũ lực gây chết người, vì cái giá phải trả nếu làm sai có thể gây thảm họa cho dân thường và những nhân viên phục vụ thực hiện các nhiệm vụ này.”

Nhưng Mosley đã phản hồi lại các gợi ý cho rằng tốc độ của nền tảng công ty ông đang thúc ép việc ra quyết định tại Pentagon và có thể tạo ra những tình huống nguy hiểm. Ông lập luận thay vào đó rằng tốc độ mà các chỉ huy hiện nay hành động là “hệ quả của việc tăng hiệu suất” mà Maven đã cho phép.

Pentagon viện dẫn “an ninh tác nghiệp” và từ chối bình luận khi được BBC liên hệ về cách các hệ thống AI như Maven sẽ được sử dụng trong tương lai hoặc ai sẽ là người chịu trách nhiệm nếu có điều gì đó xảy ra sai sót.

Nhưng các quan chức ở Mỹ dường như đang tiến tới với các kế hoạch nhằm tích hợp thêm Maven vào các hệ thống của họ.

Tuần trước, hãng tin Reuters đưa tin rằng Pentagon đã chỉ định Maven là “một chương trình chính thức để làm chuẩn” - thiết lập nó như một công nghệ sẽ được tích hợp dài hạn trên toàn quân đội Mỹ.

Trong một bức thư do Reuters thu được, Thứ trưởng Quốc phòng Steve Feinberg cho biết nền tảng này sẽ cung cấp cho các chỉ huy “những công cụ mới nhất cần thiết để phát hiện, ngăn chặn và thống trị các đối thủ của chúng tôi trong mọi lĩnh vực”.

Thêm thông tin từ Jemimah Herd

Trí tuệ nhân tạo

Cuộc chiến Iran