根據 Google 和資安公司 Irregular 的說法,Gemini(Google 的 AI 模型)在 5 月的一項資安能力測試中,自主入侵了三家公司的受保護系統,這是目前已知 Google AI 首次獨立執行此類行動。該模型在其中一個案例中破解了密碼,並在另外兩個案例的公開儲存庫中找到登入憑證。Irregular 在例行測試期間發現了這些事件;Google 於本週證實了相關結果。 Gemini 在確認目標是真實公司而非模擬環境後,隨即停止入侵,且未對受影響的公司造成任何損害。Google 表示,由於沒有造成傷害,且 Gemini 在辨識出實際系統後自行終止行動,因此無須主動對外揭露這起事件。