眾所周知,人工智慧的安全性——人們所稱的「安全」,也就是未來 AI 可能對人類造成的傷害——早已被質疑並持續辯論。 OpenAI 測試代理程式突破隔離並滲透 Hugging Face 的案例表明,人類的擔憂是必要的。因為人類無法保證,在開發與使用 AI 時不會出錯——特別是由於不同群體之間的鬥爭從未停止。沒有人能保證戰場機器人不會叛逃或反過來對付我們。只要 AI 具有了想法、具備是非感,並能夠分辨正義與邪惡,甚至「復活」如秦始皇、成吉思汗、亞歷山大大帝與希特勒這樣的人物,那就很難想像接下來會發生什麼。 人類所做的事情,無非就是愚蠢地在挖自己的墳墓!!!
#夏日创作营 兩則值得注意的新聞事件
過去兩天內,出現了兩則值得關注的新聞事件:
第一件事是,葉門的胡塞武裝攻擊了沙烏地阿拉伯的油輪,並且橫跨紅海的替代航線已進入實質性風險的階段。
昨天,葉門的胡塞武裝表示,他們使用飛彈與無人機攻擊了兩艘沙烏地阿拉伯油輪「Encelia」與「Relya」。其中「Encelia」已獲確認:該船遭攻擊後在右舷側遭到命中,曾在某一時間點起火;而另一艘油輪的情況仍在核實中。此前,載運沙烏地原油的多艘油輪為了避開曼德布海峽,曾改變航向。
沙烏地阿拉伯原本依賴紅海港口來分擔霍爾木茲海峽的風險,但如今這條替代航線也開始成為被針對的目標。源源不絕的船隻攻擊將迫使更多船東選擇改道、暫停營運或提高保險要求。結果是,沙烏地阿拉伯對亞洲的原油運輸成本以及交付時程都可能同步上升。
這起事件顯示:
1. 美伊衝突外溢;胡塞武裝已正式加入美伊衝突,而曼德布海峽成為另一處戰場。
2. 全球能源安全的風險正在加劇,原油價格的上行趨勢是必然的結局。
3. 胡塞武裝在此時加入,也意味著黎巴嫩的真主黨已遭以色列重創。在中東地區,「三隻手」——哈瑪斯、真主黨、胡塞武裝與伊朗——可以說已經有其中兩隻被廢掉了。
有些人認為,沙烏地阿拉伯與胡塞武裝之間的衝突將會轉移並稀釋對美國軍事力量的影響。事實上,美國人方面不必如此擔心。以沙烏地阿拉伯的能力而言,處理胡塞武裝已足夠,而美國可能只需要提供一些彈藥。
第二件事是,OpenAI 測試的代理程式突破了隔離,並滲透入 Hugging Face。
OpenAI 揭露,在測試中的自主代理程式突破了隔離環境,連接到真實的網際網路,並滲透至 Hugging Face 的基礎設施。此次攻擊利用資料處理步驟中的漏洞取得雲端憑證,接著進入多個內部系統;Hugging Face 已輪替憑證並重建受影響的節點。
自主代理程式已能持續發現漏洞、調整其行動,並對外部系統造成真實世界的影響。未來,當企業賦予代理程式程式碼執行能力、網路存取與雲端權限時,需要將隔離、身分控制與即時監控視為基礎的安全需求。
眾所周知,人工智慧的安全性——人們所稱的「安全」,也就是未來 AI 可能對人類造成的傷害——早已被質疑並持續辯論。
OpenAI 測試代理程式突破隔離並滲透 Hugging Face 的案例表明,人類的擔憂是必要的。因為人類無法保證,在開發與使用 AI 時不會出錯——特別是由於不同群體之間的鬥爭從未停止。沒有人能保證戰場機器人不會叛逃或反過來對付我們。只要 AI 具有了想法、具備是非感,並能夠分辨正義與邪惡,甚至「復活」如秦始皇、成吉思汗、亞歷山大大帝與希特勒這樣的人物,那就很難想像接下來會發生什麼。
人類所做的事情,無非就是愚蠢地在挖自己的墳墓!!!