許多討論 AI 安全的人,當年 25 年前開始的全球反恐戰爭拉開序幕時還沒出生,或已不記得那段早期歲月。
我認為其中有一些相關的教訓。
首先,9/11 是利用一項廣泛可取得的技術——美工刀——策劃執行的。實際上,根本不可能阻止任何只要有 5 美元的人取得美工刀。
AI 似乎很可能會朝著成本更低、進入門檻更低的方向發展(你可以在自己的機器上執行一個夠好的模型)。
當時的直接回應,是成立 TSA 並制定我們今天都熟知且深惡痛絕的機場安檢規範。即使在最理想的情況下,這也是一場打地鼠遊戲,而有動機的人總能找到方法把武器帶上飛機。畢竟,飛機上的其他人都沒有武器(除非罕見地有空警),所以門檻低到只需一把美工刀。
一個很好的例子就是鞋底炸彈客 Richard Reid。一個混蛋試圖把炸彈藏在鞋子裡,結果機場安檢在 20 年間不得不檢查數十億雙鞋。
這必然是一種雜亂且漏洞百出的方式,只能提高所有人對不法分子的安全防護。
其次,效果相當不錯的是辨識誰有動機策劃恐怖行動。
大多數購買美工刀的人根本沒興趣劫持飛機,所以要試圖抓出那些手上有美工刀、又想劫持飛機的人很困難。找出誰想劫持飛機,並阻止他們取得那把美工刀(或美工刀的替代品),會有效得多。
不論你對當今監控國家的權衡有何看法,它似乎大致有能力對 AI 濫用做同樣的事。真正令人害怕的事件案例,似乎都來自那些我們早已因洗錢、恐怖主義和國家行為者的惡作劇