许多讨论 AI 安全的人,当年并未出生,或不记得 25 年前的今天开始的全球反恐战争初期。
我认为其中有一些相关的教训。
首先,9/11 是利用一种广泛可得的技术实施的——美工刀。实际上,根本没有可行办法阻止任何拥有 5 美元的人获得美工刀。
AI 似乎很可能会沿着成本更低、准入门槛更低的轨迹发展(你可以在自己的机器上运行一个足够好的模型)。
最直接的应对措施是成立 TSA,并制定我们如今都知道且厌恶的机场安检规程。即使在最理想的情况下,这也是一场打地鼠游戏,而有动机的人总能找到办法把武器带进去。毕竟,飞机上的其他人都没有武器(除非有罕见的空警),所以门槛低得就像美工刀一样。
一个很好的例子是鞋底炸弹袭击者 Richard Reid。一个混蛋试图把炸弹藏在鞋子里,结果机场安检不得不让数十亿只鞋子在 20 年间接受检查。
这不可避免地是一种杂乱且漏洞百出的方式,只能提高所有人抵御恶意行为者的安全性。
其次,效果相当不错的是识别谁有实施恐怖行为的动机。
大多数购买美工刀的人根本没兴趣劫持飞机,所以试图抓住那些带着美工刀且还想劫机的人很难。更有效的做法是找出谁想劫持飞机,并阻止他们获得那把美工刀(或美工刀替代品)。
无论你如今对监控国家的权衡利弊有何看法,它似乎大体上有能力对 AI 滥用采取同样的做法。真正令人害怕的事件似乎都来自我们已经因洗钱、恐怖主义和国家行为者的恶意活动而监控的同一