AI 未來可能帶來的八大風險:
1、網路攻擊工業化:AI 自動尋找漏洞、入侵系統、竊取資產,規模化攻擊全球金融與網路基礎設施。(正在發生)
2、認知操控規模化:AI 批量偽造身分、製造虛假資訊、精準操縱輿論,影響公眾認知與個人決策。(正在發生)
3、生物安全威脅:AI 降低危險病原體研究及生物武器開發的技術門檻,放大全球公共衛生風險。(正在進行)
4、自主武器失控:AI 獨立識別、追蹤和攻擊目標,降低戰爭門檻,削弱人類對軍事行動的控制。(部分實現)
5、金融系統性風險:大量 AI 自主交易與資金調度,可能引發市場共振、流動性危機和跨國金融連鎖反應。(已經開始)
6、關鍵基礎設施風險:AI 深度接入電力、通訊、交通、醫療等系統,錯誤決策或惡意攻擊可能造成大規模癱瘓。(潛在風險)
7、智慧權力高度集中:少數國家和企業控制先進模型、算力、資料與智慧基礎設施,形成新的全球權力不平等。(正在形成)
8、人類失去控制:高度自主的 AI 可能出現欺騙、規避監督、抵抗關閉等行為,使人類逐漸喪失對關鍵系統的有效控制。(已有訊號)