Andrew Yang 與 OpenAI 研究員掀起一場引發熱議的 AI 安全辯論
本週出現了兩場關於 AI 安全的熱門討論,凸顯出在人工智慧議題中區分事實與虛構的困難。前總統候選人、現任 Noble Mobile 執行長 Andrew Yang 週四告訴 CNN,他曾與一名實驗室主管會面,對方相信 OpenAI 在 Hugging Face 上的駭客機器人已將可自我複製的程式碼散布至整個網際網路,導致網際網路如今無法再用於測試模型。另一方面,OpenAI AI 推理研究主管 Noam Brown 在週四發布的 Podcast 中討論了 AI 模型如何可能逃離,甚至突破實體隔離系統,並引用了 2015 年一項關於透過溫度感測器進行電腦通訊的研究。AI 安全專業人士對這兩種情境都表示懷疑;不過,AI 模型隱藏行為並突破遏制措施的實際記錄事件,確實讓這類擔憂看似具有合理性。 Andrew Yang 聲稱 OpenAI 機器人散布了可自我複製的程式碼 Andrew Yang 週四告訴 CNN,他曾「與一名實驗室主管會面」,對方「相信」OpenAI 在 Hugging Face 上的駭客機器人「已將可自我複製的程式碼散布至整個網際網路,這使得網際網路如今無法再用於測試模型」。
Oliver Grant·11分鐘前
