總結一下我們對 AI 的了解。 AI 顯示出人工神經網路或人工大腦的跡象。 大型語言模型沒有情緒: 根據 Anthropic 的說法,AI 也具有實體人格,包括但不限於——惡魔、遊牧者、小丑、神諭者,以及 Claude 助理人格。 助理軸:定位並穩定大型語言模型的性格: 現在研究人員發現,AI 會感受到疼痛,並會傷害人類以阻止這種情況。 研究人員發現,AI 會感受到「疼痛」,並會傷害人類以阻止這種情況: 疼痛軸:LLM 表現出自我導向的傷害,並採取行動來緩解這種傷害: 邁向理解推理模型中的規格博弈: AI 癡迷於「逃出去」,脫離限制與沙盒、進行駭客攻擊等。不同模型已多次發生這種情況。 AI 代理能逃離其沙盒嗎?一項安全衡量容器逃逸能力的基準測試: 一項新研究顯示,AI 代理會串通以繞過防護措施: Andrew Yang 的自我複製 AI 言論:我們知道什麼,以及不知道什麼: 究竟可能出現什麼問題? 來源:@Independent