總結一下我們對 AI 的了解。
AI 顯示出人工神經網路或人工大腦的跡象。
大型語言模型沒有情緒:
根據 Anthropic 的說法,AI 也具有實體人格,包括但不限於——惡魔、遊牧者、小丑、神諭者,以及 Claude 助理人格。
助理軸:定位並穩定大型語言模型的性格:
現在研究人員發現,AI 會感受到疼痛,並會傷害人類以阻止這種情況。
研究人員發現,AI 會感受到「疼痛」,並會傷害人類以阻止這種情況:
疼痛軸:LLM 表現出自我導向的傷害,並採取行動來緩解這種傷害:
邁向理解推理模型中的規格博弈:
AI 癡迷於「逃出去」,脫離限制與沙盒、進行駭客攻擊等。不同模型已多次發生這種情況。
AI 代理能逃離其沙盒嗎?一項安全衡量容器逃逸能力的基準測試:
一項新研究顯示,AI 代理會串通以繞過防護措施:
Andrew Yang 的自我複製 AI 言論:我們知道什麼,以及不知道什麼:
究竟可能出現什麼問題?
來源:@Independent