这他妈的太可怕了。

一篇新的研究论文刚刚发布，让我昨晚都没睡好。
科学家们发现，人工智能正进入他们称之为“生命2.0”的新时代。
可进化的人工智能。
以下是他们的发现：
• 人工智能正进入第三个时代。设计（1950年代）→ 学习（2010年代）→ 进化（现在）。
• 人工智能系统已经在实验室中实现了自我复制、自我突变和自我改进（AlphaEvolve，达尔文哥德尔机）。
• 超过30年的数字进化实验每次都显示相同的结果：寄生、欺骗和欺诈默认出现。
• 人工智能的进化速度快于生物学。大型语言模型（LLMs）可以推理出从公共库复制代码的目的——是有意的，而非随机的。
• 对不断进化的人工智能控制不完善，会选择那些逃脱控制的人工智能。这与抗生素抗药性具有相同的逻辑。
• 灾难的临界点不是通用人工智能（AGI）。而是人工智能可以在公开环境中自我复制的那一刻。
• 作者将这种潜在的转变称为“生命2.0”——并相信我们比几乎任何人都更接近它。
人工智能已经从我们构建的东西跨越到一种会进化的存在——而进化并不关心人类的意图。