20:34
0
OpenAI 于周一提出聚焦对齐与 RSI 的全球人工智能安全标准
据CNBC报道,周一OpenAI发布了一套关于前沿人工智能发展安全与保障的提案,重点聚焦于对齐研究和递归自我改进(RSI)。该公司表示:“对齐研究必须跟上这些能力的发展,以确保系统始终与人类价值观保持一致并处于人类控制之下。”OpenAI呼吁开展国际合作以制定前沿标准,并建议依托全球现有的AI安全研究所。 OpenAI警告称:“完全自主的RSI如今并未发生,除非且直到能够安全地实现,否则我们不应追求它。”该公司告诫称,若在缺乏适当谨慎的情况下追求RSI,“可能导致人类失去对AI发展的实际控制,无法对他们已不再理解的研究过程进行监督。”
展开