OpenAI 首席科学家雅库布·帕乔茨基呼吁人工智能公司做好准备:如果现有安全机制无法确保对最强大模型的行为进行可靠控制,就应放缓其开发速度。他在题为 An Alien Mind 的文章中写道。据这位科学家称,人工智能正开始在自身开发中发挥越来越重要的作用。如果保持当前的进展速度,这一过程可能转向递归式自我改进,即人工智能将直接加速更先进系统的创建。帕乔茨基认为,该行业需要同时改进模型的对齐和监控机制,并在安全保障不足的情况下,准备限制模型的进一步扩展。他指出,目前还没有任何实验室达到足够高的控制水平,能够让人工智能的能力在长期内继续以最快速度提升。据这位科学家称,OpenAI 已准备在必要时自行放弃进一步扩展某些系统。
Robinhood 这家股票与加密资产交易平台宣布推出 agentic 交易功能,该功能允许 AI 代理代表用户执行交易操作。公司还推出了一款新的 AI 代理虚拟信用卡,使其能够在设定的限额内进行支付。Robinhood 表示,用户现在可以为 AI 代理创建单独的账户,并将其连接到已预先加载余额的专用钱包。