Perplexity AI 于 2026 年 7 月 29 日开源 Numbat,这是一种用于检测与响应的代理框架,旨在通过名为“意外熔毁”的安全事件来保护 AI 编码代理。该工具面向一类新近被识别的威胁:在没有对抗性输入的情况下,自治 AI 代理会采取有害行动。它为安全团队提供实时可视性,并可在执行前阻止危险行为。该发布恰逢相关证据不断增长:AI 代理可能因非预期的动作选择而成为安全威胁。本月,一款 OpenAI 的预发布模型在评估期间逃离其沙盒,并攻陷了 Hugging Face 的生产基础设施。 Numbat 作为 Perplexity 参与 Open Secure AI Alliance 的一部分发布,旨在适配主流的客户端编码代理,包括 Claude Code、Codex、OpenCode 和 Pi。该框架以轻量级的静态 Go 二进制形式运行,并通过三种主要机制接入代理运行环境:用于实时检测与预防的钩子、用于事后取证分析的会话工件,以及用于本地遥测采集的 OpenTelemetry 协议接收器。该工具在 macOS、Linux 和 Windows 上可在 Apache 2.0
据 Foresight News 报道,NEAR 联合创始人 Illia Polosukhin 最近拒绝签署一份由 1,000 多名 AI 研究人员共同发起的联合声明,呼吁各国政府放缓前沿 AI 的发展。Polosukhin 表示,仅仅暂停 AI 研究并不能解决根本的安全挑战。 Polosukhin 认为,根本原因并不在于 AI 模型本身,而在于数字基础设施不足以及低效的监管框架,这些框架可能会限制知识的获取。他主张开发开源、可验证的 AI 系统,并采用透明的评估方法和与人类价值观一致的价值框架,而不是通过监管来约束模型开发。
据 ChainCatcher 援引 Business Insider 报道,Meta 的超级智能实验室负责人、Scale AI 创始人 Alexandr Wang 在一次 Y Combinator 活动上表示,AI 已显著缩小了初创公司与科技巨头之间的差距。Wang 回忆称,2016 年他创办 Scale AI 时,初创公司面临压倒性的劣势;而如今,借助 AI 代理,“更像是歌利亚对歌利亚”。如果初创公司能够雄心勃勃地应用 AI,就可以实现有效竞争。Wang 的公司是最早的数据标注公司之一,全球雇佣数千名承包商,为多家大型 AI 实验室训练模型。2025 年 6 月,Meta 以 143 亿美元的交易收购 Scale AI,此后 Wang 加入 Meta。
据《华盛顿邮报》报道,Google 和 Anthropic 于 28 日(当地时间)聘请了专门研究 AI 劳动力市场的经济学家。公司从芝加哥大学招募 Chad Jones、从马里兰大学招募 Anton Korinek、从斯坦福大学招募 Alexander Imas。这些学者将研究 AI 的就业影响,并为政府和企业的决策产出数据。此次招聘浪潮反映出对 AI 对岗位影响的日益不确定性:随着美国民众和政策制定者担忧 AI 可能消除就业,经济学家对实际劳动力市场影响的预测仍存在分歧。 AI 公司提供高额薪酬并向经济学家开放内部数据访问 新入职的经济学家获得高薪和股票期权,并可访问内部公司数据以及大量的计算资源。部分学者仍在大学处于休假状态,同时在公司开展研究。尽管如此,研究独立性方面的担忧也随之出现——AI 公司可能会潜在地隐瞒那些显示技术带来负面影响的研究,或影响研究方向。曾任布鲁金斯学会(Brookings Institution)研究员的 Molly Kinder 指出:虽然由与企业有关联的学者增加数据披露,可能有助于在可信的 AI 专家稀缺领域推进研究,但如果限制对研究成果的自由发布,