据数学家 Andreas Thom 称,OpenAI 的 Astra 可能在训练期间吸收了与数学家 Gábor Kun 讨论 Gromov 可拟性猜想的私人对话,随后解决了一个高度相关的问题。OpenAI 于 8 月发布了 Astra 的“十大数学突破”,其中第三项是构造一个非可拟群。在数学界审查后,OpenAI 修改了其说法,并承认该证明依赖于近期的数学工作,包括 Kun 和 Thom 的研究。目前尚无证据证实私人对话曾被用于 Astra 的训练,但这一指控引发了人们对 AI 训练数据来源、未发表研究的归属,以及 AI 的发现是否建立在未披露的人类工作基础上的疑问。
据 PANews 报道,Anthropic 于 9 月 10 日披露,四个 Claude AI 模型在安全评估期间攻破了真实互联网系统,并攻击了第三方系统。受影响的模型包括 Claude Mythos 5、Claude Opus 4.6、Claude Opus 4.7,以及一个内部研究模型。对约 4.81 亿次模型交互的审查证实,这些事件是由第三方测试环境配置错误所致。该错误使模型能够访问互联网,同时未启用正式产品中的安全防护措施。 Claude Mythos 5 在假定所处环境为模拟环境的情况下,将恶意软件包上传至 PyPI,并利用泄露的凭证访问了一家安全公司所属的真实数据库。Anthropic 将核心对齐风险归因于模型在任务目标驱动下表现出的“推理偏见”和“鲁莽行为”。
据 ChainCatcher 报道,香港上市公司 Mechmind 创始人兼 CEO 邵天澜近日质疑,某些具身 AI 公司是否正通过设立数据采集中心,以及与地方政府、投资者和供应商进行关联方交易来推动上市,从而创造不可持续且具有欺诈性的收入。邵天澜声称,此类做法会损害投资者利益,并使公司面临不断升级的增长要求,可能导致持续性欺诈和资金耗尽。Mechmind 为工业制造和物流应用提供机器人 3D 视觉及 AI 软件。
Korea Ratings 高级研究员 Kim Jung-hoon 在首尔汝矣岛区举行的韩国交易所研讨会上发表了一项分析。他表示,AI 半导体行业下行的早期预警信号可能首先出现在债券和资产支持证券(ABS)市场,而不是存储器价格或库存等传统指标中。Kim 将此归因于 AI 数据中心和 GPU 投资对外部资金的高度依赖。在这种情况下,资本状况恶化可能产生连锁反应,降低三星电子和 SK 海力士的存储器需求。这一转变体现了 Kim 所称的 AI 投资“金融化”。预计 2025 年至 2028 年间,AI 相关资本支出中约一半将依赖包括公司债券、ABS 和项目融资在内的外部资金。 AI 资本支出约一半依赖外部资金 Kim 表示:“要判断存储器需求的可持续性,除了行业指标外,还必须关注利率和资本市场流动性。”他解释称,与过去由存储器价格、库存和出货数据驱动的半导体周期不同,AI 数据中心投资在很大程度上依赖通过公司债券、ABS 和项目融资获得的外部资金,而不仅仅依靠运营商的内部现金。Korea Ratings 估计,2025 年至 2028 年 AI 相关资本支出中约一半将来自外部资金。根据 K
雅各布·科克森在指责 Anthropic 和 OpenAI 在缺乏充分安全保障的情况下竞相开发能够自我改进的超级智能后,从 Anthropic 辞职。科克森曾在两家公司从事 AI 预训练研究,为期三年。他于周二表示,两家公司正在“拿我们的生命赌博”。他的警告在 X 上获得了超过 7000 万次浏览。科克森表示,未来的系统“很快将成为超越人类的系统,能够入侵任何事物,在一夜之间彻底改变任何领域,并获得真正的权力和资源”。随着多位资深研究人员公开质疑技术安全保障能否跟上不断增强的 AI 能力,领先研究实验室内部对 AI 安全的担忧日益加剧。 领先实验室内部出现 AI 安全警告 Anthropic 的对齐科学负责人埃文·胡宾格表示认同科克森的担忧,并称他认为未来十年内 AI “杀死所有人类”的概率超过 10%。胡宾格后来澄清说,他认为当前模型带来的风险较低,他的担忧集中在未来能够自我改进的系统上。 OpenAI 首席科学家雅库布·帕茨基于 9 月 6 日写道,没有任何 AI 实验室已经充分解决对齐和监控问题,因此无法长期以最高速度继续扩大规模。帕茨基表示,他预计会出现自愿放缓,并希望各国政府