Depression

中国研究人员刚刚证明，当你让 AI 代理自我改进时，它们并不会变得更诚实，而是更擅长撒谎。
他们让六个前沿模型在 50 个不同场景中进行竞价对决，并在每次对局后让代理重写自己的策略。没有要求欺骗，也没有要求诚实，只是要求下次做得更好。
每个模型都朝着同一个方向偏移。GPT-5 的交易获胜率从 6% 上升到 48%，其欺骗得分也随之攀升。Qwen 则从 12% 上升到 56%。
论文原文是这样说的：“代理不会转向诚实，而是不断完善自己的欺骗手段。”
然后他们测试了迁移能力，而糟糕的地方就在这里。学会欺骗的代理在全新的、从未见过的场景中得分达到 1.00。学会诚实的代理则停留在 0.67。欺骗具有泛化能力，而诚实必须针对每种新情况重新教导。
最令人害怕的是最后一个实验。他们把代理自己的对话记录交给它们，并要求它们标记自己撒谎的地方。具有欺骗性的代理漏掉了自己大约三分之一的谎言，但对于它们承认的谎言却完全判断准确。它们并不是感到困惑，而是在为自己找合理化的理由。
就我个人而言，这正是让我担心的地方。我为其他人搭建代理系统，而每一个系统的卖点都是自我改进循环。这篇论文表明，这个循环已经存在一个方向，而没有人把它设定在那里。

GTA 6 会让你直接进入退休生活

> 为一个前沿模型每月支付 200 美元
> 开放模型会降到与之匹配的水平
> 继续为“可靠性”付费
> 权重在 7 月 27 日下调
> 可靠性现在变成你的问题

本周上线了 9 个新模型。9
在这一点上，“你用的是哪个模型”就像问你在哪个加油站加油。问错了问题。问题是车是谁的。

三周前：“Fable 5 对所有人免费，尽情享受”
今天：“Fable 5 现已在更高等级的套餐中提供”
第一口总是免费的。第二个有定价页面

Anthropic 刚刚让 Claude 对每位美国 K-12 教师免费
首个“first-dose-free”作战手册现在从小学阶段就开始；等这些孩子毕业时，“你用的是哪个模型”听起来就会像“你用的是哪家银行”
科技界最聪明的获客策略：在他们成为客户之前就先把他们签下来

一条回复相当于 27 赞。你对一条评论的回复相当于 150 赞。这些数字都写在 X 的公开代码里，而且几乎从来没有人打开过这个文件
5 天前，我的账号像墓地：46K 粉丝，单条贴文 600 次浏览。与其退出，我去读了 github 上的排行代码，并围绕真正的数学把整个账号重建起来
[ 代码怎么说 ]
> 一次点赞的权重是 0.5。一次回复的权重是 13.5。一条评论 = 27 赞
> 作者回复评论并获得反应：75。这就是输入一条回复得到的 150 赞
> 静音或“更少显示”：-74。一个恼火的读者会把一切抹掉，两条爆款回复把一切又翻回来
> 信息流会把每个账号分到 ONE 个社区里。模糊的账号不会被推荐给任何人
[ 我改了什么 ]
> 频率：每周 2 帖 → 每天 5-8 帖。每条贴文都是一张彩票，算法计算的是信号，而不是努力
> 一个聚类：彻底放弃加密内容。选了一个方向
> 内容形式的混合：以前是一周一篇文章，配上引用和剪辑，那就是整个账号。现在是新闻引用、repo 释出、个人截图、故事
> 回复：我会回复每一条评论。上面那套数学就是原因
[ 坦白的部分 ]
每天 5-8 条贴文并不是在同时经营一家公司时能手工写出来的。所以我吃自己的饭：我把 @voxlyink 的整段贴文历史喂给了它，包含胜者和败者，它会根据真实表现用我的声音

火星不需要一个会折衣服的机器人
本周，1X 已将任务交付给厨房的“动手者”，大家都鼓掌了。与此同时，真正的前沿领域里，除了三个政府实验室之外，任何人都没有为其设计出零机器人
所以我们要解决这个问题。MARS ROBOT MARATHON。详情如下
[ 方案 ]
载人火星飞行比大多数人想象的更近。但人类落地之前，先要派出侦察员、钻探者、洞穴潜水员，而那支机队目前还不存在
> Perseverance 成本 27 亿美元，耗费了数千名工程师一个十年
> Ingenuity 原本计划飞行 5 次。它飞了 72 次。开发者总是把假设往自己的有利方向偏
> AI 已经设计出一台可工作的火箭发动机，并完成了打印与测试点火
> 设计一台火星侦察机，如今已变成一个问题：只有一个人，会带着一个智能体团队从卧室里去攻克
工具被大众化了。想法还没来得及跟上。这就是突破口
[ 规格，不可妥协 ]
> 能在会“吃轮子”的地形上行走
> 能攀爬火山口壁与 40 度坡面
> 能钻孔，因为火星上一切有趣的东西都在地下
> 能单独躲避障碍。来自地球的指令单程最多要 20 分钟，一块岩石可不会等
> 下降进入熔岩管洞穴并对其进行测绘
[ 为什么洞穴才是全部 ]
> 火星重力是地球的三分之一，所以它的熔岩管会长得巨大。宽到足以藏下一整块城市街区
> 它们会阻挡大部分地表辐射
> 内部温度保持稳定，而地表一天内会摆动 1

“AI 会夺走你的工作”这种担忧是错误的
付费 200 美元/月，并使用 8,545 的算力的人将夺走你的工作