又是一年 #AASF,Jeff Dean 和 Dawn Song 同台。一个刚结束 Google 27 年生涯出来创业Discovery Loop),一个刚从 Berkeley 进入 Meta Superintelligence Labs。一个正离开超级平台,一个正走进超级平台。有幸和@JeffDean 合影 Jeff 说他上台时在新公司已经工作了大概十二个半小时Lol。 Jeff表示科学进步的瓶颈不是不够聪明,是实验循环太慢。今天一次迭代要一周,如果压缩到一小时甚至一分钟,同时并行跑上万个实验,再让 AI 学会挑”下一个最值得做的实验”,速度和质量同时抬升一个数量级。 过去十年 AI 在扩大模型能力,下一阶段是用这些能力压缩人类的发现循环。 没有人能同时拥有 20 个领域的博士学位,但一个模型可以。 同时Jeff Dean 讲他怎么判断一件事值不值得做,几条特别受用: 1.宽度优先——与其精读三篇论文,不如扫一百篇摘要。目的不是记住,而是在脑子里攒够”点”,才能看出哪些点其实可以连起来。 2.5+2 法则——一个长期问题拆成 7 个子问题:全不会做,太早;全会做,只是两年的工程项目。最好是 5 个隐约有路、2 个真不知道怎么办,这种值得投五年。 最重要的从来不是组织多大,而是前面有没有一场值得投入的技术革命,这波AI革命很多大厂高管更愿意下场打造自己的东西,不受限于庞大的组织架