广场
最新
热门
资讯
我的主页
发布
Yukiyu
2026-07-18 09:30:24
关注
ChatGPT 升级之后,我跟它说话基本没有延迟了,最新的实时语音模型延迟大概 200-300ms,人类对话的自然反应间隔也是 200-300ms。是一样的。
但0延迟代价是遗忘。实时语音模型的上下文窗口只有 32k token,是纯文本模型的1/300。低延迟 = 小记忆 + 主动遗忘。既要秒回,又要记住你说过的每句话,目前来说,是两难的问题。
算力一直不够。一张 5090出一张 SDXL 图需要2 秒,FLUX 要9 秒,训练一个人物 LoRA需要10-30 张图,目前得一两个小时。
我租的5090现在价格将近5000 刀,满载 575W ,还不算电费。两三年卡的相对算力就过时了。真的很贵。
我们15年前互相发短信,后来彩信可以传图片,再到发视频,直到现在的毫无延迟的高清实时通话。 一条短信只有 140 字节。从 2G 的9.6kbps 到 5G 峰值 20Gbps,带宽差了 200 万倍。
AI 使用的路经一模一样。一开始是文字 token,到去年可以图像,现在语音,下一步肯定是没有延迟的视频沟通。
其实视频已经开始了,Gemini Live 去年就能开着摄像头实时对话,每秒烧300 个 token,默认上限 2 分钟,但聊完就忘光,昂贵+效果差+各种维度还很原始,导致基本没法用。
现在的 Agent 还是在用文字做规划,在通过文本理解这个世界,整条推理链都是 token,非文字的潜空间推理才刚刚开始尝试。
AI 对时间的理解也停在文本,能拿数学奥赛金牌的模型,读一个模拟时钟的准确率只有 50% 左右。触觉、情绪、具身感知,离成熟还差得非常非常远。
再说存储。我倒是不觉得“永远缺存储”,“永远”这个词太夸张了。
每 GB 存储成本 45 年跌了 99.99%,长期来看当然只会更便宜。
只是现在 AI 把内存吸干了,DRAM 一个季度涨 90%,阶段性的紧俏,不是等于永远会缺货。
那这是不是伪需求呢?伪需求的特征是这个月用了,下个月就不用了。
Google 每月处理的 token 一年涨了 7 倍,到 3200 万亿。ChatGPT 周活是 9 亿。
token 价格每年下降十倍,但所有人都在讨论的是怎么更高效地用 token,而不是咱们怎么不用。
一个 agent 会话烧掉的 token 是单轮对话的 50-200 ,价格如果下降我们只会用得更多。
generative AI 三年做到全球 53% 渗透,互联网用了 7 年,PC 用了 15 年。
所以,我们当然还在 AI 的早期,而且转变不可逆。就像 2G 时代的我们,彩铃还是《浪漫手机》,收件箱满了也舍不得删几条短信。
(图片是我用Fable5做的🎮)
DRAM
1.24%
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见
声明
。
赞赏
点赞
评论
转发
分享
评论
请输入评论内容
请输入评论内容
评论
暂无评论
热门话题
查看更多
#
PreIPOs第二期OpenAI认购
131.35万 热度
#
GateDEX全面接入RobinhoodChain
74.31万 热度
#
台积电Q2净利暴增77.4%
24.6万 热度
#
夏日创作营
101.23万 热度
#
USDT充值理财双重奏
2915.34万 热度
置顶
网站地图
ChatGPT 升级之后,我跟它说话基本没有延迟了,最新的实时语音模型延迟大概 200-300ms,人类对话的自然反应间隔也是 200-300ms。是一样的。
但0延迟代价是遗忘。实时语音模型的上下文窗口只有 32k token,是纯文本模型的1/300。低延迟 = 小记忆 + 主动遗忘。既要秒回,又要记住你说过的每句话,目前来说,是两难的问题。
算力一直不够。一张 5090出一张 SDXL 图需要2 秒,FLUX 要9 秒,训练一个人物 LoRA需要10-30 张图,目前得一两个小时。
我租的5090现在价格将近5000 刀,满载 575W ,还不算电费。两三年卡的相对算力就过时了。真的很贵。
我们15年前互相发短信,后来彩信可以传图片,再到发视频,直到现在的毫无延迟的高清实时通话。 一条短信只有 140 字节。从 2G 的9.6kbps 到 5G 峰值 20Gbps,带宽差了 200 万倍。
AI 使用的路经一模一样。一开始是文字 token,到去年可以图像,现在语音,下一步肯定是没有延迟的视频沟通。
其实视频已经开始了,Gemini Live 去年就能开着摄像头实时对话,每秒烧300 个 token,默认上限 2 分钟,但聊完就忘光,昂贵+效果差+各种维度还很原始,导致基本没法用。
现在的 Agent 还是在用文字做规划,在通过文本理解这个世界,整条推理链都是 token,非文字的潜空间推理才刚刚开始尝试。
AI 对时间的理解也停在文本,能拿数学奥赛金牌的模型,读一个模拟时钟的准确率只有 50% 左右。触觉、情绪、具身感知,离成熟还差得非常非常远。
再说存储。我倒是不觉得“永远缺存储”,“永远”这个词太夸张了。
每 GB 存储成本 45 年跌了 99.99%,长期来看当然只会更便宜。
只是现在 AI 把内存吸干了,DRAM 一个季度涨 90%,阶段性的紧俏,不是等于永远会缺货。
那这是不是伪需求呢?伪需求的特征是这个月用了,下个月就不用了。
Google 每月处理的 token 一年涨了 7 倍,到 3200 万亿。ChatGPT 周活是 9 亿。
token 价格每年下降十倍,但所有人都在讨论的是怎么更高效地用 token,而不是咱们怎么不用。
一个 agent 会话烧掉的 token 是单轮对话的 50-200 ,价格如果下降我们只会用得更多。
generative AI 三年做到全球 53% 渗透,互联网用了 7 年,PC 用了 15 年。
所以,我们当然还在 AI 的早期,而且转变不可逆。就像 2G 时代的我们,彩铃还是《浪漫手机》,收件箱满了也舍不得删几条短信。
(图片是我用Fable5做的🎮)