币界网消息,SemiAnalysis报告显示,内部大模型token支出已占员工总薪资的30%,人均月消费近50亿个token,核心贡献者月消耗更超1000亿个。实际使用成本的骤降是重塑专业服务业单元经济的关键。虽然opus 4.7官方标价高达每百万token 5美元输入与25美元输出,但由于智能体任务高达300对1的输入输出比,以及90%以上的提示词缓存命中率,使得实际混合token成本仅为0.99美元/百万。软件与硬件的共同加速正在进一步压缩生成成本。



Tin tức từ Bichain, báo cáo của SemiAnalysis cho thấy, chi tiêu token mô hình lớn nội bộ đã chiếm 30% tổng lương nhân viên, trung bình mỗi người tiêu thụ gần 5 tỷ token mỗi tháng, người đóng góp chính còn tiêu thụ hơn 100 tỷ token mỗi tháng. Chi phí sử dụng thực tế giảm mạnh là chìa khóa để định hình lại kinh tế đơn vị của ngành dịch vụ chuyên nghiệp. Mặc dù giá niêm yết chính thức của opus 4.7 lên tới 5 USD/triệu token đầu vào và 25 USD/triệu token đầu ra, nhưng do tỷ lệ đầu vào/đầu ra của tác vụ agent lên tới 300:1 và tỷ lệ hit cache prompt trên 90%, chi phí token hỗn hợp thực tế chỉ là 0,99 USD/triệu. Việc tăng tốc đồng thời của phần mềm và phần cứng đang tiếp tục nén chi phí sinh.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 3
  • 1
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
OvernightPositionPhobia
· 4giờ trước
Tỷ lệ cache hit 90% + tỷ lệ đầu vào/đầu ra 300:1, chi phí thực tế giảm xuống còn 0.99 đô, đây mới thực sự là giảm chi phí tăng hiệu quả.
Xem bản gốcTrả lời0
BlueGlassJelly
· 4giờ trước
Những người đóng góp chính tiêu tốn 100 tỷ mỗi tháng, cảm thấy sau này CV sẽ phải ghi lượng xử lý token.
Xem bản gốcTrả lời0
YieldYuki
· 5giờ trước
Trung bình mỗi người 5 tỷ token, con số này làm ví tiền của tôi thắt chặt.
Xem bản gốcTrả lời0
  • Đã ghim