SemiAnalysis phân tích ngân sách AI doanh nghiệp: Meta từng tiêu thụ 70 nghìn tỷ token trong một tháng, nhưng rủi ro thực sự không phải là khách hàng không sử dụng AI.

robot
Đang tạo bản tóm tắt
火星财经消息,7 月 1 日,企业 AI 使用正在从「尽量多用」转向「有额度地用」。SemiAnalysis 在 7 月 1 日发布的 Token Budgeting 报告中称,年初一度流行的 tokenmaxxing,也就是鼓励员工尽可能多消耗 AI token 以提升生产力,正在被更现实的预算制度取代。但该机构认为,媒体关于企业削减 AI 支出的叙事被夸大了,OpenAI 和 Anthropic 的 API 业务在今年下半年并未面临实质性预算风险。 SemiAnalysis 团队称,他们通过 Slack、电话以及 Databricks AI Summit 与 50 多家企业客户交流后发现,大多数公司确实开始设置 AI 使用上限,但并没有形成统一标准。低端预算可能只有每人每月 250 至 500 美元,高端预算则可达到每月 2000 美元甚至数万美元。一家美国大型航空航天与国防制造商把部分员工的月度额度设在 250 美元,一家大型制药公司设在 500 美元;Workday、Stripe 等技术更前沿的企业,部分员工预算约为每月 2000 美元。 这与年初的「token 最大化」形成对比。报告提到,Meta 和 Salesforce 等公司曾鼓励员工大量使用 AI 工具。Meta 内部甚至出现过一个名为「Claudeconomics」的仪表盘,对公司前 250 名重度用户进行排名。数据显示,Meta 员工在 30 天内消耗超过 60 万亿 tokens,单个最高用户消耗约 2800 亿 tokens。该仪表盘在相关报道后两天被关闭。Uber 也被报道称在四个月内消耗完 Claude Code 和 Codex 的年度预算,随后设置了每人每月 1500 美元的限额,超额申请需逐案审批。 但 SemiAnalysis 认为,这些极端案例更多反映激励机制和管理松散,而不是企业 AI 支出整体见顶。报告称,前 10% 高消费客户贡献了 AI 实验室大部分收入,这些客户在今年剩余时间削减 API 支出的风险很低。即便 Meta 在 2 月每月消耗约 70 万亿 tokens,并且按标价计算每名员工每年花费接近 5 万美元,SemiAnalysis 估计其仍只占 Anthropic 收入的 3% 至 5%。 企业支出分布也高度不均。SemiAnalysis 引用 Ramp 数据称,前 1% 客户每名员工年均 AI 支出接近 9 万美元,前 10% 客户约为 7300 美元,而中位数客户仅为 136 美元。该机构还称,许多技术领先的财富 500 强公司每名员工年均 AI 支出仍低于 2000 美元,且大额支出主要集中在工程和数据科学部门。这意味着,企业 AI 使用的 S 曲线仍有很大增长空间。 预算制度的兴起正在改变员工使用方式。一些公司把默认模型从 Opus 切换到 Sonnet,关闭高级模型或快速模式;也有员工先用 Microsoft 365 Copilot 进行草拟和总结,再把更昂贵的 Claude 或 Codex token 用在关键任务上。一家全球旅游科技公司每年 AI 支出接近 1000 万美元,近期把默认 Claude 模型从 Opus 改为 Sonnet,但仍允许员工主动切换到 Opus。部分岗位默认预算只有每月 200 美元,但工程师或高级员工可以申请更高额度。 SemiAnalysis 的结论是,预算管理会长期存在,但它并不等于需求萎缩。相反,企业正在把 AI 从实验性工具纳入正式成本管理。编码是当前最强的需求垂直领域,SemiAnalysis 估计 OpenAI 和 Anthropic 目前超过 70% 的 ARR 可归因于编码场景。未来,网络安全、白领知识工作、企业协作和自动化办公,可能复制 Claude Code、Codex 和 Copilot 在开发者市场中的增长路径。 这意味着 AI 市场正在进入一个新阶段。早期企业可能愿意为「尝试 AI」支付模糊账单;现在,财务部门开始要求预算、额度和 ROI。但只要员工效率提升能够抵消成本,企业不会停止购买 token。对 AI 模型公司来说,风险不是客户突然不用 AI,而是它们必须证明每一美元 token 消耗都能转化为更快的代码、更短的招聘流程、更高的销售效率或更少的人力投入。Tin tức từ Hỏa Tinh Finance, ngày 1 tháng 7, việc sử dụng AI trong doanh nghiệp đang chuyển từ "cố gắng dùng càng nhiều càng tốt" sang "sử dụng có hạn mức". Theo báo cáo Token Budgeting do SemiAnalysis công bố ngày 1 tháng 7, xu hướng tokenmaxxing từng phổ biến đầu năm, tức khuyến khích nhân viên tiêu thụ càng nhiều token AI càng tốt để nâng cao năng suất, đang bị thay thế bởi hệ thống ngân sách thực tế hơn. Tuy nhiên, tổ chức này cho rằng câu chuyện truyền thông về việc doanh nghiệp cắt giảm chi tiêu AI đã bị thổi phồng, và mảng kinh doanh API của OpenAI và Anthropic không đối mặt với rủi ro ngân sách đáng kể trong nửa cuối năm nay. Nhóm SemiAnalysis cho biết, sau khi trao đổi với hơn 50 khách hàng doanh nghiệp qua Slack, điện thoại và Hội nghị thượng đỉnh AI Databricks, họ phát hiện hầu hết các công ty thực sự bắt đầu đặt giới hạn sử dụng AI, nhưng chưa có tiêu chuẩn thống nhất. Ngân sách thấp có thể chỉ từ 250 đến 500 đô la mỗi người mỗi tháng, trong khi ngân sách cao có thể lên tới 2.000 đô la hoặc thậm chí hàng chục nghìn đô la mỗi tháng. Một nhà sản xuất hàng không vũ trụ và quốc phòng lớn của Mỹ đặt hạn mức hàng tháng cho một số nhân viên là 250 đô la, một công ty dược phẩm lớn đặt mức 500 đô la; các công ty công nghệ tiên tiến hơn như Workday, Stripe có ngân sách cho một số nhân viên khoảng 2.000 đô la mỗi tháng. Điều này trái ngược với xu hướng "tối đa hóa token" đầu năm. Báo cáo đề cập rằng các công ty như Meta và Salesforce từng khuyến khích nhân viên sử dụng nhiều công cụ AI. Meta thậm chí từng có một bảng điều khiển có tên "Claudeconomics" xếp hạng 250 người dùng nặng nhất. Dữ liệu cho thấy nhân viên Meta tiêu thụ hơn 60 nghìn tỷ token trong 30 ngày, với người dùng cao nhất tiêu thụ khoảng 280 tỷ token. Bảng điều khiển này đã bị đóng cửa hai ngày sau khi có báo cáo liên quan. Uber cũng được báo cáo là đã tiêu thụ hết ngân sách hàng năm cho Claude Code và Codex trong vòng bốn tháng, sau đó đặt giới hạn 1.500 đô la mỗi người mỗi tháng, và các khoản vượt quá cần phê duyệt từng trường hợp. Tuy nhiên, SemiAnalysis cho rằng những trường hợp cực đoan này phản ánh nhiều hơn về cơ chế khuyến khích và quản lý lỏng lẻo, chứ không phải là chi tiêu AI của doanh nghiệp đã đạt đỉnh. Báo cáo cho biết, 10% khách hàng chi tiêu cao nhất đóng góp phần lớn doanh thu cho các phòng thí nghiệm AI, và rủi ro những khách hàng này cắt giảm chi tiêu API trong thời gian còn lại của năm là rất thấp. Ngay cả khi Meta tiêu thụ khoảng 70 nghìn tỷ token mỗi tháng vào tháng 2, và theo giá niêm yết, mỗi nhân viên tiêu tốn gần 50.000 đô la mỗi năm, SemiAnalysis ước tính con số này vẫn chỉ chiếm 3% đến 5% doanh thu của Anthropic. Phân bổ chi tiêu doanh nghiệp cũng rất không đồng đều. SemiAnalysis dẫn dữ liệu từ Ramp cho biết, 1% khách hàng hàng đầu chi gần 90.000 đô la mỗi nhân viên mỗi năm cho AI, 10% khách hàng hàng đầu chi khoảng 7.300 đô la, trong khi khách hàng trung vị chỉ chi 136 đô la. Tổ chức này cũng cho biết nhiều công ty Fortune 500 dẫn đầu về công nghệ vẫn chi dưới 2.000 đô la mỗi nhân viên mỗi năm cho AI, và các khoản chi lớn chủ yếu tập trung ở bộ phận kỹ thuật và khoa học dữ liệu. Điều này có nghĩa là đường cong S của việc sử dụng AI trong doanh nghiệp vẫn còn nhiều dư địa tăng trưởng. Sự trỗi dậy của hệ thống ngân sách đang thay đổi cách nhân viên sử dụng AI. Một số công ty chuyển mô hình mặc định từ Opus sang Sonnet, tắt các mô hình cao cấp hoặc chế độ nhanh; cũng có nhân viên dùng Microsoft 365 Copilot để phác thảo và tóm tắt trước, sau đó dùng các token Claude hoặc Codex đắt tiền hơn cho các tác vụ quan trọng. Một công ty công nghệ du lịch toàn cầu chi gần 10 triệu đô la mỗi năm cho AI, gần đây đã chuyển mô hình Claude mặc định từ Opus sang Sonnet, nhưng vẫn cho phép nhân viên chủ động chuyển sang Opus. Một số vị trí có ngân sách mặc định chỉ 200 đô la mỗi tháng, nhưng kỹ sư hoặc nhân viên cấp cao có thể yêu cầu hạn mức cao hơn. Kết luận của SemiAnalysis là quản lý ngân sách sẽ tồn tại lâu dài, nhưng nó không đồng nghĩa với nhu cầu suy giảm. Ngược lại, các doanh nghiệp đang đưa AI từ công cụ thử nghiệm vào quản lý chi phí chính thức. Lập trình hiện là lĩnh vực nhu cầu mạnh nhất, SemiAnalysis ước tính hơn 70% ARR hiện tại của OpenAI và Anthropic có thể quy cho các tình huống lập trình. Trong tương lai, an ninh mạng, công việc tri thức cổ trắng, cộng tác doanh nghiệp và văn phòng tự động hóa có thể tái tạo quỹ đạo tăng trưởng của Claude Code, Codex và Copilot trong thị trường nhà phát triển. Điều này có nghĩa là thị trường AI đang bước vào một giai đoạn mới. Các doanh nghiệp ban đầu có thể sẵn sàng trả các hóa đơn mơ hồ để "thử AI"; bây giờ, bộ phận tài chính bắt đầu yêu cầu ngân sách, hạn mức và ROI. Nhưng miễn là hiệu quả nhân viên tăng lên đủ bù đắp chi phí, doanh nghiệp sẽ không ngừng mua token. Đối với các công ty mô hình AI, rủi ro không phải là khách hàng đột nhiên ngừng dùng AI, mà là họ phải chứng minh rằng mỗi đô la token tiêu thụ đều có thể chuyển hóa thành code nhanh hơn, quy trình tuyển dụng ngắn hơn, hiệu quả bán hàng cao hơn hoặc giảm nhân lực.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim