Giám đốc điều hành Google: Mô hình xử lý hơn 16 tỷ token mỗi phút

robot
Đang tạo bản tóm tắt
Vào tối ngày 22 tháng 4 theo giờ Bắc Kinh, hội nghị Google Cloud Next khai mạc, CEO của Google, Sundar Pichai, đã đăng bài viết cho biết, thông qua khách hàng trực tiếp sử dụng API, mô hình của Google xử lý hơn 16 tỷ tokens mỗi phút, trong khi quý trước là 10 tỷ tokens.
Ông dự đoán đến năm 2026, hơn một nửa tổng đầu tư vào tính toán máy học của Google sẽ dành cho dịch vụ đám mây.
Tại hội nghị, Google cũng sẽ ra mắt TPU thế hệ thứ tám, hai loại chip dành cho trí tuệ nhân tạo — TPU 8t và TPU 8i, bài blog đề cập rằng chúng nhằm đối phó với các tải trọng công việc AI khắc nghiệt và thích ứng với kiến trúc mô hình liên tục tiến hóa.
(First Financial)
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim