AI trên thiết bị Apple đón mảnh ghép then chốt? iPhone lần đầu tiên nhồi nhét mô hình lớn 27 tỷ tham số

Apple đang tìm cách giữ khả năng AI mạnh mẽ hơn ở phía thiết bị, một công ty khởi nghiệp được hỗ trợ bởi Khosla Ventures có thể đã cung cấp mảnh ghép quan trọng.

Công ty khởi nghiệp PrismML, được đầu tư bởi Khosla Ventures, tuyên bố đã thành công nén một mô hình AI lớn có 27 tỷ tham số để có thể chạy cục bộ trên iPhone 17 Pro, thiết lập kỷ lục mới về quy mô mô hình AI trên thiết bị di động. Công ty cho biết công nghệ nén của họ không gây suy giảm hiệu suất và mô hình mã nguồn mở liên quan sẽ được phát hành chính thức vào thứ Ba tuần sau.

Theo những người am hiểu, Apple đã tổ chức các cuộc hội đàm với PrismML về cách sử dụng công nghệ của họ. Trước đó theo The Information, Apple đang tích cực tìm kiếm mua lại các công ty có thể giúp họ chạy nhiều tính năng AI hơn trên thiết bị. Các nguồn tin cho biết, năm ngoái Apple đã gặp phải khó khăn khi hiệu suất giảm mạnh trong khi cố gắng nén mô hình AI nội bộ để phù hợp với iPhone.

Kích hoạt toàn bộ 27 tỷ tham số, phá kỷ lục AI di động

PrismML cho biết mô hình mà họ nén là mô hình ngôn ngữ lớn mã nguồn mở Qwen 3.6 do Alibaba phát triển, với 27 tỷ tham số. Ngược lại, các mô hình di động chính thống hiện tại chỉ có vài tỷ tham số được kích hoạt mỗi lần.

Mô hình thiết bị mới mà Apple công bố tại hội nghị nhà phát triển toàn cầu vào tháng 6 năm nay có 20 tỷ tham số, nhưng sử dụng kiến trúc thưa thớt, mỗi lần chỉ có từ 1 tỷ đến 4 tỷ tham số được kích hoạt. Mô hình của PrismML duy trì kích hoạt đồng thời toàn bộ 27 tỷ tham số trong khi chạy, sự khác biệt này được công ty coi là lợi thế cạnh tranh cốt lõi.

PrismML cho biết mô hình này có thể đảm nhận các tác vụ như đối thoại phức tạp, suy luận, tác nhân tự động hoàn toàn và lập trình phần mềm.

Công nghệ nén toán học bắt nguồn từ Caltech, được cấp phép độc quyền bằng sáng chế

PrismML là công ty spin-off từ Viện Công nghệ California (Caltech). CEO Babak Hassibi là giáo sư kỹ thuật điện tại trường, cùng với đồng sáng lập đã hoàn thành nghiên cứu toán học hỗ trợ công nghệ này trong thời gian học tại trường. Caltech sở hữu các bằng sáng chế liên quan và cấp phép độc quyền cho PrismML.

Công nghệ cốt lõi của công ty nằm ở việc sử dụng một phương pháp toán học để nén kích thước mô hình Qwen 3.6 từ khoảng 54GB xuống dưới 4GB, tỷ lệ nén vượt quá 90% và công ty khẳng định hiệu suất không bị ảnh hưởng.

PrismML đã hoàn thành vòng gọi vốn hạt giống trị giá 16,25 triệu USD đầu năm nay, với sự tham gia của Khosla Ventures. Người sáng lập Khosla Ventures, Vinod Khosla, cho biết trong một cuộc phỏng vấn rằng ông quan tâm đến PrismML vì công ty này mang đến một "đột phá căn bản". "Khi chúng tôi đầu tư vào OpenAI năm 2018, chúng tôi đã đặt cược lớn vào mô hình Transformer, nhưng cách mới để xây dựng AI là gì? Đội ngũ của chúng tôi luôn tìm kiếm những hướng đi mới," ông nói.

Chiến lược AI thiết bị của Apple và logic mua lại tiềm năng

Apple từ lâu đã coi AI thiết bị là trụ cột chính trong cam kết về quyền riêng tư và bảo mật, và phần lớn tránh cuộc chạy đua vũ trang trung tâm dữ liệu trị giá hàng trăm tỷ USD của các gã khổng lồ công nghệ như Microsoft, Amazon, Meta.

Tuy nhiên, bản nâng cấp lớn của Siri đã bị trì hoãn từ lâu mà Apple công bố vào tháng 6 năm nay vẫn phụ thuộc vào mô hình Gemini của Google, và các tính năng tiên tiến nhất của nó yêu cầu gọi đến chip Nvidia chạy trên Google Cloud. Thực trạng này tạo ra khoảng cách rõ rệt với tầm nhìn AI thiết bị của Apple, và cũng khiến công nghệ của PrismML có giá trị chiến lược tiềm năng đối với Apple.

Hassibi dự đoán, trong ba năm tới, phần lớn các tính toán AI mà người dùng cần sẽ được hoàn thành tại chỗ. "Hãy tưởng tượng, có lẽ ba năm nữa, 95% trí thông minh bạn cần có thể có được tại chỗ – trên điện thoại, máy tính xách tay, thiết bị gia dụng của bạn – và chỉ có 5% nhu cầu cao cấp cuối cùng thực sự cần đến đám mây," ông nói. "Tôi cho rằng đó là hướng đi mà mọi người đang thấy."

Phe kiến trúc lai đưa ra thách thức

Không phải tất cả những người trong ngành đều đồng tình với lộ trình AI thuần thiết bị. Các công ty khởi nghiệp như Argmax sử dụng kiến trúc lai, hoàn thành các tác vụ xử lý như giọng nói và hình ảnh trên thiết bị, sau đó tải thông tin lên đám mây để suy luận phức tạp hơn.

Những người ủng hộ kiến trúc lai chỉ ra rằng các mô hình lớn trên đám mây hiện vẫn đang được cập nhật nhanh chóng với tốc độ hàng tuần, các mô hình AI chạy hoàn toàn trên thiết bị sẽ khó tận hưởng được lợi ích hiệu suất từ các mô hình đám mây mới nhất, tiên tiến nhất. Thách thức này cũng là một trong những vấn đề cốt lõi mà PrismML cần liên tục giải quyết trên con đường thương mại hóa.

PrismML cho biết công ty có kế hoạch tiếp tục nén các mô hình quy mô lớn hơn – bao gồm các mô hình cấp nghìn tỷ tham số – để chạy trên thiết bị, khi đó sẽ bước vào lĩnh vực cạnh tranh trực tiếp với OpenAI GPT và Anthropic Claude.

Thị trường có rủi ro, đầu tư cần thận trọng. Bài viết này không cấu thành lời khuyên đầu tư cá nhân, cũng không xem xét mục tiêu đầu tư, tình hình tài chính hoặc nhu cầu đặc biệt của từng người dùng. Người dùng nên xem xét liệu bất kỳ ý kiến, quan điểm hay kết luận nào trong bài viết này có phù hợp với hoàn cảnh cụ thể của họ hay không. Đầu tư theo đó, tự chịu trách nhiệm.