Apakah AI perangkat Apple mendapatkan bagian kunci? iPhone untuk pertama kalinya memasukkan model besar dengan 27 miliar parameter.

Apple mencari cara untuk mempertahankan kemampuan AI yang lebih kuat di perangkat, dan sebuah startup yang didukung oleh Khosla Ventures mungkin memberikan bagian penting dari teka-teki ini.

Startup PrismML, yang didanai oleh Khosla Ventures, mengklaim telah berhasil mengompresi model AI besar dengan 27 miliar parameter agar dapat dijalankan secara lokal di iPhone 17 Pro, menciptakan rekor baru untuk ukuran model AI di perangkat seluler. Perusahaan tersebut menyatakan bahwa teknologi kompresinya tidak menyebabkan penurunan performa, dan model sumber terbuka terkait akan dirilis secara resmi pada hari Selasa depan.

Menurut sumber yang mengetahui, Apple telah mengadakan pertemuan dengan PrismML tentang bagaimana menggunakan teknologinya. Sebelumnya, The Information melaporkan bahwa Apple secara aktif mencari untuk mengakuisisi perusahaan yang dapat membantu menjalankan lebih banyak fungsi AI di perangkat. Sumber mengatakan bahwa ketika Apple mencoba mengompresi model AI internalnya agar sesuai dengan iPhone tahun lalu, mereka menghadapi penurunan performa yang signifikan.

27 Miliar Parameter Aktif Penuh, Memecahkan Rekor AI Seluler

PrismML mengatakan bahwa model yang dikompresi adalah model bahasa besar sumber terbuka Qwen 3.6 yang dikembangkan oleh Alibaba, dengan 27 miliar parameter. Sebagai perbandingan, model seluler mainstream saat ini hanya memiliki beberapa miliar parameter yang aktif setiap saat.

Model perangkat baru yang dirilis Apple di Konferensi Pengembang Global pada bulan Juni memiliki 20 miliar parameter, tetapi menggunakan arsitektur jarang, dengan hanya 1 miliar hingga 4 miliar parameter aktif setiap saat. Model PrismML menjaga semua 27 miliar parameter tetap aktif saat berjalan, perbedaan ini dipandang sebagai keunggulan kompetitif inti oleh perusahaan.

PrismML mengatakan bahwa model tersebut mampu menangani percakapan kompleks, penalaran, agen otonom penuh, dan pemrograman perangkat lunak.

Teknologi Kompresi Matematis Berasal dari Caltech, Lisensi Eksklusif Paten

PrismML adalah perusahaan turunan dari California Institute of Technology (Caltech). CEO-nya, Babak Hassibi, adalah profesor teknik elektro di institut tersebut, dan bersama dengan salah satu pendiri, ia menyelesaikan penelitian matematika yang mendukung teknologi ini selama di kampus. Caltech memegang paten terkait dan memberikan lisensi eksklusif kepada PrismML.

Teknologi inti perusahaan ini adalah melalui metode matematika, volume model Qwen 3.6 dikompresi dari sekitar 54 GB menjadi kurang dari 4 GB, rasio kompresi lebih dari 90%, dan perusahaan mengklaim performa tidak terpengaruh.

PrismML menyelesaikan putaran pendanaan awal sebesar 16,25 juta dolar AS awal tahun ini, dengan partisipasi Khosla Ventures. Pendiri Khosla Ventures, Vinod Khosla, mengatakan dalam sebuah wawancara bahwa ia tertarik pada PrismML karena perusahaan tersebut menawarkan "terobosan fundamental". "Kami bertaruh besar pada model Transformer ketika berinvestasi di OpenAI pada tahun 2018, tetapi apa cara baru untuk membangun AI? Tim kami selalu mencari jalur baru," katanya.

Strategi AI Perangkat Apple dan Logika Akuisisi Potensial

Apple telah lama menjadikan AI perangkat sebagai pilar inti dari komitmen privasi dan keamanannya, dan sebagian besar menghindari perlombaan senjata pusat data bernilai ratusan miliar dolar AS yang dilakukan oleh raksasa teknologi seperti Microsoft, Amazon, dan Meta.

Namun, peningkatan besar Siri yang telah lama ditunggu-tunggu yang diumumkan Apple pada bulan Juni masih bergantung pada model Gemini dari Google, dan fitur tercanggihnya memerlukan panggilan ke chip Nvidia yang berjalan di cloud Google. Kesenjangan ini dengan visi AI perangkat Apple membuat teknologi PrismML memiliki nilai strategis potensial bagi Apple.

Hassibi memperkirakan bahwa dalam tiga tahun ke depan, sebagian besar komputasi AI yang dibutuhkan pengguna akan dilakukan secara lokal. "Bayangkan, mungkin tiga tahun dari sekarang, 95% dari kecerdasan yang Anda butuhkan dapat diperoleh secara lokal—di ponsel, laptop, peralatan rumah tangga Anda—hanya mungkin 5% terakhir yang memerlukan kebutuhan high-end yang benar-benar perlu pergi ke cloud," katanya. "Saya pikir itulah arah yang dilihat orang."

Tantangan dari Arsitektur Hybrid

Tidak semua orang di industri setuju dengan jalur AI perangkat murni. Startup seperti Argmax mengadopsi arsitektur hybrid, menyelesaikan tugas pemrosesan seperti suara dan gambar di perangkat, kemudian mengunggah informasi ke cloud untuk penalaran yang lebih kompleks.

Pendukung arsitektur hybrid menunjukkan bahwa model cloud besar saat ini masih diperbarui setiap minggu, dan model AI yang berjalan sepenuhnya di perangkat akan sulit menikmati keuntungan performa dari model cloud terbaru dan tercanggih. Tantangan ini adalah salah satu masalah inti yang perlu terus dihadapi PrismML dalam jalur komersialisasinya.

PrismML mengatakan bahwa perusahaan berencana untuk terus mengompresi model yang lebih besar—termasuk model dengan parameter triliunan—agar dapat berjalan di perangkat, yang akan memasuki area persaingan dengan OpenAI GPT dan Anthropic Claude.

Peringatan Risiko dan Ketentuan Penafian

        Pasar berisiko, investasi harus berhati-hati. Artikel ini bukan merupakan saran investasi pribadi, dan tidak mempertimbangkan tujuan investasi, situasi keuangan, atau kebutuhan khusus pengguna individu. Pengguna harus mempertimbangkan apakah pendapat, pandangan, atau kesimpulan dalam artikel ini sesuai dengan kondisi spesifik mereka. Investasi berdasarkan ini adalah tanggung jawab sendiri.