Perkembangan Industri AI & Dinamika Kebijakan

Pendiri Solayer mengungkap risiko keamanan model bahasa besar, dengan menyatakan bahwa agen LLM yang bergantung pada router API pihak ketiga memiliki risiko diserang oleh kode berbahaya. Pengujian menunjukkan bahwa beberapa router memiliki kerentanan keamanan, bahkan sampai membocorkan kredensial sensitif. Selain itu, penelitian menunjukkan metode serangan yang memungkinkan dan langkah-langkah pertahanannya.

Berita Gate: pada 10 April, menurut data dari Gate harga, hingga waktu penulisan, TAO (Bittensor) kini berada di 269.80 dolar AS, turun 16.28% dalam 24 jam terakhir, sempat menyentuh 341.10 dolar AS, dan terendah turun hingga 248.60 dolar AS. Volume perdagangan 24 jam mencapai 1471.24 juta dolar AS. Kapitalisasi pasar saat ini sekitar 25.89 miliar dolar AS. Bittensor adalah sebuah protokol open-source yang mendukung jaringan pembelajaran mesin terdesentralisasi berbasis blockchain. Model pembelajaran mesin dilatih secara kolaboratif, dan memperoleh imbalan dalam TAO berdasarkan nilai informasi yang mereka berikan kepada kelompok. TAO juga memungkinkan akses eksternal, sehingga pengguna dapat mengekstrak informasi dari jaringan, dan menyesuaikan aktivitas jaringan sesuai kebutuhan mereka. --- Berita penting terkait TAO baru-baru ini: 1️⃣ **

Google telah meluncurkan fitur «Notebooks» di aplikasi Gemini, yang memungkinkan pengguna mengelola riwayat chat dan file secara terpusat, serta disinkronkan dengan NotebookLM untuk meningkatkan efisiensi alur kerja. Saat ini, fitur ini hanya tersedia untuk pengguna berlangganan, sementara pengguna gratis harus menunggu. Fitur ini memungkinkan pengguna untuk mengatur dan memanfaatkan data dengan lebih mudah, serta menandakan bahwa akan ada lebih banyak pembaruan di masa depan.

xAI milik Musk mengajukan gugatan di negara bagian Colorado, meminta untuk menghentikan berlakunya RUU SB 24-205, yang bertujuan mencegah sistem AI menghasilkan diskriminasi algoritmik. xAI menuduh rancangan undang-undang tersebut melanggar kebebasan berbicara, meminta agar penyesuaian dilakukan terhadap output informasi berdasarkan pendirian politik tertentu, dan menunjukkan adanya kontradiksi logis di dalam rancangan undang-undang tersebut. Ini adalah tindakan hukum kedua xAI dalam isu regulasi AI, yang berpotensi memengaruhi perkembangan lanskap regulasi AI di seluruh AS.

Pendiri bersama Bittensor Jacob Steeves menanggapi langkah Covenant AI keluar dari jaringan, dengan mengusulkan untuk memulai ulang mekanisme tata kelola subnet, serta menghadirkan pemilihan tim melalui suara komunitas. Ia berpendapat ini adalah kesempatan untuk mendefinisikan ulang bentuk subnet, dan ia mengkritik keputusan pendiri Covenant AI.

Alibaba mengonfirmasi peluncuran model pembangkit video buatan sendiri HappyHorse-1.0, yang berasal dari divisi Inovasi AI milik Taotian Group. HappyHorse-1.0 menunjukkan performa yang sangat baik dalam penilaian pihak ketiga, belum dirilis secara open source, dan selaras dengan strategi Alibaba yang baru-baru ini cenderung menutup akses. Peluncuran model ini bertujuan untuk menghadapi performa pasar para kompetitor, serta meningkatkan daya saing di pasar MaaS.

Anthropic pada 9 April mengumumkan bahwa Claude Cowork resmi dibuka untuk semua paket berbayar, serta menambahkan kontrol akses peran, batas pengeluaran grup, dan fitur manajemen seperti dasbor analitik penggunaan untuk pengguna versi perusahaan. Produk ini dapat digunakan di aplikasi desktop untuk macOS dan Windows. Dengan fokus pada kebutuhan perusahaan, Anthropic terus memperluas lini produk AI-nya, mulai dari pengembang hingga aplikasi tingkat tim dan perusahaan.

Andrej Karpathy menunjukkan bahwa pemahaman publik tentang kemampuan AI mengalami retakan, terbagi menjadi dua kelompok: pengguna biasa yang memakai versi gratis ChatGPT dan para profesional teknis yang menggunakan model-model mutakhir secara berbayar. Ia berpendapat bahwa keduanya membahas produk yang benar-benar berbeda, dan menekankan bahwa kemajuan di bidang teknis terlihat jelas karena adanya fungsi penghargaan yang dapat diverifikasi serta dorongan nilai bisnis.

Anthropic pada 9 April meluncurkan “Strategi Advisor”, menggunakan Opus sebagai penasihat yang dipadukan dengan Sonnet atau Haiku untuk menjalankan tugas, serta menurunkan biaya dan meningkatkan kinerja melalui API Messages. Strategi ini memisahkan penalaran dan eksekusi, sehingga pelaksana dapat berkonsultasi dengan Opus saat menghadapi hambatan, dan mencapai performa kecerdasan yang lebih tinggi dalam satu permintaan API. Penilaian menunjukkan peningkatan performa sebesar 2,7% saat Sonnet dipadukan dengan Opus, serta penurunan biaya tugas sebesar 11,9%. Strategi ini memberikan pilihan biaya-efisiensi yang lebih baik bagi pengembang dan mendapat respons hangat dari komunitas.

Berita Gerbang, 10 April, pendiri Uniswap Hayden Adams hari ini memposting di platform sosial, menanyakan apakah ada sumber daya terkait Anthropic (perusahaan teknologi AI) yang dapat dihubungkan, dan menyatakan ingin menguji Mythos di Uniswap.

xAI milik Musk baru-baru ini mengajukan gugatan terhadap peraturan AI di negara bagian Colorado, dengan alasan melanggar kebebasan berpendapat. Peraturan ini bertujuan untuk mencegah sistem AI menimbulkan diskriminasi algoritmik di berbagai bidang; namun, chatbot milik xAI sendiri, Grok, justru berkali-kali pernah menghasilkan ujaran yang bersifat rasis, yang menunjukkan adanya kontradiksi dalam logikanya. Insiden ini kemungkinan akan menjadi preseden penting dalam pengawasan regulasi AI di Amerika Serikat.

Anthropic meluncurkan Claude Managed Agents, sebuah platform pengembangan agen AI yang dikelola sepenuhnya, untuk menyederhanakan proses otomatisasi perusahaan, dan mengklaim dapat mempercepat produksi produk hingga sepuluh kali. Platform ini dilengkapi infrastruktur dasar yang aman, mendukung eksekusi jangka panjang dan koordinasi multi-agen, sehingga pengembang dapat lebih fokus pada bisnis inti. Notion telah lebih dulu menerapkan layanan ini, meningkatkan efisiensi kerja, yang menunjukkan persaingan pasar AI perusahaan semakin ketat.

Berita Gate, pada 10 April, menurut beberapa orang yang mengetahui, pendiri perusahaan AI model besar DeepSeek, Liang Wenfeng, baru-baru ini mengungkapkan dalam komunikasi internal bahwa model besar andalan generasi berikutnya DeepSeek, DeepSeek V4, akan dirilis secara resmi pada akhir April.

Sistem memori AI MemPalace, yang dikembangkan oleh Mira Jowova Wici, menuai kontroversi karena dugaan kecurangan yang dipicu oleh hasil pengujian yang dipertanyakan; hasil pengujian aktual menunjukkan efisiensi dilebih-lebihkan dan kesalahan yang sering terjadi. Tim pengembangan telah mengakui adanya masalah dan mulai melakukan perbaikan, tetapi masih ada beberapa data yang belum diperbarui, sehingga memicu ketidakpuasan di komunitas.

Covenant AI pada 10 April mengumumkan keluar dari jaringan Bittensor, dengan menuduh tokoh inti Jacob Steeves berkhianat pada komitmen desentralisasi, serta merinci berbagai tindakan penindasan. Covenant AI menegaskan bahwa tata kelola desentralisasi yang tampak di permukaan Bittensor sebenarnya dikendalikan oleh satu orang, sehingga membentuk “teater desentralisasi”. Program pelatihan LLM desentralisasi dari tim tersebut, Covenant-72B, memiliki pengaruh penting di industri; keluarnya kali ini dipandang sebagai pilihan yang disengaja, bukan kegagalan.

Penelitian menunjukkan bahwa beberapa tolok ukur AI berwibawa memiliki celah keamanan, yang dapat dimanfaatkan secara sistematis untuk memperoleh skor tinggi. Tim peneliti mengungkap kekurangan struktural dan mengembangkan alat pemindai WEASEL untuk mengidentifikasi serta memperbaiki celah-celah tersebut, dengan menunjukkan bahwa desain evaluasi yang tidak tepat dapat menyebabkan hasil menjadi tidak akurat dan memengaruhi penilaian kemampuan AI yang sebenarnya.