Belakangan ini melihat wawancara pendiri DeepMind Hassabis di YC, ada beberapa pandangan yang cukup menyentuh hati. Dia mengatakan jika kamu sekarang memulai sebuah proyek teknologi mendalam jangka sepuluh tahun, harus memasukkan munculnya AGI di tengah jalan ke dalam perencanaan. Ini bukan omong kosong, garis waktu pribadinya sekitar tahun 2030.

Mendengarnya menjelaskan secara teknis mengapa AGI masih butuh satu atau dua potongan puzzle lagi. Pelatihan pra-skala besar, RLHF, rantai pemikiran, teknologi-teknologi ini sudah terbukti, dia sangat yakin bahwa mereka akan menjadi bagian dari arsitektur akhir AGI. Tapi pembelajaran berkelanjutan, penalaran jangka panjang, dan beberapa aspek memori masih belum benar-benar terselesaikan. Pendekatan saat ini umumnya adalah memasukkan semua hal ke dalam jendela konteks, ini cukup kasar. Dia memberi contoh, jendela konteks satu juta token terlihat besar, tapi jika harus memproses streaming video secara real-time, sebenarnya hanya cukup untuk 20 menit data. Untuk membuat sistem memahami kehidupan kamu selama satu atau dua bulan, jauh dari cukup.

Masalah penalaran lebih menarik. Dia sering menggunakan Gemini bermain catur untuk observasi, menemukan bahwa kadang-kadang Gemini sadar bahwa langkah tertentu buruk, tapi tidak bisa menemukan pilihan yang lebih baik, akhirnya tetap melakukan langkah buruk itu. Sistem penalaran yang akurat seharusnya tidak seperti itu. Itulah mengapa kita melihat yang disebut "pola gigi gergaji" — mampu menyelesaikan soal tingkat medali emas IMO, tapi bisa dibuat bingung oleh matematika tingkat sekolah dasar.

Bagian agen, dia mengakui kita baru mulai. Untuk mencapai AGI, harus ada sistem yang bisa secara aktif membantu kamu menyelesaikan masalah, itu jalan agen. Tapi saat ini masih dalam tahap eksperimen, sebagian besar skenario masih sebagai pelengkap. Dia menyebutkan belum ada yang menggunakan alat AI untuk mencapai puncak peringkat toko aplikasi AAA, berdasarkan daya komputasi dan alat yang ada saat ini, secara teori seharusnya memungkinkan, tapi belum terjadi. Menunjukkan ada kekurangan dalam proses atau alatnya. Dia memperkirakan dalam 6 sampai 12 bulan ke depan akan melihat hasil seperti itu.

Menariknya, model kecil sedang mengubah seluruh aturan permainan. Model Flash mereka mampu mencapai 95% dari model terdepan, tapi biayanya hanya sepersepuluhnya. Metode distilasi ini sebenarnya diciptakan oleh DeepMind, dan masih menjadi yang terbaik di dunia. Mereka juga sangat termotivasi untuk mengoptimalkan — Google mengintegrasikan Gemini ke setiap produk, melibatkan ratusan juta pengguna. Ini berarti harus sangat cepat, efisien, dan biaya sangat rendah. Dia tidak merasa sudah mencapai batas teori informasi, setelah model terdepan dirilis, dalam setengah tahun sampai satu tahun, kemampuannya bisa dipadatkan ke dalam model yang berjalan di perangkat edge.

Mengenai aplikasi ilmiah, Isomorphic Labs berkembang dengan baik, AlphaFold hanyalah satu bagian dari proses penemuan obat. Tujuan utama mereka adalah membuat sel virtual lengkap, sebuah simulator sel lengkap yang bisa diberi gangguan. Diperkirakan butuh sekitar sepuluh tahun untuk mencapai sel virtual lengkap, saat ini mulai dari inti sel virtual.

Saran paling praktis untuk pengusaha adalah, masalah sulit dan masalah sederhana sebenarnya tingkat kesulitannya hampir sama, hanya cara menyelesaikannya berbeda. Hidup terbatas, lebih baik mengarahkan energi ke hal-hal yang jika tidak dilakukan, benar-benar tidak ada yang melakukannya. Selain itu, dalam beberapa tahun ke depan, kombinasi lintas bidang akan menjadi lebih umum, AI akan membuat lintas bidang menjadi lebih mudah. Tapi yang paling penting adalah, serius memperhatikan jadwal AGI, bayangkan seperti apa dunia itu, lalu bangun sesuatu yang tetap berguna saat dunia itu tiba.