Anthropic memperingatkan tentang risiko peningkatan diri AI - ForkLog: cryptocurrency, AI, singularitas, masa depan

# Anthropic memperingatkan tentang risiko peningkatan diri AI

Anggota tim Anthropic semakin sering menyerahkan sebagian besar pengembangan model baru kepada sistem AI. Di perusahaan ini melihat tanda-tanda mendekati rekursif peningkatan diri.

Menurut data internal, lebih dari 80% kode produk saat ini ditulis oleh Claude. Pada kuartal kedua, volume kode per insinyur meningkat delapan kali lipat dibandingkan tahun 2024.

Sumber: Institut Anthropic. Kepala Institut Anthropic Marina Favaro dan salah satu pendiri perusahaan Jack Clark menulis bahwa dengan volume komputasi yang cukup, tren ini dapat mengarah ke sistem yang mampu "sepenuhnya secara otomatis merancang dan mengembangkan penerusnya".

"Kami belum mencapai titik balik, dan peningkatan diri secara rekursif belum pasti terjadi. Tapi itu bisa terjadi lebih cepat dari yang diperkirakan sebagian besar institusi," — tegas para ahli.

Benchmark dan metrik

Pada bulan April, Claude menyelesaikan lebih dari 800 perbaikan — menurut penilaian insinyur pengawas, manusia akan membutuhkan waktu empat tahun untuk melakukan hal yang sama.

Pada tugas terbuka, proporsi sesi sukses Claude meningkat menjadi 76% pada Mei 2026 — kenaikan 50 poin persentase dalam enam bulan.

Sumber: Institut Anthropic. Di Anthropic, mereka menyatakan bahwa durasi tugas yang mampu diselesaikan secara andal oleh AI ini berlipat ganda setiap sekitar empat bulan (sebelumnya tujuh bulan).

Dalam tugas percepatan pelatihan model AI kecil Claude Opus 4 pada Mei 2025, rata-rata memberikan peningkatan kecepatan sekitar tiga kali lipat, dan Mythos Preview pada April 2026 sekitar 52 kali lipat.

Sumber: Institut Anthropic. Dalam pengujian internal, model Mythos Preview menunjukkan kemampuan untuk menyelesaikan tugas penelitian di bidang keamanan AI. Dalam 800 jam kerja, sekelompok agen menutup 97% dari celah masalah dalam eksperimen, sementara dua peneliti manusia hanya mampu menyelesaikan 23% dari volume dalam satu minggu.

Titik lemah baru

Meskipun berhasil dalam penulisan kode, manusia tetap memiliki keunggulan dalam "penilaian penelitian" dan penentuan tujuan strategis.

Di Anthropic, mereka percaya bahwa dalam waktu dekat, peran pengembang akan bergeser dari menulis baris kode ke tinjauan mendalam terhadap hasil kerja jaringan saraf. Pemeriksaan manusia ini bisa menjadi hambatan utama dalam kecepatan pengembangan model baru.

Perusahaan juga menganggap bahwa dunia akan sangat terbantu jika memiliki kemampuan untuk memperlambat atau menghentikan sementara pengembangan sistem AI canggih, agar institusi masyarakat dan penelitian dalam bidang penyesuaian AI dapat mengikuti kemajuan.

Secara paralel, perwakilan startup memperingatkan bahwa perlambatan sepihak bisa merugikan mereka yang memperlambat — pemain yang kurang berhati-hati dapat mengurangi ketertinggalan. Tanpa mekanisme koordinasi global, keputusan tentang keamanan harus diambil di bawah tekanan kompetitif dan geopolitik.

Perlu diingat, pada bulan Mei, Anthropic menerbitkan laporan pertama tentang Project Glasswing — program pencarian kerentanan menggunakan model Claude Mythos.

Pada bulan yang sama, perusahaan merilis Claude Opus 4.8 dan secara terpisah memperkenalkan fungsi proses kerja dinamis untuk Claude Code.