Peringatan bersama Anthropic: Kemungkinan kedatangan titik kritis perangkat lunak sebesar 50%, pekerja kantoran dan pekerja lapangan keduanya mungkin terdampak?

Anthropic eksekutif tinggi kunjungi Taiwan, menegaskan tanpa Taiwan tidak akan ada perkembangan dengan valuasi mendekati 1 triliun dolar AS. Co-founder mereka bahkan memberi peringatan, di masa depan ada 50% kemungkinan akan menghadapi titik singularitas perangkat lunak, di mana pekerja pengetahuan akan menjadi yang paling terdampak kehilangan pekerjaan.

Selama Computex, perusahaan AI AS Anthropic yang valuasinya sudah mendekati satu triliun dolar AS juga sedang dalam jalur IPO, memperdalam hubungan kerjasama dengan Taiwan.

Berita berikutnya adalah undangan untuk Trend Micro bergabung dalam program keamanan siber "Glasswing", co-founder Anthropic Ben Mann dalam acara pada 5 Juni menyatakan "Tanpa Taiwan, tanpa Anthropic", bahkan menyampaikan pidato pembuka lengkap dalam bahasa Mandarin, menunjukkan kedekatan.

Di Developer Day yang diselenggarakan oleh Sekolah Kecerdasan Buatan Taiwan (AIA), Mann menyatakan bahwa misi dirinya dalam pengembangan AI adalah memastikan kecerdasan buatan dapat membawa dampak positif bagi masa depan manusia. Ia yakin bahwa negara demokrasi harus memimpin dalam pengembangan AI, dan berharap memperdalam kerjasama dengan Taiwan.

Sebelum mendirikan Anthropic bersama Dario Amodei pada 2021, Mann bekerja selama enam tahun di Google. Setelah membaca buku "Superintelligence", ia beralih ke penelitian keamanan AI.

Mann pernah menjadi anggota inti arsitektur GPT-3 di OpenAI, dan juga merupakan penggerak utama MCP (Model Context Protocol). Saat ini memimpin departemen "Anthropic Labs" yang fokus pada eksperimen aplikasi, yang telah melahirkan Claude Code dan Claude Design.

Apakah AI menuju titik singularitas perangkat lunak, dan pengangguran massal tak terhindarkan?

Ketika membahas kemampuan model setingkat Mythos, Mann menunjukkan bahwa lonjakan kemampuan program model akan memungkinkan lebih banyak orang untuk secara aman membangun aplikasi perangkat lunak sendiri. "Mereka yang dulu bekerja sebagai insinyur perangkat lunak, ke mana mereka akan pergi? Saya pikir ini adalah masalah yang lebih besar."

Daripada apakah AI bisa berpikir seperti manusia, Mann lebih fokus pada perubahan nyata yang akan terjadi di ekonomi dan masyarakat. Ia pernah mengusulkan konsep "Uji Turing Ekonomi" sebagai alat pengukur output ekonomi: Jika pekerjaan dapat dialihdayakan ke agen AI dan pemberi kerja tidak dapat membedakan hasil dari mesin atau manusia, maka pekerjaan tersebut lulus uji Turing ekonomi ini.

Sumber gambar: Digital Times, foto oleh Hou Junwei, Co-founder dan Kepala Anthropic Labs Ben Mann datang ke Taiwan

Mann sangat yakin bahwa dalam beberapa tahun ke depan, ada 50% peluang akan terjadi titik singularitas di bidang perangkat lunak. Saat itu, masalah pengendalian robot juga bisa diselesaikan. Oleh karena itu, pekerja pengetahuan dan pekerja fisik akan menghadapi dampak besar di pasar tenaga kerja.

Mann menyatakan bahwa data indikator ekonomi saat ini tidak menunjukkan akan terjadinya pengangguran massal secara besar-besaran, "tapi ini sebenarnya sesuai dengan prediksi kami." Ia menjelaskan bahwa untuk memicu pengangguran besar-besaran, AI harus mampu melakukan setiap hal yang bisa dilakukan manusia, dan saat ini AI belum mencapai tingkat tersebut.

Namun, kemajuan pelatihan model tidak menunjukkan tanda-tanda melambat. Mann memberi contoh, seperti kebanyakan orang tidak bisa memprediksi krisis keuangan 2008 melalui indikator pengamatan, "Saya pikir kita akan mengalami perjalanan yang bergelombang."

Pendapat Mann tidak selalu sejalan dengan arus industri. CEO Nvidia Jensen Huang biasanya memiliki pandangan positif tentang dampak AI dan percaya AI masih bisa menciptakan lebih banyak peluang kerja. CEO Anthropic Amodei, yang pernah menyebut akan terjadi "pembantaian kelas pekerja putih" pada 2025, baru-baru ini sedikit melunak dan menyatakan bahwa pekerjaan akan mengalami transformasi, bukan hilang.

Mann berpendapat bahwa masalah pengangguran massal sulit dipecahkan tanpa intervensi pemerintah. Anthropic juga bekerja sama dan berdiskusi dengan pemerintah, dan ia berharap Taiwan bisa "lebih cepat dari beberapa pemerintah di dunia."

Kunjungan bersama pejabat kebijakan keamanan nasional Biden ke Taiwan, bersama-sama memastikan keunggulan demokrasi dalam kompetisi AI

Selain Mann, yang turut datang ke Taiwan adalah Kepala Kebijakan Keamanan Nasional Anthropic, Tarun Chhabra. Ia pernah menjadi tokoh inti dalam kebijakan keamanan teknologi pemerintahan Biden, mengatur berbagai aspek mulai dari kontrol ekspor ke China, pemeriksaan investasi masuk/keluar, hingga pembatasan teknologi komunikasi.

Selama di Gedung Putih, membangun aliansi teknologi demokratis adalah fokus utama Chhabra. Ia pernah melakukan diplomasi teknologi dengan Five Eyes, Jepang, Korea Selatan, India, dan Uni Eropa, berusaha mengajak sekutu internasional bergabung dalam garis pertahanan standar teknologi AS.

Sumber gambar: Digital Times, foto oleh Hou Junwei, Kepala Kebijakan Keamanan Nasional Anthropic Tarun Chhabra berbincang dengan Wakil Menteri Pengembangan Digital Taiwan Yang Jialing dan Profesor Xu Yongzhen dari Kantor Program AICoE Taiwan.

Latar belakang ini membuat kunjungan pejabat tinggi Anthropic ke Taiwan memiliki makna strategis yang jauh melampaui sekadar pertukaran pengembang, dan menegaskan hubungan kerjasama teknologi dan rantai pasok antara Taiwan dan AS.

Mann secara terbuka menyatakan bahwa aliansi demokratis harus mencegah China memenangkan kompetisi AI. Bahkan jika blok demokrasi berhasil mencapai kecerdasan super, mereka tidak boleh lengah karena riset dari negara lain akan terus berkembang. Ia mengatakan, "Anthropic selalu berusaha memanfaatkan posisi terdepan kami untuk menetapkan standar keamanan yang kuat dan menjadi teladan."

Contohnya, sebelum merilis model baru, Anthropic pernah menguji kemampuan model tersebut dalam mempercepat pengembangan senjata biologi. Hasilnya, ada satu sampel yang menunjukkan peningkatan signifikan, sehingga perusahaan menunda peluncuran model tersebut dan memperkuat langkah perlindungan sebelum dirilis.

Kebijakan ini juga terlihat pada model Mythos terbaru. Mythos mampu menemukan celah keamanan perangkat lunak lebih baik dari kebanyakan manusia, sehingga Anthropic meluncurkan "Project Glasswing", yang hanya membagikan versi pratinjau kepada sejumlah mitra terpercaya untuk memperkuat keamanan dari awal.

Mann menyatakan bahwa perusahaan memahami bahwa menunda peluncuran model mutakhir dapat mengurangi risiko penyalahgunaan jahat, tetapi juga menunda manfaat yang bisa didapatkan dari model tersebut. Termasuk memperkuat pertahanan keamanan siber, mempercepat pengembangan obat untuk menyelamatkan pasien dengan penyakit serius, dan lain-lain. "Kami benar-benar merasakan biaya dari penundaan ini." Namun, keamanan tetap menjadi prioritas utama.

"Di Anthropic, kami memikirkan risiko-risiko ini secara mendalam," kata Mann. "Seiring teknologi semakin kuat, bagaimana kita memastikan negara-negara yang tidak berbagi nilai-nilai dengan Taiwan dan AS bertanggung jawab dalam menggunakan teknologi ini?"

Kalau kecerdasan super begitu berbahaya, mengapa tetap dikembangkan? Chhabra dalam diskusi memberi jawaban: "Kalau Anthropic tidak mengembangkan model ini, pesaing kami juga akan melakukannya." Untuk mencegah penyalahgunaan oleh aktor jahat, Anthropic harus memimpin dalam menetapkan standar keamanan, "kami sedang berlomba dengan waktu."

Sebagai penegasan dari pernyataan Mann, Chhabra menegaskan kembali bahwa tanpa rantai pasok dari Taiwan, tidak akan ada Anthropic. Negara demokrasi harus menang dalam kompetisi AI, dan "menjamin keamanan rantai pasok ini adalah hal yang sangat penting dan mutlak diperlukan."

Chhabra juga menambahkan bahwa Taiwan sering menjadi tempat pertama yang menghadapi serangan siber canggih, dan metode serangan tersebut juga sangat berharga sebagai informasi bagi sekutu. Ia berharap, melalui kemitraan ini, Taiwan dan AS dapat menunjukkan ketahanan yang kuat dan rantai pasok yang kokoh kepada semua sekutu demokratis.

• Artikel ini disadur dengan izin dari: Digital Times
• Judul asli: 《Anthropic共同創辦人來台示警：「軟體奇點」五成機率到來，知識工作者首當其衝》
• Penulis asli: Fu Wanqi