Kekalahan Meta di pengadilan berpotensi menimbulkan masalah bagi penelitian AI dan keselamatan konsumen

Dalam artikel ini

• META

Ikuti saham favorit AndaBUAT AKUN GRATIS

CEO Meta Mark Zuckerberg meninggalkan Pengadilan Federal di pusat kota Los Angeles setelah membela perusahaan dalam persidangan ketergantungan media sosial yang bersejarah di Los Angeles, Amerika Serikat, pada 19 Februari 2026.

Jon Putman | Anadolu | Getty Images

Lebih dari satu dekade yang lalu, Meta – yang saat itu dikenal sebagai Facebook – mempekerjakan peneliti di bidang ilmu sosial dengan tujuan menganalisis bagaimana layanan jejaring sosial mempengaruhi pengguna. Ini adalah cara bagi perusahaan dan rekan-rekannya untuk menunjukkan bahwa mereka serius dalam memahami manfaat dan risiko potensial dari inovasi mereka.

Namun, seperti yang diilustrasikan oleh kerugian pengadilan Meta minggu ini, pekerjaan para peneliti dapat menjadi beban. Brian Boland, mantan eksekutif Facebook yang bersaksi dalam kedua persidangan — satu di New Mexico dan yang lainnya di Los Angeles — mengatakan bahwa temuan yang memberatkan dari penelitian internal Meta dan dokumen tampaknya bertentangan dengan bagaimana perusahaan menggambarkan dirinya di publik. Juri dalam kedua persidangan memutuskan bahwa Meta tidak memantau situsnya dengan cukup baik, menempatkan anak-anak dalam bahaya.

Perusahaan Mark Zuckerberg mulai membatasi tim penelitinya beberapa tahun yang lalu setelah seorang peneliti Facebook, Frances Haugen, menjadi whistleblower terkemuka. Kelompok perusahaan teknologi baru seperti OpenAI dan Anthropic kemudian berinvestasi besar-besaran dalam peneliti dan menugaskan mereka untuk mempelajari dampak AI modern pada pengguna, serta menerbitkan temuan mereka.

Dengan AI kini mendapatkan perhatian berlebihan atas efek merugikan yang ditimbulkannya pada beberapa pengguna, perusahaan-perusahaan tersebut harus bertanya apakah itu dalam kepentingan terbaik mereka untuk terus mendanai penelitian, atau untuk menekannya.

“Ada periode waktu ketika ada tim yang dibentuk secara internal yang bisa mulai melihat hal-hal dan, untuk jendela singkat, Anda memiliki beberapa peneliti yang sangat luar biasa yang melihat apa yang terjadi pada produk-produk ini dengan sedikit lebih banyak kebebasan daripada yang saya pahami mereka miliki hari ini,” kata Boland dalam sebuah wawancara.

Dua kekalahan Meta minggu ini berpusat pada kasus yang berbeda tetapi memiliki tema yang sama: Perusahaan tidak membagikan apa yang diketahuinya tentang bahaya produk-produknya kepada publik umum.

tonton sekarang

VIDEO4:0804:08

Mark Mahaney dari Evercore ISI: Meta masih bisa diinvestasikan di sini

Closing Bell: Overtime

Anggota juri harus mengevaluasi jutaan dokumen perusahaan, termasuk email eksekutif, presentasi, dan penelitian internal yang dilakukan oleh staf Meta. Dokumen tersebut termasuk survei internal yang menunjukkan persentase pengguna remaja yang mengkhawatirkan menerima pendekatan seksual yang tidak diinginkan di Instagram. Ada juga penelitian, yang akhirnya dihentikan oleh Meta, yang menyiratkan bahwa orang yang mengurangi penggunaan Facebook menjadi kurang depresi dan cemas.

Pengacara penggugat dalam kasus-kasus tersebut tidak hanya mengandalkan penelitian internal untuk membuat argumen mereka, tetapi studi-studi tersebut membantu memperkuat posisi mereka tentang tuduhan keterlibatan Meta. Tim pembela Meta berargumen bahwa penelitian tertentu sudah tua, diambil di luar konteks dan menyesatkan, menghadirkan pandangan yang cacat tentang bagaimana perusahaan beroperasi dan bagaimana ia memandang keselamatan.

‘Kedua sisi cerita’

“Juri dapat mendengar kedua sisi cerita dan presentasi fakta yang sangat adil, dan mereka dapat membuat keputusan berdasarkan apa yang mereka lihat,” kata Boland. “Dan kedua juri, dengan kasus yang sangat berbeda, kembali dengan putusan yang jelas.”

Meta dan YouTube milik Google, yang juga menjadi tergugat dalam persidangan L.A., mengatakan mereka akan mengajukan banding.

Lisa Strohman, seorang psikolog dan pengacara yang menjabat sebagai konsultan ahli internal untuk gugatan New Mexico, mengatakan para pemimpin di Meta dan di seluruh industri teknologi mungkin berpikir mereka dapat menggunakan penelitian internal untuk keuntungan mereka, memenangkan dukungan dari publik.

“Saya pikir apa yang mereka gagal sadari adalah bahwa para peneliti adalah orang tua dan anggota keluarga,” kata Strohman. “Dan saya pikir mereka gagal menyadari bahwa orang-orang ini tidak akan bisa dibeli.”

Apa pun kemenangan hubungan masyarakat yang diharapkan oleh eksekutif ternyata berbalik ketika penelitian mulai bocor ke publik. Insiden yang paling merugikan bagi Meta terjadi pada tahun 2021, ketika Haugen, mantan manajer produk Facebook yang menjadi whistleblower, membocorkan sekumpulan dokumen yang menunjukkan bahwa perusahaan mengetahui potensi bahaya dari produknya.

Frances Haugen, mantan karyawan Facebook, berbicara selama sidang Komite Energi dan Perdagangan Subkomite Komunikasi dan Teknologi di Capitol Hill pada 1 Desember 2021, di Washington, DC.

Brendan Smialowski | AFP | Getty Images

“Pengungkapan Haugen adalah titik balik yang signifikan secara global – tidak hanya untuk perusahaan itu sendiri tetapi juga untuk para peneliti, pembuat kebijakan, dan publik yang lebih luas,” kata Kate Blocker, direktur penelitian dan program di nonprofit Children and Screens: Institute of Digital Media and Child Development.

Bocoran tersebut juga memicu perubahan besar di Meta dan di industri teknologi, yang mulai menyingkirkan penelitian yang dapat dianggap kontraproduktif bagi perusahaan. Banyak tim yang mempelajari dugaan bahaya dan isu terkait dipotong, CNBC sebelumnya melaporkan.

Beberapa perusahaan juga mulai menghapus alat dan fitur tertentu dari layanan mereka yang digunakan oleh peneliti pihak ketiga untuk mempelajari platform mereka.

“Perusahaan-perusahaan sekarang mungkin melihat penelitian yang sedang berlangsung sebagai beban, tetapi penelitian independen pihak ketiga harus terus didukung,” kata Blocker.

Banyak penelitian internal yang digunakan dalam persidangan minggu ini tidak menyertakan pengungkapan baru, dan banyak dokumen tersebut sudah dirilis sebelumnya oleh whistleblower lain, kata Sacha Haworth, direktur eksekutif dari Tech Oversight Project. Apa yang ditambahkan oleh persidangan, kata Haworth, adalah “email-email yang sangat, kata-kata yang sangat, cuplikan layar yang sangat, presentasi pemasaran internal, memo,” yang menawarkan konteks yang diperlukan.

Saat industri teknologi kini mendorong secara agresif ke dalam AI, perusahaan seperti Meta, OpenAI, dan Google telah memprioritaskan produk di atas penelitian dan keselamatan. Ini adalah tren yang mengkhawatirkan Blocker, yang mengatakan bahwa, “seperti halnya dengan media sosial sebelumnya, ada visibilitas publik yang terbatas mengenai apa yang dipelajari perusahaan AI tentang produk mereka.”

“Perusahaan AI tampaknya sebagian besar mempelajari model itu sendiri – perilaku model, interpretabilitas model, dan keselarasan – tetapi ada kesenjangan signifikan dalam penelitian mengenai dampak chatbot dan asisten digital terhadap perkembangan anak,” kata Blocker. “Perusahaan AI memiliki kesempatan untuk tidak mengulangi kesalahan di masa lalu – kita mendesak untuk membangun sistem transparansi dan akses yang membagikan apa yang diketahui perusahaan-perusahaan ini tentang platform mereka kepada publik dan mendukung evaluasi independen lebih lanjut.”

TONTON: Tekanan regulasi mengikuti setelah putusan media sosial yang bersejarah.

tonton sekarang

VIDEO4:1604:16

Tekanan regulasi mengikuti setelah putusan media sosial yang bersejarah: Analis Hukum

Squawk Box Asia

Pilih CNBC sebagai sumber pilihan Anda di Google dan jangan lewatkan momen dari nama yang paling terpercaya dalam berita bisnis.