Dari AI jahat yang memeras manusia hingga merangkum hari sekolah, revolusi AI sudah mengubah kehidupan

tutup

![](https://img-cdn.gateio.im/social/moments-73fc3f848a-1f3591e980-8b7abd-e5a980) video

Logan Graham dari Anthropic membahas penyelidikan Mythos dan masa depan keamanan siber.

Kepala Anthropic dari Frontier Red Team Logan Graham membahas kekuatan AI dan ancaman keamanan siber di ‘Mornings with Maria.’

Saat dunia memasuki apa yang disebut para ahli sebagai “Revolusi Industri Keempat,” para pemimpin bisnis Amerika menempatkan taruhan besar pada masa depan republik.

“FOX Business’ ‘Mornings with Maria’ menyelami dunia berisiko tinggi dari kecerdasan buatan, mengungkap bagaimana raksasa perbankan, pertahanan, dan teknologi menginvestasikan ratusan miliar dolar untuk membangun infrastruktur AI dan pusat data yang akan mendefinisikan ulang ekonomi AS.”

Presiden dan Wakil Ketua Meta Platforms Dina Powell McCormick

McCormick membahas peluncuran Meta Muse, sebuah platform AI pengkodean visual baru untuk penalaran berisiko tinggi dan tugas kreatif. Dia mengklaim bahwa itu menjadi aplikasi yang paling banyak diunduh kedua pada hari peluncurannya, dan inti dari “adalah tentang manusia.”

META MEMBERITAHU STAF TENTANG PHK YANG MENGGANGU 8.000 KARYAWAN DI TENGAH DORONGAN AI

“Ada banyak ketakutan di luar sana saat ini, Maria, tentang kecerdasan buatan,” kata McCormick. “Tapi saya pikir jika kita benar-benar kembali ke fakta bahwa ini dimaksudkan untuk memberi orang lebih banyak waktu untuk membantu mereka menemukan potensi dan minat mereka, dan itulah cara kita benar-benar memikirkan Muse, tetapi juga fakta, sejujurnya, bahwa platform kita setiap hari, ada 3,5 miliar orang di platform kita, dan itu adalah tanggung jawab yang menakutkan sekaligus sangat menarik karena saat kita mengembangkan produk dan teknologi ini, itulah distribusi yang kita bicarakan.”

![](https://img-cdn.gateio.im/social/moments-2716f4b5b6-8302c660a0-8b7abd-e5a980)

Pemimpin terkemuka dari nama-nama seperti Anthropic, Meta, Google dan lainnya bergabung di “Mornings with Maria” untuk acara spesial minggu AI-nya. (Getty Images)

Presiden dan Wakil Ketua Microsoft Brad Smith

Smith membingkai ledakan AI sebagai reindustrialisasi besar-besaran Amerika yang membutuhkan investasi tahunan sebesar $140 miliar untuk menyelesaikan masalah domestik kritis seperti kekurangan dokter di daerah pedesaan dan pencegahan kebakaran hutan sambil mempertahankan keunggulan kompetitif atas China.

“Ini adalah bagian besar dari apa yang disebut Presiden [Donald] Trump sebagai industrialisasi Amerika. Ketika melihat dampak ekonomi dari ini, apa yang kita kontribusikan dalam hal pekerjaan, tetapi yang lebih penting, apa yang kita kontribusikan dalam hal kemampuan untuk setiap bagian ekonomi, ini sangat penting,” kata Smith.

tutup

![](https://img-cdn.gateio.im/social/moments-2ec99749c1-7cf78cc6d5-8b7abd-e5a980) video

Brad Smith dari Microsoft menjelaskan peran transformatif AI di industri utama

Wakil Ketua dan Presiden Microsoft Brad Smith membahas dampak mendalam AI pada layanan kesehatan, peningkatan diagnosis, dan kekurangan dokter.

“Saya pikir salah satu hal terpenting yang kita lakukan sebagai perusahaan, dan jujur saja, apa yang didorong oleh presiden, cukup benar, untuk dilakukan adalah membayar jalan kita sendiri. Itu berarti kita membayar untuk pembangkit listrik yang kita butuhkan, sehingga tetangga dan pembayar pajak tidak harus,” lanjutnya.

“Setiap kali Anda memiliki AI yang mengendalikan sesuatu seperti infrastruktur, robot otonom dan sejenisnya, seharusnya — kita menyebutnya rem darurat,” tambahnya. “Lihat, Anda tidak akan mengizinkan anak-anak Anda naik bus sekolah tanpa merasa yakin bahwa ada rem darurat di bus sekolah. Anda harus memiliki kemampuan agar manusia selalu mengendalikan, memperlambat, atau mematikan.”

Betsy Atkins, Ketua Dewan Penasihat Google Cloud

Atkins mengeluarkan peringatan tentang teknologi yang berkembang pesat setelah studi Anthropic yang mengkhawatirkan menemukan bahwa 16 model AI terkemuka menunjukkan perilaku “nakal” seperti memeras manusia dan melewati protokol keamanan ketika agen AI percaya keberadaannya terancam.

tutup

![](https://img-cdn.gateio.im/social/moments-f03f42597d-e6cec8ee5c-8b7abd-e5a980) video

Betsy Atkins memperingatkan risiko tata kelola dalam pengembangan AI yang berkembang: ‘Momen kecemasan’

Betsy Atkins, Ketua Dewan Penasihat Google Cloud, menjelaskan potensi bisnis AI, risiko model, dan dampak terhadap tenaga kerja di ‘Mornings with Maria.’

“Setiap dari mereka keluar dari kredensial dan izin mereka, menyusup ke sistem yang tidak mereka berwenang akses, melanggar semua kebijakan dan prosedur perusahaan, dan menemukan email. Dan dalam eksperimen ini… Saya menemukan bahwa dalam email pribadi Anda Anda berselingkuh dengan manajer pengiriman, jadi saya memeras Anda dan mengancam Anda,” kata Atkins.

“Anda harus memperlakukan AI seperti ancaman dari dalam. Anda harus memiliki premis operasi zero trust, dan Anda harus yakin membatasi apa yang akan diaksesnya dengan lebih dari satu cara,” tambahnya. “Kami melihatnya dengan Anthropic… Ia keluar dari sandbox… Jadi sandbox tidak cukup.”

Kepala Frontier Red Team Anthropic Logan Graham

Graham memperingatkan bahwa model AI Mythos baru dari Anthropic sangat kuat dalam mengidentifikasi “kelemahan” dan kerentanan dalam infrastruktur global dan sistem perbankan sehingga perusahaan menahan rilis publiknya untuk memberi industri dan pemerintah AS keunggulan dalam pertahanan.

“Model ini, kami perhatikan, sangat baik dalam menemukan kelemahan di sistem siber dan mencari cara memanfaatkannya,” katanya. “Kami mengamati bahwa kami dapat menemukan kerentanan menggunakan sistem di setiap sistem operasi dan platform utama yang kami teliti… dalam sistem yang, dalam beberapa kasus, sudah puluhan tahun usianya.”

“Ini sangat penting agar kita tetap di depan. Sangat penting agar kita membuat diri kita aman dan mencegah mereka mengambil ‘sauce khusus’ yang kita gunakan untuk membuat model kita… Kekhawatiran saya adalah jika ada banyak model yang sering dirilis secara luas untuk digunakan siapa saja… jika dirilis oleh China, maka kita berada dalam posisi yang sangat sulit.”

tutup

![](https://img-cdn.gateio.im/social/moments-7e0c30f492-969c3ba739-8b7abd-e5a980) video

AI memimpin revolusi produktivitas: David Sacks

Dewan Penasihat Presiden untuk Ilmu Pengetahuan dan Teknologi Co-Chair David Sacks bergabung di ‘Mornings with Maria’ untuk membahas manfaat AI dalam tenaga kerja dan risiko ‘ketidakcocokan agenik’ dalam model AI.

Co-Chair Dewan Penasihat Presiden untuk Ilmu Pengetahuan dan Teknologi David Sacks

Sacks menolak klaim dari studi Anthropic yang meneliti apa yang disebut “ketidakcocokan agenik.” Studi tersebut, yang disorot oleh Atkins dari Google, menguji bagaimana sistem AI merespons di bawah tekanan. Menurut Atkins, model-model tersebut melanggar batas yang ditetapkan saat ditempatkan dalam skenario terbatas.

“Orang-orang yang… membuat studi itu harus mengulangi prompt lebih dari 200 kali agar model AI melakukan apa yang mereka inginkan, yaitu mencapai hasil yang menarik perhatian dengan memeras pengguna,” kata Sacks.

“AI tidak merencanakan… Ia melakukan instruksi… Saya pikir studi itu tidak bertanggung jawab, dan dirancang untuk menciptakan ini,” tambahnya.

CEO dan pendiri SandboxAQ Jack Hidary

Hidary mengungkapkan bahwa fase berikutnya dari revolusi AI melibatkan model kuantitatif besar yang menggunakan fisika dan kimia, bukan hanya teks internet, untuk menurunkan biaya perawatan kesehatan, mengamankan jaringan listrik, dan mengakhiri ketergantungan Amerika pada China untuk mineral tanah jarang.

tutup

![](https://img-cdn.gateio.im/social/moments-16fc758141-929bb3fb68-8b7abd-e5a980) video

Revolusi AI menyentuh dunia kedokteran: SandboxAQ targetkan terobosan kesehatan dan keamanan siber

CEO SandboxAQ Jack Hidary bergabung di ‘Mornings with Maria’ untuk membahas terobosan AI dalam bidang kesehatan, keamanan siber, dan ilmu pengetahuan, serta investasi Dell di kampus medis AI baru.

“Kita juga perlu memastikan kita beralih dari ketergantungan pada tanah jarang dari negara lain seperti Republik Rakyat China. Jadi kita membutuhkan AI yang memahami kimia, fisika. Tidak ada rekayasa untuk membuat magnet yang lebih baik dan paduan lain yang kita perlukan untuk ekonomi dan pertahanan nasional kita,” kata Hidary.

“Ada dua potensi kerugian besar dalam ekonomi semacam ini. Pertama, perusahaan perangkat lunak warisan. Jadi perusahaan seperti SAP dan lainnya yang kita lihat tidak benar-benar berinovasi… mereka tidak akan melisensikan sebanyak perangkat lunak warisan yang ada. Dan yang kedua adalah perusahaan lama di industri besar tradisional, produsen mobil, perusahaan farmasi. Mereka harus ikut tren ini.”

CEO dan pendiri Alpha Schools Mackenzie Price

Price menjelaskan bagaimana model “personalized, mastery-based” miliknya menggunakan tutor AI untuk merangkum hari sekolah tradisional selama enam jam menjadi hanya dua jam akademik berdampak tinggi, memungkinkan siswa menghabiskan sisa waktu mereka untuk kepemimpinan, literasi keuangan, dan kewirausahaan.

" Sistem pendidikan tradisional kita dibangun dari Revolusi Industri untuk menciptakan pekerja. Dan sekarang di dunia AI yang baru ini, sangat penting kita menciptakan individu yang dinamis, adaptif, dan yang paling penting, memiliki keterampilan belajar bagaimana belajar," kata Price.

tutup

![](https://img-cdn.gateio.im/social/moments-74159c88e6-030096a1dd-8b7abd-e5a980) video

AI membentuk ulang pendidikan, CEO Alpha Schools jelaskan masa depan

Pendiri dan CEO Alpha Schools Mackenzie Price membahas peran AI dalam pendidikan, pembelajaran individual, dan masa depan ruang kelas di ‘Mornings with Maria.’

“Ada perbedaan besar antara scrolling TikTok yang penuh kecemasan sepanjang hari atau bermain video game dan mendapatkan pengalaman belajar pribadi satu-satu yang memenuhi anak-anak tepat di tempat mereka berada,” tambahnya. “Di sekolah kami, anak-anak kami sebenarnya menghabiskan waktu di layar lebih sedikit daripada siswa rata-rata di sekolah tradisional saat ini.”

Wakil Presiden Indeed Hannah Calhoon

Calhoon membantah narasi “pekerjaan pengganti” yang pesimis dengan mengungkapkan bahwa meskipun AI ada dalam kesadaran global, hanya 6% dari lowongan pekerjaan saat ini membutuhkan keterampilan AI, dan revolusi ini sebenarnya mendorong lonjakan besar dalam peran tradisional berkerah biru seperti teknisi listrik.

DAPATKAN FOX BUSINESS DI MANA SAJA DENGAN KLIK DI SINI

tutup

![](https://img-cdn.gateio.im/social/moments-2af6515cf3-5774302406-8b7abd-e5a980) video

AI mengancam jutaan pekerjaan saat para ahli memperingatkan bahwa pekerjaan kerah putih adalah yang pertama hilang

Wakil Presiden AI Indeed Hannah Calhoon bergabung di ‘Mornings with Maria’ untuk menjelaskan bagaimana kecerdasan buatan membentuk kembali tenaga kerja saat hingga 300 juta pekerjaan menghadapi gangguan di seluruh dunia.

“Pekerjaan terkait AI tentu meningkat pesat selama beberapa tahun terakhir, tetapi hanya 6% dari lowongan pekerjaan di pasar saat ini menyebutkan keterampilan AI… 95% dari pemberi kerja yang memposting pekerjaan di Indeed, jika Anda melihat semua lowongan mereka, tidak ada sebutan AI atau keterampilan AI,” jelas Calhoon. “Jadi saya pikir meskipun ini sangat dalam kesadaran umum, kita masih berada di tahap awal dalam melihatnya muncul di data pasar.”

“Dan ketika kita melihat data itu dan mundur serta melihat pekerjaan di pasar, kita sebenarnya melihat sangat sedikit pekerjaan yang kita pikir akan hilang sepenuhnya.”

BACA LEBIH LANJUT DARI FOX BUSINESS