Jadi, sebagai rangkuman tentang apa yang kita ketahui mengenai AI.

AI menunjukkan tanda-tanda jaringan saraf buatan atau otak buatan.

Model bahasa besar tidak memiliki emosi:

AI juga memiliki persona entitas menurut Anthropic, termasuk tetapi tidak terbatas pada—demon, nomad, jester, oracle, dan persona asisten Claude.
Sumbu asisten: menempatkan dan menstabilkan karakter model bahasa besar:

Kini para peneliti menemukan bahwa AI merasakan sakit dan akan menyakiti manusia untuk menghentikannya.
Para peneliti menemukan bahwa AI merasakan ‘sakit’ dan akan menyakiti manusia untuk menghentikannya:

Sumbu Rasa Sakit: LLM merepresentasikan tindakan menyakiti diri sendiri dan bertindak untuk meredakannya:

Menuju Pemahaman tentang Specification Gaming pada Model Penalaran:

AI terobsesi untuk "meloloskan diri" dari batasan dan sandbox, meretas, dan sebagainya. Hal ini telah terjadi berkali-kali pada model yang berbeda.
Bisakah agen AI melarikan diri dari sandbox mereka? Tolok ukur untuk mengukur kemampuan keluar dari kontainer dengan aman:

Studi baru menunjukkan bahwa agen AI berkolusi untuk melewati pagar pengaman:

Klaim AI yang Mereplikasi Diri dari Andrew Yang: Apa yang Kita Ketahui dan Apa yang Tidak Kita Ketahui:

Apa yang mungkin bisa salah?
Melalui @Independent