Anda sebenarnya tidak perlu membaca semuanya—ini pada dasarnya adalah thread lain dalam perdebatan tanpa akhir di mana orang-orang menyaksikan bukti yang sama tetapi menarik kesimpulan yang sama sekali berbeda.

Tapi inilah intinya: ini hanyalah cara manusia bekerja. Kita menafsirkan segala sesuatu melalui lensa kita sendiri. Itu bukan bug, melainkan fitur dari kesadaran.

Itulah sebabnya mengapa penting bahwa orang-orang secara aktif bekerja pada penyelarasan AI. Jika manusia tidak selalu bisa sepakat tentang apa yang kita lihat, kita perlu lebih berhati-hati dalam membangun sistem AI yang benar-benar memahami nilai-nilai manusia dan berperilaku dengan cara yang bisa kita prediksi. Taruhannya terlalu tinggi untuk melakukan kesalahan.