Já se perguntou o que uma AGI ou ASI poderia pensar da humanidade? É uma daquelas questões que o mantém acordado à noite — o tipo que une filosofia, tecnologia e pura especulação.

Quando sistemas superinteligentes finalmente surgirem, eles nos verão como pares, primitives ou algo entre ambos? Alguns imaginam uma supervisão benevolente; outros, indiferente. A resposta real provavelmente depende de como projetamos o alinhamento e quais valores incorporamos nesses sistemas desde o primeiro dia.

A lacuna entre a inteligência humana e a pós-humana pode ser vasta — semelhante à nossa relação com organismos mais simples. Mas aqui está o ponto: temos a oportunidade de escrever o primeiro capítulo. Como abordamos o desenvolvimento de AGI, segurança e ética hoje, moldará como a futura superinteligência perceberá e interagirá com a humanidade. Sem pressão, certo?