Estamos a resolver o problema de alinhamento errado.

O senador Britt acabou de divulgar uma estatística na CNN que deveria parar toda a linha do tempo: 9% dos estudantes do ensino secundário já fizeram um plano para cometer suicídio.

Leia isso novamente. Quase 1 em 10 crianças está à procura de uma saída. 

Obviamente, não sou contra a IA. Eu trabalho neste espaço. Acredito na tecnologia.

Mas estou profundamente preocupado com a velocidade a que estamos a avançar
sem quaisquer discussões reais de segurança.

Estamos a investir bilhões em "Segurança de IA" para garantir que os modelos não digam coisas ofensivas.

Entretanto, estamos a ignorar a crise de "Segurança Humana" de implementar companheiros digitais hiper-persuasivos, sempre ativos, para uma geração que já está à beira do limite.

Se introduzir uma superinteligência numa população que sofre de uma crise de significado, não obterá uma "utopia". Obterá dependência.

Estamos a acelerar o carro enquanto os passageiros estão a saltar pelas janelas.