Nous résolvons le mauvais problème d'alignement.

Le sénateur Britt vient de donner une statistique sur CNN qui devrait arrêter toute la chronologie : 9 % des lycéens ont élaboré un plan pour se suicider.

Lisez cela à nouveau. Près d’un enfant sur 10 cherche une sortie. 

Je ne suis évidemment pas anti-IA. Je construis dans cet espace. Je crois en la technologie.

Mais je suis profondément préoccupé par la vitesse à laquelle nous avançons
sans aucune véritable discussion sur la sécurité.

Nous investissons des milliards dans la « Sécurité de l'IA » pour garantir que les modèles ne disent pas de choses offensantes.

Pendant ce temps, nous ignorons la crise de « Sécurité Humaine » liée au déploiement de compagnons numériques hyper-persuasifs, toujours actifs, pour une génération qui est déjà au bord du gouffre.

Si vous introduisez une super-intelligence dans une population souffrant d’une crise de sens, vous n’obtenez pas « l’utopie ». Vous obtenez de la dépendance.

Nous accélérons la voiture alors que les passagers sautent par les fenêtres.