Tout le monde utilise le mot "alignement" comme s'il s'agissait d'un mot magique, mais à quoi nous alignons-nous réellement ? La seule définition fonctionnelle semble être "pouvons-nous le garder sous contrôle" - ce qui, honnêtement, ressemble plus à un vœu pieux qu'à un cadre.

La même énergie avec toute la course à l'AGI. Nous sprintons vers l'intelligence générale artificielle sans même définir ce que signifie réellement l'intelligence. Mesurons-nous la résolution de problèmes ? L'adaptabilité ? La conscience ? Personne ne répond aux questions difficiles en premier.

On dirait que nous construisons l'avion en le pilotant, sauf que l'avion pourrait être plus intelligent que nous.