AI Renaissance》les philosophes deviennent des produits prisés dans les laboratoires d'IA, intégrer l'éthique dans votre modèle.

Quand vous demandez à Claude si vous devriez faire quelque chose, quelqu'un a déjà pensé à la réponse derrière vous, et cette personne pourrait être un philosophe. Anthropic et OpenAI sont en train d'intégrer de force deux cadres éthiques, la déontologie et le conséquentialisme, dans les règles de comportement de l'IA.

(Contexte précédent : De la sortie d'OpenAI à l'affrontement avec le Pentagone : Comment les frères et sœurs d'Anthropic tracent une ligne rouge pour l'IA afin d'éviter l'effondrement de la civilisation)

(Contexte complémentaire : Test du jeu Battle Royale OpenRouter : Grok couronné roi, les bonnes habitudes de Claude deviennent fatales)

Table des matières

Toggle

• Les deux philosophies derrière les règles
• Pourquoi des philosophes ?
• Un nombre infime, et une position pas nécessairement neutre

Poser une question épineuse à Claude et ChatGPT peut donner des réponses radicalement différentes. Ce n'est pas un biais dans les données d'entraînement ni un bruit aléatoire, mais parce que deux cadres philosophiques opposés sont en train d'être intégrés dans les codes de conduite de chaque entreprise d'IA. Le modèle que vous utilisez est en réalité le produit d'une certaine position éthique.

Les deux philosophies derrière les règles

« La Constitution de l'IA » (en langage simple, l'ensemble des règles qui contraignent les réponses et actions du modèle) n'est pas un argument marketing des startups, mais une tentative de transformer l'éthique abstraite en instructions exécutables par le système. Le problème est que l'éthique elle-même comporte des divergences fondamentales.

Déontologie (déontologie, simplement dit « certaines choses ne peuvent jamais être faites ») : quelles que soient les conséquences positives, mentir, contraindre, utiliser les gens comme des outils sont des lignes rouges infranchissables.

Conséquentialisme (conséquentialisme, en termes simples « faisons le bilan, si les avantages l'emportent sur les inconvénients, c'est acceptable ») : mesurer les coûts et les bénéfices, tant que les bénéfices attendus dépassent les risques prévisibles, l'action est justifiée.

Le Claude d'Anthropic suit plutôt la ligne déontologique, avec un comportement plus cohérent et moins d'exceptions selon les contextes (domestique, public, etc.) ; ChatGPT et Google Gemini sont plus proches du conséquentialisme, évaluant les risques et bénéfices au cas par cas.

Cette différence n'est pas fortuite. L'équipe de rédaction de la « Constitution » d'Anthropic a explicitement inclus les philosophes Amanda Askell et Joe Carlsmith, apportant une formation philosophique au cœur de l'alignement des modèles. Il s'agit d'une tension réelle : face à une même requête, un système déontologique peut refuser directement, tandis qu'un système conséquentialiste peut d'abord demander « À qui cela profite-t-il en fin de compte ? »

Pourquoi des philosophes ?

Il y a dix ans, on disait souvent aux étudiants en lettres et sciences humaines d'« apprendre la programmation pour avoir un avenir » ; aujourd'hui, ce sont les ingénieurs qui s'inquiètent : l'IA rendra-t-elle leurs compétences obsolètes ?

Anthropic, Google DeepMind et Meta recrutent activement des chercheurs en philosophie, éthique et sciences cognitives ces dernières années. Ce n'est pas une simple action de relations publiques. L'IA touche à un ensemble de problèmes sans solution technique unique : conscience, agentivité, imputation des responsabilités, gouvernance de la sécurité, jugement de valeur. Sam Altman a déclaré publiquement qu'OpenAI a consulté « des centaines de philosophes moraux » lors de l'élaboration des règles de ChatGPT. Que ce chiffre soit précis ou non, la direction est claire.

Anthropic et Google DeepMind vont même plus loin en investissant dans la recherche sur le « bien-être de l'IA », explorant si les modèles possèdent des états internes similaires aux sensations. Cette recherche va de pair avec la quête de l'AGI : si l'IA se rapproche vraiment d'une conscience humaine, la compréhension des philosophes de la conscience, du sujet et du langage n'est pas seulement un ornement humaniste, mais une perspective que les ingénieurs n'ont pas.

Sur Hacker News, la communauté des développeurs a également fait une observation constructive : fournir au LLM le contexte des objectifs, des raisons et des compromis donne des résultats plus fiables que des instructions purement impératives. C'est peut-être précisément ce que la formation philosophique a l'habitude de faire : d'abord clarifier « quel problème résoudre », puis demander « si cela répond vraiment à l'objectif à travers des tests ».

Bien sûr, certains objectent que cela ressemble davantage à une clarification des exigences produit et ne peut être directement assimilé à la rigueur de la philosophie académique.

Un nombre infime, et une position pas nécessairement neutre

Bien sûr, décrire cette tendance comme « l'invasion massive des philosophes dans la tech » est en soi une exagération. En réalité, les postes de philosophes dans l'ensemble de l'industrie technologique restent rares, bien moins de 1% de ceux des ingénieurs.

Et le problème fondamental n'est pas le nombre, mais la structure : les philosophes employés peuvent-ils vraiment défier les décisions commerciales de leurs employeurs ? Les équipes d'éthique de l'IA des entreprises technologiques ont laissé des précédents : lorsque les conclusions de la recherche entrent en conflit avec les intérêts commerciaux, ces postes sont souvent les premiers à disparaître.

Ce n'est pas seulement un problème de gouvernance d'entreprise, cela implique aussi les risques inhérents aux cadres philosophiques eux-mêmes. Le conséquentialisme semble rationnel et quantifiable, mais une fois appliqué au développement d'armes, aux décisions politiques ou aux systèmes à grande échelle, l'imprévisibilité des conséquences fait rapidement dérailler le calcul du « bénéfice l'emporte sur l'inconvénient ».