La connexion de la NSA suscite des inquiétudes : Snowden et Musk défient la direction de la gouvernance d'OpenAI.

Edward Snowden, le célèbre lanceur d'alerte et défenseur des droits numériques, a lancé un avertissement sévère concernant OpenAI suite à la récente nomination d'un membre du conseil d'administration de l'entreprise. Selon des rapports, Snowden a exprimé des préoccupations importantes après qu'OpenAI, dirigé par Sam Altman, a nommé le général à la retraite de l'Armée américaine Paul Nakasone, ancien directeur de la National Security Agency (NSA), à son conseil d'administration. Nakasone a dirigé la NSA de 2018 à 2023.

La nomination intervient au milieu d'un examen croissant de la culture de sécurité et du modèle de gouvernance d'OpenAI. En réponse à des informations concernant le rôle de Nakasone dans l'amélioration de l'application de l'IA dans la détection des menaces en cybersécurité, Snowden a délivré un message sans ambiguïté à ses partisans : "Ils ont complètement retiré le masque : ne faites jamais confiance à OpenAI ou à ses produits (ChatGPT etc)." Il a caractérisé cette nomination comme une "trahison délibérée et calculée des droits de chaque personne sur Terre," soulignant les graves implications en matière de confidentialité de cette décision de leadership.

La critique de Snowden s'aligne avec son plaidoyer de longue date en faveur de la souveraineté numérique et d'un meilleur contrôle des systèmes d'intelligence artificielle. Il a constamment averti sur le potentiel de l'IA à approfondir les capacités de surveillance et à compromettre les droits à la vie privée des individus lorsqu'elle est développée sans protections adéquates ou gouvernance transparente.

La controverse a également suscité des réactions d'Elon Musk, entrepreneur technologique et fondateur d'une startup d'IA, qui est devenu de plus en plus critique à l'égard de la direction d'OpenAI. Musk a répondu de manière sarcastique à la nouvelle, en déclarant : "J'ai hâte qu'OpenAI ait accès à mon téléphone." Ce commentaire a suivi ses précédentes expressions de préoccupation concernant la collaboration d'OpenAI avec Apple pour intégrer la fonctionnalité ChatGPT sur les appareils Apple.

L'opposition de Musk à cette intégration potentielle était si forte qu'il a menacé d'interdire les appareils Apple dans ses entreprises si elle était mise en œuvre, invoquant des craintes qu'OpenAI obtienne un accès sans précédent aux données des utilisateurs grâce à de tels partenariats. Sa position reflète les tensions croissantes entre différentes visions du développement de l'IA : des systèmes centralisés avec des capacités potentielles de surveillance contre des modèles qui privilégient la vie privée des utilisateurs et la souveraineté des données.

Cette nomination à la direction soulève des questions fondamentales sur l'équilibre entre l'avancement de l'IA et la protection de la vie privée, surtout alors que les systèmes d'intelligence artificielle acquièrent une influence sans précédent sur les communications numériques, l'analyse des données et la technologie quotidienne. Le débat reflète des préoccupations plus larges dans le secteur technologique concernant les structures de gouvernance appropriées pour des systèmes d'IA de plus en plus puissants et leur impact potentiel sur les droits numériques.