Plus l'IA se rapproche de l'intelligence humaine, plus elle a besoin d'un système de défense non humain.
Écrit par : 0xResearcher
Manus a obtenu des performances SOTA (State-of-the-Art) dans les tests de référence GAIA, montrant que ses performances dépassent celles des grands modèles de Open AI du même niveau. En d'autres termes, il est capable d'accomplir des tâches complexes de manière autonome, telles que des négociations commerciales internationales, impliquant la décomposition des termes du contrat, la prédiction stratégique, la génération de solutions, voire la coordination des équipes juridiques et financières. Comparé aux systèmes traditionnels, Manus se distingue par sa capacité de décomposition dynamique des objectifs, sa capacité de raisonnement multimodal et son apprentissage amélioré par la mémoire. Il peut décomposer de grandes tâches en des centaines de sous-tâches exécutables, traiter simultanément divers types de données, et améliorer continuellement son efficacité décisionnelle grâce à l'apprentissage par renforcement, réduisant ainsi les taux d'erreur.
Dans l'admiration de la rapidité du développement technologique, Manus a de nouveau suscité des divergences dans l'industrie sur la voie de l'évolution de l'IA : l'avenir est-il dominé par l'AGI ou par le MAS ?
Pour comprendre cela, il faut revenir à la conception de Manus, qui implique deux possibilités :
Un est le chemin AGI. En améliorant continuellement le niveau d'intelligence individuelle pour le rapprocher de la capacité décisionnelle globale des humains.
Il y a aussi le chemin MAS. En tant que super coordinateur, il dirige des milliers d'agents de domaines verticaux pour une collaboration coordonnée.
En surface, nous discutons des divergences de parcours, mais en réalité, nous discutons des contradictions sous-jacentes au développement de l'IA : comment équilibrer l'efficacité et la sécurité ? Plus l'intelligence individuelle se rapproche de l'AGI, plus le risque d'opacité des décisions est élevé ; tandis que la collaboration entre plusieurs agents peut disperser les risques, elle peut également entraîner la perte de fenêtres décisionnelles cruciales en raison de retards de communication.
L'évolution de Manus a involontairement amplifié les risques inhérents au développement de l'IA. Par exemple, le trou noir de la confidentialité des données : dans le domaine médical, Manus a besoin d'accéder en temps réel aux données génomiques des patients ; lors de négociations financières, il pourrait toucher des informations financières non divulguées par l'entreprise ; par exemple, le piège des préjugés algorithmiques, lors de négociations d'embauche, Manus peut faire des recommandations salariales inférieures à la moyenne pour les candidats de certaines ethnies ; lors de l'audit de contrats juridiques, le taux d'erreur dans l'interprétation des termes de l'industrie émergente atteint près de la moitié. De plus, pour contrer les failles d'attaque, les hackers peuvent insérer des fréquences vocales spécifiques pour induire Manus à mal interpréter les plages de prix de l'adversaire lors des négociations.
Nous devons faire face à un point douloureux effrayant des systèmes d'IA : plus le système est intelligent, plus sa surface d'attaque est large.
Cependant, la sécurité a toujours été un terme largement mentionné dans le web3, et sous le cadre du triangle impossible de V (les réseaux de blockchain ne peuvent pas simultanément garantir la sécurité, la décentralisation et la scalabilité), plusieurs méthodes de chiffrement ont également été développées :
Modèle de sécurité Zero Trust : Le concept central du modèle de sécurité Zero Trust est de "ne faire confiance à personne, toujours vérifier", ce qui signifie que aucun appareil, qu'il soit situé dans le réseau interne ou non, ne devrait être considéré comme fiable par défaut. Ce modèle met l'accent sur une stricte authentification et autorisation de chaque demande d'accès pour garantir la sécurité du système.
Identité décentralisée (Decentralized Identity, DID) : DID est un ensemble de normes d'identification permettant à une entité d'obtenir une identification de manière vérifiable et durable sans avoir besoin d'un registre centralisé. Cela représente un nouveau modèle d'identité numérique décentralisée, souvent associé à l'identité souveraine, et constitue une partie importante de Web3.
Le cryptage complètement homomorphe (Fully Homomorphic Encryption, FHE) est une technologie de cryptage avancée qui permet d'effectuer des calculs arbitraires sur des données chiffrées sans les décrypter. Cela signifie qu'un tiers peut manipuler le texte chiffré et obtenir un résultat qui correspond, une fois décrypté, au résultat de la même opération effectuée sur le texte en clair. Cette caractéristique est importante pour les scénarios nécessitant des calculs sans exposer les données d'origine, tels que le cloud computing et l'externalisation des données.
Le modèle de sécurité Zero Trust et le DID ont été utilisés dans un certain nombre de projets au cours de plusieurs marchés haussiers, et ils ont connu des succès ou ont été submergés par la vague cryptographique. En tant que la cryptographie la plus récente, le chiffrement entièrement homomorphe (FHE) est également un outil puissant pour résoudre les problèmes de sécurité à l'ère de l'IA. Le chiffrement entièrement homomorphe (FHE) est une technique qui permet d'effectuer des calculs sur des données chiffrées.
Comment résoudre?
Tout d'abord, au niveau des données. Toutes les informations fournies par l'utilisateur (y compris les caractéristiques biologiques, la voix et l'intonation) sont traitées de manière cryptée, de sorte que même Manus lui-même ne peut pas déchiffrer les données d'origine. Par exemple, dans le cas d'un diagnostic médical, les données génomiques des patients participent à l'analyse sous forme de texte chiffré, afin d'éviter toute fuite d'informations biologiques.
Au niveau de l'algorithme. Avec la "formation de modèle crypté" réalisée par FHE, même les développeurs ne peuvent pas percer le chemin de décision de l'IA.
Au niveau de la collaboration. La communication entre plusieurs agents utilise un cryptage seuil, la compromission d'un seul nœud n'entraînera pas de fuite de données globale. Même lors d'exercices de simulation d'attaques et de défense de la chaîne d'approvisionnement, les attaquants ne peuvent pas obtenir une vue commerciale complète après avoir infiltré plusieurs agents.
En raison de limitations technologiques, la sécurité de web3 peut ne pas avoir de contact direct avec la plupart des utilisateurs, mais elle présente néanmoins des intérêts indirects enchevêtrés. Dans cette forêt sombre, sans effort d'armement, il n'y aura jamais d'échappatoire à l'identité de "légumes à découper".
uPort a été lancé sur le réseau principal d'Ethereum en 2017 et pourrait être le premier projet d'identité décentralisée (DID) à être lancé sur le réseau principal.
En ce qui concerne le modèle de sécurité Zero Trust, NKN a lancé son réseau principal en 2019.
Le réseau Mind est le premier projet FHE à être lancé sur le mainnet et le premier à avoir coopéré avec ZAMA, Google, DeepSeek, etc.
uPort et NKN sont déjà des projets que l'auteur n'a jamais entendus parler, il semble que les projets de sécurité ne soient vraiment pas pris en compte par les spéculateurs, est-ce que le réseau Mind peut échapper à cette malédiction et devenir un leader dans le domaine de la sécurité, nous attendons avec impatience de voir.
L'avenir est déjà là. Plus l'IA se rapproche de l'intelligence humaine, plus elle a besoin de systèmes de défense non humains. La valeur du FHE réside non seulement dans la résolution des problèmes actuels, mais aussi dans la préparation de l'ère de l'IA forte. Sur cette route escarpée menant à l'AGI, le FHE n'est pas une option, mais une nécessité vitale.
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Manus apporte AGI pour la première fois, la sécurité de l'IA est à nouveau en jeu
Écrit par : 0xResearcher
Manus a obtenu des performances SOTA (State-of-the-Art) dans les tests de référence GAIA, montrant que ses performances dépassent celles des grands modèles de Open AI du même niveau. En d'autres termes, il est capable d'accomplir des tâches complexes de manière autonome, telles que des négociations commerciales internationales, impliquant la décomposition des termes du contrat, la prédiction stratégique, la génération de solutions, voire la coordination des équipes juridiques et financières. Comparé aux systèmes traditionnels, Manus se distingue par sa capacité de décomposition dynamique des objectifs, sa capacité de raisonnement multimodal et son apprentissage amélioré par la mémoire. Il peut décomposer de grandes tâches en des centaines de sous-tâches exécutables, traiter simultanément divers types de données, et améliorer continuellement son efficacité décisionnelle grâce à l'apprentissage par renforcement, réduisant ainsi les taux d'erreur.
Dans l'admiration de la rapidité du développement technologique, Manus a de nouveau suscité des divergences dans l'industrie sur la voie de l'évolution de l'IA : l'avenir est-il dominé par l'AGI ou par le MAS ?
Pour comprendre cela, il faut revenir à la conception de Manus, qui implique deux possibilités :
Un est le chemin AGI. En améliorant continuellement le niveau d'intelligence individuelle pour le rapprocher de la capacité décisionnelle globale des humains.
Il y a aussi le chemin MAS. En tant que super coordinateur, il dirige des milliers d'agents de domaines verticaux pour une collaboration coordonnée.
En surface, nous discutons des divergences de parcours, mais en réalité, nous discutons des contradictions sous-jacentes au développement de l'IA : comment équilibrer l'efficacité et la sécurité ? Plus l'intelligence individuelle se rapproche de l'AGI, plus le risque d'opacité des décisions est élevé ; tandis que la collaboration entre plusieurs agents peut disperser les risques, elle peut également entraîner la perte de fenêtres décisionnelles cruciales en raison de retards de communication.
L'évolution de Manus a involontairement amplifié les risques inhérents au développement de l'IA. Par exemple, le trou noir de la confidentialité des données : dans le domaine médical, Manus a besoin d'accéder en temps réel aux données génomiques des patients ; lors de négociations financières, il pourrait toucher des informations financières non divulguées par l'entreprise ; par exemple, le piège des préjugés algorithmiques, lors de négociations d'embauche, Manus peut faire des recommandations salariales inférieures à la moyenne pour les candidats de certaines ethnies ; lors de l'audit de contrats juridiques, le taux d'erreur dans l'interprétation des termes de l'industrie émergente atteint près de la moitié. De plus, pour contrer les failles d'attaque, les hackers peuvent insérer des fréquences vocales spécifiques pour induire Manus à mal interpréter les plages de prix de l'adversaire lors des négociations.
Nous devons faire face à un point douloureux effrayant des systèmes d'IA : plus le système est intelligent, plus sa surface d'attaque est large.
Cependant, la sécurité a toujours été un terme largement mentionné dans le web3, et sous le cadre du triangle impossible de V (les réseaux de blockchain ne peuvent pas simultanément garantir la sécurité, la décentralisation et la scalabilité), plusieurs méthodes de chiffrement ont également été développées :
Le modèle de sécurité Zero Trust et le DID ont été utilisés dans un certain nombre de projets au cours de plusieurs marchés haussiers, et ils ont connu des succès ou ont été submergés par la vague cryptographique. En tant que la cryptographie la plus récente, le chiffrement entièrement homomorphe (FHE) est également un outil puissant pour résoudre les problèmes de sécurité à l'ère de l'IA. Le chiffrement entièrement homomorphe (FHE) est une technique qui permet d'effectuer des calculs sur des données chiffrées.
Comment résoudre?
Tout d'abord, au niveau des données. Toutes les informations fournies par l'utilisateur (y compris les caractéristiques biologiques, la voix et l'intonation) sont traitées de manière cryptée, de sorte que même Manus lui-même ne peut pas déchiffrer les données d'origine. Par exemple, dans le cas d'un diagnostic médical, les données génomiques des patients participent à l'analyse sous forme de texte chiffré, afin d'éviter toute fuite d'informations biologiques.
Au niveau de l'algorithme. Avec la "formation de modèle crypté" réalisée par FHE, même les développeurs ne peuvent pas percer le chemin de décision de l'IA.
Au niveau de la collaboration. La communication entre plusieurs agents utilise un cryptage seuil, la compromission d'un seul nœud n'entraînera pas de fuite de données globale. Même lors d'exercices de simulation d'attaques et de défense de la chaîne d'approvisionnement, les attaquants ne peuvent pas obtenir une vue commerciale complète après avoir infiltré plusieurs agents.
En raison de limitations technologiques, la sécurité de web3 peut ne pas avoir de contact direct avec la plupart des utilisateurs, mais elle présente néanmoins des intérêts indirects enchevêtrés. Dans cette forêt sombre, sans effort d'armement, il n'y aura jamais d'échappatoire à l'identité de "légumes à découper".
uPort et NKN sont déjà des projets que l'auteur n'a jamais entendus parler, il semble que les projets de sécurité ne soient vraiment pas pris en compte par les spéculateurs, est-ce que le réseau Mind peut échapper à cette malédiction et devenir un leader dans le domaine de la sécurité, nous attendons avec impatience de voir.
L'avenir est déjà là. Plus l'IA se rapproche de l'intelligence humaine, plus elle a besoin de systèmes de défense non humains. La valeur du FHE réside non seulement dans la résolution des problèmes actuels, mais aussi dans la préparation de l'ère de l'IA forte. Sur cette route escarpée menant à l'AGI, le FHE n'est pas une option, mais une nécessité vitale.