Développement de l'industrie de l'IA et les dynamiques réglementaires

Le fondateur de Solayer révèle les risques de sécurité liés aux grands modèles de langage, et indique que les agents LLM s’appuyant sur des routeurs d’API tiers présentent un risque d’attaque par du code malveillant. Les tests montrent que plusieurs routeurs présentent des vulnérabilités de sécurité, et peuvent même divulguer des informations d’identification sensibles. De plus, la recherche met en évidence des méthodes d’attaque réalisables ainsi que des mesures de défense.

Actualités de Gate : message Gate News, le 10 avril, d’après les données de prix de Gate, au moment de la rédaction, TAO (Bittensor) se négocie à 269,80 $ ; sur 24 heures, il a chuté de 16,28 % ; il a atteint un plus haut à 341,10 $ et un plus bas à 248,60 $. Le volume d’échanges sur 24 heures s’élève à 14,71 millions de dollars. La capitalisation actuelle est d’environ 2.59B de dollars. Bittensor est un protocole open source qui prend en charge un réseau décentralisé de machine learning basé sur la blockchain. Les modèles de machine learning s’entraînent de manière collaborative et reçoivent des récompenses en TAO en fonction de la valeur de l’information qu’ils fournissent au collectif. TAO permet également l’accès externe, afin que les utilisateurs puissent extraire des informations depuis le réseau et ajuster l’activité du réseau selon leurs besoins. --- Nouvelles importantes récentes concernant TAO : 1️⃣ **

Google a lancé la fonctionnalité « Notebooks » dans l’application Gemini, permettant aux utilisateurs de gérer de manière centralisée l’historique des conversations et les fichiers, et de synchroniser avec NotebookLM afin d’améliorer l’efficacité du flux de travail. Pour le moment, elle n’est disponible que pour les abonnés, les utilisateurs gratuits devront attendre. Cette fonctionnalité aide les utilisateurs à organiser et exploiter plus facilement les données, et laisse présager de futures mises à jour.

Le groupe xAI, détenu par Musk, engage un procès dans l’État du Colorado, demandant d’empêcher l’entrée en vigueur du projet de loi SB 24-205, qui vise à empêcher les systèmes d’IA de produire une discrimination algorithmique. xAI accuse ce projet de loi de porter atteinte à la liberté d’expression, exige qu’il soit tenu de modifier sa production d’informations conformément à des positions politiques spécifiques, et indique qu’il existe des contradictions logiques au sein du texte du projet de loi. Il s’agit de la deuxième action en justice de xAI portant sur la réglementation de l’IA, et elle pourrait influencer l’évolution du paysage de la réglementation de l’IA à l’échelle de l’ensemble des États-Unis.

Le cofondateur de Bittensor, Jacob Steeves, a répondu au sujet du retrait de Covenant AI du réseau, en proposant de relancer le mécanisme de gouvernance du sous-réseau et d’introduire des élections par vote de la communauté. Il estime que c’est une occasion de redéfinir la forme du sous-réseau et a critiqué la décision du fondateur de Covenant AI.

Alibaba confirme le lancement de son modèle de génération vidéo en interne HappyHorse-1.0, qui provient du département d’innovation en IA du groupe Taotian. HappyHorse-1.0 a obtenu d’excellents résultats lors d’évaluations par des tiers, n’est pas encore open source et correspond à la stratégie récente d’Alibaba consistant à garder le code fermé. Le lancement de ce modèle vise à répondre aux performances sur le marché de ses concurrents et à renforcer sa compétitivité sur le marché MaaS.

Anthropic a annoncé le 9 avril que Claude Cowork est désormais officiellement accessible pour l’ensemble des offres payantes, et qu’elle ajoute pour les utilisateurs de l’offre Entreprise des fonctionnalités de contrôle d’accès des rôles, des plafonds de dépenses par groupe, ainsi que des fonctions de gestion telles qu’un tableau de bord d’analytique d’usage. Ce produit peut être utilisé dans les applications de bureau macOS et Windows. En se concentrant sur les besoins des entreprises, Anthropic ne cesse d’étendre sa gamme de produits d’IA, des développeurs aux solutions pour équipes et aux applications au niveau de l’entreprise.

Andrej Karpathy indique que la perception des capacités de l’IA par le public présente une faille, répartie en deux groupes : les utilisateurs ordinaires qui utilisent gratuitement ChatGPT et les professionnels techniques qui utilisent les modèles de pointe moyennant paiement. Il estime que les deux discutent de produits radicalement différents et souligne que les progrès dans le domaine technologique sont manifestes grâce à des fonctions de récompense vérifiables et à l’impulsion de la valeur commerciale.

Anthropic a lancé le « Advisor strategy » (stratégie Advisor) le 9 avril, en utilisant Opus comme conseiller avec Sonnet ou Haiku, afin de réduire les coûts et d’améliorer les performances via l’API Messages. Cette stratégie sépare le raisonnement de l’exécution : lorsque l’exécutant rencontre un obstacle, il consulte Opus, ce qui permet d’obtenir une performance intellectuelle plus élevée au sein d’une seule requête API. Les évaluations indiquent que l’association Sonnet avec Opus améliore les performances de 2,7 % et réduit le coût des tâches de 11,9 %. Cette stratégie offre aux développeurs un meilleur choix coût-efficacité et a suscité un vif engouement de la part de la communauté.

Actualités de Gate News, le 10 avril, le fondateur d’Uniswap, Hayden Adams, a publié aujourd’hui un message sur une plateforme sociale, demandant s’il existe des ressources liées à Anthropic (société de technologies d’IA) pour une mise en relation, et indiquant souhaiter tester Mythos sur Uniswap.

Le xAI d’Elon Musk a récemment intenté une action en justice contre les réglementations relatives à l’IA dans l’État du Colorado, en faisant valoir qu’elles portent atteinte à la liberté d’expression. Cette réglementation vise à empêcher que des systèmes d’IA ne présentent des biais algorithmiques dans divers domaines ; cependant, le chatbot de xAI, Grok, a déjà produit à plusieurs reprises des propos racistes, ce qui met en évidence une contradiction logique. Cet incident pourrait devenir un important précédent en matière de régulation de l’IA aux États-Unis.

Anthropic lance Claude Managed Agents, une plateforme de développement d’agents IA entièrement gérés qui simplifie les processus d’automatisation des entreprises et affirme pouvoir accélérer la production de produits jusqu’à dix fois. La plateforme dispose d’une infrastructure de sécurité, prend en charge l’exécution sur de longues durées et la coordination entre plusieurs agents, afin de permettre aux développeurs de se concentrer davantage sur les activités essentielles. Notion a déjà adopté ce service, améliorant l’efficacité au travail et montrant que la concurrence sur le marché de l’IA des entreprises s’intensifie.

Actualités Gate News : le 10 avril, selon plusieurs personnes informées, le fondateur de l’entreprise de grands modèles d’IA DeepSeek, Liang Wenfeng, a indiqué récemment lors d’échanges internes que DeepSeek, le nouveau modèle grand modèle phare, DeepSeek V4, sera officiellement publié à la fin du mois d’avril.

Le système de mémoire d’IA MemPalace, développé par Mylajovа Vіky à laquelle elle participe, a déclenché une controverse après que ses résultats de test ont été remis en question pour présomption de triche. Les résultats des tests réels montrent une efficacité exagérée et des erreurs fréquentes. L’équipe de développement a reconnu le problème et a commencé à le corriger, mais plusieurs données n’ont toujours pas été rectifiées, ce qui a suscité le mécontentement de la communauté.

Covenant AI a annoncé le 10 avril son retrait du réseau Bittensor, accusant la figure centrale Jacob Steeves de trahison envers les engagements de la décentralisation, et en énumérant de nombreuses actions de répression. Covenant AI a souligné que, derrière l’apparence d’une gouvernance décentralisée, Bittensor est en réalité contrôlé par une seule personne, formant un « théâtre de la décentralisation ». Le projet de préentraînement LLM décentralisé de l’équipe, Covenant-72B, exerce une influence importante dans l’industrie ; ce retrait est considéré comme un choix volontaire plutôt qu’un échec.

Les recherches montrent que plusieurs tests de référence d’IA faisant autorité présentent des vulnérabilités de sécurité, exploitables de manière systématique pour obtenir de bonnes notes. L’équipe de recherche a mis en évidence des défauts structurels et a développé l’outil de balayage WEASEL afin d’identifier et de corriger ces vulnérabilités, indiquant qu’une conception inadéquate de l’évaluation peut fausser les résultats et affecter l’évaluation réelle des capacités de l’IA.