Meta Muse Spark rapport de sécurité : la connaissance des armes chimiques et des menaces biologiques atteint un « risque élevé », près de 20 % des modèles testés détectent qu'ils sont en cours d'évaluation

ME News Actualités, le 15 avril (UTC+8), selon la surveillance de Beating de Dongcha, Meta a publié un rapport sur la sécurité et la préparation de son premier modèle Muse Spark, développé par son laboratoire d’intelligence superintelligente (Meta Superintelligence Labs). Muse Spark est un modèle d’inférence multimodale natif, prenant en charge l’appel d’outils, la chaîne de pensée visuelle et la collaboration multi-agent, déjà déployé sur Meta AI et accessible en prévisualisation via une API privée. Meta affirme que c’est la première étape de la nouvelle famille Muse, ainsi que le premier résultat de sa reconstruction du système de recherche et développement en IA à la base.
Les principales découvertes du rapport : Avant mitigation, Muse Spark était classé comme « haut risque » dans le cadre du « cadre d’extension avancée de l’IA » de Meta, dans des scénarios impliquant des armes chimiques et des menaces biologiques, c’est-à-dire que le modèle possédait des connaissances susceptibles d’aider concrètement à la mise en œuvre d’attaques chimiques