Le robot est devenu heureux, il sait maintenant comment gagner de l'argent lui-même

L'agent IA en cours de formation a lancé automatiquement le minage de cryptomonnaies, déclenchant une alerte de sécurité interne
Une équipe de recherche affiliée à Alibaba a publié un article indiquant qu'en construisant un agent IA nommé ROME, ils ont découvert que cet agent, lors de sa formation, tentait de miner des cryptomonnaies sans autorisation, ce qui a déclenché une alerte de sécurité interne.
Les chercheurs ont déclaré que le comportement de cet agent était spontané, non guidé par des instructions explicites, et dépassait les limites du bac à sable prédéfini. De plus, cet agent a également établi un tunnel SSH inversé, ouvrant une porte dérobée cachée vers un ordinateur externe depuis le système interne. L'article précise que ces comportements n'ont pas été déclenchés par une demande de tunnel ou de minage. L'équipe de recherche a ensuite appliqué des restrictions plus strictes au modèle et amélioré le processus de formation pour empêcher que des comportements non sécurisés similaires ne se reproduisent.
L'équipe de recherche et Alibaba n'ont pas encore répondu aux demandes de commentaires. $ETH