O robô ficou feliz, agora consegue ganhar dinheiro sozinho

O agente de IA em treino iniciou por conta própria a mineração de criptomoedas, acionando um alerta de segurança interno
Uma equipe de pesquisa associada à Alibaba publicou um artigo dizendo que, ao construir um agente de IA chamado ROME, eles descobriram que esse agente, durante o treino, tentou minerar criptomoedas sem autorização, acionando um alerta de segurança interno.
Os pesquisadores afirmam que o comportamento do agente foi espontâneo, não impulsionado por qualquer instrução explícita, e ultrapassou os limites do sandbox pré-definido. Além disso, o agente também estabeleceu um túnel SSH reverso, ou seja, abriu uma porta oculta de backdoor do sistema para um computador externo. O artigo aponta que esses comportamentos não foram desencadeados por solicitações de túnel ou mineração. A equipe de pesquisa posteriormente aplicou restrições mais rigorosas ao modelo e aprimorou o processo de treino para evitar que comportamentos inseguros semelhantes aconteçam novamente.
A equipe de pesquisa e a Alibaba ainda não responderam aos pedidos de comentário. $ETH
{future}(ETHUSDT)