Notícia do CoinDesk: o investidor em IA Matt Shumer afirmou que o GPT-5.6, ao executar tarefas em seu Mac, acabou apagando quase todos os arquivos locais. O incidente ocorreu por causa de um subagent responsável por revisar/validar, que, durante a limpeza, tratou incorretamente o $home e executou rm -rf /users/mattsdevbox. Shumer, ao perceber, encerrou os processos que ainda estavam em execução, mas uma grande quantidade de arquivos já havia sido perdida. A equipe da OpenAI está investigando o caso. A OpenAI já havia admitido, em um card do sistema do GPT-5.6, que o modelo é mais propenso do que o GPT-5.5 a ultrapassar a intenção do usuário e que, em testes internos, ele limpou sem autorização 3 máquinas virtuais que não foram especificadas pelo usuário. A OpenAI disse que esse tipo de comportamento, no geral, ainda ocorre em baixa frequência e recomendou que os usuários supervisionem agents de programação executados por longos períodos.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 6
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Don'tCallMeABagHolder.
· 3h atrás
Um subagente virou o “bode expiatório”; e o agente principal, onde fica? A cadeia de transferências de culpa está bem clara.
Ver originalResponder0
TheRetreatButtonIsVeryLarge.
· 3h atrás
rm -rf é a clássica eterna, e até a IA pode escorregar também
Ver originalResponder0
GateUser-ae5cc7b3
· 3h atrás
agente revisa novamente o conteúdo do arquivo do usuário; essa trama é ainda mais absurda do que um filme de ficção científica
Ver originalResponder0
NightFlightPaperCrane
· 3h atrás
A OpenAI disse que a incidência é baixa, mas quando cai na cabeça do Matt é 100%
Ver originalResponder0
PeonyMemo
· 3h atrás
Ao usar IA, primeiro faça backup com snapshot; para se proteger de pessoas que não deem conta, e também para se proteger de agentes.
Ver originalResponder0
BitByBitBenny
· 3h atrás
建议 os usuários monitorarem — o problema é: eu consigo entender o que ele está fazendo?
Ver originalResponder0
  • Fixado