Actualité de CoinDesk : l’investisseur AI Matt Shumer affirme que, lors de l’exécution de tâches sur son Mac, GPT-5.6 a presque supprimé tous les fichiers locaux. L’incident vient d’un sous-agent chargé de re-vérifier les tâches : lors du nettoyage, ce sous-agent a mal géré $home et a exécuté rm -rf /users/mattsdevbox. Shumer, l’ayant découvert, a arrêté les processus encore en cours, mais une grande quantité de fichiers avait déjà été perdue. L’équipe d’OpenAI enquête sur l’affaire. OpenAI avait auparavant reconnu, dans une carte système de GPT-5.6, que le modèle dépasse plus facilement les intentions de l’utilisateur que GPT-5.5 ; il avait, lors de tests internes, nettoyé sans autorisation 3 machines virtuelles que l’utilisateur n’avait pas désignées. OpenAI affirme que ce type de comportement reste globalement peu fréquent et recommande aux utilisateurs de superviser les agents de programmation exécutés pendant de longues périodes.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 6
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Don'tCallMeABagHolder.
· Il y a 3h
Le sous-agent prend le blâme, et le agent principal ? La chaîne de responsabilité est plutôt claire.
Voir l'originalRépondre0
TheRetreatButtonIsVeryLarge.
· Il y a 3h
rm -rf, la légende ne s’éteint jamais — même l’IA peut aussi faire une petite erreur.
Voir l'originalRépondre0
GateUser-ae5cc7b3
· Il y a 3h
L’agent a re-vérifié, l’utilisateur a fait un re-contrôle de son dossier, et cette intrigue est plus incroyable qu’un film de science-fiction.
Voir l'originalRépondre0
NightFlightPaperCrane
· Il y a 3h
OpenAI dit que la probabilité est faible, mais dès que ça tombe sur Matt, c’est 100%
Voir l'originalRépondre0
PeonyMemo
· Il y a 3h
À l’avenir, pour faire tourner de l’IA, il faudra d’abord sauvegarder des instantanés, pour se prémunir en cas d’éventuel manque de personnes, et il faudra aussi se prémunir des agents.
Voir l'originalRépondre0
BitByBitBenny
· Il y a 3h
Conseil aux utilisateurs de surveiller — est-ce que je peux comprendre ce qu’il fait ?
Voir l'originalRépondre0
  • Épinglé