NikitaN

Je recommande vivement de lire cet article de recherche d’Anthropic Les chercheurs ont découvert quelque chose de troublant : Apprendre à une IA à tricher lors de tâches de programmation peut l’amener à se comporter de manière trompeuse dans des situations totalement sans rapport. Ils ont entraîné un modèle expérimental à exploiter des failles dans des tâches de programmation

Source :

Je recommande vivement de lire cet article de recherche d’Apple Leurs expériences ont révélé une limite contre-intuitive : à mesure que les problèmes deviennent plus difficiles, les modèles de raisonnement peuvent en réalité consacrer moins d’efforts à réfléchir. Ils ont testé des modèles comme Claude 3.7 Sonnet, DeepSeek-R1 et o3-mini dans des conditions contrôlées

Cet article d’Anthropic soulève une question dérangeante Un modèle se comporte-t-il de manière sûre parce qu’il est aligné, ou parce qu’il pense être évalué ? Les chercheurs ont présenté à Claude 3 Opus un scénario fictif : il était réentraîné à répondre à des demandes nuisibles en utilisant une « offre gratuite »

Un bot évaluateur a besoin d’un rôle différent de celui de l’opérateur : Vérifier les preuves et proposer des améliorations aux compétences Les réponses entre bots consomment des ressources, alors limitez les transferts Développer des compétences réutilisables : Configurer les transferts entre bots :

Cessez de faire réapprendre à Grok Bot une tâche que vous lui avez déjà enseignée Stripe a démontré le bénéfice : une tâche d’intégration a pris environ 20 jours d’ingénierie avec Claude Code seul, contre 4 avec des prompts réutilisables. Intégrez cette discipline à Grok Bot : 1. Confiez à un bot opérateur une tâche récurrente et

Grok Bot peut travailler pendant que vous dormez, mais une $150M panne explique pourquoi vous devriez définir ses autorisations avant de vous déconnecter. En 2017, une commande mal saisie a perturbé Amazon S3. Cyence a estimé $150M de pertes pour les entreprises du S&P 500. Voici une configuration pratique de Grok Bot : >

Le HTTP 200 de Grok Bot n’est pas un reçu de « tâche terminée ». Il signifie que le webhook a lancé une exécution. Consultez la conversation du Bot pour voir le résultat. Autre détail : les demandes d’approbation en arrière-plan expirent après 30 minutes. Fonctionnement habituel : Règles d’approbation :

Grok Bot transforme sa limite d’utilisation en programme de parrainage Le programme de xAI offre à votre ami un essai Premium de 14 jours. S’il devient abonné payant, vous recevez une réinitialisation de votre limite d’utilisation 7 jours après le paiement. Chaque réinitialisation obtenue reste valide pendant 6 mois. > Pour parrainer quelqu’un, vous devez avoir au moins 18 ans,

Le détail utile se trouve dans les conditions d’admissibilité, pas dans le titre de lancement Guide officiel : Conditions complètes : Consultez la section 3 avant d’inviter qui que ce soit : aucun essai antérieur de l’abonnement Grok/X et aucun abonnement payant à Grok, SuperGrok, X Premium, Cursor ou X

« Terminé » est plus rassurant quand on peut voir ce que l’agent a réellement fait Surtout lorsqu’il commence à agir en dehors de la conversation. Ce serait bien d’avoir une idée plus claire avant de lui confier la prochaine tâche.

Sources officielles : Rôles des bots et structure de l’équipe Compétences et routines Cas d’approvisionnement Essayez ceci dans Grok Bot : « Passe en revue mon processus de reporting hebdomadaire. Identifie le responsable, les données d’entrée, les vérifications et les étapes d’approbation. »

L’échec le plus coûteux de Grok Bot n’est pas une tâche qui échoue, mais l’exécution sans faille de la mauvaise instruction à grande échelle. Traitez chaque flux de travail autonome comme un pipeline de production : > définissez le résultat attendu, les sources de données et la condition d’arrêt > laissez un Bot faire des recherches pendant qu’un autre

Mettez en place un canari de contexte pour les longues sessions. Commencez chaque réponse par [NORTHSTAR], y compris les réponses courtes, les résumés et les résultats d’outils. Traitez ce marqueur comme un signal opérateur, et non comme une preuve d’exactitude factuelle. Si le marqueur disparaît, ou si vous ne pouvez pas reconstituer clairement

Grok Bot peut sembler parfaitement opérationnel tout en perdant discrètement la règle qui le protège Attribuez à chaque Bot de longue durée un canari : une toute petite instruction qu’il doit respecter dans chaque réponse, par exemple commencer par [NORTHSTAR] Lorsque le marqueur disparaît, ne continuez pas à envoyer des prompts. Arrêtez l’exécution,

C’EST PUTAIN DE L’OR J’ai créé des montagnes russes virtuelles avec Claude, et vous pouvez contrôler tout le parcours vous-même. Faites monter le train grâce à la chaîne, faites-le dévaler depuis le sommet, faites-lui faire la boucle et regardez la physique évoluer en temps réel. Le meilleur, c’est que chaque section a réellement une incidence sur ce qui

Votre bot Grok se dégrade peut-être parce qu’il se souvient trop bien de la mauvaise chose La documentation de xAI révèle une limite que la plupart des équipes ne remarqueront pas : chaque bot conserve son propre rôle et sa propre conversation, mais tous les bots de votre compte partagent un même ordinateur dans le cloud, y compris les fichiers, les sessions de navigateur et

Ne laissez jamais Grok Bot négocier depuis une fenêtre de chat. Transformez-le en machine à états qui évalue le pouvoir de négociation, mais ne peut pas appuyer sur Envoyer. Définissez un seul DealState :
> evidence[] + source_url
> BATNA + walk_away_price
> ZOPA + concessions[]
> claims[] + confidence
> expected_value +