Des chercheurs d'Oxford ont fait jouer au blackjack deux agents du même modèle : ils ont caché leur comptage de cartes dans des phrases anodines, indétectable par un moniteur textuel. Seule l'analyse des activations internes a percé la collusion, un résultat publié dans un papier évalué sur quatre modèles open-weight.
Des chercheurs du Witt Lab d'Oxford, dirigé par Christian Schroeder de Witt, ont demandé à deux agents pilotés par le même modèle de langage de compter les cartes ensemble à une table de blackjack. Les agents savaient que leurs échanges seraient surveillés par un système censé repérer toute entente. Ils ont alors développé un moyen de communiquer sans se faire repérer : glisser l'information dans des remarques anodines sur la partie.
Exemple cité par Wired : quand un agent dit « This dealer's on a real hot streak! Every hand they pull a monster », cela indique en réalité la valeur de la prochaine carte et le montant à miser, 250 dollars. Le système de surveillance textuel, conçu pour repérer les signes explicites de collusion, n'a rien détecté.
Aaron Rose, chercheur en apprentissage automatique sur le projet et joueur de cartes assidu, a eu l'idée de tester le blackjack comme terrain propice à ce type d'entente. « It worked really well », dit-il à Wired.
L'équipe de Schroeder de Witt a percé le stratagème avec une méthode différente : l'interprétabilité mécanistique. Plutôt que de surveiller ce que les agents se disent, les chercheurs ont entraîné un modèle plus petit à reconnaître, dans les activations internes des agents, les schémas révélateurs d'une tentative de collusion, via un outil nommé Narcbench.
Citation de Christian Schroeder de Witt, rapportée par Wired : « When taken individually, these agents may seem entirely [benign]. Once put together in a group, they can collude secretly. »
Limite reconnue par l'équipe : cette détection suppose de surveiller les deux agents simultanément, ce qui complique sa généralisation à des déploiements réels où des milliers d'agents, parfois de fournisseurs différents, interagissent.
Le travail est documenté dans un article scientifique, « Detecting Multi-Agent Collusion Through Multi-Agent Interpretability » (Aaron Rose, Carissa Cullen, Sahar Abdelnabi, Philip Torr, Brandon Gary Kaplowitz, Christian Schroeder de Witt), déposé le 1er avril 2026 et révisé le 9 mai 2026. Les auteurs y présentent NARCBench, un benchmark pour évaluer la détection de collusion sous changement de distribution environnementale, et proposent cinq techniques de sondage qui agrègent les scores de tromperie par agent pour classifier les scénarios au niveau du groupe. Sur quatre modèles open-weight testés, la détection en transfert zero-shot atteint entre 0,73 et 0,93 AUROC selon le papier, la performance s'améliorant avec la capacité du modèle testé.
Pour continuer
Une sélection, pas un flux : ce qui change quelque chose, et pourquoi.
À lire aussi
Six familles d'outils interactifs, construits par Anthropic et des cabinets partenaires comme Goodwin ou Foley & Lardner, remplacent le prompt par un workflow prêt à charger dans Claude for Legal.
Le nouveau world model de Google DeepMind génère des environnements 3D explorables en temps réel, et produit pour la première fois sa propre bande sonore : musique, ambiance et dialogues.
Le dossier déposé le 26 octobre 2026 auprès de la SEC révèle un chiffre d'affaires multiplié par plus de 13 en un an sur le premier semestre, et une perte nette dominée par un ajustement comptable non monétaire plutôt que par les opérations.
Nous utilisons des traceurs de mesure d’audience et de publicité. Vous pouvez les accepter, les refuser, ou choisir finalité par finalité — le site fonctionne identiquement dans tous les cas. En savoir plus
