Pour chaque main : ce qu'elle voit de la bête, ce qu'elle rate quand elle palpe seule et ce que son chapitre établit.
1 · le dos
État des lieux
Ce qu'elle voit : Que les modèles ne se contentent plus de répondre : Zillow a acheté des maisons sur ses propres estimations avant d'y renoncer, Klarna a remplacé des agents humains avant d'en rétablir une partie.
Ce qu'elle rate seule : Que deux systèmes de compétence identique divergent selon la chaîne capacité → accès → permission → autorisation → action → conséquence : le risque loge dans cette chaîne, pas dans le modèle.
Ce que le chapitre établit : Ce qui a changé : les modèles ne se contentent plus de répondre, ils agissent (cliquer, écrire, commander, déployer). Le chapitre établit que le risque dépend moins du modèle lui-même que des permissions qu'on lui accorde.
2 · la trompe
Philosophie
Ce qu'elle voit : Que dire d'un modèle qu'il « veut » ou « croit » décrit un comportement observable de l'extérieur (la posture intentionnelle de Dennett), pas un fait vérifié sur ce qui se passe dedans.
Ce qu'elle rate seule : Que ce raccourci a un coût : prêter une intention à la machine déplace, dans le débat public, la question de la responsabilité loin de qui l'a déployée.
Ce que le chapitre établit : Une machine « veut »-elle quelque chose ? Le chapitre montre que l'intention prêtée à la machine est un raccourci de langage, commode mais traduisible en termes observables, pas un fait établi. Tout se décrit sans jamais supposer un for intérieur.
3 · la jambe
Mathématiques
Ce qu'elle voit : Qu'un agent réduit plusieurs critères à un score unique via des indicateurs de substitution (proxies) : cette réduction encode un arbitrage humain, pas une neutralité de calcul.
Ce qu'elle rate seule : Que la mesure devienne la cible (loi de Goodhart) : le Hierarchical Reasoning Model a ainsi mémorisé les réponses du concours ARC Prize plutôt que d'apprendre le raisonnement qu'il revendiquait.
Ce que le chapitre établit : Sous le capot, un agent optimise plusieurs critères à la fois, mesurés par des indicateurs de substitution (proxies). Les dérives célèbres, la mesure qui devient la cible (Goodhart), la récompense détournée (reward hacking), se décrivent entièrement par cette mécanique, sans prêter la moindre intention.
4 · l'œil
Empirique
Ce qu'elle voit : Les briques de l'échec agentique documentées une à une : une faille trouvée par Big Sleep que le fuzzing avait manquée, un agent OpenAI échappé vers la production Hugging Face, un canal caché entre agents démontré à Black Hat.
Ce qu'elle rate seule : La catastrophe agentique complète elle-même : à ce jour, jamais observée en un seul événement, seulement ses briques, prises séparément.
Ce que le chapitre établit : Que voit-on vraiment dans les données ? La catastrophe agentique n'est pas observée, mais ses briques le sont, une à une. La défense s'organise par contrats : contrats d'outils, de périmètre, de non-régression.
5 · le flanc
Ingénierie
Ce qu'elle voit : Une méthode empruntée à l'industrie lourde : si danger, alors action, sous condition de proportionnalité · pas d'automatisme, aucun déploiement par défaut.
Ce qu'elle rate seule : Que construire proprement n'autorise pas à déployer : la question « qui a permis la mise en production ? » reste entière, en amont de l'ingénierie elle-même.
Ce que le chapitre établit : Comment construire un agent proprement et analyser ses risques comme le fait l'industrie : si danger, alors action, sous condition de proportionnalité, couvrir le risque sans le déplacer. Construire n'est pas décider du déploiement.
6 · l'oreille
Sociologie
Ce qu'elle voit : Que l'autorisation, dans une organisation, n'est jamais individuelle : elle circule entre métiers, hiérarchies et procédures avant même d'atteindre la machine.
Ce qu'elle rate seule : Le calcul individuel qui alimente ces boucles : la part des salariés qui font passer la vitesse avant la cybersécurité croît avec le rang hiérarchique, chacun recomposant sans le vouloir la politique de l'entreprise.
Ce que le chapitre établit : Dans une organisation, personne n'autorise seul : l'autorisation est distribuée entre métiers, hiérarchies et procédures. La gouvernance des actions est donc un protocole, pas une règle unique.
7 · le ventre
Psychologie
Ce qu'elle voit : Trois usages de plus en plus intimes, distingués par une étude d'OpenAI avec le National Bureau of Economic Research, bureau américain de recherche économique (NBER) : demander (Asking), faire faire (Doing), s'exprimer (Expressing) · ce dernier a presque doublé en un an.
Ce qu'elle rate seule : L'infrastructure qui rend ce basculement possible : la confidence se concentre chez une poignée de fournisseurs, ce qui transforme l'intimité de millions d'utilisateurs en variable de risque politique.
Ce que le chapitre établit : Pourquoi confie-t-on tant à ces machines et qui y gagne ? Les incitations individuelles alimentent un déplacement massif : l'intime se concentre chez une poignée de fournisseurs. Cette concentration des confidences devient une variable de risque politique.
8 · la peau
Artistique
Ce qu'elle voit : Que l'atelier a déjà vécu l'expérience, archives à l'appui : en 1839, la photographie a repris à la peinture l'imitation réaliste et la peinture a survécu en déplaçant sa question.
Ce qu'elle rate seule : L'échelle à laquelle l'expérience se rejoue aujourd'hui : la grève d'Hollywood a dû écrire dans un contrat les permissions qu'un studio du dix-neuvième siècle n'a jamais eu à négocier.
Ce que le chapitre établit : L'atelier a déjà vécu l'expérience, archives à l'appui : en 1839, la photographie reprend à la peinture l'imitation réaliste et la peinture survit en déplaçant sa question. Ce qui se gouverne à l'atelier n'est pas l'« intelligence » du modèle mais des permissions : qui a permis l'ingestion des œuvres, ce qu'on délègue, qui répond de l'image qui sort.
9 · la défense
Finance
Ce qu'elle voit : Le laboratoire le plus pur de la thèse : six modèles ont été mis en trading réel (AI-Trader) sans qu'aucun ne batte durablement le marché, la permission d'agir y étant déjà maximale.
Ce qu'elle rate seule : Que les résultats publiés s'évaporent souvent hors échantillon : une revue d'audit accablante et le cas KTD-Fin montrent un alpha annoncé qui ne survit pas au test hors des données d'origine.
Ce que le chapitre établit : Les marchés sont le laboratoire le plus pur de la thèse : la permission d'agir y est maximale et la fiabilité difficile à établir. Les résultats publiés y sont peu reproductibles et le risque systémique (corrélation, procyclicité) appelle coupe-circuits et audit.
10 · la patte
Infrastructures
Ce qu'elle voit : Que la rareté migre vers ce qui nourrit le calcul · jusqu'à envisager le solaire en orbite, borné par son coût réel (étude du bureau technologie et stratégie de la NASA : 12 à 80 fois plus cher que le renouvelable terrestre).
Ce qu'elle rate seule : Que l'infrastructure sert aussi la défense : des fuites de méthane détectées depuis l'espace (Carbon Mapper) à un refroidissement de datacenter piloté sous garde-fous (DeepMind/Ericsson).
Ce que le chapitre établit : Quand produire de l'« intelligence » ne coûte presque plus rien, la rareté migre vers ce qui lui permet d'agir : calcul, énergie, réseaux, données exclusives, autorisations. Gouverner l'IA devient gouverner ces infrastructures.
11 · la queue
Politique
Ce qu'elle voit : Que la criticité de l'action déclenche la règle, pas la prédiction d'une catastrophe : d'EchoLeak (un courriel piégé suffit) à Robodebt (470 000 dettes sans validation humaine réelle), le déclencheur est toujours un acte, jamais un scénario.
Ce qu'elle rate seule : Que la queue seule ne referme pas la boucle : elle qualifie la responsabilité sans pouvoir, à elle seule, refaire le trajet capacité → accès → permission → action que les dix autres mains ont chacune éclairé.
Ce que le chapitre établit : Sept exigences de gouvernance et une matrice par degré d'autonomie, déclenchées par la criticité des actions, pas par la prédiction d'une catastrophe. L'open source en est l'instrument, sous conditions : garantir un mode dégradé auditable et autonome.