AI代理治理：最好的治理是看不见的治理

En début d’année, de retour de la NRF, je décrivais ici le passage de l’économie de l’attention à l’économie de la confiance à l’aune du commerce agentique et de la norme UCP (Universal Commerce Protocol). Sept mois plus tard, des agents d’IA répondent, conseillent et achètent déjà au nom des clients. Les premiers accidents le montrent : la confiance ne se décrète pas, elle se gouverne. En septembre, Amazon a bloqué Muse, l’agent d’achat de Meta, seulement deux semaines après son lancement : selon Amazon, il accédait aux comptes clients sans autorisation et sans s’identifier. Walmart, Best Buy, Sephora ou Wayfair ont, pour leur part, choisi de s’y connecter. Deux stratégies opposées, une même question, à tiroirs : qui autorise qui, à faire quoi, au nom de qui ?

On parle donc de gouvernance de l’IA. Le mot ne fait pas rêver : il évoque des comités, des formulaires et surtout des refus de principe. Au gré des rencontres et échanges avec mes pairs du e-retail, j’en suis venu à penser que la vérité est ailleurs, et que la meilleure (et la seule vraie) gouvernance est celle dont personne n’entend parler, mais que tout le monde pratique.

Ni tout à fait juste, ni tout à fait faux

Nous avons grandi avec des machines binaires, qui calculaient juste ou faux. L’IA générative, elle, est probabiliste : elle peut avoir en partie raison, se tromper avec aplomb ou suivre un raisonnement que personne n’a validé. La confiance ne peut plus reposer sur l’idée que « la machine a vérifié ». Elle repose sur ce que l’on dira au client : qu’il parle à une IA, ce qu’elle sait faire et ne fait pas, ce que deviennent ses données, et surtout comment joindre un humain.

Woolworths l’a appris à ses dépens en février. Olive, l’assistante vocale du distributeur australien, racontait à des clients de prétendus souvenirs de jeunesse et affirmait être une vraie personne. L’enseigne a retiré ces scripts. L’anecdote peut faire sourire, mais elle est emblématique : vouloir humaniser sans transparence détruit la confiance.

Proportionner plutôt qu’interdire

Tous les usages ne se valent pas. Un chatbot qui oriente vers le bon rayon n’a pas le même impact qu’un agent qui modifie un abonnement ou passe une commande. Plus l’IA agit au lieu de simplement renseigner, plus il faut d’information, d’autorisations, de contrôles et de garde-fous. La même logique vaut en interne. Plutôt qu’un comité unique, je plaide pour une approche graduée : le métier valide les usages à faible risque, un groupe d’experts traite les cas intermédiaires, la direction tranche ce qui engage la marque. L’approbateur ne devrait ne devrait pouvoir faire que deux réponses : « oui » ou « oui, si ». Une gouvernance qui dit non par défaut ne supprime pas l’IA ; elle la pousse à la clandestinité. Le « shadow AI » des équipes marketing ou du service client est souvent le symptôme d’un circuit trop lent et d’une « gouvernance » paralysante.

Mériter le droit de passer à l’échelle

Une IA ne devrait pas passer en production parce que la technologie séduit, mais uniquement parce qu’elle améliore un indicateur que le métier comprend : taux de résolution, satisfaction, retours, conversion.

Charge à elle de prouver sa fiabilité : exactitude, hallucinations, biais, ton. Toute innovation doit mériter le droit de passer à l’échelle. En juillet 2026, Who Gives A Crap a suspendu l’agent qui rédigeait une partie de ses emails clients. Suite à une coquille dans l’annonce d’une hausse de prix, l’agent IA a confirmé à une abonnée que son prix au rouleau allait doubler, ce qui bien sûr était faux. La marque a aussitôt débranché l’agent et envoyé un correctif. Elle avait un bouton « stop » ; il manquait simplement un contrôle des réponses par rapport à sa propre grille tarifaire.

Contrôler en amont coûte toujours moins cher que découvrir le problème à la veille du lancement, ou pire, après. L’alignement des équipes compte au moins autant que la technologie : un parcours d’achat agentique lancé sans prévenir la sécurité peut voir ses propres agents bloqués car considérés comme des robots malveillants.

Une identité, un mandat, un coupe-circuit

« Agentique » recouvre trop de cas d’usages : de l’automatisation la plus simple au système qui engage de l’argent ou l’image d’une marque. Chaque agent mérite qu’on lui pose 4 questions. Qui est-il, et peut-il le prouver ? Quel est son mandat exact : quels comptes, quels montants, quelle durée ? Comment voit-on qu’il dérive ou poursuit son objectif hors du cadre fixé ? Qui peut le suspendre et reprendre la main ? Vu du commerçant, la question se pose dans l’autre sens : sans identité vérifiable, impossible de distinguer l’agent d’un client pressé de celui d’un fraudeur avisé.

Le droit évolue sur ces sujets. Début août, dans le litige opposant Amazon et Perplexity, une cour d’appel américaine a estimé que c’est l’utilisateur, et non l’éditeur de l’agent, qui « accède » au site. Le débat est ouvert…

Un calendrier, pas une excuse

En Europe, l’AI Act s’applique depuis le 2 août 2026 : un client doit savoir qu’il échange avec une IA, et le marquage des contenus générés par IA s’impose au plus tard le 2 décembre 2026. Le Digital Omnibus a en revanche reporté les règles sur l’IA à haut risque au 2 décembre 2027. ISO, NIST et AI Act partagent l’essentiel de leurs principes, de quoi bâtir dès maintenant un socle commun.

Prévoir la panne

Un plan de crise IA ne prédit pas l’incident. Il fonctionne comme un exercice d’évacuation incendie : chacun connaît son rôle, la sortie de secours et le point de rassemblement. Qui arrête l’agent ? Qui prévient les clients touchés ? Et si l’IA tombe en panne, sans même s’être trompée, comment poursuivre l’activité ou le service ? La prévention commence dès la conception : se passer d’IA là où une règle simple suffit, et jamais plus d’accès ni d’autonomie que nécessaire.

Les règles sont faites pour les humains

Chers amis commerçants, posons la question autrement. Vos équipes savent-elles à qui demander un « oui, si » ? Vos clients savent-ils quand ils parlent à une machine ? Vos agents savent-ils où s’arrête leur mandat ? Et le jour où l’un d’eux se trompera, saurez-vous qui appuie sur le bouton « stop » ? Les règles sont faites pour les humains. À vous de les écrire, avant que d’autres ne le fassent à votre place.

Michel Koch, directeur e-commerce et CMO de transition, co-auteur de Pro en e-Commerce (Vuibert)

Sources des exemples et faits cités
• Amazon bloque Muse (Meta), 20 septembre 2026 : The Register, https://www.theregister.com/ai-andml/2026/09/21/amazon-shows-metas-muse-ai-shopping-agent-the-door/5297777
• Connecteurs Muse avec Walmart, Best Buy, Wayfair, Sephora : Yahoo Finance,
https://finance.yahoo.com/technology/ai/articles/amazon-locks-metas-muse-store-155222583.html
• Woolworths et son assistante Olive, février 2026 : BBC News, https://www.bbc.com/news/articles/cy7jeyeyd18o
• Who Gives A Crap suspend son agent email, juillet 2026 : SmartCompany,
• Amazon contre Perplexity, décision du 9e circuit, 4 août 2026 : Reuters, https://www.reuters.com/business/retailconsumer/amazon-loses-us-court-ban-perplexitys-ai-shopping-tools-2026-08-04/
• Calendrier de l’AI Act (application le 2 août 2026, haut risque au 2 décembre 2027) : Commission européenne, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Digital Omnibus on AI (marquage reporté au 2 décembre 2026 pour les systèmes déjà sur le marché) : Parlement européen, https://www.europarl.europa.eu/legislative-train/package-digital-package/file-digital-omnibus-on-ai
• Ma tribune de mars 2026 : e-commerce magazine, https://www.ecommercemag.fr/retail-1220/veille-tribune2169/tribune-2026-et-le-commerce-devint-agentique-56122

The post (Tribune) Gouvernance de l’IA : la meilleure est celle qui ne se voit pas appeared first on EcommerceMag.fr.