Un agent qui décide seul, est-ce encore votre décision ?

Il y a une question qu'on ne se pose pas assez tôt quand on déploie des agents IA : à partir de quel moment une action automatique reste-t-elle votre décision ? Sur le papier la réponse est simple — vous restez responsable. En pratique, la ligne bouge tous les jours, et personne ne la trace vraiment. Je voudrais essayer, honnêtement.

Le premier réflexe est de dire que l'humain valide, donc l'humain décide. Mais valider, ça veut dire quoi ? Si un agent prépare une réponse, la propose, et que je clique « envoyer » sans vraiment la relire, ai-je décidé quelque chose ? J'ai consenti, ce n'est pas pareil. Le consentement mou, à grande échelle, produit des décisions sans décideur. C'est exactement ce que la réglementation refuse — et à juste titre.

À l'autre bout, il y a le fantasme de la validation ligne à ligne. Chaque action de l'agent examinée, pesée, contresignée. Dans un cabinet qui traite des milliers d'interactions par mois, c'est intenable. Et pire, c'est contre-productif : à force de tout valider, on ne valide plus rien. L'attention se dilue et l'humain devient un tampon plutôt qu'un décideur.

Le vrai travail consiste à trier ce qui peut être automatique et ce qui doit rester une décision. Nous nous appliquons quelques règles, qu'on peut discuter mais qui tiennent au quotidien.

Une action est automatique quand trois conditions sont réunies. Elle est réversible sans coût — un email peut être renvoyé, une saisie corrigée. Elle porte sur un cas suffisamment cadré pour que le risque d'erreur soit borné. Et elle est journalisée, donc auditable après coup. Toutes les tâches de tri, de routage, de préparation entrent dans cette catégorie. L'agent fait, on regarde par échantillonnage, on corrige les biais.

Une action est une décision quand une seule des trois conditions manque. Un conseil formulé au client, une déclaration réglementaire, un choix de garantie : l'agent prépare mais ne décide pas. Pas parce que la machine est incapable — souvent elle produit un résultat correct — mais parce que la responsabilité n'est pas transférable à un système. Le devoir de conseil au titre de la DDA appartient au courtier, pas à l'outil. Il en va de même pour la déclaration de soupçon LCB-FT, pour la souscription, pour la clôture d'un sinistre engageant.

Entre les deux, il y a une zone grise que je trouve la plus intéressante. Les tâches semi-cadrées, où l'agent propose et où l'humain arbitre en connaissance de cause. C'est là que se joue la vraie valeur d'un copilote : ni tout laisser faire, ni tout refaire, mais focaliser l'attention humaine sur les moments qui la méritent. Cela suppose que l'agent sache dire quand il n'est pas sûr — et c'est un point d'ingénierie autant qu'un point de conception.

Ce que je retiens, c'est que la responsabilité ne se délègue pas à un système, mais qu'elle ne se sur-consomme pas non plus. La bonne question à se poser avant chaque déploiement n'est pas « est-ce que l'agent peut le faire ? », mais « qui répondra si ça se passe mal ? ». Tant que la réponse est claire, on peut avancer. Quand elle devient floue, il faut s'arrêter et revoir le périmètre. C'est moins spectaculaire qu'une démo, mais c'est ce qui distingue un outil sérieux d'un pari.