Un outil d'IA ne peut pas être tenu responsable d'une décision d'entreprise, car on ne peut pas lui demander de corriger sa propre erreur, on ne peut pas le payer, et il ne peut pas répondre devant un acheteur ou un propriétaire d'usine. Quand un travail assisté par l'IA tourne mal, quelqu'un doit en répondre, et si cette personne n'a jamais été nommée à l'avance, l'entreprise passe son temps à débattre de qui a fait l'erreur au lieu de la corriger. Ceci vaut que l'outil d'IA ait rédigé une réponse, calculé un chiffre, ou aidé à rédiger une spécification de matière.
Cette leçon enseigne surtout le flux de décision pour attribuer la responsabilité à l'avance : une personne désignée possède chaque décision assistée par l'IA, et sa responsabilité ne change pas parce qu'un outil d'IA a participé à la produire. Sans cette règle fixée à l'avance, « l'IA s'est trompée » devient une réponse sur laquelle personne ne peut agir, alors que le coût réel de l'erreur doit tout de même être payé par quelqu'un.
Vous avez besoin de : la vision de la Leçon 5.2 des risques créés par un outil d'IA non gouverné et la méthode de la Leçon 5.3 pour vérifier un outil avant son adoption. Cette leçon couvre ce qui se passe une fois qu'un outil est déjà en usage et qu'un problème survient.
À la fin de cette leçon, vous pourrez :
Non couvert ici : la politique qui fixe quels outils peuvent être utilisés (Leçon 5.1) et les vérifications effectuées avant d'adopter un outil (Leçon 5.3) ; cette leçon suppose qu'un outil est déjà approuvé et en usage.
| Terme | Signification |
|---|---|
| Personne responsable | L'unique individu désigné qui répond d'une décision d'entreprise, qu'un outil d'IA ait aidé ou non à la produire. |
| Erreur d'attribution | Blâmer un outil d'IA pour une erreur au lieu de nommer la personne responsable qui a utilisé son résultat sans le vérifier. |
| Validation signée | La confirmation, par la personne responsable, qu'un résultat assisté par l'IA a été vérifié et peut être utilisé. |
| Registre de correction | Une note écrite de ce qui s'est mal passé, qui l'a découvert, et ce qui a été fait pour le corriger, conservée dès qu'une erreur assistée par l'IA est confirmée. |
| Escalade | Faire remonter une décision ou une erreur trouvée à une personne plus senior ou plus responsable quand cela dépasse l'autorité de la personne actuelle seule. |
Un outil d'IA peut rédiger, calculer ou recommander, mais il ne peut pas être la partie responsable d'une décision d'entreprise, car la responsabilité exige la capacité d'expliquer une décision, de la corriger, et de répondre devant ceux qu'elle affecte. La personne qui a utilisé le résultat de l'outil d'IA, ou celle qui a approuvé son usage, reste exactement aussi responsable que si elle avait produit le même résultat entièrement à la main. Nommer cette personne à l'avance, pour chaque type de décision assistée par l'IA, est ce qui empêche « l'IA s'est trompée » de devenir la fin de la conversation plutôt que le début de la correction.
Cela ne signifie pas que chaque petite tâche assistée par l'IA nécessite une validation formelle ; cela signifie que chaque décision qui pourrait coûter de l'argent, du temps ou de la confiance réels a une personne désignée dont le travail est de vérifier le résultat de l'outil d'IA avant qu'on n'agisse dessus, et d'en répondre ensuite.
| Ce qui peut différer | Les formes que vous rencontrerez | Pourquoi cela vous concerne |
|---|---|---|
| Commande export sous Make to Order | Une réponse rédigée par l'IA confirmant un prix ou une date à l'acheteur est signée et envoyée par un merchandiser. | Le merchandiser qui l'envoie est responsable, pas le junior de l'équipe qui l'a rédigée avec l'outil d'IA, sauf si le merchandiser est aussi celui qui a saisi la demande. |
| Réassort domestique sous Make to Stock | Une quantité de réassort recommandée par l'IA est approuvée et placée par un responsable de planification. | Le responsable de planification qui place la commande est responsable de vérifier la recommandation, même si un planificateur plus junior a fait tourner l'outil d'IA. |
| Commande hybride via une filature | Une spécification de matière assistée par l'IA est utilisée sur un mélange hybride de types de commandes pour plusieurs acheteurs. | Le responsable technique de la filature qui approuve la spécification pour diffusion est responsable de la commande de chaque acheteur, même si la même version assistée par l'IA a été le point de départ des deux. |
| Rôle de bureau d'achat ou d'agent | Un outil d'IA rédige un résumé envoyé à un acheteur, construit en partie à partir de l'information d'un autre acheteur vue le même jour. | L'agent qui envoie le résumé est responsable de garder l'information de chaque acheteur séparée, quel que soit ce que l'outil d'IA a combiné en coulisses. |
| Différentes familles de produits | Les entreprises de chaussettes, de knit-to-garment, d'éponge et de textiles de maison attribuent toutes la responsabilité de la même façon ; seuls le rôle spécifique et la décision changent selon le produit. | La règle qu'une personne désignée est toujours responsable tient pour chaque famille de produits sans exception. |
Suez Denim tisse le denim 12 oz avec 2 % d'élasthanne de la commande B pour Delta Garments, travaillant sur un mélange hybride de types de commandes pour plusieurs acheteurs à la fois. Un assistant technique junior utilise un outil d'IA pour aider à rédiger le chiffre de consommation de tissu d'une nouvelle fiche de spécification, et le brouillon de l'outil d'IA sous-estime la consommation propre et fixe de la commande B, montrant 1,35 m par pièce au lieu des 1,45 m par pièce corrects.
L'assistant envoie le brouillon de spécification pour diffusion sans remarquer l'écart, car le chiffre paraissait raisonnable et correspondait au format des fiches passées. Le responsable technique de Suez Denim, l'équivalent de Karim, est la personne dont la validation diffuse toute fiche de spécification vers un acheteur ou une usine de vêtements ; il est responsable de cette erreur, pas l'assistant qui a utilisé l'outil d'IA ni l'outil lui-même, car l'étape de validation existe spécifiquement pour attraper ce type d'erreur avant la diffusion.
Quand l'erreur est découverte, le responsable technique ne la traite pas comme « l'erreur de l'IA ». Il corrige la spécification, consigne ce qui s'est passé et pourquoi l'étape de validation ne l'a pas attrapée cette fois, et ajuste l'étape de révision pour que ce champ soit vérifié par rapport aux chiffres fixes de la commande avant chaque future diffusion.
Le chiffre calculéUSD 960 est un véritable manque par rapport au besoin réel en tissu de denim de la commande B si le chiffre erroné avait servi à calculer la quantité de tissu à tisser et couper, en plus de la perturbation d'une pénurie de tissu découverte tardivement pendant la coupe. L'étape de validation du responsable technique, correctement exercée, est ce qui attrape cela avant qu'il n'atteigne la salle de coupe de Delta Garments ; quand la responsabilité est clairement assignée et réellement exercée, le coût s'arrête à la correction, pas à un arrêt de production.
Cette explication semble complète car elle nomme une cause, mais une cause n'est pas la même chose que la responsabilité : un outil d'IA ne peut pas se corriger lui-même, ne peut pas apprendre à ne pas répéter la même erreur par discipline, et ne peut pas répondre devant l'acheteur ou l'usine affectés. Traiter l'erreur de l'outil d'IA comme la fin de la conversation laisse sans réponse la vraie question, celle de savoir quelle validation aurait dû l'attraper.
La meilleure règle est simple : nommez la personne responsable avant que l'outil d'IA ne soit utilisé, et tenez-la au même standard que si aucun outil d'IA n'avait été impliqué.
Un outil d'IA peut aider à écrire, calculer ou suggérer, mais il ne peut pas être la personne qui répond quand quelque chose tourne mal, car il ne peut pas s'expliquer lui-même, ne peut pas être corrigé comme une personne peut l'être, et ne peut pas faire face à l'acheteur ou à l'usine affectés. Avant de laisser un outil d'IA aider sur une véritable décision, décidez dans votre propre esprit quelle est l'unique personne qui vérifie son travail et en répond s'il est faux. Cette personne ne change pas parce qu'un outil d'IA a été impliqué.
Quand quelque chose tourne mal, corrigez l'erreur et corrigez l'étape de révision qui aurait dû l'attraper, plutôt que de vous arrêter à « l'outil d'IA a fait une erreur ».
Après la découverte de la sous-estimation de 0,10 m, Karim contacte Suez Denim pour demander comment le chiffre erroné a atteint la fiche de spécification que Delta Garments a reçue. L'assistant technique qui a rédigé la spécification avec l'outil d'IA dit à Karim que « l'outil d'IA s'est trompé sur le chiffre », et qu'il a simplement copié ce qu'il a produit.
Karim doit-il accepter « l'outil d'IA s'est trompé » comme la réponse complète à ce qui s'est passé ? Décidez avant d'ouvrir la réponse.
Non. Karim demande directement au responsable technique pourquoi la vérification requise par rapport à la consommation de denim fixe de la commande B n'a pas attrapé l'erreur avant validation.
1. La spécification portait la validation propre du responsable technique, ce qui signifie que la personne responsable de cette diffusion est le responsable technique, pas l'assistant qui a utilisé l'outil d'IA. 2. L'étape de révision propre de Suez Denim existe spécifiquement pour vérifier ce chiffre par rapport à la spécification fixe de la commande, donc la vraie question est pourquoi cette étape n'a pas fonctionné cette fois, pas ce que l'outil d'IA a produit. 3. Accepter « l'IA s'est trompée » comme réponse complète laisserait la véritable lacune de l'étape de révision non corrigée, ce qui signifie que le même type d'erreur pourrait atteindre une future fiche de spécification sans être remarqué à nouveau.
Le coût d'accepter la réponse incomplète n'est pas seulement cette erreur ; c'est que la faiblesse propre de l'étape de révision resterait sans réponse, et la prochaine erreur assistée par l'IA aurait la même chance d'atteindre Delta Garments sans être vérifiée.
La valeur totale fixe de la commande B montre ce qu'une erreur de spécification laissée non vérifiée aurait pu finalement mettre en jeu si elle n'avait pas été attrapée à l'étape de validation :
Le manque de tissu de USD 960 calculé plus haut n'est qu'une fraction de la valeur totale de la commande B, mais il n'est aussi petit que parce que l'étape de validation, une fois correctement exercée, a attrapé l'erreur avant qu'elle n'atteigne la salle de coupe. Si le même type d'erreur était passé inaperçu dans un champ commercial ou de construction plus important, plutôt qu'un chiffre de consommation, l'exposition aurait pu atteindre une part bien plus grande de la valeur totale de USD 29 400 de la commande. Le coût d'une étape de responsabilité clairement nommée et réellement exercée est le temps qu'il faut pour vérifier un chiffre par rapport au dossier ; le coût de la contourner est tout ce que l'erreur non détectée finit par atteindre.
Utilisez le classeur de liste de contrôle de gouvernance et de risque de l'IA du Cours T18-C05. Dans la feuille Responsabilité, listez chaque type de décision assistée par l'IA, la personne qui doit la valider, et ce qui devrait se passer si une erreur est trouvée. Commencez par la validation de Suez Denim sur la commande B, puis répétez pour votre entreprise.
[Télécharger le classeur de liste de contrôle de gouvernance et de risque de l'IA](../../templates/T18-C05-ai-governance-and-risk-checklist.xlsx)
Télécharger Liste de contrôle de gouvernance et de risque de l'IA (Excel)
1. Pourquoi le responsable technique de Suez Denim est-il responsable du chiffre erroné de consommation de tissu, même si un assistant junior a utilisé l'outil d'IA qui l'a produit ?
2. Un bureau d'achat export utilise un outil d'IA pour rédiger une réponse pour la commande A qui mélange par erreur un détail d'une commande confirmée d'un autre acheteur, et un agent l'envoie sans vérifier. Qui est responsable de l'arrivée de l'information mélangée chez Northline Apparel ?
| FR | EN | AR | TR | Signification |
|---|---|---|---|---|
| Personne responsable | Accountable person | الشخص المسؤول | Sorumlu kişi | L'unique individu désigné qui répond d'une décision d'entreprise, qu'un outil d'IA ait aidé ou non à la produire. |
| Erreur d'attribution | Attribution error | خطأ في تحديد المسؤولية | Sorumluluk atfı hatası | Blâmer un outil d'IA pour une erreur au lieu de nommer la personne responsable qui a utilisé son résultat sans le vérifier. |
| Validation signée | Sign-off | التوقيع بالاعتماد | Onay imzası | La confirmation, par la personne responsable, qu'un résultat assisté par l'IA a été vérifié et peut être utilisé. |
| Registre de correction | Correction record | سجل التصحيح | Düzeltme kaydı | Une note écrite de ce qui s'est mal passé, qui l'a découvert, et ce qui a été fait pour le corriger, conservée dès qu'une erreur assistée par l'IA est confirmée. |
| Escalade | Escalation | تصعيد | Yükseltme (eskalasyon) | Faire remonter une décision ou une erreur trouvée à une personne plus senior ou plus responsable quand cela dépasse l'autorité de la personne actuelle seule. |
Dans la prochaine leçon, vous réunirez la politique, la conscience des risques, les vérifications d'adoption et cette règle de responsabilité en une liste de contrôle complète de gouvernance et de risque de l'IA applicable à tout outil d'IA que votre entreprise utilise déjà ou envisage. Retour à la carte du cours