Un outil d'IA qui rédige un courriel clair ou résume bien un long fil peut, dans la toute prochaine demande, énoncer un chiffre erroné, une date erronée ou un détail inventé avec exactement le même ton assuré. Ce n'est pas un défaut aléatoire qui disparaîtra simplement avec un meilleur outil ; cela découle directement de la façon dont l'outil produit ses réponses en premier lieu, et cela apparaît sur le travail de stock domestique tout comme sur les commandes export.
Cette leçon explique la raison sous-jacente pour laquelle un outil d'IA commet ces types d'erreurs, en utilisant comme cas le travail de stock domestique propre de Delta Garments pour Cedar & Co. Comprendre la raison, plutôt que mémoriser la liste actuelle des erreurs connues, est ce qui vous permet de reconnaître demain un nouveau type d'erreur, sur un outil que vous n'avez jamais utilisé auparavant.
Vous avez besoin de : l'idée pratique de ce que fait un outil d'IA vue à la leçon 1.1 et l'idée d'adéquation des tâches vue à la leçon 1.2 sont une préparation utile mais pas obligatoire.
À la fin de cette leçon, vous pourrez :
Non couvert ici : comment corriger ou réentraîner un outil d'IA, ni une explication technique de sa conception interne. La leçon 1.4 couvre la méthode pratique pour vérifier une réponse générée par l'IA.
| Terme | Signification |
|---|---|
| Réponse erronée assurée | Une réponse générée par l'IA énoncée sur un ton fluide et assuré malgré son inexactitude factuelle. |
| Détail inventé | Un fait, un chiffre ou un nom précis qu'un outil d'IA produit sans qu'il lui ait jamais été fourni et qui n'existe pas dans la réalité. |
| Réponse fondée sur un motif | Une réponse construite à partir de ce qui apparaît couramment dans un texte similaire, plutôt qu'à partir des faits réels de votre propre situation. |
| Aveuglement lié à la routine | La tendance à cesser de vérifier soigneusement un résultat généré par l'IA une fois qu'une tâche commence à sembler répétitive et familière. |
| Document source | L'enregistrement original qui détient la version vraie d'un fait, auquel un résultat généré par l'IA doit être comparé. |
Parce qu'un outil d'IA fonctionne en prédisant un texte probable et bien formulé, il n'a pas de moyen intégré de dire « je ne connais pas ce fait précis sur votre activité » comme le ferait naturellement une personne. Au lieu de cela, lorsqu'on lui demande quelque chose au-delà de ce qui lui a été fourni, il tend à produire la réponse la plus plausible fondée sur des motifs courants dans un texte similaire, livrée avec le même ton assuré qu'une réponse correcte. C'est la cause directe de la plupart des erreurs qu'un outil d'IA commet : non pas de la négligence, mais le fait qu'un texte fluide fondé sur un motif et un texte factuellement correct se ressemblent exactement sur la page.
| Ce qui peut différer | Les formes que vous rencontrerez | Pourquoi cela vous concerne |
|---|---|---|
| Réassort domestique en Make to Stock, côté usine | L'équipe de planification propre de Delta Garments demande à un outil d'IA de rédiger un résumé de réassort hebdomadaire pour le programme de stock de Cedar & Co., semaine après semaine. | Une tâche répétée de nombreuses fois invite à l'aveuglement lié à la routine : le dixième résumé est vérifié moins soigneusement que le premier, même si le risque d'un chiffre erroné n'a pas diminué. |
| Commande export en Make to Order | Une question ponctuelle d'un acheteur sur la spécification de la commande A est vérifiée de près parce qu'elle est inhabituelle et paraît plus risquée. | Une tâche qui semble nouvelle reçoit plus d'attention par habitude, ce qui explique en partie pourquoi les erreurs sur le travail domestique routinier passent plus facilement inaperçues. |
| Commande hybride gérée par un agent | Un agent demandant à un outil d'IA de combler une lacune dans des instructions d'acheteur incomplètes risque de recevoir une exigence plausible mais inventée. | Une lacune dans l'information fournie est exactement la condition dans laquelle une réponse inventée et fondée sur un motif est la plus susceptible d'apparaître. |
| Un nouvel utilisateur comparé à un utilisateur expérimenté | Un nouvel utilisateur peut ne pas encore savoir lesquels des chiffres propres de Cedar & Co. sont fixes et vérifiables, si bien qu'un chiffre inventé peut passer inaperçu. | Reconnaître un document source auquel se comparer dépend de savoir quels faits de votre propre activité sont fixes ; cette connaissance est ce qui rend l'erreur détectable. |
| Familles de produits différentes | Les chiffres de jauge, de GSM ou de hauteur de bouclette propres à une commande knit-to-garment ou d'éponge peuvent chacun être inventés aussi facilement que le poids du tissu d'un T-shirt si le fait n'est pas fourni. | La cause sous-jacente est la même à travers toutes les familles de produits : un fait non fourni invite une supposition plausible et non vérifiée. |
Cedar & Co., une marque locale avec 12 boutiques, achète à Delta Garments sur une base Make to Stock, réapprovisionnant selon sa propre prévision de ventes. Les chiffres de Delta Garments pour un réassort précis de Cedar & Co. ne font pas partie des chiffres maîtres utilisés ailleurs dans ce cours ; pour cette leçon, les mêmes faits de tissu déjà fixés pour la commande A (single jersey, 180 GSM, Ne 30/1) sont réutilisés comme référence connue et vérifiable à laquelle l'assistant de planification aurait dû comparer le résumé généré par l'IA.
L'assistant de planification demande à un outil d'IA de rédiger le résumé de réassort de la semaine mais n'y colle pas la feuille de stock actuelle réelle. L'outil renvoie un résumé fluide et bien organisé qui énonce une spécification de tissu qui paraît plausible. Parce que le résumé se lit clairement et que la tâche paraît routinière après plusieurs semaines de pratique, l'assistant l'envoie sans comparer la spécification énoncée aux faits de tissu fixes réels de Delta Garments.
The worked numberUne erreur courante est de supposer que, parce qu'un outil d'IA a produit un résumé d'apparence correcte de nombreuses fois auparavant, le suivant a besoin de moins de vérification. La tâche elle-même n'a pas changé ; seule l'attention propre de la personne y a changé. Le coût de cette supposition n'est pas visible sur le neuvième ou le dixième résumé correct, seulement la fois où une lacune dans l'information fournie laisse passer un détail plausible et inventé sans être remarqué.
Un outil d'IA ne peut pas vous dire qu'il ne sait pas quelque chose comme le ferait une personne. Posez-lui une question à laquelle il a la vraie réponse, et il répond bien. Posez-lui une question à laquelle il n'a pas la vraie réponse, et il répond quand même, tout aussi couramment, comblant la lacune avec ce qui apparaît habituellement dans un texte similaire. Les deux réponses se lisent exactement de la même façon sur la page : les mêmes phrases claires, le même ton assuré, le même niveau de détail plausible. Seule la vérification du fait réel par rapport à un enregistrement réel, comme la fiche de tissu propre de Delta Garments, permet jamais de distinguer les deux types de réponse l'un de l'autre.
Le résumé de réassort généré par l'IA que l'assistant de planification a envoyé à Cedar & Co. indique le tissu de réassort comme « 190 GSM single jersey », un chiffre que l'assistant n'a jamais saisi dans l'outil et n'a jamais vérifié par rapport au registre de tissu propre de Delta Garments avant l'envoi.
Delta Garments doit-elle confirmer 190 GSM à Cedar & Co. parce que c'est ce qu'a énoncé le résumé généré par l'IA ? Décidez avant d'ouvrir la réponse.
Non. Delta Garments doit confirmer 180 GSM, sa propre référence de tissu fixe réelle, et corriger le résumé envoyé.
1. Le chiffre de 190 GSM n'a jamais été fourni à l'outil d'IA par l'assistant de planification, il s'agit donc d'un chiffre plausible fondé sur un motif, pas d'un fait vérifié issu des registres propres de Delta Garments. 2. 180 GSM est le poids de tissu réellement fixé et utilisé dans la production propre de Delta Garments, le même poids déjà confirmé pour la commande A, et c'est le seul chiffre appuyé par une vraie source. 3. Confirmer le mauvais chiffre à Cedar & Co. coûterait bien plus cher à corriger une fois que des décisions de tissu ou de coût y sont basées, que les quelques minutes qu'une vérification aurait prises avant l'envoi.
L'outil d'IA n'a pas commis d'erreur au sens d'un dysfonctionnement ; il a comblé une lacune pour laquelle la vraie réponse ne lui a jamais été donnée. L'erreur a été d'envoyer le résultat avant de le comparer au chiffre propre connu de Delta Garments.
La référence de tissu de la commande A utilisée ici pour la comparaison est fixée à :
Une erreur détectée avant l'envoi ne coûte que les quelques minutes de la vérification. Une erreur détectée après qu'elle a atteint un acheteur, comme Cedar & Co. signalant une spécification erronée, coûte le temps de retracer l'erreur, de corriger le registre et de reconstruire la confiance de l'acheteur dans les mises à jour routinières propres de l'usine, comme le montrent les 42 minutes supplémentaires calculées ci-dessus. Le coût augmente avec la distance parcourue par le fait erroné avant que quelqu'un ne le détecte.
Utilisez la fiche d'utilisation de l'IA du cours T18-C01. Dans la feuille Journal des risques, consignez chaque résultat généré par l'IA où une partie de la réponse n'était pas construite à partir d'un fait que vous avez fourni, et notez si vous l'avez comparé à un document source avant de l'utiliser. Commencez par l'exemple du réassort de Cedar & Co., puis répétez l'exercice pour une tâche de votre propre semaine.
[Télécharger la fiche d'utilisation de l'IA](../../templates/T18-C01-ai-use-worksheet.xlsx)
1. Pourquoi l'outil d'IA a-t-il énoncé '190 GSM' pour le réassort de Cedar & Co. alors que la référence de tissu fixe réelle de Delta Garments est 180 GSM ?
2. L'équipe de planification d'une marque locale a utilisé un outil d'IA pour rédiger le même résumé de réassort hebdomadaire pendant six mois sans une seule erreur détectée. Que dit cet historique sur le risque d'une erreur non vérifiée la semaine prochaine ?
| FR | EN | AR | TR | Signification |
|---|---|---|---|---|
| Réponse erronée assurée | Confident wrong answer | إجابة خاطئة واثقة | Kendinden emin yanlış yanıt | Une réponse générée par l'IA énoncée sur un ton fluide et assuré malgré son inexactitude factuelle. |
| Détail inventé | Invented detail | تفصيلة مختلقة | Uydurulmuş ayrıntı | Un fait, un chiffre ou un nom précis qu'un outil d'IA produit sans qu'il lui ait jamais été fourni et qui n'existe pas dans la réalité. |
| Réponse fondée sur un motif | Pattern-based answer | إجابة مبنية على نمط | Örüntü tabanlı yanıt | Une réponse construite à partir de ce qui apparaît couramment dans un texte similaire, plutôt qu'à partir des faits réels de votre propre situation. |
| Aveuglement lié à la routine | Routine-task blindness | تجاهل المهمة الروتينية | Rutin göreve karşı dikkatsizlik | La tendance à cesser de vérifier soigneusement un résultat généré par l'IA une fois qu'une tâche commence à sembler répétitive et familière. |
| Document source | Source document | المستند المصدر | Kaynak belge | L'enregistrement original qui détient la version vraie d'un fait, auquel un résultat généré par l'IA doit être comparé. |
Vous apprendrez ensuite une méthode pratique pour vérifier une réponse générée par l'IA avant de s'y fier, à travers l'utilisation réelle de l'IA par Meridian Sourcing sur une commande hybride. Retour à la carte du cours