لا يمكن تحميل أداة ذكاء اصطناعي مسؤولية قرار عمل، لأنها لا يمكن أن تُطلَب منها تصحيح خطئها الخاص، ولا يمكن دفع أجر لها، ولا يمكن أن تجيب أمام مشترٍ أو مالك مصنع. عندما يخطئ عمل بمساعدة الذكاء الاصطناعي، على أحدهم أن يجيب عن ذلك، وإن لم يُحدَّد هذا الشخص مسبقًا، تقضي المنشأة وقتها في الجدال حول خطأ من، بدلًا من إصلاحه. هذا صحيح سواء صاغت أداة الذكاء الاصطناعي ردًا، أو حسبت رقمًا، أو ساعدت في كتابة مواصفة مواد.
يشرح هذا الدرس بشكل أساسي مسار القرار لتحديد المسؤولية مسبقًا: شخص واحد معلوم يمتلك كل قرار بمساعدة الذكاء الاصطناعي، ولا تتغير مسؤولية هذا الشخص لأن أداة ذكاء اصطناعي شاركت في إنتاجه. بدون هذه القاعدة مثبتة مسبقًا، تصبح جملة "أخطأ الذكاء الاصطناعي" إجابة لا يستطيع أحد التصرف بناءً عليها، بينما لا يزال يجب على شخص ما دفع التكلفة الحقيقية للخطأ.
تحتاج إلى: صورة الدرس 5.2 عن المخاطر التي تخلقها أداة ذكاء اصطناعي غير محكومة وطريقة الدرس 5.3 للتحقق من أداة قبل تبنيها. يغطي هذا الدرس ما يحدث بمجرد استخدام الأداة بالفعل ووقوع خطأ ما.
بنهاية هذا الدرس تستطيع:
لا يغطي هذا الدرس: السياسة التي تحدد أي أدوات يجوز استخدامها (الدرس 5.1) والفحوص التي تُجرى قبل تبني أداة (الدرس 5.3)؛ يفترض هذا الدرس أن أداة معتمدة بالفعل ومستخدَمة.
| المصطلح | المعنى |
|---|---|
| الشخص المسؤول | الفرد الواحد المعلوم الذي يجيب عن قرار عمل، سواء ساعدت أداة ذكاء اصطناعي في إنتاجه أم لا. |
| خطأ في تحديد المسؤولية | لوم أداة ذكاء اصطناعي على خطأ بدلًا من تسمية الشخص المسؤول الذي استخدم ناتجها دون مراجعته. |
| التوقيع بالاعتماد | تأكيد الشخص المسؤول أن ناتجًا بمساعدة الذكاء الاصطناعي رُوجع ويمكن التصرف بناءً عليه. |
| سجل التصحيح | مذكرة مكتوبة بما حدث خطأً، ومن اكتشفه، وما فُعل لإصلاحه، تُحفظ بمجرد تأكيد خطأ بمساعدة الذكاء الاصطناعي. |
| التصعيد | رفع قرار أو خطأ مُكتشَف إلى شخص أكثر أقدمية أو مسؤولية عندما يتجاوز ذلك صلاحية الشخص الحالي وحده. |
يمكن لأداة ذكاء اصطناعي أن تصيغ أو تحسب أو توصي، لكنها لا يمكن أن تكون الطرف المسؤول عن قرار عمل، لأن المسؤولية تشترط القدرة على شرح قرار وتصحيحه والإجابة أمام من تأثر به. يظل الشخص الذي استخدم ناتج أداة الذكاء الاصطناعي، أو الشخص الذي اعتمد استخدامه، مسؤولًا تمامًا كما لو أنتج نفس الناتج بمفرده يدويًا. تسمية هذا الشخص مسبقًا، لكل نوع قرار بمساعدة الذكاء الاصطناعي، هو ما يمنع "أخطأ الذكاء الاصطناعي" من أن يصبح نهاية المحادثة بدلًا من بداية التصحيح.
هذا لا يعني أن كل مهمة صغيرة بمساعدة الذكاء الاصطناعي تحتاج اعتمادًا رسميًا؛ يعني أن كل قرار قد يكلف مالًا أو وقتًا أو ثقة حقيقية يملك شخصًا واحدًا معلومًا وظيفته مراجعة ناتج أداة الذكاء الاصطناعي قبل التصرف بناءً عليه، والإجابة عنه لاحقًا.
| ما الذي يختلف؟ | أمثلة عملية | لماذا يهمك؟ |
|---|---|---|
| طلبية تصدير بنظام Make to Order | يوقّع ميرشندايزر ويرسل ردًا بمساعدة الذكاء الاصطناعي يؤكد سعرًا أو تاريخًا للمشتري. | الميرشندايزر الذي يرسله هو المسؤول، لا العضو المبتدئ في الفريق الذي صاغه بالذكاء الاصطناعي، إلا إذا كان الميرشندايزر نفسه هو من كتب الطلب. |
| تجديد مخزون محلي بنظام Make to Stock | يعتمد مدير تخطيط ويضع كمية إعادة طلب أوصت بها أداة ذكاء اصطناعي. | مدير التخطيط الذي يضع الطلبية مسؤول عن مراجعة التوصية، حتى إن كان مخطط أصغر هو من شغّل أداة الذكاء الاصطناعي. |
| طلبية هجينة يديرها مصنع نسيج | تُستخدم مواصفة مواد بمساعدة الذكاء الاصطناعي عبر مزيج هجين من أنواع الطلبيات لأكثر من مشترٍ. | مدير المصنع الفني الذي يعتمد المواصفة للإصدار مسؤول عن طلبية كل مشترٍ، حتى لو كانت نفس المسودة بمساعدة الذكاء الاصطناعي نقطة البداية لكلتيهما. |
| مكتب شراء أو دور وكيل | تصيغ أداة ذكاء اصطناعي ملخصًا يُرسل إلى مشترٍ، مبنيًا جزئيًا على معلومة مشترٍ آخر رآها الوكيل في نفس اليوم. | الوكيل الذي يرسل الملخص مسؤول عن إبقاء معلومة كل مشترٍ منفصلة، بغض النظر عمّا جمعته أداة الذكاء الاصطناعي خلف الكواليس. |
| اختلاف نوع المنتج | تحدد منشآت الجوارب وknit-to-garment والمناشف والمفروشات المنزلية جميعها المسؤولية بنفس الطريقة؛ يتغير فقط الدور المحدد والقرار حسب المنتج. | القاعدة التي تحدد وجود شخص واحد معلوم مسؤول دائمًا تصمد عبر كل نوع منتج بلا استثناء. |
تنسج Suez Denim قماش الدنيم 12 أونصة بإيلاستان 2% للطلبية B لصالح Delta Garments، تعمل عبر مزيج هجين من أنواع الطلبيات لأكثر من مشترٍ في آن واحد. يستخدم مساعد فني مبتدئ أداة ذكاء اصطناعي للمساعدة في صياغة رقم استهلاك القماش لورقة مواصفة جديدة، وتقلل مسودة أداة الذكاء الاصطناعي استهلاك الطلبية B الثابت، فتُظهر 1.35 متر للقطعة بدلًا من 1.45 متر للقطعة الصحيح.
يرسل المساعد مسودة المواصفة للإصدار دون ملاحظة التباين، لأن الرقم بدا معقولًا وطابق تنسيق الأوراق السابقة. مدير Suez Denim الفني، نظير Karim، هو الشخص الذي يصدر اعتماده أي ورقة مواصفة إلى مشترٍ أو مصنع ملابس؛ وهو المسؤول عن هذا الخطأ، لا المساعد الذي استخدم أداة الذكاء الاصطناعي ولا الأداة نفسها، لأن خطوة الاعتماد موجودة تحديدًا لاكتشاف هذا النوع من الأخطاء قبل الإصدار.
عندما يُكتشف الخطأ، لا يعامله المدير الفني كـ"خطأ الذكاء الاصطناعي". يصحح المواصفة، ويسجل ما حدث ولماذا لم تكتشفه خطوة الاعتماد تلك المرة، ويعدّل خطوة المراجعة بحيث يُتحقَّق من هذا الحقل مقابل أرقام الطلبية الثابتة قبل كل إصدار مستقبلي.
الرقم المحسوبUSD 960 نقص حقيقي مقابل احتياج الطلبية B الفعلي من قماش الدنيم إذا استُخدم الرقم الخاطئ لحساب كمية القماش المطلوب نسجها وقصها، بالإضافة إلى اضطراب نقص قماش متأخر يُكتشف أثناء القص. خطوة اعتماد المدير الفني، إذا مُورِست بشكل صحيح، هي ما يكتشف هذا قبل أن يصل إلى غرفة قص Delta Garments؛ عندما تكون المسؤولية محددة بوضوح ومُمارَسة فعليًا، تتوقف التكلفة عند التصحيح، لا عند توقف الإنتاج.
يبدو هذا التفسير مكتملًا لأنه يسمّي سببًا، لكن السبب ليس مثل المسؤولية: لا تستطيع أداة الذكاء الاصطناعي تصحيح نفسها، ولا تستطيع أن تتعلم عدم تكرار نفس الخطأ من خلال الانضباط، ولا تستطيع الإجابة أمام المشترِي أو المصنع المتأثر. معاملة خطأ أداة الذكاء الاصطناعي كنهاية للمحادثة تترك السؤال الحقيقي، أي اعتماد كان يجب أن يكتشفه، بلا إجابة.
القاعدة الأفضل بسيطة: سمِّ الشخص المسؤول قبل استخدام أداة الذكاء الاصطناعي، وحمّله نفس المعيار كما لو لم تشارك أداة ذكاء اصطناعي على الإطلاق.
يمكن لأداة الذكاء الاصطناعي أن تساعد في الكتابة أو الحساب أو الاقتراح، لكنها لا يمكن أن تكون الشخص الذي يجيب حين يحدث خطأ، لأنها لا تستطيع تفسير نفسها، ولا يمكن تصحيحها كما يُصحَّح الشخص، ولا تستطيع مواجهة المشترِي أو المصنع المتأثر. قبل أن تدع أداة ذكاء اصطناعي تساعد في قرار حقيقي، قرر في ذهنك من هو الشخص الواحد الذي يراجع عملها ويجيب عنه إن كان خاطئًا. لا يتغير هذا الشخص لأن أداة ذكاء اصطناعي شاركت.
عندما يحدث خطأ فعلًا، أصلح الخطأ وأصلح خطوة المراجعة التي كان يجب أن تكتشفه، بدلًا من التوقف عند "أخطأت أداة الذكاء الاصطناعي".
بعد اكتشاف النقص البالغ 0.10 متر، يتصل Karim بـ Suez Denim ليسأل كيف وصل الرقم الخاطئ إلى ورقة المواصفة التي تلقتها Delta Garments. يقول المساعد الفني الذي صاغ المواصفة بأداة الذكاء الاصطناعي لـ Karim إن "أداة الذكاء الاصطناعي أخطأت في الرقم"، وأنه نسخ فقط ما أنتجته.
هل يقبل Karim "أخطأت أداة الذكاء الاصطناعي" كإجابة كاملة عمّا حدث؟ قرر أولًا ثم افتح الإجابة.
لا. يسأل Karim المدير الفني مباشرة لماذا لم يكتشف الفحص المطلوب مقابل استهلاك الطلبية B الثابت الخطأ قبل الاعتماد.
1. حملت المواصفة اعتماد المدير الفني نفسه، ما يعني أن الشخص المسؤول عن هذا الإصدار هو المدير الفني، لا المساعد الذي استخدم أداة الذكاء الاصطناعي. 2. خطوة مراجعة Suez Denim الخاصة موجودة تحديدًا لفحص هذا الرقم مقابل مواصفة الطلبية الثابتة، فالسؤال الحقيقي هو لماذا لم تعمل هذه الخطوة هذه المرة، لا ماذا أنتجت أداة الذكاء الاصطناعي. 3. قبول "أخطأ الذكاء الاصطناعي" كإجابة كاملة سيترك الثغرة الفعلية في خطوة المراجعة دون إصلاح، ما يعني أن نفس نوع الخطأ قد يصل إلى ورقة مواصفة مستقبلية دون أن يُلاحَظ مرة أخرى.
تكلفة قبول الإجابة الناقصة ليست الخطأ الوحيد؛ بل إن ضعف خطوة المراجعة نفسها سيبقى دون معالجة، وسيكون للخطأ التالي بمساعدة الذكاء الاصطناعي نفس فرصة الوصول إلى Delta Garments دون اكتشاف.
توضح قيمة الطلبية B الإجمالية الثابتة ما يمكن أن يعرّضه خطأ مواصفة لم يُكتشف للخطر في النهاية إذا لم يُكتشف عند خطوة الاعتماد:
النقص البالغ USD 960 في القماش المحسوب سابقًا جزء صغير من قيمة الطلبية B الكاملة، لكنه صغير فقط لأن خطوة الاعتماد، إذا مُورِست بشكل صحيح، اكتشفت الخطأ قبل أن يصل إلى غرفة القص. لو مرّ نفس نوع الخطأ دون ملاحظة إلى حقل تجاري أو تركيبي أكبر، بدلًا من رقم استهلاك، لكان التعرض قد يصل إلى حصة أكبر بكثير من قيمة الطلبية الإجمالية USD 29,400. تكلفة خطوة مسؤولية محددة بوضوح ومُمارَسة فعليًا هي الوقت اللازم للتحقق من رقم مقابل السجل؛ وتكلفة تجاوزها هي أيًا كان ما يصل إليه الخطأ غير المكتشف.
استخدم ملف قائمة تدقيق حوكمة الذكاء الاصطناعي ومخاطره الخاص بالمسار T18-C05. في ورقة المساءلة، سجل كل نوع قرار بمساعدة الذكاء الاصطناعي في المنشأة، والشخص المسؤول الذي يجب أن يعتمده، وما يجب أن يحدث إذا وُجد خطأ. ابدأ باعتماد المواصفة الخاص بـ Suez Denim على قماش الطلبية B، ثم كرر التمرين على منشأتك.
[تحميل قائمة تدقيق حوكمة الذكاء الاصطناعي ومخاطره](../../templates/T18-C05-ai-governance-and-risk-checklist.xlsx)
1. لماذا يكون المدير الفني في Suez Denim مسؤولًا عن رقم استهلاك القماش الخاطئ، مع أن مساعدًا مبتدئًا هو من استخدم أداة الذكاء الاصطناعي التي أنتجته؟
2. يستخدم مكتب شراء تصدير أداة ذكاء اصطناعي لصياغة رد للطلبية A، يخلط عن طريق الخطأ تفصيلًا من طلبية مؤكدة لمشترٍ آخر، ويرسله وكيل دون مراجعة. من المسؤول عن وصول المعلومة المخلوطة إلى Northline Apparel؟
| AR | EN | FR | TR | المعنى |
|---|---|---|---|---|
| الشخص المسؤول | Accountable person | Personne responsable | Sorumlu kişi | الفرد الواحد المعلوم الذي يجيب عن قرار عمل، سواء ساعدت أداة ذكاء اصطناعي في إنتاجه أم لا. |
| خطأ في تحديد المسؤولية | Attribution error | Erreur d'attribution | Sorumluluk atfı hatası | لوم أداة ذكاء اصطناعي على خطأ بدلًا من تسمية الشخص المسؤول الذي استخدم ناتجها دون مراجعته. |
| التوقيع بالاعتماد | Sign-off | Validation signée | Onay imzası | تأكيد الشخص المسؤول أن ناتجًا بمساعدة الذكاء الاصطناعي رُوجع ويمكن التصرف بناءً عليه. |
| سجل التصحيح | Correction record | Registre de correction | Düzeltme kaydı | مذكرة مكتوبة بما حدث خطأً، ومن اكتشفه، وما فُعل لإصلاحه، تُحفظ بمجرد تأكيد خطأ بمساعدة الذكاء الاصطناعي. |
| تصعيد | Escalation | Escalade | Yükseltme (eskalasyon) | رفع قرار أو خطأ مُكتشَف إلى شخص أكثر أقدمية أو مسؤولية عندما يتجاوز ذلك صلاحية الشخص الحالي وحده. |
في الدرس التالي ستجمع السياسة والوعي بالمخاطر وفحوص التبني وهذه القاعدة الخاصة بالمسؤولية معًا في قائمة تدقيق كاملة لحوكمة الذكاء الاصطناعي ومخاطره يمكنك تطبيقها على أي أداة ذكاء اصطناعي تستخدمها منشأتك بالفعل أو تدرسها. العودة إلى خريطة الدورة