أصبحت أداة الذكاء الاصطناعي اليوم موجودة على مكاتب كثيرة في منشأة الملابس دون أن يقرر أحد وجودها هناك فعليًا. تلصق ميرشندايزر بريد المشتري في أداة ذكاء اصطناعي لصياغة رد. يسأل موظف تكاليف أداة ذكاء اصطناعي التحقق من حساب. يستخدم مخطط أداة لتلخيص صفحة من تك باك. كل استخدام يبدو صغيرًا ومفيدًا بمفرده، وكل استخدام هو أيضًا قرار عمل بشأن ما يغادر المنشأة، وما يستلمه العميل باسم المنشأة، ومن المسؤول إذا أخطأت الأداة.
يقدم هذا الدرس التفكير الكامل وراء كتابة سياسة قصيرة وقابلة للتطبيق تحدد أي أدوات ذكاء اصطناعي يستطيع الموظفون استخدامها، وأي معلومات يجوز أو لا يجوز إعطاؤها لها، ومتى يجب أن يتحقق شخص من الناتج قبل أن يصل إلى مشترٍ أو خط إنتاج أو مستند شحن. يشرح هذا الدرس بشكل أساسي مسار القرار: من يقرر، وعلى أي أساس، قبل أن تُؤتمن أداة الذكاء الاصطناعي على معلومة عمل حقيقية. بدون سياسة، تصبح القاعدة الفعلية هي ما يقرره كل شخص بمفرده، وهذا ليس قاعدة على الإطلاق.
تحتاج إلى: فهم أساسي لسجل الطلبية والوظائف الرئيسية في مصنع الملابس أو مكتب الشراء. المسار 17 عن حوكمة البيانات خلفية مفيدة، لأن سياسة استخدام الذكاء الاصطناعي تمد نفس تفكير المسؤولية والوصول إلى نوع جديد من الأدوات.
بنهاية هذا الدرس تستطيع:
لا يغطي هذا الدرس: كيفية تقييم أداة ذكاء اصطناعي محددة قبل شرائها (الدرس 5.3)، والمخاطر التي تخلقها أداة غير محكومة عمليًا (الدرس 5.2)، وكيفية تحديد المسؤولية عندما يخطئ عمل بمساعدة الذكاء الاصطناعي (الدرس 5.4).
| المصطلح | المعنى |
|---|---|
| أداة ذكاء اصطناعي | أي برنامج يولّد أو يصيغ أو يلخص أو يحسب أو يوصي باستخدام الذكاء الاصطناعي، سواء مدمجًا في نظام آخر أو مستخدَمًا بمفرده. |
| سياسة استخدام الذكاء الاصطناعي | قاعدة مكتوبة خاصة بالمنشأة تحدد أي أدوات ذكاء اصطناعي يستطيع الموظفون استخدامها، وأي معلومات يجوز إعطاؤها لها، ومتى يجب أن يراجع شخص الناتج. |
| معلومات سرية | معلومات عمل وافقت المنشأة، بموجب عقد أو قاعدتها الخاصة، على عدم مشاركتها خارج من يحتاجها لأداء عمله. |
| مراجعة بشرية | تحقق شخص معلوم من ناتج أداة ذكاء اصطناعي مقابل الحقائق قبل أن يُنفَّذ أو يُرسَل إلى أي جهة خارج المنشأة. |
| استخدام غير معلن | استخدام أداة ذكاء اصطناعي من الموظفين في عمل حقيقي دون علم المنشأة أو موافقتها. |
أداة الذكاء الاصطناعي ليست برنامج مكتب محايدًا. يمكنها قراءة ما يُكتب فيها وتذكره، ويمكنها إنتاج إجابة تبدو واثقة لكنها خاطئة، ويمكنها التصرف باسم المنشأة أسرع من أي شخص واحد. تحوّل السياسة المكتوبة ثلاثة مخاطر منفصلة (مواصفة مسربة، خطأ لم يُكتشف، مسؤولية غير واضحة) إلى ثلاث قواعد يستطيع الموظف اتباعها فعليًا: أي أدوات معتمدة، وماذا يجوز أو لا يجوز إدخاله فيها، وأي نواتج تحتاج مراجعة شخص معلوم قبل استخدامها.
بدون سياسة، يتخذ الموظفون هذه القرارات الثلاثة بمفردهم، بشكل مختلف، في كل مرة، حسب ما يبدو مناسبًا في تلك اللحظة.
| ما الذي يختلف؟ | أمثلة عملية | لماذا يهمك؟ |
|---|---|---|
| طلبية تصدير بنظام Make to Order | غالبًا يلصق موظفو مصنع تصدير سعر المشتري أو كميته أو مواصفته المؤكدة في أداة ذكاء اصطناعي لصياغة رد أو ملخص. | هذه المعلومة حقيقة تجارية مؤكدة للمشتري؛ يجب أن توضح السياسة بجلاء هل يجوز أن تغادر أنظمة المنشأة أصلًا، وبأي شكل. |
| تجديد مخزون محلي بنظام Make to Stock | قد يطلب فريق تخطيط علامة محلية من أداة ذكاء اصطناعي المساعدة في قراءة تاريخ مبيعاتها أو توقعها، وهي معلومة تملكها المنشأة نفسها بالكامل. | حتى المعلومة التي تملكها المنشأة تحتاج قاعدة، لأن توقعًا خاطئًا بمساعدة الذكاء الاصطناعي بلا مراجعة يكلف مخزونًا ونقدًا حقيقيين. |
| طلبية هجينة يديرها مصنع نسيج | قد يستخدم مصنع نسيج يعمل على مزيج هجين من أنواع الطلبيات أداة ذكاء اصطناعي للمساعدة في صياغة مواصفة مواد مشتركة بين أكثر من طلبية مشترٍ. | خطأ في المواصفة يُنسخ عبر عدة طلبيات دفعة واحدة خطأ أكبر وأسرع انتشارًا من نفس الخطأ إن حدث مرة واحدة يدويًا. |
| دور مكتب شراء أو وكيل | كثيرًا ما يحمل مكتب شراء معلومات سرية من أكثر من مشترٍ في الوقت نفسه. | استخدام غير حذر لأداة ذكاء اصطناعي من شخص واحد قد يخلط معلومات يجب أن تبقى منفصلة قانونيًا وتجاريًا بين المشترين. |
| اختلاف نوع المنتج | تستخدم منشآت الجوارب وknit-to-garment والمناشف والمفروشات المنزلية أدوات الذكاء الاصطناعي بنفس الطريقة العامة، للصياغة والتلخيص والحساب؛ يتغير فقط المستند المحدد المعرض للخطر. | تنطبق قواعد السياسة الثلاث بنفس الطريقة عبر كل نوع منتج. |
أكّد Northline Apparel الطلبية A مع Delta Garments: 15,000 تي شيرت، single jersey 180 GSM، Ne 30/1، سعر FOB متفق عليه USD 3.20 للقطعة، وإجمالي قيمة الطلبية USD 48,000. تكتشف Mona، ميرشندايزر المصنع، أن عضوين من فريقها يستخدمان بالفعل أداة ذكاء اصطناعي عامة لصياغة الردود إلى Northline Apparel وتلخيص صفحات تك باك، دون أن يقرر أحد أن هذا مسموح.
لا تحظر Mona أدوات الذكاء الاصطناعي كليًا، لأنها ترى فائدة حقيقية في مساعدة الصياغة. بدلًا من ذلك تطرح الأمر على إدارة Delta Garments وتكتب سياسة قصيرة: أداة واحدة معتمدة لصياغة النصوص؛ لا يجوز إدخال سعر الطلبية A المؤكد أو كميتها أو أي تفصيل مواصفة غير معلن في أي أداة ذكاء اصطناعي، معتمدة كانت أم لا، لأن هذه المعلومة ملك لـ Northline Apparel بموجب اتفاق الطلبية؛ وأي رد بمساعدة الذكاء الاصطناعي يذكر سعرًا أو تاريخًا أو كمية يجب أن تراجعه Mona نفسها مقابل سجل الطلبية المؤكد قبل إرساله.
يسأل Karim، مدير الإنتاج، هل يعني هذا أن فريقه لا يستطيع استخدام أدوات الذكاء الاصطناعي في أي شيء. تشرح Mona أن سؤالًا عامًا، مثل سؤال أداة ذكاء اصطناعي عن خاصية ألياف، لا يحمل أي خطر عمل ولا يحتاج مراجعة؛ تنطبق القاعدة تحديدًا على معلومات الطلبية A وأي شيء يُرسَل إلى Northline Apparel باسم المنشأة.
الرقم المحسوبلنفترض أن عضوًا في الفريق، قبل وجود السياسة، طلب من أداة ذكاء اصطناعي صياغة رد إلى Northline Apparel يؤكد أسبوع تسليم معدّلًا، وخمّنت الأداة أسبوعًا بدلًا من التحقق من خطة الإنتاج المؤكدة، مقللةً التأخير أسبوعًا واحدًا عن الحقيقة.
قيمة الطلبية كاملة معرضة للخطر بسبب جملة واحدة لم تُراجَع، ليس لأن أداة الذكاء الاصطناعي خطيرة بشكل استثنائي، بل لأنه لم يقف شيء بين تخمينها والتزام باسم Delta Garments أمام Northline Apparel. خطوة مراجعة بشرية واحدة، تستغرق دقائق قليلة، كانت ستكتشف الأسبوع الخاطئ قبل إرساله.
يبدو هذا الافتراض آمنًا لأن لا مديرًا اعتمد أي شيء، فيبدو أن لا أحد يمكن أن يُلام. يصبح مكلفًا في اللحظة التي يصل فيها مستند بمساعدة الذكاء الاصطناعي إلى مشترٍ أو خط إنتاج برقم خاطئ، لأنه بحلول ذلك الوقت يكون الموظفون قد استخدموا أدوات ذكاء اصطناعي بلا قاعدة لأشهر، ولا يوجد سجل بما رُوجع وما لم يُراجَع.
القاعدة الأفضل بسيطة: اكتب السياسة بمجرد أن يُكتشف شخص واحد يستخدم أداة ذكاء اصطناعي في عمل حقيقي، لا بعد حدوث خطأ.
أداة الذكاء الاصطناعي أشبه بمساعد جديد سريع جدًا وواثق جدًا لم يرَ ملف طلبيتك من قبل ولا يعرف ما هو سري. قبل أن تدع هذا المساعد يرد بالنيابة عنك، قرر أي مهام يجوز أن يساعد فيها، وأي معلومات لا تُعرض عليه أبدًا، ومن يراجع عمله قبل أن يخرج من الباب.
اكتب ذلك مرة واحدة، في سياسة قصيرة، ويستطيع كل شخص في المنشأة اتباع القاعدة نفسها بدلًا من تخمين قاعدته الخاصة.
طُلب من متدربة، بعد ثلاثة أسابيع من انضمامها إلى فريق ميرشندايزنج Delta Garments، تلخيص آخر تحديث لمواصفة الطلبية A لاجتماع إنتاج Karim. لتوفير الوقت، تلصق المتدربة المواصفة كاملة، بما في ذلك تفصيل التركيب غير المعلن الذي لم توافق Northline Apparel بعد على تعميمه، في أداة ذكاء اصطناعي عامة للحصول على ملخص سريع.
هل يُستخدم ملخص المتدربة لاجتماع Karim كما هو؟ قرر أولًا ثم افتح الإجابة.
لا. لا يُستخدم الملخص حتى تُعاد صياغة المواصفة دون أداة الذكاء الاصطناعي، وتُخبَر Mona بما أُدخل.
1. تفصيل التركيب غير المعلن معلومة سرية بموجب اتفاق الطلبية مع Northline Apparel، ولصقه في أداة ذكاء اصطناعي عامة يُرجَّح جدًا أنه خرق لتلك السرية، سواء فهمت المتدربة ذلك أم لا. 2. لا سياسة أخبرت المتدربة بما هو محظور، وهذا هو الضابط الغائب، لا عذرًا لاستخدام الملخص المولَّد على أي حال. غياب القاعدة لا يجعل المعلومة أقل سرية. 3. يجب أن تعرف Mona ما أُدخل حتى تحكم هل تحتاج Northline Apparel إلى إخبارها، لأن المنشأة لا تستطيع إدارة خطر لا تعرف بوجوده.
تكلفة استخدام الملخص المولَّد على أي حال لا تقتصر على خرق محتمل لسرية الطلبية A؛ بل إن المنشأة لن يكون لديها سجل بما غادر أنظمتها، مما يجعل الخطأ التالي محتملًا بنفس القدر.
قيمة الطلبية A الإجمالية الثابتة تذكير بسيط بما يمكن أن يعرّضه خرق واحد أو خطأ واحد لم يُراجَع للخطر:
تكلف سياسة استخدام الذكاء الاصطناعي نفسها بضع ساعات لكتابتها وشيئًا يكاد لا يُذكر للحفاظ عليها. ما تحميه ليس فقط USD 48,000 الخاصة بالطلبية A، بل الثقة التي يضعها مشترٍ في كل طلبية مستقبلية بمجرد حدوث خطأ واحد متعلق بالذكاء الاصطناعي، كبيرًا كان أم صغيرًا. نادرًا ما يظهر خرق سرية أو التزام خاطئ بمساعدة الذكاء الاصطناعي كرقم واحد واضح على ورقة تكلفة؛ بل يظهر كمشترٍ يطرح أسئلة أصعب في الطلبية التالية، أو يطلبها من جهة أخرى أصلًا.
أرخص نقطة لمنع هذه التكلفة هي السياسة نفسها، مكتوبة مرة واحدة، قبل أن تُستخدم أداة ذكاء اصطناعي على معلومة عمل حقيقية.
استخدم ملف قائمة تدقيق حوكمة الذكاء الاصطناعي ومخاطره الخاص بالمسار T18-C05. في ورقة جرد أدوات الذكاء الاصطناعي، سجل كل أداة ذكاء اصطناعي مستخدمة حاليًا في المنشأة، ومن يستخدمها، وأي نوع من المعلومات يُدخل فيها، وهل هي معتمدة. ابدأ باستخدامَي Delta Garments نفسها للصياغة بمساعدة الذكاء الاصطناعي على الطلبية A، ثم كرر التمرين على منشأتك.
[تحميل قائمة تدقيق حوكمة الذكاء الاصطناعي ومخاطره](../../templates/T18-C05-ai-governance-and-risk-checklist.xlsx)
1. لماذا تسمح سياسة Mona بسؤال عام لأداة ذكاء اصطناعي، مثل سؤالها شرح خاصية ألياف، دون مراجعة، بينما تشترط المراجعة على أي شيء يذكر سعر الطلبية A أو تاريخها أو كميتها؟
2. لدى الطلبية B (3,000 بنطلون جينز، سعر FOB مستهدف متفق عليه USD 9.80 للقطعة) أسبوعان من الإنتاج متبقيان عندما يُقلِّل رد غير مراجَع بمساعدة الذكاء الاصطناعي تأخيرًا بأسبوع واحد ويُرسَل إلى المشتري. ما القيمة التي يعرّضها هذا للخطر على الطلبية؟
| AR | EN | FR | TR | المعنى |
|---|---|---|---|---|
| أداة ذكاء اصطناعي | AI tool | Outil d'IA | Yapay zekâ aracı | أي برنامج يولّد أو يصيغ أو يلخص أو يحسب أو يوصي باستخدام الذكاء الاصطناعي، سواء مدمجًا في نظام آخر أو مستخدَمًا بمفرده. |
| سياسة استخدام الذكاء الاصطناعي | AI-use policy | Politique d'utilisation de l'IA | Yapay zekâ kullanım politikası | قاعدة مكتوبة خاصة بالمنشأة تحدد أي أدوات ذكاء اصطناعي يستطيع الموظفون استخدامها، وأي معلومات يجوز إعطاؤها لها، ومتى يجب أن يراجع شخص الناتج. |
| معلومات سرية | Confidential information | Information confidentielle | Gizli bilgi | معلومات عمل وافقت المنشأة، بموجب عقد أو قاعدتها الخاصة، على عدم مشاركتها خارج من يحتاجها لأداء عمله. |
| مراجعة بشرية | Human review | Révision humaine | İnsan incelemesi | تحقق شخص معلوم من ناتج أداة ذكاء اصطناعي مقابل الحقائق قبل أن يُنفَّذ أو يُرسَل إلى أي جهة خارج المنشأة. |
| استخدام غير معلن | Shadow use | Usage non déclaré | Gölge kullanım | استخدام أداة ذكاء اصطناعي من الموظفين في عمل حقيقي دون علم المنشأة أو موافقتها. |
في الدرس التالي سترى، من جانب المشتري نفسه، ما الذي يحدث فعليًا عندما يترك مصنع أو مكتب شراء استخدام الذكاء الاصطناعي بلا أي سياسة على الإطلاق. العودة إلى خريطة الدورة