Northline Apparel'de bir alıcı olan Sara, bir fabrikanın çalışanlarının günlük olarak hangi yapay zekâ araçlarını kullandığını görmez. Sonuçları görür: sormadığı bir soruyu yanıtlayan bir yanıt, onayladığından biraz farklı bir spesifikasyon, açık bir neden olmadan değişen bir teslimat tarihi. Bir fabrika veya satın alma ofisinin yapay zekâ araçlarının nasıl kullanılacağına dair hiçbir kuralı olmadığında, bu sonuçlar daha sık ortaya çıkmaya başlar ve Sara bunlardan hangisinin kimsenin dikkatle kontrol etmediği yapay zekâ destekli bir çıktıdan geldiğini bilemez.
Bu ders esas olarak alıcıların ve fabrikaların birlikte ihtiyaç duyduğu karar akışını öğretir: yapay zekâ kullanımı yönetişimsiz bırakıldığında gerçekte ne ters gider, böylece Ders 5.1'in politikası yalnızca bir formalite değil, gerçek ve belirli risklere bir yanıt olur. Bu riskleri açıkça görmeden, bir işletme yapay zekâ kullanım politikasını bir yapay zekâ aracının hatası ile bir müşteri arasında duran şey olarak değil, evrak işi olarak ele alma eğilimindedir.
İhtiyacınız olan: Ders 5.1'in bir yapay zekâ kullanım politikasının neden var olduğuna dair gerekçesi. Bu ders, yönetişimsiz bir politikanın izin verdiği belirli riskleri adlandırarak daha ileri gider.
Bu dersin sonunda şunları yapabilirsiniz:
Burada kapsanmayan: yeni bir yapay zekâ aracını benimsemeden önce nasıl değerlendireceğiniz (Ders 5.3) ve bir şeyler zaten ters gittikten sonra sorumluluğun nasıl atanacağı (Ders 5.4).
| Terim | Anlamı |
|---|---|
| Yönetişimsiz yapay zekâ kullanımı | Yazılı bir politika, bilgi kuralı veya insan incelemesi adımı olmayan yapay zekâ kullanımı. |
| Sessiz hata | Yapay zekâ destekli bir çıktıdaki, kendinden emin ve doğru görünen, bu yüzden gönderilmeden veya üzerine hareket edilmeden önce kimsenin fark etmediği bir hata. |
| Ölçekte hata | Bir yapay zekâ aracının bir kez ürettiği ve kopyalanan veya yeniden kullanılan aynı hatanın birçok belgede, siparişte veya mesajda otomatik olarak tekrarlanması. |
| Sızdırılmış spesifikasyon | Onaylanmış bir siparişten, onu görmesi gereken kişiler dışında paylaşılan teknik veya ticari bir ayrıntı. |
| Yerine getirilmeyen taahhüt | Bir alıcıya veya fabrikaya yazılı olarak verilen, gerçek olgularla uyuşmadığı ortaya çıkan bir söz. |
Bu üç riskin her biri, bir yapay zekâ aracının gerçekte ne yaptığından doğrudan gelir. Kendisine verileni tutabilir ve yeniden kullanabilir, bir spesifikasyon böyle sızar. Altta yatan gerçek doğru olsun olmasın kendinden emin, akıcı bir metin üretir, dikkatle kontrol etmeyen bir okuyucudan sessiz bir hata böyle kaçar. Ve aynı türden çıktıyı anında ve tekrar tekrar üretebildiği için, yönteminde fark edilmeyen tek bir hata, birisi düzeni fark etmeden önce birçok belgede görünebilir.
Bu üç riskin hiçbiri yapay zekâ aracının olağandışı derecede kötü olmasını gerektirmez; hepsi, sıradan yapay zekâ davranışının, onları yakalayacak bir politikası, bilgi kuralı ve inceleme adımı olmayan bir iş süreciyle karşılaşmasından doğar.
| Neyin değişebileceği | Karşılaşacağınız biçimler | Sizin için neden önemli |
|---|---|---|
| Make to Order altında ihracat siparişi, alıcı tarafı | Bir alıcı, kendinden emin yanıt veren ama onaylanmış üretim planıyla uyuşmayan, bir fabrikadan yapay zekâ destekli bir yanıt alır. | Alıcının yanıtın yapay zekâ tarafından yazılıp yazılmadığını veya incelenip incelenmediğini bilmesinin hiçbir yolu yoktur; ona güvenmenin maliyeti alıcının kendi planlamasına düşer. |
| Make to Stock altında yurt içi yeniden sipariş | Yurt içi bir markanın planlama ekibi, bir yapay zekâ aracının satış geçmişinden bir yeniden sipariş önerisi hazırlamasına inceleme yapmadan izin verir. | Yanlış bir yeniden sipariş miktarı, satılmayacak bir stokta gerçek nakdi bağlar; bu ancak stok hareket etmediğinde keşfedilir. |
| Bir dokuma fabrikası üzerinden hibrit sipariş | Bir dokuma fabrikası bir yapay zekâ aracıyla bir malzeme spesifikasyonu hazırlar ve aynı taslağı, ikisini de kendi alıcısının onayına karşı kontrol etmeden, iki farklı alıcının hibrit siparişinde tekrar kullanır. | Paylaşılan taslaktaki tek bir sessiz hata, aynı anda birden fazla siparişte aynı şekilde tekrarlanan ölçekte bir hataya dönüşür. |
| Birden fazla alıcının bilgisini tutan satın alma ofisi | Çalışanlar, ifşa etme niyeti olmadan genel bir soru sorarken bir alıcının onaylanmış fiyatını bir yapay zekâ aracına yapıştırır. | Sızdırılmış bir spesifikasyon veya fiyat, paylaşma niyeti olmasa bile bir gizlilik ihlalidir; niyet maruziyeti değiştirmez. |
| Farklı ürün aileleri | Çorap, knit-to-garment, havlu ve ev tekstili siparişlerinin hepsi aynı üç riski taşır; yalnızca risk altındaki belirli belge (bir spesifikasyon satırı, bir kusur günlüğü, bir kenar ayrıntısı) değişir. | Üç risk, onaylanmış sipariş bilgisi üzerindeki her yapay zekâ kullanımı için geneldir, tek bir ürün türüne özgü değildir. |
Northline Apparel, Sipariş A'yı Delta Garments ile onaylamıştır: 15.000 tişört, single jersey 180 GSM, Ne 30/1, anlaşılan FOB USD 3,20/adet, toplam sipariş değeri USD 48.000. Sara, Delta Garments'tan sevkiyatın anlaşılan hafta için hâlâ zamanında olduğunu onaylamasını ister. Delta Garments'ın merchandising ekibinden bir üye tarafından imzalanan, orijinal haftayı onaylayan akıcı ve kendinden emin bir yanıt alır.
Sara'nın bilmediği şey, yanıtın üretim takviminin eski bir sürümünden bir yapay zekâ aracı tarafından yazıldığıdır, çünkü çalışan, aynı sabah iki günlük bir gecikme kaydedildikten sonra araca verilen bilgiyi güncellememiştir. Delta Garments'ta hiç kimse, gönderilmeden önce yanıtı mevcut takvime karşı gözden geçirmemiştir, çünkü hiçbir politika bunu gerektirmemiştir.
Sara, kendi depo teslim alma takvimini onaylanmış haftaya göre planlar. Sevkiyat iki gün geç ulaştığında, bunu bekleyecek hiçbir nedeni yoktur, çünkü aldığı yanıt ona bir şeyin değiştiğine dair hiçbir sinyal vermemiştir. Yönetişimsiz yapay zekâ kullanımının maliyeti, hatanın yapıldığı Delta Garments tarafında değil, Sara'nın siparişteki kendi tarafına düşer.
Hesaplanan rakam2 günlük sessiz bir hata, 2 haftalık bir planlama penceresi karşısında küçüktür, bu yüzden bu durumda siparişin tüm değerine mal olmayabilir; ancak aynı yönetişimsiz süreç, incelenmeden Sara'ya ulaşırsa siparişin tüm USD 48.000 değerini riske atabilecek daha uzun bir gecikmeyi, yanlış bir miktarı veya yanlış bir spesifikasyon ayrıntısını aynı kolaylıkla gizleyebilirdi. Riskin büyüklüğünü, siparişte neyin tehlikede olduğu belirler, bu belirli hatanın ne kadar küçük olduğu değil.
Akıcı, kendinden emin yanıtlar yazan bir yapay zekâ aracı güvenilir hissettirir, bu tam olarak içindeki sessiz bir hatanın neden tehlikeli olduğudur: çıktının akıcılığının, altta yatan gerçeğin doğru olup olmadığıyla hiçbir ilişkisi yoktur. Bu şekilde risk değerlendirmek, gerçek soruyu kaçırır: aracın hangi onaylanmış bilgiye dokunduğu ve çıktısını kim kontrol etmeden okuduğu.
Daha iyi kural basittir: bir yapay zekâ aracının riskini, dokunduğu onaylanmış iş bilgisine ve çıktısını kimin incelemeden aldığına göre değerlendirin, yanıtlarının ne kadar kendinden emin göründüğüne göre değil.
Etrafında hiçbir kural olmayan bir yapay zekâ aracı, yarım hatırladığı şeyi, doğru olup olmadığını bilmeden, sakin ve ikna edici bir sesle tekrar edecek hızlı, kendinden emin bir haberci gibidir. Eğer bu haberci, önce kimse ne söylediğini kontrol etmeden onaylanmış fiyatınızı, onaylanmış tarihinizi veya onaylanmış spesifikasyonunuzu taşırsa, küçük bir hata bir alıcıya veya fabrikaya gerçekmiş gibi ulaşabilir, ve aynı taslağı yeniden kullanmanın aldığı sürede birden fazla alıcıya veya birden fazla siparişe ulaşabilir.
Çözüm aracı kullanmayı bırakmak değildir; çıktısının tam olarak nerede ona göre hareket edecek birine ulaştığını bilmek ve bu gerçekleşmeden önce oraya bir kişi koymaktır.
Delta Garments ekibinden bir üye, planlanmış bir görüşmeden önce, uzun bir iç denetim raporunu Sara için kısa bir güncellemeye özetlemek için bir yapay zekâ aracı kullanır. Yapay zekâ tarafından üretilen özet, sevkiyatın sorunsuz geçtiğini bildirir. Ekip üyesinin özeti oluşturduktan sonra yeniden okumadığı orijinal denetim raporu, gerçekte kartonların küçük bir örneğinde anlaşılan kabul edilebilir kalite sınırının üzerinde bir kusur türü kaydeder.
Sara, gönderildiği haliyle özete dayanarak ödemenin serbest bırakılmasını onaylamalı mı? Yanıtı açmadan önce karar verin.
Hayır. Orijinal denetim raporu doğrudan kusur sınırına karşı kontrol edilene kadar ödemenin serbest bırakılması durdurulur.
1. Yapay zekâ tarafından üretilen özet, orijinal raporun açıkça kaydettiği bir kusuru atladı, bu da özetin bir ödeme kararında raporun kendisinin yerine güvenilebilir bir ikame olarak kullanılamayacağını gösterir. 2. Kimse özeti göndermeden önce orijinal raporla karşılaştırmadı; eksik olan kontrol budur, bu sefer özete güvenmek için bir neden değil. 3. Yanlış bir özete dayanarak verilen bir ödeme serbest bırakma kararı, kusur bulunduğunda geri alınmalı veya itiraz edilmelidir, bu da orijinal raporu şimdi kontrol etmekten çok daha fazla zaman ve güven kaybına mal olur.
Yanlış özete dayanarak ödemeyi serbest bırakmanın maliyeti yalnızca kusurun kendisi değildir; Sara'nın gerçek denetim sonucunu yansıtmayan bir belgeye dayanarak ödeme serbest bırakmış olmasıdır, bu da Delta Garments'ın ona göndereceği her gelecek özeti zayıflatır.
Sipariş A'nın sabit toplam sipariş değeri, herhangi bir yapay zekâ ile ilgili risk eklenmeden önce zaten neyin tehlikede olduğunu gösterir:
Yönetişimsiz bir yapay zekâ aracı bu değeri nadiren tek, görünür bir olayda yok eder. Gerçek maliyeti, bir gizlilik anlaşmasını zayıflatan sızdırılmış bir spesifikasyon, bir alıcıya gerçek gibi ulaşan sessiz bir hata veya kimse düzeni fark etmeden birkaç belgede tekrarlanan bir hatadır. Bunların her biri belirgin bir hatadan daha zor fark edilir ve her biri, işletmenin göndereceği her gelecek yanıta, teklife veya rapora bir alıcının duyduğu güveni, gerçekleştiği tek siparişin değerinin çok ötesinde aşındırır.
Bu maliyeti önlemenin en ucuz noktası, tam olarak Ders 5.1'in politikasının koyduğu yerdir: yapay zekâ destekli çıktı incelenmeden işletmeden çıkmadan önce.
T18-C05 Yapay zekâ yönetişimi ve risk kontrol listesi çalışma kitabını kullanın. Yapay zekâ risk noktaları sayfasında, işletmede yapay zekâ destekli çıktının onu üreten ekip dışındaki birine ulaştığı her noktayı, orada hangi tür bilginin risk altında olduğunu ve adı belirlenmiş bir gözden geçirenin onu kontrol edip etmediğini listeleyin. Delta Garments'ın Sipariş A üzerindeki kendi yanıt ve özet risk noktalarıyla başlayın, ardından alıştırmayı kendi işletmeniz için tekrarlayın.
[Yapay zekâ yönetişimi ve risk kontrol listesi çalışma kitabını indirin](../../templates/T18-C05-ai-governance-and-risk-checklist.xlsx)
Yapay zekâ yönetişimi ve risk kontrol listesi dosyasını indirin (Excel)
1. Yapay zekâ destekli bir yanıttaki sessiz, kendinden emin bir hata, açıkça yanlış olan bir hatadan neden daha tehlikelidir?
2. Sipariş B'nin (3.000 kot pantolon, anlaşılan hedef FOB USD 9,80/adet) yapay zekâ destekli bir spesifikasyonu, onu kullanan iki hibrit siparişte incelenmeden yeniden kullanılıyor. Taslaktaki bir hata her iki siparişte de tekrarlanıyor. Bu ne tür bir risktir?
| TR | EN | AR | FR | Anlamı |
|---|---|---|---|---|
| Yönetişimsiz yapay zekâ kullanımı | Ungoverned AI use | استخدام غير محكوم للذكاء الاصطناعي | Usage non gouverné de l'IA | Yazılı bir politika, bilgi kuralı veya insan incelemesi adımı olmayan yapay zekâ kullanımı. |
| Sessiz hata | Silent error | خطأ صامت | Erreur silencieuse | Yapay zekâ destekli bir çıktıdaki, kendinden emin ve doğru görünen, bu yüzden gönderilmeden veya üzerine hareket edilmeden önce kimsenin fark etmediği bir hata. |
| Ölçekte hata | Error at scale | خطأ على نطاق واسع | Erreur à grande échelle | Bir yapay zekâ aracının bir kez ürettiği ve kopyalanan veya yeniden kullanılan aynı hatanın birçok belgede, siparişte veya mesajda otomatik olarak tekrarlanması. |
| Sızdırılmış spesifikasyon | Leaked specification | مواصفة مسربة | Spécification divulguée | Onaylanmış bir siparişten, onu görmesi gereken kişiler dışında paylaşılan teknik veya ticari bir ayrıntı. |
| Yerine getirilmeyen taahhüt | Broken commitment | التزام غير محقق | Engagement non tenu | Bir alıcıya veya fabrikaya yazılı olarak verilen, gerçek olgularla uyuşmadığı ortaya çıkan bir söz. |
Bir sonraki derste, bu dersin az önce gösterdiği riskleri yaratmaması için bir yapay zekâ aracı benimsenmeden önce neyin kontrol edileceğini öğreneceksiniz. Kurs haritasına dön