Net bir e-posta taslağı hazırlayan veya uzun bir zinciri iyi özetleyen bir yapay zekâ aracı, hemen bir sonraki istekte tam olarak aynı kendinden emin tonla yanlış bir sayı, yanlış bir tarih veya uydurulmuş bir ayrıntı belirtebilir. Bu, daha iyi bir araçla basitçe ortadan kalkacak rastgele bir kusur değildir; doğrudan aracın yanıtları üretme biçiminden kaynaklanır ve ihracat siparişlerinde olduğu gibi yerel stok işinde de ortaya çıkar.
Bu ders, vaka olarak Delta Garments'ın Cedar & Co. için kendi yerel stok işini kullanarak, bir yapay zekâ aracının bu tür hataları neden yaptığının altında yatan nedeni açıklar. Bugünün bilinen hatalar listesini ezberlemek yerine nedeni anlamak, daha önce hiç kullanmadığınız bir araçta yarın yeni bir hata türünü tanımanızı sağlayan şeydir.
İhtiyacınız olan: Ders 1.1'deki bir yapay zekâ aracının ne yaptığına dair pratik fikir ve Ders 1.2'deki görev uyumu fikri hazırlık için faydalıdır ama şart değildir.
Bu dersin sonunda şunları yapabileceksiniz:
Bu derste ele alınmayan konular: bir yapay zekâ aracını düzeltmek veya yeniden eğitmek, veya aracın iç tasarımının teknik bir açıklaması. Ders 1.4, yapay zekânın oluşturduğu bir yanıtı kontrol etmek için pratik yöntemi ele alır.
| Terim | Anlamı |
|---|---|
| Kendinden emin yanlış yanıt | Gerçekte yanlış olmasına rağmen akıcı, kendinden emin bir tonla ifade edilen, yapay zekânın oluşturduğu bir yanıt. |
| Uydurulmuş ayrıntı | Bir yapay zekâ aracının, kendisine hiç verilmemiş ve gerçekte var olmayan belirli bir gerçek, sayı veya isim üretmesi. |
| Örüntü tabanlı yanıt | Sizin kendi durumunuzun gerçek gerçeklerinden değil, benzer metinde yaygın olarak görülenden oluşturulan bir yanıt. |
| Rutin göreve karşı dikkatsizlik | Bir görev tekrarlayıcı ve tanıdık hissetmeye başladığında, yapay zekânın oluşturduğu bir çıktıyı dikkatle kontrol etmeyi bırakma eğilimi. |
| Kaynak belge | Bir gerçeğin doğru sürümünü tutan ve yapay zekânın oluşturduğu bir çıktının kontrol edilmesi gereken orijinal kayıt. |
Bir yapay zekâ aracı olası, iyi biçimlendirilmiş metni tahmin ederek çalıştığından, bir kişinin doğal olarak yapabileceği gibi "işletmeniz hakkındaki bu belirli gerçeği bilmiyorum" demenin yerleşik bir yolu yoktur. Bunun yerine, kendisine verilenin dışında bir şey sorulduğunda, benzer metindeki yaygın örüntülere dayanan en makul görünen yanıtı, doğru bir yanıtla aynı kendinden emin tonda sunma eğilimindedir. Bu, bir yapay zekâ aracının yaptığı hataların çoğunun doğrudan nedenidir: dikkatsizlik değil, akıcı, örüntü tabanlı metin ile gerçekte doğru metnin sayfada birbirinin aynısı görünmesi.
| Ne değişebilir | Karşılaşacağınız biçimler | Sizin için neden önemli |
|---|---|---|
| Fabrika tarafında Make to Stock kapsamında yerel yeniden stoklama | Delta Garments'ın kendi planlama ekibi, haftadan haftaya bir yapay zekâ aracından Cedar & Co.'nun stok programı için haftalık bir yeniden sipariş özeti hazırlamasını ister. | Çok sayıda tekrarlanan bir görev, rutin göreve karşı dikkatsizliği davet eder: yanlış bir rakam riski düşmemiş olsa bile onuncu özet birinciden daha az dikkatle kontrol edilir. |
| Make to Order ihracat siparişi | Sipariş A'nın spesifikasyonu hakkında tek seferlik bir alıcı sorgusu, alışılmadık olduğu ve daha yüksek riskli hissettirdiği için yakından kontrol edilir. | Yeni hissettiren bir görev, alışkanlıkla daha fazla dikkat alır; bu, rutin yerel işteki hataların fark edilmeden geçmesinin daha olası olmasının bir nedenidir. |
| Bir acente aracılığıyla yürütülen hibrit sipariş | Tamamlanmamış alıcı talimatlarındaki bir boşluğu doldurmak için bir yapay zekâ aracına soran bir acente, makul ama uydurulmuş bir gereksinim alma riskiyle karşılaşır. | Sağlanan bilgideki bir boşluk, tam olarak örüntü tabanlı, uydurulmuş bir yanıtın ortaya çıkmasının en olası olduğu koşuldur. |
| Yeni bir kullanıcı ile deneyimli bir kullanıcının karşılaştırılması | Yeni bir kullanıcı, Cedar & Co.'nun kendi rakamlarından hangilerinin sabit ve kontrol edilebilir olduğunu henüz bilmeyebilir, bu yüzden uydurulmuş bir sayı fark edilmeden geçebilir. | Karşılaştırılacak bir kaynak belgeyi tanımak, kendi işletmenizdeki hangi gerçeklerin sabit olduğunu bilmeye bağlıdır; bu bilgi hatayı yakalanabilir kılan şeydir. |
| Farklı ürün aileleri | Bir knit-to-garment veya havlu siparişinin kendi gauge, GSM veya hav yüksekliği rakamları, gerçek sağlanmazsa bir tişörtün kumaş ağırlığı kadar kolayca uydurulabilir. | Altta yatan neden her ürün ailesinde aynıdır: sağlanmamış bir gerçek, makul, doğrulanmamış bir tahmini davet eder. |
Cedar & Co., 12 mağazası olan yerel bir marka, Delta Garments'tan Make to Stock temelinde satın alır ve kendi satış tahminine göre yeniden sipariş verir. Delta Garments'ın belirli bir Cedar & Co. yeniden siparişine ait rakamları, bu kursun başka yerinde kullanılan ana rakamların bir parçası değildir; bu ders için, Sipariş A için zaten sabitlenmiş aynı kumaş gerçekleri (single jersey, 180 GSM, Ne 30/1) planlama asistanının yapay zekânın oluşturduğu özeti karşılaştırması gereken bilinen, kontrol edilebilir referans olarak yeniden kullanılır.
Planlama asistanı, bir yapay zekâ aracından bu haftanın yeniden sipariş özetini hazırlamasını ister ama gerçek mevcut stok tablosunu yapıştırmaz. Araç, makul görünen bir kumaş spesifikasyonu belirten akıcı, iyi düzenlenmiş bir özet döndürür. Özet net okunduğundan ve görev birkaç haftalık yapıldıktan sonra rutin hissettirdiğinden, asistan belirtilen spesifikasyonu Delta Garments'ın kendi sabit kumaş gerçekleriyle karşılaştırmadan gönderir.
The worked numberYaygın bir hata, bir yapay zekâ aracının daha önce doğru görünen bir özeti birçok kez ürettiği için bir sonrakinin daha az kontrol gerektirdiğini varsaymaktır. Görevin kendisi değişmemiştir; yalnızca kişinin ona verdiği dikkat değişmiştir. Bu varsayımın maliyeti dokuzuncu veya onuncu doğru özette görünmez, yalnızca sağlanan bilgideki bir boşluğun makul, uydurulmuş bir ayrıntının fark edilmeden geçmesine izin verdiği tek seferde görünür.
Bir yapay zekâ aracı, bir şeyi bilmediğini bir kişinin doğal olarak yapabileceği gibi size söyleyemez. Ona gerçek yanıtına sahip olduğu bir soru sorun, iyi ve doğru yanıtlar. Gerçek yanıtına sahip olmadığı bir soru sorun, yine de aynı akıcılıkla yanıtlar; durup bilmediğini kabul etmek yerine boşluğu benzer metinde yaygın olarak görülenle doldurur. İki yanıt sayfada tam olarak aynı okunur: aynı net cümleler, aynı kendinden emin ton, aynı makul ayrıntı düzeyi. Yalnızca gerçek gerçeği, Delta Garments'ın kendi kumaş tablosu gibi gerçek bir kayıtla kontrol etmek, iki yanıt türünü birbirinden ayırt edebilir ve hangisinin gerçekten güvene layık olduğunu ortaya çıkarır.
Planlama asistanının Cedar & Co.'ya gönderdiği yapay zekânın oluşturduğu yeniden sipariş özeti, yeniden sipariş kumaşını "190 GSM single jersey" olarak belirtir; bu, asistanın araca hiç yazmadığı ve göndermeden önce Delta Garments'ın kendi kumaş kaydıyla hiç kontrol etmediği bir rakamdır.
Delta Garments, yapay zekânın oluşturduğu özet bunu belirttiği için Cedar & Co.'ya 190 GSM'yi onaylamalı mı? Yanıtı açmadan önce karar verin.
Hayır. Delta Garments kendi gerçek sabit kumaş referansı olan 180 GSM'yi onaylamalı ve gönderilen özeti düzeltmelidir.
1. 190 GSM rakamı planlama asistanı tarafından yapay zekâ aracına hiç sağlanmadı, bu yüzden bu, Delta Garments'ın kendi kayıtlarından kontrol edilmiş bir gerçek değil, makul, örüntü tabanlı bir sayıdır. 2. 180 GSM, Delta Garments'ın kendi üretiminde gerçekten sabitlenmiş ve kullanılan kumaş ağırlığıdır, Sipariş A için zaten onaylanmış aynı ağırlıktır ve arkasında gerçek bir kaynak olan tek rakamdır. 3. Yanlış rakamı Cedar & Co.'ya onaylamak, buna dayalı kumaş veya maliyet kararları alındıktan sonra düzeltilmesi, göndermeden önce bir kontrolün alacağı birkaç dakikadan çok daha fazlasına mal olur.
Yapay zekâ aracı bir arıza anlamında hata yapmadı; kendisine gerçek yanıtı hiç verilmemiş bir boşluğu doldurdu. Hata, sonucu Delta Garments'ın kendi bilinen rakamıyla karşılaştırmadan önce göndermekti.
Burada karşılaştırma için kullanılan Sipariş A kumaş referansı şu şekilde sabittir:
Göndermeden önce yakalanan bir hata yalnızca kontrolün birkaç dakikasına mal olur. Cedar & Co.'nun uyumsuz bir spesifikasyonu sorgulaması gibi bir alıcıya ulaştıktan sonra yakalanan bir hata ise, yukarıda hesaplanan 42 ekstra dakikada gösterildiği gibi hatayı izleme, kaydı düzeltme ve alıcının fabrikanın kendi rutin güncellemelerine olan güvenini yeniden inşa etme süresine mal olur. Maliyet, yanlış gerçek birisi tarafından yakalanmadan önce ne kadar uzağa giderse o kadar artar.
T18-C01 yapay zekâ kullanım çalışma sayfasını kullanın. Risk günlüğü sayfasında, yanıtın bir bölümünün sağladığınız bir gerçekten oluşturulmadığı her yapay zekâ çıktısını kaydedin ve kullanmadan önce onu bir kaynak belgeyle karşılaştırıp karşılaştırmadığınızı not edin. Cedar & Co. yeniden sipariş örneğiyle başlayın, ardından alıştırmayı kendi haftanızdan bir görev için tekrarlayın.
[Yapay zekâ kullanım çalışma sayfasını indirin](../../templates/T18-C01-ai-use-worksheet.xlsx)
Yapay zekâ kullanım çalışma sayfası dosyasını indirin (Excel)
1. Delta Garments'ın kendi sabit kumaş referansı 180 GSM iken, yapay zekâ aracı Cedar & Co.'nun yeniden siparişi için neden '190 GSM' belirtti?
2. Yerel bir markanın planlama ekibi, altı ay boyunca tek bir hata yakalamadan aynı haftalık yeniden sipariş özetini hazırlamak için bir yapay zekâ aracı kullandı. Bu geçmiş, gelecek hafta kontrol edilmemiş bir hata riski hakkında onlara ne söylüyor?
| TR | EN | AR | FR | Anlamı |
|---|---|---|---|---|
| Kendinden emin yanlış yanıt | Confident wrong answer | إجابة خاطئة واثقة | Réponse erronée assurée | Gerçekte yanlış olmasına rağmen akıcı, kendinden emin bir tonla ifade edilen, yapay zekânın oluşturduğu bir yanıt. |
| Uydurulmuş ayrıntı | Invented detail | تفصيلة مختلقة | Détail inventé | Bir yapay zekâ aracının, kendisine hiç verilmemiş ve gerçekte var olmayan belirli bir gerçek, sayı veya isim üretmesi. |
| Örüntü tabanlı yanıt | Pattern-based answer | إجابة مبنية على نمط | Réponse fondée sur un motif | Sizin kendi durumunuzun gerçek gerçeklerinden değil, benzer metinde yaygın olarak görülenden oluşturulan bir yanıt. |
| Rutin göreve karşı dikkatsizlik | Routine-task blindness | تجاهل المهمة الروتينية | Aveuglement lié à la routine | Bir görev tekrarlayıcı ve tanıdık hissetmeye başladığında, yapay zekânın oluşturduğu bir çıktıyı dikkatle kontrol etmeyi bırakma eğilimi. |
| Kaynak belge | Source document | المستند المصدر | Document source | Bir gerçeğin doğru sürümünü tutan ve yapay zekânın oluşturduğu bir çıktının kontrol edilmesi gereken orijinal kayıt. |
Bir sonraki derste, Meridian Sourcing'in hibrit bir siparişte yapay zekâyı kendi kullanımı üzerinden, bir yapay zekâ yanıtını güvenmeden önce kontrol etmek için pratik bir yöntem öğreneceksiniz. Kurs haritasına dön