Bir yapay zekâ aracı bir iş kararından sorumlu tutulamaz, çünkü kendi hatasını düzeltmesi istenemez, ona ücret ödenemez ve bir alıcıya veya fabrika sahibine cevap veremez. Yapay zekâ destekli bir iş ters gittiğinde, birinin buna cevap vermesi gerekir ve bu kişi önceden adlandırılmamışsa, işletme onu düzeltmek yerine kimin hatası olduğunu tartışmakla vakit geçirir. Bu, yapay zekâ aracı bir yanıt taslağı hazırlamış, bir rakam hesaplamış veya bir malzeme spesifikasyonu yazmaya yardımcı olmuş olsun, doğrudur.
Bu ders esas olarak sorumluluğu önceden atamanın karar akışını öğretir: her yapay zekâ destekli karar bir adı belirlenmiş kişiye aittir ve bu kişinin sorumluluğu bir yapay zekâ aracı üretilmesine yardımcı olduğu için değişmez. Bu kural önceden belirlenmeden, "yapay zekâ yanıldı" kimsenin üzerine hareket edebileceği bir yanıt haline gelir, oysa hatanın gerçek maliyeti hâlâ birinin ödemesi gerekir.
İhtiyacınız olan: yönetişimsiz bir yapay zekâ aracının yarattığı risklere dair Ders 5.2'nin resmi ve bir aracı benimsenmeden önce kontrol etmek için Ders 5.3'ün yöntemi. Bu ders, bir araç zaten kullanımdayken ve bir şeyler ters gittiğinde ne olduğunu kapsar.
Bu dersin sonunda şunları yapabilirsiniz:
Burada kapsanmayan: hangi araçların kullanılabileceğini belirleyen politika (Ders 5.1) ve bir araç benimsenmeden önce çalıştırılan kontroller (Ders 5.3); bu ders, bir aracın zaten onaylı ve kullanımda olduğunu varsayar.
| Terim | Anlamı |
|---|---|
| Sorumlu kişi | Bir yapay zekâ aracı üretilmesine yardımcı olsun olmasın, bir iş kararından cevap veren tek adı belirlenmiş kişi. |
| Sorumluluk atfı hatası | Bir hatayı, çıktısını kontrol etmeden kullanan sorumlu kişiyi adlandırmak yerine bir yapay zekâ aracını suçlamak. |
| Onay imzası | Sorumlu kişinin, yapay zekâ destekli bir çıktının kontrol edildiğini ve üzerine hareket edilebileceğini onaylaması. |
| Düzeltme kaydı | Neyin yanlış gittiğine, kimin bulduğuna ve düzeltmek için ne yapıldığına dair, yapay zekâ destekli bir hata doğrulandığında tutulan yazılı bir not. |
| Yükseltme (eskalasyon) | Mevcut kişinin tek başına yetkisini aştığında bir kararı veya bulunan bir hatayı daha kıdemli veya daha sorumlu bir kişiye iletmek. |
Bir yapay zekâ aracı taslak hazırlayabilir, hesaplayabilir veya önerebilir, ancak bir iş kararının sorumlu tarafı olamaz, çünkü sorumluluk bir kararı açıklama, düzeltme ve ondan etkilenenlere cevap verme yeteneği gerektirir. Yapay zekâ aracının çıktısını kullanan kişi veya kullanımını onaylayan kişi, aynı çıktıyı tamamen elle üretmiş olsaydı olacağı kadar sorumlu kalır. Bu kişiyi, her tür yapay zekâ destekli karar için önceden adlandırmak, "yapay zekâ yanıldı"nın düzeltmenin başlangıcı yerine konuşmanın sonu haline gelmesini önleyen şeydir.
Bu, her küçük yapay zekâ destekli görevin resmi bir onay gerektirdiği anlamına gelmez; gerçek para, zaman veya güven kaybettirebilecek her kararın, yapay zekâ aracının çıktısını üzerine hareket edilmeden önce kontrol etmek ve sonrasında ona cevap vermek olan işi adı belirlenmiş bir kişisi olduğu anlamına gelir.
| Neyin değişebileceği | Karşılaşacağınız biçimler | Sizin için neden önemli |
|---|---|---|
| Make to Order altında ihracat siparişi | Alıcıya bir fiyat veya tarihi onaylayan yapay zekâ destekli bir yanıt bir merchandiser tarafından imzalanıp gönderilir. | Onu gönderen merchandiser sorumludur, ekibin yapay zekâ aracıyla taslak hazırlayan genç üyesi değil, merchandiser aynı zamanda isteği yazan kişi değilse. |
| Make to Stock altında yurt içi yeniden sipariş | Yapay zekâ önerili bir yeniden sipariş miktarı bir planlama müdürü tarafından onaylanır ve verilir. | Siparişi veren planlama müdürü öneriyi kontrol etmekten sorumludur, daha genç bir planlamacı yapay zekâ aracını çalıştırmış olsa bile. |
| Bir dokuma fabrikası üzerinden hibrit sipariş | Yapay zekâ destekli bir malzeme spesifikasyonu, birden fazla alıcı için hibrit bir sipariş türü karışımında kullanılır. | Spesifikasyonu yayına onaylayan fabrikanın kendi teknik müdürü, aynı yapay zekâ destekli taslak her ikisinin de başlangıç noktası olsa bile, her alıcının kendi siparişinden sorumludur. |
| Satın alma ofisi veya acente rolü | Bir yapay zekâ aracı, aynı gün görülen başka bir alıcının bilgisinden kısmen oluşturulan, bir alıcıya gönderilen bir özet hazırlar. | Özeti gönderen acente, yapay zekâ aracının perde arkasında ne birleştirdiğinden bağımsız olarak her alıcının bilgisini ayrı tutmaktan sorumludur. |
| Farklı ürün aileleri | Çorap, knit-to-garment, havlu ve ev tekstili işletmelerinin hepsi sorumluluğu aynı şekilde atar; yalnızca belirli rol ve karar ürüne göre değişir. | Her zaman bir adı belirlenmiş kişinin sorumlu olduğu kuralı, istisnasız her ürün ailesinde geçerlidir. |
Suez Denim, Delta Garments için Sipariş B'nin %2 elastanlı 12 oz denimini dokur, aynı anda birden fazla alıcı için hibrit bir sipariş türü karışımı üzerinde çalışır. Genç bir teknik asistan, yeni bir spesifikasyon sayfası için kumaş tüketimi rakamını taslak hazırlamaya yardımcı olması için bir yapay zekâ aracı kullanır ve yapay zekâ aracının taslağı, Sipariş B'nin kendi sabit tüketimini eksik göstererek doğru 1,45 m/adet yerine 1,35 m/adet gösterir.
Asistan, taslak spesifikasyonu tutarsızlığı fark etmeden yayına gönderir, çünkü rakam makul görünmüş ve geçmiş sayfaların biçimine uymuştur. Karim'in Suez Denim'deki muadili olan teknik müdür, herhangi bir spesifikasyon sayfasını bir alıcıya veya hazır giyim fabrikasına yayınlayan onayı veren kişidir; yapay zekâ aracını kullanan asistan veya aracın kendisi değil, bu hatadan sorumlu olan odur, çünkü onay adımı tam olarak bu tür bir hatayı yayınlanmadan önce yakalamak için vardır.
Hata bulunduğunda, teknik müdür bunu "yapay zekânın hatası" olarak ele almaz. Spesifikasyonu düzeltir, ne olduğunu ve onay adımının o seferinde neden yakalamadığını kaydeder ve bu alanın her gelecek yayından önce siparişin sabit rakamlarına karşı kontrol edilmesi için inceleme adımını ayarlar.
Hesaplanan rakamUSD 960, yanlış rakam ne kadar kumaş dokunup kesileceğini hesaplamak için kullanılmış olsaydı, Sipariş B'nin gerçek denim kumaş ihtiyacına karşı gerçek bir açıktır, ayrıca kesim sırasında keşfedilen geç bir kumaş kıtlığı aksaması da eklenir. Teknik müdürün onay adımı, doğru şekilde uygulandığında, bunu Delta Garments'ın kesim odasına ulaşmadan önce yakalayan şeydir; sorumluluk açıkça atandığında ve fiilen uygulandığında, maliyet düzeltmede durur, bir üretim durmasında değil.
Bu açıklama bir neden adlandırdığı için eksiksiz hissettirir, ancak bir neden sorumlulukla aynı şey değildir: bir yapay zekâ aracı kendini düzeltemez, disiplinle aynı hatayı tekrarlamamayı öğrenemez ve etkilenen alıcıya veya fabrikaya cevap veremez. Yapay zekâ aracının hatasını konuşmanın sonu olarak ele almak, gerçek soruyu, hangi onayın bunu yakalaması gerektiğini, yanıtsız bırakır.
Daha iyi kural basittir: yapay zekâ aracı kullanılmadan önce sorumlu kişiyi adlandırın ve hiçbir yapay zekâ aracı dahil olmamış gibi aynı standarda tabi tutun.
Bir yapay zekâ aracı yazmaya, hesaplamaya veya önermeye yardımcı olabilir, ancak bir şeyler ters gittiğinde cevap veren kişi olamaz, çünkü kendini açıklayamaz, bir kişinin düzeltilebileceği gibi düzeltilemez ve etkilenen alıcı veya fabrikayla yüzleşemez. Bir yapay zekâ aracının gerçek bir kararda yardım etmesine izin vermeden önce, kendi zihninizde işini kontrol edecek ve yanlış çıkarsa ondan cevap verecek tek kişinin kim olduğuna karar verin. Bir yapay zekâ aracı dahil olduğu için bu kişi değişmez.
Bir şeyler gerçekten ters gittiğinde, "yapay zekâ aracı bir hata yaptı"da durmak yerine hatayı düzeltin ve onu yakalaması gereken inceleme adımını düzeltin.
0,10 m'lik eksik gösterme keşfedildikten sonra, Karim Suez Denim ile iletişime geçerek yanlış rakamın Delta Garments'ın aldığı spesifikasyon sayfasına nasıl ulaştığını sorar. Spesifikasyonu yapay zekâ aracıyla taslak hazırlayan teknik asistan, Karim'e "yapay zekâ aracının rakamı yanlış aldığını" ve sadece ürettiğini kopyaladığını söyler.
Karim, "yapay zekâ aracı yanıldı"yı ne olduğuna dair tam yanıt olarak kabul etmeli mi? Yanıtı açmadan önce karar verin.
Hayır. Karim, Sipariş B'nin sabit denim tüketimine karşı gereken kontrolün onaydan önce hatayı neden yakalamadığını teknik müdüre doğrudan sorar.
1. Spesifikasyon, teknik müdürün kendi onayını taşıyordu, bu da bu yayından sorumlu kişinin yapay zekâ aracını kullanan asistan değil, teknik müdür olduğu anlamına gelir. 2. Suez Denim'in kendi inceleme adımı, tam olarak bu rakamı siparişin sabit spesifikasyonuna karşı kontrol etmek için vardır, bu yüzden gerçek soru bu adımın o seferinde neden işlemediğidir, yapay zekâ aracının ne ürettiği değil. 3. "Yapay zekâ yanıldı"yı tam yanıt olarak kabul etmek, inceleme adımındaki gerçek eksikliği düzeltilmemiş bırakır, bu da aynı tür hatanın tekrar fark edilmeden gelecek bir spesifikasyon sayfasına ulaşabileceği anlamına gelir.
Eksik yanıtı kabul etmenin maliyeti yalnızca bu hata değildir; inceleme adımının kendi zayıflığının yanıtsız kalacağı ve bir sonraki yapay zekâ destekli hatanın kontrol edilmeden Delta Garments'a ulaşma şansının aynı olacağıdır.
Sipariş B'nin sabit toplam sipariş değeri, onay adımında yakalanmasaydı, incelenmeden bırakılan bir spesifikasyon hatasının sonunda neyi riske atabileceğini gösterir:
Daha önce hesaplanan USD 960'lık denim kumaş açığı, Sipariş B'nin tam değerinin yalnızca bir kesridir, ancak yalnızca küçüktür çünkü doğru şekilde uygulanan onay adımı, hatayı kesim odasına ulaşmadan önce yakalamıştır. Aynı tür hata, bir tüketim rakamı yerine daha büyük bir ticari veya konstrüksiyon alanına fark edilmeden geçseydi, maruziyet siparişin kendi USD 29.400 toplam değerinin çok daha büyük bir payına ulaşabilirdi. Açıkça adlandırılmış ve gerçekten uygulanmış bir sorumluluk adımının maliyeti, bir rakamı kayda karşı kontrol etmek için gereken zamandır; onu atlamanın maliyeti, fark edilmeyen hatanın sonunda ulaştığı her şeydir.
T18-C05 Yapay zekâ yönetişimi ve risk kontrol listesi çalışma kitabını kullanın. Hesap verebilirlik sayfasında, işletmedeki her tür yapay zekâ destekli kararı, onu onaylaması gereken sorumlu kişiyi ve bir hata bulunursa ne olması gerektiğini listeleyin. Suez Denim'in Sipariş B'nin denimindeki kendi spesifikasyon onayıyla başlayın, ardından alıştırmayı kendi işletmeniz için tekrarlayın.
[Yapay zekâ yönetişimi ve risk kontrol listesi çalışma kitabını indirin](../../templates/T18-C05-ai-governance-and-risk-checklist.xlsx)
Yapay zekâ yönetişimi ve risk kontrol listesi dosyasını indirin (Excel)
1. Genç bir asistan onu üreten yapay zekâ aracını kullanmış olsa bile, Suez Denim'in teknik müdürü yanlış kumaş tüketimi rakamından neden sorumludur?
2. İhracat yapan bir satın alma ofisi, Sipariş A için bir yanıt taslağı hazırlamak üzere bir yapay zekâ aracı kullanır ve bu araç yanlışlıkla başka bir alıcının onaylanmış siparişinden bir ayrıntıyı karıştırır; bir acente bunu kontrol etmeden gönderir. Karışık bilginin Northline Apparel'e ulaşmasından kim sorumludur?
| TR | EN | AR | FR | Anlamı |
|---|---|---|---|---|
| Sorumlu kişi | Accountable person | الشخص المسؤول | Personne responsable | Bir yapay zekâ aracı üretilmesine yardımcı olsun olmasın, bir iş kararından cevap veren tek adı belirlenmiş kişi. |
| Sorumluluk atfı hatası | Attribution error | خطأ في تحديد المسؤولية | Erreur d'attribution | Bir hatayı, çıktısını kontrol etmeden kullanan sorumlu kişiyi adlandırmak yerine bir yapay zekâ aracını suçlamak. |
| Onay imzası | Sign-off | التوقيع بالاعتماد | Validation signée | Sorumlu kişinin, yapay zekâ destekli bir çıktının kontrol edildiğini ve üzerine hareket edilebileceğini onaylaması. |
| Düzeltme kaydı | Correction record | سجل التصحيح | Registre de correction | Neyin yanlış gittiğine, kimin bulduğuna ve düzeltmek için ne yapıldığına dair, yapay zekâ destekli bir hata doğrulandığında tutulan yazılı bir not. |
| Yükseltme (eskalasyon) | Escalation | تصعيد | Escalade | Mevcut kişinin tek başına yetkisini aştığında bir kararı veya bulunan bir hatayı daha kıdemli veya daha sorumlu bir kişiye iletmek. |
Bir sonraki derste, politikayı, risk farkındalığını, benimseme kontrollerini ve bu hesap verebilirlik kuralını, işletmenizin zaten kullandığı veya değerlendirdiği herhangi bir yapay zekâ aracına uygulayabileceğiniz eksiksiz bir yönetişim ve risk kontrol listesinde bir araya getireceksiniz. Kurs haritasına dön