Bugün bir yapay zekâ aracı, kimse orada olmasına gerçekten karar vermeden bir hazır giyim işletmesinde birçok masaya yerleşmiş durumdadır. Bir merchandiser, bir yanıt taslağı hazırlamak için alıcının e-postasını bir yapay zekâ aracına yapıştırır. Bir maliyet görevlisi bir hesaplamayı kontrol etmesi için bir yapay zekâ aracına sorar. Bir planlamacı bir tech pack sayfasını özetlemek için bir tane kullanır. Her kullanım kendi başına küçük ve yararlı görünür, ve her biri aynı zamanda binadan neyin çıktığına, bir müşterinin işletme adına ne aldığına ve yapay zekâ aracı hata yaparsa kimin sorumlu olduğuna dair bir işletme kararıdır.
Bu ders, çalışanların hangi yapay zekâ araçlarını kullanabileceğini, onlara hangi bilgilerin verilip verilemeyeceğini ve bir kişinin çıktıyı bir alıcıya, fabrika sahasına veya bir sevkiyat belgesine ulaşmadan önce ne zaman kontrol etmesi gerektiğini belirten kısa, uygulanabilir bir politika yazmanın gerekçesini verir. Bu ders esas olarak karar akışını öğretir: yapay zekâ aracı gerçek bir iş bilgisine güvenilmeden önce kimin, hangi temelde karar verdiğini. Bir politika olmadan, gerçekte geçerli olan kural her kişinin kendisi için karar verdiği kuraldır, ki bu hiç kural değildir.
İhtiyacınız olan: bir sipariş kaydının ve bir hazır giyim fabrikası ya da satın alma ofisindeki ana işlevlerin temel bir anlayışı. Veri yönetişimi üzerine Kurs 17 yararlı bir hazırlıktır, çünkü bir yapay zekâ kullanım politikası aynı sahiplik ve erişim düşüncesini yeni bir araç türüne genişletir.
Bu dersin sonunda şunları yapabilirsiniz:
Burada kapsanmayan: yeni bir yapay zekâ aracını satın almadan önce nasıl değerlendireceğiniz (Ders 5.3), yönetişimsiz bir aracın pratikte yarattığı riskler (Ders 5.2) ve yapay zekâ destekli bir iş ters gittiğinde sorumluluğun nasıl atanacağı (Ders 5.4).
| Terim | Anlamı |
|---|---|
| Yapay zekâ aracı | Başka bir sisteme gömülü olsun ya da tek başına kullanılsın, yapay zekâ kullanarak üreten, taslak hazırlayan, özetleyen, hesaplayan veya öneren herhangi bir yazılım. |
| Yapay zekâ kullanım politikası | Çalışanların hangi yapay zekâ araçlarını kullanabileceğini, onlara hangi bilgilerin verilebileceğini ve bir kişinin çıktıyı ne zaman gözden geçirmesi gerektiğini belirten, işletmenin kendi yazılı kuralı. |
| Gizli bilgi | Bir şirketin, sözleşmeyle veya kendi kuralıyla, işini yapmak için ona ihtiyaç duyan kişiler dışında paylaşmamayı kabul ettiği iş bilgisi. |
| İnsan incelemesi | Bir yapay zekâ aracının çıktısının, işletme dışında herhangi birine gönderilmeden veya üzerine hareket edilmeden önce, adı belirlenmiş bir kişi tarafından gerçeklerle karşılaştırılarak kontrol edilmesi. |
| Gölge kullanım | Bir yapay zekâ aracının, işletmenin bilgisi veya onayı olmadan çalışanlar tarafından gerçek iş için kullanılması. |
Bir yapay zekâ aracı tarafsız bir ofis yazılımı değildir. Kendisine yazılanı okuyabilir ve hatırlayabilir, gerçek olmayan ama kendinden emin görünen bir yanıt üretebilir ve işletme adına herhangi bir kişiden daha hızlı hareket edebilir. Yazılı bir politika, üç ayrı riski (sızdırılmış bir spesifikasyon, fark edilmemiş bir hata, belirsiz bir sorumluluk) bir çalışanın gerçekten izleyebileceği üç kurala dönüştürür: hangi araçların onaylı olduğu, onlara ne girilip girilemeyeceği ve hangi çıktıların kullanılmadan önce adı belirlenmiş bir kişinin incelemesine ihtiyaç duyduğu.
Politika olmadan, çalışanlar bu üç kararı o gün uygun görünene göre, her seferinde farklı biçimde, tek başlarına verirler.
| Neyin değişebileceği | Karşılaşacağınız biçimler | Sizin için neden önemli |
|---|---|---|
| Make to Order altında ihracat siparişi | İhracat fabrikasının çalışanları, bir yanıt veya özet taslağı hazırlamak için genellikle alıcının onaylanmış fiyatını, miktarını veya spesifikasyonunu bir yapay zekâ aracına yapıştırır. | Bu bilgi alıcının kendi onaylanmış ticari gerçeğidir; bir politika, bunun işletmenin sistemlerinden hiç çıkıp çıkamayacağını ve hangi biçimde çıkabileceğini açıkça belirtmelidir. |
| Make to Stock altında yurt içi yeniden sipariş | Yurt içi bir markanın planlama ekibi, işletmenin tamamen kendi mülkiyetinde olan kendi satış geçmişini veya tahminini okumasına yardımcı olması için bir yapay zekâ aracından yardım isteyebilir. | İşletmenin sahip olduğu bilgi bile bir kurala ihtiyaç duyar, çünkü incelenmeden bırakılan yanlış bir yapay zekâ tahmini yine de gerçek stok ve nakit kaybettirir. |
| Bir dokuma veya örme fabrikası üzerinden yürütülen hibrit sipariş | Hibrit bir sipariş türü karışımı üzerinde çalışan bir fabrika, birden fazla alıcının siparişi arasında paylaşılan bir malzeme spesifikasyonunu taslak olarak hazırlamak için bir yapay zekâ aracı kullanabilir. | Paylaşılan taslakta bir kerede kopyalanan bir spesifikasyon hatası, aynı hatanın elle bir kez yapılmasından daha büyük ve daha hızlı yayılan bir hatadır. |
| Satın alma ofisi veya acente rolü | Bir satın alma ofisi genellikle aynı anda birden fazla alıcının gizli bilgisini elinde tutar. | Bir kişinin dikkatsizce kullandığı bir yapay zekâ aracı, alıcılar arasında yasal ve ticari olarak ayrı kalması gereken bilgileri karıştırabilir. |
| Farklı ürün aileleri | Çorap, knit-to-garment, havlu ve ev tekstili işletmelerinin hepsi yapay zekâ araçlarını taslak hazırlama, özetleme ve hesaplama için aynı genel şekilde kullanır; yalnızca risk altındaki belirli belge değişir. | Politikanın üç kuralı (onaylı araçlar, bilgi kuralı, insan incelemesi) her ürün ailesinde aynı şekilde uygulanır. |
Northline Apparel, Sipariş A'yı Delta Garments ile onaylamıştır: 15.000 tişört, single jersey 180 GSM, Ne 30/1, anlaşılan FOB USD 3,20/adet, toplam sipariş değeri USD 48.000. Fabrikanın merchandiseri Mona, kendi ekibinden iki kişinin, kimse buna izin verildiğine karar vermeden, Northline Apparel'e yanıt taslakları hazırlamak ve tech pack sayfalarını özetlemek için zaten genel amaçlı bir yapay zekâ aracı kullandığını keşfeder.
Mona, taslak hazırlama yardımının gerçekten yararlı olduğunu görebildiği için yapay zekâ araçlarını tamamen yasaklamaz. Bunun yerine konuyu Delta Garments'ın yönetimine götürür ve kısa bir politika yazar: bir yapay zekâ aracı metin taslağı için onaylı olarak adlandırılır; Sipariş A'nın onaylanmış fiyatı, miktarı veya yayımlanmamış herhangi bir spesifikasyon ayrıntısı, onaylı olsun olmasın, hiçbir yapay zekâ aracına girilemez, çünkü bu bilgi sipariş anlaşması kapsamında Northline Apparel'e aittir; ve bir fiyat, tarih veya miktardan bahseden yapay zekâ destekli herhangi bir yanıt, gönderilmeden önce Mona'nın kendisi tarafından onaylanmış sipariş kaydına karşı kontrol edilmelidir.
Üretim müdürü Karim, bunun ekibinin yapay zekâ araçlarını hiçbir şey için kullanamayacağı anlamına gelip gelmediğini sorar. Mona, bir yapay zekâ aracından bir elyaf özelliğini açıklamasını istemek gibi genel bir sorunun hiçbir iş riski taşımadığını ve incelemeye ihtiyaç duymadığını açıklar; kural özellikle Sipariş A'nın bilgisine ve işletme adına Northline Apparel'e gönderilen her şeye uygulanır.
Hesaplanan rakamDiyelim ki politika var olmadan önce bir ekip üyesi, revize edilmiş bir teslim haftasını onaylayan bir yanıtı Northline Apparel'e taslak olarak hazırlaması için bir yapay zekâ aracına sormuş ve yapay zekâ aracı, onaylanmış üretim planını kontrol etmek yerine bir hafta tahmin ederek gecikmeyi bir hafta eksik göstermiş olsun.
Siparişin tüm değeri, incelenmemiş tek bir cümle yüzünden risk altındadır; bunun nedeni yapay zekâ aracının olağandışı derecede tehlikeli olması değil, onun tahmini ile Delta Garments adına Northline Apparel'e verilen bir taahhüt arasında hiçbir şeyin durmamasıdır. Birkaç dakika süren tek bir insan incelemesi adımı, yanlış haftayı gönderilmeden önce yakalardı.
Bu varsayım güvenli hissettirir çünkü hiçbir yönetici hiçbir şeyi onaylamamıştır, bu yüzden kimsenin suçlanamayacağı hissi doğar. Yapay zekâ destekli bir belge yanlış bir rakamla bir alıcıya veya fabrika sahasına ulaştığı anda maliyetli hale gelir, çünkü o zamana kadar çalışanlar aylardır kuralsız yapay zekâ araçları kullanıyor olur ve neyin kontrol edilip neyin edilmediğine dair hiçbir kayıt yoktur.
Daha iyi kural basittir: politikayı bir kişinin gerçek bir iş için bir yapay zekâ aracı kullandığı fark edilir edilmez yazın, bir şeyler ters gittikten sonra değil.
Bir yapay zekâ aracı, sipariş dosyanızı hiç görmemiş ve neyin gizli olduğunu bilmeyen, çok hızlı ve çok kendinden emin yeni bir asistan gibidir. Bu asistanın sizin adınıza yanıt vermesine izin vermeden önce, hangi işlerde yardımcı olabileceğine, ona hiçbir zaman gösterilmeyecek bilgiye ve dışarı çıkmadan önce işini kimin kontrol edeceğine karar verirsiniz.
Bunu bir kez, kısa bir politikada yazın, ve işletmedeki her kişi kendi kuralını tahmin etmek yerine aynı kuralı izleyebilsin.
Delta Garments'ın merchandising ekibine katılalı üç hafta olan bir stajyerden, Karim'in üretim toplantısı için Sipariş A'nın en son spesifikasyon güncellemesini özetlemesi istenir. Zaman kazanmak için stajyer, Northline Apparel'in kendi iç onayı tamamlanana kadar gizli tutulmasını istediği yayımlanmamış konstrüksiyon ayrıntısı dahil tam spesifikasyonu, hızlı bir özet almak için genel bir yapay zekâ aracına yapıştırır.
Stajyerin özeti olduğu gibi Karim'in toplantısı için kullanılmalı mı? Yanıtı açmadan önce karar verin.
Hayır. Spesifikasyon yapay zekâ aracı olmadan yeniden özetlenene ve Mona'ya neyin girildiği söylenene kadar özet kullanılmaz.
1. Yayımlanmamış konstrüksiyon ayrıntısı, Northline Apparel ile yapılan sipariş anlaşması kapsamında gizli bilgidir ve bunu genel bir yapay zekâ aracına yapıştırmak, stajyer bunu anlamış olsun olmasın, büyük olasılıkla bu gizliliğin ihlalidir. 2. Hiçbir politika stajyere neyin yasak olduğunu söylemedi; bu eksik olan kontroldür, yine de yapay zekâ tarafından üretilen özeti kullanmak için bir mazeret değildir. Bir kuralın yokluğu bilgiyi daha az gizli yapmaz. 3. Mona, Northline Apparel'e bilgi verilmesi gerekip gerekmediğine karar verebilmek için neyin girildiğini bilmelidir, çünkü işletme varlığını bilmediği bir riski yönetemez.
Yapay zekâ tarafından üretilen özeti yine de kullanmanın maliyeti yalnızca Sipariş A'nın gizliliğinin olası bir ihlali değildir; işletmenin sistemlerinden neyin çıktığına dair hiçbir kaydının olmayacak olmasıdır, bu da bir sonraki hatayı da aynı derecede olası kılar.
Sipariş A'nın sabit toplam sipariş değeri, tek bir ihlalin veya incelenmemiş bir hatanın neyi riske atabileceğinin basit bir hatırlatıcısıdır:
Bir yapay zekâ kullanım politikasının kendisi yazmak için birkaç saate ve sürdürmek için neredeyse hiçbir şeye mal olur. Koruduğu şey yalnızca Sipariş A'nın kendi USD 48.000'i değil, büyük veya küçük bir yapay zekâ ile ilgili hata zaten gerçekleştikten sonra bir alıcının her gelecek siparişe duyduğu güvendir. Bir gizlilik ihlali veya yapay zekâ destekli yanlış bir taahhüt, nadiren bir maliyet tablosunda tek, net bir rakam olarak görünür; bunun yerine bir alıcının bir sonraki siparişte daha zor sorular sorması, ya da siparişi hiç başka bir yerden vermesi olarak görünür.
Bu maliyeti önlemenin en ucuz noktası, bir yapay zekâ aracı gerçek iş bilgisi üzerinde zaten kullanılmadan önce, bir kez yazılan politikanın kendisidir.
T18-C05 Yapay zekâ yönetişimi ve risk kontrol listesi çalışma kitabını kullanın. Yapay zekâ aracı envanteri sayfasında, işletme genelinde şu anda kullanılan her yapay zekâ aracını, onu kimin kullandığını, ona ne tür bilgi girildiğini ve onaylı olup olmadığını listeleyin. Delta Garments'ın Sipariş A üzerindeki kendi iki yapay zekâ ile taslak hazırlama kullanımıyla başlayın, ardından alıştırmayı kendi işletmeniz için tekrarlayın.
[Yapay zekâ yönetişimi ve risk kontrol listesi çalışma kitabını indirin](../../templates/T18-C05-ai-governance-and-risk-checklist.xlsx)
Yapay zekâ yönetişimi ve risk kontrol listesi dosyasını indirin (Excel)
1. Mona'nın politikası, bir elyaf özelliğini açıklamasını istemek gibi genel bir soruya inceleme gerektirmeden izin verirken, Sipariş A'nın fiyatından, tarihinden veya miktarından bahseden herhangi bir şey için neden inceleme gerektiriyor?
2. Sipariş B (3.000 kot pantolon, anlaşılan hedef FOB USD 9,80/adet) incelenmemiş yapay zekâ destekli bir yanıt bir haftalık gecikmeyi eksik göstererek alıcıya gönderildiğinde 2 hafta üretimi kalmıştır. Bu, sipariş üzerinde hangi değeri riske atar?
| TR | EN | AR | FR | Anlamı |
|---|---|---|---|---|
| Yapay zekâ aracı | AI tool | أداة ذكاء اصطناعي | Outil d'IA | Başka bir sisteme gömülü olsun ya da tek başına kullanılsın, yapay zekâ kullanarak üreten, taslak hazırlayan, özetleyen, hesaplayan veya öneren herhangi bir yazılım. |
| Yapay zekâ kullanım politikası | AI-use policy | سياسة استخدام الذكاء الاصطناعي | Politique d'utilisation de l'IA | Çalışanların hangi yapay zekâ araçlarını kullanabileceğini, onlara hangi bilgilerin verilebileceğini ve bir kişinin çıktıyı ne zaman gözden geçirmesi gerektiğini belirten, işletmenin kendi yazılı kuralı. |
| Gizli bilgi | Confidential information | معلومات سرية | Information confidentielle | Bir şirketin, sözleşmeyle veya kendi kuralıyla, işini yapmak için ona ihtiyaç duyan kişiler dışında paylaşmamayı kabul ettiği iş bilgisi. |
| İnsan incelemesi | Human review | مراجعة بشرية | Révision humaine | Bir yapay zekâ aracının çıktısının, işletme dışında herhangi birine gönderilmeden veya üzerine hareket edilmeden önce, adı belirlenmiş bir kişi tarafından gerçeklerle karşılaştırılarak kontrol edilmesi. |
| Gölge kullanım | Shadow use | استخدام غير معلن | Usage non déclaré | Bir yapay zekâ aracının, işletmenin bilgisi veya onayı olmadan çalışanlar tarafından gerçek iş için kullanılması. |
Bir sonraki derste, alıcının kendi tarafından, bir fabrika veya satın alma ofisi yapay zekâ kullanımının hiçbir politika olmadan büyümesine izin verdiğinde gerçekten neyin yanlış gidebileceğini göreceksiniz. Kurs haritasına dön