Yönetişim: risk sınıfı, onay mercii, envanter
Yapay zekâ kullanımlarını özerklik, sonuç ağırlığı ve geri alınabilirlik üzerinden sınıflandırır; sınıfa orantılı kontrol, onay mercii ve envanter düzenini kurar.
Önkoşul: Artificial Intelligence, Generative AI
BU DERSİN SONUNDA
- Bir kullanımı özerklik, sonuç ağırlığı ve geri alınabilirlik üzerinden sınıflandırmak
- Risk sınıfına orantılı kontrol ve onay mercii eşlemek
- Yönetişimi ayakta tutan envanter alanlarını tanımlamak
- Gölge kullanımı azaltan meşru bir yol tasarlamak
- 1
Teori
Kavramın çalışma mantığı
- 2
Örnek
Gerçek bir senaryo üzerinde gösterim
- 3
Lab
Uygulamalı alıştırma
- 4
Test
Kısa ölçüm
- 5
Proje
Rotadaki projeye katkı
Kısa cevap
Yönetişim, "bunu kullanabilir miyiz" sorusunu her seferinde yeniden tartışmak yerine önceden yazılmış bir kurala bağlamaktır. Üç parçası vardır: her kullanımı bir risk sınıfına oturtan sınıflandırma, sınıfa göre değişen kontrol ve onay mercii, ve nerede ne çalıştığını gösteren güncel bir envanter. Politika metni bu üçünün yerine geçmez; onları tarif eder.
Teori: risk üç değişkenden çıkar#
Risk üç şeyin birleşimidir: sistemin insan onayı olmadan ne kadar ilerleyebildiği (özerklik), yanlış sonucun kimi nasıl etkilediği (sonucun ağırlığı) ve hatanın fark edilip düzeltilebilir olup olmadığı (geri alınabilirlik). Aynı model taslak öneren bir asistan olarak düşük, onaysız işlem başlatan bir akış içinde yüksek risklidir. Bu yüzden risk sınıfı modele değil kullanıma verilir.
Kontrol seviyesi risk sınıfını takip eder. Her kullanıma en ağır kontrolü uygulamak yönetişim değil gölge kullanım üretir: iş, kuralın uygulanmadığı yerlere kaçar. Amaç orantılılıktır; düşük riskli kullanımın kolay olması, yüksek riskli kullanımın kurallı olmasının önkoşuludur.
Üretken sistemlerde iki risk kalemi klasik yazılımdan farklı davranır. Birincisi çıktı akıcı biçimde yanlış olabilir ve sistem bunu bir hata olarak bildirmez. İkincisi sisteme giren metin talimat gibi işlenebilir: dış kaynaklı içerik okuyan ve araç çağıran kurulumlarda bu, bir içerik sorunu değil yetki sorunudur. Yönetici düzeyinde sorulacak soru şudur: bu akış hangi işlemleri insan onayı olmadan yapabiliyor?
Risk sınıfları ve karşılıkları#
| Sınıf | Tanım | Zorunlu kontrol | Onay mercii |
|---|---|---|---|
| Düşük | İç kullanım, çıktı yayımlanmıyor, kişisel veri yok | Envanter kaydı ve genel kullanım politikası | Birim yöneticisi |
| Orta | Çıktı müşteriye gidiyor veya bir karara girdi oluyor | İnsan onayı, kaynak gösterimi, örnekleme denetimi | Birim yöneticisi ve veri sahibi |
| Yüksek | Kişisel veya özel nitelikli veri; hukuki ya da finansal sonuç | Değerlendirme seti, kayıt tutma, geri alma yolu, hukuk görüşü | Yönetişim kurulu |
| Kabul edilmeyen | İnsan kararı zorunlu süreçler, izinsiz gözetim, otomatik eleme | Kullanılmaz; ret gerekçesi kayda geçer | Yönetişim kurulu |
Envanter: yönetişimin taşıyıcısı#
- Kullanım adı ve sahibi: soru sorulduğunda cevaplayacak tek kişi.
- İşlenen veri türü ve kaynağı; kişisel veri içerip içermediği.
- Risk sınıfı ve sınıfın verildiği tarih.
- Kararın nerede insana uğradığı: onay adımı mı, örnekleme denetimi mi, hiçbiri mi.
- Kullanılan sağlayıcı ve geçerli veri işleme koşulu.
- Son gözden geçirme tarihi ve bir sonraki gözden geçirme tarihi.
Karar: yeni bir kullanım kapıdan nasıl geçer#
- 1Kayıt
Kullanım envantere girer; sahibi ve amacı tek cümleyle yazılır.
- 2Veri taraması
Hangi veri giriyor, nereye gidiyor, ne kadar süreyle saklanıyor?
- 3Sınıflandırma
Özerklik, sonuç ağırlığı ve geri alınabilirlik üzerinden risk sınıfı verilir.
- 4Kontrol eşlemesi
Sınıfın gerektirdiği kontroller uygulanır; eksik varsa kullanım beklemeye alınır.
- 5Gözden geçirme tarihi
Kullanım zamanla genişler; bir sonraki inceleme tarihi peşinen yazılır.
Sık yapılan hata#
Birinci hata politika metnini yazıp işi bitmiş saymaktır. Bir politika kimin neyi onaylayacağını, hangi kaydın tutulacağını ve ihlalin nasıl fark edileceğini söylemiyorsa uygulanabilir değildir. İkinci hata yönetişimi tek seferlik bir onay kapısı gibi kurmaktır: kullanım sessizce genişler, dün taslak öneren araç bugün onaysız işlem başlatır ve sınıf kimse fark etmeden değişir.
LAB · UYGULAMALI ALIŞTIRMA
Envanteri ve risk sınıflarını kurun
- 1Kurumda bugün fiilen kullanılan yapay zekâ destekli araç ve akışları listeleyin; onaysız olanları da yazın ve bu adımda kimsenin sorumlu tutulmayacağını önceden duyurun.
- 2Her kullanım için envanter alanlarını doldurun: sahip, veri türü, sağlayıcı, insan onayının nerede olduğu.
- 3Her kullanımı özerklik, sonuç ağırlığı ve geri alınabilirlik üzerinden dört sınıftan birine oturtun.
- 4Sınıfın gerektirdiği kontrollerle bugünkü durumu karşılaştırıp eksikleri tek listede toplayın.
- 5Tek sayfalık onay akışı yazın: kim başvurur, kim sınıflandırır, kim onaylar, kayıt nerede tutulur.
- 6Her kullanım için bir sonraki gözden geçirme tarihini takvime girin ve sahibine bildirin.
Beklenen çıktı
Doldurulmuş yapay zekâ kullanım envanteri, her kullanımın risk sınıfı ve eksik kontrol listesi ile tek sayfalık onay akışı.
Sık sorulan sorular
Yönetişim kurulu kimlerden oluşmalı?
Küçük ve karar verebilir olmalı: iş tarafından bir yönetici, veri ve hukuk sorumlusu, güvenlik sorumlusu, bir de teknik sorumlu. Kurulun amacı yavaşlatmak değil kararı tek yerde toplamak. Haftalık kısa bir kapı, aylık uzun bir toplantıdan hem daha hızlı hem daha caydırıcıdır, çünkü beklemek kısa sürer.
Onaysız kullanımı nasıl fark ederiz?
Tek yol denetim değil. En etkili üç hamle şunlar: meşru yolu kolay ve görünür kılmak, belirli bir süre için yaptırımsız bildirim penceresi açmak, ve gider ile erişim kayıtlarını düzenli taramak. Ceza beklentisi olan bir tarama eksik envanter üretir; eksik envanter yanlış güven verdiği için hiç envanteri olmamaktan daha risklidir.
Yüksek riskli kullanımda "insan onayı" ne demek?
Ekranda beliren bir onay düğmesi değil. İnceleyen kişinin kararı reddedecek bilgiye, zamana ve yetkiye sahip olması demek. Onaylayan kişi çıktıyı doğrulayacak kaynağa erişemiyorsa ya da hedefler onay hızına bağlıysa, kontrol kâğıt üstündedir ve sorumluluğu kişiye yıkmaktan başka işe yaramaz.
LEARN
Yöneticiler İçin Yapay Zekâ rotasına devam et
Dersler tek başına da okunabilir, ama sıralı ilerlemek önkoşul boşluklarını kapatır.