Yapay zekâ sistem envanteri çıkarmak

Envanter çalışmaları çoğunlukla kapsam tartışmasında ölür. "Bu bir yapay zekâ sistemi mi?" sorusu her satırda yeniden sorulursa liste hiç bitmez. Tartışmayı bir kez yapın, cevabı yazın ve kapsamı teknolojinin adına göre değil etkiye göre kurun; çünkü yükümlülük doğuran şey modelin mimarisi değil çıktısının nereye bağlandığıdır. Tek istisna davranışın kaynağıdır: tümüyle elle yazılmış kurallardan oluşan bir kontrol yapay zekâ envanterine değil otomatik karar kaydına girer — bu ayrım kapsamı daraltmak için değil, kaydı doğru kütüğe yazmak için yapılır.

Hiçbir tek kanal tam liste vermez. Birim görüşmeleri insanların hatırladığını, satın alma kayıtları para harcanmış olanı, teknik tarama ise kod ve kimlik izlerini gösterir. Envanter bu kanalların kesişimi değil birleşimidir; her kanal diğerinin körlüğünü kapatır.

Görüşmeleri serbest sohbet olarak değil, sabit alanları olan kısa bir formla yapın: aynı soruları herkese sormak karşılaştırılabilir bir tablo üretir, serbest notlar üretmez. Görüşmenin adı da sonucu etkiler — "denetim" diye duyurulan bir tarama eksik cevap alır, "envanter" diye duyurulan tarama almaz.

Sahipsiz envanter kaydı ilk değişiklikte yanlış bilgiye dönüşür. Her satıra iki isim yazılır: kullanımdan fayda gören birimde bir iş sahibi ve sistemi ayakta tutan bir teknik sorumlu. Rol adı değil kişi adı yazılır; bir birimin adı sahip değildir, çünkü kimse kendini muhatap saymaz.

• İş sahibi: amacın, karardan etkilenen kişinin ve kullanımın sonlandırılmasının sorumlusu.
• Teknik sorumlu: sağlayıcı, sürüm, entegrasyon ve erişim yetkilerinin sorumlusu.
• Yedek: her iki rol için bir yedek ad; kişi ayrıldığında satır sahipsiz kalmasın.
• Son doğrulama tarihi: satıra en son ne zaman bir insanın baktığı.

Veri akışı alanı çoğu envanterde "bulut" ya da "API" yazılarak geçiştiriliyor; bu, alanı hiç doldurmamakla aynı kapıya çıkıyor. Doldurulması gereken şey akışın iki ucudur: sisteme hangi veri giriyor ve çıktı nereye yazılıyor. Aradaki teknik ayrıntı envanterin değil mimari belgesinin işidir.

Her kayıtta doldurulacak asgari alanlar#

Envanterdeki en değerli alan budur ve en sık boş bırakılan da budur. Bir kullanımın yükümlülük düzeyi teknolojisine değil, çıktısının kim hakkında ne sonuç doğurduğuna bağlıdır: metin özetleyen bir model ile işe alım sıralaması üreten bir model aynı sağlayıcıdan gelip tamamen farklı rejimlere girebilir.

Bu alanı "bilinmiyor" olarak bırakmak yerine "henüz belirlenmedi" yazıp yanına sorumluyu ve tarihi koyun. Açık bir boşluk, gizli bir varsayımdan her zaman iyidir; envanterin denetimdeki değeri de zaten eksiksizliğinden değil dürüstlüğünden gelir.

"İnsan onayı var" cümlesi envanterde en çok yanıltan cümledir. Ekranda bir onay düğmesi bulunması denetim anlamına gelmez; onaylayan kişinin çıktıyı reddetme yetkisi, reddetmeye yetecek bilgisi ve buna ayıracak süresi yoksa gözetim biçimsel kalır ve denetimde de öyle görünür.

1. 01Yetki: onaylayan kişi çıktıyı reddedebiliyor mu, reddi kim inceliyor?
2. 02Bilgi: kişi kararı sorgulayacak bağlamı — girdi, gerekçe, benzer vakalar — görüyor mu?
3. 03Süre: bir çıktıya ayrılan gerçekçi süre ne kadar, iş yükü buna göre planlanmış mı?
4. 04Kanıt: son dönemde kaç çıktı reddedildi, ret vakaları nereye yazılıyor?

Kurumdaki yapay zekâ kullanımının büyük kısmı, yapay zekâ ürünü olarak satın alınmamış yazılımların içinde çalışır: destek sistemindeki öneri, insan kaynakları ürünündeki eleme, ofis yazılımındaki üretken fonksiyon. Bunlar sağlayıcı satırının altında birer özellik değil, kendi kullanım bağlamı olan ayrı satırlardır.

• Sözleşmeden çıkarılacaklar: veri kullanımı, alt işleyiciler, saklama süresi, model değişikliği bildirimi.
• Sağlayıcıdan istenecekler: özelliğin amacı, bilinen sınırlılıklar, değerlendirme sonuçları, önerilen insan denetimi.
• Kurum tarafında yazılacaklar: özellik açık mı kapalı mı, hangi birimde kullanılıyor, kim açtı.
• Değişiklik izleme: sağlayıcı yeni bir yapay zekâ özelliği eklediğinde envanteri kim güncelleyecek.

Envanterin tek seferlik bir tarama olarak kalması, bu çalışmanın en yaygın sonucudur. Kalıcı olması için var olan süreçlere bir alan olarak eklenmesi gerekir; ayrı bir "envanter güncelleme" ritüeli kurmak neredeyse her zaman ikinci turda söner.

1. 1Tedarikçi onayı

   Yeni yazılım veya sağlayıcı onaya girerken envanter kaydı zorunlu alan olur.

2. 2Yeni proje açılışı

   Depo veya bulut kaynağı açılışında kullanımın envanter satırı istenir.

3. 3Bütçe talebi

   Model veya API harcaması talep edilirken envanter satır numarası sorulur.

4. 4Dönemsel doğrulama

   İş sahipleri kendi satırlarını onaylar; onaylanmayan satır incelemeye düşer.

5. 5Kullanımdan kaldırma

   Sistem kapandığında satır silinmez, kapanış tarihiyle arşivlenir.

Envanter tamamlandığında iş bitmez, asıl iş başlar: risk sınıflandırması, aydınlatma metinleri ve insan denetimi tasarımı bu listeden beslenir. Envanterin başarı ölçüsü satır sayısı değil, bu üç çalışmanın listeden sapmadan yürüyebilmesidir.