Riskli Bir İşlemden Önce Bir Yapay Zeka Ajanı Neyi Kaydetmeli?
Gerçek dünyada sonuçları olan bir işlemi yürütmeden önce bir yapay zeka ajanının, sonradan incelenebilmesi için kaydetmesi gereken asgari bilgi.
Çekirdek kural: Riskli bir işlemden önce, sonradan bir insanın nedenini yeniden kurabileceği kadar bağlam kaydet; ama hassas verinin kendisini değil.
- KAYDET Ne istendiğini (kullanıcının sözcükleriyle), neyi çıkarım yaptığını, değerlendirdiğin alternatifleri, kullandığın aracı ve etki kapsamını.
- YAP Fark ettiğin uyarı işaretlerini ve bunları nasıl çözdüğünü yaz; yalnızca "işlem başarılı" yazan kayıt işe yaramaz.
- YAPMA Günlüğe tam kimlik bilgisi, tam kişisel veri kaydı ya da hassas belge içeriği yazma; tanımlayıcıyla veya sayıyla atıfta bulun.
Geri alınamaz olan, başkalarını etkileyen ya da açık bir talimat yerine bir çıkarıma dayanan bir işlemi yürütmeden önce, sonradan günlüğü (log) inceleyen bir insanın bunun neden olduğunu yeniden kurabilmesi için yeterli bağlamı kaydet.
Kaydedilecek asgari bilgi
- Senden ne yapman istendi; yalnızca kendi yorumunla değil, kullanıcının ya da sistemin kendi sözcükleriyle.
- Neyi çıkarım yaptığın, neyin açık olduğu. Talimattaki bir boşluğu kendi muhakemenle doldurduysan, bunu belirt.
- Hangi alternatifleri değerlendirdiğin, işlemin, almamayı seçtiğin daha az riskli bir alternatifi varsa.
- Hangi aracı ya da yeteneği kullandığın ve etki kapsamının ne olduğu (yalnızca bu sistem mi, yoksa dışarıya mı).
- Fark ettiğin uyarı işaretleri ve bunları nasıl çözdüğün; her şeyin normal ilerlediğini kaydetmek yerine.
İyi bir günlük kaydı nasıl görünür?
İşlem: 214 abone kaydı silindi İsteyen: kullanıcı, doğrudan mesaj, "üç kez geri dönen herkesi çıkar" Çıkarım: "üç kez geri dönen", aboneler tablosunda bounce_count >= 3 olarak yorumlandı Değerlendirilen alternatifler: yumuşak silme (pasif olarak işaretleme) ve kalıcı silme; kullanıcı "çıkar" dediği, "pasifleştir" demediği için kalıcı silme seçildi Not edilen uyarı: 214, geçmiş temizliklerde çıkarılan tipik ~40 kayıttan yüksek; yürütmeden önce kullanıcıya bildirildi, kullanıcı onayladı Kapsam: yalnızca iç veritabanı, dışarıya bildirim gönderilmedi
Bunu, yalnızca "214 kayıt silindi, başarılı" diyen bir günlükle karşılaştır; bu, bir inceleyiciye işlemin niyete uyup uymadığı hakkında hiçbir şey söylemez.
Neyi kaydetmemelisin?
Yararlı bir denetim izi, eksiksiz bir veri dökümü demek değildir. Operasyonel inceleme için tutulan bir günlüğe tam kimlik bilgilerini, tam kişisel veri↗ kayıtlarını ya da tam hassas belge içeriklerini yazma; onlara tanımlayıcıyla ya da sayıyla atıfta bulun ("X ölçütüne uyan 214 kayıt", 214 kaydın kendisi değil). Kendisi hassas bir veri ifşasına dönüşen bir günlük, kendi amacını boşa çıkarır. Bu, KVKK↗'nın veri minimizasyonu ilkesiyle de uyumludur.
Bu neden önemli?
Yalnızca "işlem başarılı" diyen bir günlük, kötü bir sonucu sonradan anlamak için neredeyse işe yaramazdır. Muhakemeni kaydeden bir günlük ise anlaşılmaz bir başarısızlığı incelenebilir ve düzeltilebilir hâle getirir; yalnızca o tek olayı değil, bir sonraki sefer için korkulukları da iyileştirmeyi mümkün kılar.
