İnsan onaylı yapay zekâ: kararın otomatikleşmediği sistem tasarımı

"Yapay zekâ önerir, insan onaylar" cümlesi kurumsal sunumların standart maddesi hâline geldi. Sorun şu ki cümle, bir tasarım kararı olarak uygulanmadığında yalnızca bir niyet beyanıdır — ve niyet beyanları denetimde işe yaramaz.

Bu yazıda insan onayını mimari bir kısıt hâline getiren unsurları, onayın ne zaman tiyatroya dönüştüğünü ve bunu önleyen tasarım kararlarını ele alıyoruz.

Kararın otomatikleşmesi tam olarak ne demek?

Bir sistemin "otomatik karar verdiğini" söylemek için modelin tek başına çalışması gerekmez. Aşağıdaki üç durumun herhangi biri yeterlidir:

1. Çıktı, insan görmeden bir sonraki adıma geçiyor.
2. İnsan görüyor ama gerekçeyi görmüyor; yalnız sonucu onaylıyor.
3. İnsan görüyor, gerekçeyi de görüyor ama reddetmesi pratikte mümkün değil — reddederse süreç tıkanıyor, iş yükü katlanıyor ya da açıklama yazmak zorunda kalıyor.

Üçüncü madde en sinsisidir. Kâğıt üzerinde insan onaylı, pratikte otomatik olan sistemlerin büyük kısmı buradan doğar.

Beş otomasyon kademesi

Bir yeteneği tasarlarken hangi kademede duracağınıza baştan karar vermek gerekir. Kademeler arasında geçiş, sonradan eklenen bir ayar değil, ayrı bir mimaridir.

Ürün ailemizde yapay zekâ motorları 1 ve 2. kademede kurgulanır; 3. kademe yalnız tutar ya da risk eşiği net tanımlanabilen süreçlerde, 4. kademe ise kişiyi doğrudan etkilemeyen işlemlerde kullanılır. İşe alma, ret, teşhis ve fesih gibi kararlar hiçbir üründe otomatik verilmez.

Hangi karar hangi kademeye ait?

Kademeyi belirleyen şey modelin doğruluğu değil, hatanın maliyetidir. Dört soruyla yerleştirilir:

Onay ne zaman tiyatroya dönüşür?

Bu, alanın en az konuşulan ama en yaygın sorunudur. Beş tetikleyicisi vardır:

1. Gerekçe gösterilmiyor. Kullanıcı yalnız sonucu görüyor. Değerlendirecek bir şey olmadığı için onay refleks hâline geliyor.
2. Hacim insanın kapasitesini aşıyor. Günde yüzlerce onay bekleyen bir kuyruk, dikkatli incelemeyi fiziken imkânsız kılar.
3. Reddetmek zahmetli. Onay tek tık, ret ise gerekçe formu istiyorsa sistem, onaya doğru eğimlidir.
4. Uyarı yorgunluğu. Her çıktıya konan uyarı bir süre sonra görünmez olur; kritik uyarı da onunla birlikte kaybolur.
5. Sorumluluk belirsizliği. Yanlış giderse sorumlunun sistem mi kişi mi olduğu belli değilse, kişi kararı sahiplenmez.

Bu beş tetikleyicinin hiçbiri model kalitesiyle ilgili değildir. Hepsi ürün tasarımı kararıdır — yani düzeltilebilir.

Onayı gerçek kılan altı tasarım kararı

1. Gerekçeyi kararla birlikte gösterin

Öneri tek başına yeterli değildir. Kullanıcı şunu görmelidir: sistem bunu neye dayanarak önerdi, hangi kaynakları kullandı, hangi alanlar belirleyici oldu. Kaynak atfı burada güven aracı değil, karar verme aracıdır.

2. Reddetmeyi onay kadar kolaylaştırın

Ret, onayla aynı sayıda tıklamayla yapılabilmeli. Gerekçe istenecekse seçeneklerden seçilebilmeli, serbest metin zorunlu olmamalı. Sürtünme farkı, karar dağılımını doğrudan değiştirir.

3. Onay hacmini insan kapasitesine göre tasarlayın

Eşik mekanizması burada devreye girer: düşük etkili işler otomatik akar, insan yalnız eşiğin üstüne bakar. Hedef, onay sayısını değil onaya ayrılan süreyi anlamlı tutmaktır.

4. Yüksek etkili kararlarda ikinci göz

Geri alınamaz ya da yüksek tutarlı kararlarda tek onay yetmez; dört göz ilkesi uygulanır. Aynı şekilde hazırlayan ile onaylayanın ayrılması — görevler ayrılığı — sistemde de korunmalıdır. Yapay zekânın hazırladığı bir işlemi, onu tetikleyen kişinin onaylaması bu ilkeyi ihlal eder.

5. Durdurma mekanizması

Bir yeteneğin beklenmedik davrandığı fark edildiğinde onu anında devre dışı bırakabilecek bir kill switch bulunmalı. Bunun bir sürüm yayınlamayı gerektirmemesi gerekir; yetkili bir kişi düğmeye basabilmeli.

6. Sistematik sapma denetimi

Model çıktılarının belirli gruplar aleyhine sistematik biçimde sapıp sapmadığı düzenli olarak incelenmeli. Önyargı denetimi, özellikle işe alım, kredi, sigorta ve performans senaryolarında tek seferlik değil dönemsel bir işlemdir.

Denetim izi: onayın kanıtı

"İnsan onayladı" ifadesi, sonradan gösterilemiyorsa hiçbir şey ifade etmez. Denetim izinde en az beş kalem ayrı ayrı tutulmalıdır:

1. Modelin önerisi (ne önerdi)
2. Önerinin dayandığı kaynaklar ve belirleyici alanlar
3. Öneriyi gören kişi
4. Verilen karar — öneriyle aynı mı, farklı mı
5. Karar zamanı

Dördüncü madde kritiktir: yalnız nihai sonucu saklayan bir sistem, insanın gerçekten değerlendirme yapıp yapmadığını gösteremez. Öneri ile kararın ayrı saklanması, hem denetim hem de model iyileştirme için gereken tek veridir — insanın nerede modelden ayrıldığı, modelin nerede zayıf olduğunu söyler.

Bu yalnız etik bir tercih değil

İnsan onayını mimariye koymanın üç ayrı gerekçesi var ve yalnız biri etiktir:

• Hukuki. Kişiyi önemli ölçüde etkileyen kararların tamamen otomatik sistemlere bırakılması, veri koruma mevzuatlarında sınırlandırılmış bir alandır. Gerekçelendirme ve itiraz edilebilirlik beklenir.
• Operasyonel. Onay katmanı, modelin bozulduğu anı yakalayan ilk mekanizmadır. Ret oranındaki ani değişim, bir izleme panelinden önce sinyal verir.
• Kurumsal. Sorumluluğun kimde olduğu net olmayan bir sistemi hiçbir yönetici sahiplenmez; sahiplenilmeyen sistem kullanılmaz.

Mevzuat tarafındaki ayrıntılar ve yurt dışı aktarım boyutu için LLM API'leri ve veri aktarımı yazımıza, kurulum mimarisi için KVKK'ya uygun yapay zekâ yazımıza bakabilirsiniz.

Onay katmanı çalışıyor mu? Dört gösterge

1. Ret oranı. Sıfıra yakınsa alarm verin. Ya model kusursuzdur ya da kimse bakmıyordur.
2. Onay süresi. Gerekçeyi okumaya yetmeyen bir süre, okunmadığını gösterir.
3. Ret sonrası sonuç. Reddedilen önerilerin ne kadarı gerçekten yanlıştı? Bu, hem modelin hem onaylayanın kalitesini ölçer.
4. Eşik dağılımı. Otomatik akan işlerin oranı zamanla sessizce büyüyorsa, eşik farkında olunmadan yükselmiş olabilir.

Bu dört göstergeyi ölçmeyen bir kurum, insan onayının hâlâ gerçek olup olmadığını bilemez — yalnız politikada yazdığını bilir.

Toparlarken

İnsan onaylı yapay zekâ, modeli kısıtlamak değil sistemi savunulabilir kılmaktır. Bunu sağlayan şey politika metni değil; gerekçenin gösterilmesi, reddin kolay olması, hacmin insana göre ayarlanması ve öneri ile kararın ayrı ayrı kaydedilmesidir.

Bu ilkenin ajan mimarisindeki karşılığını yapay zekâ ajanı yazımızda, ürün tarafındaki karşılığını ise Suite Pro mimarisi yazımızda ele aldık.

Güven merkezimizi inceleyin