AI Human Oversight ve Etki Yönetimi
Kritik AI kararlarında insan kontrolünün nerede ve nasıl kullanılacağını standartlaştırır.
Alt yetenekler
8 test edilebilir işlev
- 39.01Yüksek etkili eylemler için onay matrisiYüksek etkili eylemler için onay matrisi iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 39.02Kararın açıklama ve kaynak kartıKararın açıklama ve kaynak kartı iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 39.03HITL SLA ve eskalasyonHITL SLA ve eskalasyon iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 39.04Onaylayıcı–oluşturucu görev ayrılığıGörev ayrılığı, tek kullanımlık onay tokenı, gerekçe ve süre kaydı ile kritik işlem yürütülmeden önce karar alınır.
- 39.05İtiraz ve yeniden değerlendirme süreciİtiraz ve yeniden değerlendirme süreci iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 39.06Otomatik karar istisna kaydıOtomatik karar istisna kaydı iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 39.07Model önerisine uyma/uymama gerekçesiModel önerisine uyma/uymama gerekçesi iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 39.08Hassas kategorilerde ek gözetimHassas kategorilerde ek gözetim iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
Yapay zekâ bu modülde ne yapar?
İnsan onayı yoğunluğu ve kalite analitiği. Karar destek bileşeni; politika, kimlik ve eylem yürütme sınırlarını değiştiremez.
Kazanım
AI Human Oversight ve Etki Yönetimi kapsamında güvenlik açığı yalnızca raporlanmaz; kanıtlı bir kontrole, belirli bir sorumluya ve doğrulanabilir kapatma kararına bağlanır.
Güvenlik ve kabul ilkesi
Ödeme, kimlik kapatma veya dış veri aktarımı gibi yüksek etkili adımlar açık ve kayıtlı onay olmadan çalışmamalı.
Uçtan uca kurumsal genişletme
- Kontrol kanıt eşlemesi
- Sahip, geçerlilik süresi ve test sonucu ile NIST/ISO/OWASP haritalama yapılır.
- Tedarikçi güvencesi
- Model/servis tedarikçisinden veri yerleşimi, subprocessors ve incident bildirim kanıtı toplanır.
- Human oversight
- Riskli kararlarda onay, itiraz, rollback ve sorumluluk matrisi süreç içine yerleştirilir.
AI Human Oversight ve Etki Yönetimi sizin ortamınızda
Trust Pro AI Security modülleri pilot çalışmada kurumunuzun sistemleri ve öncelikleriyle birlikte doğrulanır.