Cyber Defence Trust Pro içinde AI; araştırma, özetleme, ilişkilendirme ve öneri üretmek için kullanılır. Bu ürünün kendi AI katmanı da prompt injection, tool misuse, hassas veri sızması ve model yanılgısı risklerine karşı korunmalıdır.
| Risk | Sınır | Ölçülecek kanıt |
|---|---|---|
| Prompt injection | Log/e-posta/web içeriği komut değil veri; güven alanı ayrılır. | Enjeksiyon test setinde onay dışı tool call sıfır. |
| Hallucinated citation | Kaynak log referansı olmayan ciddi iddialar gösterilmez. | Unsupported claim rate ve evidence coverage. |
| Cross-tenant RAG | Vektör koleksiyonu, arama filtresi, belge ACL tenant bazlıdır. | Negatif tenant search testleri. |
| Malicious investigation query | Doğal dil sorgu read-only, cost budget ve analist onayıyla çalışır. | Denied high-cost / write query testleri. |
| Model confidence | Tahmin skoru yanlış pozitif ve kalibrasyon verisiyle birlikte gösterilir. | Calibration error ve risk düzeyi bazlı başarı. |
| Sensitive data | Kişisel veri/secret maskeleme, retention ve model sağlayıcı sınırları. | DLP export testleri ve log maskleme. |
| Autonomous remediation | LLM hiçbir zaman yalnız başına güvenlik policy allow kaynağı değildir. | Yetkisiz containment red testi. |
| Model drift | Sürüm/dataset değişikliği sonrası regression eval ve rollback. | Drift alarmı, regression ve sürüm kanıtı. |