İçeriğe atla

AI Analiz Motorları Kataloğu — Trust Pro AI Security

56 yapay zekâ analiz motoru; tehdit tespiti, sınıflandırma, regresyon, araştırma ve yönetici karar desteği alanlarına yerleştirilebilir. Bunlar ayrı ürün değil, modüllere gömülü AI yetenekleridir.

Rapor bölümleri · 06/23

56 yapay zekâ analiz motoru; tehdit tespiti, sınıflandırma, regresyon, araştırma ve yönetici karar desteği alanlarına yerleştirilebilir. Bunlar ayrı ürün değil, modüllere gömülü AI yetenekleridir.

#Motorİşlev / güvenlik sınırı
A01Prompt Injection ClassifierDoğrudan/dolaylı saldırı sinyalleri; düşük skor otomatik güven anlamına gelmez.
A02Tool Misuse Risk ScorerAraç adı, argüman, veri hassasiyeti, işlem etkisi ve kullanıcı yetkisiyle risk hesaplama.
A03Agent Goal Drift DetectorPlanlanan görev ile gerçek tool zinciri arasındaki amaç sapmasını ölçer.
A04MCP Metadata AnalyzerTool description, schema ve sunucu kimliğinde talimat veya yetki riski saptama.
A05RAG Poisoning Detectorİndeks öncesi kaynakta saldırı talimatı, provenance ve içerik tutarsızlığı tespiti.
A06RAG ACL VerifierRetrieval hit yetkisini kullanıcı, belge ve tenant seviyesinde gözden geçirme.
A07Shadow AI ClassifierCASB/SWG ve endpoint kullanım metadatasından AI servislerini sınıflandırma.
A08AI Asset Auto-TaggerEndpoint, model, servis, ajan ve kaynakları kritiklik/sahipliğe göre etiketleme.
A09Exposure Path RankerBağımlılık grafında düşük dirençli kritik güven sınırı yollarını sıralama.
A10Model Artifact AnomalyModel paketlerinde anormal içerik ve güvensiz serileştirme örüntüleri.
A11Model Provenance Consistencyİmza, artefakt, registry ve deployment kimlik eşleşmesi.
A12Dataset Poisoning SignalsEğitim veri setinde etiket kayması, sıra dışı örnek ve tekrar kümeleri.
A13Prompt/Model Regression PrioritizerDeğişen prompt/tool/model için yüksek etkili test seti seçim önerisi.
A14Adversarial Test Generatorİzinli ve sandbox sınırlarında çeşitlendirilmiş saldırı varyantı oluşturma.
A15Guardrail Eval InterpreterASR, yanlış pozitif, gecikme ve maliyet/performans dengesi açıklaması.
A16AI Attack Technique MapperGözlenen işaretleri MITRE ATLAS ve OWASP çerçeveleriyle ilişkilendirme.
A17Session Behavior BaselineTenant/uygulama oturum normaliyle farklılaşan işlemleri belirleme.
A18Sensitive Data ClassifierPII, finansal, ticari sır ve gizli doküman tespiti.
A19Secret Exposure DetectorAPI anahtarı ve token göstergelerini maskeleme/uyarı ile tanıma.
A20Unsafe Output ClassifierYanıtın downstream tehlikeli işlem üretme riskini sınıflandırma.
A21Multimodal Injection DetectorGörsel, ses, video ve belge katmanlarındaki talimat istismarını tanıma.
A22Deepfake Signal AggregatorSes/görsel sahtecilik sinyallerini işlem bağlamıyla birleştirme; tek kanıt değil.
A23Model Extraction DetectorTekrar eden parametre avcılığı ve anormal sorgu dizilerini puanlama.
A24Abuse Cost AnomalyToken, retrieval ve tool maliyetindeki sıra dışı artışları tespit.
A25AI Incident CorrelatorLog, trace, kimlik ve politika kararlarından olay zinciri oluşturma.
A26AI Forensics SummarizerKanıta bağlı, incelemeci onaylı olay özeti hazırlama.
A27Policy Conflict AnalyzerÇatışan veya örtüşmeyen allow/deny kurallarını inceleme.
A28Risk Acceptance AdvisorRisk kabul kararındaki kanıt, kritiklik ve eksik kontrolleri göstermek.
A29Third-party Trust AnalyzerAI tedarikçi kanıtları ve veri işleme sözleşmelerinden risk çıkarımı.
A30Control Gap AnalyzerAI varlığının kontrol kapsamındaki boşlukları belirlemek.
A31Human Approval OptimizerKritik insan onayı darboğazlarını bulmak; onayı otomatik atlamamak.
A32Release Gate RecommenderModel/prompt/araç değişikliğinin güvenlik yayın riskini puanlamak.
A33NHI Anomaly DetectorServis hesabı/agent kimliğinde izinsiz erişim veya alışılmadık davranış.
A34Privilege Creep DetectorZamanla genişleyen agent ve MCP araç izinlerini saptama.
A35API Data Flow ClassifierAI çağrılarında hassas alan ve bölgesel transfer ilişkisini sınıflandırma.
A36Telemetry Coverage EstimatorEksik trace/span/güvenlik olayı kapsamını hesaplama.
A37SLO Breach PredictorGuardrail servisi gecikme/hata oranı yükselirken erken sinyal verme.
A38Security Recommendation RetrieverKurum prosedürleri üzerinden kaynaklı güvenlik çözüm önerileri.
A39Attack Surface Drift DetectorYeni model, yeni endpoint, yeni tool veya yetki değişiminin risk farkı.
A40AI Control Evidence Assistantİstenen denetim kanıtının bulunduğu kayıtları erişim kontrolüyle getirme.
A41Safety Escalation ClassifierYüksek etkili otonom eylemi insan onayına yükseltme önerisi.
A42Benign vs Malicious Context DisambiguatorŞüpheli güvenlik terimlerinin meşru kullanımını yanlış alarmdan ayırma.
A43Embedding Access Pattern AnomalyVektör sorgularında veri çıkarma işaretleri ve anormal fanout.
A44AI Dependency Graph ExplainerVarlık–kimlik–veri–araç bağımlılık ve etki alanı özeti.
A45Model Service Drift DetectorModel cevap karakteristiği, sürüm ve performans anomalisi.
A46Dataset Consent Conflict FinderVeri kullanım amacı ile eğitim izni kısıtlarını ilişkilendirme.
A47Policy Simulation InsightYeni politika uygulandığında geçmiş akışlarda beklenen blokaj/kabul farkı.
A48Tenant Capacity Fairness MonitorBir tenantın kaynak tüketiminin diğer tenantları etkilemesini analiz.
A49SOC Case Triage AssistantOlayı sınıflandırma, kanıt talebi, analist iş yükünü azaltma.
A50AI Remediation PlannerTespit edilen kontrol açığı için geri alınabilir düzeltme planı önerme.
A51AI Agent Trust ProfileAjan başına risk özeti, izin kapsaması ve olay geçmişi.
A52Developer Guardrail AdvisorSDK/policy kullanımı ve eksik kontrol için geliştiriciye öneri.
A53Prompt Policy Drift ClassifierSistem promptu ve guardrail politikası arasındaki semantik sapmaları belirleme.
A54Incident Recurrence PredictorAynı kaynakta tekrar eden AI güvenlik olayına ilişkin sinyal.
A55Multi-Agent Collusion SignalsBirden çok ajan arasında sıra dışı iş birliği ve delege kötüye kullanım paternleri.
A56Model Risk ExplainabilityRisk skoru girdilerini özetleyen açıklama ve güven aralığı.

AI motorlarının ortak kabul ilkeleri

Değerlendirme boyutuZorunlu kanıt
PerformansRecall, precision, FPR/FNR, ASR ve örneklem büyüklüğü; tek başarı oranı yeterli değildir.
DriftYeni model, dil, prompt formatı ve saldırı dağılımında yeniden değerlendirme.
GecikmeGuardrail ek p95/p99 gecikme, trafik ve model konfigürasyonu bazında ölçülmeli.
GizlilikGüvenlik modeli orijinal hassas veriyi gereksiz depolamamalı; training kullanım şartı belirlenmeli.
OnayYüksek etkili eylem/kalıcı izolasyon/finansal onay, yalnızca sınıflandırıcı sonucuyla gerçekleşmemeli.
VersiyonlamaModel sürümü, test seti, policy sürümü ve karar sonucu ilişkilendirilmeli.
Yanlış pozitif maliyetiGerçek kullanıcının üretkenliği ve iş sürekliliği üzerindeki etki ölçülmeli.