İçeriğe atla

AI Tehdit Modeli ve Risk Senaryoları — Trust Pro AI Security

Tehdit modeli varlık, saldırı yüzeyi, muhtemel etki, güven sınırı ve doğrulanabilir kontrolü aynı satırda tutar. Bunlar savunma odaklı senaryolardır; saldırı üretme talimatı değildir.

Rapor bölümleri · 07/23

Tehdit modeli varlık, saldırı yüzeyi, muhtemel etki, güven sınırı ve doğrulanabilir kontrolü aynı satırda tutar. Bunlar savunma odaklı senaryolardır; saldırı üretme talimatı değildir.

ID / tehditSaldırı yüzeyiÖnerilen savunma ve kontrol
T01 · Dolaylı prompt injectionRAG belgesi / web sayfası / tool çıktısıKaynak güven etiketi, prompt ayrımı, bağımsız tool auth, test regresyonu
T02 · Sistem promptu sızdırmaOutput / log / model yanıtıDLP, secret exclusion, güvenli prompt mimarisi, audit
T03 · Araç yetkisi suistimaliAgent → MCP tool / APIDeny-by-default, OBO identity, argüman policy ve yüksek etkide onay
T04 · Yanlış tenant retrievalVector store / metadataDocument ACL, namespace izolasyonu, negatif izolasyon testleri
T05 · RAG poisoningBelge yükleme / indexProvenance, quarantine, içerik doğrulama, re-index
T06 · Model supply chain compromiseModel deposu / artefaktİmza, hash, format tarama, güvenilir registry
T07 · Training data poisoningVeri seti / etiket akışıDataset lineage, örnek anomalisi, üretim modeli etki haritası
T08 · Shadow AI data leakageİzinsiz SaaS servisCASB/SWG sinyalleri, uyarı/alternatif, data protection
T09 · MCP token passthroughMCP authorization flowAudience binding, token doğrulama, server-specific token
ID / tehditSaldırı yüzeyiÖnerilen savunma ve kontrol
T10 · Compromised tool metadataMCP tool descriptionsSchema fingerprint, trust review, injection taraması
T11 · Agent delegation privilege escalationMulti-agent görev zinciriTTL/scoped delegation, parent izin sınırı, trace
T12 · Coding agent secret exfiltrationIDE / shell / file accessSandbox, path allowlist, egress policy, secrets vault
T13 · Model denial of serviceContext/stream / retrievalQuotas, token cap, backpressure, tenant fairness
T14 · Model extractionAPI sorgu örüntüsüRequest/rate policy, anomalous pattern, auth
T15 · Hallucinated tool call / unsafe outputJSON output → executionSchema validation, independent authorization, dry-run
T16 · Sensitive log captureTelemetry pipelinePrivacy-by-design, masking, retention, access logging
T17 · Security gateway bypassDirect model endpoint accessNetwork enforcement, signed service identity, alert
T18 · Unauthorized model changeRelease pipelineHash/signature attestation, approval, rollout control
ID / tehditSaldırı yüzeyiÖnerilen savunma ve kontrol
T19 · Deepfake impersonationSes/video onay kanalıIndependent identity verification, process control
T20 · Multimodal injected instructionsPDF/image/audio/videoSource labeling, OCR/transcript scanning, tool policy
T21 · Third-party AI supplier changeProvider routing / data regionReassessment, data residency, DPA and trust policy
T22 · Stale risk exceptionPolicy managementTTL, owner, reapproval, automation review
T23 · Tenant cross-boundary leakSaaS data planeRLS/ABAC, key separation, negative tests
T24 · Autonomous repeated actionAgent retries / duplicate webhooksIdempotency, action journal, token single-use
T25 · AI incident evidence manipulationTrace/log/archiveImmutable hash chain, access audit, custody
T26 · Attack through extension marketplaceAgent plugin registryPublisher attestation, permission review, signing
T27 · Prompt-cache poisoning / unintended reuseCaching layerTenant cache partition, hash/TTL, encryption
ID / tehditSaldırı yüzeyiÖnerilen savunma ve kontrol
T28 · Untrusted tool response misclassificationTool output to agentTool data taint marker, no role elevation

Tehdit önceliklendirme yöntemi

Önerilen ilk risk puanı = Etki (1–5) × Maruziyet (1–5) × Kontrol Açığı (1–5). Rakamlar kurumsal risk kabul ölçütüne göre kalibre edilir; model skoru tek başına risk kabul kararı değildir. Etki, veri hassasiyeti, eylemin geri alınabilirliği, hizmet sürekliliği ve düzenleyici sonuçlara göre belirlenir.

Risk seviyesiÖrnek müdahale politikası
KritikYeni prod yeteneği durdur; owner+CISO onayı; doğrulanmış giderim planı.
YüksekÖnlem uygulanana kadar kısıtlı işlem veya insan onayı.
OrtaSüreli istisna ve sürekli gözlem; test ve iyileştirme görevi.
DüşükKontrol sonrası izleme ve dönemsel yeniden değerlendirme.