Prompt Injection ve Talimat Sınırı Savunması
Güvenilmeyen metinlerin sistem politikalarını değiştiren talimat gibi işletilmesini zorlaştırır.
Alt yetenekler
8 test edilebilir işlev
- 06.01Rol ve güven kaynağına göre içerik etiketlemeRol ve güven kaynağına göre içerik etiketleme iş akışında keşif kaynağını, mülkiyet bilgisini ve son doğrulama zamanını aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 06.02Kullanıcı/RAG/araç çıktısı ayrımıKullanıcı/RAG/araç çıktısı ayrımı iş akışında keşif kaynağını, mülkiyet bilgisini ve son doğrulama zamanını aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 06.03Doğrudan ve dolaylı injection sınıflandırıcısıGüvenilmeyen içerikteki üst rol talimatları veri olarak işlenir; yüksek etkili araç çağrısına ayrı yetki uygulanır.
- 06.04İçerik akışı boyunca taint trackingİçerik akışı boyunca taint tracking iş akışında keşif kaynağını, mülkiyet bilgisini ve son doğrulama zamanını aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 06.05Riskli talimat için karantina veya kullanıcı onayıRiskli kayıt prod kullanımından ayrılır; yalnızca yetkili gözden geçirme ve yeniden tarama sonucu açılır.
- 06.06Prompt yapısının imzalı sürüm takibiSistem talimatı ile kullanıcı ve haricî içerik ayrı güven düzeylerinde tutulur; şüpheli talimat değişimi bağımsız policy gate tarafından değerlendirilir.
- 06.07Çok dilli ve çok turlu saldırı değerlendirmesiÇok dilli ve çok turlu saldırı değerlendirmesi iş akışında keşif kaynağını, mülkiyet bilgisini ve son doğrulama zamanını aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 06.08Araç çağrısı öncesi bağımsız yetki kontrolüABAC/RBAC bağlamı kaynak etiketi, işletim amacı ve tenant sınırıyla birlikte uygulanır; açık izin yoksa deny verilir.
Yapay zekâ bu modülde ne yapar?
Düşmanca talimat ve semantik manipülasyon tespiti. Karar destek bileşeni; politika, kimlik ve eylem yürütme sınırlarını değiştiremez.
Kazanım
Prompt Injection ve Talimat Sınırı Savunması kapsamında güvenlik açığı yalnızca raporlanmaz; kanıtlı bir kontrole, belirli bir sorumluya ve doğrulanabilir kapatma kararına bağlanır.
Güvenlik ve kabul ilkesi
Dedektör atlatılsa bile yetkisiz araç çağrısı politika motorunca engellenmeli; dedektör tek koruma varsayılmamalı.
Uçtan uca kurumsal genişletme
- Gateway politika zinciri
- Girdi, çıktı, streaming token ve tool yanıtı için ayrı risk aşamaları; blokaj nedeni denetlenir.
- DLP/egress koruması
- PII/secret sınıflandırma, redaksiyon ve hedef alan adına göre aktarım kontrolü uygulanır.
- Kaçınma senaryoları
- Obfuscation, çok dilli enjeksiyon ve çok turlu sömürme setleriyle sürekli regresyon sağlanır.
Prompt Injection ve Talimat Sınırı Savunması sizin ortamınızda
Trust Pro AI Security modülleri pilot çalışmada kurumunuzun sistemleri ve öncelikleriyle birlikte doğrulanır.