Bilgi Zehirleme ve İndeks Güvenliği
Depoya eklenen veya değiştirilen bilginin zararlı talimat taşımasını engellemeye çalışır.
Alt yetenekler
8 test edilebilir işlev
- 11.01İndeksleme öncesi içerik güvenlik incelemesiBelge ve kaynak metaverisi kullanıcı yetkisine bağlanır; izinsiz retrieval için negatif test yapılır.
- 11.02Belge içinde rol taklidi / araç talimatı tespitiGüvenilmeyen içerikteki üst rol talimatları veri olarak işlenir; yüksek etkili araç çağrısına ayrı yetki uygulanır.
- 11.03Toplu veri yüklemede kaynak tutarlılığıBelge ve kaynak metaverisi kullanıcı yetkisine bağlanır; izinsiz retrieval için negatif test yapılır.
- 11.04Adversarial chunk/metadata normalizasyonuTest yalnızca imzalı yetki kapsamındaki hedefte ve bütçede yürür; sonuç kanıtı düzeltme sürecine bağlanır.
- 11.05Embedding drift ve benzer belge kümeleriSorgu kaynağı, embedding modeli, koleksiyon sürümü ve kimlik kapsamı aynı trace ile ilişkilendirilir; yetkisiz retriever sonucu maskelenir.
- 11.06Yayın onayı ve iki aşamalı quarantineRiskli kayıt prod kullanımından ayrılır; yalnızca yetkili gözden geçirme ve yeniden tarama sonucu açılır.
- 11.07Bilgi tabanı rollback ve yeniden indexGüncelleme ve silme olaylarında belge kimliği ile ACL yeniden uzlaştırılır; eski indeks sürümü yetkiyi bypass edemez.
- 11.08Zehirleme olayının tüm bağlı uygulamalara etkisiTespit, etki, sorumlu, aksiyon ve iyileştirme kanıtı tek vaka sürecine alınır; otomasyon seviyesi kaydedilir.
Yapay zekâ bu modülde ne yapar?
Yüklenen kurumsal içerikte talimat enjeksiyonu örüntülerini ayırma. Karar destek bileşeni; politika, kimlik ve eylem yürütme sınırlarını değiştiremez.
Kazanım
Bilgi Zehirleme ve İndeks Güvenliği kapsamında güvenlik açığı yalnızca raporlanmaz; kanıtlı bir kontrole, belirli bir sorumluya ve doğrulanabilir kapatma kararına bağlanır.
Güvenlik ve kabul ilkesi
Şüpheli doküman karantinadayken hiçbir prod retrieval sorgusunda görünmemeli; blokajın sebebi kayıtlı olmalı.
Uçtan uca kurumsal genişletme
- Belge köken zinciri
- Kaynak dosya, yükleyici, sürüm, ACL, embedding ve koleksiyon revizyonu tek izde bulunur.
- Retrieval izolasyonu
- İstek sahibi tenant/kullanıcı/etiket yetkisi filtrelemeden sonra değil, retrieval öncesinde doğrulanır.
- İndeks temizleme
- Hatalı/zehirli belge tespitinde ilgili sürümün karantinaya alınması ve yeniden indeksleme yönetilir.
Bilgi Zehirleme ve İndeks Güvenliği sizin ortamınızda
Trust Pro AI Security modülleri pilot çalışmada kurumunuzun sistemleri ve öncelikleriyle birlikte doğrulanır.