Kaynak Tüketimi, DoS ve Model İstismar Koruması
Model hizmetini kötüye kullanmaya ve beklenmeyen maliyete karşı korur.
Alt yetenekler
9 test edilebilir işlev
- 36.01Token ve request bazlı kapasite sınırıToken audience, TTL, scope ve revocation durumu denetlenir; başka araca kimlik bilgisi aynen aktarılamaz.
- 36.02Konuşma bağlamı boyutu politikasıKonuşma bağlamı boyutu politikası iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 36.03Sampling/stream kesme limitleriSampling/stream kesme limitleri iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 36.04Model extraction anomali sinyalleriHacim, tekrar ve istek benzerliği trendleri gözlenir; riskli trafik kademeli rate-limit politikasıyla sınırlandırılır.
- 36.05Prompt cache abuse risk analiziSistem talimatı ile kullanıcı ve haricî içerik ayrı güven düzeylerinde tutulur; şüpheli talimat değişimi bağımsız policy gate tarafından değerlendirilir.
- 36.06Retrieval fanout ve uzun context sınırıArama sonucu kullanıcının belge ACL kapsamı içinde filtrelenir; sürüm, kaynak ve erişim nedeni trace içine yazılır.
- 36.07Maliyet bütçesi ve tenant paylaştırmaAyrı anahtar, indeks ve izin modeli uygulanır; karşı tenant erişimleri negatif güvenlik testinde reddedilir.
- 36.08Backpressure ve kapasite rezervasyonuBackpressure ve kapasite rezervasyonu iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
- 36.09Acil kapasite koruma profiliAcil kapasite koruma profili iş akışında çok modlu giriş kaynağını, güven düzeyini ve kötüye kullanım eşiğini aynı işlem kaydında doğrular; tutarsızlıkta otomatik izin yerine inceleme veya açık engelleme kararı üretir.
Yapay zekâ bu modülde ne yapar?
Maliyet anomalisi ve model çıkarma davranış skoru. Karar destek bileşeni; politika, kimlik ve eylem yürütme sınırlarını değiştiremez.
Kazanım
Kaynak Tüketimi, DoS ve Model İstismar Koruması kapsamında güvenlik açığı yalnızca raporlanmaz; kanıtlı bir kontrole, belirli bir sorumluya ve doğrulanabilir kapatma kararına bağlanır.
Güvenlik ve kabul ilkesi
Kötüye kullanım tek tenantı etkilediğinde diğer tenantların kapasitesi korunmalı; limit kararları izlenebilir olmalı.
Uçtan uca kurumsal genişletme
- Çok modlu giriş kontrolü
- OCR, ses, video ve görüntüden çıkarılan talimatlar düşük güven kaynağı olarak işaretlenir.
- Deepfake karar zinciri
- Sahtecilik skoru tek başına ödeme/kimlik onayı anlamına gelmez; ikinci kanal doğrulaması gerekir.
- Kaynak adaleti
- Hız, token, concurrency ve GPU bütçe kısıtları tenant bazında ayrı uygulanır.
Kaynak Tüketimi, DoS ve Model İstismar Koruması sizin ortamınızda
Trust Pro AI Security modülleri pilot çalışmada kurumunuzun sistemleri ve öncelikleriyle birlikte doğrulanır.