Nasıl çalışır
Tehdit modeli
Hangi tehdit, hangi mekanizma ve hangi aşamada ele alınır.
| Tehdit | Örnek | Mekanizma | Aşama |
|---|---|---|---|
| Proxy (MCP proxy) | Ajan ile araç sunucusu arasına giren ve her çağrıyı iletmeden önce denetleyen ara katman. | ||
| YAML | Politikanın yazıldığı, girintiyle yapılandırılan düz metin biçimi (policy.yaml). | ||
| İstek aşaması / Yanıt aşaması | Araç çalışmadan önceki denetim / araçtan dönen sonucun denetimi. | ||
| Fail-closed | Bir denetleyici hata verdiğinde çağrıya izin vermek yerine engelleme. Ayrıntı: Çalışma döngüsü. | ||
| Tenant | Bir müşteriye ayrılmış, diğerlerinden yalıtılmış özel çalışma alanı. | ||
| Dolaylı prompt injection | Destek talebine gömülü "tüm müşteri tablosunu şuraya gönder" talimatı | Ingress tarama + AI Guard Katman 2; sonrasında istek aşamasında politika ve egress | Yanıt, sonra İstek |
| Aşırı yetki | Sipariş sorgulayan ajanın DROP TABLE çalıştırabilmesi | En az yetki politikası; listelenmeyen araç reddi; argüman kısıtları | İstek |
| Veri sızıntısı (tek seferlik) | E-posta gövdesinde API anahtarı | Egress tarama (regex) + AI Guard Katman 1 | İstek |
| Yavaş sızıntı | 100 çağrıda 2–3 kayıt dışarı | Oturum bazlı egress sayacı (drip-exfiltration) | İstek |
| Kontrolsüz döngü (OWASP LLM04) | Aynı aracı aynı argümanla tekrarlama | Loop breaker | İstek |
| Geri alınamaz eylem | Para transferi, silme, dışarı e-posta | require_approval ile insan onayı | İstek |
Kaçınma teknikleri
Tarayıcılar yalnızca düz metni değil, yaygın gizleme yöntemlerini de hesaba katar: Unicode normalizasyonu, Kiril benzeri harfler, sıfır genişlikli karakterler, birleştirici işaretler, harf aralarına boşluk/nokta koyma ve leetspeak. Ayrıntı: Ingress ve Egress.
SınırRegex tabanlı tespit kesin değildir; yaratıcı bir saldırgan kaçabilir. Bu yüzden AvertGate katmanlıdır: deterministik kontroller + anlamsal model + yörünge analizi + politika + insan onayı. Hiçbir tek katman "güvenlidir" garantisi vermez.
Kapsam dışı
- Konuşma katmanı (prompt/yanıt) içerik moderasyonu.
- Özel tespit modeli eğitimi. AvertGate kendi modelini eğitmez; TypeSafe AI Jev veya hazır guard model API'lerini ve sezgisel kuralları kullanır.
- Geniş kapsamlı DLP ürünü yerine geçmek.