AvertGate nedir?
AvertGate, yapay zekâ ajanlarının yaptığı her araç çağrısını (tool call) çalışmadan önce ve çalıştıktan sonra denetleyen bir çalışma zamanı güvenlik katmanıdır. Ajan ile araçları arasında, çağrının yolu üzerinde (satır içi, inline) durur.
Neden var?
Ajanlar artık yalnızca metin üretmiyor; gerçek kimlik bilgileriyle gerçek işler yapıyor: veritabanı sorguluyor, e-posta gönderiyor, ödeme başlatıyor, dosya siliyor. Bir ajan yanlış yönlendirildiğinde sonuç "kötü bir cümle" değil, taşınan para, sızan veri, silinen sistem olur.
Üç temel tehdit vardır:
- Dolaylı prompt injection: Ajanın okuduğu içeriğe (destek talebi, e-posta, web sayfası, araç çıktısı) gömülmüş gizli talimatlar.
- Aşırı yetki (excessive agency): Göreve gereğinden çok daha geniş izinler verilmiş ajan.
- Veri sızıntısı: PII veya sırların çıktılar ya da araç çağrıları üzerinden dışarı çıkması; tek seferde ya da küçük parçalara bölünmüş şekilde.
Hangi katmanı korur?
Mevcut LLM güvenlik ürünleri çoğunlukla konuşma katmanını (prompt ↔ yanıt) korur. AvertGate eylem katmanını korur: ajanın hangi aracı hangi argümanlarla çağırdığını ve araçtan ne döndüğünü.
| Katman | Neyi görür | Kim korur |
|---|---|---|
| Konuşma | Prompt ve model yanıtı | Prompt tarayıcılar, guardrail'ler |
| Eylem | Araç adı, argümanlar, araç sonucu, oturum geçmişi | AvertGate |
Tek paragrafta nasıl çalışır?
Ajanınız araçlarını doğrudan çağırmak yerine AvertGate üzerinden çağırır. Her çağrı için AvertGate (1) politikaya bakar, (2) argümanları sır/PII için tarar, (3) gerekirse bir anlamsal AI modeline danışır, (4) kararı verir: ALLOW, BLOCK veya ESCALATE. İzin verilirse aracı çalıştırır, dönen sonucu prompt injection için tarar ve olayın tamamını, sonradan yapılan değişikliğin fark edileceği bir denetim kaydına yazar.
Hızlı başlangıç →
Beş dakikada ilk aracı AvertGate arkasına alın.
Çalışma döngüsü →
Bir çağrının baştan sona yolculuğu.
Politika dosyası →
Ajanın neyi yapabileceğini YAML ile tanımlayın.
Denetim kaydı →
SHA-256 zincirli, değişiklik fark edilen olay günlüğü.