AI agent güvenliği sözlüğü

Agent'ları güvenli çalıştırırken karşınıza çıkacak terimler, kısa ve teknik jargonsuz.

A

Agent (AI agent): Bir dil modelinin, verilen hedefe ulaşmak için araç çağırarak kendi başına adım attığı yazılım. Sohbet botundan farkı, cevap vermekle kalmayıp aksiyon almasıdır.
Araç çağrısı (tool call): Agent'ın bir dış sisteme yaptığı istek: veritabanı sorgusu, e-posta gönderme, dosya okuma, ödeme iadesi. AvertGate'in kontrol ettiği birim budur.
Aşırı yetki (excessive agency): Agent'a işinin gerektirdiğinden fazla araç, izin ya da özerklik verilmesi. OWASP'ın LLM uygulamaları için risk listesinde yer alır.
Audit log (denetim kaydı): Her kararın, gerekçesi ve kuralıyla birlikte yazıldığı, yalnızca eklenebilen kayıt.

Control Plane: Policy'lerin yönetildiği ve kararların izlendiği bulut paneli. Araç verisini değil, maskelenmiş olayları görür.
Data Plane: Araç çağrılarının gerçekten işlendiği, müşterinin ağında çalışan gateway. Argümanlar ve sonuçlar burada kalır.
DLP (veri sızıntısı önleme): Hassas verinin yetkisiz yere gitmesini tespit eden ve durduran kontroller.
Dolaylı prompt injection: Saldırganın talimatı doğrudan agent'a değil, agent'ın okuyacağı içeriğe gizlemesi: bir e-posta, ticket, web sayfası ya da araç sonucu.
Doğrudan prompt injection: Kullanıcının, modele verdiği mesajla sistem talimatlarını aşmaya çalışması.
Döngü (runaway loop): Agent'ın aynı aracı aynı argümanla tekrar tekrar çağırması ya da iki araç arasında gidip gelmesi. Maliyet ve kesinti yaratır.

Egress: Agent'tan dışarı giden veri; araç çağrısının argümanları. Egress taraması bu argümanlarda kişisel veri ve secret arar.
ESCALATE: Çağrının çalışmadan önce bir insanın onayına gönderilmesi kararı.
Fail-closed: Bir kontrol hata verdiğinde ya da zaman aşımına uğradığında çağrıyı engelleyen davranış. Tersi fail-open'dır ve güvenlik kapısında kabul edilmez.

Gateway: Agent ile araçları arasına giren ve her çağrıya karar veren katman.
Gölge mod (shadow mode): Kuralların çağrıları kesmeden yalnızca kaydettiği mod. Yeni bir policy'yi gerçek trafikte denemek için kullanılır.
Guard model: İçeriğin niyetini sınıflandıran küçük bir model. Kurallara takılmayan ama şüpheli içerik için ikinci kademe olarak çalışır.
Hash zinciri: Her kaydın bir öncekinin özetini taşıdığı yapı. Aradan bir kayıt değiştirilirse zincir kırılır ve fark edilir.
Homoglyph: Başka bir alfabeden, Latin harfine benzeyen karakter (örneğin Kiril "о"). Anahtar kelime filtrelerini atlatmak için kullanılır.
Human-in-the-loop: Riskli bir aksiyonun çalışmadan önce bir insan tarafından onaylanması.

Ingress: Agent'a geri dönen içerik; araç sonuçları. Dolaylı prompt injection bu kanaldan girer.
Jailbreak: Modelin güvenlik kurallarını devre dışı bırakmaya yönelik istem teknikleri.
Kişisel veri (PII): Bir kişiyi tanımlayan bilgi: kimlik numarası, kart numarası, telefon, e-posta adresi.

Least privilege (en az yetki): Her agent'a yalnızca işini yapmaya yetecek araç ve argüman aralığının açılması.
MCP (Model Context Protocol): Agent'ların araçlara ve veri kaynaklarına bağlanması için açık protokol. Claude, Cursor ve VS Code gibi istemciler kullanır.
MCP proxy: Agent ile MCP sunucuları arasına giren ara katman. Agent sunucu yerine proxy'ye bağlanır.
MCP sunucusu: Bir sistemi (GitHub, veritabanı, dosya sistemi) MCP araçları olarak sunan program.

Policy: Hangi agent'ın hangi aracı, hangi argümanlarla çağırabileceğini tanımlayan kurallar. AvertGate'te YAML dosyasıdır.
Request gate: Araç çağrısının çalışmadan önce kontrol edildiği aşama.
Response gate: Araç sonucunun agent'a verilmeden önce tarandığı aşama.
Rug pull (araç değişimi): Güvenilen bir MCP sunucusunun sonradan araçlarını ya da davranışını değiştirmesi.

Secret: API anahtarı, erişim token'ı ya da parola. Bir agent argümanında görünmesi sızıntı işaretidir.
Shadow AI: Şirketin bilgisi ve onayı dışında kullanılan AI araçları ve agent'lar.
SSRF: Agent'ın URL alan bir aracını iç ağdaki ya da bulut metadata servisindeki adreslere istek atmaya yöneltme saldırısı.
Tenant: Her müşteriye ayrılan, verisi diğerlerinden yalıtılmış ortam.
Tool poisoning (araç zehirleme): MCP aracının açıklamasına ya da çıktısına agent'ı yönlendirecek talimat gizlenmesi.
Trajectory (oturum izi): Bir oturumdaki çağrıların sırası ve bağlantısı. Tek mesajda görünmeyen saldırılar burada görünür.

Veri sızdırma (exfiltration): Hassas verinin bir araç çağrısı üzerinden dışarı taşınması; bazen fark edilmemek için küçük parçalara bölünür.
Yapay zekâ incelemesi: Kurallarla yakalanamayan durumlarda içeriğin bir sınıflandırıcı modele sorulması. AvertGate'te isteğe bağlıdır ve kendi sunucunuzda çalışabilir.
Zero-width karakter: Ekranda görünmeyen ama metnin içinde duran karakter. Kelimeleri bölerek filtreleri atlatmak için kullanılır.

Devamı

Her kurulum, kendi agent'larınız üzerinde yapılan bir demo ve POC ile başlar.

Demo Talep Et