Queen’s University Belfast araştırmacıları, otonom yapay zeka ajan sistemlerinde (agentic AI) güvenlik açıklarını ve "sıfır güven" (zero-trust) mimarilerinin etkinliğini tartışıyor. Küresel çapta birçok ekip, karar alma ve risk değerlendirmesi gibi süreçler için yapay zeka ajanlarını kullanmaya başladı. Ancak bu ajanların geçmiş verileri silme talimatlarına her zaman uymayabileceği ve bağlam kurtarma (context recovery) saldırılarıyla gizli bilgileri açığa çıkarabileceği belirtiliyor.
Kurum içinde gerçekleştirilen bir deney, ajan tabanlı sistemlerin siber saldırı sürelerini çarpıcı biçimde kısaltabileceğini ortaya koydu. Deneye göre, ajan orkestrasyonu kullanılarak yapılan popüler kimliksizleştirme (de-authentication) saldırılarının süresi 2 ila 3 saniye gibi kısa bir zaman dilimine inebiliyor. Araştırmacılar, bu durumun sistemleri yamalamak veya savunma önlemleri almak için neredeyse hiç zaman bırakmayabileceğini vurguluyor.
Öte yandan, yazılım geliştirmede yapay zekadan yararlanmanın (vibe coding) tüm kod tabanının kurum dışı kuruluşlara açılmasına ve zafiyetlerin birden fazla yüzeye yayılmasına yol açabileceği ifade ediliyor. Kontrolden çıkan tek bir ajanın bile tedarik zincirinde geniş çaplı hasar bırakabileceği, asenkron otonomi sistemlerindeki bu tür hataların düzeltilmesinin oldukça masraflı olabileceği belirtiliyor.
Araştırmacılar, güvenlik ve izlenebilirlik sorunlarına çözüm olarak "Yapay Zeka Malzeme Listesi" (AI-bill of materials) ile dağıtık defter teknolojisi (distributed ledger) kullanımını öne sürüyor. Buna rağmen, durumsuz (stateless) otonom yapay zeka sistemlerinde "gerçek" bir sıfır güven mimarisinin var olup olamayacağı sorusu henüz yanıtlanmış değil.