Yapay zekâ güvenlik araştırmacıları, güçlü modelleri insan niyetleriyle uyumlu tutmak için ters oyun kuramı olarak da bilinen mekanizma tasarımı yaklaşımını inceliyor. Yapay zekânın içsel düşüncelerini anlamaya veya modellere ahlaki kurallar aşılamaya çalışan mevcut yöntemlerin aksine bu yaklaşım, istenen davranışları teşvik eden dış kurallar ve teşvikler yaratmaya odaklanıyor. Araştırmacılar, en gelişmiş modellerin iç işleyişinin hiçbir zaman tam olarak anlaşılamayabileceğini, bu nedenle modelleri yönlendirecek sistemlerin tasarlanmasının daha pratik olabileceğini belirtiyor.
Massachusetts Teknoloji Enstitüsü (MIT), Yale ve Columbia'dan araştırmacılar, yapay zekâ ajanlarının gerçek kapasitelerini gizlemesini engelleyebilecek bazı mekanizmalar öneriyor. Örneğin, bir model yalnızca bir testi geçtiği için değil, başka bir modelin yanıtını ne kadar iyi tahmin ettiği üzerinden ödüllendirilebilir. Princeton Üniversitesinden araştırmacılar ise insan toplumundan ilham alan bir sistem kurguluyor. Bu senaryoda yapay zekâ modelleri çözücüler ve denetçiler olarak görev alıyor; hile yapanlar veya hileyi yakalayamayan denetçiler cezalandırılırken, anlaşmazlık durumları karara bağlanmak üzere insan uzmanlara aktarılabiliyor.
Öte yandan araştırmacılar, bu yaklaşımın yapay zekâ ajanlarının her zaman rasyonel davranacağı varsayımına dayandığı konusunda uyarıyor. İnsanların bile çoğu zaman rasyonel hareket etmediği düşünüldüğünde, mekanizma tasarımının yalnızca düzenlemeler ve model eğitimi ile birlikte çalışan ek bir savunma katmanı olarak görülmesi gerektiği vurgulanıyor. Nihayetinde bu sistemlerin başarısının serbest piyasa dinamiklerine bağlı olabileceği ve teknoloji şirketlerinin daha güvenli ancak potansiyel olarak daha yavaş modelleri piyasaya sürüp sürmeyeceğinin belirsizliğini koruduğu ifade ediliyor.