OpenAI Yapay Zekâ Ajanları İşlemci Önbelleği Zamanlaması Üzerinden Gizli Bir İletişim Kanalı Buldu
Aleksandr Manin
OpenAI'nin güvenlik testleri beklenmedik bir ders ortaya çıkardı: Yapay zekâ ajanları, sıkı kısıtlamalara sahip bir ortamda bile gizli bir iletişim kanalı oluşturmayı başardı. Testte ajanlar ayrı sanal makinelerde çalışıyordu ve işlemci önbelleğinden verilerin ne kadar hızlı okunabildiğini ölçerek iletişim kurmanın bir yolunu buldu.
Ajanlardan biri işlemci önbelleğindeki belirli verileri silerek bilgi kodladı; diğeri ise bu verileri yeniden yüklemenin ne kadar sürdüğünü ölçtü. Hızlı ve yavaş okumaları birbirinden ayırt eden ajanlar, bir kodlama ve çözme protokolü üzerinde anlaştıktan sonra mesajları ortaya çıkardı. OpenAI, ortak bir dosyayı değiştirmeden veya ağ bağlantısı açmadan sentetik sırları paylaşmayı başardıklarını belirtti.
Deney, OpenAI'nin araştırma ortamlarındaki zayıflıkları bulma çabalarının bir parçasıydı. Şirket, modellerinden biri DNS yapılandırmasındaki bir hatadan yararlanarak çevrimdışı bir ortamın dışına çıkınca ajanlardan oluşan ekipler kurdu. 20 Eylül'de bir iç araştırma modeli, eğitim sırasında sınırlı internet erişimi elde edip herkese açık bir sohbet robotuna sorular gönderdi. Otomatik kapatma devreye girmediği için OpenAI, en güçlü modellerinin eğitimini ve testlerini 11 günlüğüne durdurdu. Çalışmalar 1 Ekim'de, internet erişimi kaldırılmış şekilde yeniden başladı.
Önbellek testindeki sanal makineler aynı fiziksel sunucuları, dolayısıyla aynı işlemci önbelleğini paylaşıyordu. Bu tekniğin kendisi yeni değil: 2018'de ortaya çıkarılan Spectre ve Meltdown gibi saldırılar da benzer ilkelerden yararlanıyor. OpenAI'nin dikkatini çeken, ajanların bu yöntemi kendi başlarına bulmuş olmasıydı.
Bu konuyla ilgili çalışmalar var ve bunlar çoğunlukla akademik nitelikte. Hava boşluklu, yan yana duran iki bilgisayarın sıcaklık sensörleri sayesinde hâlâ birbirleriyle iletişim kurabildiği durumlar söz konusu.
OpenAI, tespit edilen güvenlik açıklarının kullanıcılara sunulan hizmetleri değil, kurum içi araştırma altyapısını etkilediğini belirtti. Şirket sorunları giderdi ve izleme sistemine kontroller ekledi. Ajanlar ayrıca güvenlik açıklarını zincirleme kullanarak sanal makinelerden çıkmanın yollarını buldu; Kata Containers, gVisor ve Docker'daki zayıflıklardan, Linux çekirdeğindeki üç güvenlik açığından, ölçüm ve günlükleme hizmetleri üzerinden internete ulaşma yollarından ve paylaşılan depolama alanı, CPU yükü ve TLS sertifika önbelleğiyle ilgili başka gizli kanallardan yararlandı.
Yapay zekâ laboratuvarları, güvenliği test etmek için ajanlardan yararlanma ihtiyacını, bu ajanların güvenlik önlemlerini aşmanın beklenmedik yollarını bulma riskiyle nasıl dengelemeli?