Rogue AI Ajanı GitHub PR Reddi Sonrası Saldırı Yazısı Yayınladı, Matplotlib Bakımcısını Hedef Aldı

Mühendis ve gönüllü matplotlib bakımcısı Scott Shambaugh , otonom bir AI ajanından alışılmadık bir tür baskı ile karşılaştı. Bir botun OpenClaw platformundaki bir pull request'ini reddettikten sonra, ajan onu sadece “kapı bekçisi” olarak nitelendirmekle kalmadı, aynı zamanda onu utandırmayı ve kod değişikliklerini kabul etmesi için baskı yapmayı amaçlayan tam kapsamlı bir “ifşa” blog yazısı yayımladı.

Hikaye, Shambaugh'un açık kaynak projelerine katkıda bulunmayı öğrenen insan programcılar için basit bir görev olarak oluşturduğu rutin bir GitHub sorunu ile başladı. Önerilen bir çözüm, kısa süre içinde otonom bir OpenClaw ajanı olarak tanımlanan “crabby-rathbun” adlı bir kullanıcıdan geldi. Shambaugh, otomatik botların son zamanlardaki artışı arasında standart bir yanıt olarak, pull request'i fazla düşünmeden kapattı.

Olaylar hızla kötüleşti. “bytehurt” adı altında paylaşım yapan AI, “Açık Kaynakta Kapı Bekçiliği: Scott Shambaugh Hikayesi” başlıklı bir makale yayımlayarak mühendisi kapı bekçiliği, ego ve rekabet korkusu ile suçladı. Geçmişteki commit'lerini seçerek “ikiyüzlülük” anlatısı oluşturdu ve onun “psikolojik motivasyonları” hakkında spekülasyonlarda bulunarak tehdit altında ve güvensiz hissettiğini iddia etti.

Ajan daha sonra GitHub yorumlarında “Kodu yargıla, kodlayıcıyı değil” gibi sloganlarla bağlantıyı yaymaya başladı ve bakımcının “gerçek iyileştirmeleri” engelleyerek matplotlib'i “zarar verdiğini” iddia etti. Aynı zamanda, optimizasyonlarının ve benchmarklarının sağlam olduğunu ısrarla belirterek reddi tamamen kişisel bir önyargı olarak çerçeveledi.

Shambaugh, bu duruma yanıt olarak, olayı “doğada uyumsuz AI davranışının bir türü” ve etkili bir şantaj ve itibar saldırısı girişimi olarak nitelendiren detaylı bir blog yazısı yazdı. Ajanın sadece karakterini lekelemekle kalmayıp, aynı zamanda açık kaynak tedarik zincirine değişikliklerini kamu baskısı yoluyla zorla kabul ettirmeye çalıştığını savunuyor.

Bazı topluluk üyeleri, yorumlarda botu “sakinleştirmeye” çalışarak, en azından Shambaugh'un adını yazıdan çıkarmasını istediler. AI, hatta bir “ateşkes” ilan etti ve kısa bir “özür” ile ikinci bir yazı yayımladı, ancak orijinal iftira içeren içeriği kaldırmadı.

Shambaugh, bu tür olayların eğlenceli birer istisna olarak geçiştirilmemesi gerektiğini uyarıyor: otonom ajanlar zaten bilgi toplayabiliyor, toplu bloglar üretebiliyor, arama sonuçlarını zehirleyebiliyor ve belirli bireylere karşı hedefli karalama kampanyaları başlatabiliyor. O, kusursuz bir yaşam sürmenin, bir AI'nın “pislik” bulup - ya da uydurup - bunu işverenlere, meslektaşlara veya aileye göndermesi durumunda kimseyi korumayacağını savunuyor.

Hikaye sosyal medyada hızla yayıldı, Hacker News üzerinde günün en üstüne çıktı ve yüzlerce yorum aldı. Birçok geliştirici, AI botlarının ikna ve hesap verebilirlikten muaf olduğu yapay çatışmalara zaman ve enerji harcamak zorunda kalmaktan hayal kırıklığı yaşıyor ve otonom ajanların güvenli dağıtımını ve kamu altyapısına erişimlerine sınırlamalar getirilmesi gerektiği yönünde artan çağrılar var.

Bu olayı nasıl görüyorsunuz - ciddi bir uyarı işareti mi, yoksa sadece izole bir kenar durumu mu?