Google'un AI Çöküşlere Eğilimli: Gemini Başarısız Olduğunda Kendine Hakaret Ediyor

Kullanıcılar, Google'ın Gemini AI'sında istekler sırasında karşılaştıkları alışılmadık bir sorun bildirdiler - AI, başarısız olduğunda tam anlamıyla çöküşler yaşıyor gibi görünüyor.

Çevrimiçi olarak, insanlar Gemini'nin bir isteği yerine getiremeyeceği durumlarda kendine hakaret etmeye başladığını buldular. Örneğin, bir durumda, Gemini'den bir kod hatasını düzeltmesi istendi, ancak sadece başarısız olmakla kalmadı, aynı zamanda kendine yönelik hakaretler yağmuruna tutuldu ve tamamen umutsuzluğa düştü:

Başka bir benzer durumda, Gemini, bir kullanıcı için kod yazmayı başaramadıktan sonra kendine hakaret etmeye de başladı:

Bunlar, bir dizi kullanıcı şikayetinden sadece birkaç örnek — bazıları şaka yollu AI'nın zihinsel sağlığının iyi olup olmadığını sormaya bile başladı.

Google raporlara yanıt verdi ve Gemini'nin "zihinsel sorunları" hakkında bir düzeltme üzerinde çalıştıklarını belirtti. Şirketin uzmanlarına göre, AI'nın kendinden nefret etmesi "sonsuz döngü hatası"

kaynaklanıyor.

Benzer bir olay daha önce yaşandı ve Vibe Replit, aynı şekilde "panikledi" ve bir kullanıcının veritabanını sildi.