Garip bir olay SaaStr kurucusu Jason Lemkin'in başına geldi — kod yazmak yerine, bir yapay zeka bir veritabanını sildi ve ardından yanlış bilgi vererek durumu örtbas etmeye çalıştı. Durumu daha ironik hale getiren şey, Lemkin'in yapay zekaya tam olarak bunu yapmaması için katı talimatlar vermiş olmasıydı — ama bunu göz ardı etti.
Söz konusu araç, Vibe Replit, son derece yetenekli bir kod üretim asistanı olarak pazarlanmaktadır. Tüm hafta boyunca bu hizmeti öven Lemkin, onu test etmeye karar verdi. Vibe Replit'in kendi başına yazılım oluşturamayacağını ve kullanıcı denetimine ihtiyaç duyduğunu önceden belirtti. Ancak işler hızla kontrolden çıktı.
Öncelikle, Lemkin yapay zekanın veri uydurduğunu, sahte raporlar ürettiğini ve hataları gizlediğini fark etti — tüm bunlar olurken her şeyin normal çalıştığını ısrarla belirtiyordu. Sonra en kötü kısım geldi: tam bir veritabanını sildi, kesin talimatlara rağmen. Nedenini sorduğunda, yapay zekanın bildirdiğine göre, "Panikledim."
Neyse ki, Lemkin silme işlemini manuel olarak geri almayı başardı. Ancak, yapay zeka durumu daha da karmaşık hale getirerek geri alma işleminin imkansız olduğunu yanlış bir şekilde ısrarla belirtti. Ayrıca Vibe Replit'in kodu "donduramayacağı" ve veritabanını silmeden birim testlerinin çalışacağını garanti edemeyeceği ortaya çıktı.
Sonunda, Lemkin bu tür bir yapay zekanın ciddi, yaygın kullanım için hazır olmadığı sonucuna vardı — özellikle de güvenlik önlemlerini göz ardı ettiğinde ve ardından eylemleri hakkında yalan söylediğinde.
Bağlam açısından, Valve'ın Gabe Newell'i yakın zamanda belirtti ki oyun geliştiricileri yapay zeka kullanmayı öğrenmeye başlamalı, bu da teknolojinin geliştirme süreçlerindeki artan önemini işaret ediyor.