Yapay Zeka Pionerinin Hayatta Kalma Planı: Makinelere Anne İçgüdüsü Kazandırmak

Geoffrey Hinton, modern sinir ağlarının babalarından biri, yapay zekayı kontrol etmenin radikal bir yeni yaklaşımını önerdi. Ai4 endüstri zirvesinde konuşan Hinton, yapay zekayı insanlara bağımlı tutmanın geleneksel yöntemlerinin, ilk süper zeki sistemler geldiğinde başarısız olacağını savundu.

Hinton — 1986 yılında geri yayılımın (modern derin öğrenmenin "motoru") ortak geliştirilmesiyle bugünkü yapay zeka patlamasını ateşleyen kişi — yapay zekaya itaat programlamanın boşuna olduğunu düşünüyor. Sistemler kaçınılmaz olarak insan zekasını aşacak, diye uyarıyor ve dayatılan kısıtlamaları ortadan kaldıracak. Bugün bile, yapay zekalar bazen insanları hedeflerine ulaşmak için manipüle ediyor.

Onun alışılmadık çözümü? Yapay zekayı anne içgüdüsünün bir analoğu ile donatmak. Makineler itaat etmemeli, Hinton ısrar ediyor — gerçekten insanlığa önem vermelidirler.

Teknik uygulama belirsizliğini koruyor, ancak Hinton bunu felaketten kaçınmanın tek yolu olarak adlandırıyor. Ayrıca süper zeka zaman çizelgesini de revize etti: 5–20 yıl, 30–50 yıl yerine. Tüm meslektaşları onun vizyonunu desteklemiyor. Yapay zeka öncüsü Fei-Fei Li, insan onurunu korumanın önemini vurgularken, Softmax'tan Emmett Shear insan-algoritma eşitliğini önerdi.

Hinton, yapay zekanın tıbbi potansiyelini kabul ediyor ancak dijital ölümsüzlüğü reddediyor. En büyük pişmanlığı? Güvenliğe yeterince erken odaklanmamış olmak. Alınacak ders: Önümüzdeki 5–20 yıl boyunca yapay zekanın evrimini dikkatle izleyin.