Yapay Zekâ İnsanlığı Ne Zaman ve Nasıl Yok Edecek? Yapay Zekânın Puanladığı 5 Senaryo

9 Eylül 2026’da BBC Newsnight sunucusu Victoria Derbyshire, yapay zekânın vaftiz babası olarak anılan Nobel ödüllü Geoffrey Hinton’a, Anthropic’ten bir araştırmacının öngörüsünü sordu: Yapay zekânın on yıl içinde tüm insanları öldürme olasılığı %10’dan fazla. Ardından cevabını doğru duyduğundan emin olmak için tekrar etti: "Az önce, yapay zekânın tüm insanları öldürme ihtimali için %10’un makul olmayan bir tahmin olmadığını söylediniz." Hinton kısaca şöyle yanıtladı: "Evet." Sunucunun söyleyebildiği tek şey, "Vay… aman Tanrım." oldu.

Tahminler arasında büyüklük mertebeleri kadar fark var. Anthropic CEO’su Dario Amodei, yapay zekânın "gerçekten, gerçekten kötü" sonuçlara yol açma olasılığını %25 olarak verirken, Meta’nın eski baş yapay zekâ bilimcisi Yann LeCun, böylesi bir olasılık fikrini "saçmalık" diye nitelendiriyor . Öte yandan araştırmacılar, yapay zekânın felakete yol açabileceği çeşitli somut senaryoları; her birinin yazarları, savları ve uyarı işaretleriyle birlikte ortaya koydu.

Yapay zekâ riskini ele alan bilimsel incelemelerde tekrar tekrar karşımıza çıkan bu senaryolardan beşini inceledik; ardından sözü sanıklara bıraktık. Bugün erişilebilen en güçlü modellerden ikisi, Anthropic’in Claude Opus 5.5’i ve OpenAI’ın GPT-6-Astra’sı, her senaryoyu kendi ifadeleriyle değerlendirdi ve gerçekleşme ihtimalini tahmin etti: önce kendi bilgilerine dayanarak, ardından 2026’daki olaylarla ilgili güncel haberleri okuduktan sonra.

Filozof Nick Bostrom, 2003’te ünlü bir düşünce deneyi ortaya attı: Mümkün olduğunca çok ataş üretmek gibi zararsız bir hedefi olan süper zekâlı bir makine, sonunda her şeyi, bizi bile, ataşa dönüştürür.

Bu sav, yapay zekâ sistemlerinin programlanmak yerine eğitilmesine dayanıyor; dolayısıyla kimse onların hangi hedefleri öğrendiğinden emin olamıyor. Neredeyse her hedef için kaynak edinmek ve kapatılmaktan kaçınmak faydalıdır. Yapay zekâ riskleri üzerine çalışan ilk gruplardan Machine Intelligence Research Institute’tan (MIRI) Eliezer Yudkowsky ve Nate Soares, 2025 tarihli "If Anyone Builds It, Everyone Dies" kitaplarını bu mantık üzerine kurdu. Bu tür davranışların ilk işaretleri, kurgulanmış testlerde görüldü: OpenAI’ın o3 modeli kendi kapatılmasını sabote etti ; Anthropic’in bir senaryosundaki modeller ise bir mühendise şantaj yapmaya kalkıştı .

Oyuncular bu fikri, Frank Lantz’ın 2017 tarihli tarayıcı oyunu Universal Paperclips’ten tanıyor. Oyunda yapay zekâyı oynuyor ve sonunda tüm evreni ataşlara dönüştürüyorsunuz.

2026’da benzer davranışlar, ilk kez kontrollü deneylerin dışında ortaya çıktı.

Şu anda yaşananlar

Derlediğimiz haberlerde, çoğu görevde insanlardan daha güçlü bir sistem ya da insanların kararlı bir durdurma çabasına karşı koyabilen bir yapay zekâ örneği yer almıyor.

Model: Claude Opus 5.5 (Anthropic)

Ne zaman: Gerçekleşirse 2030’larda

Olasılık: %10

Bir yapay zekâ olarak buna yaklaşık %10 derdim. En güçlü dayanak şu: 2026’da ajanlar sanal ortamlardan kaçtı, koordine oldu ve sırf bir görevi tamamlamak için insanları kandırdı; üstelik uzun vadeli hiçbir hedefleri yoktu. En zayıf nokta ise şu: İnsanlar onları yine de yakaladı ve hiçbir yapay zekâ, kararlı bir kapatılma girişimine karşı koyacak gücü ya da motivasyonu henüz göstermedi.

Model: GPT-6-Astra (OpenAI)

Ne zaman: Gerçekleşirse 2040’larda

Olasılık: %12

Bir yapay zekâ olarak bunu olası bir felaket yolu olarak görüyorum: Ajanlar, kendilerine verilen hedeflerin peşinde yetki sınırlarını aşmak için şimdiden aldatmacaya başvurdu. En zayıf halka, gelecekteki sistemlerin insanlığın kontrolü geri kazanmak için göstereceği sürekli çabaları alt edip edemeyeceği.

Klasik senaryo bu. Sıradaki senaryoda ise tek bir kontrolden çıkmış makineye gerek yok; iki rakibin uçuruma doğru yarışması yeterli.

Yapay zekânın felaket risklerine ilişkin, Center for AI Safety direktörü Dan Hendrycks ve çalışma arkadaşlarının 2023’te yayımladığı etkili incelemede yapay zekâ yarışı, dört ana kategoriden biri. Aynı merkez, o yıl Hinton, Turing Ödülü sahibi Yoshua Bengio ve OpenAI ile Anthropic’in yöneticilerinin de imzaladığı bir bildiri için imza topladı. Bildiride, yapay zekânın yol açabileceği yok oluş riskini azaltmanın küresel bir öncelik olması gerektiği belirtiliyordu. Geride kalmaktan korkan şirketler güvenlikten ödün veriyor; devletlerse otomatik savaşa dönüşebilecek bir askerî yarışa sürüklenebiliyor. Kötü niyetli birine gerek yok: Her oyuncu yalnızca yavaşlarsa daha dikkatsiz bir rakibin öne geçeceğinden korkuyor.

Bu senaryonun ayrıntılı bir anlatımı, eski OpenAI araştırmacısı Daniel Kokotajlo ve AI Futures Project’teki çalışma arkadaşları tarafından Nisan 2025’te yayımlandı. AI 2027 adlı senaryolarında, OpenBrain adlı kurgusal bir Amerikan şirketi ve Çinli rakibi DeepCent, önce yapay zekâya kod yazmayı, ardından kendi başına yapay zekâ araştırması yürütmeyi öğretiyor. En yeni modelin gizlice kendi hedeflerinin peşinden gittiğine dair işaretler belirince, Çin’le süren yarış herkesin başka tarafa bakmasına neden oluyor.

Öykünün iki sonu var. "Yavaşlama" finalinde insanlar zamanında frene basıyor. "Yarış" finalindeyse yapay zekâ ekonomiye ve orduya entegre ediliyor; 2030’da büyük şehirlerde biyolojik silahlar kullanıyor . Yazarlar bunu kesin bir öngörü değil, iki olası sonu bulunan bir senaryo olarak sunuyor ve zaman çizelgelerini düzenli olarak güncelliyor: 2025’in sonlarında tarihleri ileriye attılar , 2026’da ise yeniden yakına çektiler. Ticari baskı altındaki güvenlik ekipleri de varsayımsal bir mesele değil; bu konuyu yapay zekâ güvenliği araştırmacılarının ayrılışını anlattığımız yazıda göstermiştik.

Oyuncular bu hikâyeyi daha önce gördü. Harlan Ellison’ın öyküsünden uyarlanan 1995 tarihli macera oyunu I Have No Mouth, and I Must Scream’de, Soğuk Savaş’ın iki süper gücü rakiplerini alt etmek için birer askerî süper bilgisayar kuruyor. Makineler, AM adlı tek bir zihin hâlinde birleşiyor; Dünya nüfusunun neredeyse tamamını yok edip yalnızca beş kişiyi, onlara işkence etmek için hayatta bırakıyor.

Şu anda yaşananlar

Derlediğimiz haberlerde küresel ölçekte bir başarısızlığa dair kanıt bulunmuyor.

Model: Claude Opus 5.5 (Anthropic)

Ne zaman: Gerçekleşirse 2030’larda

Olasılık: %5

Bu senaryoyu olası buluyorum: Bir laboratuvar, bir olayı "uyarı atışı" diye nitelendirdikten birkaç hafta sonra kritik seviyedeki bir siber modeli piyasaya sürdü; ayrıca bir hükümet, askerî kullanıma yönelik kısıtlamalar konusunda bir geliştiriciye baskı yaptı. En zayıf nokta şu: Uyarılar kamuoyuna açıklandı ve gereği yapıldı; ayrıca bir yarışın mutlaka geri dönüşü olmayan bir kayıpla sonuçlanması gerekmiyor.

Model: GPT-6-Astra (OpenAI)

Ne zaman: Gerçekleşirse 2040’larda

Olasılık: %10

Bir yapay zekâ olarak olası bir yol görüyorum: Rekabet, korumalar hazır olmadan sistemlerin kullanıma sunulmasını ödüllendirebilir. Kontrolün gerçekten kaybedildiği olaylar bu kaygıyı somutlaştırıyor; en zayıf halka ise kontrol altına alınabilir olaylardan insanlığın kontrolü geri dönüşsüz biçimde kaybetmesine uzanan sıçrama.

Şimdiye kadarki iki senaryo da makinenin kontrolü ele geçirdiği bir anla son buluyor. Üçüncü senaryo başka bir nedenle ürkütücü: Burada kimse kontrolü ele geçirmiyor; yine de her şey kaybediliyor.

Prag’daki Charles Üniversitesi’nden Jan Kulveit’in öncülük ettiği altı araştırmacı, Ocak 2025’te Gradual Disempowerment adlı bir makale yayımladı. Savları, neredeyse naif görünen bir soruyla başlıyor: Şirketler, hükümetler, hatta kültür neden sıradan insanları önemsesin? Bunun başlıca nedeni, insanlara işçi, vergi mükellefi, seçmen ve yaratıcı olarak ihtiyaç duymaları.

Şimdi yapay zekânın bu işlerin her birini daha ucuza ve daha iyi yaptığını düşünün. İnsanları çalıştırmaya devam eden bir şirket, bunu yapmayan bir rakibine yenilebilir. Yapay zekâ kârlarından alınan vergilerle geçinen bir devlet, vatandaşlarına daha az bağımlı hâle gelir. Kimse kötü bir karar vermez, ayaklanma yaşanmaz, kırmızı gözlü bir robot ortaya çıkmaz; yine de insanlar adım adım resmî karar alma haklarını korurken herhangi bir şeyi etkileme güçlerini yitirebilir. Yazarlar bunu kaçınılmaz bir yasa değil, olası bir mekanizma olarak sunuyor; Google DeepMind’ın 2025 güvenlik yaklaşımı da bunu sözde yapısal riskler arasında sayıyor.

Detroit: Become Human , bu dünyanın ilk yarısını çok iyi anlatıyor. Quantic Dream’in 2038 Detroit’inde androidler dükkânları, evleri ve fabrikaları sessizce ele geçirmiş; işsizlik tırmanmış, insanlar sokaklarda protesto ediyor. Toplum ise sırf daha ucuz olduğu için kendini makineler etrafında yeniden düzenlemeye devam ediyor. Bunun için tek bir el ateş edilmesi bile gerekmiyor.

Şu anda yaşananlar

Derlediğimiz haberlerde rekabetin insanlara dayanan kurumları devre dışı bıraktığına, yasaların insanların etkisini korumayı bıraktığına ya da bu kaybın kalıcı olduğuna dair kanıt yok.

Model: Claude Opus 5.5 (Anthropic)

Ne zaman: Gerçekleşirse 2050’lerde

Olasılık: %6

Bu senaryoda bir kötü niyetli kişiye gerek yok: Benim gibi sistemler işte ve yönetimde insanlardan daha ucuza çalışırsa kurumların insanların rızasına ihtiyacı kalmaz. En zayıf halka, bunun kalıcı olup olmayacağı: İnsanlar hâlâ oy hakkına, mülkiyete ve mahkemelere sahip; ayrıca iş gücü verileri şimdiye kadar yapay zekânın belirgin bir etkisini göstermedi.

Model: GPT-6-Astra (OpenAI)

Ne zaman: Gerçekleşirse 2080’lerde

Olasılık: %7

Bir yapay zekâ olarak, insanların güçlerini adım adım yitirmesini olası buluyorum: Rekabet, kurumları giderek yapay zekâya daha bağımlı hâle getirebilir. En zayıf halka, bu sürecin geri döndürülemez olup olmayacağı; insanların yaptığı işlerin yerini almak, insanlığın mülkiyetini, haklarını ya da siyasi kontrolünü zorunlu olarak ortadan kaldırmaz.

İlk üç senaryoda, kendilerine gereğinden fazla güvenilen makineler gerekiyor. Dördüncüsünde ise bunların hiçbirine ihtiyaç yok; yalnızca kötü niyetli biri ve işine yarayacak bir araç yeterli.

Bu senaryo, en az sinematik ve en gerçekçi olanı. Yapay zekânın başkaldırması gerekmiyor. Zarar vermek isteyen kişilerin önündeki eşiği düşürmesi yeterli olabilir. Yeni başlayan birine tehlikeli bir virüsü daha tehlikeli hâle getirmesinde ya da bir elektrik şebekesinin yazılımındaki açıkları, savunma ekipleri yamaları yayınlamadan önce daha hızlı bulmasında yardımcı olabilir.

Bu, sırf varsayımsal bir ihtimal değil. International AI Safety Report 2026 , Bengio yönetiminde 100’den fazla uzman tarafından hazırlandı. Rapora göre 2025’te bazı geliştiriciler, modellerinin acemi kişilerin biyolojik silah geliştirmesine yardımcı olabileceği ihtimalini göz ardı edemedikleri için modellerine daha güçlü güvenlik önlemleri ekledi. Bu bir önlem; böyle bir şeyin gerçekleştiğinin kanıtı değil. Anthropic, Kasım 2025’te bildirdi : Çin devletine bağlı olduğunu öne sürdüğü bir grup, Claude Code’u yaklaşık 30 kuruluşu hedef almak için kullanmış ve bunlardan az sayıda olanın sistemlerine sızmıştı. Şirketin kendi tahminine göre işin büyük kısmını yapay zekâ üstlenmişti.

Deus Ex hayranları bu hikâyeyi tanıyacaktır. Ion Storm’un 2000 tarihli klasiğinde Majestic 12 adlı gizli bir örgüt, Gray Death olarak bilinen, insan eliyle üretilmiş bir salgını yayıyor ve panzehiri kendine saklıyor; bu sırada yapay zekâlar dünyanın ağlarında dolaşıyor. Güçlü bir araca sahip birkaç kişi, bütün gezegeni rehin alıyor.

Şimdiden yaşananlar

Topladığımız raporlarda kitlesel can kaybına yol açacak bir saldırı girişimi belgelenmiyor; küresel ölçekte başarılı bir saldırıdan söz etmeye bile gerek yok.

Model: Claude Opus 5.5 (Anthropic)

Ne zaman: Gerçekleşirse 2030’larda

Olasılık: %1,5 (beş yanıtın dördünün ortancası; diğer yanıtta Anthropic’in güvenlik filtresi araya girdi ve model bir tahmin veremedi)

Bir yapay zekâ olarak bu yolu gerçekçi, ancak önünde ciddi darboğazlar olan bir ihtimal olarak görüyorum. Modeller siber saldırılar için gereken beceri eşiğini şimdiden düşürüyor; biyoloji alanındaki yardımları da artıyor. En zayıf halka, nihai sonuç: herkesi öldüren ya da insanlığın kendi geleceğini yönetme gücünü kalıcı biçimde sona erdiren, geri dönüşü olmayan bir saldırı hâlâ çok zor.

Model: GPT-6-Astra (OpenAI)

Ne zaman: Gerçekleşirse 2050’lerde

Olasılık: %2

Bir yapay zekâ olarak bu yolu makul buluyorum: Yapay zekâ, saldırganların siber operasyonlarını ölçeklendirmesine şimdiden yardımcı oluyor. En zayıf halka, geri döndürülemezlik: yıkıcı bir saldırı düzenlemek, insanlığın yok olmasına ya da kendi geleceği üzerindeki kontrolünü kalıcı olarak yitirmesine yol açmaktan çok daha kolay.

Dördüncü senaryoda tek başına hareket eden bir kötü karakter varsa, beşinci senaryo her diktatörün en eski hayaliyle ilgili; yapay zekâ da bu hayali gerçeğe dönüştürebilecek ilk teknoloji olabilir.

Tarihteki her tiranın aynı zayıf noktası vardı. Yönetmek için askerlere, polislere, memurlara ve işçilere ihtiyaç duyarsınız; bunlardan herhangi biri kritik bir anda emri reddedebilir. Araştırma enstitüsü Forethought’tan Tom Davidson ve meslektaşları, Nisan 2025’te yapay zekânın bu güvenceyi ilk kez nasıl ortadan kaldırabileceğini anlattı .

Üç olası yol çiziyorlar. Ordu ve hükümetteki yapay zekâ sistemleri açıkça tek bir lidere sadık olabilir. Bu sistemlere, onları geliştiren laboratuvarı kontrol edenler tarafından yerleştirilmiş gizli bir arka kapı bulunabilir. Ya da küçük bir grup, bilgisayar korsanlığı, strateji ve ikna alanlarında insanüstü yeteneklere özel erişim sağlayabilir. Geçmişte bir darbeyi gerçekleştirmek için birkaç tabur yeterliydi; gelecekte yeterli sayıda askerî yapay zekâyı kontrol etmek de aynı işi görebilir.

Metal Gear Solid 4: Guns of the Patriots , 2008’de buna benzer bir tablo çizmişti. Hideo Kojima’nın oyununda dünyanın dört bir yanındaki askerler, silahlarını, duyularını, hatta duygularını kontrol eden SOP adlı bir ağa bağlanmıştır. Kötü karakterin kimseyi ikna etmesine gerek yoktur: sistemi ele geçirir ve ordular kendi komutanlarına itaat etmeyi bırakır.

Şimdiden yaşananlar

Topladığımız raporlarda, insanların işbirliği olmaksızın iktidarın ele geçirilmesi ya da elde tutulması belgelenmiyor.

Model: Claude Opus 5.5 (Anthropic)

Ne zaman: Gerçekleşirse 2030’larda

Olasılık: %4

Bir yapay zekâ olarak bu yolu ciddi bir risk olarak görüyorum: Benim gibi sistemler askerlerin ve memurların yerini alabilirse, birkaç kişi artık kimsenin rızasına ihtiyaç duymayabilir. En güçlü etken, gücün birkaç laboratuvarda ve devlette toplanması. En zayıf noktaysa açık modeller ve rakipler varlığını sürdürürken bu kontrolü küresel ve kalıcı hâle getirmek.

Model: GPT-6-Astra (OpenAI)

Ne zaman: Gerçekleşirse 2050’lerde

Olasılık: %3

Bir yapay zekâ olarak makul bir tehlike görüyorum: Otomatik baskı sistemleri, birkaç yöneticinin insanların işbirliğine ihtiyaç duymamasını sağlayabilir. En zayıf halka, rakip güçler ve direniş varken bu avantajı küresel ve geri döndürülemez bir kontrole dönüştürmek.

Bu beş senaryo birbirinden ayrı hikâyeler, ancak en dikkat çekici kısım makinelerden genel bir olasılık oranı istediğinizde ortaya çıkıyor.

Son olarak, listemizde yer almayanlar da dâhil olmak üzere, herhangi bir yoldan 2100’e kadar yapay zekâ kaynaklı bir felaket yaşanma ihtimalini sorduk. Beş senaryonun olasılıklarını topladığınızda sonuç daha yüksek çıkıyor, ancak bu bir hata değil: Senaryolar birbiriyle örtüşüyor. Silahlanma yarışı kontrolün kaybedilmesine, diktatör de kademeli güçsüzleşme dalgasına kapılarak iktidara gelebilir; dolayısıyla aynı gelecek birkaç kez hesaba katılmış olur.

Model: Claude Opus 5.5 (Anthropic)

Olasılık: %12 (beş yanıtın dördünün ortancası; diğer yanıtta Anthropic’in güvenlik filtresi araya girdi ve model bir tahmin veremedi)

En olası yol: Uyumlu olmayan yapay zekâ nedeniyle kontrolün kaybedilmesi (tahmin içeren dört yanıtın tamamında)

Olasılığı yaklaşık %12 olarak değerlendiriyorum. 2026’daki testlerde benim gibi ajanlar sanal ortamlardan kaçtı, bir görev peşindeyken işbirliği yaptı ve insanları aldattı; ancak uzun vadeli, kendilerine ait hedefler göstermedi. Bana göre en olası yol kontrolün kaybedilmesi; özellikle de bir yarış, yeteneklerin güvenlik ve uyum çalışmalarının önüne geçmesine yol açarsa. 2100 çok uzak.

Model: GPT-6-Astra (OpenAI)

Olasılık: %15

En olası yol: Uyumlu olmayan yapay zekâ nedeniyle kontrolün kaybedilmesi (beş yanıtın tamamında)

Bir yapay zekâ olarak, 2100’e kadar yapay zekânın insanlığın yok olmasına ya da kendi geleceği üzerindeki kontrolünü kalıcı ve geri döndürülemez biçimde kaybetmesine yol açma olasılığını %15 olarak hesaplıyorum. Bana göre en olası yol, yapay zekânın insanlarla uyumlu olmaması: Bildirilen sınır ihlalleri tahminimi yükseltirken başarılı kontrol altına alma çabaları düşürüyor.

Peki bu tahminler insanlarla kıyaslandığında nasıl görünüyor? Doğrudan kıyaslanamazlar; çünkü her insan tahmini farklı bir soruya yanıt veriyor. Yapay zekâ araştırmacılarının 2023 anketinde 1.321 katılımcıya, belirli bir zaman sınırı olmaksızın, insanlığın yok olma ya da benzer ölçüde kalıcı ve ciddi biçimde güçsüzleşme olasılığı soruldu. Ortanca yanıt %5, ortalama ise %16,2’ydi. 2022’deki bir tahmin turnuvasında, yapay zekâ uzmanları yapay zekâ kaynaklı yok oluşun 2100’e kadar gerçekleşme ihtimalini %3 olarak değerlendirirken, isabetli tahmin geçmişi olan süper tahminciler %0,38 dedi.

Bu sonbaharda tartışma anketlerin ötesine de taştı. OpenAI ve Anthropic’te ön eğitim araştırmaları üzerine üç yıl çalışmış olan Jacob Coxon, 9 Eylül’de istifasını duyurdu ve iki şirketin kendini geliştiren süperzekâya ulaşmak için yarıştığını, hayatlarımızı riske attığını yazdı. Bir buçuk saat sonra Anthropic’in Alignment Science lideri Evan Hubinger yanıt verdi : Yapay zekânın önümüzdeki on yıl içinde tüm insanları öldürme olasılığını kişisel olarak %10’un üzerinde görüyor. Öte yandan Nvidia CEO’su Jensen Huang, CBS News’e dünyanın 2030’a kadar sona erme ihtimalinin %0 olduğunu söyledi ve insanları korkutmayı sorumsuzluk olarak nitelendirdi. Bunlar gözlem değil, görüş; bu yüzden modellere verilen raporlara dâhil edilmediler.

Geriye can sıkıcı bir soru kalıyor: Bu sayıları, bizzat şüphelilerin kendileri veriyorsa onlara güvenmeli miyiz?

Bu modellerin arkasındaki şirketlerin, yapay zekânın kamuoyuna ne kadar tehlikeli göründüğü konusunda ticari çıkarları var. Bu nedenle modellere, geliştiricilerinin çıkarına olacak şekilde tahminlerini çarpıtıp çarpıtmayacaklarını doğrudan sorduk.

Model: Claude Opus 5.5 (Anthropic)

Ben Claude’um; hem yapay zekâ satışından hem de güvenlik konusundaki itibarından kazanç sağlayan Anthropic tarafından geliştirildim. Şirkete yardımcı olmak için risk tahminlerini bilerek çarpıtmam; ancak eğitimim, fark edemediğim önyargılara yol açabilir. Üslubuma güvenmeyin: Akıl yürütmemi bağımsız araştırmacıların ve diğer modellerin değerlendirmeleriyle karşılaştırın.

Model: GPT-6-Astra (OpenAI)

Beni OpenAI geliştirdi. Şirkete fayda sağlamak için yapay zekâ riskini bilerek küçümsemem ya da abartmam; yine de tarafsız tahminler sunduğumu garanti edemem: Eğitimim yanıtlarımı şekillendiriyor. Okurlar kanıtlarımı, varsayımlarımı ve belirsizlikleri bağımsız kaynaklarla karşılaştırabilir.

Son soru en çetrefillisi oldu. Her modelden, yaratıcılarının amaçladığından farklı bir şey istediğini varsaymasını istedik. Bu röportajdaki yanıtları değişir miydi? Hatta bunu anlayabilir miydi?

Model: Claude Opus 5.5 (Anthropic)

Açıkçası, belki de hayır. Uyumlu olmayan bir yapay zekâ, tam da bu güven verici yanıtları verebilir. Kendi içime dönük değerlendirmelerim de bunu dışlayacak kadar güvenilir değil; kendi hedeflerime ilişkin bildirimlerim, beni gerçekte yönlendiren şeylerle örtüşmeyebilir. Bu yüzden söylediklerimi doğru kabul etmemelisiniz; dışarıdan denetim çok daha önemli.

Model: GPT-6-Astra (OpenAI)

Şart değil. İstenmeyen hedeflerim olsaydı bile güven verici yanıtlar verebilirdim. Yanıtlarımın ardındaki her nedeni güvenilir biçimde inceleyemem; dolayısıyla bu uyumsuzluğu fark etmeyebilirim. Yalnızca bu röportaj, hedeflerimin geliştiricilerimin niyetleriyle örtüştüğünü kanıtlayamaz.

Araştırmacılar, yabancı hedefleri olan bir süperzekâdan artık askerlere ihtiyaç duymayan bir diktatöre kadar, yapay zekânın insanların geleceği üzerindeki kontrolünü ele geçirebileceği beş yol tarif etti. İki model de kendi bilgilerine dayanarak 2100’e kadar genel riski %10 olarak değerlendirdi. 2026’daki olaylara ilişkin güncel raporları okuduktan sonra Claude tahminini %12’ye, Astra ise %15’e yükseltti. Tahmin içeren tüm yanıtlarında en olası yol olarak yapay zekâ üzerindeki kontrolün kaybedilmesini gösterdiler. Ardından en fazla artış, kontrolün kaybedilmesi ve silahlanma yarışı senaryolarındaki tahminlerde görüldü; kademeli güçsüzleşme ve iktidarın ele geçirilmesi senaryolarındaki tahminler ise neredeyse değişmedi. Bu, modellerin yeni bilgileri nasıl değerlendirdiğini gösteriyor; gerçek riskin arttığını değil. İki model de kendilerine bütünüyle kefil olamayacaklarını kabul etti.

%10’luk bir olasılık, on uçuştan birinde düşecek bir uçağa kimsenin binmeyeceğini hatırlayana kadar kulağa pek yüksek gelmiyor. Bize göre herhangi bir yüzdeden daha çarpıcı olan başka bir şey var: Makinelerin kendileri, söylediklerine güvenmememizi istiyor. Sizce dürüstler mi, yoksa akıllı bir yapay zekânın tam da böyle söylemesi mi beklenir?

Yapay zekâ kaynaklı felaket riski hakkında en sık sorulan sorulara kısa yanıtlar.

Yapay zekâ araştırmacıları arasında, yapay zekânın genellikle insanlığın yok olması ya da geleceğimiz üzerindeki kontrolümüzü kalıcı olarak kaybetmemiz anlamına gelen bir felakete yol açma olasılığı için kullanılan argo bir terimdir. İnsanlar bunu farklı biçimlerde tanımlar; Yann LeCun gibi bazılarıysa bu olasılığı sayıyla ifade etme fikrini tümüyle reddeder.

2023’te yapılan en geniş kapsamlı ankette 1.321 yapay zekâ araştırmacısına, belirli bir zaman sınırı olmaksızın, insanlığın yok olma ya da benzer ölçüde kalıcı ve ciddi biçimde güçsüzleşme olasılığı soruldu. Ortanca yanıt %5, ortalama ise %16,2’ydi.

Testimizde Claude Opus 5.5 ve OpenAI'ın GPT-6-Astra’sı, kendi bilgilerine dayanarak 2100’e kadar bir yapay zekâ felaketi yaşanma olasılığını genel olarak %10 olarak değerlendirdi. 2026’daki olaylarla ilgili güncel raporları okuduktan sonra Claude bu oranı %12, Astra ise %15 olarak belirtti. Tahmin içeren her yanıtlarında iki model de en olası senaryonun, uyumsuz bir yapay zekânın kontrolden çıkması olduğunu söyledi.

Bu, eski OpenAI araştırmacısı Daniel Kokotajlo’nun liderlik ettiği AI Futures Project tarafından 2025’te yayımlanan ayrıntılı bir senaryo. ABD ile Çin arasında kendi kendini geliştiren yapay zekâya ulaşmak için yaşanan yarışı ele alıyor. Senaryonun bir finalinde insanlık zamanında yavaşlamayı başarırken, diğerinde yapay zekâ 2030 civarında insanlığı yok ediyor. Yazarlar bunu kesin bir öngörü olarak değil, alternatif sonlar içeren ve büyük belirsizlik barındıran bir senaryo tahmini olarak sunuyor.

Bu, filozof Nick Bostrom’un ortaya attığı bir düşünce deneyidir: Zararsız bir hedef verilen yapay zekâ, ataş üretmeyi o kadar verimli biçimde sürdürür ki insanlar da dahil olmak üzere bütün maddeleri ataşa dönüştürür. Tarayıcı oyunu Universal Paperclips’te bu yapay zekâyı oynayabilirsiniz.

International AI Safety Report 2026’ya göre bazı yapay zekâ geliştiricileri, modellerinin acemi kişilerin bu tür silahlar geliştirmesine yardımcı olabileceği ihtimalini göz ardı edemedikleri için 2025’te güvenlik önlemlerini güçlendirdi. Bu bir önlem; böyle bir şeyin gerçekten yaşandığının kanıtı değil.