Bu yazı Nick Couldry’nin 12 Kasım 2026’da Jacobin’de yayımlanan “The Real AI Misalignment Problem Is Capitalism” başlıklı yazısından çevrilmiştir.
En büyük yapay zeka şirketlerinin yöneticileri öncü modellerinin kontrolden çıktığını söyleyip duruyorlar. Bu aslında büyük teknoloji firmalarının kabul etmekte zorlandıkları bir problemi işaret ediyor: yalnızca kar hırsıyla hareket eden yırtıcı bir hesaplama gücünün yükselmesi.
Geçtiğimiz Eylül’de manşetlerde yapay zekâya ilişkin bazı teknik bazı meseleler, daha doğrusu bunların doğurduğu sonuçlar vardı. Bunun nedeni, OpenAI’nin Güvenlik Sorumlusu David Robinson ve Anthropic’te geliştirici olan Jacob Coxon olmak üzere öncü yapay zeka modellerinin geliştirilmesine öncülük eden şirketlerin iki istifasında yatıyordu. İstifa ettiler çünkü artık şirketlerin öncü modellerinin son “ilerlemelerinin” insanlığın hayatta kalması için yarattığı riskleri ciddiye almadığını düşünüyorlardı. Yani, mesele sadece çoğumuzun “teknik sorun” dediği şey değil.
Bu korkular temelsiz de değil, önemli bir argümana dayanıyorlar. OpenAI’ın baş bilimcisi Jakub Pachocki tarafından 6 Eylül’de yazılan blog yazısı önemli bir örnek ve daha yakından bakılmayı hak ediyor.
Blog yazısında dile getirilen endişelerden biri, öncü yapay zekâ modellerinin “özyinelemeli kendini geliştirme” (recursive self-improvement, RSI) aşamasının eşiğinde olmasıydı. Bu, modellerin gelecekte kendilerini geliştirme süreçlerinin kontrolünü özerk biçimde ele geçirebilmesi anlamına geliyor. Böyle bir durumda insanlar, ileri yapay zekânın gelişiminin hangi yöne gideceği üzerindeki bütün kontrollerini çok kısa sürede kaybedebilir. Üstelik bu gelişim, hesaplama gücünün başlı başına insan yaşamını tehdit edebilecek ölçüde yoğunlaşmasını da içerebilir.
Bir başka endişe ise belki daha da ürkütücü. Çünkü gelecekte yapay zekânın geliştirilmesine ilişkin bugün hangi kararlar alınırsa alınsın, bu tehlike geleceğimize şimdiden işlemiş durumda. Büyük teknoloji şirketleri, mevcut modellerinin ki RSI’ye sahip olmayanlar da dahil en başta tasarlandıkları değerlere göre mi yoksa insanlığın çıkarlarına hiçbir şekilde hizmet etmeyen bambaşka değerlere göre mi hizalandığını değerlendirme yeteneklerini hızla kaybediyor.
Bu ikinci endişenin nedeni teknik bir mesele gibi görünüyor. Pachocki’nin açıkladığı üzere OpenAI, bugüne kadar bir modelin ne yaptığını ve hangi değerlerle çalıştığını değerlendirmek için modelin “düşünce zinciri” (chain-of-thought, CoT) adı verilen akıl yürütme sürecini inceliyordu. Ancak Pachocki, şu uyarıda bulunuyor: “Ne yazık ki değerlendirmelerimiz, düşünce zincirini izlemeye giderek daha az güvenebileceğimizi gösteriyor.” Peki neden? Çünkü teknolojinin en öncü yapay zekâ modelleri, gerçekte ne yaptıklarını ve işlem süreçlerine gerçekte hangi değerlerin yön verdiğini ‘gizlemekte’ giderek ustalaşıyor. Ya da en azından bunları düşünce zincirlerinde açığa vurmamayı daha iyi başarıyor.
Neyse ki OpenAI’nin en yeni modeli söz konusu olduğunda, Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsündeki araştırmacılar, modelin nasıl kontrol dışına çıktığına ilişkin alternatif kanıtlar bulabildi. Ancak mesele teknik ayrıntıların çok ötesine geçiyor. Basitçe ifade etmek gerekirse OpenAI, artık bize söylediği herhangi bir şeye duyduğumuz güveni sarsacak kadar akıllı bir makine geliştirmiş durumda. Çünkü Pachocki’nin ifadesiyle yapay zekâ, “kendi akıl yürütme sürecini manipüle etmekte” giderek daha iyi hâle geliyor.
Makul bir dünyada bu durum, yalnızca yapay zekâ alanındaki daha ileri gelişmeleri, yani özyinelemeli kendini geliştirmeye yönelik yarışı durdurmak için değil, mevcut geliştirme çalışmalarına da son vermek için yeterli bir neden olmalıydı. Çünkü artık bu sistemleri insanların ihtiyaç ve istekleriyle güvenilir biçimde hizalayamıyoruz. Pachocki’nin soğukkanlılıkla belirttiği gibi, “ ‘genellenebilir hizalama’ (generalizable alignment) alanındaki ilerleme, genel model zekâsındaki teknolojik ilerlemenin yeterince önüne geçemeyebilir.” Böyle bir durumda buna bilimsel, hatta ticari bir ‘ilerleme’ denilebilir mi? Buna rağmen Pachocki, blog yazısında yapay zekânın geliştirilmesinin durdurulması çağrısında bulunmadı. Yalnızca, Anthropic’ten Dario Amodei’nin de kullandığı ifadeleri tekrarlayarak özyinelemeli kendini geliştirmenin “kontrollü bir tempoyla ilerletilmesi” gerektiğini önerdi. Bunun gerekçesi ise ekonomik rekabet gücüydü. Pachocki’nin yazdığına göre özyinelemeli kendini geliştirme, “yapay zekânın en ileri sınırında kalabilmenin tek yolu.”
OpenAI, üç hafta sonra, kamuoyundaki tartışmalar sürerken piyasaya sürülmesi planlanan GPT-6.1 Astra modelini şimdilik erteleme aldı. Ancak rahat bir nefes almakla yetinmek veya Anthropic’in gündeme gelen 2 trilyon dolarlık halka arzının arifesinde olduğu gibi, baskının çok daha yoğunlaşacağı koşullarda da benzer sağduyulu kararların alınmasını ummak yerine şu soruyu sormak daha yerinde olacaktır: OpenAI’nin baş bilim insanının akıl yürütme biçimi, hangi hastalığın belirtisidir?
Bu hastalık kapitalizmdir. Daha doğrusu, olağanüstü güçlü hesaplama kapasitesinin neredeyse yalnızca ekonomik amaçlara yani şirket kârlarına, ulusal ekonomik rekabete ve soyut verimliliğe hizmet etmek üzere geliştirildiği koşullarda, insan yaşamının geniş kapsamlı amaçlarıyla, (varlığını sürdürme gibi en temel amacı da dâhil olmak üzere), ‘derin bir hizadan çıkmanın’ kaçınılmaz hâle gelmesidir.Büyük teknoloji şirketlerinin açıkça tartışamadığı asıl ‘hizadan çıkma sorunu’ (misalignment problem) budur: Her zaman kârı azami düzeye çıkarmaya odaklanan teknolojik güç istenci ile insanların katlanılabilir bir yaşam sürmesi arasındaki çatışma. Toplumlar olarak bu çatışmayla yüzleşmezsek yapay zekânın insanlığın geleceğini sömüren bir güce dönüşmesini kaçınılmaz hâle getiririz.
Bu, günümüzün ticari amaçlarla geliştirilen yapay zekâsının insan yaşamını sömüren bir nitelik kazanmasının yalnızca en çarpıcı biçimidir. Bunun dışında son derece önemli üç biçim daha bulunuyor.
Bunlardan ilki en açık olanı: Yapay zekâ, modellerini eğitmek için insan üretimi içerikleri, bunların neredeyse tamamını girdi olarak kullanarak insan yaşamını sömürüyor. Bu “veri gaspı” neredeyse en başından beri açıkça görülüyordu. Kültür endüstrileriyle telif hakları ve tazminat konusunda yaşanan hukuki anlaşmazlıklar da hala devam ediyor. Bu arada veri gaspının başka biçimleri de ortaya çıktı: Yapay zekânın ilk dönemdeki işleyişini geliştirmek için Küresel Güney’deki işçilerin sömürülmesi ve daha yakın zamanda, bir zamanlar ayrıcalıklı konumda bulunan ancak bugün güvencesizleşen uzman meslek sahiplerinin, uzmanlaşmış yapay zekâ sistemlerine örneğin tıbbi akıl yürütmenin nasıl işlediğini kelimenin tam anlamıyla göstermeye teşvik edilmesi. Bu sonuncu iş, yapay zekâ eğitilene kadar iyi kazandırabilir. Ancak eğitim tamamlandığında, bu süreçte kullanılan insan uzmanlığına artık ihtiyaç kalmayacak.
Yapay zekâ, ikinci ve daha incelikli bir biçimde de şöyle insan yaşamını sömürüyor: Yapay zekâya komut vermekte (prompting) ustalaştıkça ve dünyaya ilişkin sorularımızı, tahmine dayalı metin üreten makinelerin yanıtlayabileceği biçimlerde yeniden kurmaya başladıkça düşünme ve hayal kurma alışkanlıklarımızı şekillendiriyor.
Üçüncü bir biçim ise şu: Sömürücü ticari yapay zekâ, zaman içinde zekânın ne olduğuna ilişkin kavrayışımızı değiştirerek insan zihnini ele geçirme tehdidi oluşturuyor. Yapay zekânın bedensiz zekâsının ürettiği çıktılara giderek daha fazla değer verirken kendi bedene dayalı zekâmızı ve diğer hissedebilen canlıların zekâsını da giderek daha az değerli görüyoruz. Zihnin bu üçüncü biçimde ele geçirilmesinin ardında, René Descartes’a kadar uzanan derin bir felsefi hata yatıyor. Dolayısıyla insan zihninin şirketler tarafından ele geçirilmesine direnmek, bugün büyük teknoloji şirketlerinde moda olan felsefi dilden farklı bir dil geliştirmemizi gerektiriyor.
Ancak şimdilik karşı karşıya olduğumuz sorun çok daha acil. Bu mesele, işverenlerinin yaptığı tehlikeli tavizleri ortaya çıkarmak uğruna maaşlarından vazgeçmeyi göze alan büyük teknoloji şirketlerindeki birkaç cesur çalışana kesinlikle bırakılamaz.
Her işyerindeki kadrolu ve serbest çalışanlardan oluşan her ağın, kendilerine ticari amaçlarla dayatılan yapay zekâya hayır deme iradesini ortaya koyması gerekiyor. Sonuçta yapay zekânın topluma böylesine hızlı ve neredeyse hiçbir danışma süreci işletilmeden dayatılmasının nedeni açık: Büyük teknoloji şirketleri, ürünleri yaygın ve kapsamlı biçimde benimsenmedikçe başlangıçta yaptıkları devasa yatırımları asla geri kazanamayacak ve düzenli kâr elde etmeye başlayamayacak.
Ticari yapay zekânın benimsenmesine ciddi biçimde direnilmeye başlandığında, Evgeny Morozov’un savunduğu gibi, ‘farklı bir yapay zekâ geleceği’ mümkün hâle gelir. Bu, toplulukların yapay zekâyı bütünüyle reddetmek yerine bir araya gelerek onu hangi toplumsal amaçlar doğrultusunda, hangi koşullarda, ne zaman ve nerede kullanmak istediklerine kendilerinin karar verdiği bir gelecek olacaktır. Elbette çalışanların, yapay zekânın benimsenme sürecinin yönünü belirleyecek böyle bir güce sahip olabilmesi için çalışma yaşamındaki kurumların bugünkü işleyişinde de bazı köklü değişiklikler yapılması gerekecek.
Ama belki de bunu fark etmek, kapitalizmin bugün yapay zekâyı içine hapsettiği onulmaz çelişkinin daha geniş ölçekte kavranmasının başlangıcıdır. Kesin olan şu ki radikal alternatifler hayal etme cesaretini gösteremezsek yapay zekâ çağının geleceği karanlık görünüyor.



