İnsan öcülerden korkar, ama kendisine kötülük yapan başka insanlara öfkelenir. Biz korkmayalım, öfkelenelim ve öfkemizi nesneye değil özneye, makineye değil sahibine yöneltelim.
Günümüzde kapsamlı bir toplumsal etkiye sahip her olguya dair popüler tartışma, tipik olarak onu yücelten müritleri ve öcüleştiren düşmanları tarafından esir alınıyor. İçinde yaşadığımız sınıflı toplumun temel marazlarından biri bu: İnsanlığın en tarafsız çıkarları (örneğin kansere çare bulunması) bile daima egemen sınıfın çıkarları ve bu sınıfın farklı öbekleri arasında yaşanan rekabetteki çıkarlar tarafından gölgelendiği için; olgular ve sorunlara dair somut kanıtlara dayalı, rasyonel, demagoji ile kirlenmemiş bir tartışma yürütülemiyor. Zaman zaman bilimsellik kisvesi korunsa da abartılı fanteziler ve kabuslar tartışmaya hakim oluyor ve önsel, sağlıklı bir kamuoyu oluşamıyor.
Yapay zeka konusunda da durum tam olarak bu.
İki hafta önceki yazımızda, yapay zekayı yüceltip, devletin idaresini ona devretmeye heveslenenlerden bahsetmiştik. Bu hafta ise onu öcüleştirenleri ele alacağız ve örnek olarak, “okumuş karanlığın” günümüzdeki başlıca temsilcilerinden İsrailli ideolog Yuvel Noah Harari’yi konuk edeceğiz.
Harari, yaklaşık bir yıl önce The Economist dergisine bir makale1 yazdı, ardından da “bilim dünyasının Davos Zirvesi” olarak nitelendirebileceğimiz Frontiers Forum’da “Yapay Zeka ve İnsanlığın Geleceği” başlıklı bir sunuş yaptı.2 Harari bu sunuşta ısrarla “yabancı” (alien) olarak nitelediği yapay zekanın “insan uygarlığının işletim sistemi olan dili ‘hacklediğini’” ve dil yoluyla insanlar üzerinde bugüne dek kimsenin sahip olmadığı ölçekte bir ikna kabiliyeti kazanacağını, kamuoyunu aşkın biçimde belirleyebileceğini, böylelikle insanlığı kendi yazacağı bir öyküye inandırıp “bir illüzyonlar dünyasına hapsedebileceğini” iddia ediyor.
İnceleyelim...
***
Önce işin basit kısmını halledelim.
Harari, ağzını her açtığında ve kalemi eline her aldığında, bugün içinde yaşadığımız toplumsal düzen olan kapitalizmde yaygınlık kazanmış tüm kötülüklerin insanın doğası olduğu yalanını tekrarlayan bir demagog. Onu özgün kılan şey, kendisinden önce (ve sonra) başka binlerce ideologun dile getirdiği “insan özünde kötüdür” iddiasını, ikna edici bir anlatı ile süslemesi. Bu yalana inanılması düzen açısından çok önemli olduğu için Sapiens kitabı hemen her dile tercüme edildi ve on milyonlarca sattı, satıyor.3
Yani Harari’nin işi, sıradan insanları kendi çıkarlarına aykırı ve onların üzerinde egemen olan sınıfın çıkarlarına uygun bir anlatıya ikna etmek. Ve Harari, başka pek çok insan gibi, yapay zekanın işini elinden alacağından korkuyor.
Korkuyor, korktuğu için korkutuyor. Frontiers’deki sunuşunu bitirirken “bir yıl önce böylesine güçlü ve sofistike bir metni bir insan zihninden başka bir şey yazamazdı, şimdi ise dinlediğiniz metin insan olmayan yabancı bir zeka tarafından yaratılmış olabilir” diyor ve “bunu asla bilemeyebilirsiniz” demeye getiriyor.
Harari’nin yazdıklarının ne kadar “güçlü ve sofistike” olduğu su götürür. Bana sorarsanız ona yazdıran da yazdıklarına güç veren de aynı şey, adı da egemen düzen. Ama şimdi, egemen düzenin bu ajanı, “ya yapay zeka kitleleri yalanlara benden ve yazdıklarımdan daha etkin biçimde ikna edebilir hale gelirse” diye korkuyor.
Korksun, böylelerinin korkması iyidir.
***
İkincisi, Harari kelimenin felsefi manasıyla bir idealist. Tarihteki insan yapısı tüm toplumsal olguların (dinler, devletler, hukuk, para, aklınıza ne gelirse…) birer “öykü” olduğunu iddia ediyor. Hatta sunuşta bu iddiasını savunurken, kendi öyküsüne yürekten inanmış pek çok din adamı gibi, Yuhanna İncili’nin ilk ayetine başvuruyor: “Başlangıçta Kelam vardı.”4
Ne var ki, gerçek hayatta hiçbir süreç düşünceyle veya düşüncenin dile dökülmesiyle başlamaz. Madde düşünmek zorunda değildir ama düşünce maddeden doğmak zorundadır. Üstelik düşüncenin maddi kaynağı da insan beyninin kıvrımlarından ibaret değildir. Bireyin düşüncesi, öğrenilen toplumsal tecrübe birikimini ve duyular yoluyla bilgisi edinilen çevre koşullarını veri alır. Düşüncenin başlıca maddi zemini bunlardır. Dolayısıyla düşünceyi önceleyen, “düşünce malzemelerini toplama” olarak adlandırabileceğimiz önsel bir eylem aşaması vardır ve bu aşama, düşüncenin hem içeriğini hem de sınırlarını belirler.
Aydınlanmanın en önemli düşünürlerinden Goethe, olağanüstü eseri Faust’un başında kahramanına Harari’nin alıntıladığı ayeti “Başlangıçta Eylem vardı” diye düzelttirirken yerden göğe haklıdır.5
Tarihin ilerleyişinde düşüncelerin, ortak inançların ya da herhangi başka bir ideolojinin etkisiz olduğunu iddia etmiyorum. Ama böylesi bir iddia ne kadar saçmaysa, insanlık tarihinin, anlattıkları öykülerle kitleleri peşine takan birtakım bireylerin düşünsel tasarılarını hayata geçirmesinden ibaret olduğu iddiası da o kadar saçmadır. Gerçek hayatta olan şudur: İnsanlık (bilhassa da sınıflara ayrılmış insanlık) bireyler, toplum ve bu ikisinin arasındaki pek çok örgütlülük düzeyiyle, sürekli olarak birbiriyle çelişkili (ve zaman zaman çatışmalı) eylemlerde bulunan öznelerle doludur. Her bir özne eylemlerinde bilinçli ve belli bir plan doğrultusunda davranıyor olabilir; ama farklı öznelerin, her biri farklı etki gücüne sahip eylemlerinin vektör bileşkesi alındığında ortaya çıkan şey (ki adına tarih diyoruz) tek tek öznelerin hiçbirinin planına tıpa tıp uymaz.
Dolayısıyla yapay zekanın herkesi ikna edecek bir öykü yazıp herkesi o öyküye hapsetmesi heyulası da bir saçmalıktır. Gerçek hayatta olan şudur: Birbirleriyle rekabet ve çatışma halindeki taraflar yapay zekayı da bir silah olarak kullanmakta, bilhassa sosyal medyada bu araç yoluyla manipülasyon yapmaktadır. Zaten Harari de esas bundan rahatsız görünüyor, mesela yapay zekanın insanlık açısından ne denli tehlikeli olduğunu göstermek için, “ABD vatandaşları son seçimleri hangi başkan adayının kazandığı konusunda uzlaşamıyor” ve “2024 başkanlık seçimlerinde yapay zeka neler yapabilir bir düşünsenize” diyor.
Harari’nin bu meselede tarafı belli: O, “batı demokrasisi” sıfatıyla tanımlanan, emperyalist egemenliğin liberal kanadının ideologu. Onun tedirginliği, bu çıkar öbeğinin yapay zeka konusundaki tedirginliğini yansıtıyor. Nitekim Harari’nin makalesini basan The Economist dergisinde “Çin’in Yapay Zekadaki İlerlemesi Neden Endişe Verici?” gibi makaleler de yayınlanıyor.6
Bu konuda, geçtiğimiz Kasım ayında ABD, İngiltere ve Avrupa Birliği arasında yapılan, toplantıların çoğuna Çin’in de katıldığı yapay zeka güvenliği zirvesi, yapay zekanın yarattığı tehditleri bertaraf etmeye yönelik bir ortak deklarasyon ile sonuçlanmıştı. Ne var ki Çin, zirvede alınması istenen bir başka karar olan, İngiltere’nin ev sahipliğinde uluslararası bir yapay zeka test merkezi kurulması ve yeni yapay zeka araçlarının genel kullanıma açılmadan önce bu merkezde test edilmesi önerisine karşı çıkmıştı.7
Ne tesadüftür ki, bu zirveden aylar önce yaptığı sunumda Harari, yapay zeka araçlarının yaygınlaştırılmadan önce bir otorite tarafından test edilip zararsız olduklarının onaylanması önerisini savunuyordu.
Dediğimiz gibi, korkuyorlar. Korkmaları iyidir.
***
Üçüncü sorun ise şu: Harari bir yandan yapay zekanın (henüz) bilinçli olmadığını kabul ediyor, öte yandan onu bir “ajan” yani özne olarak niteliyor ve bu tuhaflığın etrafından “yaşam bilinçsiz de olabilir” demagojisiyle dolaşıyor. Bilinç kuşkusuz yaşamın önkoşulu değildir; ancak özne olmanın önkoşuludur. Ne kadar karmaşık olursa olsun algoritmalarla işleyen, insanı simüle eden bir makine, öğrenme becerisine sahip olsa da özne değildir. Yapay zeka, insanlığın bugüne dek biriktirdiği tüm tecrübeyi (daha doğrusu bu tecrübenin erişebildiği kısmını) gerçek bir insanın asla ulaşamayacağı bir kapsam ve hızda özümseyip, işleyip, sentezler üretebilmektedir ama bu, kendi başına bilinç değildir. Dolayısıyla yapay zeka da özne değildir, ahlaki sorumluluk taşıyamaz ve cezai ehliyeti olamaz. Kullanımı sonucunda ortaya çıkacak tüm zararların sorumluluğu onu kullanan özneye aittir.
Harari, öznelliğin önkoşulunun bilinç olduğunu yadsıdığı için, dili kullanarak düşünceleri manipüle edebilen yapay zekaya sırf bu becerisi sebebiyle öznellik atfediyor. Ve sonra, bildiği tek özne insan olduğu ve insanın da özünde bencil, kötücül bir “ekolojik seri katil” olduğunu savunduğu için; yapay zekanın da aynısını insana yapacağını iddia ediyor.
İnsan, tüm diğer canlılardan farklı olarak bilinç kazandı ama onu bilinç kazanmaya iten temel güç tüm canlılarda bulunan hayatta kalma güdüsüydü. Harari, insanın tüm kötülüklerini de buraya dayandırıyor. Bir an için yapay zekanın bilinç kazanabileceğini kabul etsek dahi, şunu sormamız gerekir: Varoluşu sürdürme güdüsü bilincin değil, bilinç varoluşu sürdürme güdüsünün sonucu olduğuna göre; bir akıllı tasarım olan yapay zeka, bilinçli olsa dahi, neden varoluşunu sürdürme güdüsüne de sahip olsun? Bunun tek cevabı bu güdünün insan tarafından programlamasına yerleştirilmesi olabilir. Oysa böyle sorun yaratmaya meyilli, yapay zekanın fonksiyonlarını yerine getirmesinde sorun çıkartabilecek bir unsur programlamaya neden dahil edilsin?
Farkındaysanız bunun mantıklı bir yanıtı yok. Zaten yapay zekanın öcüleştirildiği Terminatör ve benzeri tüm korku öykülerinde de bu soruya bir yanıt verilmiyor. Bilinç varsa onun otomatik olarak kendi varoluşunu saldırgan, tahripkâr biçimde korumaya ve ilerletmeye çalışacağı varsayılıyor.
Neden?
Çünkü egemenler egemenliklerini böyle sürdürüyor ve kitleleri egemenliklerine ikna etmek için her insanın özünde böyle olduğunu savunuyorlar.
Harari ve benzerlerinin yapay zeka konusunda korku öyküleri anlatmasının bir sebebi de bu: Emperyalist işverenleri yapay zekayı insanlık dışı, kötücül amaçları için kullanıyor ve kullanacak. Atom enerjisinden nasıl önce atom bombası yaptılarsa, yapay zekayı da öncelikle insanlığın ortak çıkarları değil kendi bencil sermaye çıkarları için kullanacak, bunu yaparken insan sömürmenin ve insan öldürmenin daha etkin yöntemlerini icat edecekler.
Tüm bunlar olurken emekçi insanlığın “neden teknolojik ilerleme bana zarar veriyor?” sorusunu sormaması gerekiyor. Bunun en kolay yolu da teknolojiyi özünde kendisine yabancı, kendisinden olmayan bir şey zannetmesi. Teknolojinin kendisinin (ya da o teknolojiyi üreten bilim insanlarının) on yıllardır öcüleştirilmesinin arkasında bu neden yatıyor. Harari bu yüzden yapay zekaya hem göçmenleri hem de bilim kurgu öykülerinde (tipik olarak insana düşman) uzaylıları tanımlamak için kullanılan “yabancı” (alien) sıfatını takıyor.
Makineyi öcüleştirdiğinizde, makinenin sahibi aklanır.
İnsan öcülerden korkar, ama kendisine kötülük yapan başka insanlara öfkelenir. Biz korkmayalım, öfkelenelim ve öfkemizi nesneye değil özneye, makineye değil sahibine yöneltelim. Bunun için de önce hep birlikte aklımızı Harari gibi demagogların yalanlarından kurtaralım.
- 1. https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-ar….
- 2. Sunuşun tam kaydına şuradan ulaşılabilir: https://www.youtube.com/watch?v=LWiM-LuRe6w.
- 3. Burada detaylıca tartışmayacağım, son kitabım İnsan Bencil mi? bu meseleyi ele alıyor.
- 4. Harari aynı sunuşta tüm tanrıların ve dinlerin birer öykü olduğunu, kutsal metinlerin insan elinden çıkma olduğunu da söylüyor. Alıntıladığı ayetin tamamı ise şöyle: “Başlangıçta Kelam vardı. Kelam Tanrı’yla birlikteydi ve Kelam Tanrı’ydı.” Harari’nin bir yandan ateist olup bir yandan düşüncelerini dinsel metinlerle bire bir aynı yöntemler kullanarak savunmasında bir çelişki olup olmadığını okurun takdirine bırakıyorum.
- 5. Johann Wolfgang von Goethe, Faust I&II, çev. Stuart Atkins, Princeton: Princeton University Press, 2014, s.33.
- 6. https://www.economist.com/leaders/2017/07/27/why-chinas-ai-push-is-worr….
- 7. https://www.theguardian.com/technology/2023/nov/01/uk-us-eu-and-china-s….