Yapay zekâ şirketi Anthropic’in bir çalışanı, geçtiğimiz hafta bir istifa mektubu yayınladı ve hem başka bir yapay zekâ şirketi olan Open AI’ı hem de Anthropic’i işaret ederek "bugün Anthropic'ten istifa ettim. İki şirket de sorumlu davranmıyor. Doğrudan 'kendi kendini geliştiren süper zekâya' doğru koşuyorlar ve hepimizin hayatıyla kumar oynuyorlar" dedi. Mektubun daha çarpıcı olan kısmı ise yapay zekânın insanlığın sonunu getirebileceğine dair şu satırlardı: 

"Yapay zekâyı inşa eden insanlar, bu teknolojinin bu on yılın sonuna kadar hepimizi öldürebileceğine gerçekten, tüm samimiyetleriyle inanıyorlar. Başka hiçbir insan faaliyeti bu düzeyde bir tehlike barındırmıyor. (…) İş arkadaşlarımdan kelimesi kelimesine duyduğum şeyler var. Önümüzdeki 1-2 yılın insanlık için 'hasat zamanı/kritik dönem' ya da 'son oyun’ olduğunu söylüyorlar.”

Bu açıklamanın hemen ardından Anthropic CEO’su Dario Amadei’nin açıklaması geldi ve Amadei, mektubu teyit edecek bir şekilde yapay zekânın yaklaşık bir yıl içerisinde bütün interneti ele geçirebileceğini, önümüzdeki on yıl içerisinde bütünüyle kontrolden çıkıp insanlığın sonunu getirebilme ihtimalinin ise yüzde 10’dan fazla olduğunu söyledi. 

Amadei tüm bunların ardından giderek oligarşik bir niteliğe kavuşan dev teknoloji şirketlerinden beklenmeyecek bir çözüm önerisi sundu, bu öneri ise “yavaşlama” idi; yani teknoloji şirketlerinin yapay zekâyı bu kadar hızlı bir şekilde geliştirmesi yerine denetimlere açık olunmalı, birtakım standartlara gidilmeli, yasal düzenlemeler yapılmalı ve devletler arasında bir koordinasyon kurulmalıydı. Amadei’nin bu çağrısına diğer şirketlerden hızlıca gelen yanıt da açıkçası beklenmedikti; Elon Musk ve Open AI’ın sahibi Sam Altman, Amadei’ye destek verdi, çeşitli şirketlerden 1300 çalışan da “yavaşlama” yanlısı bir bildiriye imza attı.

Sürecin neden bu kadar hızlı geliştiğini, bu “yavaşlama” çağrısının gerisinde ne olduğunu, sahiden insanlığın yok oluşuna dair bir kaygının mı yoksa teknik, mali, ekonomik birtakım kaygıların mı ağır bastığını henüz bilmiyoruz. En akla yatkın açıklamalardan biri ise hedefin Çin’in hızını durdurmak olduğu. Sahiden de nasıl ki Batı doğayı mahvedip bütün insanlığı ekolojik bir krizin eşiğine getirdikten sonra Çin’in sanayileşmesini durdurmak adına karbon salınımını azaltma çağrısı yaptıysa, bu çağrı da benzer bir amaç taşıyor olabilir.

Meselenin ne olduğu elbette ki anlaşılacaktır; bizi bu yazı bağlamında ilgilendiren şey ise yapay zekânın insanlığın sonunu getirebileceğine dair açıklamaların, sanki bugün yapay zekâ insanlığa karşı kullanılmıyormuş, çoktan ölüm siyasetinin teknolojisi haline getirilmemiş ve küresel savaş makinesine entegre edilmemiş gibi yapılıyor olması. Oysa ordular yapay zekâyı çoktan makinenin bir parçası yaptılar ve onu insanlığa karşı ve kendilerini de insanlıktan çıkaracak bir şekilde, en distopik yöntemlerle zaten kullanıyorlar. Bunun baş adresi ise distopya için adeta bir laboratuvar haline getirilen Filistin ve Gazze elbette.

***

Anthropic çalışanının mektubunun yayınlandığı günlerde, “NAZA” adlı bir belgesel Venedik Film Festivali’nde Jüri Özel Ödülü’nü aldı. Belgeseli yazan ve yöneten Yuval Abraham ile Rachel Szor İsrail vatandaşıydı ve ikili tıpkı bir önceki filmleri “Başka Bir Toprak Yok”ta olduğu gibi bu filmde de yine İsrail’in Filistin işgalini ve Filistin topraklarındaki zulüm politikalarını anlatmışlardı; filmin odağında ise bu sefer “yapay zekâ” vardı. 

Film henüz Türkiye’de gösterime girmedi, ancak anlattığı hikâyeyi bilmek için filmi izlemeye gerek yok. Filmin adı olan “NAZA” IDF’nin, yani İsrail ordusunun kullandığı bir terim ve “sivil zayiat” anlamına geliyor. Kuşkusuz her savaşta sivil zayiat olur ve bu da orduların gündem başlıklarından biridir; ancak buradaki “sivil zayiat” yapay zekânın kullanıldığı saldırılardaki “sivil zayiat”a ve tespit edilen hedefin vurulması esnasında ne kadarlık bir sivil kaybının göze alınabileceğine işaret ediyor; zaten belgesel de bunu anlatıyor.

İsrail, Gazze’de yaşayan 2,5 milyon insanın bütün verilerini, yani yaşlarını, cinsiyetlerini, beden ölçülerini, yüzlerini, parmak ve ayak izlerini, mesleklerini, hangi aileden olduklarını, oturdukları evi, sokağı, mahalleyi, görüştükleri kişileri bilgi olarak toplayan ve bunları veri olarak işleyen Lavander adlı devasa bir yapay zekâ sistemine sahiptir. Fiziki takip yöntemleriyle, uydu ve İHA görüntüleriyle, kameralarla,  izlenen mail yazışmalarıyla, dinlenen telefonlarla, takip edilen sosyal medya profilleriyle kişilerin bilgilerine ulaşılır ve hepsi taranarak veriye dönüştürülür. 

Bu verilerden yola çıkılarak her Filistinliye 0’dan 100’e kadar puan verilir, puan arttıkça “terörist” ve dolayısıyla hedef olarak işaretlenme ihtimaliniz de artar; sistem bütün Gazze’yi tarar ama esas hedef kitle HAMAS’ın potansiyel militan kadrosunu oluşturan genç erkeklerdir. Puanı belirleyen şey ise kişinin hareketleri, davranışları, sık gittiği yerler, yüz yüze görüştüğü ya da telefon veya bilgisayar üzerinden iletişim kurduğu kişiler ve gruplardır. “Terörist” olmanın eşik değeri, yani kaç puanınız olduğunda terörist sayılacağınız ise savaş koşulları tarafından belirlenir; komutanlar tehdit algısının yüksek olduğu dönemlerde bu değeri aşağı çekerek potansiyel hedef, yani öldürülecek kişi sayısını artırabilirler.

Lavander’e eşlik eden diğer yapay zekâ uygulamasının adı ise Habsora’dır. Lavander kişisel verileri işler ve kişilerin öldürülüp öldürülmeyeceğine karar verirken, Habsora evleri, binaları, dükkânları, depoları, altyapı tesislerini tarar ve buradan HAMAS’a ait hedefleri tespit etmeye çalışır. Böylece düzenlenecek saldırıların ve yapılacak bombardımanların koordinatları çıkartılır. İsrailli eski bir genelkurmay başkanı Habsora’dan önce İsrail ordusunun yılda sadece 50 hedef belirleyebildiğini, yapay zekânın devreye girmesinin ardından ise sadece bir günde yüzlerce hedefin tespit edilebildiğini söylemiştir.   

Hem Lavender hem Habsora, sözcük itibariyle dinsel kökenlidir ve Yahudiliğe göndermede bulunur; Lavender “arındırma”ya işaret ederken, Habsora ise “müjde” anlamını taşır. Buradan yola çıkarak Lavender ve Habsora’nın Gazze’nin Filistinlilerden arındırılmasının müjdecileri olduğu gibi bir sonuca varmak yanlış olmayacaktır. Bu ikisine bir de “Where is Daddy?” (Babam Nerede?) isimli bir sistem entegre edilmiştir. Bu sistem aracılığıyla Lavander tarafından yüksek puanla işaretlenmiş ve öldürülmesine karar verilmiş bir Filistinli erkek, Habsora tarafından tespit edilmiş evine gittiğinde doğrudan hedef alınır ve öldürülür. Çünkü o an, hedefin en korunaksız halde, bir yere kaçma şansının bulunmadığı ve dolayısıyla imha edilme ihtimalinin en yüksek olduğu andır; onunla birlikte ölebilecek olanlar ise önemsizdir, “sivil zayiat”tır.

İşte yukarıda sözünü ettiğimiz filme adını veren “NAZA”, yapay zekâ ile tespit edilmiş hedeflerin vurulması esnasında katledilen sivilleri, sivil zayiatı anlatan bir terimdir. İlk bakışta, hedef belirlemede teknolojinin ve yapay zekânın kullanılmasının askeri hedefleri kesinleştirdiği ve ölü sayısını azalttığı düşünülebilir. Oysa İsrail Gazze’de bir “algoritmik soykırım” yapmaktadır ve beklentinin ya da iddia edilenin tam tersine, yapay zekânın İsrail savaş makinesine entegre edilmesiyle birlikte öldürülen sivil sayısında devasa bir artış olmuştur.

7 Ekim saldırıları sonrası, İsrail Gazze’de tam 37 bin Filistinli erkeği hedef olarak belirlemiş ve suikast listesine almıştır. Bu hedefler vurulurken ise savaş tarihi açısından iki yeni mesele gündeme gelmiştir. Birincisi, yapay zekâ tarafından tespit edilen hedeflerin vurulmasına dair komutanların karar alma süresi hedef başına 20 saniyeye kadar düşmüş, yani bir insanın öldürülmesine karar verilmesi aşırı ölçüde hızlanmıştır; bu da aslında kimin öldürüleceğine fiilen yapay zekânın karar vermesi demektir. İkinci olarak ise öldürülmesi sorun teşkil etmeyecek sivil sayısındaki artıştır. Yapay zekâ tarafından işaretlenen hedefin öldürülmesi esnasında, etrafındaki 15-20 sivilin de öldürülebileceği İsrail ordusu tarafından olağanlaştırılmış, hatta hedefin önemine göre bu sayının 100’e çıkabileceği de kabul edilmiştir. 

Tüm bunlara yapay zekânın yüzde 10’luk yanılma payı eklendiğinde ortaya tarihin en büyük sivil katliamlarından biri çıkmaktadır. 7 Ekim saldırılarından bugüne İsrail tarafından Gazze’de 85 bin civarında insan öldürülmüştür ve bunların yüzde 44’ü çocuk, yüzde 26’sı kadındır, öldürülen kadınların yüzde 95’inin yanında en az bir çocuk da yaşamını yitirmiştir. Tekrar etmek pahasına söyleyelim; İsrail Gazze’de yapay zekâyı askeri hedefleri kesinleştirmek için değil, bir halkın soykırımı için kullanmaktadır ve bu, tarihin ilk “algoritmik soykırımı”dır. Tam da bu nedenle, Gazze yaklaşmakta olan distopyanın laboratuvarıdır. 

***

NAZA’nın, fonetik olarak “Nazi”yi çağrıştırması son derece ironiktir; çünkü bugün Gazze’de bir “algoritmik soykırım” yapanlar, bundan yaklaşık yüz yıl önce Naziler tarafından insanlık tarihinin en büyük soykırımına maruz kalanların torunlarıdır. Nasıl ki Naziler Alman toplumunu Yahudilerden arındırmaya çalışmışlarsa, bugün de İsrail aynısını işgal altındaki Filistin topraklarında Filistin halkına yapmaktadır. Nasıl ki soykırımı bir “ölüm endüstrisi”ne dönüştürmüş ve toplama kamplarını Yahudiler için en yüksek verimin alınacağı birer ölüm fabrikası haline getirmişlerse, İsrail de aynısını bugün devasa bir toplama kampına dönüştürdüğü Gazze’de Filistinlilere yapmaktadır. Toplama kamplarında tek seferde daha çok Yahudi öldürebilme ihtiyacı Nazilere gaz odalarını keşfettirmiş, gaz odaları da soykırımı hızlandırmış ve hatta insansızlaştırmıştı. Yani bir Nazi subayının ya da askerinin tek tek ateş ederek ya da tarayarak Yahudileri öldürmesinin yerini, tek seferde ve tek bir düğmeye basarak yüzlercesinin öldürülebileceği bir mekanizma almıştı. Bugün de Gazze’de yapay zekâ aracılığıyla bir ölüm endüstrisi kurulmuş, ölüm teknoloji aracılığıyla hızlandırılmış ve insansızlaştırılmıştır, tam da bu nedenle Nazi soykırımından İsrail soykırımına uzanan yollar vardır.

Şimdi duralım ve yazının adını oluşturan o soruyu tekrar soralım: “Yapay zekâ insanlığı yok edebilir mi?” Belki de yok etmeye başlamıştır ama insanlık olarak biz henüz farkında değilizdir.