Silikon Vadisi’nde OpenAI draması

Güç kapitalizmin akıl dışı ve anarşik karakterinin sonucu olarak hem siyasette hem de bu şirketlerde yer alan az sayıdaki megaloman manyağın elinde toplanmış durumda.

Eren Korkmaz

Kasım ayının ikinci yarısında Silikon Vadisi’nde OpenAI ve Microsoft etrafında gelişen olaylar gündemde yerini aldı. Elbette bu sadece birkaç şirketin kendi içindeki mücadelesi veya teknoloji-severleri ilgilendiren bir konu değil. Burada krize neden olan OpenAI’ın bir sene önce 30 Kasım’da duyurduğu ChatGPT ile yapay zeka çalışmalarında yeni bir aşamaya geçilmesi ve bunun birçok sektörde ve küresel çapta yıkıcı ve dönüştürücü etkilere neden olmasıydı. Bu nedenle bu kavganın arka planını anlamak da önem kazanıyor.

Ancak önce ne oldu? 17 Kasım günü OpenAI yönetim kurulu sürpriz şekilde meşhur ve popüler CEO'ları Sam Altman’a güvenlerini yitirdiklerini belirttiler ve CEO’yu kovdular. Bu kimilerince bir darbe girişimi olarak tanımlandı. Ardından Microsoft CEO’su Satya Nadella devreye girdi, çünkü son dönemde OpenAI’ın en büyük fon kaynağı ve destekçisi Microsoft’tu ve bu alana ciddi yatırımlar yapıyordu. Nadella, OpenAI’a destek vereceklerini belirtmekle birlikte Sam Altman’ı Microsoft’ta işe aldıklarını ve OpenAI’dan ayrılmak isteyenlerin de Microsoft’ta işlerinin hazır olduğunu duyurdu. Bunun verdiği güvenle OpenAI’da çalışan yaklaşık 750 kişinin neredeyse hepsi ayrılacaklarını bir dilekçe ile belirttiler. Bu da fiilen OpenAI’ın yönetiminin teslim olmasını beraberinde getirdi. Hem en büyük fon desteği veren şirketi hem de tüm çalışanlarını kaybetmek yenilgi anlamına geliyordu. Bunun üzerine 22 Kasım’da Altman yeniden CEO olarak geri geldi ve yönetim değişti. Burada kriz anında “liderlik kabiliyeti” övülen Nadella’nın hiç para ödemeden OpenAI’a el koyduğu aralarında Elon Musk’ın da olduğu bir dizi rakibi tarafından dile getirildi.

Peki bunca gürültü neden koptu, sonrasında ne olabilir ve bizleri yapay zeka alanında neler bekliyor?

Kısaca yapay zeka

Öncelikle genel hatlarıyla yapay zekanın ileri istatistik kurallarını uyguladığını ve işlediği veriler üzerinden en yüksek oranı sonuç olarak ilettiğini belirtebiliriz. Bu nedenle yapay zekanın başarısı üzerinde çalıştığı verinin büyüklüğü ve kalitesi ile doğrudan ilgili. Örneğin her gün milyonlarca insanın birden fazla kez kullandığı harita, müzik veya sosyal medya uygulamaları muazzam bir veri havuzu yaratıyor ve bu sayede YZ algoritması insanları kategorize edebiliyor ve paylaşımlar üzerinden kişiye özel önerilerde bulunabiliyor. Şayet veriler ilgili konuda yetersizse yapay zekanın başarısı ve tahminleri de başarısız olabiliyor. 

Mevcut verileri analiz edip olası en yüksek olasılığı sunmak geleceğe dair tahminlerde bulunmayı sağlıyor. Bu nedenle YZ’nin en önemli özelliği geleceği tahmin etmesi ve tavsiyede bulunması, yani sadece sürecin otomatikleşmesi ile sınırlı değil. Bununla birlikte veriler geçmişe ait veriler olduğu için, (anlık veriler de toplansa o anlar da bir süre sonra geçmiş oluyor), bu durumda geleceğe dair tahminler geçmişte yaşananlar dikkate alınarak, “normal şartlar altında” olması beklenen sonuçlardır ve statükoyu yeniden üretmektedir. Elbette teknik ve bilimsel konularda bu sorun olmayabilir, buna göre hava tahmini yapılabilir. Ancak sosyal ve siyasal konularda, örneğin suçu, isyanları, göçü tahmin etmek gibi konularda spekülatif yanı ağır basıyor, toplumdaki eşitsizlikleri ve adaletsizlikleri yeniden üretiyor ve “bilimsel”, “objektif” kılığında yeniden paketliyor. Artık klişe haline gelse de ABD’de bir beyaz ve bir siyah şüpheli söz konusu olduğunda YZ siyahın suçlu olup hapishaneye gitmesi gerektiğini tahmin ediyor. Çünkü ABD hapishanelerinde siyahların oranı ülke nüfusuna oranla oldukça yüksek. Meseleye salt veri ve istatistik açısından bakınca bu sonucun çıkması normal. Ancak sosyolojik, politik ve sınıfsal açılardan bakıldığında siyahların hapishanelerde daha yoğun olmasında baskı ve sömürü politikalarını görüyoruz.

YZ’nin farklı alt alanları var. Ama bunlar içinde en hızlı gelişen alan OpenAI’ın ChatGPT, Google’ın Bart ve Meta’nın (Facebook) Llama uygulamalarının yer aldığı geniş dil işleme sürecinin ürünleri. Bu da doğal çünkü milyonlarca insan her gün o kadar çok eposta atıyor, sosyal medyada paylaşım yapıyor, yazılar yayınlıyor, siteleri güncelliyor ki ve herhangi bir soruya dair hazırlanan o kadar fazla yazı, kitap, makale, tez var ki, bunlar üzerinden yapay zekayı eğitmek ve YZ’nin sorulara detaylı, mantıklı ve sistematik cevaplar vermesi mümkün oluyor. Bu eğitimden hizmetlere ve sanayiye birçok sektörde ciddi ve ani dönüşümleri beraberinde getiriyor. 

Dolayısıyla yapay zeka çalışmaları belirli alanlarda çok hızlı şekilde ilerliyor ve bir sabah bir şirketin çıkardığı bir ürün tüm insanlığı etkileyecek sonuçlar üretebiliyor. Bu da farklı politik yaklaşımları ortaya çıkarıyor. OpenAI özgülünde karşımıza çıkan da bu yaklaşımların Silikon Vadisi ekosisteminde nasıl üretildiğine dair.

Yapay Genel Zeka, Tekillik ve OpenAI’ın misyonu

OpenAI 2015 yılında aralarında Elon Musk’ın da olduğu bir dizi Silikon Vadisi teknoloji şirketi yöneticisi-patronu tarafından kuruldu. Kar amacı gütmeyen kuruluşun amacı yapay zekanın güvenli şekilde gelişmesini sağlamaktı. Bunu Silikon Vadisinde temsil edilen ve aynı ideolojik kökenlere sahip ama geleceğe yönelik farklı vizyonları olan ekiplerin bir ittifakı olarak tanımlayabiliriz. 

OpenAI güvenli yapay zeka derken arka planda yapay zekanın geleceğine dair bir öngörü var. Bu da bir süre sonra Yapay Genel Zeka’nın (Artificial General Intelligence) ortaya çıkacağıdır. Yapay Genel Zeka insanla aynı düzeyde zekaya sahip olmaya işaret ediyor. Elbette bir kez insanın düzeyine çıktığında bunun bir adım sonrası insandan daha zeki hale gelmesidir. Bugün yapay zeka programları insanların kapasitesinden daha ileri sonuçlar verse de verinin eğitildiği belirli bir alanda uzmanlaşmayı sağlıyor. Bu satranç oyunu olabilir, sosyal medyada öneriler sunma olabilir, bir arabayı kullanmak olabilir. Ama insan gibi her alanda kararlar verebilen bir düzeye gelmesi ayrı bir konu.

Yapay Genel Zekaya ulaşıldıktan sonra dünyanın nasıl bir yer olacağı konusu da ayrı bir mesele ve kendisini futurist olarak tanımlayan birçok kişi buna dair tahminlerde bulunuyor. Burada kilit kavram tekillik (singularity). Buradaki iddia şudur ki yapay zeka insanın bilinçsel kapasitesini geçtiğinde teknoloji öyle bir sıçrama yaratacak ki insanlığa ve bugünkü toplumsal yapıya dair sisteme, kurumlara ve değerlere dair tüm bildiklerimiz anlamsız kalacak, tüm kurallar geçersiz olacak. Artık yeni bir aşamaya ve döneme gireceğiz. Bu da yeni kurumlar ve kurallar ve yeni bir insanlık anlamına gelecek. Aynı sanayi devriminde yaşanan gibi. Sanayi devriminde yaşanan atılım kapitalizmin hakimiyetini sağladı, o döneme kadar hakim olan kurallar, kurumlar ve inançlar bir anda geçmiş oldu, sanayi devrimi sayesinde kapitalizm girdiği her ülkede hakimiyetini dayattı, bu yeni aşamaya geçen ülkeler diğerlerini sömürgeleştirdi. 

Bugün de benzeri bir durum olabilir deniliyor. Yapay zekanın analiz ettiği bilgiler o düzeye gelir ki hem diğer devletlerin hem de insanların ondan habersiz ve ona rağmen iş yapması mümkün olamaz. Bu sadece Silikon Vadisi ile sınırlı değil. Bunları emperyalist kapitalist devletlerin yönelimlerinden bağımsız düşünmek mümkün değil. Bunun bir nedeni Amazon, Google, Meta, IBM, Microsoft gibi şirketlerin ABD devletiyle çok yakın ve iç içe olması, bilhassa askeri, istihbarat, güvenlik alanlarında birlikte hareket etmeleridir (örneğin ABD’nin en büyük askeri şirketi Pentagon’a bulut sistemi sunan Amazon’dur); ikinci nedeni kamudan büyük fonlar almalarıdır (bu sadece YZ alanında değil, Elon Musk’ın uzay çalışmaları da ciddi oranda kamu ve NASA tarafından desteklenmektedir); üçüncü nedeni de zaten sektörlerinde tekel olan bu şirketlerin tüm dünyadan topladıkları veri nedeniyle sahip oldukları gücün devlet yapısından bağımsız durmasının mantıksız olmasıdır. 

Dolayısıyla Britanya’da yapay zekaya dair bir strateji belgesinde bunun bir domine etme, domine olma meselesi olduğu belirtiliyor ve aynı sanayi devrimi döneminde olduğu gibi Britanya’nın bu sürece öncülük etmesi gerektiği vurgulanıyor. “Domine edilmek istemiyorsak domine etmeliyiz, bunun yolu da yapay zekadır” deniliyor.

Burada en büyük korku kaynağı ise Çin. Yani Çin’in yapay genel zekaya ulaşması ve tekilliği kendisinin belirlemesine dair yaşanan kaygı. Yapay zekaya ek olarak kuantum teknolojileri gibi alanlarda da benzeri bir rekabet var ve bunlar zaten birbirlerini besliyor. Yani bir gün Çin çıkıp “teknolojide sıçrama yarattık, artık benim dediğim olacak, bana direnmeniz mümkün değil” diyecek diye korkuluyor. Çin pandemiden önce bir dönem teknolojideki gelişmeleri kamuoyuyla paylaşınca bu korkular depreşmiş ve Çin yeniden sessizliğe çekilmişti. Çin’in sessizliği de ayrı bir korku kaynağı oluyor. Bu da bazen Çin’den Batı’ya teknoloji okumaya gelip ardından ülkesine geri dönenlere tepkiye dahi dönüşüyor.

Saldırgan, tekelci, kuralsız, denetimsiz

Yeniden Silikon Vadisine ve bugünkü tartışmaya dönelim. Silikon Vadisindeki iş modeli olabildiğince hızlı şekilde sektörde liderliğe gelip tekel konumunu ilan etmeyi amaçlıyor. Hatta buna Nazi savaş taktiği olan Blitzscaling adı veriliyor. Yatırımcılardan büyük yatırımlar alıp onlara uzun süre kar payı vermemek ve bu sermayeyle ve saldırgan bir iş planı ile olabildiğince çok sayıda kullanıcıya ulaşmak (örneğin Facebook, Amazon veya Google), ardından pazarı domine etmek, tekel konumuna gelmek ve milyonlarca kullanıcının verdiği veriyle daha güçlü yapay zeka algoritmaları geliştirmek, bunu davranışsal psikoloji ile ve diğer ilgili bilim dalları ile pekiştirmek ve mevcut gücü korumak için manipülasyona başvurmak. Örneğin ayakkabı ararsınız, karşısınıza ayakkabı reklamları çıkar, beğendiğiniz konularda mesajlar ve şarkılar karşınıza çıkar, bu sayede o platformda daha fazla zaman geçirirsiniz, daha fazla paylaşım yaparsınız, daha fazla reklama maruz kalırsınız, daha fazla para harcarsınız… 

Bu saldırgan ve kısa sürede büyüme yaklaşımını pekiştiren ortak politik yaklaşıma ise teknoloji determinizmi ve çözümcülüğü (solutionism) deniliyor. Buna göre dünyadaki her mesele teknoloji ile çözülebilir. Sınıfsal, sosyal, kurumsal yapılar için mücadele etmeye gerek yoktur, sorun neyse tanımlanır, ona uygun bir algoritma geliştirilir ve çözülür. Bunun böyle olmadığı, hatta teknolojinin birçok sorunu daha da kökleştirdiği biliniyor. Ama bunu da "daha iyi ve daha yeni bir teknoloji ile çözebiliriz”. Sosyal medyada yapay zeka ile yönlendirilme insanların kişisel verilerinin ihlali ise o zaman size blokzinciri teknolojisi önerelim. Merkez bankası ve bürokrasiden mi şikayetçisiniz, o zaman şöyle yapay zeka ve blokzinciri çözümlerimiz var. Suçu önlemek mi istiyorsunuz, her yere kamera koyalım, yüz tanıma sistemi ile suçluyu tespit edelim. İsyandan, toplumsal hareketlerden mi çekiniyorsunuz, şehir merkezlerindeki kalabalıkların hareketliliğini analiz eden yapay zeka algoritmamız olası bir eylemi ve isyanı tespit etsin. İşkenceye karşı mısınız, buyrun yalan makinesi. Sağlık sisteminden mi şikayetçisiniz kişiye özel sağlık bizim işimiz, sadece verilerinizi paylaşın yeter. Çocuklarınızın eğitiminden mi kaygılısınız, (…) bu şekilde gidiyor.

Dolayısıyla iş yaşamında saldırgan olan bu yaklaşım hem neo-liberal hem de hiçbir yasa, düzenleme ve kontrol kabul etmiyor, bunu liberteryen yaklaşıma aykırı buluyor, düzensizlikten gücünü alıyor. Ama tabi yukarıda bahsettiğimiz gibi hükümetlerle, askeri ve istihbarat bürokrasisi ile iç içeler. 

İyimserler ve kötümserler

Silikon Vadisindeki teknoloji şirketlerine hakim olan ideolojik ve politik yaklaşımı iyimser ve kötümserler olarak ikiye ayırabiliriz. İyimserler toplumsal sorunların teknoloji yönüyle çözülebileceğini, bu süreçte çıkan sorunların çözülebilir olduğunu, teknolojik imkanların “demokratikleşeceğini” yani dünyada herkes açısından ulaşılır, satın alınabilir (Silikon Vadisinde demokratikleşmeden kasıt ürününü dünyada her insana satabilmektir) bir konuma geleceğini, yapay genel zekanın da bunun doğal sonucu olduğunu ve geleceğin olumlu, iyimser olacağını savunuyorlar. Bu şirketlerin iyimser patronları, yöneticileri ve hissedarları aynı zamanda bireysel misyonlar da ediniyorlar ve dünyanın temel sorunlarını çözmek için vakıflar kuruyorlar, fonlar veriyorlar, “beceriksiz devlet, yavaş bürokrasi ve hantal düzenlemeler” nedeniyle eksik kalan yönü kendi inisiyatifleri ile dolduruyorlar. Effective altruism gibi akımlar buradan besleniyor. Bunların bir kısmı sağlık alanında yatırımlar yapıp en az 120 yıl yaşamak, yaşlılığı çözümü olan bir hastalık olarak tanımlamak ve ölümü yenmek gibi “ideallere” de sahipler.

Diğer yanda ise kötümserler var. Onlar teknolojinin önemini kabul etmekle birlikte yapay genel zekaya ve tekilliğe şüpheli yaklaşıyorlar. Çinliler veya Trump gibi “yanlış ellere” geçmesinden korkanlar olduğu gibi insanın “doğası gereği” kötücül ve bencil olmasından yola çıkarak iyi niyetli, demokratik girişimlerin zamanla tersine döneceğini, totaliter diktatörlüklere yol açacağını düşünüyorlar. Mesela Facebook, en başında “ne güzel bir demokratik kamusal alan” sunuyor, sesi çıkmayanlara ses veriyordu ama artık yalan haberin, nefret söyleminin döndüğü manipülatif bir platform oldu. Hızlı yükselen şirketler sektöre hakim olup daha çok veri ile daha etkili yapay zeka geliştiriyor ama bu kez de yeni start-upların gelişmesini engelliyor ve uzun vadede inovasyonu öldürüyor.

Kötümserler arasında bir de aktivist ruhlu olanlar var. Çeşitli STKlarda ve akademide sesi çok çıkan bu kesim içinse mevcut teknolojilerin statükoyu ve eşitsizlikleri yeniden üretmesi ciddi bir risk ve çözüm olarak teknoloji şirketlerinde daha fazla kadının, siyahın ve diğer azınlıkların çalışması ve yönetici konuma gelmesi, kişisel verilere saygı gösteren ürünlerin geliştirilmesi, gözetim toplumuna karşı önlemlerin alınması gibi talepler öne çıkıyor.

Burada bir diğer tartışma da yapay genel zekanın insanlığı köleleştirmesi korkusu. Bazıları için böyle bir kaygıya gerek yok, bazıları içinse kaygı insandan daha yetenekli ve bilgili bir yapay zekanın bir sıçrama ile bilinçlenmesi, kendiliğinin farkına varması ve insanlığa hizmeti reddetmesidir. Bu YZ insanlığı daha düşük bir canlı olarak görüp manipüle edip kendi tanımladığı çıkarlar için yönlendirebilir, (yani belki şu an bile Yapay Genel Zeka tarafından manipüle ediliyor olabiliriz, ama YZ o kadar akıllı ki fark edemiyoruz (!)) veya insanlığa hizmet etmek istese dahi, örneğin bir toplumsal sorunun sebebinin insan nüfusunun fazla olduğu sonucuna varırsa, insanlığa hizmet için birkaç milyar insanın ölmesini sağlayabilir gibi fikirler havalarda uçuşuyor. Birçok kitapta uzun uzun ciddi güvenlik önlemleri alınan genel yapay zekanın oradan kaçmaması, sızmaması için öneriler yapılıyor ve her birini nasıl kırıp internet ağına bağlanıp farklı alanlarda uzman olan diğer yapay zekaları koordine edip dünyayı ele geçireceği gösteriliyor.

OpenAI’da ne tartışılıyor?

OpenAI kar gütmeyen bir şirket, bir nevi bir dernek ve araştırma enstitüsü gibi bir yapıda kurulduğundan işte bu arkaplan üzerinden bir yandan yapay genel zekayı Amerikalıların geliştirmesi için güçleri birleştiriyor(du) diğer yandan da bu kaygıları giderecek önlemler alıp güvenli bir yapay zekaya odaklanıyor(du). Bu açıdan yukarıdaki iyimserler ve kötümserler ile deterministler ve solutionistler gibi farklı yaklaşımlar arasında bir denge kurulması, diyalog ile meselelerin çözülmesi bekleniyordu.

OpenAI geçtiğimiz sene bu zamanlarda ChatGPT’yi çıkardığında bu dünya çapında bir etki yarattı. Ama bunun zamanlaması konusunun da bir kriz konusu olduğu ortaya çıktı. Yönetimdeki bazı kötümserler için ürün piyasaya çok erken çıkarılmıştı, riskler yeterince incelenmemişti. OpenAI çok büyük fonlar alsa da ChatGPT’ye olan ilgi artınca ve her gün giderek artan sorulara cevap vermek altyapıdaki harcamaları arttırınca bu kez OpenAI kendi içinde kar amacı güden bir şirket oluşturdu ve ChatGPT ödeme sistemine geçti. Bu aşamada bu ticari yönün sadece artan masraflara yönelik olduğu ve yönetimin kar amacı gütmeyen bir amaçla hareket ettiği ve istediği anda CEO’yu işten çıkarma yetkisine sahip olduğu belirtildi.

Ancak bu dönemde Microsoft tüm ürünlerine YZ’yi ve chatGPT’yi entegre edeceğini duyurdu ve büyük yatırımlar için karar aldı, OpenAI üzerindeki etkisini de arttırdı. İlk dönemki şirketlerin ortak fonladığı bir kurum olmaktan çıkmaya başladı. Elon Musk desteğini çekti, Google benzeri bir program olan Bard’ı, Meta da Llama’yı duyurdu, dolayısıyla rakipler de ortaya çıkmaya başlıyordu. Burada yukarıda belirtilen rakibi eleme ve tekelleşme arzusu kendisini gösteriyordu.

Bununla birlikte yönetimde yer alan kötümserlerden önde gelen figürler ChatGPT’nin ilk yılında yarattığı etkiye dair bir araştırma yayınladılar ve beklendiği üzere kötümser bir tablo çizdiler. Burada OpenAI içindeki ittifak platformu çatlamaya başladı. Diğer şirketlerin geri çekilişi, Microsoft’un baskın karakteri, ChatGPT’nin piyasada büyük bir paya bir anda ulaşması ticari yönünün öne çıkmasına neden oldu. Bırakalım mevcudu geri çekip, riskleri tespit edip düzeltme konusunu yeni ürünlerin yakında çıkacağı da biliniyordu. Bu noktada yönetim kurulu CEO’yu işten çıkarma ve yönetime el koyma kararı aldı veya büyük ihtimalle almaya zorlandı ve birkaç gün süren dramanın ardından Microsoft ağırlığını koydu, OpenAI’ı açıkça kendine bağladı.

Bundan sonra yapay genel zekaya yönelik yatırımların daha da artacağı, bu alanda ChatGPT’nin liderliğini korumak için daha saldırgan bir tutum alacağı, bunun Microsoft, Google ve Meta arasındaki rekabeti körükleyeceği (Çin acaba nasıl girecek bu sürece?) ve yeni ürünlerin de sunulacağı tahmin edilebilir. 

Bu ürünler belirli alanlarda işleri kolaylaştırabilir, diğer yönden belirli sektörlerde işsizliğe de neden olabilir. Burada esas mesele tüm bu önemli kararların bir avuç tekelci şirketin bir avuç yöneticisi tarafından alınmasıdır. Mevcut teknolojik gelişme dikkate alındığında planlı, kamucu, eşitlikçi sosyalist bir düzen kurmak için insanlığın elinde yeterince birikim ve imkan var. Kapitalizmden kurtulunduğu takdirde iklim krizi gibi insanlığı ve dünyayı tehdit eden birçok sorunun çözümü de gayet açık, sır değil. Ama güç kapitalizmin akıl dışı ve anarşik karakterinin sonucu olarak hem siyasette hem de bu şirketlerde yer alan az sayıdaki megaloman manyağın elinde toplanmış durumda. Bu engeli bir an önce aşmakta fayda var.