Dünyanın en büyük yapay zeka şirketlerinden Anthropic, borsaya girmeye yani daha fazla büyüyebilmek için yeni kaynaklar yaratmaya hazırlanırken beklenmedik bir hamle yaptı.

Şirket geçtiğimiz hafta bir rapor yayımlayarak, bizzat geliştirdiği yapay zeka sistemi Claude’un kötüye kullanıldığı örnekleri listeledi.

Örnekler bir hayli çarpıcı. Rapora göre kimi bilim insanları, virüsleri insanlar için daha ölümcül hale getirmek için yapay zekadan destek almış. Benzer şekilde Mali’de yapay zeka yardımıyla 25 milyon SİM kartı izlenmiş. Adı açıkça anılmasa bile Yemen’deki Ensarullah güçlerinin bir füzeyi güdümlü hale getirebilmek için yapay zekadan faydalandığı da iddialar arasında.

Öyle ki işin ucu Türkiye’ye kadar uzandı. İstanbul’daki bir teknoloji şirketinin yapay zeka kullanarak sosyal medyada sahte hesaplar ve yalan haberler oluşturduğu, böylece Malezya’daki seçimlere müdahale ettiği bildirildi.

Zaman ayarlı istifa

Aynı günlerde, Anthropic ve OpenAI’da araştırmacı olarak çalışan Jacob Coxon, her iki şirketin de “yeterince sorumlu davranmadığını” söyleyerek istifa etti.

Yapay zekanın 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını belirten Coxon, şu mesajı paylaştı:

“Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor."

Şirketten yalanlama beklenirken, destek geldi. Anthropic'te yapay zekanın insan değerleriyle uyumu üzerine çalışan Evan Hubinger, "Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz" dedi.

Anthropic: Durmayalım ama vites düşürelim

Ve son noktayı Anthropic'in hem ortağı hem CEO’su olan Dario Amodei koydu.  

Amodei, uzun bir makale yayımlayarak artık yapay zeka modellerinin yeteneklerinin geliştirilme hızının planlı bir biçimde düşürülmesi gerektiğini savundu.

Kastettiği yapay zeka çalışmalarının tam olarak durdurulması değildi. Mevcut modellerdeki gelişim hızının, güvenlik ve kontrol mekanizmalarının yetişebileceği bir seviyeye çekilmesini istedi.

Amodei oldukça keskin bir tahminde bulunarak, mevcut hızla devam edilirse 6–12 ay içerisinde yapay zeka modellerinin internetteki bilgisayarları ele geçirip yüz milyarca dolarlık zarar yaratabileceğini öne sürdü.

Tekeller birlik oldu: 'Yavaşlamalıyız'

Amodei'nin makalesi yayımlanır yayımlanmaz tuhaf bir sahne oluştu. Elon Musk hemen destek verdi, "Dario haklı" dedi, başka bir şey eklemedi. Open AI patronu Sam Altman da koroya dahil oldu, benzer bir mekanizma kuracaklarını açıkladı. Yani birbirleriyle aylardır kıyasıya yarışan üç isim, bir anda aynı sözü söyleyeme başladı: Yavaşlayalım.

Bu şirketler yıllardır en yüksek teknolojiye ulaşmak için birbiriyle rekabet ediyordu. Şimdi ne olmuştu da, birden frene basıyorlardı?

Amodei'nin önerisinde öne çıkan iki somut öneriye bakalım.

Birincisi, büyük laboratuvarların kendi aralarında ortak "yetenek eşikleri" belirlemesi, yani bir model belirli bir seviyeye ulaştığında herkesin aynı anda durup güvenlik testinden geçmesi. Bunu yasal olarak yapabilmek için de Washington'dan antitröst muafiyeti istiyorlar. Çünkü normalde rakip şirketlerin "birlikte yavaşlayalım" demesi rekabet hukukuna takılır.

İkinci talep ise Çin'e giden gelişmiş çip ve üretim ekipmanı satışının tamamen kesilmesi, büyük modellerin öğrendiği bilgileri daha küçük modellere aktarma yönteminin fiilen yasaklanması, model ağırlıklarının çalınmasına karşı çok daha sıkı güvenlik alınması.

Amodei bunu elbette böyle sunmuyor. Makalesinde istediği kısıtlamaları insanlığın yapay zeka üzerindeki kontrolü kaybetmemesi çerçevesinde açıklıyor, güvenlik adı altında kamuoyunu korkutuyor.

Fakat içerden yükselen sesler Amodei’nin niyetinin bu olmadığının farkında. Silikon Vadisi yatırımcılarından Chamath Palihapitiya'ya göre Amodei'nin amacı açık kaynak modelleri durdurup tüm gücü Anthropic'te toplamak. The Atlantic, Amodei'nin yazısını “teknolojisinin benzersiz olduğuna insanları inandırmakta çıkarı olan bir CEO'nun pozu” olarak okudu. BBC ise Amodei’nin sözlerini güvenlikten çok “kontrolü elde tutma meselesi” olarak gördü.

Çin: Soğuk Savaş taktikleriyle bizi çevrelemek ve farkı açmak istiyorlar ama nafile 

Anthropic CEO’sunun asıl hedefinin Çin olduğuysa aşikar. Makalede Çin'den 12 kez söz ediliyor. Amodei, alınacak önlemlerin önümüzdeki 3-5 yılda ABD'nin Çin karşısındaki farkını ciddi şekilde büyütebileceğini düşünüyor, yani önce rakibi geride bırakıp, sonra "artık yavaşlayabiliriz" demek istiyor.

Nitekim Çin'den yanıt gecikmedi. Yarı resmi Çin yayını Global Times, yazıyı doğrudan bir "Soğuk Savaş senaryosu" olarak niteledi.

Global Times'ta isimsiz yayımlanan analize göre, Amodei’nin açıklamalarının arka planında, Çin'i çevreleme hedefi yer alıyor. Bu planın başarıya ulaşmasının mümkün olmadığını vurgulayan analizde şu ifadelere yer verildi:

"(Amodei) önce Çin'in önünün kesilerek teknoloji açığının artırılmasını ve ardından yavaşlamak için Pekin ile koşullu müzakereler aranmasını öneriyor.

Son yıllarda yapay zeka teknolojisinin hızlı evrimi, güvenlik risklerini, etik kaygıları ve teknolojik kontrolden çıkma tehlikesini beraberinde getirdi. Bunlar tüm insanlığın karşı karşıya olduğu küresel zorluklardır. Ancak Amodei'nin girişiminin özü, teknolojinin 'ortak yönetişiminin' orijinal amacından tamamen sapmakta ve teknik meseleyi siyasallaştırmaktadır.

Bu sessiz 'Yapay Zeka Soğuk Savaşı' ikiyüzlü ve kısa görüşlüdür. Gerçek amacı, teknolojik engeller ve düzenlemeler yoluyla Çin'in yapay zeka gelişimini engellemeye çalışmak, Washington'ın ileri teknolojideki tekelci hegemonyasını ayakta tutmak ve Çin'i küresel yapay zeka yönetişim sisteminden dışlamaktır.

Küresel yapay zeka ekosistemindeki en büyük ve en açık tedarikçilerden biri olarak Çin'in yapay zeka yetenekleri, uzun süredir 'dışlanabilecek' bir değişken olmaktan çıkmıştır.

Küresel yapay zeka endüstriyel ve inovasyon zincirlerinin zorla koparılması ve Çin ile Çinli şirketlerin dışlanması, yalnızca küresel yapay zeka gelişimindeki deneme-yanılma maliyetlerini ve kontrolden çıkma risklerini önemli ölçüde artıracaktır. Bu 'hızı kontrol etme' girişimi şimdiden tüm anlamını yitirmiştir."

Global Times'a konuşan Shenzhen Enstitüsü'nden Liu Shaoshan, Anthropic'in siyasi bir karşılığı olduğunun altını çizerek, "Bir yapay zeka şirketi artık sıradan bir teknoloji şirketi olarak değil, 'stratejik altyapı' olarak görülüyor" dedi.

Tsinghua Üniversitesi'nden Xiao Qian ise Anthropic'in, rekabet avantajını korumak amacıyla Çinli şirketlerin ABD modellerine ve teknolojilerine erişimini daha da kısıtlamak istediğini söyledi.

Çin Ticaret Bakanlığı da devreye girdi. Amodei’nin Çinli şirketlere yönelttiği model devşirme suçlamasının hukuki dayanaktan yoksun olduğu vurgulandı.

Kuşatma sökmüyor

Çin, tüm ambargo ve kısıtlamalara rağmen kendi yerli çip ve yapay zeka teknolojisini hızla geliştiriyor.

Önce DeepSeek, ABD yapımı son teknoloji çiplere erişimi olmadan geliştirdiği yapay zeka modeliyle dünyayı şaşkına çevirmişti. Ardından Çin'e satışı yasak olan dünyanın en gelişmiş mikroçiplerini üreten litografi makinesinin bir prototipinin üretilebildiği ortaya çıkmıştı.

Çip şirketlerinin kâr rekorları kırdığı ülkede, üniversitelerde yapay zeka alanını destekleyen bölümlere ağırlık veriliyor.  

soL Haber'i WhatsApp ve Telegram kanallarından takip edin, önemli gelişmeleri kaçırmayın.