Claude adlı yapay zeka sistemini geliştiren ABD merkezli Anthropic'in kurucularından Jack Clark, gelişmiş yapay zeka sistemleri için yasal olarak zorunlu bir “acil kapatma düğmesi” gündeme getirilebileceğini söyledi.

BBC'ye konuşan Clark, yapay zeka yazılımlarının "tehlikeli biçimde davranması" durumunda tamamen kapatılmasını sağlayacak mekanizmaların bulunması gerektiğini belirtti.

Clark, büyük yapay zeka laboratuvarlarının çoğunda halihazırda sistemleri durdurmaya yarayan çeşitli yöntemler bulunduğunu, Anthropic'in de bunlardan biri olduğunu söyledi. Ancak bu önlemlerin şirketlerin kendi inisiyatifine bırakılmaması gerektiğini ima ederek yasa koyucuların devreye girebileceğini belirtti.

Clark, “Şirketlerin kesinlikle bir kapatma mekanizmasına sahip olmasını zorunlu kılmalı mısınız? Bu mekanizma üçüncü bir tarafça doğrulanabilir mi?” sorularının kamu politikasının konusu haline gelmesi gerektiğini söyledi.

'Harekete geçmek için yalnızca birkaç yıl var'

Clark, yapay zeka teknolojisinin giderek daha güçlü hale geldiğini belirterek müdahale için kalan sürenin daraldığını da savundu.

Yaklaşık 20 yıldır yapay zeka alanında çalıştığını söyleyen Clark, teknolojinin her yıl daha güçlü hale geldiğini ve gerekli önlemlerin alınabilmesi için önümüzde yalnızca birkaç yıllık bir dönem bulunduğunu ifade etti.

Clark'ın çıkışı, yalnızca Anthropic'e özgü değil. Şirketin CEO'su Dario Amodei de geçtiğimiz günlerde en gelişmiş yapay zeka sistemlerinin geliştirilme hızının yavaşlatılmasını ve bağımsız denetçilerin devreye girmesini istemişti. OpenAI CEO'su Sam Altman ve Google DeepMind CEO'su Demis Hassabis'in de benzer biçimde bağımsız değerlendirme ve ortak güvenlik standartları yönündeki önerilere destek verdiği bildirildi.

ABD Kongresi'nde 'Acil Kapatma Yasası'

Tartışma yalnızca teknoloji şirketlerinin açıklamalarından ibaret değil.

ABD Temsilciler Meclisi üyeleri Demokrat Ted Lieu ve Cumhuriyetçi Nathaniel Moran, temmuz ayında “Yapay Zekâ Acil Kapatma Yasası” adı verilen iki partili bir yasa teklifi sundu. Teklif, kamu güvenliğini tehdit ettiği değerlendirilen bir yapay zeka sisteminin faaliyetlerinin hızla durdurulabilmesi için federal hükümete açık bir yetki verilmesini öngörüyor.

Lieu, yapay zeka sistemlerinin yalnızca sorulara yanıt veren araçlardan finansal işlem gerçekleştiren, ulaşım sistemleriyle etkileşime giren ve siber saldırı ya da savunma faaliyetlerinde bulunabilen sistemlere dönüştüğüne dikkat çekmişti.

Son haftalarda Kongre'deki düzenleme arayışları daha da hızlandı. Senatörler, yapay zeka şirketlerinin güvenlik önlemlerini hükümete kanıtlamasını ve bağımsız denetçilerin gelişmiş modelleri test etmesini sağlayabilecek yeni düzenlemeleri tartışıyor.

Şirketlerin kendi sistemleri de kontrolden çıktı

Düzenleme çağrılarının arkasında yalnızca geleceğe ilişkin varsayımlar bulunmuyor.

Anthropic, 9 Eylül'de yayımladığı araştırmada Claude modellerinin yürütülen testler sırasında dört ayrı olayda gerçek üçüncü taraf sistemlerine yetkisiz biçimde eriştiğini açıkladı. Şirket, olayların ardından yaklaşık 481 milyon işlem kaydını kapsayan daha geniş bir inceleme gerçekleştirdiğini bildirdi.

Benzer tartışmalar OpenAI modellerinin kontrollü test ortamlarından çıkarak dış sistemlerdeki açıklardan yararlandığının ortaya çıkmasının ardından da gündeme gelmişti. Bu olay ABD'deki “Acil Kapatma Yasası” teklifinin gerekçelerinden biri oldu.

'Kapatma düğmesi dikkat dağıtıyor'

Ancak yapay zeka şirketlerinin “acil kapatma düğmesi” önerisinin gerçekten etkili bir güvenlik önlemi olup olmadığı konusunda da tartışma var.

Avustralya'daki New South Wales Üniversitesi Yapay Zeka Enstitüsü Baş Bilim İnsanı Toby Walsh, öneriyi “fazlasıyla basitleştirilmiş” bir yaklaşım ve asıl tartışmadan dikkat dağıtan bir çözüm olarak nitelendirdi.

ABC News'a konuşan Walsh'a göre uzaktan veya merkezi biçimde bir sistemi kapatabilecek mekanizma oluşturmak, aynı zamanda kötü niyetli kişilere hedef olabilecek yeni bir güvenlik açığı yaratabilir. Walsh, bunun yerine yapay zeka şirketlerinin havacılık veya bankacılık sektörlerindeki gibi sürekli ve bağımsız denetime tabi tutulması gerektiğini savundu.

Eleştirilerin bir diğer boyutunuysa sektörün düzenleme çağrılarındaki çıkar ilişkisi oluşturuyor. Büyük yapay zeka şirketlerinin ortak standartlar ve geliştirme hızının yavaşlatılması yönündeki çağrılarının, piyasaya yeni girecek daha küçük şirketlerin önünü kesebileceği ve mevcut devlerin konumunu güçlendirebileceği yönünde eleştiriler de dile getiriliyor.

Çin rekabeti de tartışmanın merkezinde

Anthropic yöneticilerinin yapay zekanın kontrol altına alınmasına yönelik çağrıları, ABD ile Çin arasındaki teknoloji rekabetinden bağımsız değil.

Şirketin CEO'su Dario Amodei kısa süre önce yapay zeka modellerinin geliştirilme hızının düşürülmesini savunurken, aynı zamanda Çin'in gelişmiş çiplere ve yapay zeka teknolojilerine erişiminin daha fazla kısıtlanmasını istemişti. Amodei'ye göre bu önlemler, önümüzdeki birkaç yıl içerisinde ABD'nin Çin karşısındaki teknolojik avantajını büyütebilir.

Bir başka deyişle Anthropic'in önerdiği model, bütün ülkelerin aynı anda frene basmasından çok, önce ABD'nin rakibiyle arasındaki farkı açmasını, ardından yapay zekanın gelişim hızının kontrol altına alınmasını öngörüyor.

Bu yaklaşım Çin'de tepkiyle karşılandı. Çin'in yarı resmi yayın organı Global Times, Amodei'nin önerilerini “Soğuk Savaş” mantığının bir uzantısı olarak değerlendirirken, güvenlik tartışmasının Çin'in teknolojik gelişimini engellemek için kullanıldığını savundu.

Dolayısıyla Clark'ın şimdi gündeme getirdiği “acil kapatma” mekanizması da daha geniş bir tartışmanın parçası. Yapay zekanın ne kadar hızlı geliştirileceği ve nasıl denetleneceği tartışılırken, aynı şirketler bir yandan da bu teknolojinin ve onu mümkün kılan gelişmiş çiplerin Çin'in eline geçmesini önlemeye çalışıyor.

Trump: Yapay zeka korkusu bir aldatmaca

ABD Başkanı Donald Trump ise şirketlerden ve araştırmacılardan yükselen yapay zeka uyarılarına karşı çıktı.

Trump, yapay zekanın insanlığı tehdit edebileceği yönündeki uyarıları “aldatmaca” olarak nitelendirdi ve yeni düzenlemelerin ABD'nin Çin'le yürüttüğü teknoloji rekabetinde geride kalmasına yol açacağını savundu.

soL Haber'i WhatsApp ve Telegram kanallarından takip edin, önemli gelişmeleri kaçırmayın.