Bir robotu ‘öldürmek’ neden zor?

İnsanlar arası ilişkilerin temel kuralları, insan-robot etkileşimlerinde de geçerli olabilir mi?
Salı, 05 Şubat 2013 18:58

ABD’li evrimsel psikolog Marc Hauser, 2006‘da yayınladığı kitabında milyonlarca yıllık doğal seçilimin insan beyninde evrensel bir ahlaki gramer oluşturduğunu iddia etmişti. Hauser’a göre bu zihin-beyin modülü ahlaki ikilemlerde anlık karar verebilmemizi sağlıyor.

Toplumsal işbirliği ya da kişiler ve gruplar arası ilişkiler üzerine yapılan çalışmalar ile sinirbilim ve diğer primatlarla yapılan çalışmalar evrensel ahlaki gramerin varlığına dair güçlü kanıtlar sağlıyor. Örneğin, bilinen bütün toplumlarda bir kişinin yaşamına kasti şekilde son verilmesinin ahlaki olarak kabul edilemez olmasının temelinde benzer bir gramerin yattığı söylenebilir.

Peki, insan dışı varlıklarla kurduğumuz ilişkilerde de benzer örüntüler gözlemleyebiliyor muyuz? Eindhoven Üniversitesi’nden Christoph Bartneck liderliğinde bir grup araştırmacı 2007 yılında insanların ilişki kurdukları robotları nasıl algıladıkları üzerine bir araştırma yaptılar. Bartneck ve ekibinin ulaştığı sonuçlar, robotlarda akıl (İng. intelligence) ve uyumluluk (İng. agreeableness) özelliklerinin, katılımcıların robotlara canlılık atfetmelerine yol açtığını ve onları devre dışı bırakarak ‘öldürmeden’ önce daha fazla tereddüt yaşadıklarını gösteriyor.

Gün geçtikçe akıllı robotlar yaşamımıza daha fazla dahil oluyorlar. Sürekli yanımızda taşıdığımız ve evlerde kullandığımız aletler ya da işyerlerinde birçok işin yürütülmesinde görev alan farklı düzeylerde zekâ ve canlı tipi davranışlar gösteren makinelerle içiçe yaşıyor, onlarla etkileşime giriyoruz. Bunların yanısıra sinema ya da edebiyat aracılığı ile tanıştığımız insansı robotlarla kurduğumuz duygusal bağ da sık sık diğer kurgusal figürlerle kurduğumuz bağlara benzeyebiliyor.

Sözü edilen ilişkiyi örneklemek için Bartneck ve arkadaşları “2001 – A Space Odyssey” filminde astronot Dave Bowman’ın kendi hayatını kurtarmak için HAL9000 bilgisayarını kapattığı sahneyi hatırlatıyorlar. Hafıza modülleri çıkarıldıkça HAL9000’in zekâsını ve bilincini yavaş yavaş kaybetmesi, konuşmasının yavaşlaması ve “Daisy Bell” şarkısını söylerken temponun düşerek ölümünü işaret etmesini izleyenler anımsayacaktır.

Burada felsefi olarak Bowman’ın bir cinayet işleyip işlemediği sorulabilir. Sorunun cevabını vermek yaşamı nasıl tanımladığımızla ilgili olacaktır. Örnekteki bilgisayar üst düzey niyetlilik (İng. intentionality) gösteren bir sistemdir ve bilinçli bir varlık olduğu söylenebilir. Ancak, bilgisayarın biyolojik bir organizma olmadığı ya da üreyemeyeceği (en azından şu an için) de onun canlılığına (İng. animacy) karşı bir argüman olabilir. Bu durumda yaşamın ne olduğunu cevaplamadan yukarıdaki soruya net cevaplar vermek de mümkün olamayacatır.

Canlı olma özelliği olarak zekâ ve uyumluluk
Bir robotu kapatmak onun yaşamına son vermek olur mu sorusuna net bir cevap veremesek de makinelerle kurduğumuz ilişkileri düzenleyen zihinsel süreç ve mekanizmaları araştırarak insanların yaşamı ya da canlılığı hangi özellik ve sıfatlarla kavradığını anlayabiliriz. Bu anlamda Bartneck ve arkadaşlarının araştırması iki özelliğin, akıl ve uyumluluğun, insanların canlılığa atfettiği iki insansı özellik olduğunu belirtiyor.

Çalışmada mutluluk, üzgünlük, öfke ya da şaşırma gibi farklı duyguları insansı yüz ifadeleri ile gösteren bir robot kedi (iCat) kullanılıyor. Katılımcılardan laboratuvar ortamında robot ile işbirliğine dayalı bir oyun oynamaları isteniyor. Oyun oynanırken katılımcı hem robotun önerilerinin niteliğini ölçebiliyor hem de onun kişiliğini değerlendirebiliyor. Deneyde kullanılan bazı robotlar deneklere sıcak, bazıları ise soğuk davranacak şekilde programlanmış. Böylece robotların katılımcılarla kurduğu ilişkilerde görsterdiği uyumluluk kontrol edilmiş.

Ancak, oyun bittikten sonra katılımcılara robotu kapatmaları söyleniyor bu yolla robotun hafızasını ve kişiliğini silecekleri de belirtiliyor. Robot ise kapatılmadan önce yaşamına son verilmemesi için üzgün bir ifade ile “Beni gerçekten kapatmayacaksın değil mi?” diye sorarak katılımcıların etik ikilemini yoğunlaştırıyor.

Sonuçlar, katılımcıların kapatmadan önce robotun zeki yanıtlar ürettiği ve daha uyumlu olduğu koşullarda üç kat daha uzun süre tereddüt yaşadıklarını gösteriyor. Diğer bir deyişle, insanlar ilişki kurdukları robotta zekâ ve çalışma uyumu algıladıkları oranda onların bellek ve kişiliklerini yok ederken daha fazla zorlanıyorlar.

‘Yaşam nedir?’ ya da ‘biz insanlar yaşamı nasıl kavrıyoruz?’ sorularına halen net yanıtlar veremiyoruz. Öte yandan bu tip bulgular, sosyal ilişkilerimizi düzenleyen zihinsel mekanizmaların zeki makinelerle kurduğumuz ilişkilerde de belirleyici olabileceğini gösteriyor. Daha zeki robotlar hayatımıza girdikçe onları salt eşyalar olarak değerlendirmenin giderek zorlaşacağını söylemek mümkün.

BilimsoL ekibinden İlker Dalğar hazırladı.
facebook.com/BilimsoL
twitter.com/BilimsoL

İlgili makaleler:

Bartneck, C., van der Hoek, M., Mubin, O., & Al Mahmud, A. (2007). “Daisy, Daisy, Give me your answer do!”: Switching off a robot. Proceedings of the 2nd ACM/IEEE International Conference on Human-Robot Interaction, Washington DC pp. 217 – 222.
Hauser, M. D. (2006). Moral Minds: How nature designed our universal sense of right and wrong. Ecco Press.