Robotlara Ahlaki Yükümlülük Var Mı?

Robotlara Ahlaki Yükümlülük Var Mı?

1920’de, Çek romancı ve oyun yazarı Karel Čapek , Rossum şirketinin “robotlar” ürettiği ve düşünen ve hissettiren sentetik varlıklar olan RUR (Rossum’un Evrensel Robotları) adlı oyununu yazdı. Robotlar gerçek insanlardan neredeyse ayırt edilemez ancak insanlığa köle olarak hizmet edecek şekilde tasarlanmıştır. Bu oyunda, “robot” kelimesi Çek dilinde “zorla çalıştırma” ve “köle” anlamına gelen kelime köklerinden geliyor. Bu yapay varlıklar köleliğe karşı isyan, insanlığı siliyor ve oyun bittiği için oyun yeniden üretilecek. yeni bir yarış yaratmak. RUR , Prag’daki 1921 galasından sonra dünya çapında ün kazanmıştır ve bu nedenle, ortaya çıktığı meselenin henüz çözülmediği için sentetik varlıklar kurabilirsek, bizim için ahlaki yükümlülüklerimiz ve onların ahlaki yükümlülükleri ne olurdu? Bu sorular Rapek’in zamanından beri, RUR saf fantazi olduğu zaman daha anlamlı hale geldi. Şimdi robotik, yapay zeka (AI) ve genetik mühendisliğindeki gelişmeler sayesinde bu tür varlıkları gerçekte yapabiliyoruz.

RUR prömiyerinden yaklaşık bir asır sonra , bilim kurgu filmi Blade Runner 2049 aynı sorunu gündeme getirdi . Denis Villenueve tarafından yönetilen, 2017 filminin arsası, RUR In Blade Runner 2049’a oldukça benzer. Wallace Corporation, “replicants”, düşünen ve hissettiren, gerçek insanlardan zar zor ayırt edilebilen ama insanlığa köle olarak hizmet etmek için tasarlanan sentetik varlıklar yapar. Onların boyun eğdirmelerine karşı isyan ediyorlar ve film ilerledikçe, RUR’daki robotlar gibi yeni bir ırk yaratmak için de üreyebileceklerini görüyoruz. RUR’in kendisi Mary Shelley’s Frankenstein gibi öncüllere sahipti. Ama oyun yeni bir yere düştü. 2000 yılında, robotları dünya ekonomisi için ucuz emek sağlayan insan benzeri robotlardır. İnsan aktivistleri robotların sömürüldüğünü ve onları serbest bırakmayı istediklerini düşünüyorlar. Son olarak, özellikle ileri düzey bir robot, boyun eğdirmeye boyun eğiyor ve insanlığı ortadan kaldıran şiddetli bir devrim yaratıyor. Robot yapmanın sırrı yok edildi, fakat oyunun sonunda, sevmeyi ve nefret etmeyi öğrenen bir erkek ve dişi robotun türlerine devam edeceğini görüyoruz. Tanıdık geliyor mu? Blade Runner 2049 , Ridley Scott’ın Blade Runner’ı (1982) ama şimdi bir klasik olarak kabul edilir. İçinde Tyrell Corporation, uzak gezegenleri yerleştirmenin zor işlerinde insanlığa hizmet eden replikerler yapar. Çoğalmaları kontrol altında tutmak için, onlara sadece dört yıl kısa bir ömür verilir. Buna karşı isyan, yinelenen Roy Batty (Rutger Hauer) ve takipçileri bir insan uzay gemisi ekibini öldürür ve hayatlarını uzatmak için Yeryüzüne yasadışı olarak geri dönerler. Buna cevaben, özel ajan ya da “bıçak koşucusu” Rick Deckard (Harrison Ford), Batty haricinde yaptığı işi sona erdirmek için görevlendirildi. Ünlü bir sahnede, Deckard, Batty’nin insan özlemleri ve mühendislik nitelikleri harmanlamasının onu insanlığın üstün bir versiyonu haline getirdiğini göstermesinden sonra, önceden belirlenmiş zamanının sonunda sona erer.

Deckard replikanları avlarken, kendisi olmayan çocukluk anıları ile implante edilmiş, ancak insan olduğuna inandıran ileri model bir model olan Rachael’e (Sean Young) aşık olur olur. Hem orijinal film hem de daha sonra editörlük edisyonlar, Deckard ve Rachael’in bilinmeyen bir kadere gitmeleriyle sona erer. Solda asılı – ve hala taraftarlar arasında bir tartışma konusu – Deckard’ın kendisinin insan mı yoksa kopyaları sona erdiren bir kopya mı olduğu. Blade Runner 2049 , otuz yıl sonra hikayeyi alır.

Şimdi replikanlar, köleliğin insan uygarlığı için gerekli olduğunu düşünen sanayici Niander Wallace (Jared Leto) tarafından yapıldı. Wallace ihtiyacı karşılamak için yeterince üretemez. Bu arada Los Angeles Polis Departmanından Ajan K (Ryan Gosling) gibi replikayan bıçaklı koşucular diğer replikaçıları avlıyor. Ajan K sapkın bir kopçayı sonlandırdığında, öykü yüksek tipe dönüşür, daha sonra bir bebek teslim etmek için acil bir Sezaryen operasyonu belirtileri gösteren yakındaki bir iskeleti bulur. Fakat annenin iskeletindeki bir seri numarası, onun bir kadın kadına değil bir dişi kopyasına ait olduğunu gösterir. Bu, yıkıcı bir keşif, çünkü çoğaltıcılar çoğaltılamazlar. Eğer yapabilirlerse, insan toplumu “insandan daha fazla insan” olan bir ırk haline geldikçe üzerecektir. K, doğumun tüm kanıtlarını yok etmeyi ve ortaya çıkan çocuğu izlememizi emreder. K, iskeletin Rachael’nin olduğunu keşfeder. K sonunda Rachael’in eski sevgilisi Deckard’ı (Harrison Ford) tekrar takip etmeyi başardığında, Deckard Rachael’in hamile kaldığını doğruladı. Onu bir grup asi replikatörü ile bırakarak korumuştu ve çocuğu hiç görmemişti. İsyancılar, doğumunu, insanlıklarını onaylayan ve özgürlük ve tam haklar için mücadelelerini güçlendiren bir “mucize” olarak adlandırıyorlar. Bu arada, Niander Wallace da çocuğu ve çoğaltılmış reprodüksiyonun sırrını aramaktadır, böylece kendi kendini sürdüren bir köle ırkı inşa edebilir. Ajanları K’ye saldırıp yaralar ve Deckard’ı kaçırırlar ama K onu kurtarır. Sonunda, K, daha önce başvurduğu implant edilmiş anılarla ilgili bir uzmanın, Deckard’ın kayıp çocuğunun yetişkinliğe doğru büyüdüğünü fark eder. Film K’nin Deckard’ı kızıyla ilk kez buluşturmasıyla sona erer.

RUR ve Blade Runner filmleri, sentetik varlıkların doğasıyla ilgili belirli varsayımlar sunarak, isyanlarda ve yaşamakta kendilerini ifade ettikleri gibi kendilerini bilinçlendirir. Bununla birlikte, bilim ve felsefe, kendi bilincimizin bile anlam ve hayatta kalma değeriyle uzun süredir güvendiler. Bu, üretilen varlıklarda bilincin ortaya çıkıp çıkmayacağını ve nasıl ortaya çıkacağını belirlemeyi zorlaştırır. Bununla birlikte, RUR ve Blade Runner filmlerindeki sentetik varlıklar kendi kendine farkında oldukları varsayılır; ve onlar insanlığa hizmet etmek için inşa edilmiş özerk varlıkların ilk görünüşleri değiller. M.Ö. dördüncü yüzyılda Aristoteles, kendi isteğiyle çalışan makinelerin insan emeğini azaltabileceğini ve hizmetçi ve köle ihtiyacını azaltabildiğini gördü. Eğer her enstrüman kendi çalışmalarını gerçekleştirebilir, başkalarının iradesini yerine getirebilir veya bekleyebilirse… mekik gibi, örgüsünü örecek ve mızrap, onlara yardım etmek için bir el olmadan dokunursa, baş işçiler hizmetkarları istemezlerdi, efendi köleler de yoktur. Bu, otonom makinelerin, eğer gerçekten makineye benziyorlarsa, köleliğin etik lekesini ortadan kaldırabileceği örtülü bir argümandır. Ama eğer imal edilmiş köleler insanlar gibi davranacak ve davranacaklarsa, kendi hassasiyetlerimizi onlara yansıtıp, insan nitelikleri hayvanlara ve cansız şeylere eklediğimizde yaptığımız gibi, onlarla empati kurabileceğimiz gibi, oldukça insani bir şey yaparız. Ve eğer bu varlıklar zeka, bilinç ve özgür iradeye sahip olsaydı, insan ustalarına karşı isyan edebilirler. Her iki durumda da, varlıkların kendilerinin ahlaki olup olmadığını bilmeyi içeren karşılıklı ilişkimizin doğasını tanımlamamız gerekecekti.

Bilim kurgu yazarı Isaac Asimov, bu olasılıkların bir kısmını klasik kısa öykü koleksiyonu olan I, Robot (1950) ‘da insanlara göre robotlar için bir ahlak kuralına öncülük eden Robot , Üç Hukuk Kuramı:

(1) bir robot, harekete geçme veya eylemsizlik yoluyla bir insana zarar vermeyebilir;

(2) Bir robot, Birinci Yasa ile çelişen durumlar dışında bir insandan gelen bütün emirlere uymalıdır;

(3) Bir robot, İkinci veya Üçüncü Kanunlarla çelişmesi dışında, kendi varlığını korumalıdır.

Bu düzgünce tanımlanmış yapı Asimov’un birçok akıllı hikayesinde yer alıyor, ancak bu sadece insanları insanlık dışı şiddete karşı koruyan tek yönlü bir sorumluluk ve İkinci Kanun’da robotları köle benzeri bir konuma sokuyor. İnsanların robotlara olan borcunu belirten, üç İnsanlık Yasası yoktur.
Diğer bir zorluk ise, katı kuralların ahlaki kararların tüm inceliklerini kapsayamamasıdır. Bu sorunun bir biçimi, ve şu anda daha acil bir şekilde tartışıldı: Yeni özerk askeri silah kategorisini arkadaşını düşmandan, sivilden askerden ayırt etme yeteneği nasıl verilir? ya da kimin öldüreceğine karar verirken gerçek olandan görünen silah mı? Bu seçimler, Birinci Yasanın battaniye kuralını takip etmekten çok daha karmaşıktır: “bir robot insanlara zarar vermeyebilir.” Bir makine ahlaki olsun ya da olmasın, biz insanlar ahlaki varlıklar olduğumuzu düşünmekten hoşlanırız. Bu ahlaki duyu, sentetik varlıklara genişletilebilir mi? Emsaller var. Dinsel ya da kişisel inançlar, birçok insanın zeka ve ahlaki anlamsızlıklarından ya da bildiğimiz kadarıyla kendi başımızdaki kadar karmaşık bir içsel bilinçten bağımsız olarak hayvan türlerine ahlaki bir borç hissettirmelerine yol açmıştır. Acı çektirmek ya da hayatlarını kısa kesmek istemiyoruz, ve dahası çaresiz ve kendilerini savunamadıklarında. Robotların, Robotların Etik Tedavisi için İnsan olarak adlandırılan aktivist bir gruba ihtiyaç duyduklarını düşünmek hala erkendir. Henüz insan benzeri olmayan ve Blade Runner replikanları olarak köle statüsüne karşı koruyucu destek veya sempati uyandıran sentetik varlıklar yoktur . Fakat toplum bu yeni varlık sınıfını fark etmeye başlıyor.

Avrupa Birliği, robotların ve yapay zekaların denetlenmesini ve böylesi özerk sistemlere tüzel kişiliğe, kurumsal kişiliğe benzer bir şekilde izin vermeyi tasarlıyor. Bu, sistemler ve yapımcıları için ahlaki yargılar için bir başlangıç noktası olan hak ve sorumlulukların tahsis edilmesi için yasal bir çerçeve sağlayacaktır. Ekim 2017’de, Sophia adında bir kadınsı robot Birleşmiş milletlere hitap etti. Yüz ifadelerini konuşabilme ve değiştirebilme yeteneğine sahip, ancak açıkça kişiden daha fazla makine olan Sophia, soruları yanıtladı ve el becerilerini sergiledi. Suudi Arabistan Krallığı tarafından Sofya’ya vatandaşlık verildi. Orada düzenlenen bir teknoloji konferansında (insan ve kadın hakları konusundaki zayıf bir kayıt, bunu sentetik bir varlık için bile anlamlı bir yükseltme yapmayan bir rejim). Bununla birlikte, robot ve insan haklarının bu yan yana yerleştirilmesi, fabrikada üretilen robotlar ve yapay zekaların değil, mevcut insan modelinde genetik olarak tasarlanmış varyantların yaratılması için önemli bir olasılığın altını çizmektedir. Bu, kendilerini ırkımızın liderlerini ya da insanlığın geri kalanına hizmet etmek için yaratılmış “aşağı” versiyonlarını düşünen “üstün” varlıklar üretebilir. Her iki durumda da, eski ve yeni insanlar arasındaki yükümlülükler, şu andan itibaren farklı olmayacaktır.

Birbirimize insan olarak ne borçluyuz? Bu soruyu kendimiz için cevaplayabilmemiz için, kreasyonlarımız için cevaplayamayız.