Prematüre Düşünceler ve Sorular – 5

Bedirhan Sonakın, 13 Nisan 2017

YZ hakkında düşünürken, ister istemez Isaac Asimov ve 3 Robot Kuralı da aklınızın bir köşesinde yer ediyor. 3 Robot Kural’ı, Asimov’un ilk olarak 1942’de yayınladığı Runaround isimli hikayede net bir biçimde geçiyor. Kuralları sıralamak gerekirse:

1. Bir robot, bir insana zarar veremez ya da eylemsizliği ile bir insanın zarar görmesine izin veremez.

2. Bir robot, bir insanın verdiği emirlere 1. kural ile çelişmediği sürece uymak zorundadır.

3. Bir robot 1. ve 2. kural ile çelişmediği sürece kendisini de korumalıdır.

Asimov ilerleyen dönemlerde bu kurallara bir de 0. kuralı, yani temel kuralı eklemiştir.

0. Bir robot insanlığa zarar veremez ya da eylemsizliği ile insanlığın zarar görmesine izin veremez.

Açıkçası Asimov’un külliyatının sadece bir kısmını okumuş bir kişi olarak, bir çok noktada Asimov’un kendisinin de bu kuralları muğlaklaştırıp, yorumlanmasını zorlaştıran durumlara hikayelerinde yer verdiğini gördüm. Hikayelerdeki bu durumları, potansiyel okuyucuların okuma zevkini bozmama adına detaylandırmayacağım. Ancak internet üzerinde kısa bir tarama ile bu kurallarla ilgili onlarca eleştirel yorum bulunabileceğini söylemekle yetinmeyi tercih ediyorum. Bu eleştiriler çoğunlukla mantık çerçevesinde incelenip ortaya koyulan eleştiriler. Ancak benim açımdan, en azından bu yazı için, önemli kısmı makina etiği konusunda oluşturduğu zemin olacaktır.

Özellikle YZ konusunun ortaya çıkışı ile birlikte yükselen bir tartışma konusu olan makina etiği, aslında YZ etiği olarak adlandırabileceğimiz etik tartışmanın bir kolunu oluşturuyor. Bu tartışmanın bir diğer kolu da robot etiği olarak adlandırılıyor. İkisi arasındaki ayrım basitçe ortaya koymak gerekirse:

Robot etiği: Yapay zeka taşıyan varlıkların üretilme sürecinde insanların uyması gereken etik kurallar bütünü.

Makina etiği: Yapay zeka ve etik anlayışı sahibi varlıkların (Artificial Moral Agents) uymaları gereken etik kurallar bütünü.

Makina etiği konusu da tartışmaya şu sorularla geliyor:

YZ ahlaki sorumluluk taşır mı?

Eğer mümkün olursa, YZ’nın “yaratıcısı” olan insan, bir YZ’ya hangi şartlarda ve hangi zamanda ahlaki değerler aktarmalıdır?

Bu tartışmada, bir taraf YZ’nın ahlaki sorumluluğu olamaz, bu sorumluluk onu üretene ya da üretenlere aittir savını öne sürerken, diğer taraf da modern makinaların karmaşıklığını ve makinaya kodlanan belirli kuralların öngörülemez bir biçimde değişme potansiyelinin olduğunu göz önünde bulundurarak, YZ’nın ahlaki açıdan sorumluluk sahibi olması gerektiğini öne sürmektedir.

Ben yine bu yazı dizisinin önceki bölümlerinde sorduğum ancak cevabını henüz bilmediğim sorunun bu noktada önem taşıdığını düşünüyorum. Bu soruyu bir örnekle tekrar gündeme getirmek istiyorum. Günümüzde, bir otomobil firmasının ürettiği bir aracın içindeki bir insanın, meydana gelen bir kazada göreceği maddi ve manevi tüm zararlar, eğer kazanın sebebinin, kullanıcı hatası değil de üretimden dolayı oluşan bir hatadan ötürü oluştuğu tespit edilirse, üretici firma tüm zararları karşılamaya mahkum ediliyor. Varsayalım bu hata fren sistemi ile ilgili bir hata olsun, bu defa üretici firma, kendisine fren sistemleri satan firmaya karşı hukuki bir girişimde bulunuyor ve fren sisteminin mi hatalı olduğu yoksa montaj sırasında mı bir sorun oluştuğu araştırılmaya başlanıyor. Bu sorumlu arama silsilesi, işin karmaşıklığı doğrultusunda ilerlemesi mümkün bir silsile.

Hemen bu örneği yakın zamanda hayatımıza gireceğini düşündüğümüz sürücüsüz araçlar konusu bağlamında düşünelim. Varsayımsal olarak kullanıcı hatası olarak adlandırdığımız kavram bir anda aracın sürüş işleminden sorumlu YZ’ya atfedilir hale gelecek gibi gözüküyor. Ancak hala yukarıdaki sürücülü örnekte ortaya koyduğumuz sorunlar varlığını sürdürecekler. Yani bu YZ’nın bir hatası olabileceği gibi, YZ’nın yapamaya çalıştığı eyleme karşılık veremeyen araç aksamının da hatası olabilecek.

Bu örnekte YZ’nın ahlaki açıdan sorumlu olabileceği durum için şöyle bir varsayımsal ortam düşünmek gerekecektir. Tüm ulaşım sisteminin otonom bir YZ tarafından yönlendirildiği, ulaşım ağının herhangi bir noktasındaki bir araçtan tutun, ulaşım sistemine eklenen her bir parçanın hammaddesinin dahi üretiminde aynı YZ’nın denetiminin olduğu çok karmaşık ve geniş bir ağ tahayyül edin. Yani herhangi bir noktasında, herhangi bir insanın karar verme mekanizmasına dahil olmadığı, bu nedenle insani hata ihtimalinin sıfıra indiği, tamamıyla makina zekasıyla işleyen bir sistem düşünelim. Bu sistemi işleten YZ’nın da evrimsel algortimalar sayesinde yapay evrimini sürdüren ve çalışma prensipleri açısından artık başlangıç noktasına göre oldukça geliştiğini düşünelim. Şimdi bu durum ile ilgili şu soruları soralım:

Böyle bir YZ’yı inşa eden kişiler ya da kurumlar bu YZ’nın meydana getirebileceği potansiyel zararlardan sorumlu olurlar mı?

Kabaca öğrenen sistem olarak tabir edeceğimiz bu sistemde oluşabilecek olası hatalardan dolayı meydana gelen ve insanların zarar gördüğü durumları, sistemin öğrenme süreci olarak mı tanımlayacağız, yoksa bu sistem de insana zarar veriyor mu diyeceğiz?

Böyle bir durumda rasyonel aklımızı! devreye sokarak, insanların hakim olduğu trafik sisteminde istatistiki olarak oluşan maddi ve manevi zararlar daha fazlaydı yaklaşımına mı başvuracağız?

Bu tarz rasyonel! yaklaşımları örneğin savunma/savaş sistemleri için de öne sürebilecek miyiz? Yani YZ nedeniyle hayatını kaybeden insanları, YZ’nın öğrenme sürecinin bir parçası olarak mı göreceğiz?

Örneğin girişinde belirttiğim gibi cevabını aradığım soru şu: YZ bir alet mi?

Ben ortaya atılan tüm bu ahlaki-etik soruların ve sorunların temelinde, insanlar olarak ortaya koyduğumuz yapılara, sistemlere bakışımızın hastalıklı doğasının olduğunu düşünüyorum. İnsanlık olarak bildiğimiz tarihimiz, YZ olmadan bile kendi ürettiğimiz sistemlerin, kural kümelerinin harcadığı, yok ettiği ve ezdiği insan hikayeleri ile dolu. Ahlaki-etik tutarsızlığımız, ortaya koyulan tüm sistemlerde, yapılarda ve kurumlarda varlığını sürdürmeye devam ediyor. Bu minvalde devam edeceksek, üreteceğimiz YZ’nın da bizim vaaz ettiğimiz kurallara uyacağını beklemek ya da bize insanlık olarak refah sunacak bir yapı olmasını beklemenin pek mümkün olmadığını düşünüyorum.

Devam edeceğiz…