Süperzeka – 2: Kontrol

Faruk Ay, 13 Eylül 2016

Isaac Asimov 72 senelik hayatında bilim kurgu başta olmak üzere hemen hemen her konuda 500’den fazla kitap yazdı. Bir ömre sığan bu sayısal çokluğun yanında özellikle bilim kurgu alanında ortaya koyduğu başarılı eserler hala konuşuluyor ve hafızalardaki yerini koruyor.

Hikayelerinde kullandığı bazı kavramlar ingilizce diline resmi olarak girdi. Örneğin Psikotarih tabiri tamamen kurgusal olsa da Oxford İngilizce Sözlüğü’nde kendisine yer buldu. İlginç bir kavram Psikotarih, sosyoloji, tarih ve istatistik alanlarının karışımından oluşan bu kavramın ortaya çıkışında biyokimya profesörü olan Asimov, gaz moleküllerinin hareketinden esinlendiğini söylüyor. Gaz moleküllerinin hareketi tek tek incelendiğinde öngörülebilirliği çok düşük ama bir grup olarak ele alındığında moleküllerin toplu hareketi tahmin edilebiliyor. Burdan hareketle kurguladığı Psikotarih üzerinden günümüzün Big Data kavramına benzeyen kitlelerin hareketinden bireylerin başlarına gelecek olaylara kadar belli bir olasılık içinde seçenekleri sıralayan bir kurgu bilim dalı. Bir nevi bilimsel kahinlik.

Bir başka kavram da Asimov’un tüm hikayelerim arasında en sevdiğim hikaye dediği Son Soru’da geçen Multivac kavramı. Günümüzde tartışılan süperzeka’nın en ilkel formu olan ve gezegen ölçeğinde problemlerimizi çözüp bize uzaya yayılmamızda yardımcı olan en ilkel formu daha sonra Galaktik, Evrensel ve son aşamada Kozmik AC’lar takip eder. (AC: Otomatik Bilgisayar) Hikayeyi daha da ilginç yapan şey ise hikayenin sonunda son evresine ulaşan ve kainatın yok oluşuna engel olamayan süperzeka’nın yok olan herşeyi yeniden başlatmak için eski ahit’te yaratılışın ilk sözü olarak geçen ‘ışık olsun (Let there be light!)’ der.  (İslam inancına göre Nur-u Muhammedi’nin yaratılışı)

1956 da yazılan bu hikayeyi Davut Demirhan’ın Omega Point yazısı ile birlikte düşünürseniz aslında meselenin fikri altyapısının çok net bir şekilde ne kadar eskiye dayandığını görmek mümkün.

Asimov’un literatüre kazandırdığı ve en bilineni Robotik kelimesidir herhalde. Robot kelimesini ilk kullanan Karel Čapek olsa da onların geleceğini betimleyen ve bu konunun bir bilim sahası olmasının önünü açan Asimov’dur.

Asimov 1942 yılında Robotların davranışlarını sınırlayan ve insan(lık) için zararsız bir şekilde var olmalarını sağlayan 3 robot yasasını ortaya koymuş ve hikayelerindeki robot karakterleri bu kurallara bağlı kalarak yazmıştır.

• 1) Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
• 2) Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
• 3) Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.

Fakat daha sonra bu yasalara bir tane daha ekleme zorunluluğu hisseden asimov şu yasayı sıfırıncı yasa olarak eklemiştir (sıfırıncı yasa ilk gözetilecek yasa diğerleri bunun sağlandığı koşulda dikkate alınacak)

• 0) Bir robot insanlığa zarar veremez ya da zarar görmesine seyirci kalamaz.

Bu yasaları günümüz süperzekasını geliştirirken kullanabilir miyiz peki? Bostrom bu soruya oldukça zor diye cevap veriyor. Sadece birinci yasayı ele aldığımız zaman bile ortaya birçok problem çıkıyor. Mevcut sürücüsüz araçlarda bile insan sürücünün hatası sonucu oluşabilecek bir kazada hangi kritere göre karar alacak, örneğin karşıdan karşıya geçen bir yayaya çarpmamak için karşı şeride geçip bir başka araçla mı kafa kafaya çarpışmalı, yoksa yolun dışına çıkıp araç içindeki insanlara mı zarar gelmesine izin vermeli. Hangi kararı verirse versin bir insan zarar görecek bu durumdan ve birinci yasa maalesef bu durumu önleyemiyor. Ayrıca ‘zarar’ın tanımını yapmamız gerek, burada bahsedilen fiziksel zarar ya psikolojik zararlar, ya da yapay zekanın inşa edeceği herhangi bir şeyin göz zevkimize vereceği olası zararlar bunlar da hesaba katılacak mı? Peki ya insan dışı canlılar ne olacak, onların hayatı önemsiz mi? Kural bazlı bir sistemin süperzeka gibi kompleks bir yapıyı sınırlamak için çok zor olacağını bunun sonunda ya çok sınırlayıp elde etmek istediğimiz faydayı sağlayamayacağız ya da kendi sonumuzu hazırlayacağız.

Peki Bostrom ne öneriyor bu durum karşısında. Sanılanın aksine Transhümanist akımın destekçisi olan Bostrom her türlü teknolojik gelişimi desteklemekle birlikte ortaya çıkacak problemlere de kafa yorulması gerektiğini düşünüyor ve işin kontrol mekanizması ile ilgili birkaç olası Süperzeka modelinden bahsediyor.

Kahin (Oracle)

Belki de en güvenli görünen yol. Sorduğumuz sorulara evet ya da hayır diyerek (belki bir de yüzde ekleyerek aynı psikotarihte olduğu gibi) insanlığın önündeki problemleri çözmeye yarayan süperzeka modeli. Bu modeli kapalı bir kutuda tutup dış dünyaya erişimini engelleyebiliriz. Ayrıca birbiri ile irtibata geçmediğinden emin olunan benzer kahin süperzekalar ile cevapların tutarlılığı karşılaştırılabilir. (çünkü insandan çok daha üstün bir zeka için insanı kendi ajandasına göre manipüle etmek zor olmayacaktır.) Tabi böyle bir sistemi elinde tutan kişi eline inanılmaz bir güç geçirdi demektir. Bu da kötüye kullanılması durumunda herhangi bir güvencemizin olmadığı anlamını taşır.

Lambadaki Cin (Genie)

Alaaddin’in Sihirli Lambası gibi bir model, biz ne istersek onu en etkili bir şekilde gerçekleştiren bir süperzeka. Birşeylerin yanlış gittiğini düşündüğümüzde durdurabiliyoruz ya da verdiğimiz emri geri alabiliyoruz. Bir güvenlik önlemi olarak ‘önizleme’ şeklinde verdiğimiz emrin ne gibi sonuçlar doğuracağını öğrenebiliyoruz. Bu da Kahin modeli gibi kullanana büyük bir güç vaad ediyor.

Hükümdar (Sovereign)

Diğer iki modelden farklı olarak bağımsız hareket eden ve insanlığın isteklerini yerine getiren bir süperzeka. Burada süperzekayı kullanan tarafın (operatör) bu gücü kötüye kullanmasını engelleyecek şekilde otonom bir yapıya sahip olması bir güvenlik önlemi olarak görülse de, süperzekanın alacağı kararlarda herhangi bir kontrol mekanizması uygulamak zor.

Bunlar kontrol açısından ele alındığında ortaya çıkan bazı modeller. Bir de meselenin motivasyon yönü var, yani süperzeka herhangi bir zarar ortaya çıkmadan (ya da minimum zararla) insanlığın yararına çalışması için nasıl bir güdüye sahip olmalı, biz neden umrunda olmalıyız? Bir sonraki yazıda bu sorunun cevabını inceleyeceğiz.