Süperzeka – 1

Faruk Ay, 31 Ağustos 2016

Süperzeka (Superintelligence) ya da Yapay Genel Zeka (Artificial General Intelligence – AGI), yapay zekanın insan zekasını geçtiği noktadan itibaren ortaya çıkan yeni bilinç formu için kullanılan tanımlar. Peki, bu kritik nokta aşıldığında belki saniyeler belki saatler belki günler içinde (muğlaklık bu noktadan sonra insan zekası için tek seçenek zira bizden çok daha zeki bir bilincin nasıl gelişeceğini öngörecek bir zekaya sahip değiliz) artık durdurulamayacak şekilde kendini geliştirebilen bir sistem dost mu yoksa düşman mı olacağını nerden bileceğiz?

Kamuoyunda da kendisine bir hayli yer bulan Future of Life (Yaşamın Geleceği) enstitüsünün yayınladığı ve Bill Gates, Stephen Hawking ve Elon Musk gibi isimlerin destek verdiği bildiride açık bir şekilde bu sorunun cevabının ne kadar önemli olduğu belki de insanlığın  yakın gelecekte karşılaşacağı en büyük tehlikelerinden biri yapay zeka gelişiminin kontrolden çıkması görülüyor.

Ortaya çıkacak Süperzeka’yı dostane (Friendly AI) ya da dostane olmayan (Unfriendly AI) olmak üzere olası iki senaryoya göre ele almak mümkün. Bugüne kadar özellikle kurgu bilim alanında dostane olmayan Süperzeka oldukça revaçta. Bunlardan birkaçına göz atalım.

Harlan Ellison’in kısa hikayesi “I have no mouth and I must scream” üçüncü dünya savaşı sırasında Çin, Rusya ve Amerikan Süperzekaları’nın birleşmesinden neşet eden bir Süperzeka sırasıyla “Allied Mastercomputer” (Müttefik Anabilgisayar), “Adaptive Manipulator” (Uyum sağlayan Manipülatör) , “Aggressive Menace” (Saldırgan Tehdit) ve son olarak kendisine “düşünüyorum öyleyse VARIM” ifadesinden hareketle “var olan” (AM) ismini verir. En belirgin özelliği insanlardan sonsuz derecede nefret etmesi ve bütün bir insanlığı öldürüp geriye sadece işkence etmek için beş kişi bırakmasını konu alan bu hikaye oldukça karanlık bir gelecek ortaya koyuyor.

Buna çok benzer bir kurguyu 1966 yılında yazılan “Colossus” isimli hikayede görmek mümkün. Amerikan (Colossus) ve Rus (Guardian) Süperzekaları kimse nasıl haberleştiklerini bile farketmeden birleşip tek bir varlık haline geliyor. Hem de dünyadaki tüm nükleer silahların kontrolüne sahip bir varlık.

Stanley Kubrick’in 2001 Space Odyssey filminde ismini IBM den esinlendikleri HAL 9000 de kendi planını uygulayan süper zeki ve bilinçli bir varlık olarak tasvir ediliyor.

Yine Terminator filminde bilinç kazanıp kendi ajandasını yürürlüğe koyan SkyNet (yayına alındıktan sonra kendisinin farkına varması 25 gün alıyor, ondan sonrası saniyeler içinde gerçekleşiyor) insanlar uzerinde egemenliği hiç de dostça yöntemler kullanarak gerçekleştirmiyor.

Matrix de gördüğümüz Süperzeka (bilinci Mimar karakteri ile sunulan) daha çıkarcı bir şekilde insanları enerji ihtiyacını karşılamak için pil olarak kullanıyor.

Bütün bu distopik hikayelerde, dostane olmayan Süperzeka’nın kendisinin  farkına vardığı andan itibaren (bilincin oluşması, self-awareness) kendi hedeflerini kendisinin belirlediği ve gerekirse bu hedeflere ulaşmak için insanları yanıltıp kandırdığı ve yine gerekirse bütün bir insanlıktan kurtulma konusunda tereddüt etmediğini görüyoruz.

Maalesef şu ana kadar yapılan çalışmalarda dostane olmayan bir Süperzeka’nın engellenmesi için ortaya makul öneriler konulduğunu söylemek mümkün değil. Sadece bir niyet olarak evet böyle bir tehlike var ve bunun üzerine çalışmak gerek şeklinde birçok ünlü ismi de içine katarak çıkarılan bir bildiri ve birkaç enstitünün gayreti var. Diğer yandan evrensel insani değerlerin korunması için biz tür olarak ne kadar başarılı olduk acaba ve bunu bir makineden bekleyerek kendimizi mi kandırıyor olacağız?

Peki Süperzeka’nın en temelde dostane olması sağlanabilir mi? Asimov’un robotlar için önerdiği “Üç Robot Yasası” işe yarar mı? Asimov gelecek için nasıl bir Süperzeka öngördü? Bunların hepsinin cevabı bir sonraki yazıda.