FLI ve ITIF – YZ Üzerine Farklı Yaklaşımlar

Bedirhan Sonakın, 16 Şubat 2017

Asilomar’da yapılan Faydalı Yapay Zekâ konferansının sonucu olarak çıkan 23 maddeyi bir önceki yazıda sıralamıştık. Bu 23 maddeyi incelemeden önce, etkinliği düzenleyen FLI (Future of Life Institute) üzerine biraz yoğunlaşmak iyi olacaktır. Çünkü bu kadar yıldız ismin katıldığı bir etkinliği düzenleyebilmek başlı başına önemli bir başarı, hem de bunu ikinci defa yapıyorlar. FLI’ın danışma kurulu oldukça kalabalık, Stephen Hawking, Elon Musk, Nick Bostrom başta olmak üzere pek çok ünlü isim var.

Enstitünün kurucuları ise 5 kişiden oluşuyor, bunlar arasında ilgi çekici isimlerin ilki Jaan Tallinn. Tallinn, Estonya’da fizik derecesi olan, hatta bitirme tezini yıldızlar arası seyahat üzerine veren bir kişi. Ancak onu hem ünlü hem de zengin yapan şey, Skype ve Kazaa gibi uygulamaların kurucularından olması. Hali hazırda da teknoloji şirketlerine yatırım yapmaya devam ediyor. FLI’nın kuruculuğu yanında, Cambridge’deki “Varoluşsal Risk Araştırmaları Merkezi’nin (CSER) de kurucularından birisi. Bunun yanı sıra Eliezer Yudkowsky’nin yönetiminde olduğunu söyleyebileceğimiz, MIRI’nin (Machine Intelligence Research Institute) de bağışçılarından birisi. Jaan Tallinn’in temel olarak üzerinde durduğu konu ise, insanlığın varoluşsal riski ve Tallinn yapay zekayı da bu risklerden birisi olarak görüyor.

FLI’nın diğer 4 kurucusu da alanlarında önemli olan araştırmacılar. Ancak bunlar arasındaki en önemli kişi, muhtemelen Max Tegmark’tır. Bir astrofizikçi ve kozmoloji uzmanı olan Tegmark’ın en önemli konusu, evren hakkında önümüzdeki 50 yıl içerisinde tümleşik bir matematiksel denklem bulunabileceği konusundaki iddiasıdır. Max Tegmark, evrenin matematikle açıklanmasından ziyade, matematiğin kendisi olduğu görüşündedir. Matematiksel evren kuramı olan bu kuram, gerçekliğin matematiksel bir yapı olduğunu öne sürer ve hem paralel evrenler hem de multiverse konularına kapı açar. Bu konulardaki görüşlerini 2014 yılında yayınlanan “Our Mathematical Universe” isimli kitabında ortaya koymuştur. Jaan Tallinn gibi, varoluşsal riskler Tegmark için de önemlidir ve kitabının son bölümü buna ayrılmıştır. DeepMind’da araştırmacı olarak yer alan Viktoriya Krakovna, UC Santa Cruz’da akademisyen olan Anthony Aguirre ve Meia Chita-Tegmark diğer kuruculardır. Özellikle Anthonu Aguirre’nin, Tegmark ile benzer konularda uzmanlığı ve araştırmaları olduğunu belirtmek önemli olacaktır.

 

FLI kendisine hedef olarak, teknolojinin ortaya koyduğu ve koyması ihtimaller dahilinde olan birçok yeniliği insanlar açısından faydalı hale getirmeyi koymuştur. Biyoloji ve yapay zekâ alanlarındaki gelişmeler ile nükleer silahlar, FLI açısından en önde gelen risk unsurlarıdır. FLI kâr amacı gütmeyen bir organizasyon olduğu için bağışlarla ilerleyen bir yapıya sahiptir. En fazla bağış yapan kişiler arasında birinci sırayı Elon Musk almıştır.

 

Yazının başında belirttiğimiz husus ise FLI’nın bu kadar yıldız ismi bir araya nasıl topladığıydı. Bunun için 2015 yılına gitmemiz ve Elon Musk’ı bir numaralı bağışçı yapan 10 Milyon Dolarlık bağışı dikkate almamız gerekmektedir. Elon Musk bu bağışı 2015 yılında FLI tarafından Porto Riko’da düzenlenen ve Asilomar’da yapılan organizasyonun önceli olan “Yapay Zekanın Geleceği: Fırsatlar ve Zorluklar” konferansından sonra yapmıştı. 2015 yılında yapılan bu etkinlikte de birçok ünlü isim vardı. Musk bu bağışı, YZ’nın insanlar için faydalı olacağına emin olmak için yaptığını belirtmişti. FLI’ya yapılan bu bağışın büyüklüğünü anlamak için şöyle bir örnek verilebilir, 2 senelik bir organizasyon olan FLI’nın kurucusu Jaan Tallinn 17 yıldır aktif olan MIRI için bugüne kadar yaklaşık 600,000 Dolar tutarında bir bağışta bulunmuştu. Neredeyse şu söylenebilir ki, Elon Musk’ın yaptığı bağış, bu kadar süre içinde MIRI’nin sağladığı tüm bağışlarının toplamını geçmektedir. Bu veri farkı bile bizlere FLI’ın önemli bir oyuncu olarak sahneye çıktığını gösteriyor.

 

Hem 2015’te düzenlediği “Yapay Zekanın Geleceği: Fırsatlar ve Zorluklar” temalı ilk konferans, hem de bu yıl düzenlediği “Faydalı Yapay Zekâ” temalı ikinci konferans ile FLI, YZ alanındaki en önemli kişilerin hepsine kendi çatısı altında söz söyleterek ve ardından da “Asilomar Yapay Zekâ İlkeleri”ni yayınlayarak bu alanda söz sahibi hale geldi. Örneğin Nick Bostrom’un Oxford merkezli FHI (Future of Humanity Institute) hem varoluşsal riskler konusunda hem de YZ konusunda önemli bir merkez olsa da bu alana hiç girmedi. Bu anlamda FLI hakkında bu alanın en önünde bulunan ve zaten kendi sitesinde de partner kuruluş olarak verdiği MIRI, FHI ve CFI gibi kuruluşların şimdilik lideri konumunda olduğu söylenebilir.

 

YZ çevresinde tüm bu olup bitenlere rağmen, herkesin bu konuya Nick Bostrom, Jaan Tallinn ya da Elon Musk gibi yaklaştığını düşünmek tabi ki pek de makul değil. Bu alanda özellikle Ray Kurzweil’in isteseniz de istemeseniz de olacak şeklinde basitleştirilebilecek yaklaşımı zaten biliniyor. Buna rağmen Ray Kurzweil, FLI’nın Asilomar etkinliğinde yer aldı. YZ konusunda tüm bu endişeleri farklı nedenlerden ötürü yersiz bulan bir diğer kişi de Washington D.C. merkezli ITIF (Information Technology & Innovation Foundation) adlı vakfın başkanı olan Robert D. Atkinson. Bir ekonomist olan Robert D. Atkinson ITIF dışında, Clinton yönetiminden beri, her ABD Başkanı tarafından bürokraside çeşitli noktalara getirilmiş bir kişi. Kurucusu olduğu Washington D.C. merkezli ITIF kendisini, inovasyon, gelişim ve ilerlemeyi destekleyen, bu konuda politikalar geliştirilmesi yönünde faaliyetlerde bulunan bir think-tank olarak tanımlıyor. Bunun yanında Atkinson, başta Huffington Post olmak üzere farklı mecralara da makale üretiyor.

Robert D. Atkinson ve ITIF, genel yaklaşım olarak her inovasyonu, gelişimi ve ilerlemeyi destekledikleri için, yapay zekâ konusunda da benzer bir bakış açıları var. Sarkastik yaklaşımları ile bu konuda endişe dile getiren kişileri neo-Luddite olarak yaftalıyorlar. Örneğin 2015 yılı için verdikleri yılın neo-Luddite’ı ödülünün 2 alanını YZ ile alakalı başlıklar dolduruyordu. Bunlardan birisi YZ kıyametini anlatanlar diğeri ise “ölümcül robotları” yasaklamaya çalışanlar olarak ortaya konulmuştu. Kıyamet atfı muhtemelen Nick Bostrom, ölümcül robot atfı ise Elon Musk, Bill Gates ve Stephen Hawking içindir.

 

Robert D. Atkinson, kendi yaklaşımına göre YZ alanındaki 5 efsaneyi, Huffington Post’da yazdığı makalede şu şekilde sıralıyor:

 

• YZ bir çok işi ortadan kaldıracak – Atkinson buna kesinlikle karşı çıkıyor. Ona göre ne işsiz bir sınıf ve makineleri yöneten elitler olacak, ne de YZ tüm işleri üstlenebilecek. Yine de YZ her işi yapacak kadar gelişse bile, bu verimliliği arttırıcı bir unsur olacak ve tarih boyunca verimlilik arttıkça işsizlik de azalmıştır.
• YZ bizi aptallaştıracak – Nicholas Carr’ın özellikle “Shallow” kitabında ortaya koyduğu otomatikleşmenin sadece işlerimizi değil, yeteneklerimizi ve yaşamlarımızı da alacağı iddiası, Atkinson için geçerli değil. Çünkü YZ bazı rutin işleri ve bunlara bağlı yetkinliklerimizi elimizden alacak, tıpkı araba ortaya çıktıktan sonra ata binmeyi bilen insan sayısının azalması gibi.
• YZ mahremiyeti ortadan kaldıracak – Atkinson bunu bir teknoloji sorusu olmadığını, bilakis bir idare sorusu olduğunu belirtiyor. Bu konuda gerekli yasal düzenlemeler yapılırsa YZ de ona uymak zorunda kalacaktır diye düşünüyor.
• YZ peşin hükümlülüğü ve kötüye kullanımı arttıracak – Atkinson YZ geliştiren ve işleten kişilerin, kurumların ya da organizasyonların, YZ’nın bu tarz istenmeyen sonuç doğuran çıktılarından sorumlu olduklarını düşünüyor. Ona göre YZ bu tarz bir peşin hüküm sahibi olmuşsa bu onu programlayanlardan kaynaklanıyordur.
• Akıllı makinelerin insanlığı yok edişi – Atkinson öncelikle insana eşdeğer bir YZ üretilebileceğine pek inanmıyor. Bunun yanında hem silikon bazlı bilgisayar çiplerinin büyüme hızlarının yavaşlamasını, hem de YZ’nin öğrenme hızının yavaş oluşunu da negatif unsurlar olarak ortaya koyuyor. Nick Bostrom’un YZ ilk olarak insanları öldürür tezini ve “ölümcül robotlar” hakkındaki endişeleri, bilim kurgu filmlerinin iddialarını ciddiye almak gibi görüyor.

 

Robert D. Atkinson’un ve ITIF’in yaklaşımı biraz sığ gibi gelse de hem temas ettikleri doğru noktalar mevcut, hem de farklı bir ses çıkması açısından değerli. Buna rağmen, varoluşsal riskin varlığını tamamen ortadan kaldıran bir yaklaşımın hem ihtiyat açısından hem de gerçekçilik açısından eksik olacağı öngörülebilir.

 

Gelecek yazıda Asilomar’da ortaya konan 23 madde üzerinden yazımıza devam edeceğiz.