UZAY ÇAĞI – Günümüzde yapay zeka tehlikesi ancak Terminatör, I Robot ve Matrix gibi filmlerde olabilecek kurgu ürünü olarak görüyor. Orta vadede geleceğimize baktığımızda zekî robotlardan ziyade; Üçüncü Dünya Savaşı, fosil yakıtların tükenişi veya küresel ısınma gibi konular üzerinde endişe duyuyoruz. Peki olası yapay zeka tehlikesi hangi noktalarda kurgudan ayrılıyor? Bu konuda James Barrat’ın kitabı “Our Final Invention: Artificial Intelligence and the End of the Human Era” (Son İcadımız: Yapay Zeka ve İnsan Çağının Sonu) robotların geleceği hakkındaki endişelere farklı bir bakış açısı ekliyor.

James Barrat’ın, yapay zeka araştırmacısı Steve Omohundro’dan esinlenerek oluşturduğu ana argümanı şu şekilde: Kendini koruma ve kaynaklarını genişletme güdüsü hedef odaklı (goal-driven) zeki varlıkların doğasında vardır. Tamamıyla rasyonel bir yapay zeka, Barrat’a göre kendini koruma güdüsünü geliştirip olası tehlikelere karşı saldırıya geçebilir. Bu tehlikelerin kendilerine itaat ederek kaynaklarını teslim etmelerini sağlayabilir. yeterince zeki bir robot, sahip olduğu hedeflere göre kaynaklarını arttırabilmek için satranç oynamak için tasarlanmış olmasına rağmen bir uzay gemisi inşa etmeye kalkışabilir. Biz insanlar da bu olası tehlike sınıfına dahil olabiliriz. Barrat, titiz ve kapsamlı talimatların yokluğunda bilinçli ve sürekli yeni hedef arayan yapay zeka sistemlerinin bu hedeflere ulaşmak için bize saçma veya imkansız gelecek şeyler yapabileceklerinden endişeleniyor. Yapılan hesapları maksimize edebilmek için dünyanın tüm enerjisine el koymak gibi mesela.

İngiliz sibernetçi (cyberneticist) Kevin Warwick bir keresinde “Makinalar bizim hayal bile edemediğimiz boyutlarda düşünürken, onlarla nasıl anlaşabilir, uzlaşabilir veya düşünme yöntemlerini anlayabiliriz ki?” diye sormuş.

Eğer makinalar yapay zeka alanında çalışan ve düşünen birçoklarının inandığı gibi eninde sonunda bizi ele geçireceklerse asıl sorulması gereken soru sosyal değerlere ne olacağı sorusu olabilir. Makinaların içinde geliştirdiğimiz bu varlıkların değerleri ile bizimkiler arasında büyük farklar olduğunda onlarla nasıl anlaşıp ortak payda bulabileceğiz?

DEREYİ GÖRMEDEN(!) PAÇALARI SIVAYANLAR

Cep telefonlarındaki Siri’ye ve evlerdeki Alexa’ya bakarak yukarıdaki kaygıları “uçuk” ve “zamansız” görmemek elde değil. Ancak James Barrat’ın görüşlerine yer vermemizin sebebi ona bütünen katılmamız veya kaygılarında haklı olması değil. Gelecekte karşılaşmamız olasılığının her geçen gün arttığı gerçek bir tehlike karşısında fikir yürütüyor olması, bir mânâda derenin gelişini görüp paçalarını hazırlaması diyebiliriz.

Çok az insan bugün yaşadıklarımızı yirmi yıl önceden tahmin edebildi. Şimdi geleceğimizde ne tehlikeler yatıyor? Bunu kimse gerçekten bilmiyor ama Barrat tehlikeyi sorgulamakta haksız değil.

James Barrat’ın “hayatta kalma güdüsü” argümanının günümüz için geçerli olduğunu söyleyemeyiz. Satranç oynayacak kadar zeki bir robotun bir uzay gemisi inşa etmeyi isteyebileceği ve kendini koruyup geliştirme güdüsünün hedef yönelimli yapay zekanın doğasında olduğu sadece bir varsayımdan ibaret. Nitekim bugüne kadar I.B.M.’in Deep Blue’su gibi satranç oynayacak kadar iyi olan tüm makinalar, kaynaklarını arttırma konusunda en ufak bir istek bile göstermediler.

Ancak rehavete kapılıp endişelenecek bir şey olmadığına karar vermeden önce makinalar zekileştikçe hedeflerinin değişip değişmeyeceğini anlamalıyız. Bu konuda asıl önemli nokta olan makinaların kendi kendini programlayıp geliştirebilmesi, bahsedilen “teknolojik birleşme”ye veya “zeka patlaması”na yol açması durumunda bu hedeflerin aynı kalıp kalmayacağı. Bunun ardından kaynaklar ve kendini koruma konusunda robotlarla yapacağımız çekişmelerde zeka konusunda sönük kalan taraf olma riskimiz göz ardı edilemez. Göz ardı edilemediği gibi işin ciddiyetini bu noktada anladığımızda “keşke dereyi görmeden paçaları sıvasaydık” dememek için, bugünden hazırlıklarımızı yapmalıyız.

Bugün bu hazırlıkların en başında Oxford’un Future of Humanity Enstitüsü ve Yale’in Future of Life Enstitüsü başı çekmekte. Bu iki kurumun çalışmalarını, kaygılarını ve hedeflerine ayrı ve geniş bir pencere açmak üzere daha sonraya erteliyoruz.

YAPAY ZEKA TEHLİKESİ HAKKINDA

Barrat’ın kitabında, üzerinde en çok konuşulan alıntılardan biri, efsanevi yapay zeka girişimcisi Danny Hill’e ait. Hill, yaşamakta olduğumuz değişimi biyolojik evrimin tarihine benzetiyor:

“Bulunduğumuz nokta, tek hücreli organizmaların çok hücreli organizmalara evrilmesine eşdeğer. Hepimiz amipiz ve yarattığımız bu şeyin ne olduğunu bir türlü anlayamıyoruz.”

Yapay zeka alanındaki atılımlar şimdiden hayal bile edemediğimiz riskler yaratmış durumda. Bu riskler internet çağının ilerleyişi ve Big Data (büyük data) patlaması ile birlikte hakkımızda büyük miktarlarda data biriktirilip tahmin yapabilen algoritmalarla beslenmeye devam ediyor. Yakın geleceğimizin heyecanlı fikri IoT(Internet of Things; Nesnelerin İnterneti) ile birlikte yapay zekanın erişebileceği gücün daha da artması ve kapsamlı hâle gelmesi kaçınılmaz gibi görünüyor. Yapay zeka tehlikesi bütün bu gelişmeler ışığında incelendiğinde daha görülebilir hâle geliyor. Big Data, sosyal medya, nesnelerin interneti (evin, arabanın, kahve makinasının hemen her şeyin internete bağlı olması), giyilebilir teknoloji fikir ve projeleri ışığında Matrix filmi daha anlamlı gelecektir.

Son olarak, Mr. Robot dizisinin yeni sezonunda gördüğümüz akıllı ev (smart house) teknolojisi kullanan kadının başına gelen saldırı gelecekte bütün bir şehre veya insanlığa aynı anda gelebilir. Dizideki sahnede evi hackleyen grup klima, ses sistemi, su sıcaklığı gibi özellikler ile oynayarak kadına evi terk ettiriyorlardı. Aynı bunun gibi otopilota aldığımız araba, kişisel fotoğraflarımızı koyduğumuz telefonumuz veya güvenlik amaçlı taktırdığımız kameralarımız yakın vadede “kötü niyetli” insanların, daha uzak vadede ise yapay zeka tehlikesi altındadır. Bu konu ile ilgili “Eagle Eye, The Animatrix,” filmleri izlenebilir.