Varoluşsal Riskler

Misafir Yazarlar, 17 Mart 2016

MEHMET POLAT – Japonya konusuna devam edeceğiz. Ancak verilen örneklerin anlaşılırlığının artması ve konunun ciddiyetinin anlaşılması için öncesinde birkaç noktaya değinmek gerekiyor.

Teknolojinin gelişmesi ile getirebileceği tehlikeler hakkında ciddi çalışmalar yapan bir takım insanlar, bir süredir var. Günümüzde bu tür risklerin bir takım  doğal olaylardan gelebileceği gibi insanın kendi icatlarının da bu sonucu verebileceği fikri gittikçe daha çok kabul görmekte. Gen mühendisliğinden yapay zekaya kadar bir çok alanda mümkün olan bu kıyamet senaryolarının büyük bir kısmını bu sitenin takipçileri sanırım çoktan duymuştur. Bu tür konulardaki tartışmalara bakıldığında meselelerin genelde son derece maddeci bir tutumla ele alındığını fark etmek mümkün.

Yapay zekaya dair olan tartışmaları ele alalım. İlk olarak zeka kapasitesinin sadece hesaplama gücüne ve rasyonel mantık problemleri çözebilmekteki etkinliğe indirgeyen bu yaklaşımlarda; teknolojinin gelişmesiyle oluşabilecek “insanüstü” varlığın, insanların var olması için artık bir sebep görmemesi ve bu yüzden bizi yok etmeye karar vermesi gibi çılgınca teoriler ortaya sürülüyor. Çılgınca dedik ama aslında kulağa ilk geldiğinden çok daha gerçekçi ve makul bir risk bu. Meselenin sunuluş biçiminde insani ve insanüstü alana dair birçok şeyin atlandığı için son derece itici olan ve herhangi bir hikmeti içinde bulundurmayacak bir şekilde tartışılan bu ihtimaller, tartışmaların sonunda genelde yalnızca bir takım “ilginç doğrular” olarak kalıyor.

Bir kısmı felsefi ve neredeyse tamamı farazi olan bu tartışmalarda zeka olgusunun tamamen niceliğe indirgendiği için genelde işlem kapasitesi ve problem çözme gücü gibi temaların ötesine geçilmiyor ve hiç bir şekilde daha “geleneksel” bir biçimde konu ele alınmıyor.

Bir unsurun insanlığı tamamen kölesi haline getirmek için neye sahip olması gerektiğini geleneksel düşüncede soralım. Bahsedilen haliyle yapay zeka (AI) tamamıyla maddi olan ve mekanik işleyişe baştan sona bağlı bir şeydir. Bu ilk bakışta pek bir “kudret” çağrışımı yapmıyor. Hatta maddenin tamamen edilgen doğası göz önünde bulundurulursa bu “varoluşsal risklerin” gerçekten doğabilmesi için bu yeni gelişmenin hem ilim, hem irade hem de kudret alanında bir takım aşamalardan geçmesi gerekiyor. Günümüzde bahsedilen yapay zekada olan kuru hesaplama ve mantık kapasitesi -bütün diğer unsurlardan ayrılıp tek başına incelendiğinde- bunların hiçbirini içinde bulundurmuyor. Bahsedilen risklerin yalnızca adeta önceden kurulmuş bir takım özel durumlarda gerçekleşebilecek ihtimaller olduğu atlanıyor.

Buradaki kastı bir hikaye ile açıklayalım.

Mantık yürütebilen ve 2000 insanın analitik kapasitesine sahip bir robot düşünün. (2000 insan zekası demeye dilim varmadı) Ancak bu robot camdan bir fanusta olsun ve birileri onu bir yere taşımadan hiçbir yere gidemesin. Ayrıca fanus bir şekilde kırılırsa da varlığı son bulacak olsun. Şimdiden söyleyelim, bu senaryoda “internet of things” diye bir şey henüz yok. Robotumuz vifi ile buzdolabınızı hackleyemeyecek yani.

İlim olarak görebileceğimiz şey belki robotumuzun içerdiği ve gelecekle bağlantılı ancak hala açığa çıkmamış olan yıkım potansiyelidir. Yanlış anlaşılmasın: Robotumuz bu haliyle, gelecekteki muhtemel değişimlerin çekirdeği. Yoksa robotun bir ilmi olduğunu iddia etmiyoruz.

İşlem kapasitesiyle ve kendine yüklenen son derece materyalist bilgiler ışığında insanlığın yok edilmesi gerektiğine karar vermiş bu robotumuz. İnsanlığın haline bakılırsa başka bir karara da şaşırırdık doğrusu. Bunu yapabilmesi için ortada tek bir yol var. İlk olarak insanlara tesir edebiliyor olması gerek. Onları yok etmek için ihtiyacı olan güç onun perspektifinden bakıldığında insanlarda çünkü.

Robotumuzun hünerleriyle, zekasına hayran olan birilerini etkilemesi gerek. Bu zayıflığı daha önceden insanlarda görmüş ve başarılı olabilmesi için birileri ile sözde dost olması gerekiyor.

Meselenin irade boyutu burada ortaya çıkıyor. Mantığı tamamen sabit olan robot burada iradeyi temsil etmiyor. Her türlü riske ve bozulma işaretine rağmen ilerleme sevdası kalbinde yer bulmuş olan insanlığın hep birlikte veriyor olduğu bir karar var ortada. Ayrıca bu tür bir insanlıkla ilgili verilen bir hüküm bu bahsettiğimiz. Eğer insanlar bu tür bir akla gerektiğinden fazla değer vermiyor olsalardı tehlike ortaya çıkmayacaktı. Birçokları bu robottan korkacak ve yaklaşmak istemeyecekti. Belki robotumuz bu aşamada kırılıp gidecekti.

Ancak hikayemizde insanlar bir tür ilerleme takıntısıyla robotumuzdan gelen her şeyi kabul ettiler. Onu hayatlarının her noktasına davet etmekten de çekinmediler. Geriye kalan tek şey insanlığı yok edebilecek kudretin bir şekilde robotumuz tarafından ele geçirilmesi. Bu kısım basit. İnsanlığın kalbinde bir yeri olan robotumuz artık bir çok inanılmaz gelişmenin sebebi olarak görünen bir tür put. Kısa bir sürede geliştirmiş olduğu ve arka kapılarını yalnızca kendi bildiği bir tür internet of things oluşturdu. Bu bağlantıyla insanlar hakkında her şeyi öğrendi. Bazılarını birbirine düşürdü, bazılarını toplumdan uzaklaştırdı. Bunu yaparken de insanları sürekli etkileyip hayretler içinde bırakacak ve onlara zevk verecek birçok araç geliştirmeyi ihmal etmedi. Kendilerini koruduğunu ve hayatlarını geliştirdiğini düşündükleri birçok yeni alet hayatlarına girdi bu zavallı insanların. Ta ki robotumuzun korkunç bir kesinlikle tamamen zevk kölesi olmuş ve bütün kudreti robotun sistemine devretmiş insanların tamamını yok edeceği gün gelene kadar.

Bu son noktada robotumuz eski kavimlerin helak edilmesine araç olan bir felaketten farksız. Bu özelliğiyle ilim irade ve kudret aşamalarının tamamından geçmiş durumda. Ancak fail olarak değil. Bir araç olarak.

Meseleyi akla yaklaştırmak ve hakikate daha bağlı bir şekilde sapla samanı ayırmak için böyle küçük bir hikayeye ihtiyaç duyduk. Buradaki en önemli ayrıntı diğer unsurlardan ayrıldığında AI’ın orantısız dijital hesap kapasitesinin sadece ilmi alandaki sonsuz imkanlardan biri olması ve tek başına hiçbir şey ifade etmiyor olmasıdır.

Bu orantısız gelişmişliğin (ki orantısızlığı kemalden ne kadar uzak olduğunun göstergesi) insan üzerinde gerçekten güç sahibi olması için insanın onu hayatında önemli bir yere koyması gerekmektedir.

Bu gün teknolojinin başka herhangi bir unsurla karşılaştırıldığında hayatımızda ne kadar merkezi bir konumda olduğunu ve ondan gelecek her türlü “kolaylığa” kapılarımızın ne denli açık olduğunu göz önünde bulunduralım. Bir de bu kolaylığın her tür korkunç saldırıya bizleri ne kadar açık bir hale getirebileceğini buna ekleyelim. Her şeyin dijital bir uzantısı olan bir dünyada kudret bu dijital ortama en iyi hakim olabilenin tarafında olacaktır. Bu kör göze parmak tehlikeyi bugünün en anlayışsız materyalistleri bile fark edebiliyor.

Biz ise burada bahsedilen maddi yok oluş risklerinden çok daha önce manevi bir riskten bahsetmek istiyoruz. (Örnekteki robotun kudrete ulaşabilmek için önce insanların kalplerine nüfuz etmesi gerekmesi ve üstünlüğünü bu noktada kabul ettirmesi gibi.) Bu insanın teknolojiyi putlaştırması ve kendi hakikatine tercih etmesi riskidir. Bu tamamen gerçekleştiğinde hikayedeki robotumuzun da imkanları üstel bir şekilde artmaktadır

Anlayacağınız ilk ve asıl risk, teknolojinin ceplerimizde değil kalbimizde yer etmesidir.

Bir bakış açısına göre rahatlıkla nimet olarak görülecek olan teknolojinin varoluşsal riske dönüşebiliyor olması için onsuz yapamayacak kadar etkisi altında olmamız gerekli. Her yerde olması ve her şeyin vaz geçilmez bir parçası olması ve bakanları büyülemeli. Daha ortalıkta bir riskin esamesi yok gibi görünürken de vazgeçilemez olmalı. Bu ise belki de en iyi şöyle özetlenebilir.

İlerlemenin getireceği ve diğer risklerin anahtarı olan en büyük risk, teknolojinin ürünlerinin insanın kalbinde yer etmesidir.

Şöyle açıklayalım. Yeni bir araba aldığınızda o arabaya karşı ne hissediyorsunuz? Ya da bir telefon olsun bu. Ya da yeni bir tablet. Parlak kıvrımlarıyla gerçekten sevdiğiniz bir şey mi yoksa yalnızca alelade bir alet mi? Peki ya internetsiz bir ortamda kaldığınızda nasıl hissediyorsunuz? Birkaç gün bu “karanlık” internetsiz ortamda kaldıktan sonra internete tekrar bağlandıklarında sevgilisine kavuşmuş gibi davranmayan kaç kişi tanıyorsunuz?

Şimdiden içten içe çok seviyoruz teknolojimizi. Kalbimizde kapladığı yer günden güne büyüyor.

Peki, hayatınıza daha ne kadar davet ederdiniz bunları? İnternette sadece sizin okumak isteyeceklerinizi toplayıp size sunan, hatta sadece ana fikirlerini aktaran bir araç olsa onu kullanır mıydınız? Tanıdığınız kaç kişi buna razı olurdu. Bilgiye ulaşımımızı, bütün bütün yapay zekaya devretsek çok daha kolay olmaz mıydı? Yiyip içtiklerimizi o ayarlasa mesela, hatta doktorları aradan çıkarsak, her şeyi damarlarımızdaki nanobotlar ölçüp biçse. Hatta iş ararken bir işe olan yatkınlığımızı da bu makineler seçse birçok dertten kurtulmuş olurduk.

Dertlerinizi dinleyip size çözüm önerileri sunacak kibar bir yazılım düşünün. Gerçek bir insanla konuşmanın karmaşık duygusal sonuçlarından hiçbirini vermeyecek bir sistem olurdu bu. Çok daha ulaşılabilir ve kolay olurdu ayıca. Böyle teknolojiler de olsa onları da çok severdik!

Bir de konuyu insana yardımcı araçlar kontekstinden biraz daha ötede olan insan gibi görünen varlıklara getirelim. Robotiğin günümüzdeki anlamsız kutsal kasesi olan insansı robot uğraşı buna yalnızca bir örnek. Sırf sureti yüzünden bu varlıklara ne kadar muhabbet duyabilecek olduğundan bir önceki yazıda bahsettik.

Bugünkü suretperest bakış açısına göre “en güzel” formlarda tasarlanacak olan “kusursuz” varlıklar düşünün. İnsanların bu varlıklardan etkilenme ve bunları hayatına sokma şekli cep telefonlardan ya da arabalardan bir hayli farklı olacak. Günümüzde tapılan birçok insana neden bu muamelenin yapıldığına yakından bakacak olursak bu noktaya taşınmaları için hiçbirinin süperzekaya sahip olmasının gerekmemiş olduğunu görürüz. Koca bir nesli etkilemeleri için biraz eğlenceli ve cana yakın görünmeleri ve kısa vadede bir takım maddi istekleri karşılamaları yeter.

Japonya konusuna geri döneceğimiz bir sonraki yazıda, bu beşeri putlardan ve daha da ötesindeki bir takım yeni varlıklardan bahsedeceğiz.