Yapay Zeka tehdidine karşı argüman: OpenAI

Yıldız Keskin, 21 Haziran 2016

Bugün bazı çevrelerde yapay zekâ, insanlığa sadece rahatlık ve mutluluk getirecekmiş gibi bahsedilirken başka birçok çevrede yapay zekânın yol açtığı veya açacağı sorunlar ve tehlikelerden bahsediliyor. Büyük bilgi yığınlarını işleyerek bunları yapay zekânın kullanabileceği hale getirerek büyüyen ve birçok sektörde tekel hale getiren şirketlerden ve bunların çalışmalarının bir gün insanlığın başına bela olacağından Jaron Lanier, Martin Ford gibi birçoğu ciddi bahsediyor. Varoluşsal riskler açısından da yapay genel zekânın muhtemel en büyük tehdit olduğu görüşü yaygın (Bir “I Robot” veya “Terminatör” senaryosu gibi). Mesela Hawking, “Tam gelişmiş yapay zekâ, insanlığın sonunu getirebilir” diyor. Ancak bu gelişmelere genel olarak önü alınamaz gibi bakıldığı için bu tartışmaların ve özellikle teknoloji etiğinin bunlara hiçbir engel teşkil etmediğini görüyoruz.

Bu faaliyetlerin karşısında sadece kararlı bir anti tavır sergilemek yerine çözümün bu gelişmelerin, insanlığa faydalı sonuçlar verecek uygulamalarını üretmek ve geliştirmek olduğunu görüyoruz. Bu anlamda özellikle Eliezer Yudkowsky gibi uzmanlar da bir “friendly AI” üzerinde çalışıyorlar. Çünkü bir yapay zekânın nihayet “uyanması durumunda sonuçlarının önü alınamaz ve geri dönülemez şekilde yıkıcı olduğuna inanılıyor. Bu yazıda da, girişimciliği ve geleceğe yönelik yatırımlarıyla bilinen Elon Musk’ın yapay zekâ problemine sunduğu çözümden ve OpenAI’dan özellikle bahsetmek istiyorum.

“Açık yapay zekâ” olarak bahsedebileceğimiz bu şirket 2015’in sonunda kuruldu ve kâr amacı gütmeyen bu şirket, herkesin sahip olabileceği bir yapay zekâ yazılımı geliştirmek için çalışıyor. Bloglarında yazan açıklamaya göre yapay zekâ, “insanın dileklerinin bir uzantısı” olmalı,  “özgürlüğün ruhu içinde, mümkün olduğunca herkese eşit dağıtılmalı ve herkesin kullanımına sunulmalı”. Ayrıca “eğer yapay zekâya ulaşılırsa topluma sunacağı yararların yanında zararlarını da öngörmek imkânsız”.

Şirket, Silikon Vadisinin Elon Musk, Peter Thiel ve Reid Hoffman gibi büyük tanınmış yatırımcıları tarafından finanse ediliyor ve şimdiden 1 milyar dolarlık yatırım sözü var. Önümüzdeki birkaç yıl için ise bu paranın çok küçük bir bölümünün harcanacağı belirtiliyor. Şirketin başkanları Elon Musk ve Y Combinator yatırım grubunun başkanı Sam Altman. Ayrıca şirketin araştırmalarında çalışmak üzere Google gibi şirketlerden de birçok ünlü AI uzmanı alınmış. Elon Musk ile yapılan bir röportajda kendisine bu yatırımla ilgili ve kendisinin yapay zekâ ile ilgili görüşleri soruluyor.

Elon Musk’ın da korkusu, tam anlamıyla gelişmiş bir yapay zekânın ortaya çıkmasının bir despotizmi doğurması. Buradaki despot ta yapay zekâ veya onu kontrol eden kimseler. İsmini vermiyorum ama bunu yapabilecek te zaten sadece bir tane şirket var (Google) diyor. Bilindiği gibi bugün bu alanda en hırslı çalışan ve en ileride olanlar de Google, Facebook, Apple gibi şirketler. Özellikle Google, yapay zekâ ve uygulamalarına (sürücüsüz arabalar, resim ve görüntü algılama vb.) yönelik alanlarda satın aldığı birçok şirket ile biliniyor. Yani eğer buna ilk ulaşan böyle bir şirket olursa korkulan senaryo gerçekleşmiş olacak. Biz de bilgi teknolojisinin gelişmesiyle bir plütokratik sistemin ortaya çıkması, orta sınıfın ekonomik olarak çökmesi gibi sorunlara değinmeye çalışmıştık.

Ancak Elon Musk, yapay zekânın ortaya çıkmasına engellenmesi veya geciktirilmesi gereken bir olgu olarak kesinlikle bakmıyor. Bunun yerine zararsız, faydalı ve herkesin erişimine açık, “demokratik” bir yapay zekânın yapılmasını gerekli görüyor. Eğer herkesin kendi AI ajanı olursa bu despotizmin önüne geçileceği kanısında. Bu konuda yaklaşımını da gayet diğerkâm buluyorum. OpenAI’ın kâr amacı gütmeyen bir şirket olarak kurulması da bunun bir yansıması.

Peki, varoluşsal bir risk sorunu olarak yapay zekâya OpenAI’ın çözümü ne? Bir yapay zekânın uyanıp ta insanlığı köleleştirmesi veya yok etmeye çalışması ihtimali burada yok mu? Aslında her icadın iyi veya kötü için kullanılması mümkün iken bir silahın tek kişinin elinde olmasının asıl tehlike olduğu söylenebilir. Eğer bu silah herkesin elinde olursa, yani herkesin kendi AI’ına sahip olursa kolektif bir çabayla kötü niyetlilere karşı iyi niyetli kişilerin karşı durabileceği Musk’ın görüşü. Bu görüş te bana Jaron Lanier’in bir fikrini hatırlattı. “Gelecek Kimin” yazı serisinden hatırlarsanız Lanier, çok büyük çaplı “big data” ya sahip bir avuç şirketin ekonomide herkese baskın gelip tüm rekabeti elemesine karşı, big dataya birçok kişinin veya şirketin sahip olması ve bunu işleyen şirketlerin çokluğunun bu probleme çözüm olabileceğinden söz ediyordu. Burada kötü niyetli cephenin karşısında iyi niyetli bir cephenin durabileceği düşüncesi var. Bu da son derece gerçekçi bir yaklaşım. Dünyaya pembe gözlüklerle bakıp tüm sorunları görmezden gelmek yerine bir mücadelenin her zaman mevcut olduğu yaklaşımı kanaatimce son derece kabul edilebilir.

İnsan olarak fıtratımız göz önüne alınırsa bu paradigmanın yine çok yerinde olduğunu düşünüyorum. İnsanları pasif bir bekleyişe, karanlığa ve tembelliğe itme yerine böyle bir mücadele ortamının beklediğimiz fırsat olduğunu söyleyebilirim. Özellikle bu son çağın karakteristiği olan pasiflik anlayışı insanlığın çok canını yakmıştır ve ümidini kırmıştır. Son birkaç on yılda Afrika’ya yapılan onca yardıma rağmen hala yüz milyonlarca insanın açlıktan ölüyor olması, buna rağmen ikiz kulelerin yıkılması veya Ortadoğu’da ortaya çıkan saçma sapan bir terör örgütünün Dünya’yı müthiş bir güvensizlik ortamına sokabilmesi bu pasifizmin bir sonucudur. Çünkü bu çağda insanlardan mücadele ruhu sökülüp alınmış, bütün çabaların boşuna olduğu kabullendirilmiş ve diğerkâmlık ruhu mağlubiyete uğratılmıştır. Bu yüzden ekonomide herkesin kendi kârı için çalışması prensip haline gelmiştir.

Oysa ekonomiye diğerkâmlık ve vicdan elemanlarının tekrar sokulması gerekir. Bugün bu terimden anlaşılan “bedava paylaşımlar”ın aslında, Jaron Lanier’in bahsettiği gibi bu eşitsizlik ortamını tırmandırmaktan başka bir amaca hizmet ettiği yoktur. Ancak inanmak gerekir ki doğru fırsat verilirse birçok insan da bu konuya kendini adayarak probleme çözüm olmak için çalışacaktır. Böylece insanlığı kasıp kavuran çıkarcılık savının karşısında insanların diğerkâmlık duyguları haklı çıkacaktır.

Konuya dönecek olursak Elon Musk’ın da böyle bir çözüme inandığı söylenebilir. Yani OpenAI gibi bir şirketin kurulmasının temelinde böyle bir düşüncenin yattığı söylenebilir. Elbette OpenAI’ın yaklaşımının ne kadar isabetli olduğu da tartışılabilir. Örneğin, varoluşsal riskler üzerinde uzman Nick Bostrom’un bu fikre yaklaşımı “eğer insanlığa zarar verecek işler yapan bir düğme varsa bunu herkesin eline vermezsiniz” şeklinde olumsuz olmuş. Ama yine de böyle büyük bir tehdide böyle bir yaklaşımın mantıklı olduğunu ve bu çerçevede düşünmenin doğru olduğuna inanıyorum. Umuyorum ki bu çözüm önerisi farklı camialarda tartışma konusu edilir ve insanların ufkunu açar.