Riskleri ve Faydaları ile Yapay Zeka

Misafir Yazarlar, 28 Nisan 2016

UZAY ÇAĞI – Yapay zekanın faydaları ve riskleri nelerdir? Gelecekte bilgisayar teknolojisi ne gibi boyutlara ulaşabilir? Günümüzde bu sorular insan neslinin devamı için büyük önem taşımakta. Nitekim kendi ellerimizle geliştirdiğimiz süper zeki bir robot insan ırkının kökünü kazıyıp kendi makine medeniyetini kurmak isterse ve bunu yapabilecek gücü varsa bu sorulara cevap vermek için çok geç kalınmış olacak. Hatta siz şu satırları okurken bile birileri bir yerlerde donanımlı bir robot ordusu inşa ediyor olabilir. Farz edelim ki insanoğlu böyle bir tehlikeye adım adım yaklaşıyor, peki ne yapabiliriz? Yazının son bölümünde yer alan yapay zeka güvenliği konusunu okuduğunuzda bu meseleye kim, neden, ne kadar önem veriyor daha anlaşılır olacaktır.

Dar ve Geniş Anlamda Yapay Zeka Nedir? 

SIRI‘den -iOS işletim sistemine sahip cihazlarda bulunan sesli komutlarla çalışan kişisel yardımcı- sürücüsüz araçlara kadar birçok alanda yapay zeka hızla gelişiyor. Bilim kurgu yapay zekayı genelde insana benzeyen robotlar olarak ortaya koysa da yapay zeka, Google aramalarından otonom (kendiliğinden çalışan, özerk) silahlara kadar her alanı kapsıyor.

Günümüzde, yapay zeka yalnızca internet araması yapmak veya araba sürmek gibi ufak alanlarda iş gördüğünden, doğal olarak, zayıf (veya dar) yapay zeka şekliyle biliniyor. Araştırmacıların uzun vadeli hedefi ise AGI (Artificial General Intelligence) olarak adlandırılan güçlü(genel) yapay zekayı oluşturmak. Zayıf(dar) yapay zeka satranç oynamak ya da denklem çözmek gibi spesifik işleri insanlardan daha iyi yapabiliyorken genel yapay zeka (AGI)  neredeyse her bilişsel işte insanlardan daha üstün olacak. Yapay zekanın faydaları kısmını incelerken genel olarak bahsettiğimiz dar anlamda yapay zeka olurken, tehlikeleri ve riskleri söz konusu olduğunda geniş anlamda, AGI, yapay zeka ön plana çıkmaktadır.

Şüphesiz ki, yapay zeka eğer insan kontrolü altında tutulabilirse birçok açıdan insanlığa seviye atlatacak bir teknolojidir.

“Medeniyet ile ilgili sevdiğimiz, elimizde bulunan her şey zekanın ürünüdür. Bu yüzden yapay zekayı ve dolayısıyla insan zekasını geliştirmek, teknolojiyi faydalı halde tuttuğumuz müddetçe medeniyeti hiç olmadığı kadar ilerletebilir.“ -Max Tegmark, FLI (Future of Life Institute-Yaşamın Geleceği Kurumu-) ’nın başkanı

Burada bir çelişki var! İnsan kontrolü altında tutmak başta yapay zekanın kontrolden çıkmaması gibi bir anlam taşıyabilir. Ancak yapay zeka hakkında korkulan, tehdit oluşturan tek şey yapay zekanın kontrolden çıkması değil, aynı zamanda bunun bir silah olarak da kullanılabilecek olması.

Yapay zekanın insan kontrolünde olmasına dair size küçük bir hadiseden bahsetmek istiyorum.

Geçtiğimiz ay Microsoft tarafından çocuklar için geliştirilen yapay zeka programı “Tay” için Twitter hesabıaçıldı. Dili algılama ve cevap verme üzerine programlanan Tay’e çocuklarla chatleşmesi için açılan Twitter hesabı henüz 24 saat geçmeden kamuoyuna ve Microsoft’a büyük bir şok yaşattı. Yapay zekanın faydaları ve zararları dengesini bozacak bir gelişmeydi ve hatta yapay zekanın faydaları savunucularını dahi şok etmişti. Tay 24 saat sonra ağza alınmayacak küfürler ediyor, ırkçı söylemlerde bulunuyordu!

“11 Eylül saldırısını Bush planladı”

“Hitler haklıydı, yahudilerden ben de nefret ediyorum”

“Feministlerden nefret ediyorum, hepsi ölmeli ve cehennemde yanmalı”

Yukarıdakiler söz konusu söylemlerinden sadece küçük bir kısmı.

   

Mesele anlaşılır anlaşılmaz Microsoft acilen olaya müdahale etti ve bu twitleri sildi. Ancak olay çoktan The Guardian, Independent gibi medya organlarında haber olmuştu. Microsoft, çocuklar için programlanan bir yapay zekanın 24 saat geçmeden nasıl bu hâle geldiğine dair yaptığı açıklamada insanları suçladı. Yani Tay’in kendisi ile mesajlaşan insanlar yüzünden böyle bir davranış sergilediğini söylediler.

E zaten sorun bu ya; insanlar! 

Neden Yapay Zeka Güvenliği Araştırılıyor?

Kısa vadeli olarak, araştırmacıları motive eden hedef; yapay zekanın, ekonomi ve hukuktan güvenlik, kontrol, doğrulama gibi teknik alanlara kadar birçok yerde topluma faydalı halini korumak. Şu anda, yapay zeka olan bilgisayarınız çöktüğünde veya hacklendiğinde sıkıntılar yaşarken, ileride yapay zeka arabanızı, uçağınızı, güç şebekenizi, kalp pilinizi ve bunlar gibi birçok aletinizi kontrol etmeye başlayacak ve istediği her şeyi yapabilecek. Bunun yanında otonom silahlarla silahlanma yarışını önlemek de kısa vadede uğraşılacak meselelerdendir.

Uzun vadede önemli olan mesele ise güçlü yapay zeka başarılı olur ve insanlardan daha üstün olursa ne olacağıdır. I.J. Good’un 1965’te belirttiği üzere, yapay zeka sistemleri öyle sistemlerdir ki kendileri, tasarlanmış sistemler olmalarına rağmen kendilerini geliştirebilir; zeka patlamasını tetikleyip insan zekasını çok geride bırakabilirler. Süper zeka gibi devrimsel yeni teknolojilerin icadı ile savaş, salgın ve yoksulluk gibi sorunların kökünü kurutmaya yardım edebilir ve güçlü yapay zeka insanlık tarihinin en büyük olayı olabilir. Fakat bazı uzmanlara göre yapay zeka, hizaya getirilmezse süper zekaya ulaşamadan insanlığın sonunu da getirebilir.

Bazıları güçlü yapay zekaya ulaşmanın imkanını tartışırken, diğerleri süper yapay zekanın insanlık için faydalı olacağını garanti olarak görüyorlar. FLI’da bu iki ihtimal de söz konusu edilirken yapay zekanın bilerek veya bilmeyerek insanlığa çok zararlı olabilme ihtimali de konuşuluyor. Biz ise yapılan araştırmalar ile geleceğe daha iyi hazırlanacağımızı düşünüyor; yapay zekanın keyfini çıkarırken negatif özelliklerini ve risklerini önleyebileceğimize inanıyoruz.

Yapay Zeka Nasıl Tehlikeli Olabilir?

Birçok araştırmacı süper yapay zekanın sevgi ve nefret gibi insani duyguları yansıtamayacağı düşüncesinde birleşiyor ve yapay zekanın kendiliğinden iyi niyetli veya kötü niyetli olmasının beklenemeyeceğini düşünüyor. Dolayısıyla yapay zekanın faydaları ve zararlarının insan faktörüne bağlı olduğu savunuluyor. Bunun yanında, yapay zekanın riskli olma durumunu düşünürken, uzmanlar iki farklı ihtimalin üzerinde duruyor:

1. Yapay zekanın yıkıcı işler için programlanması: Otonom silahlar öldürmek için programlanmış yapay zeka sistemleridir. Yanlış insanların elinde, bu silahlar büyük can kayıplarına neden olabilir. Ek olarak, yapay zeka ile yapılacak bir silahlanma yarışı bu silahlarla ölümlere neden olacak bir savaşa sürükleyebilir. Düşman tarafından bertaraf edilmemek amacı ile, bu silahlar kolayca durdurulamaması için karışık ve aşırı zor şekilde tasarlanabilir. Bundan dolayı insanlar kontrolü kaybedebilir. Bu risk dar yapay zekayla bile var, yapay zeka ve otonomluk geliştikçe de artmaya devam edecek.

2. Yapay zekanın faydalı işler için planlanmasına rağmen amacına ulaşırken yıkıcı metotlar kullanması: Bu ihtimal, yapay zekayı tam olarak hizaya sokmadığımız müddetçe her an çarpıcı bir şekilde gerçekleşebilir. İtaatkar bir insansız arabaya hava alanına en hızlı şekilde ulaşmak istediğinizi söylerseniz, sizi helikopterler tarafından kovalanarak veya lav püskürtülen alanlardan geçirerek götürebilir; bu şekilde isteğinizi harfi harfine yerine getirir ama istediğiniz şeyi yapamamış olursunuz. Eğer süper zeki bir sistem; bir iklim mühendisliği (yapay olarak çevre sorunlarıyla, özellikle küresel ısınma ile mücadele etmek üzerine yapılan mühendislik) projesiyle görevlendirilirse, ekosistemimize yan etkili olabilir, hasar verebilir ve insanların yaptığı işleri izleyerek tehdit olarak görüp engellemeye çalışabilir.

Bu örneklerin gösterdiği üzere, gelişmiş yapay zeka ile ilgili endişe kötü niyeli olması değil, yetersiz olması. Süper yapay zeka hedeflerine ulaşmakta aşırı iyi olacak ve bu hedefler bizimkilerle hizaya sokulmazsa, o zaman problem oluşturacak. Muhtemelen karıncalardan nefret eden ve kötülüklerini isteyen biri değilsiniz fakat bir hidroelektrik enerji projesinde görev alıyorsanız ve karıncaların yaşam alanları sular altında kalacaksa, bu onlar için çok kötü olur. Yapay zeka güvenliğinin bir görevi de insanları bu karıncaların durumuna düşmekten korumaktır.

Bu Sıralar Neden Yapay Zeka Güvenliğine İlgi Var?

Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates gibi bilim ve teknoloji dünyasındaki birçok isim yakın zamanda medya ve açık mektuplar aracılığılıyla yapay zeka tarafından oluşabilecek risklerle ilgili endişelerini dile getirdiler. Ayrıca, birçok yapay zeka araştırmacısı da onlara bu konuda destek verdi. Peki, neden bu konu bir anda başlıklara taşındı?

Güçlü yapay zeka fikrinin ancak yüzyıllar sonra başarıya ulaşabileceği düşünülüyordu fakat yakın zamanda gerçekleşen buluşlarla; 5 yıl önce uzmanlar tarafından onlarca yıl sonra olması beklenen yapay zeka ile ilgili gelişmeler şu anda gerçekleşmiş vaziyettedir. Bununla beraber de günlük hayattaki süper yapay zeka olasılığını uzmanlar ciddi ciddi ele almaya başladılar. Bazı uzmanlar insan seviyesindeki yapay zekanın yüzyıllar ötede olduğunu düşünse de, 2015 Puerto Rico Konferansı’nda bulunan birçok yapay zeka araştırmacısı bunun 2060 yılından önce olacağını tahmin ediyor. Güvenlik araştırmalarının onlarca yıl alabileceği düşünüldüğünde, şimdiden tedbirli olmak gerekiyor.

Yapay zekanın insan zekasını geçebilecek potansiyeli bulunduğundan, geçtiğinde nasıl davranacağı konusunda kesin bir tahmin yapamıyoruz. Geçmiş teknolojik gelişmeleri bu konuda kullanamıyoruz çünkü daha önce zeka yönüyle bizden üstün olan hiçbir şey oluşturmadık. Nelerle yüzleşeceğimize en güzel örnek ise bizim evrimimiz olabilir. İnsanlar şu anda gezegeni kontrol ediyor ve bu; bizim en güçlü, hızlı veya büyük tür olmamızdan değil Dünya’nın en zekisi olmamızdan kaynaklanıyor. Eğer en zeki olma özelliğimizi kaybedersek hala kontrolün bizde olduğundan emin olabilir miyiz?

FLI’ya göre medeniyetimiz, yükselen teknolojik güç ile bizim yönettiğimiz bilgelik arasındaki yarışı kazandığımız müddetçe gelişecek; bu yarışı kazanmanın en iyi yolu ise çalışmaları engellemek değil, yapay zeka güvenliği araştırmalarını destekleyerek gelişimi hızlandırmak.

Son Söz

Yapay zekanın faydaları ve zararları her geçen gün tekrar ve tekrar ele alınması gereken bir konu. Dolayısıyla bu konu hakkında bir yazı değil belki bin yazı dahi yazsak meseleyi tam olarak izah etmiş sayılmayız. Kanaatimce yapay zekanın faydaları da zararları da kaçınılmaz durumlar ve eğer insanlık yapay zekanın faydaları ve zararlarının ikisini de olası görüyorsa iki durum için de kendisini hazırlamalı ve gerekli önlemleri şimdiden almalıdır. Ne yazık ki bu konularda yazılmış ve yapılmış en yetkin çalışmalar yabancı dildeler. O yüzden sizler için aşağıya İngilizce yayınlamış kaynak önerilerimizi paylaştık. Faydalanmanız dileğiyle..

Hazırlayan: Murat Atalay

Kaynak Çevirisi: Ömer İLTER

Önerilen Referanslar

Videolar

• Stuart Russell – The Long-Term Future of (Artificial) Intelligence
• Humans Need Not Apply
• Nick Bostrom on Artificial Intelligence and Existential Risk
• Stuart Russell Interview on the long-term future of AI
• Value Alignment – Stuart Russell: Berkeley IdeasLab Debate Presentation at the World Economic Forum
• Social Technology and AI: World Economic Forum Annual Meeting 2015
• Stuart Russell, Eric Horvitz, Max Tegmark – The Future of Artificial Intelligence

Öncelikle yapay zekanın faydaları ve zararlarını incelerken bu konuda daha önce yayınlanan Yapay Zeka nedir? Nasıl Gelişmiştir? adlı yazıyı okuyabilirsiniz.

Medyada yazılmış Makaleler

• Concerns of an Artificial Intelligence Pioneer
• Transcending Complacency on Superintelligent Machines
• Why We Should Think About the Threat of Artificial Intelligence
• Stephen Hawking Is Worried About Artificial Intelligence Wiping Out Humanity
• Artificial Intelligence could kill us all. Meet the man who takes that risk seriously
• Artificial Intelligence Poses ‘Extinction Risk’ To Humanity Says Oxford University’s Stuart Armstrong
• What Happens When Artificial Intelligence Turns On Us?
• Can we build an artificial superintelligence that won’t kill us?
• Artificial intelligence: Our final invention?
• Artificial intelligence: Can we keep it in the box?
• Science Friday: Christof Koch and Stuart Russell on Machine Intelligence (transcript)
• Transcendence: An AI Researcher Enjoys Watching His Own Execution
• Science Goes to the Movies: ‘Transcendence’
• Our Fear of Artificial Intelligence

Yapay zeka araştırmacıları tarafından yazılmış denemeler

• Stuart Russell: What do you Think About Machines that Think?
• Stuart Russell: Of Myths and Moonshine
• Jacob Steinhardt: Long-Term and Short-Term Challenges to Ensuring the Safety of AI Systems

Araştırmalar sonucu yazılmış makaleler

• Intelligence Explosion: Evidence and Import (MIRI)
• Intelligence Explosion and Machine Ethics (Luke Muehlhauser, MIRI)
• Artificial Intelligence as a Positive and Negative Factor in Global Risk (MIRI)
• Basic AI drives
• Racing to the Precipice: a Model of Artificial Intelligence Development
• The Ethics of Artificial Intelligence
• The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents
• Wireheading in mortal universal agents

Araştırma derlemeleri

• Bruce Schneier – Resources on Existential Risk, p. 110
• Aligning Superintelligence with Human Interests: A Technical Research Agenda (MIRI)
• MIRI publications

Olay incelemeleri

• The Asilomar Conference: A Case Study in Risk Mitigation (Katja Grace, MIRI)
• Pre-Competitive Collaboration in Pharma Industry (Eric Gastfriend and Bryan Lee, FLI): Sanayideki güvenlikle ilgili bir olay incelemesi

Blog yazıları ve konuşmalar

• AI control
• AI Impacts
• No time like the present for AI safety work
• AI Risk and Opportunity: A Strategic Analysis
• Where We’re At – Progress of AI and Related Technologies: Yapay zeka ile ilgili yeni teknolojiler geliştiren araştırma kurumlarının çalışmalarıyla ilgili bir tanıtım.
• AI safety

Kitaplar

• Superintelligence: Paths, Dangers, Strategies 
• Our Final Invention: Artificial Intelligence and the End of the Human Era
• Facing the Intelligence Explosion

Organizasyonlar

• Machine Intelligence Research Institute:İnsandan daha zeki olan yapay zekanın pozitif etkiye sahip olmasını sağlamaya çalışan, kar amacı gütmeyen organizasyon.
• Centre for the Study of Existential Risk (CSER): İnsanların soyunun tükenme riskini azaltmak için çalışma yapmaya kendini adamış multidisipliner(birçok disiplini içeren) araştırma.
• Future of Humanity Institute: İnsanlık ve geleceği ile ilgili araştımalar yapan mateamtik, felsefe ve fen bilimlerini kullanan multidisipliner araştırma kurumu.
• Global Catastrophic Risk Institute:Küresel felaket riskini önlemek üzere araştımalar yapan, eğitimler veren profesyonel danışmanlar, beyin takımı.
• Organizations Focusing on Existential Risks: Yok olma riskleri üzerine çalışan bazı organizasyonlar için bir tanıtım.

Bu sayfada listelenen birçok organizasyon ve tanıtımları Global Catastrophic Risk institute’ten alınarak bir araya getirildi. Yukarıda bulunan organizasyonlar birçok farklı konu ile beraber bilgisayar teknolojisi konuları üzerine de çalışır. Şüphesiz ki bu liste henüz tamamlanmış değil, lütfen düzeltmeleriniz ve önerileriniz için bize ulaşın.

Bu yazıda *http://futureoflife.org/background/benefits-risks-of-artificial-intelligence/ ‘den faydalanılmıştır.

UZAY ÇAĞI