Asilomar Yapay Zeka İlkeleri – 2

Bedirhan Sonakın, 23 Şubat 2017

California’da Asilomar Konferans Bölgesi’nde Ocak(2017) ayında FLI (Future of Life Institute) tarafından gerçekleştirilen Faydalı Yapay Zeka Kongresi’nin sonuçlarını Asilomar Yapay Zeka İlkeleri yazısında sizlerle paylaşmıştık. Ardından FLI’ı tanımak üzerine FLI ve ITIF – YZ Üzerine Farklı Yaklaşımlar yazısında, hem FLI’ı tanımaya çalıştık, hem de bu konuda farklı yaklaşımlar olduğunu da farklı bir örnekle (ITIF) belirtmeye çalıştık. Bu yazıda da Faydalı Yapay Zeka Kongresi’nin sonucu olan 23 madde üzerine yorumlar yapmaya çalışacağız.

 

Bu kongre sonucunda hatırlanacağı gibi 23 maddelik bir sonuç bildirisi yayınlandı ve bu bildiri bir çok uzman tarafından imzalandı. Genel bir bakışla, bu 23 maddenin içeriğinin, konunun kırmızı çizgilerini çizmekten daha çok, YZ hakkında bir iyi niyet bildirgesi olduğunu görmek mümkün. Bunun sebebi, YZ konusunun çok yüzlü bir doğası oluşu. Bugünkü bilgimizle ve uygulamalarımızla YZ hakkında sadece genel bir çerçeve çizebiliyoruz. YZ’ye model olabilecek olarak gördüğümüz yegane şey insan zihni olmakla beraber, insan zihnini ve işleyişini tanımlamak konusunda da henüz yeterince ilerleme saplayabilmiş değiliz. Günümüzün çabaları bir yandan makine öğrenmesi alanındaki yeni yaklaşımlarla, makinelerin kendi öğrenme süreçlerini geliştirmesine odaklanırken, diğer yandan da insan zihnini anlamak üzerine tersine mühendislikle uğraşarak, insan zihni ve makine zekası arasındaki boşluğu kapatmayı hedefliyor. IBM Watson gibi zıplamalara rağmen henüz bu aradaki boşluğun gerçekten kapandığına dair bir emareye de henüz ulaşılabilmiş değil.

 

YZ konusundaki çalışmalar bu yönde ilerlerken, bu boşluğun kapanması ve yetkin bir YZ (AGI) üretilebildiğinde ne olabileceği hakkında bir çok spekülasyon yapılmaya devam ediliyor. Bu spekülasyonlar arasında Her-An’da çeşitli bağlamlarda dile getirildiği gibi, bunun varoluşsal bir riske dönüşeceği gibi öngörüler de mevcut, tam aksine insanı geliştirecek ve insanın evrimini kontrol altına alabileceği bir gelişme olacağını varsayan öngörüler de mevcut. Bu konuda bizim yapabileceğimiz spekülasyonları ilerleyen yazılarımıza bırakarak, öncelikle Asilomar’da ortaya koyulan YZ İlkelerini biraz inceleyelim.

 

Bu ilkeler temel olarak üç başlık altında toplanmış durumda. Bu başlıklardan ilki YZ alanındaki araştırmaların nasıl ilerlemesi gerektiğine yönelik yapılandırılmış. İlk maddede bu yöndeki araştırmaların hedefini tanımlamaya çalışıyor.

 

Araştırmanın Amacı: Yapay Zeka araştırmalarının amacı yönetimsiz bir zeka değil, faydalı bir zeka yaratmak olmalıdır.

 

Bu maddedeki “yönetimsiz” (undirected) ve “faydalı” (beneficial) kelimelerinin muğlak olduğu hemen dikkat çekmekte. Aslında bundan sonraki tüm maddeler/ilkeler bir nevi bu iki kelime ile kastedilen anlamın içini doldurmak üzere yazılmış olarak görülebilir. Çünkü belirttiğimiz gibi, asıl endişe, ortaya çıkabilecek ve YZ olarak tanımlanacak yapının denetim dışı hareket edebilme ihtimali üzerine odaklanıyor. Bu nedenle Araştırma Konuları başlığında, yukarıdaki maddeden sonra gelen maddeler, geliştirilecek olan YZ’nın, insan refahını arttıran, hukuki ve etik konularında çerçevesi çizilmiş, teknik olarak güvenilir bir yapı olması gerektiğinin altını çiziyor. Bunu sağlamak için de, bu alandaki araştırmalara yapılacak harcamanın bir bölümünün de, ortaya çıkacak YZ’nın ekonomi, hukuk, etik ve sosyal bilimler alanına da aktarılarak, uyumlu, etkin ve adil bir sistem kurulması, bunun için de yasa koyucular ve politikacılar ile uyumlu çalışma ortamı sağlanması hedefleniyor. Bunun yanında özellikle YZ araştırmalarının bir yarış olmadığı ve bu konuda hem araştırma grupları arasında sağlam bir işbirliği ve güven tesis edilmesinin önemi ortaya koyuluyor.

 

Bu ilkelerin temel başlıklarından ikincisi de, Etik ve Değerler olarak adlandırılmış. Bu alanda ortaya koyulan maddelerdeki ana yaklaşım, ortaya çıkacak yapının, mahremiyeti, insan hakları ve özgürlüklerini koruyan; şeffaf, güvenilir ve insanlar tarafından denetlenebilir süreçlere sahip olan; ortaya çıkaracağı refah ve fayda, mümkün olan en geniş kitleler tarafından paylaşılan; ve en önemlisi tahribat unsuru içermeyen bir doğası olması. Altı çizilen bir diğer husus da, YZ’nın yanlış kullanımı ve hataları ihtimalinde oluşabilecek zararların sorumluluğunun, YZ’yı geliştirenlere ait olduğu.

 

İlkelerin son başlığı ise Uzun Vadeli Konular olarak adlandırılmış. Burada da YZ’nın içerdiği risklerin uzun vadede sürekli göz önünde bulundurulması için gerekli görülen konular sıralanmış. Bunlar sırasıyla YZ’nın üst limitleri konusundaki varsayımların ortak bir görüşe dayanması; YZ’nın potansiyel olarak köklü bir değişimi sonuç verebileceği ve varoluşsal bir risk oluşturabileceği için planlı bir geliştirme yapılması gerekliliği; kendi kendine öğrenen bir sistemin riskleri ve bu öğrenme sürecinin denetlenebilmesi şeklinde ortaya konulmuş. Son madde olarak da YZ’nın geniş kitlelerce paylaşılabilecek değerlere uygun olması ve bir topluma ya da örgüte ait olmaması gerektiğinin altı çizilmiş.

 

Bu ilkelerin sıralanmasında dikkati çeken ilk şey, üç temel başlığın son maddesinin de benzer bir konuyu vurguluyor olması. Bu vurgu, YZ araştırmalarının bir yarışma haline gelmemesi, YZ’nın bir tahribat unsuru olmaması ve YZ’nın tek bir devlete ya da örgüte değil insanlığa faydalı olması gerekliliği şeklinde, üç başlıkta da ortaya koyuluyor. Teknolojinin ilerleyişini göz önüne aldığımızda, bu ilerleyişin ana motorunun genellikle bir grubun ya da geniş olarak bir devletin varlığını devam ettirebilmek için ortaya koyduğu çaba sonucu yapılan gelişmeler olduğu görülebilir. Güvenlik ve askeri sebepler, ulaşımdan iletişime yaşanan teknolojik gelişmenin merkezinde yer alıyor. Bu nedenle, yapılan bu vurguyu önemsememek ve yerinde görmemek mümkün değil. Ancak tarihsel gelişmelere bakıldığında, bu vurgunun önemini teslim etsek de, bunu samimi bulsak da bulmasak da, ortaya koyulacak ilkesel bir yaklaşımla bu konuda ortak bir payda oluşturulabileceğine inanmak biraz naif bir duruş olacaktır.

 

Yine her başlıkta değinilen, YZ alanındaki gelişmelerin geniş kitlelere fayda sağlayabilecek ve insani değerleri gözetecek bir planlama içerisinde yürütülmesi hakkında ortaya koyulan niyet de benzer bir naiflik içeriyor. Örneğin kanser araştırmaları alanında yapılan bir ilerleme, geliştirilen başarılı bir tedavi yöntemi, laboratuvar ortamından hastalara ulaşana kadar çeşitli patent ve üretim hakkı silsilelerinden geçerek, geniş kitleler tarafından karşılanabilir olma seviyesinin çok üstüne çıkıyor. Her teknolojik gelişim, kitlelere ulaşana dek kapitalist düzene ait hale geliyor. Geniş kitlelere sağlanabilecek faydadan daha çok, yapılan maddi yatırımın karşılığını almak önceleniyor. YZ alanında açık kaynak tarafından ilerleyen OpenAI ve OpenCog gibi projeler olsa da, bunlar Google’ın ya da Amazon’un sahip olduğu kaynaklar düşünüldüğünde neredeyse bir noktada işlevsiz olmaları muhtemel hale geliyorlar.

 

YZ’nın mahiyeti ne olursa olsun, sunacağı potansiyel güç, devletlerin, örgütlerin, kurumların ya da kişilerin paylaşmayı tercih edebileceği gibi bir güç değil. Asilomar’da ortaya koyulan ilkelerdeki iyi niyetli yaklaşıma rağmen, teknolojinin tarihine baktığımızda, bu güç elde etmek uğruna bir yarış oluşturacak, hatta o yarış başladı bile. Günümüzde toplumların, devletlerin ve kurumların vermeleri gereken karar, bu yarış pistine çıkmak ya da bu yarışı tribünden izlemek olacaktır. Yarış, galibi henüz öngörülemeyecek kadar yeni başladığı için, yeni yarışmacılara hala yer var. Bu yarışta olmak ya da olmamak seçimi de bizlere kalmış.