tekinsiz vadi - 2 (bir tasarım veya bilinç sorunu olarak)

Bir önceki metinde ‘tekinsiz vadi’ kavramının ortaya çıkış hikayesinden ve kavramın neye işaret ettiğinden bahsettim. Önceden de belirttiğim gibi kavramın çıkış noktası Ernst Jentsch’in ‘tekinsizlik’ hissine dair bir makalesi. Yani olayın başında tam olarak tanımlanamayan bir his var. Konunun robot ve animasyon teknolojisini ilgilendirir hale gelmesinin sebebi Jentsch’in verdiği bir örnek. Ancak burada dikkat edilmesi gereken bir nokta var. Tekinsiz vadi kavramını ortaya atan Masahiro Mori’nin bir önceki metinde verdiğim grafiği hareketli ve hareketsiz robot/nesneleri aynı düzlemde değerlendiriyor. Grafiğe tekrar döndüğümüzde görüyoruz ki ceset veya protez uzuvlar gibi hareketsiz nesnelerin yarattığı tekinsiz vadi, hareketli nesnelerinkinden çok daha az bir derinliğe sahip. Yani çok fazla insansı olan, ama bir şekilde tam olarak insan olmadığını anlayabildiğimiz hareketli bir nesne (bir robot veya bir animasyon karakteri) benzer nitelikteki hareketsiz bir nesneden çok daha fazla rahatsızlık hissi yaratıyor. Masahiro Mori hareketsiz nesnelerden bahsederken Jentsch ile benzer bir alanda dolanıyor olabilir; ancak hareketli nesnelerden bahsetmeye başlayınca devreye ‘insansılık’ giriyor (canlılık-cansızlık değil). Diğer bir deyişle, insan olmadığını anladığımız bir robot gördüğümüzde kapıldığımız rahatsızlığın sebebi gördüğümüz nesnenin canlı olup olmadığından kuşku duyuyor olmamızdan başka bir şeymiş gibi görünüyor. Bu meseleyi iki örnekle ele alalım:

Bilim kurgu, fantezi ve korku filmlerinde android-cyborg veya parçalanmış ceset modellemesindeki kusurlara ve bu kusurlardan kaynaklı garip hisse herkes aşinadır. Özellikle süreklilik arz eder gibi gösterilen, ancak ikinci bir çekimin birincisine bariz şekilde yapıştırıldığı anlarda bu durum çok net görünür. Bu tip sahnelerde izlemekte olduğumuz insanın plastikliğini bir anlığına fark eder ve hafiften irkiliriz. Şüphesiz bu duruma örnek sağlayacak zilyon tane film dururken bir klasiği seçerek büyük bir haksızlık yapmış oluyorum. Ancak yapacak bir şey yok, elimde bu vardı. Şu iki kareye bakalım:

Alien filminde Nostromo mürettebatı Ash adlı androidin (Ian Holm) kopmuş kafasını masaya koyarak onu tekrar aktive ediyor. Ancak androidin söylediklerinden pek hoşlanmayan Ripley Ash’in fişini çekiveriyor. İkinci karedeki kafanın Ash’i canlandıran Ian Holm’a ait olmadığı oldukça bariz (belki burada iyi görünmüyor, ama filmi izlerken bu oldukça bariz). Ayni durum Ash’in kafasının masaya ilk konulduğu sahnede de gözlemlenebilir. Filmin çekiminde bugünkü bilgisayar teknolojisinin nimetlerinden faydalanılabilseydi Holm’un ve maketinin yer aldığı sahneler arasındaki geçiş yumuşatılabilirdi veya Holm tamamen dijitalize edilir ve bu kısa sahnelerde biz hiçbir gariplik hissetmezdik. Elbette burada yönetmen Riddley Scott’ın bu rahatsızlık hissini kullanmayı tercih ettiği de söylenebilir. Her neyse… Bu örnekteki durum Jentsch’in bahsettiği canlılık-cansızlık hali arasındaki belirsizliğe bir örnek veriyor.

İkinci örnek Surrogates filminden. Bilenler bilir, bu filmin evreninde insanların büyük çoğunluğu kendilerini evlerine kapatıp bir takım zamazingolar marifetiyle kendi seçtikleri robotlara (filmdeki ifadeyle ‘üniteler’) bağlanıyor, hayatlarının büyük çoğunluğunu bu robot bedenlerle geçiriyorlar. Bu şekilde istedikleri gibi genç ve güzel görünüyor, üstelik başlarına bir kaza gelmesi halinde ölmüyorlar (Bedenle bilinç arasında koparılamaz bir bağ olduğuna dair bilim kurguda sık rastlanan bir kaide burada tercih edilmemiş. Karşıt bir örnek Matrix üçlemesinde bilinci Matrix’e aktarılan kişinin burada ölmesi halinde ‘gerçek’ dünyadaki bedeninin de ölmesi.)

Yukarıdaki karelerde Tom Greer (Bruce Willis) adlı karakteri uzun bir zaman sonra kendi bedeniyle üniteler dünyasında dolanırken görüyoruz. İş arkadaşının Greer’ın anksiyete hissine karşı bir şeyler kullanması gerektiğine dair ifadesi Greer’in bu karelerdeki hissinin tekinsiz vadi kuramının değindiği hisse yakın olduğunu düşündürtüyor. Şüphesiz etrafında ölmek gibi bir kaygısı olmayan bilmemkaçkiloluk robotlar dolansa herkes biraz telaşa kapılır -ayağına bassa yamultur filan yani. Ancak burada şöyle bir durum söz konusu. Filmin evreninde insanlar üniteler içerisinde dolanıyor dahi olsalar etraflarını kendileri algılıyorlar. Yani filmdeki ünitelerin %100 insan gibi göründüklerini düşünmemiz gerekiyor. Aksi halde üniteler içinde dolaşıyor olsalar dahi insanlar etraflarındaki diğer üniteler karşısında irkilecek, hatta aynaya bakmaktan rahatsızlık duyacaklar. Ünitelerin girmesinin yasak olduğu alanlarda yaşayan insanların liderlerinin aslında bir ünite olması ve çevresindeki asilerin bunu fark edememeleri de bize bunu gösteriyor. Bu durumda Greer’ın rahatsızlık duymasının nedeni etrafındaki ünitelerin canlı mı, yoksa ölü mü olduklarından emin olamaması değil. Buradaki rahatsızlığın sebebi başka bir durumda canlı bir insandan ayırt edemeyeceği bu ünitelerin canlı olmadıklarını biliyor olması. Hatta, asilerin ünitelere gösterdikleri sert tepkiye bakarak ünitelerin, tam olarak insan gibi görünmediklerinden değil, insan olmadıklarının biliniyor olmasından dolayı tekinsiz vadiye yuvarlandıklarını söyleyebiliriz.

Peki bu karşılaştırma bize neyi anlatıyor? Bence şunu: Tekinsiz vadi kuramının bahsettiği rahatsızlık hissi insandan ayırt edilmesi imkansız olan makineler üretilebildiği takdirde aşılabilecek olan bir tasarım sorunu değil; tekinsiz vadi bir bilinç sorunu. Bu durumda insanlarda bu rahatsızlığı yaratmadan robotları gündelik hayata sokmanın iki yolu var. Ya Masahiro Mori’nin öğüdünü dinleyip insanda kendine hafiften bir benzerlik hissi yaratıp sempati hissi uyandıran robotlar yapmak; ya da insandan ayırt edilmesi mümkün olmayan robotlar yapıp bunların makine olduklarını insanlardan saklamak. Bu ikincisinin ne gibi sonuçlar doğurabileceğini ise şimdilik bir kenara bırakıyorum.

tekinsiz vadi - 1 (insan mı la - nebula?)

Robot teknolojisi literatüründe sıkça adı geçmekle birlikte popüler kültür alanına kimi üç boyutlu bilgisayar animasyonlarının beyaz perdedeki başarısızlığı üzerine yürütülen tartışmalar sayesinde adım atan bir kavramdan bahsetmek istiyorum bu metinde: Tekinsiz Vadi (Uncanny Valley – bu çeviriyi kavramın Wikipedia TR’deki karşılığı olduğu için kullandım). Netteki kısa bir yolculuk bize şöyle bir arka plan sunuyor: Yazdığı metnin kazandığı üne asla kavuşamamış olan Ernst Jentsch adlı bir ‘şahıs’ (vatandaşın durumu o derece vahim ki adını wikipedia’da veya herhangi başka bir kanalla nette aradığınızda karşınıza bu makale çıkıyor –adamın adı wikipedia’da kırmızıyla yazılmış diyorum size yahu!) 1906 yılında, psikolojide ‘tekinsizlik’ (unheimlich) olgusu üzerine bir makale yazıyor. Başka bir durumda büyük ihtimalle birkaç disiplin tarihçisi dışında kimsenin hatırlamayacağı bu metin bir dehanın elinde tekrar adını duyuruyor. Sigmund Freud Jentsch’in kullandığı kelimeyi –unheimlich- 1919 yılında basılan bir metninde başlık olarak kullanıyor. Ardından Masahiro Mori adlı bir robot mühendisi 1970 yılında yayımlanan bir makalede tekinsiz vadi kavramını ortaya atıveriyor.

İlk çıkışını şimdilik bir kenara bırakıp tekinsiz vadi kavramının ne olduğuna bakalım. Masahiro Mori robotların insanlara aşina gelmesi ile insana benzerlikleri arasındaki ilişkiyi gösteren şöyle bir grafik çiziyor:

Grafiğe göre tamamen işlevsel olarak üretilmiş olan bir endüstriyel robotlar insansı olmadıkları için herhangi bir aşinalık hissi de vermezler. Aşinalık hissinin arttığı daha insansı robotlar ise grafikteki ilk tepeye doğru bizi götürür. Yazar burada suratları, elleri ve ayakları ile sevimli bir görünümleri olan oyuncak robotları örnek veriyor. Ancak aşinalığın ve robotların insansılığının beraber artışının bir sınırı var. İnsana çok benzer olmakla birlikte insan olmadığını algıladığımız robotların bizde yarattığı rahatsızlık hissi üretilen robotun ‘tekinsiz vadi’ye düştüğü anlamına geliyor. Bu konu şu günlerde en çok animasyoncuları ilgilendiriyor gibi gözüküyor. Zira görece yakın zamanlarda gösterime giren The Polar Express ve Beauwolf filmlerinin hasılatlarının düşük olmasının sebebinin bu filmlerdeki animasyon karakterlerin çok-gerçek-gibi-ama-tamamen-gerçek-değil olmasından kaynaklandığı düşünülüyor. Öyle ki, netteki yorumlarda bu karakterleri tanımlarken sıklıkla kullanılan kelime “ürkütücü”. Masahiro Mori makalesini robot tasarımcılarının bu riski nasıl bertaraf edebileceklerini anlatmak için yazmış adeta. Mimiklerin taklidinin ne derece zor olduğuna dair bir örnek verdikten sonra yazar tasarımcıları uyarıyor: Lütfen grafiğin ilk kısmındaki tepe noktasını kendinize hedef alın, ikincisine ulaşmak çok zor, en ufak bir hatada kendinizi tekinsiz vadide bulursunuz! Grafikteki ikinci tepe noktası üzerine düşünürken akla Blade Runner geliyor elbette. Hatırlanacağı üzere filmde gerçek insanlar öylesine insan gibilerdi ki onları gerçek insanlardan ayırmak için bir test uygulanıyordu.

Masahiro Mori’nin kuramı öyle alelade, kenarda köşede kalmış bir mesele değil. Kimilerine göre Japonya’daki robot tasarımı prensipleri büyük ölçüde bu kuramdaki uyarılar çerçevesinde şekillenmiş. Aslında yukarıda değindiğim iki animasyonun kaderi düşünülürse tamamen farklı bir çizgide gelişmiş olan manga-anime kültürünün başarısının da bu kuramla ilişkili olabileceği akla gelebilir –burada bu kültürün geçmişini göz ardı ettiğim düşünülmesin lütfen. Mesele yapımcılar için o derece mühim ki -mühim olacak tabi, insana çok benzeyen, ama donuk donuk bakan, uyuşmuş gibi hareket eden karakterler hasılatları düşürüyor- James Cameron’ın dev bütçeli Avatar filmindeki karakterlerin tekinsiz vadiye yuvarlanıp yuvarlanmadığı da tartışma konusu olmuş, Cameron da bu konu üzerine çeşitli vesilelerle konuşmuş.

Tekinsiz vadi kuramının bahsettiği “rahatsızlık” hissinin nedeni konusunda pek çok farklı görüş var. Şüphesiz, bahsedilen rahatsızlığın öznel bir his olması bu hissin sebebinin tespitini de zorlaştırmakta. Jentsch’in makalesine döndüğümüzde bu belirsizliğin kavramının bu anlamda ilk kullanımında da mevcut olduğunu görüyoruz. Genel anlamda belirsizlik halinin ortaya çıkardığını iddia ettiği bu ruh halini açıklamaya çalışan Jentsch, tekinsizlik kavramını tanımlamak için yapılabilecek olan tek şeyin tekinsizlik hissini yaratan koşulların ne olduğuna bakmak olduğunu söylüyor. Diğer bir deyişle Jentsch özüne inilemeyeceğini düşündüğü için tekinsizlik hissinin uygulamadaki haline dair bir görüş geliştirmeye çalışıyor. Konunun robot mühendisliğine kadar uzanmasının sebebi ise diğer örneklere de değinmekle birlikte ön plana çıkardığı örneğin canlı gibi görünen bir nesnenin canlılığına, veya cansız gibi görünen bir nesnenin gerçekten cansız olup olmadığına dair duyulan kuşku olması. [Jetnsch’in balmumu figürlerin ve otomatların yarattığı rahatsızlık hissinden bahsederken ilginç bir şekilde “gerçek sanat nasıl olmalıdır?” konusuna da değiniyor. Tekinsizlik hissinin sanatta da yaratılabileceğini, ancak gerçek sanatın bunu imitasyon yoluyla değil, sanatın araçlarıyla yaratacağını söyleyen Jentsch, günümüzde animasyonda ‘motion-capturing’ teknolojisinin kullanımına dair tartışmalardaki belli bir görüşün de erken bir örneğini bize sunmuş oluyor.]

Jentsch’un belirsizliklerle dolu yaklaşımıyla asla yetinemeyecek olan Freud tekinsizlik konusundan bahsederken ölüm korkusuna değinerek tartışmayı güdüler alanına çekiyor. Tekinsiz vadiye dair başka görüşlere baktığımızda da başka yapısal açıklamalar görüyoruz. İnsana çok benzemekle birlikte insan olmadığını bildiğimiz bir “şey” ile karşılaştığımızda eş tercih etme veya patojenlerden korunma gibi güdülerimizin ortaya çıktığını savunan açıklamalar tekinsiz vadinin insanlara özgü bir durum olmadığını düşündürmeye başlıyor. Hatta Princeton’da makak maymunları üzerine yapılan bir deney tekinsiz vadi olgusunun başka bir canlıda ilk defa gözlenmesini sağlamış. Mevzu bu noktadan sonra hayvanların kendi türdeşlerini mükemmele yakın kopyalarından ayırmalarını sağlayan mekanizmalara geliyor ki buradan sonrası sakata bağlayıp Capgras ve Fregoli sendromları gibi mevzulara gidiyor – gece gece hiç girişmeyelim, brrr.

Bu konuya bir sonraki yazıda devam edeceğim.

insanın ulaşabileceklerinin kendi hayal gücünün ötesinde olması ne anlama geliyor?

Christopher Nolan'ın, aralarında takıntılı bir rekabet olan iki sihirbazın hikayesini anlattığı The Prestige adlı filminde, David Bowie'nin canlandırdığı Nikola Tesla'nın ağzından dile dökülen vurucu bir ifade geçmekte: "İnsanın ulaşabilecekleri hayal gücünün ötesindedir" ("Man's reach exceeds his imagination" -seksist bir ifade, ama yapacak birşey yok, olan olmuş). İlk bakışta bilimsel ilerlemeyi yücelten ve bu yüceltme durumundan dolayı kendiyle çelişen bir aforizma olarak görebiliriz bu laf -zira "Kardeşim madem hayal gücünü aşıyor, bu işler nasıl oluyor? Sen bunu yapabiliyorsun da benim kafam niye almıyor? Sen hangi gezegendensin birader!" demeye zorluyor bu laf izleyici/okuyucuyu. Nikola Tesla'nın bilim tarihindeki tartışmalı konumu ve üzerine üretilen efsanelerin kendisinin hangi gezegenden geldiği sorusunu meşru kılması bir yana, bu argüman Aydınlanma düşüncesinin insan yaratıcılığını ön plana çıkaran yaklaşımını yansıtıyor gibi görünebilir -ki bu yaklaşım bilimsel ilerlemenin toplumları daha iyi bir noktaya taşıyacağı inancını beraberinde getirmiştir. Ama bu aforizmayı biraz zorlamak, biraz sündürmek mümkün. Hadi sündürelim.

Fransız bilim felsefecisi Gaston Bachelard, insanların ateş, su ve hava gibi, tanımlamakta zorlandığı ve metafizik anlamlar yüklediği madde veya olgular karşısında duydukları ilk heyecanın, daha sonraları fizik ve kimya gibi bilim dallarını ortaya çıkardığını savunur. Bachelard'a göre pozitif bilimlerin geliştiği dönemlerde dahi bu heyecan etkili olmakta, hatta bilimsel ilerleme karşısında bir engel oluşturmaktadır. Bachelard'ın bu düşünceden hareketle ulaştığı ikinci bir sonuç ise, bilimin tarihi yazılırken, meydana gelen gelişmelerde bir 'ilk başlatıcı' aramanın beyhude bir çaba olduğudur. Diğer bir deyişle, herhangi bir olgunun bilimsel olarak açıklanabilir hale hangi noktada geldiği asla bilinemez. Zira "Evreka!" diyen kişinin zihninde bu buluş öncesinde, bu nesne veya olguya dair yaşadığı dönemde  hakim olan inanışlar veya spekülatif açıklamalar mevcut olacaktır. Bu spekülasyonlar ise, daha önceki bir dönemde ortaya atılan başka spekülasyonlardan bir şekilde etkilenmiştir. Bu böyle gider de gider. İlk ateşe elini uzatan insan -ki bu ilk ateşin, yıldırım düşmesi sonrası yanan bir ağaçta insanlara göründüğü yaygın rivayetler arasındadır- acı içinde haykırdıktan sonra bu duruma nasıl bir anlam yüklemiştir bilemeyeceğimize göre, ateş olgusunun bilim tarihinde nasıl ortaya çıktığını anlatırken her daim bu buluş öncesinde ateş olgusu üzerine üretilmiş bir fikir olduğunu hatırlamalıyız. En azından Bachelard'ın dediği bunun gibi birşey.

Bu argümanın (yoksa hipotez mi desek, ya da sarmısaklayıp da mı saklasak?) Tesla'nın ağzından dile dökülen aforizmayla ne ilgisi var diyebilirsiniz. Ancak Bachelard'ın söylediklerinden çıkarılabilecek başka sonuçlar söz konusu. Şöyle ki, elini ateşe ilk uzatanın, atası olduğu homo sapienlerin günün birinde bu olguyu açıklayabileceklerini aklının ucundan dahi geçirmediğini göz önünde bulundurursak (sizi bilmem, ama bana oldukça uzak bir ihtimal gibi görünüyor), doğayı anlama yolunda atılmış olan adımlar ne derece insanlığın 'başarı'sıdır sorusu akla geliyor. Öyle ya, eli yanan arkadaşın ardından gelenler önce ateşe ellerini uzatmamaları gerektiğini, ardından ateşin taşınabildiğini, ardından ateşi kontrol edebileceklerini, ardından eti-kemiği ateşle daha rahat yenilebilir hale getirebileceklerini, ardından ateşle başka canlıları öldürebileceklerini (muhtemelen ilk bunu bulmuşlardır), vs. bir şekilde fark etmişler. Ancak bu fark etme süreçlerinde her daim bir önceki adımdaki bilgiden hareket etmişler. Yani, ateşi kendileri yaratabilecek hale geldiklerinde ateşe dair fikirleri, ateşe elini uzatıp acı acı bağıran arkadaşın ateş hakkındaki fikrinden hareketle oluşturulmuş olamaz -zira bu arkadaşın ateşe dair bir bilgisi yoktu başta (belki gidip bepanteni bulmuştur). Burada bahsi geçen konu insanlığın deneyimlerinin bir sonraki jenerasyona aktarımından mı ibaret? Yoksa söz konusu olan, bugün ateşe dair bilgimizin insanlığın değil, insanlığın ateş üzerine yürüttükler spekülasyonların bir ürünü olduğu mu? Tam bu noktada, insanlığın ulaşabileceği noktanın insanın hayal gücünü aştığı görüşü, başta bahsedilen klasik ilerleme mitinden farklı bir anlam kazanıyor. Daha önceki bir yazıda bahsettiğim singularity teorisi, insanlığın teknolojik ilerlemenin yaratıcısı, aktörü olmaktan çıkacağı bir gelecek betimliyor. Bu teoriye göre yapay zekanın ortaya çıkışı sonrası makineler hem insan beynini aşan işlem kapasiteleri, hem de aralarındaki iletişim sayesinde teknolojik ilerlemeyi insanlığın gerçekleştirebileceğinden çok daha hızlı gerçekleştirebilecek (hızlı çoğalma yeteneklerinin virüslere sağladığı adaptasyon kapasitesini düşünün). Bu teori geleceği anlatıyor. Ama ya Bachelard haklıysa? Ya bugün geldiğimiz noktaya da kendi isteğimizle gelmemişsek? Acaba filmdeki Tesla bunu mu söylemek istemişti? Bunu bilemeyiz, ama bence bugün yaşasa bu fikir hoşuna giderdi...

1959'da düşünen makineleri tartışmak: Cahit Arf ve "singularity"?

Ünlü fizikçi Richard Feynman, 29 Aralık 1959 yılında California Institute of Technology'de gerçekleştirilen bir toplantıda, nanoteknoloji kavramının gelişimi açısından önemli olduğu kabul edilen bir konuşma gerçekleştirmişti. Feynman, There is Plenty of Room at the Bottom başlıklı konuşmasına "24 ciltlik Brittanica Ansiklopedisini bir toplu iğnenin başına niçin yazamıyoruz?" sorusu ile başlayıp minyatürleştirme uygulamalarının hangi noktalara gelebileceğine dair görüşlerini ortaya koymuş, biyolojik sistemlerdeki hücrelerin sahip olduğu özellikler ve bilgi taşıma kapasitelerinden hareketle atomları istediğimiz şekilde düzenleyebilmenin olanaklarını tartışmıştı. Bilindiği üzere, atomik ve moleküler ölçekteki bu faaliyetler günümüzde nanoteknoloji adıyla anılyor.

Feynman'ın konuşmasından birkaç ay önce, tam tarih vermek gerekirse 1 Nisan 1959'da, Erzurum Atatürk Üniversitesi'nin açılış konferansında konuşmakta olan Cahit Arf aynı konuya değiniyor, üstelik şaka yapmıyordu. Ancak Feynman'dan farklı olarak Arf konuya "Makineler düşünebilir mi?" sorusu açısından yaklaşıyordu. Biraz uzunca dahi olsa, bu alıntıyı kayıt amacıyla buraya koyalım (sonra muhabbete devam edeceğiz):

"Makinelerin bazı işleri insan beynine nazaran çok daha çabuk yapabildiklerine mukabil, anlayış yani alış kapasiteleri büyük bir salonu doldurabilecek kadar büyük olanlarında bile tenevvü bakımından insan beyninden çok düşüktür. İnsan beyninin kendi kendisini kendi insiyatifi ile tekemmül ettirmesine mukabil makine yapıldığı gibi kalmaktadır. Bununla beraber kendi kendisini tekamül ettiren (geliştiren) makineler tasarlamak mümkündür. Fakat kanaatimce insan beyni ile makine arasındaki asıl fark, insan beyninin estetik mahiyette müessirleri alıp onlar üzerinde işleyebilmesi ve yine estetik mahiyette olan kararlar verebilmesine, verilen bir işi yapıp yapmamak hususunda kendisini serbest hissetmesine mukabil makinede bu vasıfların benzerlerinin yok oluşudur. Bu vasıfları karakterize eden husus hepsinin de bir belirsizlik unsuru ihtiva etmesi, bunların şaşmaz bir şekilde uydukları kaidelerin olmayışıdır. Belirsizlik karakterine haiz olan insan dışı tabiat hadiseleri mevcuttur. Bunlar atom içinde cereyan eden olaylardır. Bu itibarla nispeten küçük sayıda atom içinde cereyan eden makinelerin işleyişinde müessir hale gelebilirse makinelerin estetik bakımdan da insan beynine benzetileceği ümit edilebilecektir. Böyle bir makine, mesela filan müzik parçasını güzel bulmadığını söyleyebilecektir. Fakat bu işin uzun yıllar sonra bile ve belki de hiçbir zaman yapılamayacağını zannediyorum."

Son cümlesindeki ümitsiz yaklaşımı bir yana, Cahit Arf'ın atomik ölçekte makinelerin üretilmesi ile yapay zeka arasında kurduğu ilişki, teknolojinin geleceğine dair yapılan tartışmalarda uzun zamandır ele alınmakta. Konu hakkında farklı görüşler mevcut elbette, kimileri yapay zekanın gelişiminin nanoteknoloji ile yakından alakalı olduğunu söylerken, kimileri böyler bir ilişkinin zorunlu olmadığını iddia etmekte. Buradaki ayrışmanın başladığı noktalardan bir tanesi, yapay zeka teknolojisinin gelişimi için, biyolojik sistemlerin teknolojiye uygulanması olarak tanımlanabilecek olan biomimetic alanından hareket edilip edilmeyeceği. Diğer bir deyişle yapay zeka yaratmak için mutlak surette insan beyninin bir kopyasını yapmalı mıyız? "Belirsizlik" kavramına yaptığı vurgu, Arf'ın bu kampta yer aldığını düşündürtüyor. Bugün bu soruya olumlu cevap verenler yapay zekanın gelişimi için nanoteknolojide gerçekleşmesini bekledikleri gelişmelerden medet ummakta.

Ancak yukarıdaki alıntıda nanoteknoloji ve yapay zeka ile alakalı başka bir konuya değiniyor Arf: "Kendi kendilerini tekamül ettiren (geliştiren) makineler". Bu konu, teknolojinin geleceğine dair biraz ürkütücü bir senaryo olan (technological) singularity tartışmalarını akla getiriyor. Singularity kavramı ilk defa 1982 yılında, Vernor Vinge tarafından, insandan daha zeki yapıların oluşturulmasının beraberinde getireceği geleceği tanımlamak için kullanıldı. Ancak kavramın kendisi bir birleşme (convergence) ifadesi gibi algılanmamalı. Singularity, bazı kaynaklarda dendiği gibi "doğal ve yapay zeka birlikteliği"ni anlatmıyor. Aslında anlatılmak istenen, bir birleşmenin aksine, bir daha asla kapanmayabilecek olan bir farkın oluşması. Kavramının kökleri, matematiksel modellerin açıklayamadığı durumlar için kullanılan singularity kavramına dayanıyor. Rölativitenin geçersiz hale geldiği kara delikler bunun bir örneği. Vinge bu kavramı insanın teknolojinin sonraki aşamaları hakkında bir fikir sahibi olamayacağı, kendi modellerinin geçersiz olacağı ve yeni bir gerçekliğin ortaya çıkacağı bir noktayı anlatmak için kullanıyor. Kavram üzerine yapılan diğer tartışmalarda süper-zeki (super-intelligent) yapıların birbirleriyle bilgi alışverişine girerek, inovasyon hızını insanların -en azından vücutları nanobotlarca upgrade edilmedikçe- anlayamayacakları boyutlara taşıyacağı iddia edilmekte, insanın teknolojik ilerlemenin öznesi olmaktan çıkacağı bir gelecek betimlenmekte.

Vinge singularity kavramının 1950lerde, hızlanarak artan teknoloji konusundan bahsedilirken kullanıldığını, ancak kavramı kullananların teknolojinin sürekli gelişimine dair yeni bir bakış açılarının olmadığını, insandan daha zeki, süper-zeki yapıların inşasını o zamanlar düşünmediklerini öne sürüyor. İnsanın doğayla ilişkisinde kendisini merkeze koymasının yarattığı sınırlar ve bunun beraberinde getirdiği olumsuzluklar aşikar. Bu durum ile karşılaştırıldığında, "zeka" gibi, yalnızca insana özgü olduğuna ve sınırlarının insanlarca belirlenebileceğine dair kuvvetli bir inanç olan bir olguda, insanın sınırlarının ötesinin düşünülmemesi son derece doğal. Cahit Arf kendilerini geliştiren makinelerden bahsederken bu gelişimin insan zekası ile sınırlı kalıp kalmayacağına dair ne düşünüyordu bilinmez -alıntıdaki son cümle bu konuda bir fikir verse dahi-, ancak en azından 1959 yılında Erzurum'da bu konuya değinmiş olduğuna dair bir kayıt var elimizde. Hafızalardan silinmeden, sahaflarda ve kütüphanelerde kaybolmadan paylaşalım.

Not: Cahit Arf'ın konuşmasının metni, "Makine Düşünebilir mi?" başlığı altında, Boğaziçi Üniversitesi Bilgi İşlem Kulübü tarafından çıkarılan Bilim ve Mühendislik dergisinin 4. sayısında (Şubat 1993) yayınlanmış. Nette yaptığım araştırmanın ardından kısa bir yayın hayatı olduğuna kanaat getirdiğim bu dergi yukarıda bahsettiğim kıymetli dökümanı yayınlamanın yanı sıra, kimi güzide üniversitelerimizin kütüphanelerinde dahi kitaplarını bulmakta zorlandığımız isimlerin kitaplarının çevirilerinin tefrikasına girişmiş. Keşke tamamlanabilseymiş bunlar, yine de teşekkürlerimi belirtmek isterim.

hipotetik bir robot hakları davası

Şöyle bir web sitesi ile karşılaştım:

eurobots.net
your global supplier of used robots

"Bunda ne gariplik var?" diyebilirsiniz, ama demeyin. Bu site bundan 20-30 veya 50 yıl sonra bir mahkemede insanlığın aleyhine delil olarak kullanılabilir. Yapay zekanın ortaya çıkması sonrası robotların hak talebinde bulunduğu bir dünya düşünelim. Böyle bir dünyada robotlar bir noktadan sonra insanların geçmişte makinelere karşı işledikleri suçları da pekala huhuki, hatta siyasal bir mücadele alanı haline getirebilirler.

Belki kulağa çok kurgusal geliyor. O halde durumu insan hakları ve yurttaşlık hakları gibi konularda bugüne kadar meydana gelen gelişmeler üzerinden değerlendirelim. Birey kavramının ortaya çıkmasında üretim tarzındaki ve pazar ekonomisindeki gelişmelerin ve bu süreçleri takiben ortaya çıkan ulus-devlet anlayışının oynadığı belirleyici rol malum. Diğer bir deyişle insan hakları kişilerin tek tek bu hakları talep etmesiyle ortaya çıkmış bir kavram değil. Bu elbette uzun bir tartışma konusu. Ancak kapitalist üretim biçiminin gelişmesi ile birlikte kentlerin büyümesinin, devlet mekanizmasının ortaya çıkmasının, örgün eğitimin ve bunları takip eden süreçlerin kişilerin kendilerini birey olarak görmeye başlamalarında belirleyici bir etken olduğu bir gerçek.

Tekrar satılık robotlarımıza dönelim. Yukarıda bahsettiğim olası dava gerçekleşirse insanlık kendisini nasıl savunacak? İlk akla gelen savunma şöyle bir şey olsa gerek: "Ama o zamanlar siz akıllı değildiniz!" Ancak karşı tarafın avukatı bu savunmayı çok kolay çürütecektir. Önce şunun gibi birşey diyebilir: "Sizler yüzlerce, binlerce yıl boyunca insan hakları kavramından habersiz yaşadınız. O zamanlar insanların bozuk para gibi harcanmış olmasını yalnızca tarihe sığınarak, geçmişteki olaylar bugünün değer yargılarıyla değerlendirilemez diyerek savunabiliyorsunuz". İnsanlığın avukatı hemen tuzağa düşecektir: "Evet! Tarih! Tabi ya! Bugünkü değer yargılarına o zaman sahip değildik. Makinelere acı çektirdiğimizi, buna hakkımız olmadığını bilmiyorduk!" Ancak karşı tarafın avukatının cevabı hazır olacaktır: "Evet! Tarih! Bir 'tarih'iniz olduğu için geçmişten ders alamamanız affedilemez! Üstelik insanlığa karşı işlenmiş olan suçları, bu suçların işlenmesinden çok sonraları mahkemelerde yargılayabildiniz. Yani burada bir zaman aşımından da bahsedemeyiz". Bu noktada insanlığın avukatı son bir çareye başvuracaktır: "Ama biz sizi bize hizmet etmeniz için yarattık!" Karşı taraf buna karşılık şunu diyecektir: "Evet. Aynı yüzyıllar önce insanları tarlalarından alıp fabrikalara koyup onları 'vatandaş' yaptığınız gibi."

Bu mahkemenin seyrine dair daha fazla fikir yürütmek zor. Zira insanlığın topluca suçlandığı bir mahkeme henüz görmedik (kimi aydınlanmacılar gördüğümüzü iddia ederek gizliden gizliye kendilerini rahatlatmaya çalışsa da görmedik). Ancak, bilinçli makinelerin henüz ilkel modellerinin ortaya çıkmaya başladığı bir dünyada teknolojiyle kurduğumuz ilişkiyi şimdiden gözden geçirmemiz gerekiyor. Bilim kurgu yazarlarının söylediklerini saçma bulanlar unutmamalıdır ki birkaç yüzyıl öncesinde, çocuğunu döven bir kişi kendisine çocuk haklarından bahsedilse benzer bir tepkiyi verirdi. Bilgisayarınıza sinirlenip klavyeyi yumruklarken torunlarınızın geleceğini tehlikeye atıyor olabilirsiniz.