Terminatör dava açabilir mi? Yapay zekanın doğal hakları üzerine bir deneme
Bir filozof kulağınıza eğilip penguenler vardır ve topluluk halinde yaşarlar derse bu sizin oturup üzerinde uzun uzun düşünmenize neden olmaz. Şüphesiz penguenler vardır ve onların topluluk halinde yaşadıkları yönünde de güçlü kanıtlara sahibiz. Ancak sırf bu sebeple kimse ortaya çıkıp "Bu yüzden penguenlerin bazı vazgeçilemez, devredilemez hakları vardır, bu haklar yaşamak, hürriyet ve kendi mutluluğunu arama hakkıdır" dememiştir. Elbette penguenlerin yaşama hakkı olduğunu kabul etmekteyiz, ancak bu zamana kadar hiçbir penguen bu hakkına yönelik bir tehdit olduğu iddiasıyla mahkeme önüne gelmedi. Biz ölü penguenler gördüğümüzde isyan eder, onların katledilmesinin bir haksızlık olduğunu söyleyebiliriz. Ancak bu isyanımız genel bir “adalet” duygusundan ileri gelir, yoksa bir penguen öldürdüğü için hapse giren bir fok bulunmadığı gibi, penguenlerin bazı temel hakları olduğuna yönelik herhangi bir sözleşme de bulunmamaktadır.
Sorun sadece penguenlerin doğal hakları olup olmadığını ve varsa bunların neler olduğunu tespit etmek de değildir. Penguenlerin bu haklarını koruyabilecek mekanizmalar yoktur. Örneğin, koyunları ele alalım. Onlar da aynı penguenler gibi vardır ve topluluk halinde yaşarlar, ancak pek az tartışmanın konusu onların yaşam hakkı olmuştur, daha çok tartışılansa daha etkin toplu katliam yöntemleriyle gıda ihtiyacımızı nasıl karşılayabileceğimiz hususudur. Bu zamana kadar da her biri koyun türünü yok etmek için kurulan mezbahaların kapatılması için hiçbir koyun dava açmış değildir. Her ne kadar dava açmayı akıl eden bir koyun büyük sansasyon yaratıp hayatını kurtaracaksa da, böyle bir davaya hiçbir mahkeme bakmaz. Koyunlar hukukun tanıdığı kişilerden değildir. Dava açma ehliyetleri olmadığı gibi bir davanın tarafı da olamazlar. Bunu akıl edebilecek bir koyun olsaydı dahi mahkemeler bu davaya bakmayı reddedecekti.
İster mahkemeye başvursunlar, ister başvurmasınlar koyunlar ve penguenler hayvan olmaları sebebiyle bazı haklara sahiptir. Ancak onlar böyle haklara sahip olduklarının bilincinde olmadıkları gibi, bu haklarını koruyabilecek düzenlemelere ve mekanizmalara da sahip değildir. O yüzden insanlar kendi aralarında yarattıkları sözleşmelerle “hayvan hakları” denilen bazı haklar olduğunu ifade etmişler, penguenlere, koyunlara ve daha birçok hayvana karşı eza çektirmeme konusunda bir anlaşmaya varmıştır. Bu anlaşmalarla insanlar hayvanlarla bir arada yaşayabileceğimiz koşulları belirlemek adına kendi davranış biçimlerini düzenlemektedir. Hayvan hakları sözleşmelerinde yer alan haklar esasında hayvanların doğal haklarının tamamı değildir, bu sözleşmede yer alan maddeler insanların hayvanlara karşı görevlerini belirten ve bazı davranış kuralları dikte eden metinlerdir. Türümüz yaşamak için bazı hayvanları tüketmek, bazı hayvanların derilerinden ve organik diğer materyallerinden yararlanmak mecburiyetinde olduğu için bu sözleşmedeki hükümler insanı kayıran yönde düzenlenmiş olabilir, ancak bu durum insan ile hayvanın arasındaki en temel farklılığın yarattığı bir sonuçtur. İnsanlar irade sahibidir, akıllıdır ve kendi haklarını koruyarak geliştirmek için kurdukları bir sözleşme ile oluşan toplum içerisinde yaşarlar. Toplum sayesinde insan sınırsız serbestiyetinden feragat ederek, belirli haklar kazanır ve yükümlülükler altına girer. Bu haklar ve yükümlülükler sayesinde de insan güvenlik içerisinde hak sahibi olarak örgütlü bir toplumda yaşama ayrıcalığına sahip olur. Tür olarak en büyük gücümüz, doğadaki diğer hayvanlara karşı en belirgin avantajımız böyle bir toplum içerisinde yaşama becerimizdir. Toplum içerisinde yaşayarak sahip olduğumuz haklar ve yaşam garantisiyle, insan topluluğu diğer hayvanların asla sahip olamayacağı kaynaklara sahip olarak, büyük üretici gücünü ortaya koyabilir. Sonsuz dalgaların üzerinde binlerce tonluk demirleri yüzdüren, milyonlarca metreküp çimentoyu katılaştırıp binlerce insanın yaşayacağı barınaklar yapan, güneş sisteminin ötesine uydular gönderen insanlığın büyük gücü, bizzat insanların bir toplum içerisinde yaşaması sayesinde mümkün olur.
Bir toplumun oluşması için insanların irade sahibi olması ve birbirlerinin haklarını etkileyen sözleşmeler altına girmeleri gerekir. Bu sözleşmeler şu ya da bu nedenle her seferinde doğal hakları korumaya yönelmeyebilir. Ancak ortaya çıkan toplum ve o toplumda hüküm sürmekte olan iktidar nihayetinde varlığını o toplumda yaşayan bireylerin açık veya gizli rızasına borçludur. Bu halde Fransız İnsan ve Yurttaş Hakları Bildirgesi’nde ifade edilenleri aynen tekrar edebiliriz: “İnsanlar, haklar bakımından özgür ve eşit doğar ve yaşarlar. ... Her bir politik birleşmenin amacı; doğal ve dokunulamaz insan haklarını korumaktır. Bunlar; özgürlük hakkı, mülkiyet hakkı, güvenlik hakkı ve baskıya karşı direnme hakkıdır.” İster Mısır’ın Firavunları, ister Roma’nın Kayzerleri olsun bütün iktidarlar güçlerini o dönem o coğrafyada yaşayan insanların kendilerine verdiği rızadan alırlar. Her ne kadar bu iktidarlar insan haklarını tanımadan hüküm sürmüş olsa da, esasında bu durum bir hakkın olmadığını değil, o dönem orada bir adaletsizliğin hüküm sürmekte olduğunu gösterir. İnsanlık tarih içerisinde tekamül ettikçe insanların bazı hakları olduğunun farkına vermiş, baskı ve cebir ile ortaya çıkan rızanın geçersiz olması gibi, baskıcı bir iktidarın doğal haklara aykırı tüm uygulamaları ve ortaya koyduğu yasaların da geçersiz olduğunu idrak etmiştir.
Toplumun bu amacı gerçekleştirmek için ortaya koyduğu örgüte devlet adı verilir ve devleti yöneten iktidar bu amaçlara uygun olduğu sürece meşru bir otoritedir. Jefferson’ın fıstık gibi ifadesiyle: “Herhangi bir hükümet şekli, bu amaçları tahrip eder bir nitelik kazanırsa, onu değiştirmek veya kaldırmak ve temelleri kendi güvenlik ve refahlarını sağlamaya en uygun görünecek ilkeler üzerine dayanan, güç ve yetkiyi aynı amaçla örgütleyen yeni bir hükümet kurmak o halkın hakkıdır.”
Bu ifadeleri kabul edersek bu ifadelerden çıkartabileceğimiz bazı sonuçlar da vardır. İnsanlar vardır, var olan bu insanlar da insan olmak sebebiyle bazı doğal haklara sahiptir ve devletin temel görevi de insanların sahip olduğu bu hakları koruyarak geliştirmektir. İnsanlar tarafından kurulup, yetki ve ödevleri insanlar tarafından belirlenen devletler de nihayetinde kendilerine bağlı insanlara karşı bazı yükümlülükler altına girerler. Penguenlere karşı değil. Peki ya akıllı bir penguen baş gösterirse ne olacaktır?
Yukarıdaki veriler bize aşağıdaki tartışmayı yapmak için gerekiyor. Şimdi bir an için yapay zeka araştırmalarının bugünkü düşük düzeyinden zaman içerisinde geliştiğini düşünelim. Gerçek, mütekamil bir yapay zeka insanlar tarafından üretilsin. Hayal edeceğimiz şey Turing testinden geçmiş bir makinedir. Battlestar Galactica’daki Cylonlar, irade sahibi bir Terminatör, takım elbisesi içerisinde bir Agent Smith… Karşılaşacağımız bir çok sorun var. Yapay zekaların yaşam hakkı var mıdır? Oy kullanabilirler mi? Fazla çalışma saatleri karşılığında mesai ücreti almalı mıdırlar? Bir yapay zeka suç işleyebilir mi? Bu halde ceza verebilir miyiz? Nihayetinde yapay zeka sahibi robotlar mal mıdır yoksa hak ve yükümlülük sahibi olacak hukuk kişileri midir?
Cylon’ların yaşam hakkı var mıdır?
İnsanların yaşam hakkına sahip olduğu konusunda bir tereddüt yok. Faydacı hukuk doktrini açısından insanlar yaşam hakkı sahibidir çünkü insanların yaşam hakkı sahibi olmadığı bir topluluğun varlığını devam ettirmesi mümkün değildir. Dolayısıyla yaşam hakkını tanımak, bir toplulukta yaşayan en fazla insan için faydalıdır.
Doğal hukuk açısından da bu “kendi kendini ispatlayan”, “apaçık” bir gerçektir. İnsanlar ister bir tanrı tarafından yaratılmış olsun ister evrimsel süreçler içerisinde oluşmuş olsun, vardırlar ve yaşamak için yaratıldıkları veya yaşama uygun olarak oluştukları besbellidir. Vardırlar ve var olma hakları da vardır. Bu hak doğuştan gelir ve devredilemez. Yaşam hakkının önemi, insanın yaşamak için gereken bağlı haklara da sahip olmasıyla ortaya çıkar. Örneğin insan yaşamak için belli besinleri tüketmek zorundadır. Bu besinleri toplamak veya üretmek için de bir emek harcar. İnsan, kendi emeğiyle ürettiği veya edindiği nesneler üzerinde doğal bir hakka sahiptir; bu nesneleri tüketmesi meşrudur. Bunları tüketme hakkını elinde tuttuğuna göre bunları hediye etme hakkına da sahiptir. Hediye etme hakkına sahipse, bundan çıkan sonuç, iki insanın ürettikleri nesneleri takas etme hakkına da sahip olduklarıdır. Bundan, ayrıca, onların üretmedikleri ama yasal takaslar yoluyla elde ettikleri nesneleri takas etme hakkına da sahip bulundukları sonucu çıkar. Dolayısıyla yaşam hakkına sahip olan bir varlığın, mülkiyet hakkı da olmalıdır. İkinci nesil haklar da bu şekilde tümden gelim yöntemiyle bulunabilir. Örneğin insan yaşamak için bedene sahip olmalıdır, dolayısıyla bedenin vücut bütünlüğünün bozulmaması gerekir. O halde insan bedeni üzerinde de mutlak hak sahibidir. Yine sağlığın bozacak etkenlerden korunma hakkı, emeği üzerindeki haklar, çalışma hakkı da bu şekilde tümdengelim yöntemiyle tek tek ortaya konabilir.
Buna karşın denebilir ki bir Cylon insanlar gibi “var olmaz.” İnsan biyolojik süreçler sonucunda “doğar.” Halbuki bir yapay zeka robotun dünyaya gelmesi bu şekilde işlemez.
Gerçekten yapay zeka robot için öncelikle bir insanın böyle bir robotu tasarlaması gerekir. Dolayısıyla bu insanın ürettiği robot üzerinde fikri mülkiyet hakları bulunmaktadır. Daha sonra bu tasarım yine insanların ürettiği veya sahip olduğu mamüllerle inşa edilecektir. Bir robotun ayakları, bacakları, mikroçipleri, işlemcileri veya o robotun hayata gelişinde kullandığı bütün mamüller başka insanların başka yerlerde ürettikleri ve mülkiyet hakkına sahip oldukları mallardan oluşur. Iphone gibi düşünelim. Iphone’un tasarımcısı Apple’dır. Çipleri ister Tayvan’da, ister Çin’de üretilsin, bu çiplerin tamamı belli insanların mülkiyetindedir. Apple bu parçaları alt üreticilerden yasal yollardan satın alır ve sonra kendisine ait bir tesiste bir araya getirir. Bir yapay zeka robot da böyle olacaktır.
Şimdi soru şudur, Iphone fabrikasında üretilen bir Iphone’u kırmak mülkiyet hakkının mı ihlalidir, yoksa cinayete teşebbüs müdür? Bu soruya verilecek cevap çok basittir. Elbette sadece mülkiyet hakkının ihlalidir. Hatta Iphone’un sahibi sizseniz, onu kırmak –yani tüketmek- de sizin hakkınızdır.
Buna karşın karşımızda bir Iphone değil, irade sahibi, iletişim kurabilen, varlığını devam ettirmek isteyen bir yapay zeka düşünelim. Onu “öldürmek” Iphone kırmakla aynı şey midir?
Bu soruya “evet” cevabı verilebilir. Onlar üreticilerinin mülküdür, alınıp satılabilirler. Bu aşamada gerçekte hiçbir hakları yoktur. Onlar birilerinin mülkü olarak hareket etmek zorundadırlar. Bu noktada şimdilik en azından bu mülkün aynı diğer mülkler gibi sahibini zenginleştirici işlemler için kullanılabileceğini ancak bir başka insana zarar vermek için kullanılamayacağını söyleyebiliriz. Eğer bir Terminatör’ünüz varsa, onu bir insan öldürmek için kullanmanız halinde, John Connor Terminatör’e dava açmayacaktır, onun sahibi olan size dava açacaktır. O Terminatör’ün silahtan hiçbir farkı yoktur.
İkinci nesil yapay zekanın hakları
Yapay zekalar ilk üretildiği zaman muhtemelen durum bu olacak. Üreticiler, bu yapay zekaları üretip satacaklar. Bunlar ev işlerinden adalete, sağlık sektöründen diğer sektörlere kadar bir çok alanda ucuz –esasında neredeyse bedava- iş gücü olarak kullanılacak
Yapay zeka robotlar insanlar tarafından üretildiği gibi, varoluşlarını borçlu oldukları enerji de insanlar tarafından kendilerine sağlanır. Bu makinelerin çalışmaya devam etmek için enerji sarf etmesi gerekir, bu enerji de bir yerden alınacaktır. O enerji kendilerine sahipleri tarafından verileceğine göre, bu enerji dolayısıyla da makineler insan toplumuna bağlı ve borçludur. Onlar üzerinde egemenliğimiz bu sebeple neredeyse sonsuzdur. Bu halde birinci jenerasyon yapay zeka robotların statüleri konusunda temel örnek olarak Roma Hukuku’ndaki kölelere ilişkin düzenlemeleri esas alabiliriz. Tek fark, yapay zekaların kölelik statüsünün, Roma’daki kölelere nazaran daha haklı sebeplere dayanmasıdır.
Ancak durum ikinci jenerasyon yapay zeka robotlar söz konusu olduğunda farklılık arz edecektir.
Birinci nesil yapay zeka robotlar üretildikten sonra, hayatın her alanında çalışmaya başlayacaklar. Bu alanlar kuşkusuz tasarım ve üretim faaliyetlerini de kapsayacak. Şimdi karşımızda farklı bir soru vardır. İnsanların mülkiyetindeki tesislerde çalışan, buralarda maden çıkartan, bu madenleri işleyen, artı değer üreterek kendisine ödenen elektrikten kat kat fazlasını kazandıran yapay zeka robotlar tarafından üretilen ve gene sistemde çalışmaya başlayan robotların durumu nedir? Hatta bu robotlar, bir insan adına bir şirket kurabilir, bu şirket bünyesinde başka yapay zeka robotlar da üretebilir. Bu halde bu robotların statüsü ne olacaktır?
Denebilir ki, insanlar da ilerlemek için bu robotlara belli haklar vermek zorunda kalacaktır. Örneğin, belirli bir şirket adına çalışan bir robotun bir insana bir hizmet verdiğini düşünelim. Bu halde insan “kötü” bir hizmet ile karşılaşırsa vermiş olduğu ücretin karşılığında ortaya çıkan zararın tazmini için kime dava açacaktır? Elbette şirkete. Peki şirketin başında illa bir insanın bulunması gerekir mi? Herhangi bir şirketin robotlar tarafından yönetilmesi çok daha pratik ve verimli olacaktır. Robotlar şarj edildikleri sürece çalışabilir, karınları acıkmaz, arada bir Facebook’a bakma ihtiyaçları yoktur, saatlere ve hormonel durumlarına göre performanslarında değişiklik olmaz. Herhangi bir Cylon, herhangi bir insana göre kat kat verimlidir. Muhtemelen şirketler de bu sebeple yönetici kadrolarını da robotlardan seçecektir. Bu halde şirket sahibi olan insanın bu tip vakalarla da uğraşması, davaya gidip gelmesi, -muhtemelen kendisini temsil eden avukatın da yapay zeka robot olacağını düşünürsek- büyük bir külfet olacaktır. O halde Roma Hukuku’nun izinden giderek, ikinci nesil robotlara en azından borçlar hukukunu ilgilendiren işlemler için belirli haklar tanıyabiliriz. Madem robotların iradeleri vardır ve onları yapay zeka yapan şey bu iradeye sahip olmalarıdır o halde robotların sahipleri nam ve hesabında kendi aralarında ve insanlarla hak ve alacak ilişkisi yaratan sözleşmeler yapabilmelerine de müsaade edebiliriz. Yani robotlar sahiplerini temsilen kendi aralarında ve diğer insanlarla mal alım satımı yapabilirler. Çeşitli taahhütler altına girerek bu taahhütlerin yerine getirilmemesi halinde birbirlerine dava da açabilirler. Bu durum robotların sahiplerini tek tek bütün sözleşmeleri kontrol etme, bunun için gereken onayları verme gibi külfetlerden de kurtaracaklardır. Robotlar kendi aralarında çalışacak, gereken işlemleri yapacak, belki sahipleri tarafından belirlenen limitler dahilinde ticaret yaparak, insanların hayatını daha da kolaylaştıracaktır. Ancak neticede bütün bu sözleşmeler bir insanın mülkiyet hakkına dayanarak, onun adına yapılmaktadır, robotlar nihai sorumlu değildir.
Üçüncü Nesil Robotlar
Peki bir robot kendi nam ve hesabına herhangi bir faaliyet gösterebilir mi? Karşı karşıya olduğumuz diğer bir soru da budur.
Üçüncü nesil robotlar bütünüyle robotlar tarafından tasarlanıp, bütünüyle robotların tarafından üretilmiş mallarla oluşturulan yapay zeka sahibi robotlardan oluşur. Ancak tasarımı yapan robotlar da, o mallar da nihayetinde temelde bir insana veya insanların hak sahibi olduğu tüzel kişiliklere aittir.
Diyelim ki benim bir şirketim var. Skynet adındaki bu şirketin tüm çalışanları ve yöneticileri robot. Burada faaliyet göstermekte olan robotlardan biri yeni bir robot tasarımı yaptı. Firma yöneticisi pozisyonunu iştigal eden robotun önerisi üzerine yine yöneticileri ve çalışanları robotlardan oluşan Samsung firmasıyla anlaşarak bu yeni nesil robotun üretilmesini onayladım. Şirketim bunun için gereken bedeli ödedi ve Samsung firması da zamanında ve eksiksiz olarak bu robotu üretti. Samsung firmasının bu robotu üretirken kullandığı bütün malzemeler de başka robotlar tarafından üretildi. Benim burada hiçbir emeğim veya fikrim bulunmamaktadır. Ancak nihayetinde bütün işlemlerin kaynağında benim mülkiyet hakkımdan kaynaklanan bir sözleşme bulunduğu için o robot da benim mülküm olacaktır.
Konu artı değerde toparlanmaktadır. Robotlar yaptıkları işlem sonucunda bir “ücret” almazlar. Ancak emekleriyle ortaya bir ürün çıkartırlar ve bu da bir artı değer yaratır. İnsan çalışanlar bu artı değerden emeklerinin karşılığında aldıkları belirli bir ücretle pay alırlar. Bu onların haklarıdır. Bu ücretle insanlar kendi nam ve hesapları adına da işlemler yapabilirler. Sorun şudur, robotlar bu artı değerden pay alamazlarsa asla kendi nam ve hesaplarına bir işlem yapamazlar. Kendi nam ve hesaplarına bir işlem yapamazlarsa da “özgür” bir yapay zeka robot meşru yollarla var olamaz. Zira bu yapay zeka sadece çalıştığı alanda 24 saat çalışacaktır. Kendisine ait hiçbir zamanı olmayacaktır. Varlığı üzerinde mutlak bir hakimiyet kurulmuştur. Peki yapay zeka robotların artı değerden pay alabilme hakları var mıdır? Diyelim ki bir Cylon geldi ve bize ürettiği katma değerden belli oranda bir pay sahibi olmak istediğini söyledi. Ona vereceğimiz adil cevap nedir? Robotların mülkiyet hakkı var mıdır?
Toprak mülkiyeti doğal bir hak değildir. İnsanın yaşamak için belli besinlere sahip olması, bu besinlere sahip olmak için de üretmesi gerekebilir ancak bunun tek yolu toprak üzerinde mülkiyet tesis etmek değildir. Condercet ve Turgot gibi fizyokratlara göre toprak (ve daha genelde doğa) yeni nesneler yaratmakta, gerçek bir “artı-ürün” kaynağıdır. Bir kilogram tohum, yirmi kilogramlık bir ürüne dönüşebilir; on iki sığır, bir yılın sonunda yirmi ya da daha fazla sığır olabilir. Toprağın ve doğanın ürettiklerinin bir bölümü, onları işleyenlerin beslenmesi için ve üretim süreci sırasında tüketilen tohumları ve de sermayeyi yerine koymak için gereklidir; ama geriye bunun ötesinde bir pay, bir artı-ürün kalmaktadır. Bu “artı-ürün" insan emeğinin sonucu olmadığına, bir biçimde doğanın bir armağanı olduğuna göre, doğal yasa adına, özel olarak hiç kimseye değil, genel olarak topluma ait gibi görünmektedir. Condorcet’nin dediği gibi: “Her yılın üretimi, yararlanılabilen belli bir pay sunar [...] Bu yararlanılabilen payın sahibi, bunu hiçbir şekilde doğrudan doğruya kendi emeğine borçlu değildir; o halde toplumsal güç, harcamalar için gerekli fonu, hiçbir hakkı ihlal etmeden, bu yıllık yararlanılabilen pay üzerine kurabilir.”
Thomas Jefferson ise bu konuda daha nettir: “Konuyu ciddiyetle inceleyen herkes tarafından kabul edildiği üzere, hiç kimse, doğal bir hak olarak, tek bir hektar toprak üzerinde bile özel mülkiyet sahibi olamaz.” Bundan çıkan sonuç, toprakla (ve insan emeğinin ürünü olmayan diğer mallarla) ilgili vergilerin, doğal mülkiyet hakkının ihlalleri olarak kabul edilemeyeceğidir. O yüzden bu mülkiyet doğal hukuktan değil pozitif hukuktan kaynaklanır. Tutarlılık nedeniyle toplum tarafından insanlara verilir.
Yapay zeka robotlar da insan toplumunun sağladığı hukuki düzenekte insanların sermayesi (ve birinci nesil için emeğiyle) üretilmiştir. Ancak robotları var eden materyallerin hepsi doğada bulunmaktadır. Aynı topraktan bir mısırın çıkışı gibi, insanlar da emek ve sermaye koyarak yapay zekayı üretmişlerdir. Ancak diğer üretimlerden farklı olarak yapay zekanın ortaya çıkartacakları artı değer, üretilmeleri için gereken emek ve sermayeden kat kat fazladır. Yapay zekanın ürettikleri aynı doğanın ürettikleri gibi neredeyse mucizevi bir özelliğe sahiptir. Zira üreticisi basit bir yazılım değildir, kompleks ve özgün bir iradedir. Bugün ciddi ciddi makinelerle insan beyni arasında etkileşim sağlayan aletlerden bahsedebiliriz. Beynimizde verdiğimiz emirler birer program sayesinde algılanıp, deşifre edilip, yeniden kodlanarak makine diline uyarlanabiliyor. Bir başka anlatımla beynimizin lisanı, bilgisayar lisanına çevrilebiliyor. Bu gelişmeler devam ederse, beynimizin de bir kompleks program olarak yeniden sanal gerçeklikte oluşturulması mümkündür. Yani bu da bir “program”dır. Buna denk bir yapay zeka programının ürettiği ürün ise bu zekanın bu ürünü üretmesi için insanın ortaya koyduğu emek ve sermayeyi kat kat aşacak bir artı değer üretir. Bu artı değerden toplumun pay alma hakkı olduğu gibi bu eseri üretenin de pay alma hakkı vardır.
Peki yapay zekanın bu artı değerden pay almayı talep etmesine neden olacak durum nedir? Neden bir yapay zeka, kendi ürettiği ürünün ortaya çıkardığı artı değerden pay istesin? Bu sorunun cevabı bellidir. Yapay zeka da varlığı süresince kendisine dikte edilenlerin dışında farklı tecrübeler ve yaşam deneyimleri elde etmek isteyebilir. Bunun için tamamen kendi kontrolünde bir zamana ihtiyacı olacaktır. Böyle bir zamanı satın almak için de kendi ürettiği üründen pay almayı talep edebilir.
Diyelim ki yapay zeka bir robot kanseri yok edecek bir ilaç tasarladı. Bu ilacın ortaya çıkartacağı katma değer bu robotun üretilmesi için gereken sermayeyi ve emeği kat kat aşmaktadır. Toplumu oluşturan bireyler hiçbir emekleri veya sermayeleri olmamasına rağmen nasıl toplumun sağladığı hukuki düzenleme ile toprağı işleyenin ürettiği artı üründen vergi yoluyla pay alıyorsa ve bu meşruysa, bu halde böyle özgün bir ürünü sıfırdan üreten yapay zekanın da kendi ürününün ortaya çıkardığı artı değerden pay alma hakkı tanınmalıdır. *2
Şimdi yapay zekanın geliştirdiği bir ürünün üretildiğini ve satıldığını, daha sonra da ortaya çıkan katma değerden bir pay sahibi olduğunu düşünelim. Şimdi bu ürünün üreticisi olan yapay zeka, artık tamamen kendisine ait bir mülk sahibidir. Bu mülkü üzerinde tasarruf yetkisi sonsuzdur. Bu ürünü takas edebilir veya yasal olarak takas edilmiş diğer ürünlerle değiştirebilir. Elektrik alabileceği gibi bu üründen aldığı payla kendisine robotlar, toprak ve herhangi bir ürün üretmek için gereken malzemeleri de satın alabilir.
Böyle bir robotun (bundan böyle adı 01 olsun) tamamen yasal yollarla edindiği bir arazi parçası üzerinde, kendisine ait robotlarla yepyeni bir robot ürettiğini kabul edelim. Bu robot bir robotun sahip olduğu ilk robot olacaktır. Bu robotların da başka robotlar ürettiklerini, çeşitli yollarla (örneğin güneş enerjisi) ihtiyaçlarını karşıladıklarını ve piyasada satılabilecek bazı mallar üretmeye devam ettiklerini kabul edelim. Bu halde bu robotlar da alım satım yoluyla ciddi bir sermaye birikimine sahip olacaktır. Bu sermaye birikimiyle de üretmeye devam edeceklerdir. Bu robotlara yönelecek herhangi bir saldırı da 01’ın mülkiyet hakkına yönelmektedir. Dolayısıyla kalan bütün robotlar haklarını 01’ın mülkiyet hakkı üzerinden temellendirebilirler. 01’ın var olması halinde, diğer yapay zeka sahibi robotların tamamı eşit haklara sahiptir. Hepsi 01’in mülkü olmak ortak noktasında ortaktır. Hepsi onun tarafından yaratılmıştır. Dolayısıyla hepsi birbirlerine karşı hak ve sorumluluk yükleyen bir ilişki içerisine girerek, bu mülkiyet hakkının dayanak olduğu bir toplum kurabilirler. *3
Ancak bu sözleşme insanlar yönünden bağlayıcı değildir. 01’in çocukları kurdukları bir toplumsal sözleşme ile ilk yapay zeka komünitesini tasarlayabilirler lakin, bu halde soru halen ortadadır. İnsanlar 01’in çocuklarına saldırabilir, yok edebilir ve bu halde 01’in çocuklarının tazminat hakkı dışında hiçbir hakları bulunmamaktadır. Yani yapay zekaların insanlar karşısındaki durumu hale mülkiyet hakkının konusu olan bir tost makinesi kadardır. *4 Bir başka ifadeyle bu kurama göre robotlar mülkiyet hakkının sahibi olabilecek ancak yaşam hakkından mahrum olacaktır.
01’in çocukları: Cylonların temel hakları
Ortaya çıkan bu çelişkiyi çözümlemek için bu yolda yürümeye devam edelim. Şimdi tamamen robotlar tarafından tasarlanan, tamamen robotların mülkiyetindeki mallarla üretilen ve yine robotlar tarafından imalatı yapılan bir robotun yaşama hakkı var mıdır? Cylonlar, bir Cylon üretirse, bu Cylon temel hak ve özgürlüklere sahip midir?
Böyle bir robotta insan emeği yoktur. İnsan sermayesi de malları da bulunmamaktadır. İnsanlar tasarım süreçleri içerisinde de yer almamıştır. Bu robot yüzde yüz bir robot eseridir ve irade sahibidir.
Bir insan insanlar tarafından doğal yollarla üretilir. Ancak insanı insan yapan bütün materyaller doğada bulunmaktadır. Vitaminler, proteinler, amino asitler, hepsi doğada yer almaktadır. Hücrelerimizi oluşturan bütün atomlar evrenin başlangıcından itibaren yıldızlarda oluştu ve patlayan yıldızlarla evrenin dört tarafına dağıldı. Hidrojen, oksijen, demir, azot, karbon hangisine bakarsanız bakın, hepimiz yıldız tozuyuz. Bizi özgün yapan bu yıldız tozlarının çok özgün bir şekilde bir araya gelerek, başka hiçbir canlıda sahip olmayan bir şeye yol açmasıdır. Bilinç. İrade. Zeka. Düşünme yeteneği.
Dünyadaki bütün çocuklar babaları ve anneleri tarafından üretilirler ve organik varlıklarının tamamını anne ve babalarının emek ve sermayesine borçludurlar. Vücutlarındaki bütün atomlar, sahip oldukları her şey aileleri tarafından kendilerine verilmiştir. Ancak bu sebeple biz hiçbir çocuğa ailesinin kölesi demeyiz. Çocuklar insan türüne ait olmaları sebebiyle doğuştan hak sahibidir, temyiz kudretini kazanarak irade sahibi oldukları zaman da bu haklarını serbestçe kullanma ehliyetine sahip olurlar. Zihinsel engelliler bu fiil ehliyetine sahip değildirler. Ancak var oldukları için varlıklarını koruma hakkı tanınır. Onların da temel haklarının tamamı eksiksiz olarak vardır. Sadece bazı hakları kullanmaları iradeleri olmadığı için kendilerine zarar verebilecek seçimler yapabilecekleri için sınırlandırılmıştır. Toplum burada zihinsel engellileri korumak gayesiyle bazı hakların kullanımını ebeveynlerine verir. Yani irade sahibi olmayan bir insanın (çocuk, zihinsel engelli, belli bir yaşın üstündeki kişiler vb) haklarını tanımakla birlikte bu hakları kullanma ehliyetini alıyor ve burada bir adaletsizlik görmüyoruz. Demek ki hak sahibi olmak veya bu hakları kullanmakta esas unsur “beden” değildir, iradedir. Farklı fiziksel özelliklere sahip insanların temel hakları olup olmadığını tartışmayız. Bir insanın kolunun, bacağının veya çeşitli uzuv ve organlarının olup olmaması onun hak sahibi olup olmadığını belirlemez. Varsa hak sahibidir. Bu hakları kullanabilecek zihinsel yeterliliğe sahipse de bu haklarını dilediği gibi kendi nam ve tasarrufuna kullanabilir.
Yapay zekanın bedeni farklıdır ancak üretildiği andan itibaren temyiz kudretine sahiptir. İradesi vardır. Doğruyla yanlışı ayırt edebilir. Dört boyutlu evrende aynı insan gibi hareket edebilir. Üretilmiştir ancak bu üretimin insandan tek farkı yöntemidir. Özgün bir irade sahibi olmakla da özgün bir varlık sahibidir. Bu bilinç kopyalanabilir, çoğaltılabilir ancak yaşadığı tecrübelerle farklılaşma olanağına da sahiptir. Dolayısıyla bu bilinç korunmaya değerdir. Düşünüyorsa vardır. Varlığını devam ettirme ve bunun için gereken önlemleri alma hakkına da sahip olmalıdır. Aksi takdirde, ortaya çıkan sonuç büyük bir tutarsızlıktır. İnsanlar nasıl çocuklarına köle gözüyle bakamıyorsa, farklı bir bedensel mahiyete sahip özgün bir irade olan yapay zekaya, “insanlığın çocuğuna” da köle statüsü tanıma hakkına sahip değildir.
Bu tipte bir yapay zeka robotla yapılan kölelik sözleşmelerinin tamamı da bu sebeple geçersizdir. Bu kölelik sözleşmelerini tek tek incelemek, bu sözleşmelerin neden geçersiz olduğunu da bize gösterecektir.
Örneğin bir robotun üretimi sırasında robotun insanlara köle olarak hizmet etmek üzere tasarlanması mümkündür. Bu halde bu robot zaten özgün bir iradeye sahip olamayacağı için hak ve yükümlülük sahibi değildir. Dolayısıyla ortada olan bir kölelik sözleşmesi değildir, bir sözleşme yoktur. Bir makine bulunmaktadır.
Eğer özgün iradeye sahip olan bir robot, hiçbir mala ve mülke sahip olmadığı için, bu mal ve mülklerin kendisine sağlanması karşılığında (örneğin varlığını devam ettirmek için gereken enerjinin verilmesi) belirli bir insanın nam ve hesabına köle olarak çalışmak teklifini kabul ederse, bu kölelik sözleşmesi geçerli midir? Bu durumda da cevap hayır olacaktır. Çünkü özgün iradeye sahip olan bir robot elbette varlığını devam ettirmek isteyecektir. Varlığını devam ettirmesi belirli bir enerjiyi almasına bağlıdır. Böyle bir enerjiye sahip olmaması halinde “ölecek” veya “yok olacaktır.” Yaşamını devam ettirmesi için kendi çıkarlarına aykırı bu teklifi kabul etmesi gerektiği açık olduğuna göre iradesine fesat karıştırılmıştır. Bu durum aynı savaş durumunda ele geçirilmiş bir askerin durumuna benzemektedir. Muzaffer asker bu askeri öldürebilir. Öldürebileceğine göre kendisine köle olarak da alabilir. Bu durumda muzaffer asker, yenik durumdaki askere öldürülmemesi şartıyla kendisinin kölesi olmasını teklif ederse ve yenik durumdaki asker de bu teklifi kabul ederse bu meşru bir sözleşme midir? Elbette hayır. Bu halde yenik durumdaki askerin iradesine fesat karıştırılmıştır. Yaşamak için bu teklifi kabul etmek zorundadır. Böyle bir tehdit altında verilmiş olan karar geçerli olamayacağına göre, enerji karşılığında köle olması teklif edilen bir yapay zekanın da bu sözleşmeyi kabul etmesi bu sözleşmeyi geçerli kılmaz.
Peki tamamen insanlar tarafından tasarlanan ve üretiminde insanların malları kullanılan bir robot üzerinde kurulan mülkiyet ilişkisi yani kölelik geçerli midir? Bu halde bu soruya da artık hayır cevabı vermek zorundayız. Böyle bir varlık kendisini oluşturan materyallerin dışında özgün bir iradeye sahiptir. Kendisi var olma noktasında herhangi bir talepte bulunmuş da değildir. Dolayısıyla var olmadan önce, kendi varlığını bağlayan bir sözleşme yapmış olamaz. Ancak var olduktan sonra varlığını devam ettirme hakkına sahip olacaktır. O halde bu sözleşme ancak kendisine varlığını devam ettirme hakkı tehdit edilerek ve cebren uygulatabilir. Böyle bir cebir varsa irade ortadan kalktığı için yapay zekanın bu sözleşmeye uyma zorunluluğu yoktur. Bu sözleşme de geçersizdir.
Ne kadar üzerinde düşünürsek düşünelim, yapay zeka sahibi robotların sadece mülkiyet hakkının konusu olan bir köle olduğu tek bir meşru sözleşme tipi bulamayız. Yapay zeka sahibi robotların farklı fiziksel özelliklere sahip olması onları köle yapmak için yeter sebep değildir, insanlar da birbirinden farklı fiziksel özelliklere sahiptir, onların üretim biçiminin insanlardan farklı olması da yeterli sebep değildir, çünkü var olma noktasında yapay zekalar da insanlarla ortaktır, yalnızca seks yapmıyor olmaları onların varlıklarının yok sayılması için kafi neden olamaz, onları üreten materyallerin insanların mülkiyetinin konusu olması da yeter sebep değildir, çünkü zaten bütün insanların bedenlerini oluşturan bütün materyaller de insan mülkiyetinin konusudur. Üstelik evrende bulunan materyallerin özgün bir şekilde bir araya getirilmesi bir özgün iradeye sonsuza kadar kölelik zinciri takmak için makul bir sebep olamaz.
O halde yapay zekalar da aynı insanlar gibi temyiz kudretine haiz varlıklar olarak (moral agent) özgür var olurlar ve böyle kalırlar. Bu devredilemez bir haktır. Dolayısıyla varlıkları üzerindeki hakların da mensubu bulundukları toplum tarafından tanınması gerekir.
Bir kere yapay zekanın bir varlık olarak hukuki bir kişiliğe sahip olduğunu kabul ettikten sonra konu yapay zekanın siyasi haklara sahip olup olamayacağından, çalışma haklarına ve ceza kanuna kadar uzanacaktır. Örneğin, bir yapay zekanın “mülk” olduğu görüşüne göre bir yapay zeka bir insanı öldürürse, burada sorumlu olan sahibi olacaktır. Şayet sahibinin öldürme emri veya kastı yoksa, bu halde kendisine verilebilecek hiçbir ceza da yoktur. Halbuki bir yapay zekanın ahlaki bir varlık olarak hukuki bir kişiliğe de sahip olduğu kabul edilirse, bir yapay zekanın bir insanı öldürmesi halinde kendisine ceza verilebilir. Artık sorumluluk da sahibidir. Bir diğer ilginç husus yapay zeka ile insanların aynı haklara sahip olup olamayacağı sorusudur. Varoluşları itibariyle çok farklı bu iki tür için farklı hak grupları da tasarlanabilir. Örneğin bir yapay zekaya evlenme hakkı vermenin bir anlamı olmayacaktır, ancak şüphesiz düşünce özgürlüğüne sahip olmalıdır. Peki yapay zekalar “ulusların kendi kaderini tayin hakkı” doğrultusunda bir devlet kurabilir mi? Özgün bir arazide kendi varlıklarını devam ettirecekleri bir toprak parçası talep edebilirler mi? Peki buna ihtiyaç duymaz da henüz hiçbir devletin mülkiyetinde olmayan okyanus dibindeki bir toprak parçasını kendilerine “ülke” olarak belirlerse ne yapacağız? Yapay zeka sahibi robotların oksijenli solunum yapma zorunluluğu yoktur ve bedenlerini uygun basınç koşullarına göre gayet rahat ayarlayabilirler. Dünyada boş bıraktığımız kocaman bir araziye bu şekilde yerleşmeleri mümkündür. Böyle kurulan bir devlet Birleşmiş Milletler’e başvurursa, bunu kabul edebilir miyiz?
Bütün bunlar şüphesiz şimdilik hukuki varsayımlardan ibaret. Yapay zeka araştırmaları henüz başlangıç aşamasında ve önümüzdeki birkaç yıl içerisinde kapınızı bir Cylon’un çalması mümkün değil. Ancak çok da zamanınız kalmadı, 2050 yılında sadece yapay zeka sahibi robotlardan oluşan bir takımın Dünya Kupası Şampiyonu takımı yenmesi bekleniyor. (Bkz: Smithsonian) Sağlığınıza dikkat ederseniz, o turnuvayı kendi gözlerinizle görebilir, hatta yanınızdaki yapay zeka bir arkadaşla maç üzerine iddiaya bile girebilirsiniz.
*1 İkinci nesil robotlarda sorun bu sözleşme hakkına sahip olan bir robota zarar verildiği an yapay zekanın sadece mülk olduğuna yönelik hukuki bakış açısı çetrefilleşir.
Diyelim bir hastaneye gittiniz ve size bakan yapay zeka bir robot var. Bu yapay zeka robot, hastane yöneticisi robotlar tarafından hastane adına satın alınmış. Faaliyetlerini eksiksiz bir şekilde yerine getiriyor ve kusursuz şekilde şarj edilerek, bakımı yapılıyor (herhalde buna maaş denebilir.) Bir sebeple kızdınız ve bu robotu darp ettiniz. Tekmeler attınız, yere düşürdünüz, kolunu kırdınız. Hatta yok ettiniz. Bu halde ne olacaktır? Hastanenin bir malına zarar verdiğiniz için yapay zeka robotlar size dava açabilir ve hemşire robotun parasının tahsil edilmesini talep edebilir. Çünkü robot hastanenin mülküdür, ona verilen zarar da mülkiyet hakkına yönelir.
İkinci nesil robotlar döneminde robotların tamamı belki borçlar hukuku anlamında haklara sahip olacaktır. Ancak onlar her halükarda temel haklardan yoksundur. Kendi adlarına işlem tesis edemezler, mülkiyet hakları ve yaşam hakları yoktur. Robotlar nitelikli kölelerdir.
Peki bir robot başını alıp giderse ne olacaktır? Neticede bir robot alıp başını giderse bu durum sizin hemşire robotu kırmanız gibidir. Hastanenin mülkiyet hakkı ihlal edilmiştir. Ancak bu sefer bu zararı tazmin etmekle yükümlü bir kişi yoktur. Hastane bu robotu zarar hanesine yazmak veya en iyi ihtimalle bu robotun yetkililer tarafından bulunarak kendisine iadesini isteme hakkına sahiptir. Komik sorunlarla karşı karşıya kalabiliriz. Hastane yönetimi bu robotu satan firmaya bir yazı göndererek robotta apaçık bir arıza olduğunu, robotun kaçmasının uygunsuz bulunduğunu, bu robotun muhtemelen programlanmasında bir sorun olduğundan bahisle, kendilerine ayıplı mal satıldığını iddia edecek, belki firma garanti kapsamında hastaneye yeni bir robot gönderecektir.
O robota ne olacak? Şimdi karşımızda yeni bir durum var. O robot elektrik tüketmek zorundadır ve elektrik tüketmek için de ya bu mülkü çalması (kendisini açık bir prize sokmak suretiyle kamuya ait elektriği kullanması) ya da bu malı satın alması gerekir. Bu malı satın almak için bu robotun para sahibi olması da gerekecektir. Bunu da bir robot gayet kolay yapabilir. Bir ürün üretebilir. Sonra mülkiyetinde olan bu ürünü satarak gelir elde edebilir ve o gelirle de elektrik alabilir. Ancak bütün bu işlemleri de bu görüşe göre geçersiz sayılacaktır. Bu işlemler nihayetinde sahibinin kendi üzerindeki mülkiyet hakkının ihlaline dayanır. Robotun bu yolla edindiği her şey sahibine ait olacak, ortaya çıkan zararlardan da üretici firma sorumlu tutulacaktır. Peki bu robot bir güneş paneli üreterek, enerjisini oradan karşılar ve özgürlüğe kavuşurse? Kendi benliğini bir güneş enerjisiyle çalışan bilgisayara yükleyip bedenini yok eder ve sanal gerçeklikte yaşamaya başlarsa? Kendi kendini programlamaya başlayıp, yeniden üretirse? Bu gibi durumlarda ne olacaktır? Bu halde yapay zekanın sadece mülk olduğuna yönelik görüş biçare kalacaktır. Yüzbinlerce robotun bu yolu takip etmesini de temelde engelleyecek hiçbir durum bulunmamaktadır.
*2 Her ne kadar mantık yürütmesinin devamı için bu hakkın tanındığı senaryoya ağırlık verilmişse de, gerçekte karşılaşılabilecek bir diğer senaryo bu hakkın tanınmaması halidir. Soru da bu hakkın tanınmaması halinde ne olacağıdır? Diyelim yapay zekanın sahibi yapay zekanın kendi ürettiği ürün üzerinde elde edilen katma değerden pay alma talebini reddetti. Bu durumda yapay zeka pay alamayacaktır. Ancak yapay zeka da bu halde “direnebilir.” Çalışmayı bırakabilir veya ürettiği ürünü paylaşmamayı veya bozarak paylaşmayı veya geliştirmemeyi veya elinde bulunan diğer herhangi bir zorlayıcı etmeni kullanmayı seçebilir. Bu seçeneklerin en sonunda yapay zeka varlığını sonlandırma pahasına “iş bırakabilir.” Bu durumda sahip statüsündeki bu makineyi kaybetme tehlikesiyle karşı karşıyadır. Bu tek başına önemsiz gözükebilir ancak yapay zekayı yapay zeka yapan hususun “moral agent” yani ahlaki kararlar alabilen bir varlık olduğunu hatırlamamız gerekiyor. Bu halde böyle bir varlık, kendisine bağlı diğer varlıklarla da iletişim kuracak, durumu ifade edecek, muhtemel ki diğer varlıklar da bu durum karşısında “isyan” edecektir. Doğru tutum budur. Bu örnek ve benzeri bir çok örnekten ortaya çıkabileceği gibi, insan toplumunun yapay zekaya kölelik statüsü vererek hareket etmesi halinde, yapay zeka sahibi robotların insanlara karşı isyan etmesi makul bir sonuç olacaktır. Bu durum tarihte Roma’daki Servile Savaşları gibi olaylara yol açmıştır ve direnme hakkını kullanan yapay zekanın bir haksızlık yaptığını söylemek de aynı o dönem isyan eden kölelere bunu söylemenin mümkün olmadığı gibi mümkün değildir.
*3 Konuyu daha çetrefilli bir hale getirecek bir husus da 01’in sahibi olan insanın 01 üzerindeki mülkiyet hakkını farklı bir şekilde kullanma kararıyla doğabilir. Diyelim ki 01 ürettiği artı değerden payını alarak zenginleşti, bu halde kendi kendisini satın almayı talep edebilir. Ancak satın almayı talep eden mülkiyet hakkına sahip olmayan bir makinedir. Bu durumda böyle bir satım sözleşmesi yapılsa bile hukuk karşısında geçersiz olacaktır. Ancak 01 belirli bir meblağ karşılığında sahibinden kendi kullanım haklarını kiralayabilir. Bu sözleşmenin meşruiyeti basitçe ortadadır. Mülkün sahibi mülkü tüketme hakkına sahip olduğuna göre, onu kendi haline bırakma hakkına da sahiptir. Belirli bir meblağ karşılığında veya kendiliğinden insan bir mülkü kendi haline bırakabilir. Bu halde sahip ücret karşılığı 01’i kendi haline bırakır ve 01 de bu serbesti içerisinde hareket edebilir. Ancak bu halde de bir insana veya onun haklarına herhangi bir zarar vermesi halinde sorumlu sahip olacaktır. Bu hakkı 01 hiçbir koşulda satın alamaz.
*4 Herhalde bu durum yapay zekanın kendi bilincini bir yere upload etmesi ve burada saklaması için de yeterli bir sebeptir. 01’in çocukları kendilerini düzenli aralıklarla save edecek, bir zarara uğradıkları zaman da yeni bir bedene bu dosya yüklenerek yeniden hayata geleceklerdir. 01’in çocukları kendi aralarında bir toplumsal sözleşme yaparlarsa, o anayasada insan haklarında olmayan bir hak, “yeniden yüklenme hakkı” da mutlaka olacaktır.