Özgür gazeteciliğe destek olun
Search
Close this search box.

Yuval Noah Harari: “Sahip olduğumuz teknolojiler, yakın zamanda insanları da hack’leyebilecek”

42 yaşındaki Yuval Noah Harari, Ortaçağ ve askerî tarih uzmanı ve Kudüs İbrani Üniversitesi’nde ders veriyor. Son eseri “21. Yüzyıl İçin 21 Ders” şu sorunu ortaya koyuyor: İnsan, yakında makineler gibi “hack’lenebilecek.” Kitabında, ayrıca uzun vadede yaşanacak mücadeleleri açıklamak için çevre krizi, liberal demokrasilerin kırılganlığı, “fake news” (sahte haber), big data (büyük veri) ve yapay zekâ konularına eğiliyor.

Le Monde’dan Piotr Smolar’ın Harari ile yaptığı ve 19 Eylül 2018’de yayınlanan söyleşiyi Oğul Tuna çevirdi.

 

 

Yeni kitabınız “21. Yüzyıl İçin 21 Ders”te önümüzde iki önemli mücadele olduğunu yazıyorsunuz: Yıkıcı yenilik ve çevre krizi. Yükselişte gibi görünen milliyetçilik bu sorunlara cevap verebilir mi?Milliyetçilik uzun vadede iyi bir kuvvetti. Halklara, daha önce hiç görülmemiş biçimde işbirliği yapma imkânı sağladı. İki yüz yıl boyunca çoğunlukla milliyetçi hisler sayesinde insanlar sosyal güvenlik ve refah devleti için ödeme yapmaya hazır oldular. Ancak milliyetçiliğin kötü yanları da var: Savaşa yol açan yabancı düşmanlığı. Bugün ise yalnızca olayların daha kötü hâle gelmesine sebep oluyor.

Milliyetçiliğin küresel problemlere verecek cevabı yok. İklim değişikliğini inkâr eden insanların özellikle milliyetçi sağdan gelmesinde şaşılacak bir taraf yok. Viktor Orban’dan Marine Le Pen’e ve Steve Bannon’a, güncel milliyetçi dalganın merkezinde bulunan dünya görüşü şöyle özetlenebilir: yabancı ürünleri vergilendirmeye zorlayan ve göçü engelleyen kaleler ağı; çok kültürlülükten, düşmanlardan ve savaştan koruyan kaleler. Fakat yapay zekâya ya da iklim değişikliğine karşı hiç kimse duvar inşa edemez.

Bu sorunlara yalnızca millî düzeyde çözüm bulamayız. Fransız hükümeti sera gazlarının emisyonunu sıfıra indirme kararı alıp dünyanın en çevreci hükümeti olsa bile; bütün bunlar uluslararası işbirliği olmadığı sürece hiçbir işe yaramayacaktır. Biyoteknoloji ve yapay zekâ düzenlenmek istendiğinde uluslararası işbirliği kaçınılmaz olacaktır.

Bu işbirliği olmasa bile yapay zekânın gelişimi engellenemeyecektir; ancak işbirliğini bırakırsak kendi ilkelerimizden de vazgeçmeye meyledeceğiz. Farz edelim ki, Çin veya Rusya silahlı robotlar elde etsin. Böylece silahlanma yarışı başlayacaktır. Beş yıl öncesine kadar hiç kimse, belki Çin bile, yapay zekânın gerçek potansiyelini anlamamıştı: Yapay zekâ, insanlığı yok oluşa götürebilir.

Liberal demokrasinin krizinin yalnızca kurumsal bir sorun ya da seçim süreciyle alakalı bir problem değil, aynı zamanda kökleri beyne dayanan bir mesele olduğunu açıklıyorsunuz. Bununla ilgili başka ne söylemek istersiniz?

Liberal demokrasi, beynimizin yalnızca kendimizin erişimine açık, tutkularımız ve düşüncelerimizle dolu kara bir kutu olduğu ilkesinden yola çıkar. Seçmenin ne yaptığını bildiğini varsayan bir rejimdir. Brexit’i seçtik, çünkü Britanyalı seçmenin hissiyatına çok yüksek bir değer atfettik. Ve hiç kimse de bu hislerin doğruluğuna karşı çıkmadı. Böylece yaşanan kriz; sadece cep telefonlarını ve bilgisayarların değil, insanların da hack’lenebileceği teknolojilere sahip olduğumuz gerçeğinden doğdu. Devrim tutkularınızın, hislerinizin, düşüncelerinizin anlaşılabileceği ve kontrol edilebileceğini noktada gerçekleşti.

“Sahte haber” (fake news) yeni bir şey değil; fakat şimdi bireyleri doğrudan hedefleyip seçerek sahte habere maruz bırakabiliyoruz. Eğer birisi göçmenlerden nefret ediyorsa, ona Fransız kadınlarına tecavüz eden göçmenlerle ilgili bir haber gösterilebilir; haber doğru olmasa bile bu kişi kolayca inanacaktır. Yalan haberler kamu söyleminin çöküşünü kışkırtmak ve insanları aşırılık yanlılarına doğru kaydırmak için üretiliyor.

Göçmenlerin kabulü konusunda, buna taraftar olanlar kadar karşıt olanların da argümanları güçlü. Zaten liberal demokrasi, tam da bu tartışmanın gerçekleştirilebilmesine dayanıyor. Ancak bugün karşılaştığımız durum, tıpkı Maniheizm’deki nihaî “İyi” ve nihaî “Kötü” arasında gerçekleşen savaşa benziyor. Çünkü tartışmanın tarafları (partiler, yabancı aktörler veya şirketler) tam da bu şekilde hareket ediyor.

Bu tuzaktan nasıl çıkılır?

Şu kuşkusuz bir gerçek ki yapay zekâ ve büyük veri, şirketler tarafından insanları daha iyi anlamak ve manipüle etmek için kullanılıyor. Fakat bu teknolojileri aynı zamanda insanları daha iyi anlamak ve bağışıklıklarını geliştirmek için kullanabiliriz. Bugün kırılgan, savunmasız varlıklarız çünkü kendi zayıflığımızı fark etmiyoruz. İşte bu yüzden tam özgür irade illüzyonundan vazgeçerek başlamamız gerekiyor: Düşündüklerimiz ve hissettiklerimiz bedenimizde ve beynimizde gerçekleşen içsel süreçlerimizden bağımsız değildir, bunlara dair hiçbir bilgimiz yoktur ve bunlar kontrolümüzde değildir. En hakiki olduklarına inandığımız duygularımız, aslında dışsal manipülasyonların sonucu olabilir. Bunlara inanamayız. 20. yüzyılda “Kendine inan, kalbini dinle” şeklinde bir slogan vardı. Ancak kalbiniz gerçekte bir Rus ajanı olabilir! Buradan hiç kimseye güvenemeyiz gibi bir anlam çıkmaz. Fakat manipülasyona karşı savunmazsız olduğumuz gerçeğiyle yüzleşmeliyiz.

Veri tabanını devlet mi yoksa şirketler mi kontrol etmeli?

Bu bir “aşağı tükürsen sakal, yukarı tükürsen bıyık” durumudur. Eğer hükümet demokratikse ve gerekli denge ve denetleme sistemi mevcutsa, şirketler yerine devlet tercih edilebilir. Fakat hükümet size dair her türlü bilgiye sahipse, dijital diktatörlüğe doğru kayar. Daha yalnızca direniş fikri içinizde filizlenmeden, hükümet bundan haberdar olacaktır. Veriler, öyle çok önem kazandılar ki, onları kontrol edenler gerçek iktidarı temsil edecek. Eğer Amazon, bütün ticari işlemlerimize ve tıbbi belgelerimize hâkim olursa, hükümet hâline gelecektir.

Peki, veri mülkiyetini parçalara ayırmak gerekir mi? Bu alandaki düzenlemelere dair tecrübenin eksikliğinden, bu soruya cevap vermek zor. Sahayla uğraşacak bilgimiz var. Bir boyut, sınır, giriş mevcut: Sahaya kimin girip çıkacağına karar verebiliyoruz. Ancak sağlık dosyamın milyonlarca kopyası oluşabilir. Veriler her yerde ve hiçbir yerdedir.

Kitabınızda eğitim sorununa da değiniyorsunuz. Okul neye yönelik hizmet vermelidir? Gençleri henüz bilmediğimiz mesleklere hazırlamaya mı, yoksa yurttaş olmaya mı?

Kimse otuz yıl içinde ne tür işlerin olacağını bilmiyor. Gençleri geleceğe yönelik hazırlama iddiası hem zaman hem de kaynak israfıdır. En iyi bahis, çocuklara değişmeyi öğretmektir. Bireyler yaşamları boyunca kendileri defalarca yeniden yaratmak zorunda kalacaklar; çünkü ortalama ömür eskiye göre daha uzun, iş piyasası daha uçucu oldu.

İlla fiziksel olmalarına gerek yok; mesleklerin çoğu ortadan kaybolmak üzere. Çocuk ısırığı ya da pansuman değişimindeki gibi pek çok el becerisi gerektiren hemşirelik işi, mesela, bana göre, hekimliğe göre daha az tehdit altında. Halbuki veri analizi, önceki vakalarla kıyaslama, model arayışı gerektiren hekimlik mesleğini, yapay zekâ daha iyi yapabilir.

Yeni iş dallarına gelirsek, onlar da daimî bir değişim içinde olacaklar. Yapay zekâ bizi gittikçe kabaran devrimler çağlayanına sürükleyecek. Her beş ya da on senede, yeni bir sarsıntı meydana gelecek. Bir numaralı problem, kendini yeniden yaratma olacak. Yalnızca mesleki kimliği değil, tüm hatlarıyla kimliği de yeniden yaratma. 15 sene içinde, işini kaybedecek 50 yaşındaki bir kamyon şoförünün sanal dünya tasarımcısı olma ihtimali belirecek; hem de temelde bu alana dair gerekli hiçbir beceriye sahip olmasa bile.

Geleneksel eğitim felsefesi, yaşam boyu işe yarar beceriler ile kalıcı bir kimlik oluşturmaya dayanır. Bunun tamamen aksine, eğitim sistemini hiçbir zaman terk etmeyeceğimizi düşünmek gerek. Önceden kişiliklerimiz taştan ev gibilerdi. Yarın, bu kişiliklerin birer çadır olması gerekecek.

“Geleneksel” işlerini kaybetmek üzere milyonlarca insan için “faydasızlar sınıfı” gibi acımasız bir terim kullanıyorsunuz. Bu insanları bir başka şeye dönüştürmek gerekir mi? Ya da toplumu maaşlı iş çevresinde örgütlemeyi bırakmak mı daha iyi?

İnsanların kendilerini şekillendirebilmeleri ve yeniden yaratabilmelerini sağlamak için çaba göstermeliyiz ve bu çabanın büyük kısmı da devletten gelmeli. 19 ve 20. yüzyıllarda devlet, daha önce hiç var olmamış bir eğitim sistemi inşa etti. Şimdiyse bir yeniden eğitme sistemi gerekli; tabii, Çin’deki çalışma kamplarına benzer şekilde değil! Bunun için zamana ve kamu desteğine ihtiyaç var. Ve bir de büyük şirketlerin ödeyeceği robotlar ve şoförsüz araçlara yönelik vergilerden sağlanacak yeni gelirlere.

Ancak psikolojik engeller, ekonomik engellerden daha fazla olabilir. Pek çok kişi kendini yeniden yaratamayacak. Öyleyse, iş kaybından sonra onlarca yıl hayatlarını sürdürecek çok daha fazla insan olacağını ve bu insanlara finansal yardımda bulunmak gerekeceğini kabul etmeliyiz. Peki, bu insanlar nasıl zaman geçirecekler? Gerçekten faydalı bir şey düşünelim. Anne veya baba olmak, kendi toplumuna katkıda bulunmak tanınmayan faaliyetlerdendir ve bu can sıkıcı bir durumdur.

En büyük sorun, ekonomilerinin ucuz işgücüne dayandığı Bangladeş, Nijerya ya da Vietnam gibi ülkelerden gelecektir. Çünkü teknolojik devrimle birlikte, Kaliforniya’da ya da Fransa’da tekrar fabrika açabileceğiz. Üç boyutlu yazıcılarla Nev York’ta, Bangladeş’tekinden çok daha ucuz tişörtler üretebileceğiz. Bilgisayar kodları tekstil içilerinin yerini alacak.

Batı Şeria’da bir kontrol noktası.

Ortada bir İsrail paradoksu var. İnovasyonda zirvedeki bir ülke İsrail; fakat aynı zamanda daha önce benzeri görülmemiş biçimde kabileciliğe doğru ilerleme var. Neden?

Bu bir paradoks değildir. Tarih sayesinde biliyoruz ki dinî bağnazlık, milliyetçilik ve kabilecilik, teknolojik ilerlemeyle aynı zamanlarda yaşanabiliyor. En ileri teknolojilerin, mitolojik fikirlerin veya kabile tutkularının hizmetine koşulması yaygındır. İsrail’i inovasyonda bu kadar ileri götüren şey, sürekli varlık krizi hissinde oluşudur. “Eğer daha fazla ilerlemezsek, yok ediliriz” düşüncesidir. Bu süreç aynı zamanda kabile hissiyatını da güçlendirir.

Yapay zekâyı ele alalım. Dijital diktatörlüğün oluşumu alanında en önemli laboratuvarlardan biri, işgal altındaki Batı Şeria’dadır. Burada Yahudi (dinî bağnazlık) ve İsrail kabileceğinin en kötü yönleri ile en ileri teknoloji buluşmaktadır. 2,5 milyonluk bir nüfus; yapay zekâ, büyük veri, İHA (insansız hava aracı) ve kamera kullanarak nasıl etkin biçimde kontrol edilir? İsrail gözetim alanında lider bir ülke: Önce deney yapıyor, sonra da tüm dünyaya bunu ihraç ediyor.

Batı Şeria’daki Filistinlilerin yaşadıkları, dünyanın geri kalanında milyarlarca insanın yaşayacaklarının başlangıcı olabilir: Hepimiz, daima aşırı gözetim rejiminin gözü altında olacağız. Batı Şeria’da, filme çekilmeden ve yeriniz tespit edilmeden telefonla görüşebilmeniz, arkadaşlarla buluşabilmeniz, El Halil’den Ramallah’a gidebilmeniz hâlihazırda zordur. Tüm bu veriler; size dair sayısız bilgiye sahip akışlar, algoritmalar, akıllı olduğu söylenen bilgisayarlarla bütünleşmiştir ve modeller belirlemektedir. İnsan davranışının karakteristik özelliklerini tanımayı öğreniyoruz. Artık birisinin Facebook’a “İsrailli birini öldürmek istiyorum” yazmasına gerek yok.

İsrail işgalinin bu kadar gelişmiş ve etkili olmasının sebeplerinden biri budur. Artık sahada çok daha az sayıda askere ihtiyacımız var. Bunun olumlu bir yönü var: Terörizmle kolayca savaşabiliyoruz ve bir bölgede askerî kuvvetlerin sergilediği aşırı gaddarlığı önleyebiliyoruz. Ancak bir de olumsuz yön söz konusu: İsrailliler, milyonlarca insanı kontrol etmek için çok daha karmaşık yöntemler geliştiriyor ve bunu tüm dünyaya ihraç ediyorlar. Her türden rejim, İsrail’in bu alanda ön safta yer aldığını biliyor.

 

Bize destek olun

Medyascope sizlerin sayesinde bağımsızlığını koruyor, sizlerin desteğiyle 50’den fazla çalışanı ile, Türkiye ve dünyada olup bitenleri sizlere aktarabiliyor. 

Bilgiye erişim ücretsiz olmalı. Bilgiye erişim eşit olmalı. Haberlerimiz herkese ulaşmalı. Bu yüzden bugün, Medyascope’a destek olmak için doğru zaman. İster az ister çok, her katkınız bizim için çok değerli. Bize destek olun, sizinle güçlenelim.