Fatih Börekçi yazdı: Yapay zekâ ve insan ötesi

Yapay zekânın OpenAI ve benzeri uygulamalar ile görünürlüğünün artması ve sağladığı olanakların geniş kitlelerin farkındalığına girmesi  ile özellikle Avrupa ve Amerika’da yapay zekâ “etiği” çalışmaları da hız kazandı. Akademik dünya ve şirketler, hükümetlerle (en azından bazılarıyla) birlikte düzenleme üretmeye uğraşırken Elon Musk gibi teknoloji/yapay zekâ üreticileri ve Stephen King gibi ünlü yazarların da katıldığı, bu teknolojilerin nereye varabileceğine dair hepimizin en derin korkularını kaşıyan “insanlığın sonunu getiren süper zekâ” ( super intelligence) ve makinelerin insanlığı kontrol edeceği “tekillik” (singularity) kavramları üzerinden oluşan tartışmaların sonu gelmiyor. Mayıs 2023’te OpenAI inisiyatifinin arkasındaki isimlerin çağrı niteliğindeki yazısında, süper zekânın insanlığın kontrolünden çıkabileceği ve dünyayı tehlikeye atabileceğine dair kaygılar dile getirildi. Yazıda, süper zekânın potansiyel riskleri arasında en önemlileri kontrolden çıkarak bütün insanlığa zarar verebilecek bir silaha dönüşmesi ve insani değerlerden yoksun karar vermesi öne çıkıyor. Böylece yapay zekâ pandemiden ve nükleer silahlardan daha tehlikeli olabilir, kitlesel ölçekte yanlış bilgi ve propaganda içeriği yayabilir ya da milyonlarca beyaz yakalı işi ortadan kaldırabilir. 

Elbette, süper zekânın tekilliği oluşturma potansiyeli sadece bir olasılık. Süper zekânın gelişimini dikkatli bir şekilde yönetmek ve süper zekanın insanlığın kontrolünde kalmasını sağlamak için önlemler almak da mümkün. Potansiyel risklerinin farkında olmak ve bu riskleri azaltmak için adımlar atmak önemli ve acil.

OpenA gibi Google DeepMind, Anthropic ve diğer yapay zekâ laboratuvarlarının yöneticileri de ardı ardına hükümetlerden düzenleme ve bu konuda işbirliği çağrılarında bulunuyorlar. Son olarak BM Genel Sekreteri’nin Teknoloji Elçisi Amandeep Singh Gill, 19 Eylül 2022’de New York’ta düzenlenen Concordia Yıllık Zirvesi’nde teknolojinin yönetiminde dünya ölçeğinde işbirliği yapılmasına yardımcı olacak yeni bir BM yüksek düzey yapay zekâ danışma kurulu için hazırlıkların sürdüğünü açıkladı. Kurulun görev tanımı, 31 Aralık 2023 tarihine kadar “yapay zekânın uluslararası yönetişimine yönelik seçeneklerin üst düzey analizini” sunan bir ara rapor hazırlamak olarak belirtiliyor. İkinci bir rapor ise, 31 Ağustos 2024’e kadar “yapay zekanın yönetimine yönelik yeni bir uluslararası ajansın işlevleri, biçimi ve zaman çizelgeleri hakkında ayrıntılı öneriler” içerecek.  

Bu konudaki çalışmalar hızla sürerken güncel durumdan biraz sıyrılıp tekilliğin oluşumuna dair distopik teorilere bakmak düşünmemize faydalı olabilir. Öne çıkan ilk senaryo yapay zekânın kendini geliştirirken zekâsını da paralelde sürekli artırdığı ve bu döngünün bir zekâ patlaması yaratarak bütün algoritmaları birleştirdiği bir bütünlüğe kavuşması olarak beliriyor. Böylece tekillik her yere hâkim olur. Bir başka varsayımda ise yapay zekânın biyolojik insan beynini tasarlayarak modellediği, tekrar tekrar geliştirerek yeniden ürettiği bir simülasyon üzerine. Neticede bu simülasyon bir robota eklemlenir ve bu robot insanlığın kontrolünü ele alacak süper zekâya yine bir zekâ patlaması yoluyla ve tekilliğe ulaşarak sahip olur. İki senaryoda da eşik noktası, “teknolojik ilerlemenin geldiği düzeyin insanlar tarafından tam kavranılamadığı” bir anda, “durum tam anlaşılamadan”, bildiğimiz haliyle “insan ilişkilerinin ve yaratılmış kurumların yapay zekâ tarafından yok edilmesi” sonucu tüm gezegenin  “süper zekâ”nın kontrolüne geçmesidir. Yuval Harari’ye göre bu durumda insanlar büyük veriye (big data) tapar ve kararlarını algoritmik modellemelere bırakırlar. Böylece insanların umut edebilecekleri tek şey ancak “büyük veri” akışıyla birleşebilmek olarak kalır. Böyle bir durumda yapay zekâ insanların daha önce ulaşamadığı ve algılayamayacağı bir noktaya erişir. 

Bu tür distopik teorilerle birlikte süregelen insan ve makinenin birleşerek ölümsüzleştiği transhümanist bir gelecek düşüncesi Batı tarihinde yeni değil. Çünkü transhümanizm ve teknolojik tekillik, kendisini yarattığı varlıkların dışında bir yere koyan tanrının aşkınlığına benzer bir anlayış çiziyor. Eğer yapay zekâ bir gün kontrolü ele alırsa, o ve yaratıcısı insanla arasında benzer bir ilişki oluşturabilir ki bu durum bize Hıristiyan ve Yahudi mitolojisinde anlatılanlara benzer nitelikte. Aşkın, yani yarattığı yapay zekânın dışında kalan insan, onunla transhümanist fikirlerde olduğu gibi birleşse de ayrı da kalsa, oluşan süper güç ve insanın yeni konumunda “yaratıcı” ve “yaratılan” ile aradaki mesafe kapanmıyor. Bu yaratılan açıklık da sürekli korkularla besleniyor.

Benzer bir temayı Prometheus’un tanrılardan çaldığı ateşi insanlara vermesi ve bu yüzden Yunan tanrıları tarafından cezalandırıldığı mitosta görebiliriz. İnsanlar ateşe ulaştı ve tekniği yarattı ama tanrılarla aralarındaki mücadele bitmedi. Ölümlüydüler ve ölümsüz olmak istiyorlardı. Ancak, canlı ama sonlu insan, onun dışında ve aşkın olan tanrıların gücüne bir türlü ulaşamıyordu. Mitostan logosa geçişte Platon’un “düşünülenler” ve “görülenler” ayrımında da benzer aşkınlık fikri yorumlanabilir. Platon’da “düşünülen” formlar gerçek bilgiyken (episteme), duyuya verilenler (eikon) gerçek bilginin soluk bir kopyasından öteye geçemez. Platon’a göre formlar ölümsüzken, yaşadığımız dünya geçici ve sahtedir. Ruh ölümsüz, beden ölümlüdür. Ölümlü ve geçiciliğe sahip insan, kendisinin dışında kalan o gerçek ve ölümsüz varlığın kötü bir kopyası olmaktan öteye geçemez. Batı dinlerinin yabancı olmadığı “apocalypse”, “insanlığın sonu” düşüncesi de yine “yaratanın kendi dışında yarattığı insan aşkınlığı” nda gerçekleşir. 

Ancak düşüncenin tek uğrağı bu olmak zorunda değil. Başka tür düşünceleri ve inançları doğuda görmek mümkün.

Güncel tartışmaların ve yapay zekânın insanlar tarafından yıkıcı kullanımının dışında, batıda “ben ve öteki” bağlamında kurulan “insan ve yapay zekâ ilişkisi”ni bir “tahakküm ve rekabet” anlatısı gibi görmeden değerlendirmek de mümkün. Uzak Doğu’da ve Afrika’da bazı dinlerde “ahir zaman” ve bir “son” kavramı batıda olduğu haliyle olmadığı için yaşam sürekli ileriye değil döngüsel bir biçimde akar. Böylece bu inanışlarda robotlar ya da yapay zekâ başka türlü bir yer edinebilir. O artık bir rakip ya da düşman değildir. Örneğin, animizmin etkin olduğu halklardan Japonlar için yapay zekâ, kontrolü ele alıp insanlığa hükmedecek bir rakip değil, doğadaki diğer canlı ya da cansız nesneler gibi ruha sahip bir varlık olabilir. Dolayısıyla onunla dost da olabilirsiniz. Bu inanışlar, günümüzde yapay zekâ ve çevre etiğinde konuşulan posthümanist düşüncelerin desteklendiği, insanın diğer varlıklarla eşit bir düzlemde fail kabul edildiği, bir diğer deyişle varlıksal olarak eşitlendiği fikirleri destekler niteliktedir. Bu nedenle post-hümanizm (insan ötesi) tartışmalarında kendimizle ve dünyayla kurduğumuz kültürel ve yaklaşım farklılıkları (örneğin Budist ya da Şinto) yeni alan ve bakış açıları yaratmada kullanılıyor. 

Konunun bir diğer önemli tarafını ise dikkatimizin neye yönlendirildiği oluşturmakta. Filozof Mark Coeckelbergh’e göre batıda bazı liderler, düşünce önderleri ve teknoloji üreten firma sahiplerinin öne çıkardığı, internet tabiriyle “hype”ladığı felaket senaryoları aslında gözümüzün önünde olup biteni görmemizi engelleyebilir. Dijital teknolojiler yoluyla oluşturulan platform kapitalizmi, elimizdeki akıllı telefonlarla “tüketici” davranışımızı yönlendirirken, çeşitli “uygulamalar”ın (telefonunuzdaki sosyal medya ve alışveriş siteleri gibi) hangi işlevde, nasıl kullanıldığına detaylı bir bakış yapay zekânın güncel kullanımıyla ilgili sorularımıza cevap olabilir. Ürün sahibi şirketlerin basit bir aydınlatma ve onay metniyle bize sattıkları bu uygulamalar hakkında soru sormak ve sorgulamak belki daha önemli. Bu doğrultuda yapay zekânın günümüzde ürettiği düşünülen somut ve acil etik problemleri çözmek için toplumlar olarak politika oluşturmak zorundayız. 

Sürdürülebilirliği, sadece kâr etmeyi düşünen ve bunun için her şeyin mubah sayıldığı düzenin değil ama çevrenin, doğanın sürdürülebilirliği olarak anladığımızda yapay zekânın kullanımı işimizi çok kolaylaştıracaktır.