Geçtiğimiz ay Papa Leo, “Magnifica Humanitas” (Muhteşem İnsanlık) başlığıyla kendi döneminin ilk Papalık Genelgesi’ni yayımladı. Yalnızca Katolik dünyasına değil, “iyi niyetli tüm insanlara” hitap eden bu metin, benzer mercilerin yapay zekâ konusunda bugüne kadar yaptığı en kapsamlı ahlaki eleştiri.
Papa Leo, 52 sayfalık belgede yapay zekâ teknolojisinin kendisini değil, bu teknolojiyi şekillendiren güç yapısını ve teşvik mekanizmalarını hedef alıyor. İnsan onurunu merkeze koyan bir yön çağrısı yapıyor.
Papalık genelgesi nedir?
Papalık genelgeleri (encyclicals), Katolik Kilisesi’nin toplumsal, ekonomik ve siyasi meseleleri ahlaki bir çerçevede değerlendirdiği metinlerdir. Din ve devlet işlerinin birbirinden ayrı tutulmasını savunan kilise, bu genelgeleri siyaseti şekillendirmek amacıyla değil, dini önderlerin toplumu kökten etkileyen gelişmeler karşısında bir ahlaki yargı geliştirmesi için yayınlar. Bu genelgelerin ilki olan Rerum Novarum (1891), Sanayi Devrimi’yle ortaya çıkan işçi sınıfının sorunlarına odaklanmıştı. Papa Francis 2025’te tarafından yayımlanan genelge ise iklim krizini ele alıyordu. Şimdi ise Papa XIV. Leo’nun gündeminde yapay zekâ var.
Yapay zekâ ve tekelleşen güç
Papa, metni “Babil Kulesi’ni mi inşa edeceğiz, yoksa Kudüs’ü yeniden mi kuracağız?” sorusuyla açıyor. Papa Leo’nun Babil Kulesi göndermesi tesadüf değil. Efsaneye göre insanlık Tanrı’nın seviyesine erişmeye heveslenir ve göğe uzanan Babil Kulesi’ni inşa eder. İnsanların güç hırsına ve kibrine sinirlenen Tanrı, kuleyi yıkar ve insanları farklı dillere ve kültürlere bölerek aralarında ayrım yaratır.
Papa Leo’nun Babil Kulesi imgesi ve OpenAI, Anthropic gibi yapay zekâ arasında paralellik çizdiği aşikâr. Nitekim bu şirketler, yer yer “insan eliyle yaratılmış Tanrı” olarak tanımlanan Yapay Genel Zekâ’yı (Artificial General Intelligence) geliştirme amaçlarını dile getirirken, bu uğurda insanlığın ortak menfaatini gözden çıkarıyorlar. Genelgede öne çıkan en büyük iddialardan biri bu: Yapay zekâ teknolojisi, küresel ölçekte orantısız kaynağa ve kişisel veriye sahip olan, giderek devletlerin sınırlarını ve yaptırım alanlarını aşan, şeffaflıktan ve hesap verebilirlikten uzak dev şirketler tarafından geliştiriliyor. Bu da yapay zeka teknolojisinin kamu yararına şekil almasını engelliyor (Paragraf 5).
Dijital çağda “yerindenlik” prensibi
Papa’nın yapay zekâ devlerini hedef aldığının bir başka göstergesi, Katolik sosyal düşüncesinin temel ilkelerinden biri olan sübsidiarite (yerindenlik) ilkesini dijital çağa uyarlaması.
Yerindenlik ilkesi, kararların mümkün olan en yerel düzeyde alınmasını, sorumluluk ve karar verme yetisinin toplumun farklı kesimlerine yayılmasını savunur. Tarihsel olarak bu kavram, devletin bireyler ve sivil toplum üzerindeki orantısız gücünü sınırlamak için kullanılmış. Papa XIV. Leo ise aynı ilkeyi, isim vermeden, günümüzün yeni güç merkezleri olarak gördüğü Big Tech ve yapay zekâ devlerine yöneltiyor. Veri toplama ve algoritmalar aracılığıyla bir avuç şirketin hayatın her alanını kontrol eder hale geldiğini belirtiyor ve yerindenlik ilkesi gereğince bu şirketlerin algoritmik şeffaflık yükümlülüğüne, bağımsız denetime ve itiraz mekanizmalarına tabi tutulmaları gerektiğini söylüyor. Yine yerindenlik prensibi gereği, yapay zekâya yön verme yetkisinin tek başına bu şirketlere bırakılmaması gerektiğini, yapay zekânın kullanım alanlarının bilim insanları ve araştırmacılar, girişimciler ve işçiler, eğitimciler, yasa koyucular, sivil toplum, halk hareketleri ve inanç toplulukları arasında iş birliğiyle şekillenmesi gerektiğini vurguluyor (Paragraf 13 & 71).
İyi teknoloji, insan onurunu koruyandır
Genelgenin başka bir vurgusu da yapay zekâ teknolojisinin insan onurunu koruyacak şekilde geliştirilmesi gerektiği. İnsan onuru, insanın sırf insan olması sebebiyle değerli ve saygıya layık olduğu ilkesidir. Bu onuru korumak, insanı araçsallaştırmamak ve örneğin geçmişte kölelik sisteminin yaptığı gibi, insanı bir “şey”e indirgememek demektir.
Papa bu çerçeveden teknoloji devlerinin kâr modellerini eleştiriyor. Papa’ya göre bağımlılık yaratan algoritmalar üzerinden gelir elde etmek, insanlığın zayıflıkları üzerinden kazanç sağlamak anlamına geliyor. Bu da insanı araçsallaştırıyor ve bu şirketlere ahlaki bir sorumluluk yüklüyor (Paragraf 171). İnsan onuru ilkesi üzerinden Papa, yapay zekânın savaşta kullanılmasına da dikkat çekiyor. Otonom silah sistemlerinin savaşın insani boyutunu daha da zayıflatabileceğini, karşıdaki kişinin insan olarak tanınmasını engelleyip onu istatistiksel bir hedef tahtasına indirgeyeceğini belirtiyor (Paragraf 183).
Toplumsal ve küresel diyalog çağrısı
Papa, kendisinin siyasi hiçbir yetkisi ve meşruiyeti olmadığını kabul ediyor. Fakat yine de bireyler, kurumlar ve ülkeler arası diyaloğun kurulmasını, polarize ve savaş halindeki dünyanın uluslararası kurumlar ve ilkeler aracılığıyla yeniden bir araya gelip insanlığın ortak menfaati için yapay zekâyı kontrol altına alması ve yönlendirmesi gerektiğini belirterek metni sonlandırıyor (Paragraf 219-224). Papa’nın Anthropic’in kurucu ortaklarından Christopher Olah’ı da bu oturuma çağırması, bir diyalog niyetinin göstergesi olarak okunabilir.
