Sarah T. Roberts: “İnternette ifade özgürlüğü zaten hiç olmadı ki!”

Géraldine Delacroix’nın Sarah T. Roberts ile yaptığı 5 Ocak 2020’da Mediapart‘ta yayımlanan söyleşisini Haldun Bayrı’nın çevirisiyle paylaşıyoruz:

Sosyal ağların bu kadar popülerleşmesi, kendilerini sınırsız bir ifade özgürlüğünün dayanağı olarak ortaya koymalarından, diye açıklıyor Amerikalı araştırmacı Sarah T. Roberts. Bu vaat hiçbir zaman yerine getirilmedi ve moderatörlük küresel bir sanayi haline geldi.

Çoğu zaman “mümkün olduğunca ihtiyatlı ve saptanamaması gereken” bir faaliyet. UCLA’de (Los Angeles Kaliforniya Üniversitesi) araştırmacı ve öğretim üyesi olan Sarah T. Roberts, içeriğin ticarî moderasyonu diye adlandırıyor bunu. Sekiz yıldır bunu inceliyor ve 2019 ortasında yayımlanan sürükleyici bir çalışma yürüttü: Behind The Screen – Content Moderation in the Shadows of Social Media (Yale University Press, 2019). Bu kitapta moderasyonun ekonomik veçhelerini, bu işin örgütlenme şekillerini, uzmanlaşmış şirketlerdeki yalıtılmış bireylerin mikro-görevlerini ve ifade özgürlüğü etrafındaki hedefleri ele alıyor.

Fransız-İsviçreli sanatçı Lauren Huret ile birlikte, Sarah T. Roberts 9 Ocak Perşembe günü Gaîté-Lyrique’te Telecom Paris öğretim üyesi Antonio Casilli’nin yönlendirdiği “Dijital Kültürlerini İncelemek” semineri çerçevesindeki toplantı dizisinde yer alıyor.

Filipinler’in ABD tarafından sömürgeleştirilmesinden gelen, iki ülke arasındaki kültürel bağlar ve İngilizce konuşan ucuz bir işgücü bolluğu nedeniyle çoğu ABD’den Filipinler’e taşınan moderasyonları yürüten kadınlar ve erkeklerle sayısız görüşmeyle beslenen Sarah T. Roberts’ın kitabı, her yerdeki varlığını gösterdiği bir sanayinin üzerindeki perdeyi kaldırıyor.

İnternet üzerindeki bilginin, yani mesajların, ifadelerin, sabit ya da canlı imgelerin, metinlerin, kısacası içerik akışının, internetteki büyük platformlar üzerinde ve onlar tarafından işlenen, sansürlenen, öne çıkarılan, gömülen ya da like’lanan basit bir hammadde haline geldiğini açıklıyor.

Fakat içerik, farklı veçhelerinin hepsi birbiriyle kesişen karmaşık bir hammaddedir: “Olduğu ya da anlattığı, erekselliği (yani tüketildiği ya da dolaşıma sokulduğunda yapması beklenen), istenmeyen sonuçları (yani ilk niyetin ötesinde başka yapabildikleri) ve anlamıyla (kültürel, bölgesel ya da başka bakımlardan çok özgül olabilen).

Bunun sonucunda asıl mesele, diye yazıyor Sarah T. Roberts, “İnternetin doğası üzerine her tartışma, kullanıcılar tarafından yaratılan bazı içeriklerin hangi süreçler sonucunda görünür kalma iznini aldıklarını, başka içeriklerin ise nasıl ortadan kaldırıldığını, bu kararları kimin nasıl aldığını ve bunun kime yaradığını bilme meselesidir”. Söyleşi: 

Kitabınızda moderatörleri ve içerik moderasyonunu ele alıyorsunuz; “içeriğin ticarî moderasyonu” diye de adlandırıyorsunuz bunu. Bu ifadeyi hangi anlamda kullanıyorsunuz?

Sarah T. Roberts: İnternet, her zaman muayyen bir ölçüde moderasyona uğramıştır — her ne kadar geçmişte moderasyon, kullanıcıyı merkez alıp topluluk tarafından düzenlenmişse de. “İçeriğin ticarî moderasyonu” ifadesindeki fikir, büyük platformlar için kaide/norm haline gelen sanayi uygulamasına ve ölçek tipine işaret etmektir.

Bu sorumlulukları topluluklarına tevdi etmek yerine, büyük platformlar kendi kurallarını koymuş ve bu iş için para ödedikleri profesyonellere başvurarak uygulatmışlardır. Bu uygulamaların önceden olduğu gibi, ya da Reddit veya Wikipedia gibi sitelerde hâlâ var olduğu gibi, gönüllü faaliyet şeklinde işleyişinden hayli farklı bir durumdur bu. Ama o büyük şirketler moderasyon işinin rastgele gönüllülere bırakılmasına izin vermeye razı değillerdi.

Sizi okuyunca, moderasyonun her tarafta olduğu, İnternet’in her köşesinde olduğu tahmin ediliyor…

Evet, moderasyon her tarafta. İnternet’in doğası üzerine esaslı bir anlaşmazlığın olduğunu düşünüyorum. Ben Amerikalı’yım ve esas olarak ABD’deki durumdan söz ediyorum; ama iyi anlamda da kötü anlamda da çok yeri etkiliyor bu. Sosyal ağların bu kadar hızlı bir büyüme göstermiş olması, diğer medyaların aksine kullanıcılara kendilerini tamamen ifade etme olanağı vereceklerini vaat etmelerindendi büyük ölçüde.

Bu bir ölçüde doğruydu, ama bu sanayilerin konsolidasyonu/pekişmesi ve ticarîleşme, serbest bir söze toleransı neredeyse yok etti — 4chan gibi, bu faaliyet türünü bizzat ticarîleştirmiş olan bir yere bilerek gitmediğiniz takdirde.

Kitabımda internet medyasında çok üst düzey kadro birinin sözlerini aktarıyorum. Tam olarak şöyle dedi: “İnternette bir alan açmayı umuyorsanız, pislik dolacaktır.” Ve İnternet üzerindeki her örgütlenmenin baş kaygısıdır bu — Facebook da söz konusu olsa, ufak bir yayın sitesi de söz konusu olsa: İnsanları gece uyutmayan sorumluluktur.

Bunun için moderasyon bütün bu düzeylerde kullanıma sokuldu. Ve İnternet’in serbest bir ifade özgürlüğü alanı olduğu fikriyle temelden çelişik bu. Eninde sonunda güçlü denetimin olduğu, çok kurala bağlanmış bir yer burası.

Facebook’taki ve diğer büyük platformlardaki moderasyon hakkında ne biliyoruz? Çoğunlukla algoritmalarla mı işliyor bunlar? Yoksa insanlarla mı? 

Bu faaliyeti ne şekilde değerlendirdiğinize bağlı. Açıklayayım: O büyük şirketlerde kendi algoritmalarını geliştirecek olanaklar var ve kötü içerikleri arayıp bulmak için kullanıyorlar bunları. Rahatsız edici bir şeye rastlayınca bildiren kullanıcıların tepkisel modeline nazaran bir değişiklik bu. 

Algoritmalar kullanıldığı zaman, kullanıcı da olsa moderatör de olsa insanların normal olarak görebileceğinden çok daha büyük miktarda içerik değerlendirilir. Halbuki, bu algoritmik faaliyetin vuku buluyor olması insan moderasyonuna ihtiyacın azaldığı anlamına gelmez. Gerçekte, makinelerin aldığı kararların mâkûl olup olmadığını doğrulamak için insanlara ihtiyacı artırmıştır bu. Bu işi yapmak için algoritmaların insanların yerini alabildiği fikri düpedüz yanlıştır. 

Büyük şirketlerde moderasyon, çok çok sayıda hesap araçlarının kullanıldığı, melez diye niteleyeceğim bir faaliyettir yani. Ama elbette insan moderasyonu esas kalmaktadır ve en önemli içerik üzerinde, kullanıcılar tarafından görülen ve sorunlu olduğu belirtilen içerik üzerinde tesiri vardır. Her algoritmanın veri bütünlerini değerlendirme biçimi altında çok çok büyük bir insan emeği gerektirdiğini de ekleyeceğim. 

Dünyadaki moderatörlerin sayısı hakkında bir tahmininiz var mı? 

Benim tahminim yaklaşık 100 bin kişi — hayli temkinli bir sayı bu. Çünkü sadece Facebook ile YouTube’un 40 bin kişi çalıştırdığını biliyoruz. Ama resmî olarak hiçbir zaman açıklanmayan bir bilgi bu; bir iletişim manevrası uyarınca kullanılmıyorsa tabii… Dolayısıyla bilmesi zor, ama bunun altı rakamlı bir sayı olduğunu düşünüyorum, ki bu da hayli önemli bir personel demek. 

“Sâfî zihinsel” olan ve bu işi yapanların şiddetli, rahatsız edici içeriklere mâruz kaldığı, potansiyel olarak acılı bir emeğin söz konusu olduğunu vurguluyorsunuz kitabınızda. Ama göründüğü kadarıyla bunun için özel yetiştirme yöntemleri ya da okulları yok.

Her platformun kendi iç kurallar bütünü vardır, kendi mantığını geliştirmiştir, daha sonra da çalışanlarından bunu uygulamalarını ister. Tipik olarak, Facebook ya da YouTube gibi büyük şirketlerin, bugün 2020’de, moderatörlerinden bekledikleri üzerine çok kapsamlı rehberleri vardır. Haftalarca sürebilen azami biçimsel, azami kapsamlı yetiştirme tipi bulunur burada.

Moderatörler muhtemel tip vakalarla karşılaşırlar; o iç kuralları öğrenmelidirler — sadece kullanıcıların gördüğü kuralları değil, kararlar alınırken yararlanılan daha özel kuralları da [örneğin 2012’de İngilizce yayınlanan ve Fas’taki bir moderatör ekibinin çalışmasını tasvir eden şu makale okunabilir — Fr. Ed. N.]. 

Sonra da elbette, bu kuralları uygulama sürecine bir kez girdikten sonra, bu kuralların sürekli değişikliğe uğradıklarını tasavvur edebilirsiniz. Yani sürekli yeniden öğrenmek zorundadırlar. Bir moderatörün bir bölge, bir ülke ya da bir dilde uzmanlaştığı da olur; o bölgeye uygulanan ilave kurallarla.

O çok katı NetzDG Yasası’nın olduğu Almanya geliyor aklıma; Alman ortamında çalışan kimseler bunu akıllarında tutmak zorundadır. 

Aslında, o çalışanların tek bir karar almak için akıllarında tutmaları ya da erişebilmeleri gereken bütün bilgi düşünüldüğünde, inanılmaz derecede karmaşıktır. Aynı zamanda, paradoksal olarak da, çoğu karar çok rutinleşmiştir. Tam bir sıkıcı tekrar ile, sarsıcı ya da çok kaygılandırıcı olabilen aşırı ve alışılmadık vakaların bir karışımıdır yani. 

Bir yanda, kullanıcılar sebepsiz yere sansürlendiklerinden yakınıyorlar; diğer yanda ise “nefret” söylemleri öyle yayılıyor ki, bunları durdurmak için yasalar çıkarılıyor. Sonuç olarak, moderasyon aşırı mı, yoksa yeterli değil mi? Ya da kötü mü yapılıyor? 

Genellikle kamusal alanda soru bu şekilde soruluyor. Ama sorgulamayı bu şekilde yapmak gerçekliği hesaba katmamaktır; o da bu şirketlerin zaten en baştan beri içerik moderasyonu yapıyor olmalarıdır.

Yaptıklarını inkâr edip bu alanların bir tür Amerikan usûlü ifade özgürlüğü, herkese özgürlük tanınan engelsiz alanlar olduğunu ileri sürerek bu kadar popüler hale gelmişlerdir; ama hiçbir zaman doğru olmamıştır bu. İşin doğrusu, bir yandan muazzam kâr yaparken, yaydıkları içeriğin en sorunlu bazı veçhelerinin sorumluluğundan kaçınabilmiş olmalarıdır. Her iki cihanda da her şeyin en iyisine sahiplerdir. 

Dolayısıyla asıl mesele, hükümetlerin, azınlık gruplarının, hedef alınan grupların, sivil toplumun, içerikle ilgili kurallar da koyma hakkına hangi ölçüde sahip olmaları gerektiğini bilmek olmalıdır daha ziyade. 

Nefret söylemlerinde neden böyle bir çoğalma var — bu doğru ise? Platformlara sorduğumuz asıl soru şudur: Bu sorunlar nazarında politikanız nedir? Sadece içerik taşıyıcıları olduğunuzu söylemek artık yetmiyor; muayyen bir sorumluluk da olmalı. Bu iş yasayla olmazsa, o zaman şirketleri barındırdıkları malzemeden mânen sorumlu tutabilmeliyiz. Önümüzdeki tartışmanın da bu olacağını düşünüyorum.

Hazır bu konuya gelmişken, Almanya’da uygulanmakta olan ve Fransa’ya gelecek kanun hakkında ne düşünüyorsunuz? 

Bu yasaların tatmin etmediği çok kimse var… Bu yasaların ellerinden gelenin en iyisini yapmadıklarını, ya da bu sorunların bazılarının tam olarak düşünülmemiş olduğunu telkin edebilir bu. Bununla birlikte, dünyada bu şirketlerin hızla çoğalmasını inceleyen bir Amerikalı olarak, yerel yasalar olmadığı zaman, gerçekte dış kaynak kullanan ve özenle ambalajlanmış, dünyanın diğer yerlerinde bunun istenip istenmediği üzerine çok az tartışma yapılarak bütün dünyaya gönderilen bir Amerikan hegemonyası olduğunu ileri sürüyorum. Buna boyun eğen yerlerdeki hukuk rejimlerine riayet etmenin pek önemli olmadığı bir hegemonya.

Bu yasalarda çok kusurlar var ve üzerlerinde tekrar çalışılmalı. Ama yasaların olmaması da bir özgürlük değildir. Sadece şirketlere yarar sağlayan Amerikan usûlü özgürlükçü bir örgütlenmedir. Dünyadaki birçok yerde de bunun savunulamaz olduğunu düşünüyorum. Özellikle Fransa, dijital teknolojinin bir hegemonya ve denetim biçimi olarak anlaşılmasında başı çekmiştir. Bilgi alanında Amerikan istilasına cevap olan Minitel’i hatırlayalım. Bence burada isabetli olan önemli dersler bunlar.

Dolayısıyla, bu yasalar belki çok iyi değiller, ama hangi bağlamda neyi geriletmeye çalıştıklarını incelemeliyiz.

Daha şeffaf bir moderasyon mümkün mü? 

Şirketler şu veya bu kural nedeniyle şu kadar içeriğin kaldırıldığını söyleyen bir rapor yayınlayabilir. Tamam, çok iyi. Ama tam olarak ne anlama gelir bu? Bütün bunların siyasî sonuçları nedir, kültürel maliyeti nedir? Cevabımız yok. 

Şeffaflık artabilir, ama olup bitene bir anlam vermeye yetmez bu. Arada bir analiz ve yorum düzeyi olmalıdır; şayet şirketler bunu yapamıyor ya da yapmak istemiyorlarsa da, bu sanayileri takip eden medyaların, gazetecilerin, akademisyenlerin üzerine düşecektir bunu yapmak. Ve elbette, yasakoyucular yorumlarını yapacak ve bunu dayatacaklardır. 

Şeffaflık kullanıcılar için bireysel düzeyde de önemli. Bu içeriklerin niçin ve nasıl sansürlendiklerini herkes anlamak istiyor. Sosyal ağlar, özellikle de Facebook ya da YouTube neden hiç bireysel cevaplar vermiyorlar?

İlerlemeler oldu. Hatta Facebook alınan kararlarla hemfikir olmayan kimseler için, temyiz mahkemesiyle eşdeğer bir sistem bile kurdu. Dolayısıyla ilginç bir gelişme bu; Facebook’un neredeyse hükümetleri andıran rejimi çerçevesinde yaratılmakta olan neredeyse hukukî bir sistem.

Burada söz konusu olan bazı pragmatik sorunlar var; işlenen içeriklerin hacmi ve kullanıcılara cevap vermenin şirkete maliyeti anlamında. Ama aynı zamanda, bilhassa, temel olarak firmalarda ideolojik bir yaklaşım var; bu kararların hakemi onlar, istedikleri gibi karar alabiliyorlar ve bunu gerekçelendirmek istemiyorlar.

İnternet’teki ticarî varlıklardaki moderasyon konusunda bir şeyi unutmamak lâzım; yüzde yüzü bunu hiç yapmak istememişlerdi. Ve hiç yapmak istememiş oldukları bu şeyi yapmak için muazzam teknolojik, bilişimsel ve mali kaynaklar harcama durumundalar. Dolayısıyla kararlarını savunmakta çok ketumlar.

Ama bu sistemleri geliştirmezlerse, çok sayıda yargı tarafından mecbur tutulacaklar buna. Yani erkenden davranmaları lâzım. Bu yüzden Facebook’un, yaklaşımı Fransa tarafından dayatılmaması için kendi temyiz mahkemesi sistemini geliştirdiğini görüyoruz.

Ticarî moderasyon nasıl daha etik olabilir? 

Muhtemelen bunu yapmanın çok sayıda daha iyi şekli vardır… Bu sanayi yıllar boyunca, teknolojik yenilikleri sebebiyle önerdiğinin bilinen hiçbir etik çerçeveye bağlı olmayacak derecede eşsiz olduğuna tüm dünyayı ikna etti.

Ama insanlar bana moderatörlerin çalışma koşullarından söz ettiğinde ve sıfırdan yola çıktığımızı söylediklerinde, ben de şunu diyorum: Bakın, başka sanayilerde 150 yıllık iş örgütlenmelerimiz var. 

İşin toplumsal boyutlarından çıkarabileceğimiz ve moderasyonda etik iyileştirmeleri düşündüğümüz vakit uygulanabilir dersler var. Bu bir yandan çalışanlar için daha iyi çalışma koşullarıdır; diğer yandan da, kullanıcı açısından, daha büyük bir şeffaflık ve gerçekte olup bitenin daha iyi anlaşılmasıdır. Bu iki şey hayli karanlıkta bırakılıyor. Ama bu konuda git gide daha çok şey öğreniyoruz.

Şirketler için şeyler değişiyor. Ulusal düzeyde çeşit çeşit yasalar var; elbette Avrupa Birliği düzeyinde de. Baskı da gerçekten oradan gelecektir. Ama ABD’de bile büyük bir baskı var. Böyle bir mevzuat yokluğundan istifade eden başka bir medya sanayii yok. Göründüğü kadarıyla da dengesiz ve bütünüyle uygunsuz.

Ama herkes benimle aynı fikirde değil, hem de nasıl. 

Kitabınızın sonunda, saygıyla andığınız kütüphanecilerin oynayabileceği rolü zikrederek bitiriyorsunuz. 

Amerikan bağlamında, kamu kütüphanesi en az değer verilen kaynaklardan biridir; oysa toplumsal dokumuzdaki en önemli kaynaklardan biridir; yine çok büyük kaynak eksikliği çektiğini bildiğimiz kamu okullarından sonra ikinci kaynaktır belki.

Ama bu kaynaklara sadece bizatihi kurum biçimi altında, yani kütüphane olarak değil, aracı işlevi gören kimseler biçimiyle de sahip olduğumuzu kendimize hatırlatmamız gerek. Bu kişiler okurlara meşru bir haber kaynağıyla bir propaganda sitesini ayırt etmekte, ya da dijital yaşamlarının özel yaşam ve veriler bahsindeki bazı zorluklarında gezinmeye yardımcı olabilirler.

YouTube’un CEO’su Susan Wojcicki, dünyanın gittiği her yerinde YouTube’un dünya kütüphanesi olduğunu ileri sürüyor. Bunu derinlemesine hakaretamiz buluyorum! ABD’deki kütüphanelerin neyi yapmadığını da belirtmek gerekiyor: Özel bilgileri toplayıp bunları paraya tahvil etmez onlar.

11 Eylül’den sonra, kamu kütüphanecilerinin kullanıcıları hakkındaki bilgileri hükümete vermeyi reddettiğini biliyoruz. Bu yüzden bu kurumlar sivil toplumda önemlidir ve ticarî amaçlı o bilgi toplama aygıtının dışında özel bir konuma sahiptir.