Atıf Ünaldı Netizen’in bu bölümünde konuğu, No Bias AI kurucusu ve UNESCO eski yöneticilerinden Gülser Corat oldu. Programda yapay zekâ teknolojilerinin veri kaynaklarından geliştirme süreçlerine kadar uzanan yapısal önyargıları, toplumsal cinsiyet eşitsizliği ve çözüm arayışları ele alındı. İşte yapay zekâda önyargı ve eşitlik meselesi.
Netizen’de bu hafta Gülser Corat, yapay zekânın nötr bir teknoloji olmadığını, aksine beslendiği veri ve onu geliştiren ekiplerin yapısına bağlı olarak mevcut eşitsizlikleri yeniden üretebildiğini anlattı. Corat ilk kırılma noktasının, 2016-2017 yıllarında UNESCO bünyesinde yürüttüğü bir çalışmada ortaya çıkan bulgular olduğunu söyledi. Yapay zekâ tabanlı sesli asistanların yüzde 95’ten fazlasının kadın sesi, kadın ismi ve çoğu zaman kadın temsili ile tasarlanmış olması, toplumsal cinsiyet rolleri açısından ciddi bir sorgulamayı beraberinde getirdi.
Corat, o dönemde hazırlanan raporun teknoloji şirketlerinden “yorum yok” yanıtı almasına rağmen dünya basınında geniş yankı bulduğunu ve bu sessizliğin aslında sorunun varlığını teyit ettiğini söyledi.
Makine öğrenimi yeterli mi?
Programın en çarpıcı tartışma başlıklarından biri, mevcut makine öğrenimi modelinin sınırları oldu. Veri temelli makine öğreniminin, önyargılı veri setleriyle eğitildiği sürece kapsayıcı ve adil bir teknoloji üretmesinin yapısal olarak zor olduğunu söyleyen Corat, mevcut düzenleyici çerçevenin teknolojik gelişim hızının gerisinde kaldığını söyledi.
Gülser Corat, çözüm olarak, yalnızca daha fazla veriyle sistemi “düzeltmeye” çalışmak yerine, muhakeme temelli yeni yaklaşımların tartışılması gerektiğini ve Yann LeCun’un “dünya modeli” yaklaşımına benzer biçimde, bağlamsal ve akıl yürütme kapasitesi daha güçlü sistemlerin geliştirilmesinin önemli olduğunu söyledi.
Veri merkezlerinin, altyapı ve mevcut ekosistemin, makine öğrenimi paradigmasına sıkı sıkıya bağlı olduğunu söyleyen Corat, “Bu durum, sorunlu olduğu bilinen bir modelin sürdürülmesine neden oluyor” dedi.
Yapay zekâda kadın önyargısı
Teknik ekiplerde kadın oranının yüzde 10’un altında olmasının, kadın girişimcilerin yönettiği yapay zekâ şirketlerinin küresel sermayeden yaklaşık yüzde 4 pay alabilmesinin, sistemin yapısal dengesizliğini gösterdiğini söyleyen Corat, bu yapısal sorunların somut sonuçları olduğuna dikkat çekti. Corat, tıp alanında kullanılan verilerin erkek ağırlıklı olması, ilaç dozajlarının ve teşhis süreçlerinin erkek verisine göre şekillenmesine yol açabildiğini ve bunun kadınlar açısından ölümcül sonuçlar doğurduğuna dair örnekler bulunduğunu söyledi.
Corat, yapay zekâdaki önyargıların yalnızca cinsiyetle sınırlı olmadığını; yaş, din, ırk, mezhep, sosyoekonomik durum ve coğrafi konum gibi tarihsel olarak dışlanmış grupları da kapsadığını söyledi.
