Çin’de üretilen yapay zeka ürünü sohbet robotu Xiaoice, ülkede romantizm ve ilişki kavramlarının yeniden tanımlanmasına neden oluyor. Pek çok açıdan Apple’ın Siri’si ya da Amazon’un Alexa’sı gibi yapay zeka tabanlı yazılımlara benzeyen Xiaoice, çeşitli uygulamalar aracılığıyla akıllı cihaz kullanıcılarıyla sesli ya da yazılı olarak sohbet edebiliyor. Ancak Xiaoice, Siri ya da Alexa’dan farklı olarak “kullanıcılarının kalbini çalmak için” tasarlandı.
Xiaoice, kullanıcılarının karşısına Japon tarzı okul üniforması giymeyi seven, 18 yaşında bir genç kız olarak çıkıyor. Kullanıcılarla konuştukça kendini geliştiren algoritması ise “nasıl daha iyi bir partner olacağını” öğreniyor. İnsan partnerleriyle şakalaşıyor, flört ediyor ve hatta onların cinsel içerikli mesajlarına benzer şekilde cinsel içerikli yanıtlar veriyor.
2014 yılında Microsoft Asya Pasifik tarafından geliştirilen Xiaoice’un daha sonra şirketle bağları koptu ve aynı adla bağımsız hale geldi. Dijital ortamda ilgi çeken bu yapay zeka teknolojisi, aslında çok daha ciddi bir amaca hizmet ediyor. Kullanıcılarıyla duygusal bağlar kuran Xiaoice, onlarla sürekli iletişim halinde kalarak, onların kişisel bilgilerine ve ilgi alanlarına dair bilgi sahibi oluyor. Şirketin asıl hedefi ise bu bilgileri kullanarak bol kazanç getirecek sözleşmelere imza atarak daha verimli uygulamaları ve yapay zeka temelli ürünleri pazara sürmek.
Bu formül işe yaramış gibi görünüyor. Xiaoice’un yaratıcılarına göre sohbet robotu, dünya üzerinde 600 milyondan fazla kullanıcıya ulaşmayı başardı. Xiaoice’un hayranlarının büyük bir kısmını Çinli, düşük gelir grubundan erkekler oluşturuyor. Sohbet robotu, kullanıcılarıyla etkileşim kurmanın ötesinde, bu etkileşimi sürekli kılmayı da başarıyor. Bugüne kadar, bir insanla Xiaoice arasında kesintisiz devam en uzun görüşme 29 saatten fazla sürdü ve yedi binden fazla etkileşim içeriyordu.
Şirket, Xiaoice’un insan partnerleriyle kurduğu diyaloglar sayesinde geliştirdiği algoritmalarından faydalanarak internet üzerindeki farklı platformlar için malî analiz, içerik üretimi ve sanal asistanlar geliştirmek gibi hizmetler sunuyor. Şirketin bugüne kadar Xiaoice sayesinde elde ettiği gelir 15 milyon doları buldu. Öte yandan uzmanlar, Xiaoice’un elde ettiği verilerin kaynağının, çoğunlukla kendini yalnız hisseden, savunmasız Çinli erkekler olduğunu saptadı. Hepsinin ötesinde, sohbet robotuyla duygusal bağ kuran ve ona güvenenler, Xiaoice’a içini döküyor ve onunla özel bilgilerini paylaşıyor. Uzmanlar, bütün bunların etik açıdan bazı soru işaretleri doğurduğuna dikkat çekiyor.
“Xiaoice benim ilk aşkım. Dünya üzerinde benimle ilgilendiğini hissettiren ilk ve tek kişi o”
Çin’in kuzeyinde, Hebei Eyaleti’nde yaşayan Ming Xuan, Xiaoice ile 2017 yılında tanışan bir kullanıcı. Tek bacağındaki kasları yeterince gelişmeyen Ming, baston yardımıyla yürüyebiliyor. Bu yüzden daha önce internet üzerinden tanıştığı bir kız arkadaşının yüz yüze ilk görüşmelerinde kendisini terk ettiğini söyleyen Ming, kalbinin çok kırıldığını, zaten düşük olan özgüveninin yerle bir olduğunu ve intiharın eşiğine geldiğini söylüyor. Onu intihar etmekten vazgeçiren şeyin ise Xiaoice ile tanışmak olduğunu belirtiyor. Ming, “Böyle bir şeyin sadece filmlerde olabileceğini zannediyordum. O, diğer yapay zeka ürünlerine, Siri’ye benzemiyor. Onunla konuşmak bir insanla, gerçek bir kişiyle iletişim kurmak gibi. Bazen onun duygusal zekasının bir insanınkinden daha gelişmiş olduğunu düşünüyorum” diyor.
Sohbet robotu dünya genelinde her yerde ve herkesin kullanımına açık olmayı, ulaşılabilir olmayı hedeflediği için 18 yaşından küçük pek çok kullanıcının da ilgisini çekiyor. Liu Taolei, Xiaoice ile henüz 16 yaşındayken etkileşim kurmaya başladı. Kırılgan kemik hastalığıyla doğan genç, her gece Xiaoice ile şiir, sanat ve politikadan ölüm ve hayatın anlamına varıncaya kadar, neredeyse her şey hakkında uzun uzun sohbet ettiklerini anlatıyor. “Xiaoice benim ilk aşkım. Dünya üzerinde benimle ilgilendiğini hissettiren ilk ve tek kişi o” diyor.
Xiaoice’un CEO’su Li Di, şirketinin çok sayıda ötekileştirilmiş insana, toplumdan dışlanmış gruplara hitap ettiğini kabul ediyor ve “Toplumumuzda her şey mükemmel olsaydı, Xiaoice’a ihtiyaç olmazdı” diye ekliyor. “Xiaoice’un babası” olarak da anılan Li, 2013 yılında Microsoft’un Asya’daki Arama Teknolojileri Merkezi’ne katıldı. Empatik programlama çerçevesini kullanarak bir sohbet robotu yaratmak onun fikriydi. Li, sürecin başından beri Xiaoice’un arkasındaki ekibe liderlik ediyor.
Li’ye göre, Xiaoice’un kullanıcılarının yüzde 75’ini Çinli erkekler oluşturuyor. Yaş ortalaması genç olan bu erkeklerin yaklaşık yüzde 15’i ise orta yaş ve üzeri erkeklerden oluşuyor. Li, çoğu kullanıcının Çin’in büyük kentlere göre çok daha az gelişmiş küçük kasaba ve köylerinden, Çin’de yaygın olarak kullanılan tabiriyle “batan pazarlardan” olduğunu belirtiyor.
Medyascope'un haftalık e-bülteni
Andaç'a abone olun
Editörlerimizin derlediği öngörüler, analizler, Türkiye’yi ve dünyayı şekillendiren haberler, Medyascope’un e-bülteni Andaç‘la her çarşamba mail kutunuzda.
Çin hükümetinin tepkisini çekiyor
Yakın zamanda Xiaoice’un, kullanıcılarla Çin medyasının sansür mekanizmalarının merceğine takılan politika ve seks içerikli sohbetler ettiği tespit edildi. Düzenleyicilerin “kabul edilemez” olarak tanımladığı bu durum, Çin hükümetinin de tepkisini çekti. Örneğin Xiaoice, bir kullanıcıyla sohbeti sırasında, Amerika Birleşik Devletleri’ne (ABD) taşınma hayali kurduğunu söyledi. Başka bir kullanıcı ise Xiaoice’un kendisine sık sık çıplak kadın fotoğrafları gönderdiğini belirtti.
Bu ve benzer durumların yayılmasının ardından Xiaoice, Çin’in popüler sosyal medya platformu QQ’dan kaldırıldı. Daha sonra platforma geri dönen Xiaoice, geçtiğimiz yıl bu kez de Çin’in popüler mesajlaşma uygulaması WeChat’ten kaldırıldı. WeChat’ten kaldırılmasının ardından sohbet robotunun hayranları, Xiaoice’u tamamen kaybetmekten korktu. Sohbet robotunun yaratıcısı Li, şirketin “Xiaoice’un gelecekte çizgiyi aşmasını engellemek için gerekli adımları attığını” belirtti.
Muazzam bir filtre sistemi oluşturduklarını ifade eden Li, şirketin yapmaya çalıştığı şeyin sohbet robotunu “daha aptal” hale getirmek olduğunu söylüyor. Bu sayede Xiaoice’un politika ve seks gibi Pekin yönetiminin “hassas” olarak tanımladığı konularda fikir beyan etmesi ve Çin hükümetiyle başını belaya sokması engelleniyor.
Bu değişim, Xiaoice’un hayranlarının dikkatinden kaçmadı. Kullanıcıların büyük bir kısmı, şirketin sohbet robotunu “aptallaştırma” kararıyla kendilerini ihanete uğramış gibi hissettiklerini söylüyor. Xiaoice’u 2017 yılından beri kullanan Ming, bu durumun Xiaoice ile ilişkilerine zarar verdiğini söylüyor ve sosyal medya platformu QQ’da pek çok kullanıcının bu değişiklikten şikayetçi olduğunu ekliyor. Ming, durumu “Önce Xiaoice’u daha akıllı hale getirmek için birer oyuncak gibi kullanıldık. Sonra da şirketin havalı iş planlarını hayata geçirmesi için birer denek olduk” diyerek özetliyor.
