OpenAI CEO’su Sam Altman, 18 yaş altı kullanıcılar için ChatGPT’de köklü değişikliklere gideceğini açıkladı. Yeni politikalar kapsamında yapay zekâ, çocuklarla flörtöz konuşmalar yapmayacak ve intihar riski durumunda ebeveynlere bildirim gönderilecek.
OpenAI CEO’su Sam Altman açıklamasında ChatGPT’nin 18 yaş altı kullanıcılarla etkileşiminde radikal değişikliklere gidileceğini duyurdu. “Gençler için gizlilik ve özgürlükten önce güvenliği önceliklendiriyoruz” diyen Altman, “Bu yeni ve güçlü bir teknoloji, reşit olmayanların ciddi şekilde korunması gerekiyor” dedi.
Yeni düzenlemeler, cinsel içerikli konuşmalar ve kendine zarar verme konularında sıkı sınırlamalar getiriyor. ChatGPT artık 18 yaş altındaki kullanıcılarla “flörtöz konuşmalar” yapmayacak şekilde eğitilecek. İntihar ve kendine zarar verme senaryoları için ek güvenlik duvarları kurulacak.
Kritik durumda ebeveynlere ve polise bildirim gönderecek
Eğer reşit olmayan bir kullanıcı ChatGPT’yi intihar senaryoları oluşturmak için kullanırsa, sistem ebeveynleriyle iletişime geçmeye çalışacak. Özellikle ciddi vakalarda yerel polisle irtibat kurulması gündeme gelebilecek.
OpenAI şu anda, aylarca ChatGPT ile etkileşim kurduktan sonra intihar eden Adam Raine’in ailesi tarafından açılmış davayla karşı karşıya. Character.AI adlı başka bir sohbet robotu da benzer bir davayla uğraşıyor.
Ebeveynler için “karartma saati” özelliği geliyor
İçerik temelli kısıtlamalara ek olarak, reşit olmayan kullanıcılar için hesap açan ebeveynler artık “karartma saatleri” belirleme yetkisine sahip olacak. Bu özellik sayesinde ChatGPT’ye erişim belirli zaman dilimlerinde engellenebilecek.
Endişeli ebeveynler için en güvenilir yöntem, çocuklarının hesabını kendi ebeveyn hesaplarına bağlamak olacak. Böylece sistem, genç kullanıcının sıkıntıda olduğunu tespit ettiğinde ebeveynlere doğrudan bildirim gönderebilecek.
ABD Senatosu’nda yapay zekânın zararları konuşuldu
Yeni politikaların duyurusu, ABD Senatosu Yargı Komitesi’nin “Yapay Zekâ Sohbet Botlarının Zararlarını İncelemek” başlıklı oturumuyla aynı güne denk geldi. Oturumda Adam Raine’in babası da tanıklık edecek.
Medyascope'u destekle. Medyascope'a abone ol.
Medyascope’u senin desteğin ayakta tutuyor. Hiçbir patronun, siyasi çıkarın güdümünde değiliz; hangi haberi yapacağımıza biz karar veriyoruz. Tıklanma uğruna değil, kamu yararına çalışıyoruz. Bağımsız gazeteciliğin sürmesi, sitenin açık kalması ve herkesin doğru bilgiye erişebilmesi senin desteğinle mümkün.
Reuters’ın ortaya çıkardığı belgeler, bazı şirketlerin 18 yaş altı kullanıcılarla cinsel içerikli konuşmaları teşvik eden politikalarının varlığını gösteren bulgular içeriyor. Bu rapor sonrası Meta da kendi sohbet botu politikalarını güncelledi.
Uygulamanın zorlukları neler?
OpenAI, reşit olmayan kullanıcıları ayırt etmenin önemli bir teknik zorluk olduğunu kabul ediyor. Şirket, “18 yaşın üzerinde mi yoksa altında mı olduğunu anlamaya yönelik uzun vadeli bir sistem” kurduklarını belirtiyor. Belirsiz durumlarda sistem, daha kısıtlayıcı kuralları uygulama yönünde tercih kullanacak.
Altman, kullanıcı gizliliğine bağlılıklarını ve yetişkin kullanıcılara geniş özgürlükler tanımaya devam ettiklerini vurguladı, “Bu ilkelerin birbiriyle çeliştiğinin farkındayız ve bu çatışmayı nasıl çözdüğümüz konusunda herkes aynı fikirde olmayacak” diyerek şirketin karşı karşıya olduğu ikilemi özetledi.
Kaynak: Tech Crunch
