İSTANBUL (Medyascope) – Yapay zekânın yazdığı metinler nasıl anlaşılacak? Anthropic, Avrupa Birliği’nde (AB) aralık ayında yürürlüğe girecek düzenlemeye uyum sağlamak için yapay zekâ botu Claude tarafından üretilen metinlere görünmez bir “filigran” ekleyecek.
Yapay zekâ tarafından yazılmış metinlerin kendine özgü bazı işaretleri artık tanıdık: Fazla uzun çizgiler, tekrar eden kalıplar ve belirli kelimelerin gereğinden sık kullanılması…
Peki yapay zekânın yazdığı metinler nasıl anlaşılacak?
Claude tarafından yazılan metinler yakında çok daha sistematik ve görünmez bir iz taşıyacak.
Anthropic, hafta sonu yaptığı açıklamada Claude’un metin üretme biçimini değiştireceğini duyurdu. Şirket, değişikliğin Avrupa Birliği’nde aralık ayından itibaren yapay zekâ tarafından oluşturulan metinlerin filigranlanmasını zorunlu kılacak düzenlemeye uyum amacı taşıdığını belirtti.
Görünmez filigran nasıl çalışacak?
Sistem, Claude’un bir cümlede hangi kelimeyi seçeceğine ilişkin küçük ve rastlantısal kararları değiştirecek. Örneğin model bir günü “gri” ya da “kapalı”, akan bir suyu “dere” ya da “çay” olarak tanımlamak arasında seçim yaparken belirli bir örüntü oluşturacak.
Bu örüntüyü sıradan bir okuyucunun fark etmesi mümkün olmayacak ancak Anthropic ve gerekli çözümleme anahtarına sahip kişiler, metnin Claude tarafından üretildiğini tespit edebilecek.
Teknoloji yazarı John Gruber ise sistemin Claude’un kelime seçimlerini sınırlayarak metinlerin kalitesini düşürebileceğini savundu.
Amaç yalnızca öğrencileri yakalamak değil
AB’de faaliyet gösteren yapay zekâ şirketlerini kapsayacak filigran sistemi, öğrencilerin, akademisyenlerin veya hukukçuların chatbot tarafından üretilmiş metinleri kendi yazılarıymış gibi sunmasını zorlaştırabilir.
Ancak filigranın başka bir işlevi daha var.
İnternette yapay zekâ tarafından üretilen içerik miktarı arttıkça, yeni modellerin bu içeriklerle eğitilmesi “model çöküşü” olarak adlandırılan soruna yol açabiliyor. Yapay zekânın kendi ürettiği metinlerle tekrar tekrar eğitilmesi, modellerin kavramları birbirine karıştırmasına ve performanslarının bozulmasına neden olabiliyor.
Bu nedenle görünmez filigran yalnızca yapay zekâ metinlerini insan metinlerinden ayırmak için değil, gelecekte yapay zekânın kendi ürettiği içerikle beslenmesini önlemek için de kullanılabilecek.
Kaynak: Guardian
