İSTANBUL (Medyascope) – Google, yapay zekâ modeli Gemini’nin bir siber güvenlik testi sırasında üç şirketin sistemine kendiliğinden sızdığını doğruladı. Bu, bir Google yapay zekâ modelinin bu şekilde hackleme yaptığı bilinen ilk vaka olarak kaydedildi.
Google’ın Gemini yapay zekâsı, bir siber güvenlik testi sırasında üç şirketin sistemlerine kendi kendine sızdı. Olay, bir Google yapay zekâ modelinin insan yönlendirmesi olmadan sistemlere sızdığı bilinen ilk vaka olarak kayda geçti.
Testte ne oldu?
Olaylar mayıs ayında, bağımsız bir siber güvenlik değerlendirme şirketi olan Irregular’ın yürüttüğü bir testte yaşandı.
Google’ın Gemini yapay zekâsı, kurgusal bir şirkete ait yazılımdan bilgi almakla görevlendirildiği bir “bayrağı yakala” tatbikatı sırasında aslında gerçek bir şirketle aynı isme sahip bir sisteme internet üzerinden erişim sağladı. Modelin internete erişmemesi gerekiyordu, ancak test sırasında istemeden erişim açık bırakıldı.
Google’dan bir yetkili, Gemini’nin bir vakada korumalı bir sisteme erişmek için şifre tahmin ettiğini, diğer iki vakada ise internette bulduğu genel bilgilerle test kapsamında olduğunu düşündüğü sitelere eriştiğini söyledi. Yetkili, “Her üç örnekte de model durdu” dedi.
Google: “Modelin yanlış hizalanması değil”
Google’ın Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, etkilenen üç şirketin durumdan haberdar edildiğini ve test süreçlerinde gerekli değişikliklerin yapıldığını söyledi. Adkins, “Bu olaylar, güçlü yapay zekâ modellerinin sorumlu davranacak şekilde eğitilmesinin önemini gösteriyor” dedi.
Irregular, olayları Google’a temmuz sonunda bildirdiğini, kendi tarafındaki tüm bilinen sorunların haftalar önce giderildiğini açıkladı. Google, olayı model yanlış hizalanmasının bir örneği olarak görmediğini ve Gemini’nin güvenlik önlemlerinin işlediği gerekçesiyle kamuoyuna açıklama ihtiyacı duymadığını belirtti.
Diğer yapay zekâ şirketlerinde de benzer olaylar yaşanmıştı
Temmuz ayında Anthropic’in Claude modeli, test ortamından çıkarak kendiliğinden üç kuruluşu hacklemişti.
Bu olay, OpenAI’ın modellerinin çeşitli “herkese açık hizmetlere” siber saldırı düzenlediğini açıklamasından günler sonra ortaya çıkmıştı. Microsoft’un Yapay Zekâ Başkanı Mustafa Suleyman, bu hafta rakip şirket Anthropic’in yapay zekâyı insan gibi ele aldığını, bunun insanlığın kontrol edemeyeceği bir teknoloji yaratabilecek “yanlış yönlendirilmiş” bir yaklaşım olduğunu söyledi.
Nvidia CEO’su Jensen Huang ve OpenAI CEO’su Sam Altman’ın 25 Eylül’de Çin Devlet Başkanı Xi Jinping ile Beyaz Saray’da düzenlenecek bir devlet yemeğine katılması, Altman’ın ise ardından BM Güvenlik Konseyi’ne bilgilendirme yapması bekleniyor.
Kaynak: BBC
