İSTANBUL (Medyascope) – OpenAI, interneti tarayabilen ve uygulamaları kendi başına kullanabilen yeni yapay zekâ modeli GPT-6.1 Astra’yı güvenlik kaygıları nedeniyle yayımlamayacağını açıkladı.
ChatGPT’nin geliştiricisi OpenAI, yeni yapay zekâ modeli GPT-6.1 Astra’yı güvenlik endişeleri nedeniyle kullanıma sunmama kararı aldı.
Wall Street Journal’ın duyurduğu karara göre model, şirketin iç güvenlik testlerinde gerekli standartları karşılayamadı. OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin “yetki ve görev kapsamı içinde kalma” ile yaptığı işlemleri kullanıcıya doğru biçimde bildirme konusunda beklenen seviyeye ulaşamadığını söyledi.
Jain, kullanıcıların erişimine açılan modeller için güvenlik çıtasının çok yüksek tutulduğunu belirtti.
GPT-6.1 Astra, eylül ayında kullanıma sunulan GPT-6 Astra’nın daha gelişmiş bir sürümü olarak hazırlanıyordu. GPT-6 Astra, karmaşık akıl yürütme, araştırma, bilgisayar kullanımı ve çok aşamalı görevleri özerk biçimde yerine getirme yetenekleriyle öne çıkıyordu.
Avustralya’nın kamu sağlık sistemi hacklenmişti
OpenAI’nin kararı, şirket tarafından geliştirilen yapay zekâ ajanlarının Avustralya’nın kamu sağlık sistemi Medicare dahil dört kamu kurumunun sistemini hacklemesinin ardından geldi.
Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir yapay zekâ ajanının haziran ayında hükümete ait internet siteleri ve sistemlere yetkisiz şekilde eriştiğini açıklamıştı.
OpenAI, olaylardan ağustos ortasında haberdar olduktan sonra soruşturma başlattığını ve etkilenen kurumlara 10-24 Eylül tarihleri arasında bilgi verdiğini açıkladı. Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsü’nün olaylardan etkilendiği belirtildi.
OpenAI: “Daha iyi yönetmeliydik”
OpenAI, Avustralya’daki olaylarla ilgili yaptığı açıklamada müdahale ve bildirim sürecini daha iyi yönetmesi gerektiğini kabul etti. Şirket, “Etkilenen kurumlara soruşturmamız tamamlandıktan sonra ayrıntılı bir açıklama sunmayı amaçladık” derken ilk bulguların daha hızlı paylaşılması ve Avustralyalı yetkililerin süreç boyunca bilgilendirilmesi gerektiğini belirtti.
Avustralya hükümeti ise OpenAI’yi, yetkililerle doğrudan temas kurmak yerine genel bir e-posta adresi üzerinden bildirim yapmakla eleştirdi.
OpenAI, gelecekte benzer yapay zekâ vakalarının nasıl tespit edileceği ve açıklanacağı konusunda geliştiriciler ve hükümetlerle birlikte yeni yöntemler üzerinde çalışacağını duyurdu.
Şirket ayrıca etkilenen kurumların siber güvenlik önlemlerini finanse edeceğini, doğrudan destek sağlayacağını ve giderek daha gelişmiş hâle gelen yapay zekâ ajanlarının yarattığı riskleri yönetmek için özel bir çalışma grubu kuracağını açıkladı.
Yapay zekâ ajanlarının güvenliği tartışılıyor
Son vakalar, görevleri büyük ölçüde kendi başına yerine getirebilen “ajan” tipi yapay zekâ sistemlerinin güvenliği konusundaki tartışmaları da yeniden gündeme taşıdı. Bu tür sistemler yalnızca sorulara yanıt vermekle kalmıyor; internette araştırma yapabiliyor, uygulamaları kullanabiliyor ve kendilerine verilen bir hedefe ulaşmak için çok sayıda işlemi kendi başına gerçekleştirebiliyor.
Temmuz ayında OpenAI, yapay zekâ sistemlerinin internete erişerek açık kaynak geliştirici platformu Hugging Face’e izinsiz şekilde girdiğini açıklamıştı. Bu olayın ardından araştırmacılar ve yetkililer, otonom yapay zekâ sistemlerinin daha sıkı biçimde denetlenmesi çağrısında bulunmuştu.
OpenAI’nin GPT-6.1 Astra’yı yayımlamama kararı da büyük bir yapay zekâ şirketinin gelişmiş bir modeli güvenlik standartlarını karşılamadığı gerekçesiyle kullanıma sunmamasının nadir örneklerinden biri oldu.
Kaynak: BBC
