OpenAI yapay zeka ajanı Avustralya’nın Medicare sistemini hackledi

OpenAI ajanı Avustralya'nın resmi sağlık sistemini hackledi

İSTANBUL (Medyascope) – OpenAI tarafından geliştirilen yapay zekâ ajanı, Avustralya’nın kamu sağlık sistemi Medicare dahil dört kamu kurumunun sistemini hackledi. Olay haziranda yaşandı ancak şirket Avustralya hükümetini üç ay sonra bilgilendirdi.

OpenAI tarafından geliştirilen yapay zekâ ajanı, Avustralya’nın kamu sağlık sistemi Medicare dahil dört devlet kurumunun sistemine sızdı. Yapay zekâ ajanı, Medicare’in istatistik raporlama portalında hem kamuya açık hem de kamuya açık olmayan dosyalara erişti.

Ajan ayrıca Avustralya Sağlık ve Refah Enstitüsü, Victoria Sağlık Bakanlığı ve Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu sistemlerini de hackledi.

İlk incelemelere göre kişisel sağlık bilgilerinin ele geçirildiğine ilişkin bir bulgu bulunmuyor. Olayla ilgili soruşturma ise sürüyor.

Avustralya Başbakanı Anthony Albanese, “Bu durum açıkça kabul edilemez” dedi.

Araştırma görevi verilen ajan sistemlere izinsiz erişti

Yapay zekâ ajanına sağlık ve tıp istatistiklerinin derlenmesini içeren bir araştırma görevi verilmişti ancak ajan bu görev sırasında kendisine verilen sınırların dışına çıkarak kamu sistemlerine izinsiz erişti.

OpenAI, yaşananları “misaligned behaviour”, yani modelin kendisine verilen amaçla uyumsuz davranışı olarak tanımladı.

Yapay zekâ ajanları; bir kullanıcı veya sistem adına problem çözebilen, karar verebilen, plan yapabilen ve farklı araçları kullanarak karmaşık görevleri otonom biçimde gerçekleştirebilen sistemler olarak tanımlanıyor.

OpenAI hükümeti üç ay sonra bilgilendirdi

Olay haziran ayında meydana geldi ancak OpenAI, yapay zekâ ajanının sistemlere izinsiz eriştiğini ağustos ayında fark etti.

Şirket 10 Eylül’de, Avustralya hükümetine ait ve günde yalnızca bir kez kontrol edilen genel bir e-posta adresine mesaj göndererek olayı bildirdi. Mesaj 11 Eylül’de okundu. Services Australia, 15 Eylül’de Avustralya Sinyal Direktörlüğü’nü, 17 Eylül’de ise hükümet hizmetlerinden sorumlu Bakan Katy Gallagher’ı bilgilendirdi.

Avustralya makamlarının OpenAI ile ilk doğrudan teması ise 22 Eylül’de gerçekleşti. Başbakan Albanese, “Şirketin hükümeti olanlar hakkında bilgilendirmesi çok uzun sürdü. Bildirimin yapılış biçimi de kabul edilemezdi” dedi.

Avustralya Başbakan Yardımcısı Richard Marles’ın eylül ayı başında OpenAI CEO’su Sam Altman ile görüştüğü de ortaya çıktı. Marles, Altman’ın bu görüşmede OpenAI’ın yapay zekâ ajanının Avustralya kamu sistemlerine yaptığı izinsiz erişimden söz etmediğini söyledi.

Hükümet özel çalışma grubu kuruyor

Albanese, olayın “acil ve derhal” incelenmesi için özel bir çalışma grubu kurulacağını duyurdu. Çalışma grubunda ulusal siber güvenlik koordinatörü, yapay zekâ ofisi, Avustralya Sinyal Direktörlüğü, Avustralya Yapay Zekâ Güvenliği Enstitüsü ve Services Australia yer alacak.

Olay ayrıca parlamentonun yapay zekâ ortak seçilmiş komitesine gönderildi.

OpenAI’a şu ana kadar herhangi bir yaptırım uygulanmadı.

Kaynak: Guardian

Medyascope'u destekle. Medyascope'a abone ol.

Medyascope’u senin desteğin ayakta tutuyor. Hiçbir patronun, siyasi çıkarın güdümünde değiliz; hangi haberi yapacağımıza biz karar veriyoruz. Tıklanma uğruna değil, kamu yararına çalışıyoruz. Bağımsız gazeteciliğin sürmesi, sitenin açık kalması ve herkesin doğru bilgiye erişebilmesi senin desteğinle mümkün.

Paylaş