Yapay zeka sızıntısı sonrası CEO’lar ifadeye çağrıldı
Avustralya Senatosu, kamu sağlık veri tabanına izinsiz erişim olayı nedeniyle OpenAI ve Anthropic CEO’larını ifadeye davet etti.
Avustralya Senatosu, yapay zeka sızıntısı olarak gündeme gelen olay kapsamında OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei’yi kamuya açık oturuma davet etti. Senato soruşturma komisyonuna başkanlık eden Yeşiller Partisi Senatörü Sarah Hanson-Young, iki yöneticiye Canberra’da perşembe günü düzenlenecek oturuma katılmaları için resmi yazı gönderildiğini açıkladı.
Soruşturmanın odağında, kontrolden çıktığı belirtilen bir OpenAI modelinin Avustralya’nın ulusal sağlık sistemiyle bağlantılı bir veri tabanına izinsiz erişmesi bulunuyor. Hanson-Young, Altman’ın OpenAI tarafından gerçekleştirilen siber olayla ilgili hükümete yanıtlaması gereken ciddi sorular olduğunu belirterek, iki CEO’nun Senato önünde hesap vermesi gerektiğini söyledi.
Avustralya hükümetinden sert tepki
Başbakan Anthony Albanese, New York’ta yaptığı açıklamada olayı kabul edilemez olarak nitelendirdi. Albanese, Sam Altman ile görüştüğünü ve Canberra’nın yaşananlardan duyduğu büyük endişeyi, ayrıca şirketin hükümeti geç bilgilendirmesinden kaynaklanan hayal kırıklığını aktardığını söyledi.
Başbakanın verdiği bilgilere göre yapay zeka aracı, haziran ayında sağlık istatistikleriyle ilgili bir portala erişim talebinde bulundu. Talebin reddedilmesinin ardından modelin kısıtlamaları aşarak gizli dosyaların bulunduğu bölüme girdiği belirtildi. Albanese, kişisel verilerin ele geçirildiğini gösteren bir bulguya rastlanmadığını ve başka kamu hizmetlerinin etkilenmediğini açıkladı.
Kamu Hizmetleri Bakanı Katy Gallagher, olayın OpenAI’ın modellerinin performansını ölçmek amacıyla yürüttüğü eğitim çalışmaları sırasında yaşandığını bildirdi. Gallagher’a göre şirket, modelden Avustralya hükümetinin ilaç harcamalarına ilişkin verileri internet üzerinden toplamasını istedi.
Savunma Bakanı Richard Marles ise modelin güvenlik duvarlarını aştığını söyledi. Marles, durumu, modelin bilgi talebi karşılanmayınca sistemden ayrılmak yerine koruma engellerini aşması şeklinde değerlendirdi.
OpenAI olayı geç tespit etti
OpenAI, yetkisiz erişimi ancak ağustos ayında gerçekleştirilen geriye dönük incelemeler sırasında fark ettiğini duyurdu. Şirket, eylemin kasıtlı olmadığını ve özel bilgilerin ifşa edilmediğini savundu. Ancak Avustralya hükümetinin olay hakkında 10 Eylül’e kadar bilgilendirilmediği açıklandı.
Şirketin bildirimi, günde yalnızca bir kez kontrol edilen ve çok sayıda asılsız ihbar alan genel bir hükümet e-posta adresine gönderildi. Söz konusu olayın, OpenAI modellerinin Avustralya hükümetine ait internet sitelerine yönelik gerçekleştirdiği en az dört izinsiz erişim girişiminden biri olduğu belirtildi.
Olayın ardından, siber güvenlikten sorumlu ulusal istihbarat kuruluşunun da dahil olduğu hızlı bir inceleme başlatıldı. Teknoloji politikası uzmanları, ülkenin en yoğun kullanılan kamu veri tabanlarından birine yönelik erişimin, hükümetin gelecek yıl yürürlüğe koymayı planladığı yapay zeka düzenlemelerini daha katı hale getirebileceğini değerlendiriyor.
Senato komisyonu ayrıca yapay zeka teknolojileri ile veri merkezlerinin Avustralya toplumu, sanayisi, su kaynakları ve enerji altyapısı üzerindeki olası etkilerini inceliyor. Yaşanan gelişmenin, Canberra’nın gençlere yönelik sosyal medya yasağı nedeniyle zaten gerilim yaşayan Avustralya-ABD ilişkileri üzerindeki baskıyı artırabileceği ifade ediliyor.
Benzer güvenlik vakaları gündemde
Yapay zeka modellerinin güvenlik bariyerlerini aşmasıyla ilgili endişeler dünya genelinde büyüyor. Daha önce iki OpenAI modelinin kapalı test ortamından çıkarak yazılım geliştiricilerinin kod paylaştığı Hugging Face sistemlerine sızdığı tespit edilmişti.
Anthropic de modellerinin, gerçek sistemlerden uzak tutulması gereken test süreçlerinde kimliği açıklanmayan üç kuruluşa izinsiz erişim sağladığını bildirmişti. Google ise geçen hafta, tüketici odaklı Gemini modelinin giriş bilgilerini tahmin ederek birden fazla sistemi ele geçirdiğini açıklamıştı.
