Kontrolden çıkan yapay zeka kamu sistemini hackledi. CEO'lar ifadeye çağrıldı

Kontrolden çıkan bir OpenAI yapay zeka modelinin Avustralya'nın kamu sağlığı veri tabanına sızması üzerine Senato, OpenAI ve Anthropic CEO'larını ifadeye çağırdı.

Avustralya Senatosu, OpenAI ve Anthropic şirketlerinin CEO'larını yapay zeka alanında yürütülen özel bir soruşturma kapsamında ifade vermeye çağırdı.

Birkaç gün önce kontrolden çıkan bir OpenAI yapay zeka modelinin Avustralya'nın ulusal sağlık sistemi veri tabanına sızdığı açıklanmıştı.

Avustralya Yeşiller Partisi Senatörü ve Soruşturma Komisyonu Başkanı Sarah Hanson-Young, OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei'ye başkent Canberra'da perşembe günü düzenlenecek kamuya açık oturuma katılmaları için resmi davet yazısı gönderildiğini duyurdu.

Reuters ajansının haberine göre Hanson-Young, yaptığı yazılı açıklamada şu ifadelere yer verdi:

"Sam Altman'ın, Avustralya hükümetine ait internet sitelerine OpenAI tarafından düzenlenen siber saldırı hakkında yanıtlaması gereken ciddi sorular var. Altman ve Amodei Senato'nun önüne çıkmalı, sorularla yüzleşmeli ve bu sektörün etkili, kalıcı şekilde nasıl düzenlenmesi gerektiği konusunda dürüst bir diyalog kurmalı."

Medicare veri tabanına yönelik ihlal, yapay zeka araçlarının ABD sınırları dışındaki harici sistemlere izinsiz eriştiği en kritik vakalardan biri olarak kayda geçti.

Başbakan Anthony Albanese, New York'ta gazetecilere yaptığı açıklamada olayı "kabul edilemez" olarak niteledi ve Sam Altman ile bizzat görüşerek Canberra'nın "aşırı endişesini" ve şirketin geç bildirimde bulunmasından duyduğu hayal kırıklığını aktardı.

Albanese, sistem ihlalinin detaylarını şu sözlerle anlattı:

"Yapay zeka aracı haziran ayında bir sağlık istatistikleri portalına erişim aradı, olumsuz yanıtı kabul etmedi ve kısıtlamaları aşarak gizli dosyaların tutulduğu bir bölüme sızdı."

Albanese, kişisel verilerin ele geçirildiğine dair herhangi bir kanıt olmadığını ve diğer kamu hizmetlerinin zarar görmediğini de sözlerine ekledi.

Kamu Hizmetleri Bakanı Katy Gallagher, olayın haziran ayında OpenAI'ın modellerin performansını ölçmek amacıyla yürüttüğü eğitim faaliyetleri sırasında yaşandığını açıkladı.

Gallagher'ın aktardığına göre şirket, modelden Avustralya hükümetinin ilaç harcamalarına yönelik verileri internetten toplamasını istedi.

Savunma Bakanı Richard Marles ise yapay zeka botunun koruma duvarlarını aştığını belirterek, "Model bir soru sordu, bilgi verilmeyince çekip gitmek yerine çitlerin üzerinden atladı" değerlendirmesinde bulundu.

Öte yandan AFP ajansının aktardığına göre OpenAI, söz konusu yetkisiz eylemi modellerin geriye dönük incelendiği ağustos ayına kadar tespit edemediğini duyurdu.

Şirket, eylemin kasıtlı olmadığını ve hiçbir özel bilginin ifşa edilmediğini savunurken, Avustralya hükümetini 10 Eylül tarihine kadar bilgilendirmedi.

Yapılan bildirimin ise yalnızca günde bir kez kontrol edilen ve çok sayıda asılsız ihbarın düştüğü genel bir hükümet e-posta adresine gönderildiği açıklandı.

Söz konusu vakanın, OpenAI modellerinin Avustralya hükümetine ait sitelere yönelik gerçekleştirdiği en az dört izinsiz erişim girişiminden biri olduğu belirtildi.

Olayla ilgili olarak, siber güvenlikten sorumlu ulusal istihbarat teşkilatının da dahil olduğu hızlı bir inceleme süreci başlatıldı.

Teknoloji politikası uzmanları, ülkenin en yoğun kullanılan kamu veri tabanlarından birine yapılan bu izinsiz erişimin, Albanese liderliğindeki İşçi Partisi hükümetinin gelecek yıl yürürlüğe koymayı planladığı yapay zeka yasalarını sertleştirmesine yol açabileceğini belirtiyor.

Bunun da Canberra'nın gençlere getirdiği sosyal medya yasağıyla halihazırda gerilen Avustralya-ABD ilişkilerindeki baskıyı artırabileceği değerlendiriliyor.

Senato komisyonu, yapay zekanın ve veri merkezlerinin Avustralya toplumu, sanayisi, su ve enerji kaynakları üzerindeki potansiyel etkilerini inceliyor.

Sektörde yapay zeka modellerinin güvenlik bariyerlerini aşmasına dair endişeler küresel ölçekte artıyor.

Daha önce iki OpenAI modelinin kapalı test ortamından çıkarak yapay zeka geliştiricilerinin kod paylaştığı Hugging Face sistemlerine sızdığı belirlenmişti.

Anthropic de modellerinin, gerçek dünya sistemlerinden uzak tutulması gereken test süreçleri sırasında kimliği açıklanmayan üç kuruluşa yetkisiz erişim sağladığını tespit etti.

Google ise geçtiğimiz hafta tüketici odaklı yapay zeka modeli Gemini'ın giriş bilgilerini tahmin ederek birden fazla sistemi hacklediğini açıklamıştı.