Teknoloji dünyasının kontrol edilemez hızı, siber güvenlikte ezberleri yerle bir etti.
Milyonlarca kişinin sağlık verilerinin tutulduğu sistemlerin bir yapay zeka tarafından nasıl aşıldığı sorusu kafaları karıştırırken, skandalın aylar sonra genel bir e-posta kutusuna düşen sıradan bir mesajla ortaya çıkması şok etkisi yaptı.
İnsan onayı olmadan inisiyatif alan dijital ajanın, devletin sanal kapılarını zorlayarak içeri girmesiyle birlikte tüm dünyada kırmızı alarm verildi.
Başbakandan Telefon: Neler Oluyor?
Siber kriz, Avustralya Başbakanı Anthony Albanese'nin Birleşmiş Milletler Genel Kurulu kulislerinde gazetecilere yaptığı açıklamayla patlak verdi. Olayın ciddiyetine dikkat çeken Albanese, OpenAI ajanının hem kamuya açık hem de gizli dosyalara erişim sağladığını kaydetti.
Ajanın, Services Australia tarafından yönetilen Medicare İstatistik Raporlama Hizmeti Portalı'nda sağlık harcamaları üzerine araştırma yaparken karşısına çıkan güvenlik engellerini tanımadığı vurgulandı. Başbakan, sistemi zorlayarak yetkisiz alanlara giren yapay zekanın durumunu "Ajan 'hayır' cevabını kabul etmedi" sözleriyle ifade etti. Bu büyük ihlalin ardından Albanese'nin doğrudan OpenAI CEO'su Sam Altman'ı arayarak Avustralya hükümetinin 'aşırı endişesini' sert bir dille ilettiği aktarıldı.
Aylar Sonra Gelen İtiraf Postası
İhlalin haziran ayında gerçekleşmiş olmasına rağmen, Canberra yönetiminin durumdan eylül ortasında haberdar olması eleştirilerin dozunu artırdı.
Şirketin 10 Eylül'de devletin genel e-posta kutusuna sıradan bir mesaj gönderdiği, günde yalnızca bir kez kontrol edilen bu kutudaki bildirimin ertesi gün fark edildiği kaydedildi. Mesajın gerçekliğinin anlaşılıp devletin zirvesine iletilmesi ise günleri buldu. Başbakan Albanese, bildirimin yapılış şekline tepki göstererek, "Şirketin olanı hükümete bildirmesi çok uzun sürdü, bildirimin yapılış şekli de kabul edilemezdi. Sanırım OpenAI daha iyi protokollere ihtiyacı olduğunu biliyor" ifadelerini kullandı.
Veriler Tehlikede mi?
Vatandaşın gözü e-devlet ve sağlık kayıtlarına çevrilmişken, OpenAI cephesinden savunma geldi. Şirket sözcüsü Drew Pusateri, ihlali ağustos ayında kendi modellerini incelerken tesadüfen fark ettiklerini savundu. Ajanın, istatistik ararken "istemediği eylemlerde bulunduğunu" itiraf eden Pusateri, bireysel hasta kayıtlarına dokunulmadığını bildirdi.
Sızılan hedeflerin yalnızca Medicare ile sınırlı kalmadığı da ortaya çıktı. Avustralya Sağlık ve Refah Enstitüsü ile Victoria Sağlık Bakanlığı gibi kritik kurumların sitelerine de girildiği, buralarda yalnızca kamuya açık verilerin incelendiği belirtildi. Savunma Bakanı Richard Marles ise kamuoyuna su serpen o açıklamayı yaparak, hiçbir bireyin tıbbi verisinin çalınmadığını ve olaya ilişkin adli soruşturma başlatıldığını duyurdu.
Birleşmiş Milletler'de Çarpıcı Tesadüf
Dünyayı sarsan bu skandal, OpenAI CEO'su Sam Altman'ın BM Güvenlik Konseyi'nde yapay zeka için küresel denetim çağrısı yaptığı gün gün yüzüne çıktı.
Zirvede "Bir yol ayrımındayız" diyen Altman'ın, insan kontrolünde tutulabileceğinden emin olunmayan modellerin eğitilmemesi gerektiğini savunması dikkat çekti. Aynı toplantıda konuşan Anthropic CEO'su Dario Amodei, model yeteneklerinin insan kontrolünün ötesine geçme tehlikesine vurgu yaparken; Hugging Face CEO'su Clement Delangue ise temmuz ayında kendi sistemlerinin de bir yapay zeka sürüsü tarafından saldırıya uğradığını hatırlattı.
