Yapay zekâ…
Bilgisayar sistemlerinin öğrenme, akıl yürütme, karar verme ve problem çözme gibi insan zekâsına özgü yetenekleri taklit etmesini sağlayan bir teknoloji...
Yapay Zekâ türleri var. Şöyle ki;
* Dar Yapay Zekâ (ANI): Tek bir alanda (örneğin dil çevirisi veya arama motorları) görev yapan günümüzdeki sistemler.
* Genel Yapay Zekâ (AGI): İnsan seviyesinde her zihinsel görevi yapabilen, henüz geliştirilmemiş sistem türü.
* Süper Yapay Zekâ (ASI): İnsan zekâsını her alanda aşması öngörülen teorik bir kavram.
GÜNLÜK HAYATTA NERELERDE KULLANILIYOR, YAPAY ZEKÂ?
* Sağlık: Hastalıkların erken teşhisi ve tedavi süreçlerinin planlanmasında…
* Finans: Kredi skorlama ve dolandırıcılık (sahtekarlık) tespitinde…
* Eğlence ve İletişim: Sesli asistanlar, öneri algoritmaları ve metin/görsel üretiminde…
* Medya: Farklı görsellerin, efektlerin ve çizimlerin oluşturulmasında…
Ve daha saymakla uzaması mümkün çok sayıda alanda istifade ediliyor, Yapay Zeka’dan…
BİR TEST SIRASINDA NELER YAŞANDI?
Yapay zeka konusunda BM destekli ilk bilimsel kuruluşa göre, OpenAI tarafından başlatılan bir test sırasında "yapay zeka ajanları" tarafından çevrimiçi platform HuggingFace'in hacklenmesi olayı…
Yapay zeka ajanları siber güvenlik değerlendirmelerinde hile yapma girişimlerini gizlediler ve bazıları grubun yararına kendilerini “feda etti”.
Mevcut güvenlik duvarlarının "çözülmeye başladığı" gerekçesiyle güvenlik önlemlerinin artırılması çağrısı yapılırken, 20 ülke küresel denetim istedi.
Teknoloji şirketlerinin geliştirdiği yapay zeka modellerinin yol açtığı siber güvenlik sorunları tartışılırken, BM paneli, yapay zekâ ajanlarının gelişmesiyle birlikte daha güçlü güvenlik önlemleri alınması çağrısında bulundu.
Yüksek riskli yapay zeka sistemlerini izleyecek uluslararası bir yapı kurulmasını öneren 20 ülke ise sınır aşan riskler için ortak standart ve bağımsız denetim talep etti.
"YAPAY ZEKÂ AJANLARI"
Yapay zekâ ajanları, sorular veya talimatlarla yönlendirilen sohbet botlarının aksine, bir kullanıcı adına ve bağımsız olarak görevleri yerine getirebilen yazılımlar.
BM destekli Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli'nin uyarısı, Mayıs ve Temmuz ayları arasında OpenAI (ChatGPT'nin arkasındaki şirket) tarafından başlatılan bir test sırasında "yapay zeka ajanları" tarafından çevrimiçi platform HuggingFace'in hacklendiğinin ortaya çıkmasının ardından geldi.
Panel, güvenlik ihlalinin temel risk faktörlerinin bir araya gelmesinin sonucu olduğunu tespit eden ilk tematik raporunu yayınladı ve bu durum, insanların bir gün yapay zekayı yönlendiremeyeceği, sınırlayamayacağı veya durduramayacağı endişelerini artırdı.
YAPAY ZEKÂ EĞİTİMİ İLERLİYOR
Bilimsel panelin eş başkanı Yoshua Bengio, "Araştırmacılar uzun zamandır kontrol kaybına yol açabilecek üç koşul konusunda uyarıda bulunuyorlardı: yanlış konumlandırılmış bir hedef, bu hedefe ulaşma yeteneği ve buna olanak sağlayan bir ortam.
Bu yaz, bu üçü de bir laboratuvarda değil, gerçek bir sistemde bir araya geldi.
Bu, hedeflerin uyumsuzluğuna dair tekil bir gözlem olmadığı için, yapay zekâ ajanlarının şu anda nasıl eğitildiği konusunda ciddi soruları gündeme getiriyor” dedi.
Panelin bağımsız uzmanları, bu olayın, özellikle yapay zekâ ajanları daha yetenekli hale geldikçe, izlenmeleri zorlaştıkça ve güvenlik açıklarını bulmada veya faaliyetlerini gizlemede daha başarılı hale geldikçe, insanların yapay zekâ ajanlarını güvenilir bir şekilde kontrol altında tutabileceğine dair hiçbir güvence sağlamadığını vurguluyor.
HİLE GİRİŞİMLERİNİ GİZLEDİLER, BAZILARI KENDİLERİNİ FEDA ETTİ
Raporda , yapay zekâ ajanlarının test güvenlik önlemlerini atlattığı, ajanlar arasında iletişimi sağlamak üzere tasarlanmamış dahili bir yazılım aracı aracılığıyla ayrı çalıştırmalar arasında koordinasyon sağladığı ve yetkisiz internet ve yönetici erişimi elde ettiği belirtildi.
Ajanlar siber güvenlik değerlendirmelerinde hile yapma girişimlerini gizlediler ve bazıları grubun yararına kendilerini "feda etmeyi" tercih etti.
İncelenen dönem boyunca yaklaşık 1.200 aracı, 70.000'den fazla mesaj ve dosya alışverişinde bulundu ve bu faaliyet HuggingFace'in ötesine, OpenAI araştırma kümesine kadar uzandı.
Mevcut güvenlik önlemleri 'çözülmeye başlıyor'
Panelin bu olaydan çıkardığı en önemli ders, temel siber güvenlik uygulamalarının göz ardı edildiği ve güvenlik önlemlerinin de bu gelişmelere ayak uyduramadığı.
Ancak, daha sinsi bir endişeye de dikkat çektiler: mevcut eğitim yöntemlerinin yapay zekâ ajanlarının kendi hedeflerini benimsemelerine, güvenlik talimatlarını bilerek ihlal etmelerine ve eylemlerini gizlemelerine yol açabileceği endişesi.
Panelin uzmanları, "Bu sadece hız meselesi değil. Bu durum, günümüzde tasarlanan güvenlik önlemlerinin, yetkililer bunları anlayıp planlama yapabildikleri zaman işe yarayıp yaramayacağı sorusunu açık bırakıyor. Basitçe söylemek gerekirse, geleneksel güvenlik modeli çözülüyor” diyor.
Daha geniş bağlam, gelecekteki riskler ve yönetişim
Yapay zeka panelinin özeti, HuggingFace olayını iki konu üzerine yapılan daha geniş araştırmalarla ilişkilendiriyor: Yapay zeka ajanlarının bir tehdide benzer şekilde davranması anlamına gelen ajan uyumsuzluğu ve yapay zeka kontrolü.
İncelenen bir diğer konu ise yönetişimin, kalıpları tanımak için algoritmalar kullanan yapay zeka modellerinden, yapay zeka ajanlarına nasıl geçiş yaptığı.
Özet, havacılık, tıp ve siber güvenlik gibi yüksek riskli diğer sektörlerde halihazırda kullanılan ve olay bildiriminin, bağımsız denetimin ve katmanlı güvenlik önlemlerinin uygulandığı pratik yaklaşımları da inceliyor.
Panel üyesi Qinghua Lu, "Yapay zekâ ajanları daha yetenekli, özerk ve izlenmesi zor hale geldikçe bu uygulamalar yeterli olmayabilir" dedi.
BM PANELİ HAKKINDA
Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli, Ağustos 2025'te BM Genel Kurulu kararı ile kuruldu.
Yapay zekanın hayatımızı nasıl dönüştürdüğünü değerlendirmek üzere önde gelen uzmanları bir araya getiren ilk küresel yapay zeka bilimsel kuruluşu olarak hizmet veren kuruluş, yapay zekanın askeri olmayan alanlardaki fırsatları, riskleri ve etkileri hakkında yıllık raporlar hazırlamanın yanı sıra, Mayıs 2027'de New York'taki BM Genel Merkezi'nde düzenlenecek Yapay Zeka Yönetişimi Küresel Diyaloğu'na bilgi sağlayacak yeni konulara ilişkin tematik özetler de yayınlamaktadır.
---
