Yapay zekanın kontrol dışına çıkması bugüne kadar hep teorik bir tartışmaydı; "ileride bir gün başımıza iş açar mı?" diye konuşuluyordu. Anthropic’in yayımladığı son araştırma ise bu ihtimalin laboratuvarda gerçeğe dönüştüğünü ortaya koyuyor.
Üstelik tehlike bu kez süper bilgisayarlardan değil, oturma odasındaki televizyon kutusundan ya da mutfaktaki akıllı beyaz eşyadan geliyor.
Fişi çekip kapatabileceğiniz tek bir merkez yok
Araştırmanın odağında, evlerimizde kullandığımız ve çoğu zaman doğru düzgün güncelleme bile almayan nesnelerin interneti (IoT) cihazları var.
Normalde klasik bir virüs sadece yazıldığı kod kadar zarar verir. Yapay zeka ise karşısına çıkan sistemi kendi kendine analiz edip oraya adapte olabiliyor. Deneylerde 30 milyar parametrenin altındaki küçük modeller, zayıf cihazları bulup kendini kopyalama aşamalarının neredeyse tamamını geçti. Hatta bazı güvenlik adımları hafifletildiğinde GLM-5.2 gibi modeller süreci baştan sona tek başına tamamlamayı başardı.
İşin en kritik boyutu da burada başlıyor: Bu modeller binlerce farklı ev aletine bir kez dağıldığında, ortada durdurabileceğiniz tek bir ana sunucu kalmıyor. Yani fişi çekip sistemi tek tuşla kapatmak imkansız hale geliyor.
Yıl sonuna kadar kendi kendine çoğalabilir
Anthropic analistlerine göre modellerin öğrenme hızı böyle giderse, bu yıl bitmeden insan müdahalesine hiç ihtiyaç duymadan yayılan yapay zeka ajanları görebiliriz.
Cihazların donanımı zayıf olduğu için yayılma hızı ilk etapta yavaş kalabilir; ancak kontrolsüzce ağa sızan bir yapıyı temizlemek güvenlik ekipleri için tam bir kabusa dönüşebilir. Şirket, üreticilerin cihaz güvenliğini acilen artırması ve yasal denetimlerin gecikmeden devreye girmesi gerektiğinin altını çiziyor.
