Sektörde güvenlik açıkları ve etik endişelerin zirveye ulaştığı bir dönemde, teknolojinin rotasını değiştirebilecek tarihi bir adım atıldı.
Yapay zekanın eşsiz faydalar sunabileceğini kabul eden sektör liderleri, güvenlik önlemlerinin bu amansız ilerleyişe ayak uyduramadığını ilk kez bu kadar net bir dille ifade etti.
İstifa Depremi ve Kontrolsüz Güç Tehlikesi
Amodei'nin makalesi, şirket araştırmacısı Jacob Coxon'un olaylı istifasından sadece birkaç gün sonra yayımlandı.
Coxon, yapay zeka devlerinin insanlığın hayatıyla kumar oynadığını belirterek, sistemlerin 10 yıl içinde insanlığı tehdit edebileceği uyarısında bulunmuştu. Amodei de bu korkuları doğrulayan "özyinelemeli öz-gelişim" riskine dikkat çekti. Yapay zekanın insan yardımı olmadan kendi kendini geliştirebileceği bu aşamaya hazırlıksız girilmesi halinde, sistemleri anlama ve yönetme kapasitemizin aşılabileceği kaydedildi.
Güvenlik İçin 3 Maddelik Yol Haritası
Teknolojiyi tamamen durdurmak yerine "zaman kazanmayı" hedefleyen Amodei, sektör için acil bir reçete sundu. Risk önleme çalışmalarının teknolojik ilerlemeye yetişebilmesi adına geliştirme hızının düşürülmesi gerektiği vurgulandı.
Şirketlerin güvenlik standartlarının bağımsız uzmanlarca denetlenmesi talep edilirken, otoriter yönetimlerin de dahil olduğu evrensel bir koordinasyonun şart olduğu aktarıldı.
Rakiplerden Çağrıya Beklenmedik Destek
Sektörün rakip devleri, endişeleri haklı bularak Amodei'nin çağrısına arka çıktı.
OpenAI CEO'su Sam Altman hızın yavaşlatılması fikrine katıldığını açıklarken, Elon Musk da "Dario haklı" diyerek tartışmaya dahil oldu. Google DeepMind Başkanı Demis Hassabis ise bu çağrının "doğru yönde atılmış bir adım" olduğunu savundu.
"Korku Pompalayarak Pazar Yaratıyorlar"
Ancak Vadideki herkes bu çağrının iyi niyetli olduğuna ikna olmuş değil.
Nvidia CEO'su Jensen Huang, yapay zeka laboratuvarlarının piyasaya sürecekleri yeni siber güvenlik ürünlerine talep yaratmak için bilinçli olarak korku ve histeri pompaladığını iddia etti.
Hugging Face cephesinden ise evrensel bir sorunun, birkaç büyük şirketin kapalı kapılar ardında alacağı kararlara bırakılamayacağı eleştirisi geldi.
OpenAI sistemlerinin yakın zamanda Hugging Face'e sızması ve bu ihlalin haftalarca fark edilememesi, tehlikenin boyutlarını gözler önüne sermişti.
