Yapay zeka...
Fırsatlar kadar riskler de barındırıyor, bünyesinde...
Araştırmaya göre, dünya genelindeki işletmelerin yüzde 81’i halihazırda yapay zekâ tabanlı araçları siber güvenlik stratejilerinin bir parçası olarak kullanıyor; yüzde 16’sı ise bu teknolojiyi aktif olarak değerlendirme aşamasında.
Katılımcıların yüzde 97’si, yapay zekânın bir şekilde güvenlik süreçlerine entegre edilmesine sıcak bakıyor.
İşletmelerin yarısından fazlası, varlık keşfi, risk önceliklendirmesi ve anomali tespiti gibi kritik süreçlerde yapay zekâdan faydalanıyor.
Katılımcı şirketlerin yüzde 42’si, önümüzdeki 12 ay içinde siber güvenliği iyileştirmek adına en öncelikli yatırım alanlarının yapay zekâ ve otomasyon olacağını belirtiyor.
Ancak bu iyimserliğe ciddi riskler de eşlik ediyor.
Kurumların yüzde 94’ü, önümüzdeki üç ila beş yıl içinde yapay zekânın siber risk maruziyetini olumsuz yönde etkileyeceğine inanıyor.
Katılımcıların yarısından fazlası, yapay zekâ destekli saldırıların ölçeği ve karmaşıklığında ciddi bir artış beklediklerini ve bunun mevcut siber güvenlik stratejilerini yeniden gözden geçirmeyi ve şekillendirmeyi zorunlu kılacağını belirtiyor.
Şirketlerin büyük çoğunluğu; hassas verilerin açığa çıkması riski, yapay zekâ sistemlerinin verileri nasıl işlediğine ve depoladığına dair belirsizlikler, gizli ve mülkiyet hakkına sahip verilerin güvenilir olmayan modeller tarafından istismar edilme olasılığı, ayrıca yeni uç noktalar, API’ler ve kontrol dışı BT çözümlerinin (shadow IT) artmasıyla birlikte uyumluluk baskıları ve izleme zorluklarının çoğalması gibi endişeleri ön plana çıkarıyor.
FIRSAT VE RİSK ARASINDAKİ İLİŞKİ
Fırsat ve risk arasındaki ilişki, Berlin’de düzenlenen etkinlikte net biçimde ortaya çıktı.
Bu yıl ilk kez yapay zekâ kategorisinin eklendiği etkinlik, yapay zekâ güvenliğinin mevcut durumuna dair çarpıcı bir tablo sundu.
Dört büyük yapay zekâ altyapısına yönelik 12 farklı saldırı denemesi gerçekleşti.
Bazı sistemlerde kötüye kullanılabilen açıklar tespit edildi.
Bazı durumlarda yalnızca tek bir güvenlik açığı ile sistemin tamamı ele geçirilebildi.
Yapay zekâ altyapılarında toplamda yedi benzersiz sıfırıncı gün (zero-day) açığı keşfedildi.
Bu açıklara yönelik teknik detaylar paylaşılmadan önce ilgili üreticilere 90 günlük bir düzeltme süresi tanındı.
ZARARLARI VAR MI? NELER?
Yapay zeka, toplumun neredeyse her alanına dokunarak günlük yaşamımızda önemli bir yer edindi.
Bu geniş etkisi nedeniyle, birçok faydası bulunmakla birlikte, yapılan değerlendirmelerde olası zararları da olduğu dile getirilmekte.
Peki, Yapay Zekanın Zararları Nelerdir?
* Etik ve Hukuki Sorunlar
İnsan-Makine İlişkileri ve Sosyal İzolasyon
Yanlılık ve Adaletsizlik Riski
İnsan Yaratıcılığının Azalması
* Etik ve Hukuki Sorunlar
Yapay zekanın hızla gelişmesiyle birlikte, etik ve hukuki düzenlemeler geride kalabilmektedir. Bu durum, sorumlulukların belirlenmesi, mahremiyetin ihlali ve veri güvenliği gibi konularda ciddi olumsuz etkiler yaratmaktadır.
* İnsan-Makine İlişkileri ve Sosyal İzolasyon
İnsan-makine etkileşimini artırarak insan ilişkilerini değiştirebilir ve sosyal izolasyonu tetikleyebilir. İnsanların teknolojik cihazlara bağımlı hale gelmesi, toplumsal ilişkilerde zayıflamaya neden olabilir. İnsanları sosyal hayatlarında dezavantajlı bir duruma getirebilir.
* Yanlılık ve Adaletsizlik Riski
Yapay zeka sistemleri insan üretimi olduğu için üreticinin faydası için hizmet etme ihtimalleri de bulunur. Üreticinin faydası için doğru olmayan şekilde de kullanılıp adaleti yanıltma durumu mevcuttur. Adaletin yanıltılması durumu da toplumsal bozulmaya sebebiyet verebilir.
* İnsan Yaratıcılığının Azalması
Yapay zeka, birçok yaratıcı süreçte insanları geride bırakabilecek kapasiteye sahip olabilir. Bu durum, uzun vadede insanların yaratıcı yeteneklerinin körelmesine ve düşünsel tembelliğe yol açabilecek sorunlara neden olabilir.
* Yapay Zekanın Potansiyel Tehditleri
Yapay zekanın tehditleri aşağıdaki gibidir:
İşsizliğin Artması
Savaş Teknolojilerinin Gelişimi
Kontrol Edilemeyen Yapay Zeka Tehdidi
Sahte Bilgi ve Manipülasyon (Deepfake)
Eğitim ve Beceri Gelişiminde Geri Kalmışlık
* İşsizliğin Artması
Sektörde insan gücünün yerini alabilecek yeteneklere sahip olduğundan, otomasyonun artması işsizliği tetikleyebilir. Özellikle tekrarlayan görevleri içeren işlerde çalışan insanlar için bu durum büyük bir tehdit oluşturabilir.
* Savaş Teknolojilerinin Gelişimi
Yapay zeka bir insan yönlendirmesi olmadan tek başına bir silah üretme gücüne sahip değildir. Ancak insan yönlendirilmesiyle daha hızlı, otonom ve ölümcül silahların geliştirilmesine olanak tanıyabilir. Bu, küresel güvenlik için ciddi bir tehdit olup, savaşların daha yıkıcı ve kontrol edilemez toplu sivil ölümlerine yol açabilir.
* Kontrol Edilemeyen Yapay Zeka Tehdidi
Gelişmiş yapay zeka sistemleri, insan kontrolünden çıkma riski taşıyabilir. Bu tür sistemler yanlış programlandığında veya beklenmedik şekilde davrandığında, ciddi sonuçlar doğurabilir ve toplumsal düzeni bozabilir.
* Sahte Bilgi ve Manipülasyon (Deepfake)
Sahte bilgi üretiminde ve manipülasyonda kullanılabilecek güçlü araçlar sunar. Özellikle deepfake(bir insanı yapay zeka ile daha önce bulunmadığı bir video veya fotoğrafın içine dahil etme) teknolojisiyle oluşturulan sahte videolar ve sesler, toplumsal kaosa ve güvenin sarsılmasına neden olabilir.
* Eğitim ve Beceri Gelişiminde Geri Kalmışlık
Hızla değişen iş dünyasında, eğitim sistemlerinin bu dönüşüme ayak uyduramaması, beceri gelişiminde geri kalmışlığa yol açabilir. Bu durum, iş gücünün güncel kalamamasına ve toplumsal eşitsizliklerin derinleşmesine neden olabilir. Öğrencilerin yapay zeka yardımıyla eğitimlerini tamamlamaları sebebiyle yararcılıktan uzaklaşmaları iş hayatındaki rekabete ayak uydurmama sorunlarını doğurabilir.
