Yapay zekanın çocuklara yönelik zararları…
Dijital bağımlılık, gerçeklik algısının bozulması, sosyal izolasyon, eleştirel düşüncenin körelmesi ve veri gizliliği riskleri…
Sınırlandırılmamış etkileşim, gelişim çağındaki çocukların psikolojik ve zihinsel sağlığını olumsuz yönde etkileyebilir.
Sosyal İzolasyon ve Empati Kaybı: Çocukların insanlarla kurmak yerine yapay zeka botlarıyla uzun süre sohbet etmesi, sosyal iletişim becerilerini zayıflatır ve duygusal empati gelişimini engelleyebilir.
Bağımlılık ve Gerçeklikten Kopma: Yapay zekanın sunduğu kesintisiz ve kişiselleştirilmiş "ilgi", beynin ödül mekanizmasını aşırı uyararak dijital bağımlılığa yol açar ve sanal dünya ile gerçek dünya arasındaki sınırları bulanıklaştırır.
Yapay Duygusal Bağ: Çocuklar, algoritmaların ürettiği yapay zeka karakterlerine duygusal olarak bağlanabilir; bu durum gerçek dünyadaki arkadaşlıkları sabote edebilir.
Eleştirel Düşüncenin Körelmesi: Ödev veya problem çözme süreçlerinde doğrudan yapay zekaya başvurmak, çocuğun araştırma, sorgulama ve kendi başına sorun çözme yeteneğini (üretkenlik ve bilişsel kapasite) köreltir.
Yanlış Bilgi (Halüsinasyonlar): Yapay zeka sistemleri zaman zaman yanlış, önyargılı veya kurgusal bilgileri kesin gerçeklermiş gibi sunabilir. Bu durum çocukların hatalı öğrenmelerine neden olabilir.
Güvenlik ve Mahremiyet Tehlikesi: Chatbot veya uygulama kullanımında çocuklar farkında olmadan yaş, konum, okul veya aile bireylerinin bilgileri gibi kritik verileri paylaşabilir.
Manipülasyon ve Güvensizlik: Yapay zekanın "Deepfake" (derin sahte) üretme kapasitesi; sahte görsel ve seslerle çocukların kandırılmasına, korkutulmasına veya zorbalığa uğramasına zemin hazırlayabilir
Görüldüğü gibi günümüzde birçok alanda aktif olarak kullanılan ve geleceği tam olarak öngörülemeyen Yapay Zeka’nın çocuklar üzerinde birçok alanda zararları söz konusu…
UNİSCEF HANGİ NOKTALARA DİKKAT ÇEKTİ?
Gazze’de soykırım uygulanan bebekler ve çocuklarla, Müslüman coğrafyadaki çocuklarla gerektiği gibi ilgilenmediği için bu sayfalarda çokça eleştirdiğimiz Birleşmiş Milletler bünyesindeki UNICEF…
UNİCEF dikkat çeken bir analize yer verdi; Yapay zekanın çocuklar üzerindeki olumsuz etkileri…
Çocuklar, yapay zekâ teknolojilerini yetişkinlere kıyasla üç katı aşkın bir hızla benimsiyor…
“Yapay zekâ artık hayatımızda. Giderek daha fazla hayatımızın içine giriyor ve dünya genelinde çocukluğun deneyimlenme biçimini hem olumlu hem de olumsuz yönde şekillendiriyor.
“Yeni veriler, yapay zekânın dünya genelindeki çocuklar tarafından ne ölçekte ve ne hızda benimsendiğini gözler önüne sererken, bu süreçle birlikte ortaya çıkan risklere ve dijital eşitsizliklere de dikkat çekiyor.
“UNICEF’in 10 ülkeden elde edilen yeni verilere dayanan analizine göre, en az 20 milyon çocuğun yapay zekâ kullandığı tahmin ediliyor. Çocukların bu teknolojiyi benimseme hızı, yetişkinlerin benimseme hızının üç katından daha fazla.
“2 milyondan fazla çocuk – yani her 10 çocuktan biri – kendilerini endişelendiren konularda tavsiye almak için yapay zekâya başvurduğunu belirtirken, yaklaşık 13 milyon çocuk öğrenme ve ödevlerini desteklemek için yapay zekâ kullandığını ifade etti.
GÜVENLİK İSE ÇOĞU ZAMAN EN SON DÜŞÜNÜLEN UNSUR OLUYOR…
“Çocukların yapay zekâ kullanımı hızla artarken, çocukların korunması da dâhil olmak üzere bu teknolojinin kullanımını düzenleyen kurallar bu gelişmelere ayak uydurmakta zorlanıyor.
“Çocuklar; yapay zekâ sistemlerinin nasıl tasarlandığı, arkasındaki iş modelleri ve kendi verilerinin nasıl kullanıldığı gibi konularda bu sistemlere daha fazla maruz kalıyor. Ancak bu sistemlerden kaçınma veya sorgulama konusunda çok daha sınırlı bir güce sahipler.
Zayıf yönetişim düzenlemelerinin etkilerini ilk hissedenler ve sonuçlarıyla en uzun süre yaşayacak olanlar çocuklar olacak. Buna rağmen mevcut yapay zekâ yönetişimi yaklaşımlarının çoğu çocukları önceliklendirmiyor.
“Yapay zekânın çocuklara öğrenme, oyun oynama veya yaratıcılıklarını geliştirme alanlarında fırsatlar sunma potansiyeli bulunuyor. Ancak yapay zekânın bilişsel gelişim, duygusal bağımlılık ve zarara maruz kalma üzerindeki etkilerine ilişkin kanıtlar henüz yeni ortaya çıkıyor. Aslında bir nesil, küresel ölçekte devam eden bir deneyimin içinde büyüyor.
“Çocukların kendileri de risklerin farkında. 10 ülkede çocukların üçte biri, yapay zekânın dolandırıcılık, başkalarını kandırma veya yanlış bilginin yayılması amacıyla kullanılmasından endişe duyduğunu belirtti.
Her dört çocuktan biri ise görüntü veya videolarının cinsel içerikli deepfake – gerçek gibi görünmesi için Yapay Zekâ (AI) kullanılarak üretilen veya manipüle edilen görüntü, video ya da ses içerikleri – içeriklere dönüştürülmesinden korktuğunu ifade etti.
Çok sayıda yapay zekâ sistemi çocuklara yeterli koruma mekanizmaları olmadan ulaşıyor; güvenlik ise çoğu zaman en son düşünülen unsur oluyor.
“UNICEF, ilk Yapay Zekâ Yönetişimi Küresel Diyaloğu öncesinde hükümetleri, özel sektörü ve paydaşları; özellikle güvenlik ve korunma hakkı başta olmak üzere çocuk haklarının küresel yapay zekâ yönetişimi süreçlerine dâhil edilmesi konusunda şu adımları atmaya çağırıyor:
BU ÖNLEMLER BEHEMEHAL ALINMALI!
• Yapay zekânın çocukların gelişimi ve refahı üzerindeki etkilerine, özellikle de ortaya çıkan risklere ilişkin araştırmalara yatırım yapılması.
• Yapay zekâ destekli cinsel sömürü ve istismarı önlemek amacıyla yasaların, yönetişim çerçevelerinin ve şirketlerin hesap verebilirlik mekanizmalarının güçlendirilmesi.
• Yapay zekâ sistemlerinin en yüksek düzeyde güvenlik ve şeffaflık ilkeleriyle tasarlanmasının sağlanması; böylece tüm çocukların fırsatlardan yararlanırken korunabilmesi.
• Çocukların ve ebeveynlerinin/bakım verenlerinin dijital ortamda güvenli ve etkin şekilde yer alabilmeleri için yapay zekâ okuryazarlığının geliştirilmesi ve gerekli desteğin sağlanması.
• Ülkeler arasında ve ülkeler içinde yapay zekâya erişim eşitsizliğini azaltmak amacıyla her çocuğun ve ebeveyninin/bakım vereninin evde ve okulda dijital altyapıya ve anlamlı bağlantıya erişiminin ve bu ortamda güvenle gelişebilmesinin desteklenmesi.