Çocukların Yapay Zeka Sohbet Robotları ile Duygusal Bağ Kurduğu Ortaya Çıktı

Yapay zeka sohbet robotları; arama motorları, oyunlar ve sosyal medya gibi çocukların zaten kullandığı platformlara entegre olmaları sayesinde çocukların dijital yaşamlarında hızla yaygınlaşıyor. Son olarak, bir İnternet güvenliği kuruluşu olan Internet Matters’ın bir raporuna göre, Birleşik Krallık’ta 9 ila 17 yaş arasındaki çocukların üçte ikisi yapay zeka sohbet robotlarını kullanıyor ve kullanım oranı son 18 ayda önemli ölçüde arttı.

“Me, Myself and AI” raporuna göre çocuklar tarafından kullanılan en popüler sohbet robotları ChatGPT (%43), Google Gemini (%32) ve Snapchat My AI (%31) uygulaması. Yapay zeka sohbet robotlarını kullanma olasılığı daha yüksek olan çocuk grubu (%71), savunmasız çocuklar olarak karşımıza çıkıyor ve bu oran savunmasız olmayan akranlarının %62’si ile karşılaştırıldığında daha yüksek. Savunmasız çocukların Character.ai ve Replika gibi arkadaş canlısı botları kullanma olasılığı ise neredeyse üç kat daha fazlaydı.

Yapay zekanın çocuklar arasındaki yükselişi, 2000’li yıllarda sosyal medyanın yükselişine benziyor. Fark ise hükümetlerin yapay zeka konusunda biraz daha dikkatli davranması ve şirketleri, güvenlik bariyerleri de dahil olmak üzere çoğu botla yapay zeka güvenliğine odaklanmaya zorlaması. Tabii ki yine de bunlar yeterli olmuyor.

Çocuklar (yetişkinler de dahil) yapay zekayı arkadaşlık veya tavsiye gibi daha duygusal amaçlarla kullanıyor. Raporda, çocukların dörtte birinin botlardan tavsiye aldığı ve üçte birinin yapay zekayla sohbet ederken bir arkadaşla konuşuyormuş gibi hissettiği belirtiliyor. Bu rakamlar, savunmasız çocuklar arasında yarı yarıya yükseliyor.

Tüm çocuklar arasında, sekizde biri konuşacak başka kimsesi olmadığı için yapay zeka sohbet robotlarını kullanıyor. Bu rakam, savunmasız çocuklar arasında dörtte birine yükseliyor. Yapay zeka kullanımının en endişe verici yönlerinden biri, çocukların yanlış veya uygunsuz yanıtlar alabilmesi. Sorulan çocukların %58’i, bir yapay zeka sohbet robotu kullanmanın Google’da manuel olarak bilgi aramaktan daha iyi olduğunu düşünüyor ve bu da aşırı güvenildiği endişesini doğuruyor.

Kullanıcı testleri, Snapchat’in My AI ve ChatGPT uygulamalarının bazen açık veya yaşa uygunsuz içerikler sunduğunu ortaya koyuyor. Ayrıca, filtreleme sistemlerinin kullanıcılar tarafından atlatılabileceği ve çocukların erişmemesi gereken bilgilere maruz kalabileceği de tespit edildi.

Raporda, yapay zekanın daha insansı hale gelmesiyle birlikte çocukların, özellikle de daha savunmasız olanlarla etkileşimde bulunmak için daha fazla zaman harcayabileceği konusunda uyarıda bulunan uzmanlara yer veriliyor. Bu durum, çocukların bu robotlara duygusal olarak daha bağımlı hale gelmelerine ve bunun da sağlıksız olabileceğine yol açabilir.

Beklenen ancak endişe verici noktalardan biri, çocukların genellikle yapay zeka sohbet robotlarını kendi başlarına veya yetişkinlerden sınırlı bir destek alarak keşfetmeye bırakılmaları. Çocukların çoğu ebeveynleri tarafından yapay zeka hakkında konuşulmuş olsa da yapay zeka tarafından üretilen bilgilerin doğruluğu gibi belirli endişeler açıklanmamıştı ancak ebeveynlerin üçte ikisi istemesine rağmen, yalnızca üçte biri doğruluktan bahsetmişti.

Çocuklar, okullarda yapay zekâ eğitimi verilmesini desteklese de yalnızca %57’si öğretmenleriyle bu konuda konuştuğunu, sadece %18’i birden fazla görüşme yaptığını belirtti. Rapor, çocukları korumak için endüstri, hükümet, okullar, ebeveynler ve araştırmacıların iş birliği içinde hareket etmesi gerektiğini vurguluyor.