Yapay zekâ sohbet botları çocuklar için güvenli mi? Dört gerçek risk
Çoğu yapay zekâ sohbet uygulaması yetişkinler için tasarlandı. Çocuklar açısından önemli olan dört risk ve WisoraAI'nin her birini kapatmak için verdiği tasarım kararları.
Bugün gençlerin yaklaşık üçte ikisi bir yapay zekâ sohbet botu kullanıyor, önemli bir kısmı da bunu her gün yapıyor. Buna karşılık ebeveynlerin yalnızca üçte biri çocuğunun bunu kullandığından haberdar. Asıl tehlike teknolojinin kendisinde değil, tam da bu bilgi boşluğunda.
Genel amaçlı sohbet botları yetişkinler için tasarlandı. Kullanım koşulları çoğu zaman reşit olmayanları kapsam dışı bırakır; ama neredeyse hiçbirinde gerçek bir ebeveyn kontrolü ya da yaşa uygun cevap üretimi yoktur. Aşağıda ebeveynlerin bize en çok sorduğu dört risk ve çocuklar için tasarlanmış bir uygulamanın bunlara karşı gerçekten ne yapabileceği var.
1. Cevabın kendisi güvenli değil
Yetişkinlere yönelik bir model, doğru soruyla neredeyse her şeyi anlatır. Bir çocuk söz konusu olduğunda sorunun tamamı budur.
WisoraAI’de her cevap; 7–9, 10–12 ve 13–15 yaşları için ayrı ayrı yazılmış sıkı kurallarla üretilir. Ardından tamamen bağımsız ikinci bir yapay zekâ sistemi hem soruyu hem cevabı, çocuğunuz görmeden önce yeniden denetler. İki ayrı katman: birinin kaçırdığını öteki yakalar. İkisi de emin olamazsa mesaj iletilmez, engellenir.
2. Ebeveyn ne olduğunu göremiyor
Ekran süresi uygulamaları ve ağ filtreleri bir yapay zekâ konuşmasının içini okuyamaz. Size yalnızca bir uygulamanın açıldığını gösterir; ne konuşulduğunu değil.
WisoraAI’nin yaklaşımı bunun tam tersi: ebeveyn paneli engellenen mesajları kategorisi ve saatiyle gösterir, ayrıca normal konuşma özetlerini de. Engellenenler neyin denendiğini, normaller çocuğunuzun neyi merak ettiğini anlatır. Sizden hiçbir şey gizlenmez.
3. Çocuğun verisi cihazdan çıkıyor
Sesli özellikler genellikle çocuğun ses kaydının bir sunucuya yüklenmesi demektir.
Bizde değil. Konuşma, telefonun ya da tabletin kendi üzerinde yazıya dökülür; saklanacak ya da sızabilecek bir ses kaydı hiç oluşmaz. Fotoğraf yükleme özelliği ise hiç yok — bir çocuğun neyin fotoğrafını çekeceğini kontrol edemeyeceğimiz için bu özelliği bilerek eklemedik.
4. Sınırsız ve denetimsiz kullanım
Sınırsız yapay zekâ arkadaşlığı, uğruna optimize edilecek bir hedef değil. Tüm planlar aylık kredi ile çalışır; ebeveyn her çocuk için günlük mesaj limiti koyar, kendi yasaklı kelime listesini tanımlar ve aramanın yapılabileceği siteleri kendisi onaylar.
WisoraAI’de güvenlik bir ayar değil, mimarinin kendisidir.
