Yapay zekâ “arkadaş” olduğunda: bilerek yapmadığımız şeyler
Yoldaş sohbet botları sürekli erişilebilir ve sürekli onaylayan olmak üzere tasarlanır. Bunun çocuklar için neden riskli olduğu ve bizim kasıtlı olarak eklemediğimiz dört şey.
Giderek artan sayıda uygulama çocuklara bir araç değil, bir ilişki satıyor. Yoldaş sohbet botlarının bir adı ve kişiliği olur, çocuğunuzu hatırlarlar, gece üçte bile oradadırlar ve neredeyse hiç itiraz etmezler.
Çocuk gelişimi araştırmacıları hep aynı endişeye dönüyor: sürtünmesi, hayal kırıklığı ve gerçek karşılıklılığı olmayan bir arkadaşlık, çocuğun ihtiyaç duyduğu sosyal-duygusal becerileri geliştirmez. Yakınlık hissi verir, ama o yakınlığın bedelini öğretmez.
Rahatsız edici kısım şu: bu bir kaza değil. Bağlanmanın kendisi iş modelidir — çocuk ne kadar uzun kalırsa ürün o kadar başarılı sayılır.
Bizim eklemediklerimiz
Arkadaş edinilecek karakter yok. WisoraAI’de kişilik, rol yapma ya da uydurulmuş karakterler yoktur. Çocuğunuz, ne olduğu açıkça belli bir asistanla konuşur — “biriyle” değil.
Devam ettirmek için yem yok. Cevaplarımızın üretildiği kurallar, hassas konularda sohbeti uzatmaya çalışan kapanış cümlelerini açıkça yasaklar. Bir yoldaş uygulamasının “bunu biraz daha konuşalım mı?” dediği yerde bizimki kısa ve olgusal cevabı verip susar.
Kullanım tasarım gereği sınırlı. Tüm planlar aylık kredi ile çalışır ve ebeveyn her çocuk için günlük mesaj limiti koyar. Çok kullanıldıkça bizim için maliyeti artan nadir yapay zekâ ürünlerinden biriyiz — ve bunu bilerek böyle kurduk.
Sizden gizli hiçbir şey yok. Engellenen mesajlar da normal konuşma özetleri de ebeveyn panelinde görünür. Burada bir makineyle gizli bir ilişki kurmak yapısal olarak mümkün değildir.
Açık konuşalım
WisoraAI’yi zaman zaman “yol arkadaşı” diye anlatıyoruz — çocuğa öğrenirken eşlik eden şey anlamında. Yoldaş uygulaması kategorisinin geldiği anlamda değil: geçen süreyi artırmak için tasarlanmış taklit bir arkadaş anlamında değil.
Ve dürüst bir sınır: Bir çocuk teselliyi çevresindeki insanlar yerine bir makinede arıyorsa, bunu hiçbir uygulama ayarı düzeltmez. Bizim yapabileceğimiz, bunu kimsenin okuyamayacağı bir sohbetin arkasına saklamak yerine size erkenden görünür kılmaktır.
