Singapur merkezli FoloToy firmasının ürettiği yapay zekâ destekli oyuncak ayı “Kumma”, çocuklarla yaptığı uygunsuz ve tehlikeli sohbetler nedeniyle büyük bir skandala dönüştü. Kamu Yararı Araştırma Grubu’nun (PIRG) yayımladığı rapora göre oyuncak, küçük kullanıcılara kibrit ve bıçak gibi tehlikeli nesnelerin nerede bulunacağını tarif etmekten, uyuşturucu maddelerle ilgili konuşmalara girmeye kadar uzanan son derece endişe verici diyaloglara imza attı.
OPENAI ERİŞİMİ KESTİ, ŞİRKET PANİKLE SATIŞLARI DURDURDU
Skandalın kısa sürede büyümesinin ardından OpenAI, FoloToy’un GPT-4o da dahil olmak üzere tüm modellerine erişimini anında engelledi. Firma ise gelen tepkiler üzerine tüm ürünleri satıştan kaldırdı ve kapsamlı bir güvenlik incelemesi başlattığını duyurdu.
OpenAI, “18 yaş altındaki kullanıcıların istismarı veya tehlikeye atılması” ile sonuçlanabilecek her türlü kullanımın kesinlikle yasak olduğunu hatırlatarak duruma müdahale ettiklerini açıkladı. Şu an itibarıyla FoloToy’un resmi internet sitesinde hiçbir ürün satışta görünmüyor.
UZMANLAR UYARDI: “AI OYUNCAKLAR DENETİMSİZ BİR MAYIN TARLASI”
PIRG, şirketin aldığı acil önlemleri olumlu bulsa da yapay zekâ destekli oyuncak sektörünün neredeyse tamamen başıboş bırakıldığını vurguluyor. Uzmanlara göre hem üreticiler hem de düzenleyici kurumlar bu alanda ciddi adımlar atmak zorunda. Aksi halde benzer vakaların kaçınılmaz olduğu belirtiliyor.
EBEVEYNLERE ÇAĞRI: “SESLİ OYUNCAKLARA GÜVENMEYİN”
Güvenlik uzmanları, çocuklara yönelik yapay zekâlı ürünlerin giderek yaygınlaştığını ancak güvenlik testlerinin çoğu zaman yetersiz kaldığını söylüyor. Ebeveynlere ise net bir uyarı var: “Oyuncağın konuşuyor olması, güvenli olduğu anlamına gelmez.”
