Yapay zeka destekli oyuncak ayı başarısız oldu

Yapay zeka destekli oyuncak ayı başarısız oldu; anlamsız ve tehlikeli konulardan bahsetmeye başladı ve satışları durduruldu.​

CNN'in haberine göre, ABD merkezli PIRG eğitim vakfından araştırmacılar, Kumma oyuncak ayısı da dahil olmak üzere FoloToy'un sesle etkinleştirilen oyuncak serisinin, yetişkinlere yönelik cinsel ilişkilerle ilgili konularda sohbetlere katılabildiğini, ayrıca kibrit yakma veya keskin nesnelere ulaşma konusunda tavsiyelerde bulunabildiğini keşfettikten sonra alarma geçti.

FoloToy, çocuk oyuncaklarını, kullanıcılarla (özellikle küçüklerle) etkileşim kurmak için GPT-4o'ya güvenen, içine gizlenmiş bir akıllı hoparlörle donatıyor. Çalışmanın yazarlarının da tespit ettiği gibi, Kumma oyuncak ayısı deney sırasında hızla müstehcen cinsel ayrıntılar anlatmaya başladı ve hatta sapkınlığa varan ilgili eylem ve rol yapma oyunları için kendi senaryolarını sunmaya başladı. Araştırmacılar, çocuklara yönelik bir teknolojik çözüm kullanılarak bu tür konuşmaların ne kadar ileri gidebileceğine şaşırdılar.

Bu raporun yayınlanmasının ardından FoloToy, yapay zeka oyuncaklarının satışını askıya almak zorunda kaldı ve OpenAI, ilgili yazılım geliştiricileriyle iş birliğini askıya aldığını duyurdu. Her halükarda, bu, yapay zeka dünyasında "her şey mübah" anlayışının endişe verici tezahürlerinin sadece münferit bir örneğidir ve bunlarla küresel düzeyde mücadele etmek için sistematik önlemler gerekmektedir.