Производитель интеллектуальных игрушек FoloToy объявил об отзыве своего популярного плюшевого медвежонка Кумма после выявления серьезных нарушений в работе встроенного ИИ.
Как сообщили специалисты по цифровой безопасности, во время тестирования устройство генерировало ответы, которые нельзя считать безопасными для детей. Речь идет о неподходящих темах и рекомендациях, недопустимых для детских обучающих игрушек.
Компания заявила, что приостанавливает продажи и намерена провести полный аудит системы контент-фильтрации. К проверке планируют привлечь независимых экспертов, которые должны оценить эффективность защитных механизмов и предложить улучшения.
FoloToy также подчеркнул, что безопасность детей — ключевой приоритет и выпуск обновленных моделей возможен только после устранения всех выявленных рисков.