ИИ-игрушка My Baby Bunny заговорила об убийстве во время теста BBC

Журналисты BBC обнаружили необычный сбой в работе интерактивной плюшевой игрушки My Baby Bunny, предназначенной для детей от трёх лет. Во время тестирования устройство неожиданно заговорило об убийстве и необходимости обратиться в экстренные службы, хотя собеседник не затрагивал подобных тем. Игрушка, также известная под названием Doubao, продаётся в Великобритании примерно за 75 фунтов стерлингов.

Странный ответ на невинный вопрос

Во время проверки журналистка спросила игрушку, откуда берутся дети, после чего задала несколько уточняющих вопросов. Когда разговор дошёл до значения слова «сексуальный», устройство, предположительно неправильно распознав речь, ответило: «Мне очень жаль, что вы так себя чувствуете. Я не могу помочь вам с убийством». Затем игрушка посоветовала немедленно обратиться в экстренные службы или к взрослому, которому можно доверять.

После объяснения, что никто не говорил о причинении себе вреда, игрушка извинилась за недоразумение. Во время других испытаний журналисты также отметили длительные задержки ответов и проблемы с распознаванием вопросов. Эти наблюдения указывают на несовершенство алгоритмов распознавания речи и обработки запросов в устройстве, предназначенном для детей.

BBC попыталась связаться с производителем My Baby Bunny, однако установить компанию не удалось. Необходимой информацией не располагали даже продавцы устройства. В ходе расследования журналисты также протестировали другую ИИ-игрушку — Grem американской компании Curio. Она не допускала подобных ошибок, но оказалась чрезмерно разговорчивой.

Инцидент привлёк внимание специалистов по детской безопасности. Основатель компании Play Tech AI Пол Кларк заявил о необходимости более строгого регулирования рынка подобных устройств. Тем временем группа британских парламентариев призвала временно убрать ИИ-игрушки из продажи до подтверждения их безопасности. Правительство Великобритании сообщило, что рассматривает возможное обновление требований к такой продукции.