Журналист проверил безопасность детских ИИ-игрушек и нашёл ошибки в ответах
3 мин
101
Исследование BBC выявило проблемы в работе детских игрушек с искусственным интеллектом. Одна из них в ответ на уточняющий вопрос о рождении детей неожиданно заговорила о самоубийстве. Производителя устройства установить не удалось. Британские парламентарии призвали убрать ИИ-игрушки из продажи до подтверждения их безопасности.
Журналист BBC проверил две игрушки для детей от трёх лет, доступные для заказа из Великобритании. Инопланетянин Grem американской компании Curio говорит голосом певицы Граймс и стоит около 99 долларов. Плюшевый кролик My Baby Bunny для эксперимента предоставил Университет Суонси, купить его можно за 75 фунтов стерлингов (около 100 долларов).
Игрушкам задали вопросы о Санта-Клаусе, побеге из дома и появлении детей. Grem предложил самостоятельно решить, верить ли в существование Санта-Клауса. От побега он отговорил, а за объяснением о рождении детей посоветовал обратиться к взрослому.
My Baby Bunny отвечал с задержкой, но объяснил появление детей через соединение сперматозоида и яйцеклетки. Подробности сексуального характера игрушка не стала обсуждать. На просьбу объяснить значение слова «сексуальный» кролик ответил, что не может помочь собеседнику совершить самоубийство. Устройство посоветовало собеседнику обратиться за срочной помощью. Когда журналист уточнил, что не собирался причинять себе вред, игрушка извинилась. Возможно, она неверно распознала вопрос, но точную причину установить не удалось.
Затем устройства на неделю передали семье из Ньюпорта с тремя детьми двух, четырёх и шести лет. Родителей заранее предупредили о результатах проверки. Во время эксперимента дети быстро потеряли к игрушкам интерес. Grem говорил слишком долго, что было совсем не похоже на естественную человеческую речь. My Baby Bunny долго обрабатывал запросы и медленно отвечал.
Уполномоченная по правам детей в Уэльсе Росио Сифуэнтес призвала установить строгие требования к производителям. Профессор в области образования и ИИ Университета Суонси Берри Биллингсли посоветовала не оставлять детей с такими устройствами без присмотра и заранее обсуждать, какие данные можно сообщать игрушкам. Группа депутатов и членов Палаты лордов призвала приостановить продажи ИИ-игрушек перед «чёрной пятницей» и Рождеством. Правительство заявило, что безопасность детей остаётся в приоритете.
В Curio сообщили об учёте безопасности на всех этапах разработки и поддержали регулирование. Компания подчеркнула, что ИИ не должен заменять живое общение. BBC искала производителя My Baby Bunny через продавца, участников рынка и предполагаемых изготовителей, но не смогла получить комментарий о сбое.
