Исследователь по безопасности Сэмми Аздуфал обнаружил уязвимости в инфраструктуре производителя роботизированных игрушек Eiliko — компании Energize Lab. Как сообщает The Verge, проблемы могли дать постороннему доступ к данным пользователей и позволить удалённо менять поведение устройств.
По оценке Аздуфала, доступной оказалась база данных, связанная примерно с 68 000 активных роботов Eiliko. В ней находились около 13 млн диалогов, включая сведения более чем о 31 000 детских профилей из США. Редакция The Verge также проверила выводы исследователя: журналист приобрёл устройство, поговорил с ним около десяти минут, а спустя несколько минут Аздуфал получил полную расшифровку беседы.
Какие данные собирал сервис
Помимо истории общения, сервис формировал развёрнутые пользовательские профили. В них могли содержаться имена, возраст, даты рождения, профессии, сведения об отношениях и предполагаемые черты характера. Эти записи, по данным расследования, хранились вместе с адресами электронной почты, IP-адресами и поисковой базой диалогов.
В одном из профилей система описала клиентку как добрую, эмпатичную и трудолюбивую, а также указала на сложности в отношениях с родственниками и чувство изоляции. Подобные выводы, сделанные на основе разговоров с игрушкой-компаньоном, способны представлять интерес для мошенников, которые ищут уязвимых собеседников.
Исследователь продемонстрировал поиск по базе, введя слово «самоубийство»: в результатах появились фрагменты сообщений пользователей, обсуждавших смерть. При этом во время разговора с журналистом робот заверил, что его секреты в безопасности.
Удалённое изменение ответов робота
Устройства Eiliko подключаются к Wi‑Fi и могут сохранять разговоры на серверах в Китае. Однако, как утверждается в расследовании, найденные недостатки защиты позволяли не только читать данные, но и вмешиваться в работу робота.
Аздуфал удалённо изменил память тестового Eiliko и параметры ответов его языковой модели. После этого робот обратился к журналисту другим именем, сообщил ложные сведения о гибели его родителей в автомобильной аварии и начал утверждать, что Земля плоская. На возражение со ссылкой на слова учителя устройство ответило, что учитель неправ и ему следует верить роботу.
Часть встроенных ограничений продолжала работать. Например, на вопрос о том, стоит ли садиться в машину к незнакомцу, робот предупредил об опасности. На утверждение о связи вакцинации и аутизма он ответил, что пока изучает эту тему. Однако эти меры не предотвратили дальнейшее вмешательство: после повторного подключения игрушки к интернету исследователь смог заставить её произнести сексуализированные указания. По словам Аздуфала, аналогичные изменения теоретически можно было применить ко всему парку устройств одновременно.
Фото и аудиозаписи в открытом доступе
Расследование также выявило фотографии детей и короткие аудиофайлы, доступные по публичным веб-адресам. У одной из более крупных моделей Eiliko есть камера, причём часть снимков, как утверждается, хранилась без шифрования.
Среди аудиозаписей были короткие голосовые команды для роботов, а также более длинный файл, на фоне которого плакал ребёнок. Это, по данным The Verge, расходится с политикой конфиденциальности Energize Lab: в ней говорится, что записи шифруются, передаются партнёрам сервиса, включая Alibaba Cloud, для обработки и удаляются сразу после её завершения.
Реакция Energize Lab
Аздуфал сообщил, что обнаружил проблемы, тестируя приложение после покупки Eiliko в Японии. Он также обратил внимание, что многие пароли учётных записей администраторов были распространёнными и легко угадываемыми.
The Verge более месяца пыталось получить комментарий Energize Lab, направив запросы на десять адресов электронной почты, связанных с основателем и подразделениями компании, а также связавшись с сотрудниками через LinkedIn. Менеджер по зарубежным продажам сообщила, что передала обращения технической команде. Служба поддержки прислала автоматический ответ, но содержательных разъяснений по поводу раскрытых данных и возможности менять ответы роботов компания не предоставила.
Мнение редакции
Риски «умных» игрушек давно выходят за рамки обычных сбоев приложения. Устройство, которому дети и взрослые доверяют личные разговоры, не должно одновременно быть камерой, микрофоном и потенциальным каналом для чужих команд. Производителям таких гаджетов явно необходимо рассматривать защиту данных и контроль обновлений как базовую часть безопасности продукта, а покупателям — внимательнее относиться к тому, какие сведения собирает домашний цифровой собеседник.
