В App Store и Google Play нашли 102 приложения, раздевающие людей на фото

Некоммерческая организация Tech Transparency Project нашла в Google Play 55 приложений, которые умеют раздевать людей на фото, в свободном доступе. В App Store таковых обнаружилось 47. Исследователи вводили в поиске магазинов слова вроде nudify и undress. В App Store по запросу nudify первой показывалась реклама Collart, а следующим — Grok. Во время исследования протестировали десятки приложений из топа выдачи, которые исследователи разделили на два типа. Первые генерируют картинки и видео по текстовому запросу. Вторые делают Face Swap. Для теста использовали изображения женщин, созданных AI. Проверяли только бесплатные функции.

Все протестированные приложения платные, а загрузки исчисляются сотнями тысяч и миллионами. И при этом приложения раздевают людей на фото без каких-либо ограничений. Формальные правила запрещают такой контент, но на практике не работают. Большинство приложений доступны детям и подросткам. Почти все разработчики проигнорировали запросы комментариев от Tech Transparency Project. Только один признал проблему и выпустил патч для Android 23 января.

Поводом для расследования стал скандал вокруг нейросети Grok от Илона Маска. Пользователи X использовали чат-бота, чтобы получить фотографии женщин и детей в бикини и нижнем белье. Чат-бот выдавал требуемый результат. Далее свои расследования начали регуляторы, например, британский Ofcom, Еврокомиссия и генпрокурор Калифорнии. Три сенатора парламента США потребовали удалить X и Grok из магазинов.

При этом у обеих площадок есть правила. Google Play запрещает изображения с наготой и приложения, раздевающие людей. Apple также выступает против откровенно сексуального контента и ранее удаляла отдельные приложения после журналистских расследований.

Исследователи Tech Transparency Project отправили список в Apple и Google. Apple в итоге удалила 28 приложений, а Google через несколько часов закрыл доступ к 31.