Предупреждение «Nudify»: ИИ управляет приложениями, которые «раздевают» любую фотографию

Что происходит, когда технология становится орудием преследования и цифрового насилия? Что, если столпы интернета — Amazon, Google или Cloudflare — не только не предотвращают это, но и косвенно способствуют этому?

За последние два года появилось множество веб-сайтов и приложений, позволяющих создавать поддельные обнажённые изображения из настоящих фотографий без согласия изображённых на них людей . Идея приложений, работающих как «рентгены», не нова, но благодаря искусственному интеллекту она вновь набирает популярность.

Новое исследование пролило свет на масштабы, бизнес-модель и участников этой скрытой индустрии. Наибольшую тревогу вызывает не только само существование этих платформ , но и сложность их бизнеса и зависимость от технологической инфраструктуры, которую мы используем каждый день.

Индустрия «обнажёнки» возникла не на пустом месте. С тех пор, как в 2017 году появились первые откровенные дипфейки , технология стала более совершенной и демократичной. Сегодня достаточно загрузить фотографию на один из таких сайтов, чтобы создать фейковое сексуальное изображение всего за несколько кликов. То, что начиналось как тревожная техническая диковинка, превратилось в индустрию неконсенсуального сексуального контента, ежегодно приносящую десятки миллионов долларов.

Согласно анализу Indicator , 18 из этих сайтов заработали от 2,6 до 18,4 млн долларов только за последние шесть месяцев. Они делают это, продавая подписки или кредиты, как и любая другая платформа цифровых развлечений. Многие копируют бизнес-модель OnlyFans или Twitch, используя партнёрские программы, рекламные видеоролики и даже контракты с порноактрисами.

Но его социальное воздействие отнюдь не незначительно. Большинство жертв — женщины, часто подростки, которые никогда не давали разрешения на обработку своих фотографий. После создания изображения распространяются в социальных сетях, на форумах, в Telegram-каналах и на других платформах, где их сложно отследить. Эмоциональный и репутационный ущерб неисчислим.

Одним из самых удивительных аспектов исследования стал не только объём посещений или сгенерированных денег, но и технологическая инфраструктура, поддерживающая систему . Из 85 проанализированных сайтов:

• 62 используют Amazon Web Services или Cloudflare для хостинга и распространения контента.
• 54 используют систему входа Google.
• Некоторые из них имеют интегрированные способы оплаты, которые полагаются на законные коммерческие шлюзы.

Проблема не только в том, что эти крупные платформы используются, но и в том, что они используются многократно и массово, без эффективного контроля или систематических мер по их уничтожению. По словам Алексиоса Манцарлиса, соучредителя Indicator , «Кремниевая долина заняла политику невмешательства в отношении генеративного ИИ», что дало этим токсичным компаниям спасение.

Google и Amazon заявляют, что принимают меры при обнаружении нарушений своих политик, но на самом деле их система мониторинга несовершенна. Во многих случаях создатели этих сайтов используют посреднические сайты для маскировки своих истинных намерений, тем самым обходя автоматизированный контроль.

Рост популярности этих платформ принёс с собой новую форму цифрового сексуального насилия и домогательств . Жертвы редко знают, что их изображения были обработаны. К тому времени, как они это узнают, ущерб уже нанесён. И удалить такой контент из цифровой экосистемы практически невозможно.

Среди наиболее тревожных случаев – случаи с участием подростков. В нескольких странах мальчики используют фотографии своих одноклассников для создания дипфейков, которые затем распространяются в группах WhatsApp или в социальных сетях. Эта форма кибербуллинга не оставляет физических следов, но наносит глубокие раны.

Проблема усугубляется отсутствием чётких законов или их медленным применением . Хотя некоторые страны начинают криминализировать создание и распространение фейковых изображений сексуального характера, правовая база пока не успевает за развитием технологий. Платформы, в свою очередь, заявляют, что являются лишь поставщиками инфраструктуры, а не контента.

Экономика нудистов становится всё более сложной. Некоторые сайты даже предлагают «премиум-услуги» более высокого качества . Другие размещают рекламу на платформах для взрослых или используют методы партнёрского маркетинга. Они начинают проникать в легальную порноиндустрию, стремясь к легальности или хотя бы к анонимности в хаосе онлайн-контента для взрослых.

Это явление представляет собой цифровую «серую зону» , где сексуальное насилие тесно связано с бизнес-моделями электронной коммерции. Причём, это происходит через, казалось бы, легитимные каналы: платёжные шлюзы, системы лояльности, SEO-трафик, рекламные видеоролики.

По мнению экспертов, ключ к успеху — это ограничение доступа к ресурсам, которые обеспечивают жизнеспособность этих платформ. Если крупные технологические компании заблокируют облачные сервисы, системы регистрации или хостинг, многие из этих сайтов рухнут. Цель не в том, чтобы искоренить их (что невозможно), а в том, чтобы настолько усложнить им жизнь, чтобы они потеряли видимость, пользователей и доходы.

Хотя проблема назревала годами, некоторые недавние действия указывают на смещение акцентов . Meta подала в суд на компанию, ответственную за рекламу обнажённых сцен на своей платформе . Microsoft выследила создателей фейковых сцен со знаменитостями. А администрация США приняла противоречивый закон «Take It Down Act», который обязывает технологические компании оперативно реагировать на сообщения о неконсенсуальном сексуальном контенте.

В Великобритании создание сексуальных дипфейков уже криминализировано. Некоторые города, например, Сан-Франциско, подали иски против компаний, продающих подобные инструменты. Однако принимаемые меры остаются частичными и носят реактивный характер. Единой, всеобъемлющей и решительной стратегии не существует.

По мнению аналитиков, существует риск, что эти платформы будут искать убежища в ещё менее регулируемых цифровых пространствах , таких как даркнет или закрытые социальные сети. Но даже в этих условиях их влияние будет меньше, если они лишатся логистической и коммерческой поддержки, которую сейчас получают от крупных технологических компаний.