ТикТок. Amnesty предупреждает о вредоносном контенте

Amnesty International в воскресенье предупредила, что видеоплатформа TikTok по-прежнему не принимает мер по устранению серьезных рисков нанесения вреда психическому и физическому здоровью молодых пользователей, даже спустя почти 18 месяцев после того, как они были разоблачены в ходе расследования, проведенного организацией.

В ходе расследования 2023 года был сделан вывод о том, что в ленте TikTok «For You» дети и молодые пользователи подвергались риску оказаться втянутыми в токсичную «черную дыру» контента, связанного с депрессией и самоубийством. Компания до сих пор не признала эту проблему и не предложила конкретных решений, говорится в заявлении Amnesty International (AI).

Организация даже предупреждает о возможности воздействия на психическое благополучие, особенно молодых пользователей, связанного с концентрированным контентом, связанным с экстремальными диетами и контентом, связанным с образом тела.

Исследование, в котором для имитации поведения 13-летних подростков использовались учетные записи, показало, что в течение 20 минут после создания учетной записи и проявления интереса к вопросам психического здоровья более половины видеороликов в ленте TikTok «For You» были связаны с проблемами психического здоровья.

«Некоторые из этих видеороликов, рекомендованных в течение одного часа, романтизировали, нормализовали или поощряли самоубийство», — говорит он, подчеркивая, что это был один из главных выводов исследовательского проекта, опубликованного в ноябре 2023 года, о рисках для прав детей и молодежи на одной из самых популярных платформ социальных сетей.

В ответ на вопрос AI о том, какие изменения были реализованы после расследования, TikTok перечислил ранее известные меры по обеспечению благополучия, большинство из которых действовали на момент проведения расследования, не признав при этом проблему «черной дыры» приложения и не предоставив доказательств конкретных новых мер.

По данным расследования, инвазивная бизнес-модель TikTok отслеживает все действия пользователя на платформе, стремясь предсказать его интересы, эмоциональное состояние и благополучие, чтобы показывать более персонализированный контент в ленте «Для вас», чтобы пользователи продолжали просмотр, даже если контент вредоносный.

ИИ выступает за эффективные защитные меры, в частности, для предотвращения попадания пользователей из группы риска в зависимость от контента и в ловушки опасного и вредного контента.