Abrió una cuenta erótica usando las fotos de su exnovia y ganó miles de dólares.

El escándalo de las deepfakes en India ha puesto de relieve una vez más los límites de la privacidad y la seguridad digital en la era de la inteligencia artificial.

Una falsa influencer de Instagram, que comparte publicaciones bajo el nombre de usuario "Babydoll Archi", alcanzó rápidamente 1,4 millones de seguidores con videos de ella misma bailando con un sari rojo y posando con una estrella de cine para adultos.

Sin embargo, el fenómeno creado por la inteligencia artificial fue muy similar a lo que le ocurrió a Sanchi, una ama de casa que vive en Dibrugarh, Assam.

NOVIO INGENIERO ARRESTADO Según la BBC, el uso no autorizado de la identidad de Sanchi a través de tecnología deepfake fue revelado por la denuncia de su familia a la policía. Tras la investigación, el exnovio de Sanchi, Pratim Bora, fue arrestado. Se determinó que Bora, quien estudió ingeniería y supuestamente estaba interesado en la inteligencia artificial, había creado una personalidad falsa en las redes sociales basada en las fotos privadas de Sanchi. El oficial de policía que llevó a cabo la investigación declaró que Bora actuó por venganza y produjo contenido utilizando herramientas de inteligencia artificial como ChatGPT y Dzine. Según se informa, la cuenta generó aproximadamente 1 millón de rupias (aproximadamente $12,000) en ingresos solo a través de Linktree, con una ganancia de 300,000 rupias en los días previos a su arresto.

Sanchi, quien había bloqueado a su familia , no era usuaria de redes sociales y solo se enteró de la existencia de la cuenta de la influencer cuando aumentó la atención mediática. Se reveló que su familia había sido bloqueada de la cuenta y que, según informes, están recibiendo apoyo psicológico para superar el impacto del incidente. Los expertos afirman que este incidente es un ejemplo claro del posible abuso de la inteligencia artificial. La abogada Meghna Bal advirtió: «El contenido deepfake ahora se produce con mayor facilidad, y estos incidentes podrían ser más comunes de lo que se creía. Sin embargo, muchos no se denuncian o las víctimas no son conscientes de ello». La policía ha presentado cargos contra Bora por acoso sexual, fraude cibernético y daño a la reputación. De ser declarado culpable, podría enfrentar hasta 10 años de prisión.