Cuidado con el nuevo problema en Telegram: bots crean contenido explícito con IA
En los últimos años, el avance de la inteligencia artificial ha proporcionado herramientas de gran utilidad, pero también ha generado riesgos significativos. Uno de estos peligros, que afecta directamente a la privacidad de las personas, es el desarrollo de bots que aprovechan la IA para manipular y alterar imágenes.
Este fenómeno, que implica el uso de deepfakes para la creación de contenido explícito, plantea un desafío urgente para los usuarios y las plataformas digitales. Telegram, una aplicación de mensajería ampliamente usada, se encuentra en el ojo del huracán al ser escenario de una creciente red de bots capaces de alterar fotografías comunes y transformarlas en imágenes sensibles, una acción que amenaza la seguridad de millones de personas.
Bots crean contenido explícito en Telegram
Telegram se ha convertido en un espacio frecuentado por millones de usuarios debido a su enfoque en la privacidad y su estructura de comunicación flexible. Sin embargo, esta misma flexibilidad ha sido aprovechada por actores malintencionados para introducir bots de inteligencia artificial que manipulan fotos sin el consentimiento de la persona retratada.
Una investigación de la revista WIRED revela que al menos cuatro millones de usuarios interactúan mensualmente con aproximadamente 50 bots de Telegram dedicados a la generación de imágenes y videos de personas desnudas. Según el informe, dos de estos bots se destacan por su notable popularidad, que incluso alcanzan cada uno 400,000 usuarios mensuales. Además, un total de 14 bots han logrado superar la barrera de los 100,000 usuarios, lo que evidencia una tendencia inquietante en el uso de esta plataforma para la creación de contenido explícito.
Según el informe, el funcionamiento de estos bots es alarmantemente sencillo. Se promocionan con mensajes que prometen servicios como "Puedo hacer lo que quieras con la cara o la ropa de la foto que me des". La mayoría de estos bots requieren que los usuarios adquieran tokens al utilizar dinero real o criptomonedas, lo que plantea interrogantes sobre la seguridad financiera de quienes los utilizan. Sin embargo, el resultado prometido no siempre se materializa, lo cual deja a muchos en la incertidumbre de si han sido víctimas de una estafa.
Algunos de estos bots permiten a los usuarios subir fotos de personas, así argumentan que de esta manera entrenan a la inteligencia artificial para generar imágenes más precisas. Otros, aunque no se presentan explícitamente como bots de desnudos, incluyen enlaces a otros que sí cumplen esa función.
El peligro de la IA: las deepfakes
El uso de la inteligencia artificial (IA) para generar deepfakes plantea un riesgo creciente para la sociedad. En el caso de estos bots de Telegram, el peligro va más allá de lo que se suele percibir. Los deepfakes, que son videos o imágenes manipuladas mediante inteligencia artificial para que se vean realistas, han revolucionado la tecnología visual.
Sin embargo, el uso de esta técnica para fines explícitos o de explotación presenta una amenaza grave y compleja. Aunque inicialmente la tecnología de deepfake se creó para aplicaciones de entretenimiento o educativas, la capacidad de manipular imágenes de personas sin su autorización convierte esta innovación en un arma digital.