La IA y la nueva realidad de la sextorsión

En 2025, investigadores de ciberseguridad descubrieron varias bases de datos abiertas que pertenecían a diferentes herramientas de generación de imágenes de IA. Este mero hecho hace que uno se pregunte cuánto se preocupan las empresas emergentes de IA por la privacidad y la seguridad de los datos de sus usuarios. Pero la naturaleza del contenido de estas bases de datos es mucho más alarmante.

Una gran cantidad de imágenes generadas en estas bases de datos eran imágenes de mujeres en lencería o completamente desnudas. Era evidente que algunas se crearon a partir de fotos de niños o tenían la intención de hacer que las mujeres adultas parecieran más jóvenes (y desnudas). ¿La parte más inquietante? Algunas imágenes pornográficas se generaron a partir de fotos completamente inocentes de personas reales, probablemente tomadas de las redes sociales.

En esta publicación, explicaremos qué es la sextorsión y por qué las herramientas de IA pueden convertir a cualquiera en una víctima. Detallamos el contenido de estas bases de datos abiertas y te damos consejos sobre cómo evitar convertirte en víctima de la sextorsión en la era de la IA.

¿Qué es la sextorsión?

La extorsión sexual en línea se ha vuelto tan común que se ha ganado su propio nombre global: sextorsión (una unión de las palabras sexo y extorsión). Ya hemos detallado sus distintos tipos en nuestra publicación Cincuenta sombras de la sextorsión. En resumen, esta forma de chantaje implica amenazar con publicar imágenes o vídeos íntimos para coaccionar a la víctima a realizar determinadas acciones o para quitarle dinero.

Antes, las víctimas de la sextorsión eran típicamente trabajadores del sector de películas para adultos o personas que habían compartido contenido íntimo con una persona en la que no se podía confiar.

Sin embargo, el rápido avance de la inteligencia artificial, en particular la tecnología de texto a imagen, ha cambiado por completo las reglas del juego. Ahora, literalmente, cualquiera que haya publicado sus fotos más inocentes puede ser víctima de sextorsión. Esto se debe a que la IA generativa permite desnudar de forma rápida, fácil y convincente a cualquier persona que aparezca en una imagen digital, o añadir un cuerpo desnudo a la cabeza de alguien en cuestión de segundos.

Por supuesto, este tipo de falsificación era posible antes de la IA, pero requería largas horas de meticuloso trabajo en Photoshop. Ahora, todo lo que necesitas es describir el resultado deseado en palabras.

Para empeorar las cosas, muchos servicios de IA generativa no se preocupan mucho por proteger el contenido para el que se han utilizado. Como se mencionó anteriormente, el año pasado, los investigadores descubrieron al menos tres bases de datos de acceso público que pertenecen a estos servicios. Esto significa que los desnudos generados dentro de ellos estaban disponibles no solo para el usuario que los había creado, sino para cualquier persona en Internet.

Cómo se descubrió la filtración de la base de datos de imágenes de IA

En octubre de 2025, el investigador de ciberseguridad Jeremiah Fowler descubrió una base de datos abierta que contenía más de un millón de imágenes y vídeos generados por IA. Según el investigador, la inmensa mayoría de este contenido era de naturaleza pornográfica. La base de datos no estaba cifrada ni protegida con contraseña, lo que significa que cualquier usuario de Internet podía acceder a ella.

El nombre de la base de datos y las marcas de agua en algunas imágenes llevaron a Fowler a creer que era propiedad de la empresa estadounidense SocialBook, que ofrece servicios para influencers y servicios de marketing digital. El sitio web de la empresa también proporciona acceso a herramientas para generar imágenes y contenido con IA.

Sin embargo, un análisis más detallado reveló que el propio SocialBook no generaba directamente este contenido. Los enlaces dentro de la interfaz del servicio conducían a productos de terceros, los servicios de IA MagicEdit y DreamPal, que fueron las herramientas utilizadas para crear las imágenes. Estas herramientas permitían a los usuarios generar imágenes a partir de descripciones de texto, editar las fotos cargadas y realizar varias manipulaciones visuales, incluida la creación de contenido explícito y el intercambio de rostros.

La filtración estaba vinculada a estas herramientas específicas, y la base de datos contenía el producto de su trabajo, incluidas las imágenes generadas y editadas por IA. Una parte de las imágenes llevó al investigador a sospechar que se habían subido a la IA como referencias para crear imágenes provocativas.

Fowler afirma que cada día se añadían aproximadamente 10 000 fotografías a la base de datos. SocialBook niega cualquier conexión a la base de datos. Después de que el investigador informara a la empresa de la filtración, varias páginas del sitio web de SocialBook que habían mencionado anteriormente MagicEdit y DreamPal se volvieron inaccesibles y comenzaron a devolver errores.

¿Qué servicios fueron el origen de la fuga?

Ambos servicios, MagicEdit y DreamPal, se comercializaron inicialmente como herramientas para la experimentación visual interactiva e impulsada por el usuario con imágenes y personajes artísticos. Lamentablemente, una parte considerable de estas capacidades estaba directamente relacionada con la creación de contenido sexualizado.

Por ejemplo, MagicEdit ofrecía una herramienta para cambios de ropa virtuales generados por IA, así como un conjunto de estilos que hacían que las imágenes de mujeres fueran más reveladoras después de su procesamiento, como reemplazar ropa de uso cotidiano por trajes de baño o lencería. Sus materiales promocionales prometían convertir un look normal en uno sexy en cuestión de segundos.

DreamPal, por su parte, se posicionó inicialmente como un chat de juegos de rol impulsado por IA y fue aún más explícito sobre su posicionamiento orientado a los adultos. El sitio ofrecía crear una novia de IA, con ciertas páginas haciendo referencia directa a contenido erótico. Las preguntas frecuentes también señalaban que los filtros para contenido explícito en los chats se desactivaron para no limitar las fantasías más íntimas de los usuarios.

Ambos servicios han suspendido sus operaciones. Al momento de escribir este artículo, el sitio web de DreamPal devolvía un error, mientras que MagicEdit parecía disponible de nuevo. Sus aplicaciones se eliminaron tanto de la App Store como de Google Play.

Jeremiah Fowler afirma que, a principios de 2025, descubrió dos bases de datos abiertas más que contenían imágenes generadas por IA. Una pertenecía al sitio surcoreano GenNomis y contenía 95 000 entradas, una parte sustancial de las cuales eran imágenes de personas “desnudas”. Entre otras cosas, la base de datos incluía imágenes con versiones infantiles de celebridades: las cantantes estadounidenses Ariana Grande y Beyoncé, y la estrella de reality shows, Kim Kardashian.

Cómo evitar convertirte en víctima

A la luz de incidentes como estos, está claro que los riesgos asociados con la sextorsión ya no se limitan a los mensajes privados o al intercambio de contenido íntimo. En la era de la IA generativa, incluso las fotos normales, cuando se publican, pueden utilizarse para crear contenido comprometedor.

Este problema es especialmente relevante para las mujeres, pero los hombres tampoco deberían sentirse demasiado cómodos: el popular esquema de chantaje “Hackeé tu ordenador y usé la cámara web para hacer vídeos tuyos navegando en sitios porno” podría alcanzar un nivel completamente nuevo de persuasión gracias a herramientas de IA para generar fotografías y vídeos.

Por lo tanto, proteger tu privacidad en las redes sociales y controlar qué datos acerca de ti están disponibles públicamente se convierten en medidas clave para proteger tanto tu reputación como tu tranquilidad. Para evitar que tus fotografías se utilicen para crear contenido cuestionable generado por IA, recomendamos hacer que todos tus perfiles de redes sociales sean lo más privados posible; después de todo, podrían ser la fuente de imágenes para desnudos generados por IA.

Ya hemos publicado varias guías detalladas sobre cómo reducir tu rastro digital en línea o incluso eliminar tus datos de Internet, cómo evitar que los agentes de datos recolecten dosieres sobre ti y cómo protegerte del abuso de imágenes íntimas.

Además, contamos con un servicio exclusivo, Privacy Checker que es ideal para cualquiera que desee configurar su privacidad de forma rápida, pero sistemática, en cualquier lugar posible. Compila guías paso a paso para proteger las cuentas de redes sociales y los servicios en línea en las principales plataformas.

Para garantizar la seguridad y la privacidad de los datos de tus hijos, Kaspersky Safe Kids puede ayudar: permite a los padres supervisar en qué redes sociales pasa el tiempo su hijo. Desde allí, puedes ayudarlos a ajustar la configuración de privacidad en sus cuentas para que las fotografías publicadas no se utilicen para crear contenido inapropiado. Exploren juntos nuestra guía sobre la seguridad en línea de los niños y, si tus hijos sueñan con convertirse en blogueros populares, habla con ellos sobre nuestra guía de ciberseguridad paso a paso para aspirantes a blogueros.