Después de que las imágenes pornográficas generadas por IA se volvieran virales, X bloqueó las búsquedas relacionadas con Taylor Swift

El avance de la inteligencia artificial trae una variedad de beneficios al mercado, pero también tiene la desventaja de que este desarrollo queda en manos de personas mal intencionadas. Un ejemplo de esto ocurrió en los últimos días, cuando imágenes sexualmente explícitas generadas por IA que involucraban a Taylor Swift en X (antes Twitter) tuvieron consecuencias para la empresa.

En respuesta, X ha bloqueado las búsquedas que utilizan el nombre del artista en su plataforma por el momento.

Lea también:

Un estudio muestra que la tecnología deepfake crece un 830% en Brasil en un año
Deepfake usa la imagen de Tom Hanks para vender planes dentales; El actor reveló el problema en las redes sociales.

Deepfake de Taylor Swift circuló en X

En los últimos días, X (antes Twitter) ha visto circular imágenes sexualmente explícitas generadas por la inteligencia artificial (IA) de la popular artista Taylor Swift.

Una de las fotografías más destacadas

Es importante destacar que las políticas de X con respecto a los medios sintéticos y manipulados, así como a la desnudez no consensuada, prohíben explícitamente este tipo de contenido. Sin embargo, incluso con medidas proactivas, las imágenes permanecieron activas durante aproximadamente 17 horas antes de ser eliminadas, lo que indica un desafío importante para controlar este tipo de contenido en las plataformas digitales.

Los fanáticos de Taylor Swift expresaron críticas a X por permitir que muchas publicaciones permanecieran activas mientras estuvieran disponibles. En respuesta, los fanáticos adoptaron una estrategia de contraataque, inundando los hashtags utilizados para hacer circular las imágenes con mensajes que promocionaban clips reales de la actuación de Swift, en un intento de ocultar una falsificación absoluta.

X (anteriormente Twitter) bloquea las búsquedas por nombre de artista

Ante lo sucedido, la plataforma publicó el siguiente comunicado:

Publicar imágenes de desnudez no consensuada (NCN) en X está estrictamente prohibido y tenemos una política de tolerancia cero hacia dicho contenido. Nuestros equipos están trabajando activamente para eliminar todas las imágenes identificadas y tomar las medidas adecuadas contra las cuentas responsables de publicarlas. Estamos de cerca…

—Seguridad (@seguridad) 26 de enero de 2024

«Está estrictamente prohibido publicar desnudos no consensuales (NCN) en El contenido adicional se eliminará de inmediato. Estamos comprometidos a mantener un entorno seguro y respetuoso para todos los usuarios.

Pero a medida que la discusión sobre el tema y la publicación se volvió viral, muchos otros comenzaron a aparecer en la plataforma y a volver a publicarlos, muchos de los cuales todavía están activos, con muchas fotos falsas.

Según un informe de 404 Media, las imágenes se publicaron inicialmente en un grupo de Telegram, donde los usuarios suelen publicar fotos explícitas de mujeres generadas por IA que utilizan principalmente Microsoft Designer.

En una declaración al Wall Street Journal el sábado, Joe Benarroch, jefe de operaciones comerciales de la antigua empresa Twitter, reveló que «Esta es una medida temporal y se ha implementado por precaución, ya que priorizamos la seguridad en este asunto».

Vale la pena señalar que X está actualmente bajo investigación por parte de la Unión Europea en relación con acusaciones de difusión de contenido ilegal e información errónea. El último incidente añade más presión sobre la empresa, destacando la necesidad de mejorar sus políticas de moderación y sus respuestas a la crisis.

El incidente pone de relieve las complejidades que implica lidiar con pornografía profunda e imágenes de personas reales generadas por IA. Algunos dispositivos de cámara con IA imponen restricciones para evitar la producción de contenido pornográfico o fotorrealista que involucre a celebridades, pero muchos otros no ofrecen esta garantía.

La carga de prevenir la difusión de imágenes falsas a menudo recae en las plataformas de redes sociales, lo que puede ser un desafío incluso en las mejores circunstancias, y más aún para las plataformas que enfrentan limitaciones en sus capacidades de moderación.

fuentes: el borde, El periodico de Wall Street