La Lucha de GitHub Contra el Contenido Sexual No Consentido: Un Desafío Persistente

En noviembre de 2023, un creador de contenido de deepfakes que afirmaba residir en Estados Unidos subió un video de contenido sexual explícito a la mayor plataforma dedicada a deepfakes pornográficos. Este video presentaba el rostro de una influencer de TikTok, superpuesto sobre el cuerpo de una actriz porno. A pesar de que la influencer no participó en la producción del video, este acumuló más de 8,200 visualizaciones, atrayendo la atención de otros entusiastas de los deepfakes.

“¡Qué bien! ¿Qué programa utilizaste para crear el deepfake?” comentó un usuario conocido como balascool. “Me encanta Charli.” El agente de la influencer no respondió a la solicitud de comentarios sobre el asunto.

El creador del video, conocido como “DeepWorld23”, afirmó en los comentarios que el programa usado era un modelo de deepfake alojado en una plataforma de desarrollo. Este programa había sido “favorito” por 46,300 usuarios antes de ser desactivado en agosto de 2024, tras la implementación de nuevas reglas que prohíben proyectos que generen imágenes sexuales no consensuadas, es decir, deepfake pornográfico. Sin embargo, en noviembre de 2024, el programa volvió a estar disponible en un formato archivado, donde los usuarios aún pueden acceder al código.

A pesar de los esfuerzos de GitHub por erradicar este tipo de contenido, su control es incompleto, ya que el código, junto con otros que fueron eliminados, persiste en diferentes repositorios dentro de la plataforma. Una investigación ha revelado más de una docena de proyectos en GitHub relacionados con videos de “pornografía” deepfake que evaden la detección, lo que extiende el acceso al código utilizado para el abuso de imágenes íntimas y pone de manifiesto las lagunas en los esfuerzos de moderación de la plataforma. Por razones éticas, no se nombrarán los proyectos o sitios web para evitar amplificar el abuso.

“No es fácil eliminar algo en el momento en que aparece en línea”, comenta un asesor de inteligencia artificial que trabaja con empresas tecnológicas sobre los desafíos de moderar material de código abierto en línea. “Al mismo tiempo, había señales de advertencia que eran bastante claras.”

Implementada en junio de 2024, la política de GitHub prohíbe proyectos que estén “diseñados para, fomenten, promuevan, apoyen o sugieran de cualquier manera el uso de medios sintéticos o manipulados para la creación de imágenes íntimas no consensuadas o cualquier contenido que constituya desinformación.”

GitHub ha desactivado al menos tres repositorios identificados en diciembre de 2024 y está tomando medidas enérgicas contra el código abusivo. Sin embargo, otros han surgido en la plataforma, algunos con marcas casi idénticas o descriptores claros como “NSFW”, “versiones desbloqueadas” o “bypass”.

Uno de los proyectos identificados tenía una marca casi idéntica a un proyecto importante que se autodescribía como el “software líder para crear deepfakes”, el cual fue desactivado por varios meses el año anterior por violar los términos de servicio de la plataforma. Aunque GitHub ha desactivado esta versión adicional, una versión archivada del repositorio principal aún está disponible, y al menos seis otros repositorios basados en el modelo estaban presentes en GitHub a partir del 10 de enero, incluyendo otra versión con una marca casi idéntica.

Todos los proyectos encontrados estaban al menos parcialmente construidos sobre un código vinculado a videos en un sitio de streaming de pornografía deepfake. Estos repositorios forman parte de una red de software de código abierto en la web que puede ser utilizado para crear pornografía deepfake, pero su naturaleza abierta impide que sean completamente controlados. Los repositorios de GitHub pueden ser copiados, conocido como un “fork”, y desde allí adaptados libremente por los desarrolladores.

Resultados Importantes

Puntos Clave

• GitHub ha implementado políticas para prohibir la creación de contenido sexual no consensuado, pero los esfuerzos son insuficientes.
• A pesar de la eliminación de algunos repositorios, muchos otros siguen existiendo y evadiendo la detección.
• La naturaleza abierta del código en GitHub complica la moderación efectiva, permitiendo que el contenido abusivo persista.