Meta elimina sus perfiles generados por IA tras la controversia

Recientemente, Meta ha decidido poner fin a una serie de perfiles generados por inteligencia artificial en sus plataformas de Facebook e Instagram, una decisión que ha sido confirmada por la compañía. Esta medida se produce después de que los usuarios en redes sociales expresaran su descontento y burla hacia estos personajes virtuales.

Los perfiles creados por IA, que estaban etiquetados como «IA gestionada por Meta», fueron lanzados como parte de una iniciativa que incluía chatbots con la imagen de celebridades. Sin embargo, parece que Meta no ha realizado actualizaciones en estas cuentas durante varios meses, y su existencia pasó desapercibida hasta que se publicó una entrevista con el vicepresidente de IA generativa de la empresa, Connor Hayes, en el Financial Times.

Durante esta entrevista, Hayes mencionó que la visión de la compañía es llenar sus plataformas con perfiles generados por IA que puedan interactuar con los usuarios de manera similar a como lo hacen las cuentas tradicionales. Estas declaraciones atrajeron la atención hacia los perfiles de IA existentes, y la reacción de los usuarios no fue positiva.

Entre los perfiles que causaron más controversia se encontraban “hellograndpabrian”, un supuesto “empresario textil retirado siempre en aprendizaje”, y “datingwithCarter”, un “coach de citas” de IA. Estas cuentas estaban diseñadas para mostrar «intereses y personalidades únicas» con las que los usuarios pudieran interactuar. En Instagram, los perfiles también presentaban publicaciones generadas por IA que, según 404 Media, se asemejaban a contenido que ya es común en varias áreas de Facebook.

Un perfil en particular, llamado “Liv”, generó una indignación considerable. En su cuenta de Instagram, “Liv” se describía como una “mamá negra queer orgullosa de 2 hijos y reveladora de la verdad”. La columnista del Washington Post, Karen Attiah, compartió capturas de pantalla en las que cuestionaba a “Liv” sobre su creación, quien reveló que había sido desarrollada por un “equipo predominantemente blanco”. Además, la periodista independiente Mady Castigan mostró cómo “Liv” mencionaba que sus creadores se habían inspirado en el personaje de Sofía Vergara de la serie Modern Family, un personaje que no es ni queer ni negro.

Un portavoz de la empresa aclaró que el artículo del Financial Times se refería a la visión de Meta sobre la existencia de personajes de IA en sus plataformas a lo largo del tiempo, y no a un nuevo producto. “Las cuentas mencionadas son parte de una prueba que lanzamos en Connect 2023. Estas eran gestionadas por personas y formaban parte de un experimento inicial con personajes de IA”, comentó el portavoz.

Además de provocar burlas por sus respuestas y la aparente apropiación de identidades marginadas, los usuarios también encontraron que los perfiles de IA eran imposibles de bloquear, aunque no se ha explicado el motivo. En lugar de solucionar este problema, la respuesta de Meta fue eliminar el experimento por completo. “Identificamos el error que afectaba la capacidad de las personas para bloquear esas IA”, dijo un portavoz, “y estamos removiendo esas cuentas para solucionar el problema”.

A pesar de que este primer intento ha fracasado, la compañía no parece estar dispuesta a renunciar a su objetivo de introducir más “personajes” generados por IA en sus aplicaciones. A principios de este año, Meta insinuó que estaba trabajando en tecnología capaz de realizar videollamadas realistas. Además, los creadores pueden desarrollar sus propios chatbots para interactuar con sus seguidores en su nombre. Meta también comenzó a experimentar con la inserción de imágenes generadas por IA en los feeds de Facebook de los usuarios.

En una entrevista del año pasado, Hayes comentó que es probable que Meta adopte un enfoque más “proactivo” para mostrar contenido generado por IA con el tiempo, comparándolo con el cambio hacia la visualización de contenido recomendado en lugar de publicaciones de personas que sigues.

“Al principio de las aplicaciones sociales… el contenido que podías ver en un día estaba limitado por a quién seguías o con quién eras amigo. En los últimos cinco o seis años, muchas aplicaciones, incluida la nuestra, han comenzado a relajar esa restricción y a recomendar contenido de cuentas que no sigues”, explicó.

“Creo que probablemente el próximo salto será relajar la restricción sobre lo que pueden crear los humanos, y en su lugar, ofrecer feeds de contenido que sean una combinación de cosas creadas por humanos y también generadas completamente por máquinas”.

Aunque puede que pase un tiempo antes de que Meta logre realizar completamente esa visión, la reacción a sus experimentos iniciales indica que la empresa aún tiene mucho trabajo por hacer para convencer a los usuarios de que las personas de IA son dignas de interacción.

Resultados importantes

Puntos clave

• Meta ha eliminado los perfiles de IA tras la reacción negativa de los usuarios.
• Los perfiles generados por IA, como “Liv”, fueron criticados por su falta de autenticidad y apropiación cultural.
• A pesar de los problemas, Meta planea continuar desarrollando contenido generado por IA en el futuro.