Meta criticada desde dentro por sus "insuficientes" salvaguardas ante contenido manipulado por IA / Foto: INA FASSBENDER - AFP
Meta criticada desde dentro por sus "insuficientes" salvaguardas ante contenido manipulado por IA
Meta anunció el jueves que eliminó videos generados con inteligencia artificial contra dos mujeres, incluida una política británica, después de que el Consejo de Supervisión del gigante tecnológico considerara "insuficientes" las salvaguardas de la compañía frente a contenido manipulado por IA.
Este consejo, un órgano cuasi independiente financiado por Meta, señaló que estos casos contravenían las propias normas de la compañía sobre incitación al odio, desinformación y acoso.
El primer video muestra a una concejala del Partido Laborista en Escocia haciendo comentarios incendiarios sobre los refugiados. No existe ningún registro pública de esos comentarios, y ciertos detalles del video indican que ha sido manipulado, en particular la falta de sincronización labial.
El segundo video busca desacreditar a una activista musulmana y su labor como educadora en salud: la muestra consumiendo alimentos ultraprocesados mientras da consejos dietéticos y realiza ejercicios absurdos.
El Consejo de Supervisión argumentó que las normas de Meta eran "sistemática y fundamentalmente insuficientes" para abordar el flujo constante de contenido generado por IA en sus plataformas, como Facebook e Instagram.
"Estos casos ilustran un patrón más amplio y preocupante en el que las mujeres que se pronuncian públicamente sobre temas sociales son blanco desproporcionado de acoso y desinformación", declaró la copresidenta del consejo, Pamela San Martin.
La empresa matriz de Facebook anunció que acataría la decisión en un plazo de siete días. Meta está obligada a seguir las decisiones del Consejo de Supervisión, pero no sus recomendaciones.
"Meta, al igual que otras plataformas de redes sociales, necesita normas sólidas para abordar la proliferación de deepfakes (imágenes, videos o audios manipulados con IA para aparentar de forma realista algo que no ocurrió)", insistió San Martin.
Entre estas normas mencionó "una postura mucho más estricta respecto al etiquetado de contenidos engañosos, sanciones más severas para los reincidentes y la eliminación de los deepfakes destinados a acosar a personas".
La semana pasada, el Consejo de Supervisión recomendó que Meta no sustituyera su servicio profesional de verificación de datos por notas de la comunidad, un sistema participativo popularizado por X, la plataforma del multimillonario Elon Musk.
Esta recomendación se produjo después de que Meta anunciara que había comenzado a probar las notas de la comunidad en 16 países hispanohablantes de Latinoamérica.
La AFP actualmente trabaja en 26 idiomas con el programa global de verificación de datos de Meta, América Latina incluida.
L.Barone--PV
Destacadas