Grupos de la sociedad civil exigen medidas contra la desinformación "sexista" de la IA
Más de dos docenas de organizaciones internacionales de la sociedad civil pedirán a las principales empresas tecnológicas que refuercen sus políticas sobre inteligencia artificial (IA) para combatir la desinformación "sexista y misógina" que plaga las redes sociales, según el borrador de una carta abierta vista por la AFP este jueves.
La misiva, dirigida a los directores ejecutivos de los gigantes tecnológicos Meta, X, YouTube, TikTok, Snapchat y Reddit, llega en medio de un auge en internet de la pornografía falsa no consentida, así como del acoso y las estafas impulsadas por herramientas de IA económicas y ampliamente disponibles.
"Es evidente que estos daños no se sienten por igual", dice el texto, firmado por 27 organizaciones digitales y de derechos humanos, entre ellas UltraViolet, GLAAD, la Organización Nacional de Mujeres y MyOwn Image.
"En concreto, las mujeres, las personas trans y las personas no binarias corren un riesgo particular de sufrir los efectos adversos de los contenidos basados en IA en las redes sociales", añade el documento.
La carta, que según los grupos se hará pública el viernes, formula además una docena de recomendaciones para reforzar las políticas sobre esta poderosa tecnología.
Entre ellas, definir claramente las consecuencias de la publicación de material explícito no consentido -que debería incluir la suspensión de los infractores reincidentes-, implantar una herramienta de terceros para detectar imágenes generadas por IA y etiquetarlas claramente como tal.
Los grupos también exigieron un procedimiento coherente para que los usuarios señalen y denuncien los contenidos nocivos y que las plataformas realicen auditorías anuales exhaustivas de sus políticas de IA.
La carta llega apenas un mes antes de las que se anuncian como las primeras elecciones de Estados Unidos bajo el auge de la IA, el 5 de noviembre. La reñida carrera hacia la Casa Blanca ha sido testigo de una avalancha de desinformación, sobre todo de género.
Un blanco particular ha sido la candidata demócrata Kamala Harris, que ha afrontado narrativas misóginas y sexistas sobre su condición de ser la primera vicepresidenta negra, de origen surasiático y mujer en la historia de Estados Unidos.
"Estos daños nos silencian en internet, violan nuestro derecho a controlar nuestra propia imagen y distorsionan nuestras elecciones", aseguró Jenna Sherman, directora de campaña de UltraViolet.
"Las tecnologías de IA han facilitado aún más la creación y propagación del acoso y el abuso en línea por razón de género", anadió Ellen Jacobs, gerente senior de política digital de Estados Unidos en el Instituto para el Diálogo Estratégico, también firmante de la carta.
Los gigantes tecnológicos no respondieron inmediatamente a una solicitud de comentarios antes de la publicación de la misiva.