Instituto de Derechos Humanos revela algoritmo de Facebook contra la discriminación de género

Yakarta, CNN Indonesia —

Instituto de Derechos Humanos Europa decide que el algoritmo de anuncio de empleo Facebook muestra discriminación de género. La agencia evalúa que el algoritmo de Meta, empresa matriz de Facebook, refuerza los estereotipos de género.

El Instituto Holandés de Derechos Humanos dijo que los administradores de publicidad de Facebook en Europa no lograron demostrar que sus algoritmos no discriminaban por motivos de género. Por ello, pidieron a Facebook que revisara su sistema de algoritmos publicitarios para evitar que algo similar vuelva a suceder.

En su decisión emitida el 18 de febrero, la agencia afirmó que el algoritmo de Facebook reforzaba los estereotipos de género al mostrar mensajes sobre “profesiones comúnmente asociadas con mujeres” a usuarias de Facebook en los Países Bajos. La decisión de la agencia también reveló que los usuarios de Facebook en Europa estaban perdiendo oportunidades laborales debido al prejuicio de género.

Lanzamiento cnnLa organización internacional sin fines de lucro Global Witness también investigó en 2023 los anuncios de ofertas de empleo en Facebook. Como resultado, descubrieron que los anuncios en los Países Bajos y otros cinco países a menudo se dirigían a usuarios basándose en estereotipos de género.

Por ejemplo, los anuncios para puestos de mecánico se muestran principalmente a hombres, mientras que los anuncios para puestos de maestra de jardín de infantes se muestran principalmente a mujeres. Global Witness dijo que sus experimentos en los Países Bajos, Francia, India, Irlanda, el Reino Unido y Sudáfrica mostraron que el algoritmo mantiene sesgos similares en todo el mundo.

La investigación de la organización sin fines de lucro dio lugar a cuatro denuncias de Bureau Clara Wichmann y del grupo francés de derechos humanos Fondation des Femmes.

Un portavoz de Meta dijo que la compañía no haría comentarios sobre el asunto.

Ashley Settle, portavoz de Meta, dijo anteriormente que Meta utiliza “restricciones de orientación para los anunciantes al configurar campañas para anuncios de empleo, vivienda y crédito”. Estas restricciones de segmentación de audiencia se aplican en más de cuarenta países y territorios europeos, incluidos Francia y los Países Bajos, según Meta.

“No permitimos que los anunciantes orienten estos anuncios en función del género”, dijo Settle en un comunicado de 2023.

“Continuamos trabajando estrechamente con partes interesadas y expertos de una variedad de campos, incluidos el mundo académico, grupos de derechos humanos y otras disciplinas, para explorar las mejores formas de investigar y abordar la equidad de los algoritmos”. continuó.

Berty Bannor, del Bureau Clara Wichmann, celebró la decisión de la agencia holandesa. Dijo que la decisión era muy importante.

“Hoy es un gran día para los usuarios de Facebook en los Países Bajos, que ahora tienen un mecanismo accesible para responsabilizar a las empresas tecnológicas multinacionales como Meta y garantizar que los derechos que disfrutan en el mundo real también estén garantizados en el espacio digital”, dijo Bannor.

“Veo esto como un primer paso para demostrar que las leyes antidiscriminatorias se aplican por igual a las grandes empresas tecnológicas que al mundo fuera de línea”, añadió.

Rosie Sharpe, investigadora principal sobre amenazas digitales de Global Witness, dijo que el fallo marca un paso importante para responsabilizar a las empresas de tecnología por la forma en que diseñan sus servicios y el impacto discriminatorio que sus algoritmos pueden tener en las personas.

“Esperamos que esta decisión pueda utilizarse como base para futuras acciones, tanto en Europa como fuera de Europa”, afirmó Rosie.

Sin embargo, las decisiones tomadas por el Instituto Holandés de Derechos Humanos no tienen fuerza jurídica vinculante. Los expertos dicen que los casos continúan aumentando y que los tribunales deberán considerar las conclusiones del Instituto.

El abogado holandés de inteligencia artificial y derechos digitales Anton Ekker dijo que la decisión de la agencia podría resultar en multas de las autoridades holandesas de protección de datos u órdenes para cambiar ciertos algoritmos, especialmente aquellos que crean desigualdades y dañan desproporcionadamente a grupos marginados por motivos de religión, raza o género.

Si Meta no toma medidas contra el algoritmo de publicidad laboral, las ONG pueden optar por emprender acciones legales adicionales para detener el uso discriminatorio del algoritmo.

Según Bannor, la decisión del gobierno holandés se tomó en medio de un debilitamiento de la protección de los derechos digitales, especialmente para las mujeres y los grupos marginados.

El mes pasado, Meta anunció que descontinuaría su programa de diversidad, equidad e inclusión. También cambiarán las políticas de su plataforma con respecto a la conducta de odio y pondrán fin a los programas de verificación de datos de terceros en los Estados Unidos.

Por ejemplo, secciones de la política que anteriormente prohibían ese tipo de discurso y que desde entonces han sido eliminadas ahora permiten a los usuarios referirse a “las mujeres como objetos o propiedad del hogar” o a “las personas transgénero o no binarias como” eso.

Durante los últimos diez años, Meta ha enfrentado varias acusaciones de discriminación, incluidas demandas en los Estados Unidos relacionadas con crédito, empleo y publicidad de viviendas. Como resultado, la empresa cambió el algoritmo utilizado para la publicidad en Estados Unidos.

(wpj/dmi)

(Gambas: vídeo de CNN)