El passat 6 de març, MusicData UPC va acollir una jornada dedicada a la intel·ligència artificial amb perspectiva de gènere, coneguda com GenderIA. Aquest esdeveniment va reunir expertes de diferents sectors per explorar l’impacte dels sistemes d’IA en la igualtat de gènere i discutir com aquests poden ser dissenyats per promoure la justícia i la inclusió.
Amb un debat enriquidor i la música en directe de DJ Ari Good2B, la jornada va ser un èxit rotund.
https://peertube.plataformess.org/w/mhdYzUBZ9ewG4Yn2AbpCXa/ Consulta el vídeo.
Què és el GenderIA?
GenderIA fa referència a l’aplicació de tècniques i tecnologies d’intel·ligència artificial per abordar qüestions relacionades amb els biaixos de gènere. L’objectiu és garantir que els sistemes d’IA es dissenyin, entrenin i despleguin de manera que promoguin la igualtat de gènere, evitant estereotips perjudicials i biaixos. Durant la sessió es va destacar la necessitat d’integrar consideracions de gènere en la recerca, el disseny de la IA, la governança i els metadades per crear tecnologies més justes i inclusives.
Visibilitzant les dones a la tecnologia
La primera pregunta de la jornada va ser sobre les trajectòries de les ponents i els seus interessos en la IA:
Natalia San Juan, directora de Femnøise, va explicar l’origen de l’organització sense ànim de lucre que des de 2017 té com a objectiu augmentar la participació activa de les dones i dissidents en el desenvolupament de les comunitats locals, rurals i urbanes en els àmbits de la cultura, l’educació, la tecnologia i les industries creatives. “El Fons Econòmic Mundial diu que només un 13% de dones treballen en IA.”, va afegir.
Thais Ruiz de Alda, fundadora de Digitalfems, va explicar la seva tasca en augmentar la presència de dones en entorns tecnològics: “Segons la ONU, els entorns masculinitzats generen dinàmiques tòxiques. El 22% de dones que treballen en entorns TIC han patit violència masclista.”
Olivia Prior, investigadora en anàlisi del càncer i experta en IA, va destacar la seva feina a l’Institut d’Oncologia de la Vall d’Hebron i també a Young it Girls: “Treballem amb imatges de pacients i desenvolupem algoritmes per predir si respondran al tractament. A les escoles fem un joc que es diu ‘Atrapa a la Hacker’ i la sorpresa és gran quan descobreixen que és una dona.”
Nataly Bulson, investigadora en IA i ciències socials, va afirmar: “La tecnologia no és neutra i depèn dels éssers humans. El meu treball és orientar-la cap a l’ètica, la responsabilitat i la transparència.”
Trencant les bretxes de gènere
Sobre les mesures per trencar les bretxes de gènere, Natalia San Juan va assenyalar que “l’algoritme és discriminatori i existeixen els biaixos racistes i masclistes. M’agrada la perspectiva del projecte Gender Innovation amb Stanford i la UE, que parla sobre la perspectiva de gènere a la ciència. Cal contemplar tres nivells: més participació de dones, canviar les polítiques i les institucions perquè les dones tinguin veu i introduir la perspectiva de sexe/gènere dins la investigació científica.”
Olivia Prior va insistir en la importància de les dades, explicant que “els algoritmes els fan els éssers humans, per tant tenen biaixos, però les dades són el més important. Com a investigadora, mai m’han demanat que tingui en compte la perspectiva de gènere, i això és molt greu.”
Thais Ruiz de Alda va destacar la governança com a clau: “Les plataformes de streaming amplifiquen les bretxes de gènere. El biaix ve de qui decideix com es generen les dades i els metadades. Les editorials haurien d’imposar la necessitat de fer investigacions amb perspectiva de gènere.”
Nataly Bulson va parlar de la importància de la governança ètica: “A Llatinoamèrica hi ha segells discogràfics que protegeixen les artistes amb la IA generativa. Hi ha tres tipus de biaixos: estadístics, cognitius, culturals/històrics. Quan parlem de ciència, operen aquests biaixos. Sobre la gnòmica, per exemple, vam fer un informe que destacava la importància de la regulació.”
Casos inspiradors d’IA amb perspectiva de gènere
Finalment, les ponents van compartir exemples d’IA amb perspectiva de gènere que consideren interessants:
Nataly Bulson va mencionar Q, el primer assistent de veu de gènere neutre, desenvolupat per investigadors de Copenhagen Pride, EqualAI i Virtue: “Un projecte que elimina el biaix de gènere en els assistents intel·ligents actuals.”
Thais Ruiz de Alda va subratllar tres passos clau: “Adonar-nos del problema, visibilitzar-ho amb ciència i fer propostes. MusicData UPC crearà un manifest per incorporar aquestes perspectives.”
Olivia Prior va concloure amb una reflexió sobre la responsabilitat de la recerca: “Fer recerca amb IA és un privilegi i cal fer-ho per tothom. Incloure la perspectiva de gènere i de diversitat en la ciència és fer-ho bé.”
Nataly Bulson va tancar amb una nota optimista: “Estem visibilitzant desigualtats i es prenen accions, com ara els comitès d’igualtat obligatoris a les empreses a Espanya. Hem de seguir treballant i creant aliances.”
Tancament amb DJ Session
Després del debat, la sessió es va tancar amb una actuació de DJ Ari Good2B, que va posar el punt final a una jornada plena de reflexions profundes i inspiradores, ballant al ritme de la igualtat i la inclusió. A més, és CEO & Agency Directo de Good2B, una agència formada per dones apasionades de la música, la gastronomia i la cultura.
