El passat 28 de febrer, a la Universitat Politècnica de Catalunya, es va celebrar un pànel debat vibrant i enriquidor sobre la governança de la intel·ligència artificial (IA). Amb la participació de persones expertes del sector, es van abordar les qüestions clau per assegurar que el desenvolupament de la IA sigui ètic, responsable i alineat amb els valors socials. La sessió va ser moderada per Thais Ruiz de Alda, de Digitalfems.
https://peertube.plataformess.org/w/fuWx6i5vMMRTh6ZkaRoKMa/ Consulta l’àudio.
L’experiència en la creació d’un marc regulador de IA
Rita Giménez, del Barcelona Music Tech HUB, va compartir la seva experiència en el sector musical tecnològic, destacant l’impacte de la regulació: «Regular una tecnologia que avança tan de pressa dona seguretat jurídica, però com s’adaptarà al que vingui? Perquè ens n’anem a tres anys vista per aplicar la llei, on estarem a tres anys vista?». Va mencionar que el procés legislatiu sovint posa barreres que limiten una governança més àmplia i flexible, afegint: «Un document important que val la pena fullejar és l’Interim Report que va publicar l’ONU on parla de governar la IA per la humanitat».
Cecilio Angulo, d’UPC-IDEAI, va subratllar la necessitat d’una perspectiva més educativa i menys restrictiva: «Crear una llei només per això no crec que sigui la millor opció, perquè ja tenim lleis. Cal educar la IA, per exemple amb els Creative Commons». També va destacar el focus en les dades: «Les dades donen el poder, però l’instrument és la IA. Com instrumentem aquesta governança a partir de l’AI Act?».
Thais Ruiz de Alda va ressaltar la importància de definir els límits de la IA per evitar riscos alts: «No pots anar a un laboratori i fer servir la IA, per exemple».
La visió de futur sobre la IA i els models de governança
Pol València, estudiant i president de Telecogresca i estudiant del Màster de Ciència de Dades, va expressar les seves preocupacions i esperances com a futur professional: «Veig molta ambigüitat en la legislació, perquè no se sap ben bé com acabarà regulant-se aquesta tecnologia. L’important per mi és educar a la futura gent professional que haurà d’aplicar els marcs».
Cecilio Angulo va afegir una perspectiva crítica sobre la regulació actual: «L’actual regulació és com posar portes al Sàhara. Hem de trobar formes de governar que siguin tan dinàmiques com la mateixa tecnologia». També va comparar el model democràtic europeu amb el xinès, subratllant que, a la Xina, els executors es converteixen en jutges, cosa que, segons ell, pot ser més eficient en alguns aspectes.
La IA generativa i la indústria musical
El debat també va abordar la qüestió dels drets d’autor en el context de la IA generativa. Rita Giménez va reflexionar sobre els desafiaments en la indústria musical: «El repartiment de drets d’autors és molt complex. Les empreses de IA han de respectar la legislació sobre drets d’autors, han d’augmentar la transparència sobre com han entrenat els models i també que qualsevol notifiqui i faci un recull de les referències que s’han fet servir».
Cecilio Angulo va destacar el conflicte entre tecnologia i mercat: «Un creador pot sortir al carrer, fer 40 fotos i crear una col·lecció nova de moda. En canvi, quan un tecnòleg es passa quatre anys dissenyant una llibreria, no hi ha mecanismes perquè cobri segons una justa mesura». Va subratllar la diferència entre la monetització i la creació, destacant que les intencions i els mecanismes per a cada cas són diferents.
Oleguer Segarra, de DRIBIA, va posar en relleu la complexitat d’implementar les lleis i la necessitat d’una visió a llarg termini: «Hi ha la llei i hi ha l’aplicació de la llei. Els efectes d’això només ho veurem a llarg termini, depèn com ho llegeixin els jutges. Estem una mica en el wait and see». També va remarcar que sense el codi obert, molts dels avenços en IA no serien possibles: «La IA generativa sense el codi obert no seria possible».
Algunes conclusions
El pànel va concloure amb una crida a la cooperació i la innovació en la governança de la IA. La necessitat d’una regulació flexible, l’educació contínua i la participació activa de tots els sectors implicats van ser temes centrals. Com va dir Cecilio Angulo: «Hem de trobar formes de governar que siguin tan dinàmiques com la mateixa tecnologia».
Aquest debat va ser un pas important cap a una comprensió més profunda i col·laborativa de com gestionar la IA de manera que beneficiï a tota la societat, assegurant que les seves aplicacions siguin justes, transparents i responsables.
