El pasado 28 de febrero, en la Universidad Politécnica de Cataluña, se celebró un panel debate vibrante y enriquecedor sobre la gobernanza de la inteligencia artificial (IA). Con la participación de expertos del sector, se abordaron las cuestiones clave para asegurar que el desarrollo de la IA sea ético, responsable y alineado con los valores sociales. La sesión fue moderada por Thais Ruiz de Alda, de Digitalfems.
https://peertube.plataformess.org/w/fuWx6i5vMMRTh6ZkaRoKMa/ Consulta el audio.
La experiencia en la creación de un marco regulador de IA
Rita Giménez, del Barcelona Music Tech HUB, compartió su experiencia en el sector musical tecnológico, destacando el impacto de la regulación: «Regular una tecnología que avanza tan rápido da seguridad jurídica, pero ¿cómo se adaptará a lo que venga? Porque nos vamos a tres años vista para aplicar la ley, ¿dónde estaremos a tres años vista?». Mencionó que el proceso legislativo a menudo pone barreras que limitan una gobernanza más amplia y flexible, añadiendo: «Un documento importante que vale la pena hojear es el Interim Report que publicó la ONU donde habla de gobernar la IA para la humanidad».
Cecilio Angulo, de UPC-IDEAI, subrayó la necesidad de una perspectiva más educativa y menos restrictiva: «Crear una ley solo para esto no creo que sea la mejor opción, porque ya tenemos leyes. Hay que educar a la IA, por ejemplo con los Creative Commons». También destacó el enfoque en los datos: «Los datos dan el poder, pero el instrumento es la IA. ¿Cómo instrumentamos esta gobernanza a partir del AI Act?».
Thais Ruiz de Alda resaltó la importancia de definir los límites de la IA para evitar riesgos altos: «No puedes ir a un laboratorio y usar la IA, por ejemplo».
La visión de futuro sobre la IA y los modelos de gobernanza
Pol València, estudiante y presidente de Telecogresca y estudiante del Máster de Ciencia de Datos, expresó sus preocupaciones y esperanzas como futuro profesional: «Veo mucha ambigüedad en la legislación, porque no se sabe bien cómo acabará regulándose esta tecnología. Lo importante para mí es educar a los futuros profesionales que tendrán que aplicar los marcos».
Cecilio Angulo añadió una perspectiva crítica sobre la regulación actual: «La actual regulación es como poner puertas al Sáhara. Tenemos que encontrar formas de gobernar que sean tan dinámicas como la misma tecnología». También comparó el modelo democrático europeo con el chino, subrayando que, en China, los ejecutores se convierten en jueces, lo que, según él, puede ser más eficiente en algunos aspectos.
La IA generativa y la industria musical
El debate también abordó la cuestión de los derechos de autor en el contexto de la IA generativa. Rita Giménez reflexionó sobre los desafíos en la industria musical: «El reparto de derechos de autor es muy complejo. Las empresas de IA deben respetar la legislación sobre derechos de autor, deben aumentar la transparencia sobre cómo han entrenado los modelos y también que cualquiera notifique y haga un recopilación de las referencias que se han utilizado».
Cecilio Angulo destacó el conflicto entre tecnología y mercado: «Un creador puede salir a la calle, hacer 40 fotos y crear una nueva colección de moda. En cambio, cuando un tecnólogo pasa cuatro años diseñando una librería, no hay mecanismos para que cobre según una justa medida». Subrayó la diferencia entre la monetización y la creación, destacando que las intenciones y los mecanismos para cada caso son diferentes.
Oleguer Segarra, de DRIBIA, destacó la complejidad de implementar las leyes y la necesidad de una visión a largo plazo: «Existe la ley y existe la aplicación de la ley. Los efectos de esto solo los veremos a largo plazo, depende de cómo lo lean los jueces. Estamos un poco en el wait and see». También destacó que sin el código abierto, muchos de los avances en IA no serían posibles: «La IA generativa sin el código abierto no sería posible».
Algunas conclusiones
El panel concluyó con una llamada a la cooperación y la innovación en la gobernanza de la IA. La necesidad de una regulación flexible, la educación continua y la participación activa de todos los sectores implicados fueron temas centrales. Como dijo Cecilio Angulo: «Tenemos que encontrar formas de gobernar que sean tan dinámicas como la misma tecnología».
Este debate fue un paso importante hacia una comprensión más profunda y colaborativa de cómo gestionar la IA de manera que beneficie a toda la sociedad, asegurando que sus aplicaciones sean justas, transparentes y responsables.
