Las líneas rojas de la Inteligencia Artificial: esto es lo que no podrá hacer en Europa

La Unión Europea aprobó ayer la primera ley del mundo que regula el desarrollo de aplicaciones de inteligencia artificial. Con 523 votos a favor y 46 en contra, el reglamento recibió un apoyo mayoritario, muestra del consenso existente entre partidos de diferente ideología sobre la necesidad de establecer límites claros al desarrollo de una tecnología llamada a cambiar el mundo.

«Es un paso muy positivo, porque crea un marco jurídico para el sector y avanza hacia la soberanía tecnológica europea», afirma Sergio de Juan Creix, experto en derecho digital y profesor de la Universitat Oberta de Catalunya. Ana Herrán, profesora de Derecho Civil de la Universidad de Deusto, concuerda: «Es relevante porque deja atrás las múltiples recomendaciones que había y pone en marcha un reglamento de aplicación obligatoria e inmediata, aunque se irá implementando por fases hasta 2026».

Desde ahora, la UE prohibirá el uso y desarrollo de sistemas de IA cuyo riesgo sea considerado inadmisible para la sociedad –entre ellos la policía predictiva, la vigilancia masiva por reconocimiento facial, o el control de emociones en el entorno laboral–, vigilará las IA consideradas de riesgo y aquellas con aplicaciones peligrosas, e identificará claramente los contenidos generados por programas de inteligencia artificial generativa como ChatGPT, que deberán respetar en todo caso los derechos de copyright. En este último caso, los contenidos que sean creados de esta manera tendrán que incluir una marca de agua que deje clara su procedencia.

Incluye, con todo, varias excepciones a la norma y señala que se podrá utilizar bajo autorización judicial para prevenir una amenaza terrorista inminente o para localizar o identificar a autores de delitos de terrorismo o tráfico de personas, entre otros.

No en vano, este fue uno de los puntos más peliagudos en las negociaciones entre los Veintisiete y la Eurocámara, ya que el Parlamento Europeo defendía la prohibición total de la vigilancia biométrica en espacios públicos. Finalmente se han incluido excepciones, pero bajo «estrictas salvaguardas» para evitar un posible uso abusivo por parte de las autoridades nacionales. Herrán destaca que los Estados tendrán «muy poco margen de maniobra, como ha sucedido con la ley de datos personales».

Más escéptico se muestra Gonzalo Martínez, profesor investigador de Derecho Constitucional y coordinador de Derecho Digital en Deusto. Aunque está convencido de que es un paso en la dirección correcta, duda de que su aplicación vaya a ser efectiva. «Es como poner puertas al campo. Sin una legislación global, tiene poco alcance y será fácil saltársela. Solo hay que salir de la UE», señala. Sin duda, eso restará efectividad al organismo que velará por el buen uso de estas tecnologías y a las respectivas instituciones de supervisión nacionales.

Además, luego está el rifirrafe que han provocado el choque del reglamento con las legislaciones de propiedad intelectual y propiedad industrial. «¿Cómo se entrena una IA? ¿Paga derechos por los contenidos de los que se nutre?», pregunta Martínez, señalando también la dificultad para conciliar algoritmos transparentes con la propiedad industrial que protege todo lo que las empresas desarrollan. Por ejemplo, ¿revelará TikTok los secretos de su polémico algoritmo?

En lo que sí coinciden todos los expertos es en que la legislación se ha hecho pensando en que no quede obsoleta rápido. «Es una ley tecnológicamente neutra», subraya De Juan. Eso permitirá que regule cualquier nuevo sistema. Por otro lado, y a diferencia de lo que ha sucedido con los gigantes de Internet, que no sufren castigos severos por sus violaciones de la legalidad, en esta ocasión los infractores tendrán que hacer frente a sanciones que llegarán hasta el 6% de la facturación global. «Creo que las multas serán suficientemente disuasorias», afirma el eurodiputado del PP Javier Zarzalejos.

A pesar de todo, la ley tiene detractores. Además de aquellos que critican la falta de concreción en asuntos como el de la propiedad intelectual, otros temen que este marco jurídico constriña el desarrollo de tecnología en Europa, que podría así convertirse en una colonia tecnológica de quienes llevan la batuta: Estados Unidos y China. «Es evidente que tendrá un impacto en la economía, en las empresas y en la Administración, aunque es pronto para vaticinar cuál será. Personalmente, creo que centra el camino por el que debe ir la innovación, que ha de ser responsable y seguro», señala Herrán.

Tanto ella como De Juan se sienten ahora más protegidos. «Sobre todo si se compara con un chino o un estadounidense», puntualiza él. «El ciudadano debe tener la tranquilidad de que Europa está preocupada y ocupada», sentencia Herrán. Y ambos docentes coinciden en que la nueva ley puede servir de inspiración para otros países, aunque reconocen que la tecnología siempre avanza más rápido que la regulación. «Habrá que ver qué sucede cuando irrumpa la computación cuántica», se pregunta De Juan.

• Temas
• TikTok
• China
• Estados Unidos
• Europa
• Inteligencia artificial
• Internet