El Diari Oficial de la Unió Europea (DOUE) ha publicat un reglament en matèria d’intel·ligència artificial que no serà aplicable amb caràcter general fins al 2 d’agost de 2026 si bé algunes de les seves previsions s’aplicaran abans.
La intel·ligència artificial ha arribat per quedar-se, i suposadament per millorar la nostra vida. Per això és obligatori que la Unió Europea la reguli a causa de les implicacions que puguin arribar a tenir.
La normativa ha estat publicada com el Reglament 2024/1689, pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial.
Entrada en vigor
La nova normativa no s’aplicarà fins al 2 d’agost de 2026 si bé les següents regulacions entraran en les dates que indiquem a continuació:
- A partir del 2 de febrer de 2025: entrarà en vigor la prohibició de determinades pràctiques relacionades amb la intel·ligència artificial (IA).
- A partir del 2 d’agost de 2025: entraran en vigor les previsions relatives:
- Als organismes notificats.
- Als sistemes d’IA generals, però que impliquen riscos sistèmics.
- Al sistema de governança de la IA a Europa.
- Bona part de l’arsenal sancionador.
- A partir del 2 d’agost de 2027: entrarà en vigor la regulació d’uns certs sistemes d’IA d’alt risc
- Que siguin components de seguretat d’uns certs productes
- Que constitueixin en si mateixos aquests productes caracteritzats per requerir-se una avaluació de seguretat per a la seva comercialització o posada en servei (per exemple, màquines, joguines, ascensors o productes sanitaris-).
Protecció de dades
No hem d’oblidar que la IA és un risc brutal en l’àmbit de protecció de dades. Al cap i a la fi, les IA “aprenen”, però la gran pregunta és si aprenen respectant la protecció de dades o no. No és el mateix que una IA utilitzi les dades de tots els usuaris per a “saber coses”, que no les utilitzi.
Si no utilitza les dades la IA serà menys efectiva, però serà més respectuosa amb la normativa europea. La seva aplicació objectiva és la definició del que hem d’entendre com a intel·ligència artificial, i deixa fora poques coses.
Àmbit d’aplicació del Reglament
Que queda inclòs en el Reglament ? El Reglament parteix d’una àmplia definició del que s’ha d’entendre per IA i deixa fora del seu àmbit d’aplicació només algunes manifestacions concretes d’aquests sistemes.
Que queda fora del Reglament ?
- L’aplicació de la IA per a fins militars.
- Els sistemes que tingui com a finalitat el desenvolupament científic.
En definitiva es tracta de regular els sistemes d’IA, per a fins comercials i de serveis, però queda fora la recerca científica, militar, seguretat nacional, etc.
Mecanismes de control
Com a mecanismes de control, hi ha tres nivells de risc definits pel Reglament.
Risc inadmissible, és el que quedarà prohibit i que va contra la UE i la seva normativa. Per exemple:
- La puntuació social.
- Les tècniques subliminals
- Aprofitar la vulnerabilitat de les persones.
- Categoritzar-les biomètricament o reconèixer emocions, sobretot si no és en l’àmbit privat.
Alt risc, que inclouria tots els sistemes amb IA que impliquen joguines, ascensors, vehicles de motor, etc. i també els sistemes d’assegurances de vida i salut, classificació creditícia de les persones, promoció, acomiadament de personal, etc.
Quant a l’alt risc hi ha molta classificació i és molt extens, a causa de la matèria que és molt abstracta.
Risc baix, que són els límits on la IA es pot desenvolupar tranquil·lament, però per descomptat conformement a la normativa vigent, i sotmès a règim d’obligacions d’informació. Es podran adherir a codis de conducta de la UE.
Convé tenir en compte que els sistemes generals d’IA, com el CHAT GPT o GEMINI, comporten riscos sistèmics, poden causar accidents greus, ser utilitzats indegudament, ser utilitzats per a ciberatacs, etc.
Estructura administrativa de control i règim sancionador
Es dissenya una estructura administrativa de control i règim sancionador, de fet, a Espanya ja tenim l’AGÈNCIA ESPANYOLA DE SUPERVISIÓ D’INTEL·LIGÈNCIA ARTIFICIAL (Reial decret 729/2023, de 22 d’agost), que ha d’inspeccionar, comprovar i sancionar en cas de mal ús.
En l’àmbit europeu, l’OFICINA EUROPEA D’INTEL·LIGÈNCIA ARTIFICIAL serà l’organisme de control al qual corresponen importants funcions.
Atenció. Les multes per infraccions del Reglament d’intel·ligència artificial s’han fixat com un percentatge del volum de negocis anual global de l’empresa infractora en l’exercici financer anterior o un import predeterminat, si aquest fos superior, i poden arribar fins als 35 milions d’euros o el 7% del volum de negocis anual total a escala mundial de l’infractor durant l’exercici financer anterior, si aquest import fos superior.
