Com no pot ser d’una altra manera, la “norma” sempre “va darrere” de la societat, la ciència o la recerca. En aquest sentit, aquests últims temps assistim a la irrupció d’un nou fenomen que es projecta en infinitat d’escenaris: la intel·ligència artificial (d’ara endavant, la IA). El que fins ara semblava ser únicament un bon argument per a una pel·lícula futurista de ciència-ficció se’ns planteja, a partir de la popularització de determinades utilitats (per exemple, el ChatGPT), com una realitat tangible que ha començat a generar no pocs dubtes i inquietuds (riscos de manipulació de la realitat, pèrdua de la privacitat de les persones, desaparició de professions i llocs de treball o, fins i tot, riscos evidents per a la continuïtat de determinats sectors o empreses).
Diferents entitats nacionals i supranacionals ja van començar a avançar en l’intent de regular l’activitat relacionada amb aquesta nova tecnologia i, en concret, el Parlament Europeu ja va proposar l’abril del 2021 abordar un marc normatiu en aquest àmbit. Ja el 2024, el 12 de juliol passat, es va publicar l’anomenat Reglament d’intel·ligència artificial, que entrarà en vigor, amb caràcter general, el 2 d’agost de 2026.
S’entén per sistema d’intel·ligència artificial tot aquell que opera amb elements d’autonomia i que, sobre la base de dades i entrades obtingudes d’humans o màquines, infereix com assolir uns objectius proposats, mitjançant l’ús de tècniques basades en l’aprenentatge-màquina o en la lògica i el coneixement, i genera com a sortida continguts, prediccions, recomanacions o decisions que influeixen en l’entorn amb el qual el sistema interactua.
El reglament classifica els sistemes d’intel·ligència artificial en funció del risc que puguin generar:
• Risc inacceptable. Es prohibeixen els sistemes d’IA que representin un risc per a les persones, com ara els següents:
- La manipulació cognitiva del comportament.
- La classificació social de persones.
- Els sistemes d’identificació biomètrica en temps real.
- La puntuació social amb fins públics i privats.
- L’ús de tècniques subliminals.
- L'aprofitament dels punts vulnerables de les persones.
- El reconeixement d’emocions al lloc de treball i a les institucions educatives.
• Risc alt. S’han d’avaluar, abans de la comercialització i durant el cicle de vida, els sistemes d’IA següents:
- Els que es facin servir en productes subjectes a legislació sobre seguretat de productes (per exemple, joguines, aviació, automòbils, dispositius mèdics o ascensors).
- Els referents a les administracions públiques, a polítiques socials o d’estrangeria, a les assegurances de vida i salut, a la classificació creditícia de persones físiques i a la selecció, la promoció o la desvinculació d’empleats.
• Risc limitat. La resta dels sistemes no inclosos en els dos nivells anteriors es poden desenvolupar d’acord amb uns criteris senzills de transparència que permetin a l’usuari saber que interactua amb una màquina i decidir si fer servir o no l’aplicació i el contingut.
Per acabar, el reglament esmenta els sistemes que poden generar riscos sistèmics, com els models generatius d’intel·ligència artificial (generació de continguts a partir d’informació prèvia i premisses marcades per l’usuari). En aquest cas, han de complir obligacions addicionals d’avaluació i mitigació del risc, de comunicació en cas d’incidents i de protecció de la ciberseguretat, i els proveïdors d’aquests sistemes també poden acudir a codis de bones pràctiques per demostrar el compliment d’aquestes obligacions.
Així mateix, amb la finalitat de supervisar els models existents, s’ha creat l’Oficina Europea d’Intel·ligència Artificial i s’ha requerit els Estats membre a dotar-se d’estructures pròpies de supervisió (a Espanya ja es va aprovar l’any 2023 l’Estatut de l’Agència Espanyola de Supervisió d’Intel·ligència Artificial) i a generar entorns controlats de proves (sandbox) per assajar l’aplicació dels requisits que preveu la normativa (a Espanya, es va aprovar el primer entorn mitjançant el Reial decret 817/2023).
Definitivament, els sistemes d’intel·ligència artificial són i seran un dels motors principals de la renovació social, tecnològica i empresarial que comportaran canvis molt profunds, als quals hem d’estar especialment atents.
