Foto: Freepik
L’Ajuntament de Barcelona ha aprovat el protocol intern “Definició de metodologies de treball i protocols per a la implementació dels sistemes algorítmics”, un document que pretén garantir la coherència amb els estàndards legals, ètics i tècnics de qualsevol sistema d’Intel·ligència Artificial que s’implanti dins l’àmbit d’influència de la ciutat.
Aquest és un document pioner pel que fa a la regulació i la governança d’aquests sistemes i neix amb la intenció de protegir els drets dels ciutadans en el procés de licitació i implementació. En cal local, conjuga el procés de contractació publica, el cicle de vida d’un sistema algorítmic, els mecanismes existents al consistori sobre protecció de dades i els estàndards ètics que defineixen diferents administracions i organitzacions.
El protocol que es posarà en pràctica a Barcelona es fixa en la proposta de regulació de la Comissió Europea sobre la IA, que defineix diferents tipus d’actuacions de garantia de dreta segons el nivell de risc que presenta el sistema algorítmic. Si el risc és inacceptable perquè suposen una amenaça clara per a la seguretat i els drets de les persones, són rebutjats automàticament. En cas que siguin sistema d’un risc alt, el protocol ha establert un seguit de mecanismes de garantia més estrictes que per a aquells casos de risc limitat o mínim.
Aquesta nova guia s’emmarca dins la mesura de govern de l’Estratègia municipal d’algorismes i dades per a l’impuls ètic de la Intel·ligència Artificial, que va aprovar-se el 2021. És previst que durant el 2023 rebin el vistiplau altres actuacions dins d’aquesta estratègia, com la posada en marxa d’un registre públic d’algoritmes i la creació d’un consell assessor extern que redacti els estudis d’impacte algorítmic definits al document.
