A Eurocámara aproba a Lei de Intelixencia Artificial

O Parlamento Europeo aprobou a Lei de Intelixencia Artificial en cumprimento do acordado nas negociacións cos estados membros en decembro de 2023. O regulamento contou co apoio do Parlamento Europeo con 523 votos a favor, 46 en contra e 49 abstencións.
O seu obxectivo é protexer os dereitos fundamentais, a democracia, o estado de dereito e a sustentabilidade medioambiental fronte á IA que supón un alto risco, impulsando ao mesmo tempo a innovación e erixindo a Europa como líder do sector. O regulamento establece unha serie de obrigacións para a IA en función dos seus riscos potenciais e o seu nivel de impacto.

Aplicacións prohibidas

As novas normas prohiben certas aplicacións de intelixencia artificial que atentan contra os dereitos da cidadanía, como os sistemas de categorización biométrica baseados en características sensibles e a captura indiscriminada de imaxes faciais da Internet ou gravacións de cámaras de vixilancia para crear bases de datos de recoñecemento facial. Tamén se prohibirán o recoñecemento de emocións no lugar de traballo e nas escolas, os sistemas de puntuación cidadá, a actuación policial preditiva (cando se base unicamente no perfil dunha persoa ou na avaliación das súas características) e a IA que manipule o comportamento humano ou explore as vulnerabilidades das persoas.

Exencións das forzas de seguridade

Brando Benifei foi un dos relatores do regulamento

O uso de sistemas de identificación biométrica por parte das forzas de seguridade queda prohibido a priori, salvo en situacións moi concretas e ben definidas. Os sistemas de identificación biométrica en tempo real só poderán empregarse de cumprirse unha serie de salvagardas estritas; por exemplo, o seu uso limítase a un período e lugar específicos e conta cunha autorización xudicial ou administrativa previa. Entre estes casos poden figurar a busca selectiva dunha persoa desaparecida ou a prevención dun atentado terrorista. Recorrer a estes sistemas a posteriori considérase un uso de alto risco, que require autorización xudicial ao estar vinculado a un delito penal.

Obrigacións para os sistemas de alto risco

Tamén prevese obrigacións claras para outros sistemas de IA de alto risco (debido a que poden ser moi prexudiciais para a saúde, a seguridade, os dereitos fundamentais, o medio ambiente, a democracia e o estado de dereito). Algúns exemplos de usos de alto risco da IA son as infraestruturas críticas, a educación e a formación profesional, o emprego, os servizos públicos e privados esenciais (por exemplo, a sanidade ou a banca), determinados sistemas das forzas de seguridade, a migración e a xestión aduaneira, a xustiza e os procesos democráticos (como influír nas eleccións). Estes sistemas deben avaliar e reducir os riscos, manter rexistros de uso, ser transparentes e precisos e contar cunha supervisión humana. Os cidadáns terán dereito a presentar reclamacións sobre os sistemas de IA e a recibir explicacións sobre as decisións baseadas neles que afecten aos seus dereitos.

Requisitos de transparencia

Dragoş Tudorache foi un dos encargados de presentar o novo regulamento ante a Eurocámara

Os sistemas de IA de uso xeral e os modelos nos que se basean deben cumprir certos requisitos de transparencia, respectar a lexislación da UE sobre dereitos de autor e publicar resumos detallados do contido usado para adestrar os seus modelos. Os modelos máis potentes que poderían supor riscos sistémicos deberán cumprir requisitos adicionais, como realizar avaliacións dos modelos, analizar e mitigar os riscos sistémicos e informar sobre os incidentes.
Ademais, as imaxes, contidos de audio ou de vídeo artificiais ou manipulados (ultrafalsificacións) deberán etiquetarse claramente como tales.

Medidas de apoio á innovación e ás pemes

Hai que poñer á disposición das pemes e das empresas emerxentes espazos controlados de probas e ensaios en condicións reais a nivel nacional para que poidan desenvolver e adestrar a IA innovadora antes da súa comercialización.

Vindeiros pasos

O regulamento aínda está suxeito a unha última comprobación xurídico-lingüística. A súa aprobación definitiva (mediante o chamado procedemento de corrección de erros) está prevista para antes do final da lexislatura. A lei tamén debe ser adoptada formalmente polo Consello.
Entrará en vigor vinte días despois da súa publicación no Diario Oficial e será de plena aplicación vinte e catro meses despois da súa entrada en vigor, con excepción de: as prohibicións de prácticas (aplicaranse seis meses despois da data de entrada en vigor); os códigos de boas prácticas (nove meses despois); as normas sobre a IA de uso xeral, incluída a gobernanza (doce meses despois), e as obrigacións para os sistemas de alto risco (trinta e seis meses despois).