Em foco: Regulamento da UE sobre Inteligência Artificial

«The EU's AI Act is the first-ever comprehensive legal framework on Artificial Intelligence worldwide. This is a historic moment» (Ursula von der Leyen)

Em Dezembro de 2023, os representantes do Parlamento Europeu e do Conselho Europeu chegaram, finalmente a um consenso político decisivo relativo ao texto do Regulamento sobre Inteligência Artificial (IA), consenso esse que procura estimular o investimento e a inovação no domínio da IA, garantindo, simultaneamente, o respeito pelos direitos fundamentais da União. Abriu-se, assim, o caminho para a implementação de padrões globais inspirados nos valores que norteiam a União (tal como sucedeu com o Regulamento Geral de Protecção de Dados), ecoando o modelo europeu que Jacques Delors, incansável arquitecto da Europa Comunitária (falecido a 27 de Dezembro) ajudou a construir.

Antes de mais, os sistemas de IA são classificados de acordo com o seu grau de risco no que respeita aos direitos fundamentais:

• São nomeadamente considerados inaceitáveis e consequentemente proibidos sistemas que visam (i) a categorização biométrica para inferir dados sensíveis (por exemplo, crenças religiosas, filosóficas, orientação sexual ou raça), (ii) a recolha não selectiva de imagens faciais obtidas na Internet ou CCTV para criação de bases de dados de reconhecimento facial, (iii) o reconhecimento de emoções no local de trabalho e nos estabelecimentos de ensino, (iv) a classificação social, (v) a manipulação cognitiva comportamental, (vi) qualquer utilização da IA que explore fragilidades humanas (por exemplo, a idade, deficiências e situação socioeconómica) e (vi) alguns casos de policiamento preditivo de pessoas singulares;
• Os sistemas de IA de risco elevado (por exemplo, os sistemas de IA usados para manipulação de eleitores ou implementados nos sectores da banca e dos seguros) são lícitos desde que cumpram certos requisitos (por exemplo, avaliação prévia do seu impacto sobre os direitos fundamentais, mitigação de riscos, dados de alta qualidade, documentação detalhada e supervisão humana), requisitos esses que se configuram agora menos onerosos que noutras versões da lei (por exemplo, no respeitante à qualidade dos dados e à documentação técnica fornecida por PMEs);
• Os sistemas de IA que comportem um risco limitadoficam apenas sujeitos a obrigações de transparência (por exemplo, identificar conteúdos gerados por IA, contribuindo para a distinção entre deepfakes e conteúdos reais).

Os sistemas e os modelos de IA de uso geral (general-purpose AI ou GPAI) são alvo de regras específicas. Os sistemas de IA de uso geral e os modelos em que esses sistemas se alicerçam terão de cumprir certos requisitos de transparência (por exemplo, no atinente à elaboração de documentação técnica, ao acatamento do Direito de Autor e à disseminação de sumários detalhados relativos aos dados usados no âmbito do processo de aprendizagem automática). Já os modelos de base de grande impacto (modelos cuja aprendizagem requer elevada quantidade de dados, caracterizados por grande complexidade, capacidades e desempenho muito acima da média e que podem disseminar riscos sistémicos ao longo da cadeia de valor) obedecerão a um regime mais rigoroso (por exemplo, a divulgação de informações sobre segurança e eficiência energética). Caberá, em última instância, às empresas avaliar se os seus modelos de IA (por exemplo, o GPT-4 da OpenAI ou o Gemini da Google) são abrangidos por este regime mais rigoroso com base nos recursos computacionais necessários para realização do respectivo processo de aprendizagem automática.

Em sede de ressalvas, o regulamento não afecta as competências dos Estados Membros em matéria de segurança nacional, não sendo aplicável a sistemas de IA utilizados exclusivamente para fins militares ou de defesa, de investigação e inovação, ou não profissionais. Mais, o regulamento prevê, por exemplo, a possibilidade de utilização de sistemas de identificação biométrica - à distância em tempo real em espaços públicos - no contexto de 16 crimes específicos (por exemplo, terrorismo, tráfico humano, exploração sexual de crianças e tráfico de estupefacientes) mediante autorização judicial prévia.

Para assegurar a sua boa observância, o regulamento estabelece uma estrutura de governação (que integra um Serviço IA no seio da Comissão, um painel científico de peritos independentes, uma Comissão  IA composta por representantes dos Estados Membros e um fórum consultivo para as partes interessadas) e estipula coimas por incumprimento que vão de 35 milhões de Euros (ou 7% do volume de negócios anual global) a 7,5 milhões de Euros (ou 1,5 % do volume de negócios anual global) dependendo do tipo de infracção e da dimensão da entidade infractora.

Com vista a promover a inovação, determina o regulamento que os ambientes de testagem da regulamentação da IA que pretendem criar um ambiente controlado para o desenvolvimento, a testagem e a validação de sistemas inovadores de IA, permitirão essa testagem em condições reais, em condições específicas e mediante a aplicação de salvaguardas.

Findas as negociações técnicas no seio do trílogo (que inclui representantes do Parlamento Europeu, da Comissão Europeia e do Conselho Europeu), seguem-se a aprovação do texto de compromisso pelos representantes dos Estados Membros (Coreper), a confirmação formal do texto integral e a sua revisão jurídico-linguística, sendo o regulamento aplicável (segundo o acordo provisório) 2 anos após a sua entrada em vigor.

(Nota: A autora não escreve de acordo com o novo acordo ortográfico)

Patricia Akester é fundadora de GPI/IPO, Gabinete de Jurisconsultoria (www.gpi-ipo.com)