As negociações, mediadas pelo comissário europeu para o Mercado Interno, Thierry Breton, tiveram início na tarde de quarta-feira, prolongaram-se pela noite dentro e foram suspensas ao fim de 22 horas para dar alguma descanso aos negociadores que estão confrontados com mais de 23 pontos de debate, refletindo o carácter extremamente técnico da legislação.
"Nas últimas 22 horas, registaram-se muitos progressos no que se refere à Lei da IA", afirmou Thierry Breton, na rede social X.
A lei é considerada a primeira tentativa mundial de regulamentar a inteligência artificial, uma tecnologia com uma capacidade de evolução surpreendente e muitas vezes imprevisível, de uma forma abrangente, baseada na ética e sustentabilidade ambiental.
Esta legislação tem sido alvo de intenso lóbi por parte das multinacionais de tecnologia e das empresas "start up" do setor, bem como de organizações da sociedade civil, e o intenso escrutínio da imprensa.
O Parlamento Europeu e o Conselho da UE (que representa os 27 Estados-membros), comprometeram-se a dar uma segunda oportunidade ao projeto na sexta-feira, a partir das 9h00.
Alguns eurodeputados também afirmaram que foram alcançados progressos consideráveis, sem fornecer mais pormenores por razões de confidencialidade.
Algumas das questões mais complexas são a regulamentação dos modelos de fundação que alimentam os chatbots, como o revolucionário ChatGPT da OpenAI, e as excepções específicas para a utilização da identificação biométrica em tempo real em espaços públicos.
Mesmo que haja um acordo provisório a nível político, na sexta-feira, serão provavelmente necessárias mais consultas para afinar todos os pormenores técnicos. Uma vez reescrito o projeto de lei, que tem centenas de páginas de artigos e anexos, este será enviado ao Parlamento Europeu para uma nova votação no hemiciclo, seguida de votação do Conselho da UE.
A lei deverá entrar em vigor em 2026.
Uma tecnologia em constante evolução com 4 níveis de risco
Apresentada pela primeira vez, em abril de 2021, a Lei da IA visa garantir que a tecnologia seja desenvolvida de uma forma centrada no ser humano e eticamente responsável, que previna e contenha as suas consequências mais prejudiciais.
A lei é, essencialmente, um regulamento de segurança dos produtos, que impõe um conjunto escalonado de regras que as empresas têm de seguir antes de oferecerem os seus serviços aos consumidores, em qualquer parte do mercado único do bloco.
É proposta uma estrutura piramidal que divide os produtos alimentados por IA em quatro categorias principais, de acordo com o risco potencial que representam para a segurança dos cidadãos e os seus direitos fundamentais: mínimo, limitado, elevado e inaceitável.
Os que se enquadram na categoria de risco mínimo estarão isentos de regras adicionais, enquanto os rotulados como de risco limitado terão de cumprir obrigações básicas de transparência.
Os sistemas considerados de alto risco estarão sujeitos a regras rigorosas que se aplicarão antes de entrarem no mercado da UE e durante todo o seu tempo de vida, incluindo actualizações substanciais.
Este grupo englobará aplicações que têm um impacto direto e potencialmente transformador na vida dos cidadãos, como o software de triagem de CV para entrevistas de emprego, a cirurgia assistida por robôs e os programas de classificação de exames nas universidades.
Os produtos de IA de alto risco terão de ser submetidos a uma avaliação de conformidade, registados numa base de dados da UE, com uma declaração de conformidade e ostentar a marcação CE - tudo isto antes de chegarem aos consumidores. Quando estiverem disponíveis, ficarão sob o controlo das autoridades nacionais. As empresas que violarem as regras serão sujeitas a multas de vários milhões de euros.
Os sistemas de IA que representem um risco inaceitável para a sociedade, incluindo a pontuação social para controlar os cidadãos e as aplicações que exploram vulnerabilidades socioeconómicas, serão totalmente proibidos em todo o território da UE.
A "revolução" provocada pels chatbots
Embora esta abordagem baseada no risco tenha sido bem recebida em 2021, sofreu uma grande pressão no final de 2022, quando a OpenAI lançou o ChatGPT. Este sistema foi rapidamente seguido pelo Bard da Google (NASDAQ:GOOGL), pelo Bing Chat da Microsoft (NASDAQ:MSFT) e, mais recentemente, pelo Q da Amazon (NASDAQ:AMZN).
Os chatbots são alimentados por modelos de base, que são treinados com grandes quantidades de dados, como texto, imagens, música, voz e código, para realizar um conjunto vasto e fluido de tarefas que podem mudar ao longo do tempo, em vez de terem um objetivo específico e inalterável.
A proposta original da Comissão Europeia não introduziu quaisquer disposições para os modelos de fundação, obrigando os legisladores a acrescentar um artigo inteiramente novo com uma extensa lista de obrigações para garantir que estes sistemas respeitam os direitos fundamentais, são eficientes em termos energéticos e cumprem os requisitos de transparência, revelando que o seu conteúdo é gerado por IA.
O Parlamento Europeu mostrou-se cético em relação a esta proposta dos Estados-membros, que tendem a preferir uma abordagem mais suave na elaboração da legislação.
A Alemanha, a França e a Itália, as três maiores economias do bloco, apresentaram uma contraproposta que favorecia a "autorregulação obrigatória através de códigos de conduta" para os modelos de fundação. A medida provocou uma reação negativa dos eruodeputados e ameaçou fazer descarrilar o processo legislativo.
De acordo com a Reuters, as conversações de quinta-feira ajudaram os co-legisladores a chegar a acordo sobre os termos provisórios para os modelos de fundação, mas estes não foram divulgados.
Uma questão controversa que ainda precisa de ser resolvida é a utilização de dados biométricos remotos em tempo real, incluindo o reconhecimento facial, em espaços públicos. A biometria refere-se a sistemas que analisam características biológicas, como os traços faciais, as estruturas oculares e as impressões digitais, para determinar a identidade de uma pessoa, normalmente sem o seu consentimento.
Os legisladores defendem uma proibição geral da identificação biométrica em tempo real e da categorização com base em características sensíveis como o género, a raça, a etnia ou a filiação política. Os Estados-Membros, por outro lado, argumentam que são necessárias excepções para permitir que as autoridades policiais localizem os criminosos e impeçam as ameaças à segurança nacional.