Peru avança com regulamentação da inteligência artificial inspirada na UE

Parlamentares peruanos começaram a debater uma proposta para criar uma regulamentação para o uso e desenvolvimento de tecnologias de inteligência artificial (IA). O texto é amplamente inspirado nas regras de IA da União Europeia.

Apresentado esta semana pelo deputado Carlos Javier Zeballos Madariaga, o projeto de lei 07.033/2023 é o primeiro do país a abordar especificamente a tecnologia de IA. Outros países da região, como o Paraguai e o Brasil, também estão avançando na regulamentação da IA.

O marco peruano visa “garantir a proteção dos direitos essenciais, a privacidade e a segurança dos cidadãos, além de promover a transparência, a ética, a inovação e o progresso no campo da inteligência artificial”, afirma o resumo da proposta.

O autor do projeto pontuou, ainda, que outro objetivo é “evitar riscos e consequências negativas” da tecnologia.

O projeto de lei aprofunda o conceito de soberania de dados ao estipular que as regras serão aplicadas a qualquer empresa ou pessoa que desenvolva ou opere IA em território peruano, independentemente de onde estejam localizados os servidores que sustentam a tecnologia.

Em outras palavras, mesmo que a tecnologia de IA esteja alojada em datacenters de outros países, ainda estará sujeita a regulamentação se for oferecida e aplicada no Peru.

A soberania dos dados é a ideia de que os dados estão sujeitos às leis e estruturas de governança do país onde são coletados.

AUDITORIA, TRANSPARÊNCIA E MAIS

Os desenvolvedores de IA terão de documentar e divulgar a forma como os algoritmos funcionam para fins de auditoria externa, o que também é um pilar fundamental da legislação da UE.

Em linha com a regulamentação de dados pessoais do Peru, o projeto de lei sobre IA também afirma que a coleta e o processamento dos dados dos usuários só podem ocorrer com consentimento claro e explícito.

Além disso, os indivíduos também poderão solicitar explicações sobre como a IA funciona e para que finalidade seus dados serão utilizados a qualquer momento.

Enquanto isso, as aplicações móveis que permitem que os usuários naveguem ou baixem serviços baseados em tecnologias de IA que não cumpram as regras e os princípios da legislação estarão sujeitas a sanções “drásticas”.

Assim como definido nas regras da UE, a legislação do Peru estabelece diferentes riscos relacionados ao uso de sistemas de IA, com regras e restrições específicas para cada caso ainda por definir.

No projeto de lei, quatro tipos de riscos da IA são considerados – riscos inaceitáveis, elevados, limitados e insignificantes –, dependendo do seu impacto nos direitos essenciais ou humanos.

No caso de riscos inaceitáveis, a recomendação é a proibição total da tecnologia.

O projeto de lei também determina que a Secretaria de Governo e Transformação Digital, sob o comando da presidência do Conselho de Ministros, será responsável por fiscalizar a legislação e o cumprimento das regras.

O texto completo do projeto de lei pode ser visto aqui, em espanhol.

O projeto terá de ser debatido pela comissão de ciência, tecnologia e inovação do Congresso, bem como pela comissão de orçamento e contabilidade geral, antes de ser discutido e votado pelo plenário.