Raio-x: a regulamentação da IA no Peru

O projeto de regulamentação da Lei 31.814, que promove o uso de inteligência artificial (IA) no Peru e visa complementar a legislação do ano passado, estará em período de consulta pública até 1º de junho.

Há outros projetos no Congresso para regulamentar a tecnologia.

Os projetos de regulamento podem ser baixados na seção Documentos, no canto superior direito desta tela.

A Lei 31.814 define os princípios que norteiam a IA, como adesão a padrões de segurança baseados em riscos, abordagem pluralista e participativa, governança da internet, desenvolvimento ético e responsável e privacidade.

A proposta de regulamento estabelece que a presidência do Conselho de Ministros, por meio da Secretaria de Governo e Transformação Digital, funcionará como autoridade de aplicação da lei. Outros atores da governação são a Autoridade Nacional de Proteção de Dados Pessoais, entidades da administração pública, organizações da sociedade civil, cidadãos, academia e setor privado.

A BNamericas analisa a seguir os principais pontos da proposta.

GESTÃO DE RISCOS

Os regulamentos classificam os sistemas de IA com base no risco.

São considerados inaceitáveis os sistemas utilizados para modificar o comportamento humano por meio de fraude ou do aproveitamento das vulnerabilidades de um grupo que possa disseminar preconceito, assim como os sistemas que classificam indivíduos ou grupos quantificando o seu comportamento social.

No caso de sistemas de alto risco, são estabelecidas uma série de obrigações, como identificar a rastreabilidade dos dados, incorporar o controle humano e implementar medidas de segurança, entre outras.

PRIVACIDADE E TRANSPARÊNCIA

As entidades que implementem sistemas de IA devem informar claramente os usuários que o serviço ou produto com o qual interagem é baseado na tecnologia. Devem também comunicar os parâmetros utilizados para chegar a uma decisão ou resultado e informar sobre os direitos das pessoas potencialmente afetadas.

As empresas devem também ter uma equipa diversificada e multidisciplinar para a concepção, desenvolvimento e implementação de sistemas baseados em IA, seguir as melhores práticas internacionais, garantir o cumprimento da legislação de direitos de autor e propriedade intelectual, promover a sensibilização e evitar preconceitos de automação.

SETOR PÚBLICO

As entidades públicas que implementam IA devem também empregar equipes multidisciplinares, incentivar a troca de informação entre entidades para gerar evidências e bases de dados para a tomada de decisões, bem como reforçar o conhecimento de estatística, aprendizagem automática e programação, entre outros.

Terão também que trabalhar em coordenação com as entidades que gerem a informação estatal e contribuir para a sistematização de informação precisa e atualizada por meio da plataforma nacional de dados abertos.

Os algoritmos, modelos e dados tratados no desenvolvimento de sistemas baseados em IA que recebam subsídios ou apoios do Estado devem ser publicados na plataforma de dados e na plataforma pública nacional de software de uso geral.

INOVAÇÃO

As autoridades vão recorrer ao Centro Nacional de Inovação Digital e Inteligência Artificial, criado em 2020, para definir ações de atração e retenção de talento, desenhar e desenvolver casos de uso prioritários em coordenação com as entidades competentes e promover alianças, incluindo internacionais, com outras instituições.

O centro também ajudará a coordenar hackathons e eventos semelhantes com laboratórios governamentais e de transformação digital, visando promover o uso ético e responsável da IA.

Ainda segundo a regulamentação, será criado um centro nacional de computação de alto desempenho para fornecer infraestrutura digital e serviços de computação a entidades públicas.