Proyecto de ley de IA de Brasil: sus defensores y detractores

Brasil se prepara para la primera de una serie de votaciones sobre el proyecto de ley que regula el desarrollo y uso de sistemas de IA, y el texto final genera opiniones divididas.

La propuesta, de autoría inicial del presidente del Senado, Rodrigo Pacheco, tiene como relator al senador Eduardo Gomes, quien redactó varias versiones.

La comisión senatorial de IA, creada para abordar el tema, sometería a votación la versión final el jueves, y el plenario podría votar ese mismo día.

El nuevo texto presentado por Gomes recibió casi 200 enmiendas, de las cuales 49 fueron aceptadas total o parcialmente, e incluyó disposiciones sugeridas en otras siete propuestas, como el proyecto de ley anterior, PL 21/2020, que fue aprobado por la Cámara Baja.

Tras el visto bueno del Senado, el texto deberá ser votado de nuevo en la Cámara Baja, donde podría sufrir más modificaciones.

CAMBIOS

En general, el modelo regulatorio propuesto en el proyecto de ley se basa en grados de riesgo.

Los sistemas de IA considerados de alto riesgo están sujetos a normas para garantizar la defensa de los derechos fundamentales. Los sistemas con riesgo excesivo están expresamente prohibidos.

La agencia de protección de datos ANPD fiscalizará el cumplimiento de la normativa.

Entre los sistemas de IA expresamente prohibidos están aquellos destinados a sistemas de armas autónomas y la evaluación de rasgos de personalidad, incluidas características o comportamientos previos, delictivos o de otro tipo, de individuos o grupos, para evaluar el riesgo de comisión de delitos, infracciones o reincidencia.

SIN EVALUACIÓN PRELIMINAR OBLIGATORIA

Uno de los principales cambios en la versión final se relaciona con el carácter opcional de la evaluación preliminar de los sistemas de IA.

En borradores anteriores, antes de ser comercializados o puestos en funcionamiento, los sistemas de IA iban a ser objeto de una evaluación preliminar, a cargo de sus propios desarrolladores, proveedores o usuarios, para determinar su grado de riesgo.

En la versión final, esta evaluación no será obligatoria, excepto para los sistemas generativos, es decir, aquellos que transforman información existente en información nueva, y los sistemas de propósito general.

DERECHOS DE AUTOR

Otro punto que ha generado divergencias en los debates es la protección de los derechos de los creadores de contenidos y obras artísticas.

El texto final establece que los contenidos protegidos por derechos de autor podrán utilizarse en procesos de minería de textos para el desarrollo de sistemas de IA. Esto podrá ocurrir siempre que el contenido se obtenga de forma legítima, no existan fines comerciales y el objetivo principal de la actividad no sea la reproducción, exhibición ni difusión de la obra utilizada.

Además, el uso “se limita a lo necesario para lograr el fin propuesto”. Tampoco deben verse “injustificadamente perjudicados” los intereses económicos de los titulares de los derechos.

En todos los demás casos, el titular de los derechos de autor podrá prohibir el uso de sus contenidos.

Gracias a ello, el proyecto de ley recibió el apoyo de más de 600 creadores, asociaciones y entidades representantes del ámbito cultural.

Gomes incorporó además directrices generales para el desarrollo de la IA, como el respeto a los derechos humanos, la protección del medioambiente y la promoción de la igualdad y la diversidad.

REACCIONES

La federación bancaria Febraban apoya la versión final.

Según la entidad, el texto es resultado de un intenso diálogo entre el gobierno, la academia, los sectores productivos y la sociedad civil y “supone avances importantes y positivos para la innovación responsable en el país”.

“El texto actual recoge la protección de derechos y el incentivo al desarrollo tecnológico, por lo que constituye una alternativa adecuada y viable para abordar un tema tan complejo como la IA”, señaló la agrupación en un comunicado.

En tanto, la asociación de software ABES, si bien reconoce que el texto es un avance en relación con las versiones anteriores, sostiene que persisten problemas estructurales que pueden comprometer la competitividad de Brasil y el desarrollo y la inversión en startups y centros de datos.

ABES dijo que el texto es “aún más prescriptivo y restrictivo” que la regulación sobre IA de la Unión Europea y que continúa centrándose en “regular la tecnología, no el uso que se hace de ella”.

“Una solución sería la que defiende la industria brasileña: que la ley se aplique solo a los sistemas de IA de alto riesgo, sistemas de riesgo excesivo y modelos de IA de propósito general”, explicó.

ABES afirma que será necesario mejorar el texto en nuevas rondas de votación.

En una carta abierta firmada junto a otras 13 asociaciones, incluidas las de startups y de centros de datos, ABES indicó que, en su forma actual, el texto estipula reglas que podrían inviabilizar la capacitación en IA en Brasil, en especial, en un contexto comercial.

Al respecto, menciona la exigencia de pagar por el uso de contenidos, incluidos aquellos protegidos por derechos de autor, y la obligación de revelar los bancos de datos utilizados para entrenar los sistemas.

Idec, organización brasileña sin fines de lucro de defensa del consumidor, señala que la versión final "reduce drásticamente" las salvaguardas para mitigar los impactos negativos de los sistemas de IA.

La entidad critica el ítem de autoevaluación y la eliminación de la evaluación previa de los sistemas de IA, lo que, a su juicio, socava la facultad de supervisión y control de daños antes de que se produzcan.

Idec también advirtió que la nueva versión presenta lagunas que dificultan exigir responsabilidad sobre los sistemas de IA cuando se utilizan para producir y difundir contenidos relacionados con la explotación sexual infantil.

Asimismo, denunció que se eliminan más derechos con cada nueva versión del proyecto de ley, al tiempo que crece el apoyo de las grandes compañías tecnológicas al texto.