Bajo la lupa: la normativa peruana sobre IA

Hasta el 1 de junio estará en período de consulta pública un proyecto de reglamentación de la ley peruana 31.814 que promueve el uso de la inteligencia artificial y pretende complementar una legislación del año pasado para establecer directrices clave.

En el Congreso existen otros proyectos para regular la tecnología.

El proyecto de reglamentación se puede descargar en la sección Documentos en la esquina superior derecha de la pantalla.

La ley 31.814 define los principios que guían la IA como la adhesión a estándares de seguridad basados en riesgos, un enfoque de pluralidad y participantes, la gobernanza de internet, el desarrollo ético y responsable, y la privacidad.

La propuesta de reglamento establece que la presidencia del Consejo de Ministros, a través de la Secretaría de Gobierno y Transformación Digital, operará como autoridad de aplicación de la ley. Otros actores de la gobernanza son la Autoridad Nacional de Protección de Datos Personales, las entidades de la administración pública, las organizaciones de la sociedad civil, ciudadanos, academia y el sector privado.

BNamericas hace un repaso de los principales puntos de la propuesta.

GESTIÓN DE RIESGOS

La normativa clasifica los sistemas de IA en función del riesgo.

Se consideran inaceptables los sistemas utilizados para modificar el comportamiento humano mediante el engaño o aprovechando las vulnerabilidades de un grupo que puedan provocar prejuicios, así como los sistemas que clasifican a individuos o grupos cuantificando su conducta social.

En el caso de los sistemas de alto riesgo, se establecen una serie de obligaciones como la identificación de la trazabilidad de los datos, incorporar un control humano, e implementar medidas de seguridad, entre otras.

PRIVACIDAD Y TRANSPARENCIA

Las entidades que implementen sistemas de IA deberán informar claramente a los usuarios de que el servicio o producto con el que interactúan se basa en inteligencia artificial. También deben comunicar los parámetros utilizados para llegar a una decisión o resultado, e informar sobre los derechos de los posibles afectados.

Las empresas también deben contar con un equipo diverso y multidisciplinario para el diseño, desarrollo e implementación de sistemas basados en IA, seguir las mejores prácticas internacionales, garantizar el cumplimiento de la legislación sobre derechos de autor y propiedad intelectual, promover la concienciación y evitar los prejuicios de la automatización.

SECTOR PÚBLICO 

Las entidades públicas que implementen la IA también deben emplear equipos multidisciplinarios, fomentar el intercambio de información entre entidades para generar evidencias y bases de datos para la toma de decisiones, y reforzar los conocimientos de estadística, aprendizaje automático y programación, entre otros.

También tendrán que coordinarse con las entidades que gestionan la información estatal y contribuir a la sistematización de información precisa y actualizada a través de la plataforma nacional de datos abiertos.  

Los algoritmos, modelos y datos procesados en el desarrollo de sistemas basados en IA que reciban subsidios o apoyo del Estado deben publicarse en la plataforma de datos y en la plataforma nacional de software público para su uso general.

INNOVACIÓN

Las autoridades recurrirán al Centro Nacional de Innovación Digital e Inteligencia Artificial, creado en 2020, para definir acciones de atracción y retención de talento, diseñar y desarrollar casos de uso priorizados en coordinación con las entidades competentes y promover alianzas, incluso internacionales, con otras instituciones.

El centro también ayudará a coordinar hackathones y eventos similares con el gobierno y laboratorios de transformación digital para promover el uso ético y responsable de la IA.

De acuerdo con la normativa, se creará un centro nacional de computación de alto rendimiento para proveer la infraestructura digital y los servicios de computación de altas prestaciones a las entidades públicas.