La importancia del autogobierno en IA

Por Yuliana Salamanca, socia de Baker McKenzie  

El autogobierno en el contexto de las plataformas de inteligencia artificial (IA) es fundamental para garantizar su uso responsable, ético y efectivo en un mundo donde la regulación es escasa o está emergiendo. Las tecnologías basadas en IA están cada vez más presentes en nuestras vidas, desde la moderación de contenido en redes sociales hasta la traducción automática, creación de contenidos y asistentes virtuales. Este artículo explora la importancia del autogobierno en IA, centrándose en la transparencia y comprensibilidad, la equidad y el sesgo, la seguridad y la privacidad, la ética y la responsabilidad, y la propiedad intelectual. También se presentan ejemplos concretos de cómo estas consideraciones se aplican en diversas plataformas de IA.

TRANSPARENCIA Y COMPRENSIBILIDAD

Las plataformas de IA deben ser transparentes y comprensibles en sus procesos y decisiones. Esto implica que los usuarios comprendan cómo se toman las decisiones, qué datos se utilizan para ello y cómo se generan las predicciones y recomendaciones. La transparencia fomenta la confianza y permite a los usuarios entender las limitaciones y alcances de la tecnología.

Como ejemplo tenemos a Google Cloud Translation API que utiliza algoritmos de IA para traducir texto. Es transparente con los usuarios al informar que, cuando ellos proporcionan correcciones y sugerencias, el sistema aprende y mejora su precisión. Otro ejemplo de transparencia están las asistentes virtuales Siri (Apple) y Alexa (Amazon), que son claras en afirmar que se tratan de IA y, como tal, no hay una inteligencia humana detrás de ellas.

EQUIDAD Y SESGO

Las plataformas deben ser evaluadas para garantizar que no perpetúen prejuicios o discriminación. Esto es vital para asegurar que la IA beneficie a todos los usuarios de manera equitativa. Las políticas y prácticas deben ser inclusivas y considerar la diversidad de datos y usuarios.

YouTube, Spotify y Netflix utilizan IA para recomendar contenidos a los usuarios con base en el historial de visualización, las preferencias y el comportamiento del usuario. Por su parte, Facebook utiliza IA para detectar contenido inapropiado, como imágenes violentas. Es crucial que estos algoritmos se diseñen y supervisen para evitar sesgos que puedan perjudicar a ciertos creadores de contenido o audiencias. 

SEGURIDAD Y PRIVACIDAD

Las plataformas de IA deben proteger los datos personales y cumplir con las regulaciones de privacidad. La seguridad es una preocupación primordial para evitar el acceso no autorizado o el uso indebido de los sistemas de IA. El autogobierno en este contexto implica implementar medidas de seguridad robustas y garantizar que los datos personales se manejen de manera responsable.

A manera de ejemplo, Amazon utiliza IA para sugerir productos relacionados según las compras anteriores y el comportamiento de navegación del usuario. Amazon debe garantizar que estos datos se manejen de manera segura y en cumplimiento con las regulaciones de privacidad.

Por su parte, IBM Watson, plataforma utilizada en diversas industrias, analiza datos complejos en tiempos muy cortos y ha sido ampliamente usada en la industria médica. La seguridad y privacidad de los datos son críticas, especialmente donde se manejan datos sensibles de pacientes.

ÉTICA Y RESPONSABILIDAD

Las organizaciones deben establecer principios éticos claros para guiar el desarrollo y uso de la IA. La ética en la IA implica tomar decisiones que consideren el impacto en la sociedad y los individuos. El autogobierno debe incluir mecanismos para evaluar y corregir posibles consecuencias negativas de las tecnologías. Las plataformas deben ser responsables de sus acciones y de cómo sus tecnologías afectan a los usuarios.

Algunos ejemplos de esto los podemos encontrar en plataformas que ya utilizan algoritmos de IA para identificar automáticamente contenidos inapropiados, como la incitación al odio y la violencia. Esto contribuye a una moderación eficaz y segura, garantizando un entorno más positivo para los usuarios. Por su parte, Meta también es un ejemplo con el Meta Oversight Board, organismo externo que toma decisiones sobre la moderación de contenido en las plataformas de redes sociales Facebook e Instagram. Su objetivo es resolver preguntas difíciles relacionadas con la libertad de expresión en línea y asegurar que las decisiones de Meta estén en línea con sus políticas, valores y compromisos sociales.

PROPIEDAD INTELECTUAL

Los modelos de autogobierno en temas de propiedad intelectual son insuficientes. Aunque las IA están investigando y desarrollando tecnologías de filtrado para identificar y evitar el uso no autorizado de contenidos protegidos por derechos de autor en el entrenamiento de modelos generativos, persiste el uso de contenido de terceros protegido por derechos de autor. La legalidad de alimentar a las IA generativas con contenido no autorizado aún no está clara, y varios casos judiciales están en proceso para definir este asunto. En Estados Unidos, más de 12 casos están en proceso y darán los lineamientos en temas de propiedad intelectual y el entrenamiento de las IA con base en derechos de terceros.

En la actualidad es crucial tener en cuenta que los modelos abiertos presentan un alto riesgo de infringir los derechos de terceros al generar contenidos creativos. En temas de autogobierno, es clave que las plataformas sean transparentes respecto al origen de los contenidos utilizados y asegurar que los términos y condiciones reflejen un compromiso con la protección de los derechos de propiedad intelectual.

CONCLUSIÓN

El autogobierno en las plataformas de IA es esencial dado que las legislaciones no van al paso de los desarrollos tecnológicos. La transparencia y comprensibilidad permiten a los usuarios confiar en los sistemas de IA. Abordar el sesgo y garantizar la equidad asegura que todos los usuarios se beneficien de manera justa. La seguridad y privacidad protegen los datos personales y previenen el uso indebido de la tecnología. La ética y la responsabilidad guían el desarrollo y la implementación de IA de manera que se consideren las implicaciones sociales y humanas. Finalmente, la protección de la propiedad intelectual es crucial para fomentar la innovación y proteger los derechos de los creadores.

El contenido es de completa responsabilidad del autor y no necesariamente refleja la opinión de BNamericas. Invitamos a los interesados en participar como Columnista Invitado a enviar un artículo para su posible publicación. Para ello, contacte al editor en telecom@bnamericas.com.