La inteligencia artificial en una coyuntura electoral histórica
Entre marzo y diciembre del 2024, 65 países celebrarán elecciones y más de 4 mil millones de personas votarán por sus representantes. La responsabilidad en el manejo de la información y el uso de las tecnologías a través de internet juega un rol clave para el respeto de la democracia. En la sesión “El Futuro de las Empresas: Implementación de la inteligencia artificial y su regulación en México” de los Comités de Legalidad y Estado de Derecho y de Innovación y TICs, Cristina Martínez Pinto, Fundadora y Directora Ejecutiva, PIT Policy Lab y Claudia del Pozo, Fundadora y Directora, Eon Institute, la Senadora Alejandra Lagunes, Presidenta de la Comisión de Derechos Digitales en el Senado de la República e Isabel Davara, Socia Fundadora de Davara y Abogados, dialogaron sobre los desafíos que enfrentamos por la falta de regulación de la inteligencia artificial ante un contexto electoral histórico para la democracia y la tecnología.
Las ponentes emitieron recomendaciones de gobernanza, autorregulación, buenas prácticas y regulación formal para hacer frente a estos desafíos que presenta el mal uso de la IA -descalificaciones, noticias falsas, imitación de rostros, desinformación para ilegitimar a la competencia, etc-, entre ellas:
-
- Alfabetización mediática e impulso a ciudadanos digitales para aumentar la capacidad de discernir a fin de protegernos de deepfakes* por el uso irresponsable de estás tecnologías;
- Generar prototipos de políticas públicas y sandboxes regulatorios** (antes de que se establezcan políticas o regulaciones), para comprender mejor su potencial impactos en la sociedad;
- Desarrollar un marco normativo claro y conciso para la IA, basado en las necesidades locales y buenas prácticas internacionales;
- Promover la colaboración intersectorial para garantizar que el marco normativo de IA sea comprensivo y refleje los puntos de vista de todas las partes interesadas.
- Regulaciones alineadas con principios confiables de la IA, como los desarrollados por la OCDE y la UNESCO;
- El uso de principios de Transparencia y Explicabilidad (TyE) de los sistemas de IA para promover la confianza, la ética y la responsabilidad en el desarrollo y despliegue de sistemas de IA, a la vez que permiten una supervisión más efectiva -al facilitar la detección y corrección de errores, y promueve la rendición de cuentas por parte de quienes desarrollan y utilizan sistemas de IA;
- Aprovechar el enfoque “Red Teaming”*** para probar las limitaciones de los sistemas de IA y mejorar su precisión, representatividad y solidez;
- Capacitar a PyMes en uso responsable de IA, y
- Fomentar alianzas público-privadas para la innovación y el desarrollo económico y social.
Todas estas recomendaciones buscan abordar los retos que plantea la rápida evolución de la IA en un mundo cada vez más digitalizado y electoralmente activo.
* Término usado para los archivos de imagen, video o sonido que imitan a una persona, pareciendo ser reales y que son producidos por IA.
** Es la denominación que utiliza el ecosistema de las TICs para describir laboratorios de prueba (espacios en condiciones controladas) para analizar el impacto y consecuencias de regulaciones y políticas públicas en materia tecnológica.
*** Test de intrusión para identificar vulnerabilidades y fallos en la estructura tecnológica de un sistema.
AMERICAN CHAMBER/MEXICO
Ciudad de México | 7 | mayo | 2024
