El uso de IA en procesos electorales no debe reemplazar las decisiones de las autoridades; requiere reglas calaras y personal capacitado: PNUD

Redacción Círculo Rojo

El uso de la Inteligencia Artificial (IA) en procesos electorales no debe reemplazar las decisiones de las autoridades electorales y su utilización requiere reglas claras, controles y personal capacitado, concluyeron representantes de México, Panamá y Chile, durante su participación en un diálogo regional organizado por el Programa de las Naciones Unidas para el Desarrollo (PNUD).

Precisaron que sin comprometer la transparencia, la protección de los datos ni la confianza de los votantes, esta herramienta tecnológica puede ayudar a procesar cantidades de información que resultarían difíciles de revisar manualmente, detectar riesgos en las plataformas digitales y hacer más eficientes algunas tareas administrativas.

Reglas antes de incorporar nuevas herramientas

Al compartir las medidas adoptadas por el Instituto Nacional Electoral, la consejera del INE, Norma de la Cruz, refirió que México ha  establecido principios para orientar el desarrollo, la compra y la utilización de sistemas de inteligencia artificial en procesos electorales, y ha creado, también, cursos obligatorios para que su personal comprenda cómo funcionan estas tecnologías y cuáles son sus límites.

La consejera del INE, explicó que la incorporación de la IA no responde simplemente a una tendencia tecnológica, sino a la necesidad de proteger los principios que rigen las elecciones.

No fue porque está de moda. Esto es parte de un proceso de gobernanza para responder cómo incorporamos esta tecnología sin comprometer los principios de certeza, transparencia, protección de datos, derechos humanos y control democrático, afirmó.

De la Cruz, resaltó que el INE también mantiene un registro de las herramientas que utiliza, evalúa sus resultados y exige que una persona revise las decisiones o los productos generados con Inteligencia Artificial.

Estas medidas coinciden con una guía elaborada por el Programa de las Naciones Unidas para el Desarrollo y el Departamento de Asuntos Políticos y de Consolidación de la Paz de la ONU, basada en la experiencia de Naciones Unidas en asistencia electoral en más de 100 países y territorios.

El documento, señala que la Inteligencia Artificial puede utilizarse para depurar registros de votantes, detectar duplicados, revisar documentos, responder consultas ciudadanas, analizar gastos de campaña e identificar anomalías o amenazas digitales.

No obstante, advierte que no toda tarea que pueda automatizarse debería quedar en manos de un sistema.

En un proceso electoral, un error aparentemente pequeño puede tener consecuencias importantes: excluir a una persona del registro de votantes, señalar incorrectamente una irregularidad, exponer datos sensibles o alimentar dudas sobre la credibilidad de los resultados.

Por ello, la guía recomienda evaluar cada herramienta antes de adoptarla, probarla en condiciones reales, explicar cómo funciona y establecer quién responde cuando se equivoca.

Las decisiones que afecten el derecho al voto, la elegibilidad de una candidatura o los resultados electorales deben seguir siendo revisables y atribuibles a personas e instituciones.

El documento, también llama a proteger especialmente los datos biométricos y electorales, vigilar los sesgos contra mujeres, minorías, personas con discapacidad y comunidades poco representadas, y reducir la dependencia de proveedores privados cuyos sistemas no siempre pueden ser examinados por las autoridades.

La supervisión humana, añade, es indispensable, pero no basta por sí sola. El personal debe contar con formación, tiempo y capacidad técnica para cuestionar los resultados de la herramienta, en lugar de limitarse a validarlos automáticamente.

Detectando la violencia política digital

En su momento, la presidenta del Servicio Electoral de Chile, Pamela Figueroa, refirió la utilización desde 2020 de sistemas de monitoreo para analizar las conversaciones sobre los comicios y detectar posibles amenazas contra la institución y el proceso electoral. 

Comentó que el seguimiento, reveló, que la violencia política en las plataformas digitales afecta especialmente a las candidatas y a otras mujeres que participan en la vida pública.

Adelantó que en Chile está por inaugurarse un observatorio dedicado a este fenómeno: Esta sistematización de información, este conocimiento, nos permite avanzar en mejor legislación, en mejores políticas públicas, señaló.

La iniciativa, dijo, buscará generar herramientas para seguir la violencia política digital y facilitar que la experiencia pueda aplicarse en otros países. Estos son fenómenos globales, no son fenómenos nacionales, y necesitamos esa colaboración.

Señaló que Chile, también analiza incorporar procesos automatizados a la fiscalización de los gastos de campaña. Estas herramientas podrían revisar grandes volúmenes de documentos y cuentas, aunque los resultados seguirían sujetos a una comprobación humana.

Escuchar qué ocurre en las redes

Panamá, sede de la reunión Inteligencia Artificial y Elecciones: Transiciones digitales que fortalezcan la integridad electoral, fue uno de los primeros países de la región en establecer una unidad especializada en el monitoreo digital de las elecciones.

El Tribunal Electoral, emplea herramientas de monitoreo digital para realizar una escucha activa de las redes sociales, identificar desinformación y detectar campañas sucias o actos de violencia digital que posteriormente pueden ser remitidos a las unidades responsables de investigarlos.

Su directora ejecutiva, Yara Campo, destacó que la tecnología también ofrece oportunidades para revisar las listas de votantes, reforzar la seguridad, fiscalizar el financiamiento político y responder preguntas sencillas de la ciudadanía.

No obstante, advirtió que la Inteligencia Artificial puede facilitar una microsegmentación electoral cada vez más precisa de los mensajes políticos.

Puedes estar manipulando para que el elector escuche lo que quiere escuchar y se incline hacia la elección de determinado candidato o candidata, explicó.

Evitar nuevas desigualdades

Durante el diálogo, también se puso de relieve que la adopción de estas herramientas depende de las capacidades reales de los organismos electorales.

Las restricciones presupuestarias, la falta de personal especializado y la dependencia de proveedores tecnológicos externos, pueden limitar la capacidad de las instituciones para evaluar, controlar y sostener los sistemas que adquieren.

A esto se suman la brecha digital y los posibles sesgos culturales y lingüísticos de tecnologías que muchas veces fueron desarrolladas fuera de América Latina.

En una segunda intervención la consejera del INE, Norma de la Cruz, de México, advirtió que no todas las personas de la región tienen el mismo acceso a la información y a las tecnologías, y que estos desequilibrios deben tenerse en cuenta antes de incorporar nuevas herramientas a la relación entre las autoridades y la ciudadanía.

También, señaló que los organismos electorales no pueden permitirse invertir en sistemas que no comprendan o que no puedan mantener a largo plazo, ya que una mala decisión tecnológica puede terminar afectando la credibilidad de la institución o del propio proceso electoral.

Por ello, el PNUD recomienda que las autoridades comiencen por determinar qué problema necesitan resolver y evalúen si la inteligencia artificial es realmente la herramienta adecuada, aseveró el moderador del diálogo, Luis Martínez Betanzos, asesor electoral del el Programa de las Naciones Unidas para el Desarrollo.

Su uso, apuntó, debe contribuir a elecciones más inclusivas, transparentes y confiables, y no adoptarse únicamente porque la tecnología esté disponible.

(Fuente ONU)