Artículo XIII: IA y procesos electorales: nuevos riesgos para la democracia

Versão em português abaixo

Los procesos electorales son momentos especialmente sensibles para la vida democrática.
En ese contexto, las herramientas de inteligencia artificial abren también oportunidades relevantes, como facilitar el acceso a la información, ampliar el alcance de los mensajes públicos, mejorar la traducción y comprensión de contenidos, entre otras. Sin embargo, su uso creciente para segmentar audiencias, automatizar contenidos, moderar discursos o generar imágenes, audios y videos sintéticos está teniendo impactos directos sobre la circulación de información y la formación de la opinión pública.

A partir del análisis de casos emblemáticos de distintos países de América Latina, analizamos cómo estos usos se despliegan en escenarios atravesados por democracias frágiles, alta concentración de plataformas y profundas brechas regulatorias. Lejos de ser neutra, la incorporación de IA en contextos electorales profundiza riesgos existentes y habilita nuevas formas de intervención sobre el debate público.

Desafíos centrales para América Latina
El estudio identifica cinco grandes desafíos asociados a la expansión de la inteligencia artificial en los procesos electorales de la región. Entre ellos, el cambio en las dinámicas de la desinformación, marcado por la automatización, la hiper personalización y el mayor realismo de los contenidos falsos, y el avance de respuestas estatales punitivas que pueden derivar en censura o restricciones desproporcionadas a la libertad de expresión.

A estos se suman la profundización de la brecha digital, la reproducción de sesgos y discriminaciones algorítmicas, y el aumento de la violencia política de género facilitada por la tecnología, con impactos diferenciados sobre periodistas, activistas, candidaturas opositoras y grupos históricamente marginados.

Conclusiones y llamados a la acción
El informe advierte que la falta de marcos normativos adecuados y de mecanismos efectivos de rendición de cuentas amplía los márgenes para el uso abusivo de estas tecnologías, y alerta sobre los riesgos de delegar en plataformas privadas decisiones centrales para el debate democrático.

Frente a este escenario, se plantea la necesidad de fortalecer capacidades estatales y sociales, exigir mayor transparencia a los actores tecnológicos, promover estándares claros de debida diligencia y avanzar en regulaciones basadas en derechos humanos. El objetivo es asegurar que la inteligencia artificial contribuya a procesos electorales más justos e informados, sin erosionar la libertad de expresión ni el derecho de la ciudadanía a acceder a información plural y confiable.

português

IA e processos eleitorais: novos riscos para a democracia

Os processos eleitorais são momentos especialmente sensíveis para a vida democrática.
Nesse contexto, as ferramentas de inteligência artificial também abrem oportunidades relevantes, como facilitar o acesso à informação, ampliar o alcance das mensagens públicas e melhorar a tradução e a compreensão de conteúdos, entre outras. No entanto, seu uso crescente para segmentar audiências, automatizar conteúdos, moderar discursos ou gerar imagens, áudios e vídeos sintéticos tem produzido impactos diretos sobre a circulação da informação e a formação da opinião pública.

A partir da análise de casos emblemáticos de diferentes países da América Latina, examinamos como esses usos se desenvolvem em cenários marcados por democracias frágeis, alta concentração de plataformas e profundas lacunas regulatórias. Longe de ser neutra, a incorporação da IA em contextos eleitorais aprofunda riscos já existentes e viabiliza novas formas de intervenção sobre o debate público.

Desafios centrais para a América Latina
O estudo identifica cinco grandes desafios associados à expansão da inteligência artificial nos processos eleitorais da região. Entre eles, destacam-se as mudanças nas dinâmicas da desinformação, marcadas pela automação, pela hiperpersonalização e pelo maior realismo de conteúdos falsos, bem como o avanço de respostas estatais punitivas que podem resultar em censura ou em restrições desproporcionais à liberdade de expressão.

Somam-se a isso o aprofundamento da exclusão digital, a reprodução de vieses e discriminações algorítmicas e o aumento da violência política de gênero mediada pela tecnologia, com impactos diferenciados sobre jornalistas, ativistas, candidaturas de oposição e grupos historicamente marginalizados.

Conclusões e chamados à ação
O relatório alerta que a ausência de marcos normativos adequados e de mecanismos eficazes de prestação de contas amplia as possibilidades de uso abusivo dessas tecnologias e chama atenção para os riscos de delegar a plataformas privadas decisões centrais para o debate democrático.

Diante desse cenário, destaca-se a necessidade de fortalecer capacidades estatais e sociais, exigir maior transparência dos atores tecnológicos, promover padrões claros de devida diligência e avançar em regulações baseadas em direitos humanos. O objetivo é garantir que a inteligência artificial contribua para processos eleitorais mais justos e informados, sem corroer a liberdade de expressão nem o direito da cidadania de acessar informação plural e confiável.