OpenAI advierte sobre el uso indebido de su plataforma para interrumpir elecciones globales

La Influencia de la IA en las Elecciones Globales

La Amenaza de la Desinformación

En un mundo cada vez más digitalizado, OpenAI se ha convertido en un punto focal para actores cibernéticos que buscan influir en elecciones democráticas a nivel global. Recientemente, la empresa publicó un informe de 54 páginas que revela cómo ha interrumpido más de 20 operaciones y redes engañosas en todo el mundo que intentaron utilizar sus modelos de inteligencia artificial. Estas amenazas abarcan desde artículos generados por IA en sitios web hasta publicaciones en redes sociales realizadas por cuentas falsas.

Un Panorama de la Desinformación

El informe de OpenAI tiene como objetivo proporcionar una visión general de las tendencias actuales en operaciones de influencia y cibernéticas. La empresa menciona que este análisis es crucial para entender cómo la inteligencia artificial se integra en el panorama de amenazas más amplio. Con las elecciones presidenciales en los Estados Unidos a la vuelta de la esquina, así como elecciones en más de 40 países que afectan a más de 4 mil millones de personas, el momento no podría ser más pertinente.

El Auge de la IA Generativa

La preocupación por la desinformación electoral no es un fenómeno nuevo. Desde la campaña presidencial de EE. UU. en 2016, cuando actores rusos encontraron métodos económicos para difundir contenido falso, hasta el 2020, donde las redes sociales se inundaron de información errónea sobre las vacunas contra el Covid y el fraude electoral, el problema ha evolucionado. Hoy, los legisladores están cada vez más preocupados por el aumento de la IA generativa, que ganó notoriedad a finales de 2022 con el lanzamiento de ChatGPT.

Operaciones Específicas y Resultados

OpenAI detalla que el uso de la IA en contextos electorales varía en complejidad. Desde solicitudes simples de generación de contenido hasta esfuerzos más elaborados que analizan y responden a publicaciones en redes sociales. Los contenidos relacionados con elecciones han sido más prominentes en EE. UU. y Rwanda, aunque también se han observado en India y la Unión Europea.

Ejemplos de Operaciones

• Operación Iraní: En agosto, se identificó que una operación iraní utilizó productos de OpenAI para generar artículos largos y comentarios en redes sociales sobre las elecciones en EE. UU. y otros temas. Sin embargo, la mayoría de las publicaciones no lograron recibir interacción significativa.

• Cuentas en Rwanda: En julio, OpenAI tomó medidas contra cuentas en Rwanda que estaban publicando comentarios relacionados con elecciones en la plataforma X.

• Uso en India: Una empresa israelí utilizó ChatGPT para generar comentarios sobre las elecciones en India en mayo, y OpenAI pudo abordar el asunto en menos de 24 horas.

• Elecciones en la UE: En junio, se detectó una operación encubierta que empleó los productos de OpenAI para generar comentarios sobre las elecciones del Parlamento Europeo en Francia y la política en EE. UU., Alemania, Italia y Polonia.

Limitaciones de la IA en la Influencia Electoral

A pesar de los intentos de manipular la opinión pública a través de publicaciones generadas por IA, OpenAI subraya que la mayoría de las publicaciones no lograron atraer una participación significativa. Aunque algunas personas reales respondieron a estas publicaciones, ninguna operación electoral logró crear un engagement viral o construir audiencias sostenidas utilizando las herramientas de OpenAI.