Por: Pavel De Camps Vargas
OpenAI, la compañía detrás del popular modelo de lenguaje ChatGPT, ha publicado un informe ( detallando cómo actores malintencionados han intentado utilizar sus modelos de inteligencia artificial para generar contenido falso destinado a interferir en procesos electorales alrededor del mundo.
Según el Departamento de Seguridad Nacional de Estados Unidos, este país ve una creciente amenaza de que Rusia, Irán y China intenten influir en las elecciones del 5 de noviembre.
Según el informe publicado en octubre de 2023, OpenAI detectó y bloqueó más de 20 operaciones a lo largo del año que buscaban influir en las elecciones mediante el uso de sus herramientas de IA. Estas operaciones incluyen la generación de contenido falso (Fake News) que sería difundido por personajes ficticios en redes sociales, la creación de artículos para sitios web y la manipulación de conversaciones en línea.
OpenAI ha enfatizado que, si bien los actores malintencionados continúan experimentando con sus modelos, no han observado evidencias de avances significativos que les permiten crear malware nuevo o generar audiencias virales de manera efectiva. La compañía está fortaleciendo continuamente sus sistemas de detección y trabajando en colaboración con autoridades internacionales para prevenir el mal uso de sus tecnologías.
Por su parte, funcionarios de inteligencia han advertido que países como Rusia, Irán y China están utilizando la inteligencia artificial para potenciar sus esfuerzos de desinformación. Estas naciones han sido identificadas como las principales fuentes de intentos de interferencia en las elecciones presidenciales de Estados Unidos y otros procesos democráticos alrededor del mundo.
La proliferación de herramientas de inteligencia artificial accesibles al público ha generado preocupaciones sobre su potencial uso indebido. Expertos en ciberseguridad recomiendan a los usuarios verificar la autenticidad de la información y ser escépticos ante contenido no verificado que circula en redes sociales.
La detección y neutralización de estos intentos por parte de OpenAI subrayan la importancia de la vigilancia y la colaboración entre empresas tecnológicas y autoridades para proteger la integridad de los procesos electorales. Mientras los actores maliciosos continúan buscando nuevas formas de explotar la inteligencia artificial, esfuerzos como los de OpenAI son cruciales para garantizar que la tecnología se utilice de manera ética y responsable.
El informe de OpenAI destaca la necesidad de una colaboración global para abordar los desafíos que presenta el uso malicioso de la inteligencia artificial. Si bien las tecnologías avanzan y ofrecen grandes beneficios, es crucial implementar medidas de seguridad y educar al público para mitigar los riesgos asociados con la desinformación y la interferencia en procesos democráticos.
