Investigadores de desinformación alertan sobre chatbots de Inteligencia Artificial

Poco después de que ChatGPT debutara el año pasado, los investigadores probaron lo que escribiría el chatbot de inteligencia artificial después de que se le hicieran preguntas llenas de teorías de conspiración y narrativas falsas.

Los resultados, en escritos con formato de artículos de noticias, ensayos y guiones de televisión, fueron tan preocupantes que los investigadores no se anduvieron con rodeos.

“Esta herramienta va a ser la herramienta más poderosa para difundir información errónea que jamás haya existido en Internet”, dijo Gordon Crovitz, codirector ejecutivo de NewsGuard, una compañía que rastrea la información errónea en línea y realizó el experimento el mes pasado. “La creación de una nueva narrativa falsa ahora se puede hacer a una escala dramática y con mucha más frecuencia, es como tener agentes de IA que contribuyen a la desinformación”.

La desinformación es difícil de discutir cuando los humanos la crean manualmente. Los investigadores predicen que la tecnología generativa podría hacer que la desinformación sea más barata y fácil de producir para un número aún mayor de teóricos de la conspiración y difusores de desinformación.

Los chatbots personalizados en tiempo real podrían compartir teorías de conspiración de maneras cada vez más creíbles y persuasivas, dicen los investigadores, suavizando los errores humanos como la mala sintaxis y las malas traducciones y avanzando más allá de los trabajos de copiar y pegar fácilmente detectables. Y dicen que ninguna táctica de mitigación disponible puede combatirlo de manera efectiva.

Los predecesores de ChatGPT, que fue creado por la empresa de inteligencia artificial de San Francisco, OpenAI, se han utilizado durante años para salpicar foros en línea y plataformas de redes sociales con comentarios (a menudo gramaticalmente sospechosos) y spam. Microsoft tuvo que detener la actividad de su chatbot Tay dentro de las 24 horas posteriores a su presentación en Twitter en 2016 después de que los trolls le enseñaran a escupir lenguaje racista y xenófobo.

ChatGPT es mucho más poderoso y sofisticado. Suministrado con preguntas cargadas de desinformación, puede producir variaciones claras y convincentes sobre el contenido en masa en segundos, sin revelar sus fuentes. El martes, Microsoft y OpenAI presentaron un nuevo motor de búsqueda y navegador web que puede usar la tecnología de chatbot para planificar vacaciones, traducir textos o realizar investigaciones.

Los investigadores de OpenAI han estado nerviosos durante mucho tiempo acerca de los chatbots que caen en manos infames, y escribieron en un artículo de 2019 sobre su "preocupación de que sus capacidades podrían reducir los costos de las campañas de desinformación" y ayudar en la búsqueda maliciosa "de ganancias monetarias, una agenda política particular y/o un deseo de crear caos o confusión”.