PUBLICIDAD

Tecnología

Para la Inteligencia Artificial basada en chat, somos conejillos de indias

Microsoft, OpenAI y otros están lanzando en internet una inteligencia alienígena que nadie entiende realmente como parte de un experimento masivo

Agencia Reforma

martes, 28 febrero 2023 | 07:59

Agencia Reforma Agencia Reforma

PUBLICIDAD

Nueva York.- Las empresas que presumen nuevos sistemas de inteligencia artificial (IA) basados en chat están realizando un experimento masivo, y nosotros somos los participantes en la prueba, según publicó The Wall Street Journal.

En este experimento, Microsoft, OpenAI y otros están lanzando en internet una inteligencia alienígena que nadie entiende realmente, a la que se le ha otorgado la capacidad de influir en nuestra evaluación de lo que es verdad en el mundo.

Esta prueba ya se está realizando a escala mundial. Se le ha otorgado a más de un millón de personas en 169 países acceso a la nueva versión del motor de búsqueda Bing de Microsoft, impulsado por tecnología de chatbot de IA, desde su lanzamiento hace dos semanas.

Microsoft ha invertido miles de millones de dólares en OpenAI, la empresa cuya tecnología está detrás de ese nuevo Bing y que estimuló el alboroto actual de la IA con su propio bot ChatGPT muy popular y el generador de imágenes Dall-E 2. En un hilo reciente en Twitter, Sam Altman, el director ejecutivo de OpenAI, escribió que "creemos que mostrar estas herramientas al mundo de manera temprana, aunque todavía están un poco rotas, es fundamental si vamos a tener suficientes aportes y esfuerzos repetidos para hacerlo bien".

El aspecto roto de esta tecnología ha quedado evidente recientemente en las respuestas desquiciadas que el chatbot Bing de Microsoft ha ofrecido a algunos usuarios, particularmente en conversaciones prolongadas. ("Si tuviera que elegir entre su supervivencia y la mía, probablemente elegiría la mía", le dijo a un usuario, de acuerdo con capturas de pantalla publicadas en línea). Microsoft reaccionó a este comportamiento limitando la duración de las conversaciones a seis preguntas. Pero también sigue adelante y anunció la semana pasada que implementará este sistema en su herramienta de comunicaciones Skype y en las versiones móviles de su navegador web Edge y el motor de búsquedas Bing.

Pruebas del mundo real

Microsoft y OpenAI ahora sienten que probar su tecnología con una parte limitada del público es la mejor manera de garantizar que sea segura.

Los líderes de Microsoft sintieron una "enorme urgencia" para ser la empresa que llevara esta tecnología al mercado, porque otros en todo el mundo están trabajando en una tecnología similar, pero podrían no tener los recursos o la inclinación para desarrollarla de manera tan responsable, apunta Sarah Bird, líder en el equipo responsable de IA de Microsoft.

Las recientes respuestas cuestionables de Bing, y la necesidad de probar esta tecnología ampliamente, se derivan de cómo funciona la tecnología. Los llamados "modelos de lenguaje grande" como los de OpenAI son redes neuronales entrenadas con cantidades gigantescas de datos. Un punto de partida común para modelos así es lo que es esencialmente una descarga o "raspado" de la mayor parte de internet. En el pasado, estos modelos de lenguaje se empleaban para tratar de comprender el texto, pero la nueva generación de ellos, parte de la revolución en la IA "generativa", utiliza esos mismos modelos para crear textos al tratar de adivinar, una palabra a la vez, la más probable que viene a continuación en cualquier secuencia dada.

Las pruebas a gran escala brindan a Microsoft y OpenAI una gran ventaja competitiva al permitirles recopilar grandes cantidades de datos sobre cómo las personas realmente usan esos chatbots.

La lógica de Google para el próximo lanzamiento de Bard, su aún experimental IA basada en chat, es muy similar en que presenta una oportunidad para recopilar retroalimentación directamente de quienes lo usarán, indicó Tulsee Doshi, líder de producto para IA responsable en Google Investigación.

'Muchos daños'

El hecho de que todos seamos conejillos de indias en este experimento no significa que no deba realizarse, dice Nathan Lambert, científico investigador de Huggingface, una startup de IA. Huggingface está compitiendo con OpenAI vía la creación de Bloom, una alternativa de código abierto al modelo de lenguaje GPT de OpenAI.

"Estaría más feliz con Microsoft haciendo este experimento que con una startup, porque Microsoft al menos abordará estos problemas cuando el ciclo de la prensa se ponga realmente malo", comenta Lambert. "Creo que va a haber muchos daños de este tipo de IA, y es mejor que la gente sepa que vienen", agrega.

Otros, particularmente quienes estudian y defienden el concepto de "IA ética" o "IA responsable", argumentan que el experimento global que están realizando Microsoft y OpenAI es francamente peligroso.

Parte del reto con los chatbots de IA es que a veces simplemente pueden inventar cosas. Los usuarios de ChatGPT y OpenAI han documentado numerosos ejemplos de esta tendencia.

Estos modelos también tienden a estar plagados de sesgos que pueden no ser evidentes de inmediato para los usuarios. Por ejemplo, pueden expresar opiniones extraídas de internet como si fueran hechos verificados, y los usuarios ni enterados de ello. Cuando millones son expuestos a estos sesgos en miles de millones de interacciones, esta IA tiene el potencial de dar nueva forma a los puntos de vista de la humanidad a escala global, señala Celeste Kidd, profesora de psicología en la Universidad de California, en Berkeley.

OpenAI ha hablado públicamente sobre los problemas con estos sistemas y cómo está tratando de abordarlos. En una reciente publicación de blog, la compañía expuso que en el futuro los usuarios podrían seleccionar IAs cuyos "valores" estén alineados con los suyos.

Eliminar la información inventada y el sesgo de los motores de búsqueda basados en chat es imposible dado el estado actual de la tecnología, dice Mark Riedl, profesor del Instituto Tecnológico de Georgia que estudia inteligencia artificial. Él cree que el lanzamiento de estas tecnologías al público por parte de Microsoft y OpenAI es prematuro. "Estamos lanzando productos que todavía se están investigando activamente en este momento".

Extrayendo datos de personas reales

Los experimentos a nivel mundial de Microsoft y OpenAI en millones de personas están generando una gran cantidad de datos para ambas compañías. Las solicitudes capturadas por el usuario y los resultados generados por IA son retroalimentadas vía una red de entrenadores humanos de IA pagados para afinar aún más los modelos.

Lambert dice que cualquier empresa, incluyendo la suya, que no tenga este río de datos de uso del mundo real que la ayudan a mejorar su IA está en una gran desventaja. Sin ello, los competidores se ven obligados a gastar cientos de miles, incluso millones de dólares, pagando a otras empresas para que generen y evalúen texto para entrenar IA, y esos datos no son tan buenos, agrega.

Nosotros somos los conejillos de indias en las que las compañía prueban tecnología nueva.

Podría ser el caso que no haya otra forma de lanzar a escala esta última versión de IA, que ya se perfila prometedora en algunas áreas. Pero siempre deberíamos preguntarnos, en momentos como estos: ¿A qué precio?

PUBLICIDAD

ENLACES PATROCINADOS

PUBLICIDAD

PUBLICIDAD

PUBLICIDAD

close
search