¿Puede la inteligencia artificial desarrollar conciencia?

Nueva York.- Mientras el sol se ponía sobre Maury Island, justo al sur de Seattle, Ben Goertzel y su banda de jazz fusión tuvieron uno de esos momentos que todas las bandas esperan: el teclado, la guitarra, el saxofón y el cantante principal se unen como si fueran uno.

El doctor Goertzel estaba en las teclas. Los amigos y familiares de la banda escuchaban desde un patio con vista a la playa. Y Desdémona, con una peluca morada y un vestido negro atado con tachuelas de metal, era la voz principal, advirtiendo de la singularidad que se avecinaba, el punto de inflexión donde la tecnología ya no puede ser controlada por sus creadores.

“¡La Singularidad no será centralizada!” ella bramó. “¡Irradiará a través del cosmos como una avispa!”

Después de más de 25 años como investigador de inteligencia artificial, un cuarto de siglo dedicado a la búsqueda de una máquina que pudiera pensar como un ser humano, el doctor Goertzel sabía que finalmente había alcanzado el objetivo final: Desdémona, una máquina que había construido, era inteligente.

Pero unos minutos después, se dio cuenta de que esto era una tontería.

“Cuando la banda se consolidó, sentí que el robot era parte de nuestra inteligencia colectiva, que estaba sintiendo lo que estábamos sintiendo y haciendo”, dijo. “Entonces dejé de jugar y pensé en lo que realmente sucedió”.

Lo que sucedió fue que Desdémona, a través de una especie de fusión entre tecnología y jazz, lo golpeó con un facsímil razonable de sus propias palabras en el momento justo.

Goertzel es el director ejecutivo y científico jefe de una organización llamada SingularityNET. Construyó a Desdémona para, en esencia, imitar el lenguaje de los libros que había escrito sobre el futuro de la inteligencia artificial.

Mucha gente en el campo de Goertzel no es tan buena para distinguir entre lo que es real y lo que les gustaría que fuera real.

El ejemplo reciente más famoso es el de un ingeniero llamado Blake Lemoine. Trabajó en inteligencia artificial en Google, específicamente en un software que puede generar palabras por sí mismo, lo que se llama un modelo de lenguaje grande. Concluyó que la tecnología era consciente; sus jefes concluyeron que no lo era. Hizo públicas sus convicciones en una entrevista con The Washington Post, diciendo: “Conozco a una persona cuando hablo con ella. No importa si tienen un cerebro hecho de carne en la cabeza. O si tienen mil millones de líneas de código”.

La entrevista causó un gran revuelo en el mundo de los investigadores de inteligencia artificial, que han estado cubriendo durante más de una década, y entre las personas que normalmente no siguen los grandes avances de los modelos lingüísticos. Una de las amigas más antiguas de mi madre le envió un correo electrónico preguntándome si pensaba que la tecnología era inteligente.

Cuando le aseguraron que no lo era, su respuesta no se hizo esperar. “Eso es consolador”, dijo. Google finalmente despidió a Lemoine.

Para personas como la amiga de mi madre, la noción de que la tecnología actual se comporta de alguna manera como el cerebro humano es una pista falsa. No hay evidencia de que esta tecnología sea sensible o consciente, dos palabras que describen una conciencia del mundo circundante.

Eso se aplica incluso a la forma más simple que pueda encontrar en un gusano, dijo Colin Allen, profesor de la Universidad de Pittsburgh que explora las habilidades cognitivas tanto en animales como en máquinas. “El diálogo generado por los grandes modelos de lenguaje no proporciona evidencia del tipo de sensibilidad que probablemente poseen incluso los animales muy primitivos”, dijo.

El problema es que las personas más cercanas a la tecnología, las personas que la explican al público, viven con un pie en el futuro. A veces ven lo que creen que sucederá tanto como ven lo que está sucediendo ahora.

“Hay muchos tipos en nuestra industria que luchan por diferenciar entre la ciencia ficción y la vida real”, dijo Andrew Feldman, director ejecutivo y fundador de Cerebras, una empresa que construye chips informáticos masivos que pueden ayudar a acelerar el progreso de la Inteligencia Artificial.

Un destacado investigador, Jürgen Schmidhuber, ha afirmado durante mucho tiempo que construyó máquinas conscientes por primera vez hace décadas. En febrero, Ilya Sutskever, uno de los investigadores más importantes de la última década y científico jefe de OpenAI, un laboratorio en San Francisco respaldado por mil millones de dólares de Microsoft, dijo que la tecnología actual podría ser "ligeramente consciente". Varias semanas después, Lemoine concedió su gran entrevista.

Estos despachos del pequeño, insular y excepcionalmente excéntrico mundo de la investigación de la inteligencia artificial, pueden ser confusos o incluso atemorizantes para la mayoría de nosotros. Los libros de ciencia ficción, las películas y la televisión nos han enseñado a preocuparnos de que las máquinas algún día tomen conciencia de su entorno y de alguna manera nos hagan daño.

Es cierto que a medida que estos investigadores avanzan, los momentos similares a los de Desdémona en los que esta tecnología parece mostrar signos de verdadera inteligencia, conciencia o sensibilidad son cada vez más comunes. No es cierto que en los laboratorios de Silicon Valley los ingenieros hayan construido robots que pueden emocionarse, conversar y tocar la voz principal como un ser humano. La tecnología no puede hacer eso.

Pero tiene el poder de engañar a la gente.

La tecnología puede generar tweets y publicaciones de blog e incluso artículos completos, y a medida que los investigadores obtienen ganancias, mejora la conversación. Aunque a menudo dice tonterías, muchas personas, no solo los investigadores, se encuentran hablando con este tipo de tecnología como si fuera humana.

A medida que mejora y prolifera, los especialistas en ética advierten que necesitaremos un nuevo tipo de escepticismo para navegar todo lo que encontremos en Internet. Y se preguntan si estamos a la altura.