¡Cuidado! Todo se está haciendo más profundo: ‘La era del capitalismo de la vigilancia’

-

Thomas L. Friedman / The New York Times
sábado, 02 febrero 2019 | 06:00

New York— Casi al final de cada año los principales diccionarios anuncian cuál es su “palabra del año”. El año pasado, por ejemplo, la palabra más buscada en Merriam-Webster.com fue “justicia”. Pues, aunque no ha pasado mucho tiempo, estoy listo para declarar cuál es la de 2019.

La palabra es “profundo”.

¿Por qué? Porque los avances recientes en la velocidad y el alcance de la digitalización, la conectividad, los macrodatos y la inteligencia artificial ahora nos están llevando a lo “profundo” de lugares y nos están dando capacidades que jamás habíamos experimentado, y que los gobiernos nunca habían tenido que regular. Estoy hablando del aprendizaje profundo, la percepción profunda, el reconocimiento facial profundo, el reconocimiento vocal profundo, la automatización profunda y las mentes artificiales profundas.

Algunas de estas tecnologías tienen un potencial sin precedentes, otras implican peligros nunca antes vistos, pero ahora todas son parte de nuestras vidas. Todo está haciéndose profundo.

Por eso quizá no es una coincidencia que una de las canciones más exitosas del momento sea “Shallow”, de la película “A Star Is Born”. El estribillo principal, cantado por Lady Gaga y Bradley Cooper, dice: “Voy hacia el extremo más profundo; mírame adentrarme. …Ahora estamos lejos de la superficie”.

Vaya que lo estamos. Sin embargo, el salvavidas aún está en la playa y —esto es lo verdaderamente aterrador— ¡no sabe nadar! Ya hablaremos más sobre eso. Por ahora, ¿cómo llegamos hasta las profundidades donde viven los tiburones?

La respuesta breve: la tecnología avanza mediante pasos, y cada uno, cada nueva plataforma, generalmente está sesgada respecto de un nuevo conjunto de capacidades. Alrededor del año 2000 dimos un gran paso que estaba sesgado hacia la conectividad, debido a la explosión del cable de fibra óptica, la tecnología inalámbrica y los satélites.

De pronto la conectividad se volvió tan veloz, barata, fácil y ubicua que parecía que podías tocar a alguien a quien no podías tocar antes y que podía tocarte alguien que jamás pudo tocarte antes.

Alrededor de 2007, dimos otro gran paso. El iPhone, los sensores, la digitalización, los macrodatos, el internet de las cosas, la inteligencia artificial y la computación en la nube se fusionaron y crearon una nueva plataforma que estaba sesgada con el fin de abstraer la complejidad a una velocidad, un alcance y una escala que jamás habíamos experimentado.

Muchas cosas complejas se simplificaron. La complejidad se volvió veloz, gratuita, fácil de usar e invisible, tanto así que pronto con un solo toque en la aplicación de Uber podías pedir un taxi, dirigirlo, pagarlo, calificarlo para que después el conductor también te calificara a ti.

A lo largo de la última década, estos avances en la velocidad de la conectividad y la eliminación de la complejidad han crecido exponencialmente. Porque, conforme los macrodatos se volvieron realmente grandes, a medida que la banda ancha se volvió muy veloz, conforme los algoritmos se volvieron más hábiles, a medida que la red 5G se desplegó, la inteligencia artificial se volvió verdaderamente inteligente. Así que ahora, sin tocar nada —tan solo con un comando de voz o máquinas que se mueven autónomamente— podemos adentrarnos en lugares mucho más profundos en muchos sectores.

Ahora la norma es que los científicos y los médicos puedan encontrar la aguja en el pajar de datos relativos a la salud, no la excepción, y, por lo tanto, pueden ver ciertos patrones de enfermedades que antes no eran aparentes. Las máquinas son capaces de reconocer tu rostro con tanta precisión que el gobierno chino puede castigarte por caminar de manera imprudente en Pekín por medio de cámaras en las calles, sin que tengas que toparte jamás con un policía.

Actualmente, los “agentes virtuales” —que usan interfaces conversacionales impulsadas por la inteligencia artificial— comprenden cada vez más tu intención cuando llamas al banco, a la empresa de tarjetas de crédito o a la compañía de seguros para que te atiendan, tan solo escuchando tu voz.

Significa que las máquinas pueden responder muchas más preguntas que las no máquinas, también conocidas como “humanos”. El porcentaje de llamadas que un bot conversacional, o un agente virtual, puede manejar sin canalizar a la persona a un ser humano se llama “índice de contención”, y esos números están aumentando de manera constante. Pronto, los sistemas automatizados serán tan parecidos al ser humano que tendrán que autoidentificarse como máquinas.

La automatización también se está volviendo profunda rápidamente. Kevin Roose, de The Times, citó a Mohit Joshi, presidente de Infosys, una firma tecnológica que ayuda a otros negocios a automatizar sus operaciones, quien dijo en Davos la semana pasada: “La gente busca alcanzar grandes números. Antes tenían objetivos graduales para reducir su fuerza de trabajo en un cinco o diez por ciento. Ahora están diciendo: ‘¿Por qué no podemos hacerlo con el uno por ciento de las personas que tenemos?’”.

Sin embargo, los malos, que siempre son los que adoptan la tecnología primero, también creen que profundizar de maneras totalmente nuevas tiene el mismo potencial. 

Imitan tu rostro y tu voz tan bien que son capaces de crear un video de YouTube que se vuelva viral en el que estás diciendo cosas racistas o crear otro en el que el presidente de Estados Unidos acaba de declararle la guerra nuclear a Rusia. Pueden usar la tecnología para imitar la voz del gestor de un banco tan bien que puede llamar a tu abuela, con un comando de voz, y pedirle que transfiera 10 mil dólares a una cuenta en Suiza, y ella lo hará… y jamás los atraparás a tiempo.

Por eso, el adjetivo con el que tantas personas están calificando todas estas nuevas capacidades para expresar su asombroso poder es “profundo”.

El 20 de enero, The London Observer revisó el nuevo libro de Shoshana Zuboff, profesora de la Escuela de Negocios de Harvard, cuyo título describe perfectamente las aguas turbias y profundas en las que nos hemos sumergido: “La era del capitalismo de vigilancia”.

“El capitalismo de vigilancia reclama de manera unilateral la experiencia humana como materia prima gratuita para su traducción en datos de comportamiento. Aunque algunos de estos datos se aplican al mejoramiento de servicios, el resto se declara exceso de comportamiento privado y se incluye en procesos avanzados de manufactura, conocidos como ‘inteligencia mecanizada”, con el fin de fabricar productos de predicción que anticipan lo que harás ahora, pronto y más tarde. Finalmente, esos productos de predicción se comercian en un nuevo tipo de mercado que yo llamo mercados de comportamientos futuros. Los capitalistas de vigilancia se han vuelto inmensamente ricos a través de estas operaciones comerciales, pues muchas empresas están dispuestas a apostar por nuestro comportamiento futuro”, escribió Zuboff.

Desafortunadamente, no hemos desarrollado regulaciones ni controles, ni adaptado la ética, para manejar un mundo de capacidades, interacciones y posibles abusos tan profundos.

Las regulaciones a menudo se quedan atrás de las nuevas tecnologías, pero cuando se mueven rápidamente y son tan profundas, ese retraso puede ser muy peligroso. Desearía pensar que pronto nos pondremos al corriente. Pero no es así. Nuestro diálogo nacional jamás ha sido tan superficial, ahora es de 280 caracteres.

Esto ha creado una demanda abierta y creciente de líderes políticos, sociales y religiosos, así como de instituciones de gobierno y negocios que puedan adentrarse en las profundidades, que puedan validar lo que es real y ofrecerle a la sociedad verdades profundas, protecciones de privacidad profundas y confianza profunda.

No obstante, la confianza y la lealtad profundas no pueden forjarse de la noche a la mañana. Toman tiempo. Esa es una de las razones por las que al viejo diario para el que trabajo —The New York Times— le está yendo tan bien actualmente. No todas, pero muchas personas, están desesperadas por encontrar guías confiables.

Muchas también buscarán ese atributo en nuestro próximo presidente, porque sienten que los cambios profundos están a punto de suceder. Es desconcertante; sin embargo, no hay marcha atrás. En efecto, ahora estamos lejos de la superficie.