El otro lado del boom de la Inteligencia Artificial: detectar lo que hace

Andrey Doronichev se alarmó el año pasado cuando vio un video en las redes sociales que parecía mostrar al presidente de Ucrania rindiéndose ante Rusia.

El video fue rápidamente desacreditado como un deepfake generado sintéticamente, pero para Doronichev fue un presagio preocupante. Este año, sus temores se acercaron a la realidad, ya que las empresas comenzaron a competir para mejorar y lanzar tecnología de inteligencia artificial a pesar de los estragos que podría causar.

La IA generativa ahora está disponible para cualquiera, y es cada vez más capaz de engañar a las personas con texto, audio, imágenes y videos que parecen haber sido concebidos y capturados por humanos. El riesgo de la credulidad social ha desencadenado preocupaciones sobre la desinformación, la pérdida de empleos, la discriminación, la privacidad y la distopía generalizada.

Para empresarios como Doronichev, también se ha convertido en una oportunidad de negocio. Más de una docena de empresas ahora ofrecen herramientas para identificar si algo se hizo con inteligencia artificial, con nombres como Sensity AI (detección de falsificación profunda), Fictitious.AI (detección de plagio) y Originality.AI (también para detectar plagio).

Doronichev, nativo de Rusia, fundó una empresa en San Francisco, Optic, para ayudar a identificar material sintético o falsificado, para ser, en sus palabras, "una máquina de rayos X de aeropuerto para contenido digital".

En marzo, presentó un sitio web donde los usuarios pueden revisar las imágenes para ver si fueron hechas con fotografías reales o con inteligencia artificial. Está trabajando en otros servicios para verificar video y audio.

“La autenticidad del contenido se convertirá en un problema importante para la sociedad en general”, dijo Doronichev, quien fue inversionista de una aplicación de intercambio de rostros llamada Reface. “Estamos entrando en la era de las falsificaciones baratas”. Dado que no cuesta mucho producir contenido falso, dijo, se puede hacer a escala.

Se espera que el mercado de las IA generativas supere los 109 mil millones de dólares para 2030, con un crecimiento promedio del 35.6 por ciento anual hasta entonces, según la firma de investigación de mercado Grand View Research. Las empresas centradas en la detección de la tecnología son una parte creciente de la industria.

Meses después de haber sido creado por un estudiante de la Universidad de Princeton, GPTZero afirma que más de un millón de personas han usado su programa para descubrir textos generados por computadora. Reality Defender fue una de las 414 empresas elegidas entre 17 mil solicitudes para ser financiadas por el acelerador de empresas emergentes este invierno.

Copyleaks recaudó 7.75 millones de dólares el año pasado en parte para ampliar sus servicios antiplagio para que escuelas y universidades detecten inteligencia artificial en el trabajo de los estudiantes. Sentinel, cuyos fundadores se especializaron en seguridad cibernética y guerra de información para la Marina Real Británica y la Organización del Tratado del Atlántico Norte, cerró una ronda inicial de 1.5 millones de dólares en 2020 que fue respaldada en parte por uno de los ingenieros fundadores de Skype para ayudar a proteger las democracias contra falsificaciones profundas y otros programas maliciosos y medios sintéticos.