IA debe ser regulada, dice jefe de ChatGPT

Washington DC.- El director de la empresa de Inteligencia Artificial (IA) que desarrolla ChatGPT dijo al Congreso de Estados Unidos que la intervención del Gobierno será fundamental para mitigar los riesgos de los sistemas cada vez más poderosos. 

"A medida que esta tecnología avanza, entendemos que las personas están ansiosas por cómo podría cambiar la forma en que vivimos. Nosotros también", dijo Sam Altman, CEO de OpenAI, en una audiencia en el Senado.

El empresario propuso la creación de una agencia estadounidense o global que otorgaría licencias a los sistemas de IA más poderosos y tendría la autoridad para revocarlas y garantizar el cumplimiento de los estándares de seguridad.

Lo que comenzó como pánico entre los educadores por el uso de ChatGPT para hacer trampas en las tareas escolares se ha ampliado a preocupaciones más generales sobre la capacidad de las últimas herramientas de IA generativa para engañar a las personas, difundir falsedades, violar protecciones de derechos de autor y perturbar algunos empleos.

Y aunque no hay señales inmediatas de que el Congreso redacte nuevas regulaciones amplias de IA, como lo están haciendo los legisladores europeos, las preocupaciones sociales llevaron a Altman y a otros CEO de tecnología a la Casa Blanca a principios de este mes y han llevado a las agencias estadounidenses a prometer tomar medidas enérgicas contra los productos de IA dañinos que violen las leyes existentes de derechos civiles y protección al consumidor.

El senador Richard Blumenthal, demócrata de Connecticut que preside el subcomité de privacidad, tecnología y ley del Comité Judicial del Senado, abrió la audiencia con un discurso grabado que sonaba como él, pero en realidad era una clonación de voz entrenada con los discursos en el pleno de Blumenthal y recitando los comentarios iniciales escritos por ChatGPT.

El resultado fue impresionante, según dijo Blumenthal.

"¿Qué pasaría si le hubiera preguntado y si hubiera proporcionado un respaldo a la rendición de Ucrania o al liderazgo de (el presidente ruso) Vladimir Putin?", agregó.

En general, el tono de los interrogatorios de los senadores fue educado el martes, en contraste con audiencias anteriores en el Congreso en las que los ejecutivos de tecnología y redes sociales enfrentaron duras preguntas sobre los fracasos de la industria en el manejo de la privacidad de los datos o en contrarrestar la desinformación dañina. En parte, esto se debió a que tanto demócratas como republicanos expresaron su interés en buscar la experiencia de Altman para evitar problemas que aún no han ocurrido.

Blumenthal afirmó que las empresas de inteligencia artificial deberían estar obligadas a probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos, y expresó una preocupación particular sobre cómo futuros modelos podrían desestabilizar el mercado laboral.

Altman evitó en su mayoría dar detalles específicos sobre su peor temor acerca de la IA, excepto por decir que la industria podría causar daños significativos al mundo y que si esta falla, puede hacerlo de manera importante.

Más tarde propuso que una nueva agencia reguladora imponga salvaguardias que bloqueen los modelos de IA que puedan "autorreplicarse y autoexfiltrarse en la naturaleza", insinuando preocupaciones futuristas sobre sistemas avanzados que podrían manipular a los humanos para ceder el control.

También testificaron Christina Montgomery, directora de privacidad y confianza de IBM, y Gary Marcus, profesor emérito de la Universidad de Nueva York, quien formó parte de un grupo de expertos que instó a OpenAI y otras empresas de tecnología a pausar el desarrollo de modelos más poderosos durante seis meses para dar a la sociedad más tiempo para considerar los riesgos. La carta fue una respuesta al lanzamiento en marzo del último modelo de OpenAI, GPT-4, descrito como más potente que ChatGPT.