El director ejecutivo y fundador de la empresa OpenAI, creadora del famoso modelo de lenguaje y generación de texto, ChatGPT, ha pedido de manera sorpresiva a los senadores de EE UU que se regula el desarrollo y los usos de la inteligencia artificial (AI), tanto en suelo estadounidense como parte de una iniciativa global para garantizar que el público acceda a “los muchos beneficios de la tecnología”, pero también para evitar “un daño significativo para el mundo”.
“Es esencial regular la inteligencia artificial, y que esas normas garantizan que el público acceda a los muchos beneficios de esta tecnología”, dijo Sam Altman, CEO de OpenAI, que se ha convertido recientemente en el portavoz de la industria de la inteligencia artificial, durante su comparecencia ante un comité de senadores estadunidenses acerca del funcionamiento y los riesgos de su herramienta estrella, la más poderosa en el campo de la IA. “Mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal”, ha agregado el empresario de 38 años.
El director de la firma OpenAI ha comparado este martes ante una comisión de privacidad y tecnología del Senado, en la que se abordaron los beneficios y los riesgos que supone el desarrollo desmedido de la IA, aupado por el advenimiento de ChatGPT en el último trimestre del año pasado y la reavivación de la carrera para desarrollar herramientas de tecnología puntera que podrían cambiar durante al mundo tal cual lo conocemos, según han explicado los legisladores la audiencia, con quienes ha coincidido el propio Altman acerca de sus preocupaciones de la misma tecnología que ayudó un crear
Lo usual es que los interrogatorios contra los directores y ejecutivos de las firmas tecnológicas resulten en una conversación muy agresiva en el Capitolio, como en el caso de Facebook o TikTok, pero Altman ha asegurado que entiende los puntos de vista que están inquietos por el desarrollo de la IA, y que él mismo también tiene sus reservas como la divulgación masiva de la desinformación. Por ello, afirmó que está consciente del impacto que pueden tener estas herramientas en la industria creativa, así como los desafíos que trae para el futuro del trabajo y su uso malintencionado.
“Pero creemos que podemos y debemos trabajar juntos para identificar y gestionar las desventajas para que todos podamos disfrutar de las tremendas ventajas posibles”, Altman, para resaltar las potencialidades de estas tecnologías para resolver problemas complejos de la humanidad como el cambio climático o encontrar la cura para el cancer.
Agencias gubernamentales para regular la IA
Debido a las respuestas reflexivas de Altman, incluso ante cuestionamientos realmente directos como la ética de la IA y sus expectativas, el veterano senador Dick Durbin (Illinois) y presidente de la comisión, declaró la audiencia como una comparecencia “histórica”, pues las industrias Las tecnologias suelen ser muy reactivas a la intervencion estatal dentro de sus proyectos. Por el contrario, Altman se ha mostrado dispuesto a apoyar e incluso a proponer la creación de agencias gubernamentales que se cargan de controlar el desarrollo, funcionamiento y salida al mercado de los nuevos modelos de IA que se realizan de ahora en adelante.
“EE UU debe ser el primer país en hacer algo. Pero creo que, por muy quimérico que suene, también opino que esto debería ser también un esfuerzo de alcance global”. Por ello, tanto Altman como los senadores fueron un poco más allá y compararon el advenimiento de las nuevas tecnologías con la creación de la bomba atómica, como indica el republicano Josh Howley. Altman posiblemente la creación de un organismo internacional que establezca estándares para la IA, tal y como se instaló una estructura alrededor de las armas nucleares.
En la audiencia de este martes también testificaron la directora de IBM, Christina Montgomery, Gary Marcus, profesor emérito de la Universidad de Nueva York autodenominado crítico de la “exageración” de la IA. Marcus expresaron los puntos de vista más ácidos del encuentro, pero los tres han estado de acuerdo con los senadores en crear una suerte de agencia gubernamental que emule a la FDA (Administración de Alimentos y Medicamentos) para examinar previamente una herramienta y otorgarle una licencia para operar, así como otra institución que les haga seguimiento y las monitoreé constantemente.
Los riesgos de la IA
Altman también hizo sus propuestas. El director de OpenAi coincidió en la necesidad de crear la agencia que otorgue y anule las licitaciones a empresas para que desarrollen una inteligencia artificial, para que “garantice el cumplimiento de las normas”. Altman también sugirió crear un paquete de normas de seguridad y “crear protocolos para descubrir cuándo un modelo es capaz de replicarse a sí mismo”.
Los tres interpelados también coincidieron en la importancia de que los legisladores no cometan “los mismos errores” que se tomaron con las redes sociales, que ahora son difíciles de eliminar per se. “Actuamos muy lentamente. Muchas decisiones desafortunadas tuvieron consecuencias duraderas”, dijo Marcus. “Las decisiones que tomemos ahora tendrán efectos durante décadas, tal vez incluso siglos”, sentenció el profesor.
Sam Altman, CEO de la puesta en marcha detrás del chatbot de IA ChatGPT, estuvo de acuerdo con los miembros del Senado el martes en la necesidad de regular la tecnología de IA cada vez más poderosa. https://t.co/iFjgQBBdwY pic.twitter.com/NNXJykGJMu
— El New York Times (@nytimes) 16 de mayo de 2023
Los senadores pusieron en valor las declaraciones de los tres interpelados, así como subrayaron la importancia de la IA, y dieron como prueba que ChatGPT ganará unos 100 millones de usuarios dos meses después de su puesta en marcha al público. Algunos legisladores como Marsha Blackburn (Tennessee) explicaron en la audiencia que usaron las herramientas de IA durante el fin de semana, y que consiguieron, entre muchas otras cosas, que el bot inventara una canción del cantante de música Garth Brooks con su voz.
En esa línea abrió la sesión el senador Richard Blumenthal, con una grabación falsa de su propia voz, con lo que ilustró los riesgos de las nuevas herramientas. La grabación apareció un discurso redactado por ChatGPT, así como audios de voz producidos a partir de grabaciones de sus explosiones reales en el pleno del Senado. Blumenthal señaló que, aunque por esta oportunidad el bot reflejaba fielmente sus posturas y opiniones, también pudo haber producido con la misma facilidad “un respaldo a la rendición de Ucrania o al liderazgo de Vladimir Putin”. Eso, dijo, “habría sido realmente aterrador”. @mundiario
