El director ejecutivo de IA abierta, sam altmancreador de la interfaz ChatGPT, que despierta pasiones y temores, dijo el martes ante un panel del Senado de Estados Unidos que regular la inteligencia artificial (IA) será fundamental para limitar los riesgos del uso de esta tecnología.
«Creemos que la intervención regulatoria de los gobiernos será crucial para mitigar los riesgos de modelos cada vez más potentes», estimó el empresario de 38 años, última figura surgida del Silicon Valley.
«Es fundamental que la IA más potente se desarrolle con valores democráticos, lo que significa que el liderazgo de Estados Unidos es determinante», apuntó Altman al testificar ante el Subcomité Judicial del Senado sobre Privacidad, Tecnología y Derecho.
Los gobiernos de todo el mundo están bajo presión para tomar medidas después del lanzamiento en noviembre del ChatGPT, un robot conversacional que puede generar contenido similar al humano en un instante.
«Si estuviera escuchando desde casa, podría haber pensado que esa voz era mía y las palabras mías, pero de hecho, esa voz no era mía», dijo Richard Blumenthal, presidente del subcomité.
Acababa de pronunciar sus comentarios de apertura sobre los peligros de la IA, escritos usando ChatGPT y leído por un software perturbado con su voz real.
Las tecnologías de IA «ya no son fantasías de ciencia ficción, son reales y presentes», enfatizó.
Destruir nuestras vidas
Los legisladores debatieron con Altman y otros dos expertos la necesidad de regular los sistemas informáticos que podrían «destruir literalmente nuestras vidas», en palabras del senador Lindsey Graham.
El Congreso de Estados Unidos evoca periódicamente la necesidad de internet regular, para proteger mejor la confidencialidad de los datos y promover una mayor competencia. Pero las divisiones políticas han bloqueado la mayoría de los proyectos de ley sobre el tema desde hace años.
La llamada IA generativadespegada por IA abierta, microsoft y Google – capaz de crear contenidos, textos, imágenes, sonidos o videos con solo una solicitud – ha planteado el problema de la regulación tecnológica.
Muchos están preocupados por su eventual impacto en numerosas profesionescon posibles recortes masivos de empleos, y por encima de la sociedad en su conjunto.
Los senadores repasaron estas áreas, como los algoritmos sesgados y la difusión de información cada vez más fallida.
«OpenAI se funda con la creencia de que la inteligencia artificial tiene el potencial de mejorar casi todos los aspectos de nuestras vidas, pero también crea serios riesgos», reconoció Altman.
«Uno de mis mayores temores es que nosotros, esta industria, esta tecnología, causemos un daño significativo a la sociedad», dijo. «Si esta tecnología va por el camino equivocado, puede llegar bastante lejos. (…) Y queremos trabajar con el gobierno para evitar que eso suceda».
marco regulatorio internacional
El empresario recordó que si bien OpenAI es una empresa privada, está controlado por una organización sin fines de lucro, lo que la obliga a «trabajar para una distribución amplia de los beneficios de la IA y maximizar la seguridad de los sistemas basados en IA» .
Altman ya ha expresado su apoyo al establecimiento de un marco regulatorio para la IApreferiblemente un nivel internacional.
«Sé que parece ingenioso proponer algo así, parece muy difícil» de lograr, pero «hay precedentes», seguro, citando el ejemplo de la Agencia Internacional de Energía Atómica (OIEA).
La idea de crear una agencia federal despertó cierto entusiasmo, pero tendría que estar dotada de los recursos suficientes, subrayó Blumenthal.
«Y no solo estoy hablando de dólares, estoy hablando de experiencia científica», dijo.
Sin embargo, Altman dijo que la regulacion en si misma no estaba exenta de riesgos.
«Si la industria estadounidense se queda atrás, China o algún otro país pueden avanzar más rápido», dijo.
También insista en que cualquier medida no sofoque la investigación independiente y, en cambio, se centre en empresas dominantes como la suya.
Texto original: El Economista
¡Compártelo!…¡El mundo es conocimiento!
Me gusta esto:
Cargando…
Relacionado
Publicado por
Escritor. columnista. Apasionado del cine, el fútbol, la lectura, la política, los videojuegos y la lucha libre. Director de Permanencias Voluntarias. Locutor del programa de radio «Sin daños a terceros» Ver todas las entradas de Edel López Olán
