Más de mil especialistas de diferentes áreas tecnológicas, científicas y éticas, se unieron para pedir una pausa “inmediata” de 6 meses en el vertiginoso desarrollo de la inteligencia artificial (IA). Podría representar, dicen, un riesgo para la humanidad. Entre los firmantes estan el multimillonario Elon Musk y el cofundador de Apple, Steve Wozniakjunto a nombres de académicos, empresarios, directivos, ejecutivos y analistas internacionales.
El documento lleva por titulo ‘Pausar los experimentos gigantes de IA: una carta abierta’y fue publicado por Instituto Futuro de la Vidauna organización sin fines de lucro centrada en que las transformaciones tecnológicas no sean nocivas.
“Hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos podrían intervenir e instituir una moratoria″, solicitan desde FutureLife.org.
A continuación, se detallan los peligros potenciales que conllevan los sistemas de IA para el mundo. Citan efectos nocivos como la desinformacion, destruccion de empleos, disrupciones economicas y politicase incluso el riesgo de “perder el control de la civilización”.
“Los sistemas de IA con inteligencia que compiten con la humana pueden plantear riesgos profundos para la sociedad y la humanidad”, señalan, ya que su impacto no se planifica, monitoriza ni gestiona correctamente.
“La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo”, advirtieron.
¿No saben a lo que se enfrentan?
En el manifiesto acusan que en los ultimos meses “los laboratorios de IA entraron en una carrera desenfrenada para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.
“Los sistemas de inteligencia artificial potentes deben desarrollarse solamente una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, lee lee en la carta.
Por ello, el grupo de expertos pide a los desarrolladores de inteligencia artificial que detengan temporalmente los nuevos avances. Esto para que expertos independientes desarrollen e implementen protocolos de seguridad compartida para estas tecnologías.
Llaman a trabajar en conjunto con legisladores y autoridades reguladoras para establecer organismos reguladores, auditorias y sistemas de certificaciones. También deben decidir sobre quién se hará responsable en caso de daños causados por la inteligencia artificial. Incluso menciona la posibilidad de que los gobiernos intervengan para frenar los desarrollos si no hay voluntad común.
“Las decisiones no se pueden delegar en responsables tecnológicos que no hemos elegido”, subrayan en la petición.
¿Quiénes han firmado la petición para pausar la inteligencia artificial (IA)?
La carta fue un exito: sumo 1,124 firmas en unas cuantas horas. Además de Musk y Wozniak, se encuentran nombres relevantes en la industria tecnológica: científicos, académicos, empresarios, CEOs, directivos, ejecutivos, líderes tecnológicos y expertos de diversos países.
Aparecen miembros distinguidos de instituciones de renombre, desde harvard, Yale y toda la hiedra, hasta decenas de universidades en Estados Unidos. También hay catedráticos de las principales instituciones de Francia, Suecia, Reino Unido, Canadá, Italia, España, Portugal y Bruselas, entre otras.
Entre ellos están (hasta ahora):
- Jaan Tallincofundador de skype y del Centro para el Estudio del Riesgo Existencial Future of Life Institute
- evan agudocofundador de Pinterest
- Chris Larsencofundador de Onda
- Mostaque EmadCEO de Estabilidad IA
- Valerie Pisanopresidente y director ejecutivo de MILA
- marcus garyinvestigador de IA y profesor emérito la universidad de nueva york
- Steve OmohundroCEO de Investigación beneficiosa de IA
- daniela allenprofesor de la Universidad de Harvard y director del Centro para la Ética Edmond y Lily Safra
- luis rosenbergCEO y científico en jefe de IA unánime
- Julien BillotCEO de escala IA
- Yoshua Bengiofundadora y directora científica de Mila, ganadora del Premio Turing y profesora de la Universidad de Montreal.
- stuart russellcoautor del famoso libro “Inteligencia artificial: un enfoque moderno”, profesor de Ciencias de la Computación en la Universidad de Berkeley y director del Centro de Sistemas Inteligentes.
- andres yangcandidato presidencial 2020, autor más vendido del New York Times y Embajador Presidencial de Emprendimiento Global
sam altmanfundador y CEO de IA abierta y responsable de ChatGPT, GPT-4, Dall-E y otras polémicas herramientas de IA, no se encuentran en la lista de firmas.
Demasiadas personas quieren firmar la carta
Fueron tantas las solicitudes para sumarse a la demanda virtual, que los administradores tuvieron que pausar la anexión de más firmas.
“Debido a la gran demanda, todavía estamos recolectando firmas, pero pausando su aparición en la carta para que nuestros procesos de investigación puedan ponerse al día. También tendrán en cuenta que las firmas que se encuentran cerca de la parte superior de la lista se verifican de forma independiente y directa”, información en su página web.
Cabe señalar que no se trata de una petición anónima, como las que abundan en internet. Para darle mayor credibilidad y evitar los votos cuestionables, los firmantes deben registrarse con datos básicos que confirmen su identidad: nombre completo, correo electrónico y profesión o cargo laboral. Sin embargo, el proceso de verificación requiere tiempo.
equipo editorial El equipo editorial de EMPRENDEDOR.com, que por más de 27 años ha trabajado en impulsar el emprendimiento.