Un grupo separatista de investigadores de inteligencia artificial ha recaudado una primera ronda de financiación récord para una nueva puesta en marcha involucrada en la IA de propósito general, lo que marca el último intento de crear una organización para garantizar la seguridad de la tecnología más poderosa de la era.
El grupo se ha separado de OpenAI, una organización fundada con el respaldo de Elon Musk en 2015 para asegurarse de que los sistemas de IA superinteligentes no se vuelvan locos y dañen a sus creadores. El cisma siguió a las diferencias sobre la dirección del grupo después de que Microsoft realizó una inversión histórica de mil millones de dólares en 2019, según dos personas familiarizadas con la división.
La nueva compañía, Anthropic, está dirigida por Dario Amodei, uno de los fundadores de OpenAI y exjefe de seguridad de IA en la organización. Ha recaudado 124 millones de dólares en su primera ronda de financiación. Eso es lo más planteado para un grupo de IA que intenta construir tecnología de IA de aplicación general, en lugar de uno formado para aplicar la tecnología a una industria específica, según la firma de investigación PitchBook. Según las cifras reveladas en una presentación de la empresa, la ronda valora a Anthropic en 845 millones de dólares.
La inversión fue dirigida por Jaan Tallinn, el informático estonio detrás de Skype. Eric Schmidt, ex director ejecutivo de Google, y Dustin Moskovitz, cofundador de Facebook, también han respaldado la empresa.
La ruptura con OpenAI comenzó con la partida de Amodei en diciembre y desde entonces ha crecido hasta incluir cerca de 30 investigadores, según una estimación. Incluyen a la hermana de Amodei, Daniela Amodei, presidenta de Anthropic, así como a un grupo de investigadores que trabajaron en GPT-3, el innovador sistema de lenguaje automático de OpenAI, incluidos Jared Kaplan, Amanda Askell, Tom Henighan, Jack Clark y Sam McCandlish.
OpenAI cambió de rumbo hace dos años cuando buscó el respaldo de Microsoft para alimentar su creciente hambre de recursos informáticos para impulsar sus sistemas de aprendizaje profundo. A cambio, prometió a la empresa de software los primeros derechos para comercializar sus descubrimientos.
“Comenzaron como una organización sin fines de lucro, destinada a democratizar la inteligencia artificial”, dijo Oren Etzioni, director del instituto de inteligencia artificial fundado por el difunto cofundador de Microsoft, Paul Allen. “Obviamente, cuando obtienes mil millones de dólares tienes que generar un retorno. Creo que su trayectoria se ha vuelto más corporativa «.
OpenAI ha tratado de aislar su investigación sobre la seguridad de la IA de sus operaciones comerciales más recientes al limitar la presencia de Microsoft en su directorio. Sin embargo, eso aún generó tensiones internas sobre la dirección y las prioridades de la organización, según una persona familiarizada con el grupo separatista.
OpenAI no quiso comentar si el desacuerdo sobre la dirección de la investigación había llevado a la división, pero dijo que había realizado cambios internos para integrar su trabajo en investigación y seguridad más de cerca cuando Amodei se fue.
Microsoft ganó los derechos exclusivos para aprovechar los hallazgos de la investigación de OpenAI después de comprometer $ 1 mil millones para respaldar al grupo, gran parte en forma de tecnología para respaldar sus sistemas de aprendizaje profundo intensivos en computación, incluido GPT-3. A principios de esta semana, Microsoft dijo que había integrado el sistema de lenguaje en algunas de sus herramientas de creación de software para que las personas sin habilidades de codificación pudieran crear sus propias aplicaciones.
La prisa por comercializar rápidamente GPT-3 contrasta con el manejo de OpenAI de una versión anterior de la tecnología, desarrollada en 2019. El grupo inicialmente dijo que no revelaría detalles técnicos sobre el avance debido a la preocupación por el posible uso indebido del poderoso sistema de lenguaje. , aunque luego cambió de rumbo.
Para protegerse de la interferencia comercial, Anthropic se ha registrado como una corporación de beneficio público, o «corporación B», con arreglos de gobernanza especiales para proteger su misión de «desarrollar y mantener la IA avanzada de manera responsable en beneficio de la humanidad». Estos incluyen la creación de un comité de beneficios a largo plazo compuesto por personas que no tienen conexión con la empresa o sus patrocinadores, y que tendrán la última palabra en asuntos que incluyen la composición de su directorio.
Anthropic dijo que su trabajo se centrará en «modelos de IA a gran escala», lo que incluye hacer que los sistemas sean más fáciles de interpretar y «construir formas de integrar más estrechamente la retroalimentación humana en el desarrollo y despliegue de estos sistemas».
Boletín diario
© Financial Times
#techFT le ofrece noticias, comentarios y análisis sobre las grandes empresas, tecnologías y problemas que dan forma a este movimiento más rápido de sectores de parte de especialistas de todo el mundo. Haga clic aquí para obtener #techFT en su bandeja de entrada.