Bengio y LeCun no ven ninguna razón por la que los sistemas de aprendizaje profundo no puedan razonar. Bengio dijo: «Los humanos también usan algún tipo de redes neuronales en sus cerebros, y creo que hay formas de llegar a un razonamiento similar al humano con arquitecturas de aprendizaje profundo».
Crédito: Bennie Mols
Fue hace 10 años, en 2012, que el aprendizaje profundo hizo su gran avance, cuando un algoritmo innovador para clasificar imágenes basado en redes neuronales de múltiples capas de repente resultó ser espectacularmente mejor que todos los algoritmos anteriores. Ese avance ha llevado a la adopción del aprendizaje profundo en dominios como el reconocimiento de voz e imágenes, la traducción y transcripción automáticas y la robótica.
A medida que el aprendizaje profundo se integró en cada vez más aplicaciones cotidianas, surgieron más y más ejemplos de lo que puede salir mal: sistemas de inteligencia artificial (IA) que discriminan, confirman estereotipos, toman decisiones inescrutables y requieren una gran cantidad de datos y, a veces, también una gran cantidad de datos. cantidad de energía.
En este contexto, el 9º Foro de Laureados de Heidelberg organizó un panel de discusión sobre las aplicaciones e implicaciones del aprendizaje profundo para una audiencia de unos 200 jóvenes investigadores de más de 50 países. El panel incluyó a los ganadores del Premio Turing Yoshua Bengio, Yann LeCun y Raj Reddy, el ganador del Premio ACM en Informática 2011 Sanjeev Arora, y los investigadores Shannon Vallor, Been Kim, Dina Machuve y Shakir Mohamed. Katherine Gorman moderó la discusión.
El científico jefe de inteligencia artificial de Meta, Yann LeCun, resultó ser el más optimista de los panelistas: «Ha habido muchas afirmaciones de que el aprendizaje profundo no puede hacer esto o aquello, y la mayoría de estas afirmaciones han demostrado ser falsas después de unos años de más». trabajo. En los últimos cinco años, el aprendizaje profundo ha sido capaz de hacer cosas que ninguno de nosotros imaginaba que sería capaz de hacer, y el progreso se está acelerando».
Como ejemplo, LeCun dijo que Facebook, propiedad de Meta, ahora detecta automáticamente el 96 % de todos los discursos de odio, mientras que hace unos cuatro años eso era solo el 40 %. Él atribuye la mejora al aprendizaje profundo. «Estamos bombardeados con enormes cantidades de información todos los días, y esto solo empeora. Vamos a necesitar aún más sistemas automatizados que nos permitan filtrar esta información».
Shannon Vallor, profesora especializada en ética de los datos e inteligencia artificial en la Universidad de Edimburgo en el Reino Unido, se opuso a la idea de LeCun de que la tecnología simplemente avanza como si tuviera su propia voluntad y que la sociedad simplemente tiene que adaptarse. «Así es precisamente como nos metimos en ciertos problemas. La tecnología puede tomar muchos caminos bifurcados y las personas deciden cuál de los caminos bifurcados es óptimo seguir. Los sistemas de aprendizaje profundo son artefactos que los humanos construyen y despliegan, de acuerdo con sus propios valores. incentivos y estructuras de poder, y por lo tanto todavía somos totalmente responsables de ellos».
Una de las críticas al aprendizaje profundo es que, si bien es bueno en el reconocimiento de patrones, actualmente no es adecuado para el razonamiento lógico, mientras que la antigua IA simbólica sí lo es. Sin embargo, tanto Bengio como LeCun no vieron ninguna razón por la cual los sistemas de aprendizaje profundo no puedan razonar. Como observó Bengio, «los humanos también usan algún tipo de redes neuronales en sus cerebros, y creo que hay formas de llegar a un razonamiento similar al humano con arquitecturas de aprendizaje profundo».
Sin embargo, Bengio agregó que no cree que solo ampliar las redes neuronales actuales sea suficiente. «Creo que podemos inspirarnos mucho más en la biología y la inteligencia humana para cerrar la brecha entre la IA actual y la inteligencia humana».
No es solo que el aprendizaje profundo no pueda razonar todavía, sino que tampoco podemos razonar sobre las redes neuronales profundas, agregó Sanjeev Arora, científico informático teórico de la Universidad de Princeton. Arora dijo: «Necesitamos una mayor comprensión de lo que sucede dentro de la caja negra de los sistemas de aprendizaje profundo, y eso es lo que estoy tratando de hacer».
Raj Reddy fue el panelista que ha estado involucrado en la comunidad de IA por más tiempo, desde la década de 1960, cuando hizo su doctorado. investigación con el pionero de la IA John McCarthy. Reddy ve el vaso medio lleno en lugar de medio vacío: «Una aplicación importante del aprendizaje profundo es ayudar a las personas en la base de la pirámide social. Hay alrededor de dos mil millones de personas en el mundo que no saben leer ni escribir. Todo tipo de las tecnologías del lenguaje, como el reconocimiento de voz y la traducción, ahora son lo suficientemente buenas para ser utilizadas. He trabajado en esta área durante casi 60 años y no pensé que tales tecnologías se volverían prácticas en mi vida. Dentro de diez años, incluso un persona analfabeta podrá leer cualquier libro, ver cualquier película y tener una conversación con cualquier persona, en cualquier parte del mundo, en su idioma nativo».
Sin embargo, lidiar con lenguajes más pequeños sigue siendo un problema sin resolver para las tecnologías de aprendizaje profundo, ya que hay muchos menos datos disponibles para ellas. Dina Machuve, consultora de ciencia de datos, comentó que solo en África se hablan 2000 idiomas para los que no hay tecnologías de IA disponibles. Es importante ir a una comunidad y ver qué funcionaría para ellos, por lo que al buscar aplicaciones de aprendizaje profundo para África, Machuve se concentró en las aplicaciones de imágenes. Como resultado, “hemos desarrollado sistemas de detección temprana de enfermedades avícolas y de cultivos basados en el reconocimiento de imágenes”.
Desafortunadamente, en muchos sentidos, África sigue siendo el continente que falta en la investigación y el despliegue del aprendizaje profundo, agregó Shakir Mohamed, investigador de DeepMind en Londres. «Contamos cuántos trabajos de personas en África se presentaron en la conocida conferencia NeurIPS sobre procesamiento de información neuronal entre 2006 y 2016, y la respuesta es: cero. Lo mismo para América Latina, o tal vez fue uno. Espero que todos ustedes, dondequiera que estén, que también tomen en serio la cuestión de la representación, quién está haciendo ese trabajo, dónde se está haciendo y cómo pueden compartir su experiencia con los demás».
Been Kim, científica investigadora de Google Brain, dijo que quería que todos se dieran cuenta de que el aprendizaje profundo no es una herramienta mágica que resolverá todos los problemas de la sociedad. De hecho, observó: «Puede haber soluciones que no sean de IA que sean mejores para su problema que el aprendizaje automático. Realmente debe detenerse y preguntarse: ‘¿Es esta la herramienta adecuada?'».
Cuando se le preguntó qué debería saber el público en general sobre la IA y su perspectiva, Mohamed dijo: «El futuro no se ha decidido. Todavía podemos crear y dar forma al futuro, y eso es lo que siempre debemos recordar».
bennie mols es un escritor de ciencia y tecnología con sede en Ámsterdam, Países Bajos.
entradas no encontradas