Saltar al contenido

AI on Edge | Septiembre 2020

26 de agosto de 2020

Una cosa notable de la inteligencia artificial (IA) es lo rápido y dramático que se ha colado en la corriente principal de la sociedad. Automóviles, robots, teléfonos inteligentes, televisores, altavoces inteligentes, prendas de vestir, edificios y sistemas industriales, todos han ganado características y capacidades que alguna vez habrían parecido futuristas. Hoy en día, pueden ver, pueden escuchar y pueden sentir. Pueden tomar decisiones que se aproximan -y a veces exceden- al pensamiento, comportamiento y acciones humanas.

Sin embargo, a pesar de todos los notables avances, hay una molesta realidad: los dispositivos inteligentes podrían ser aún mucho más inteligentes y abordar tareas mucho más difíciles. Es más, a medida que la Internet de las Cosas (IO) toma forma, la necesidad de sensores de baja latencia y ultra baja energía con procesamiento a bordo es vital. Sin este marco, «Los sistemas deben depender de nubes distantes y centros de datos para procesar los datos. El valor total de la IA no puede ser realizado», dice Mahadev Satyanarayanan, Profesor de Ciencias de la Computación del Grupo Carnegie en la Universidad Carnegie Mellon.

La IA de Edge apunta directamente a estos temas. «Para involucrar verdadera y penetrantemente a la IA en los procesos dentro de nuestras vidas, hay una necesidad de empujar la computación de la IA lejos del centro de datos y hacia el borde», dice Naveen Verma, un profesor de ingeniería eléctrica en la Universidad de Princeton. Este enfoque reduce la latencia minimizando, y a veces evitando de forma compleja, la necesidad de un centro de datos distante. En muchos casos, el cálculo se realiza en el propio dispositivo. «Edge AI permitirá nuevos tipos de sistemas que pueden operar a nuestro alrededor al ritmo de la vida y con datos que son íntimos e importantes para nosotros», explica Verma.

El poder de este marco radica en el procesamiento de los datos exactamente cuando y donde se necesitan. «Edge AI» introduce nuevas capas computacionales entre la nube y los dispositivos de usuario. Distribuye los cálculos de las aplicaciones entre estas capas», dice Lauri Lovén, un investigador doctoral y científico de datos de la Universidad de Oulu en Finlandia.

Llevar la inteligencia al límite también podría alterar fundamentalmente la privacidad de los datos. Los chips y nubes especializadas -esencialmente micro-nubes o nubes ad hoc que funcionarían en un hogar, negocio o vehículo- podrían controlar la información que se envía desde los dispositivos inteligentes, como los televisores y los altavoces digitales.

Volver al principio

Más allá del centro de datos

En el corazón de la IA de borde hay un simple pero profundo desafío: conseguir que los sistemas informáticos tomen decisiones al ritmo de la mente humana y de los eventos en tiempo real. Para que la inteligencia artificial florezca plenamente, cualquier sistema que incorpore la IA debe funcionar sin ninguna disminución significativa en la velocidad y la precisión. Esto normalmente requiere una latencia inferior a 10 milisegundos. Sin embargo, las nubes de hoy en día responden en el entorno de los 70 milisegundos; las conexiones que incorporan la conectividad inalámbrica son aún más lentas, señala Satyanarayanan.

El enfoque actual de forzar las corrientes de datos a través de unos pocos centros de datos grandes inhibe las capacidades de las tecnologías digitales cada vez más sofisticadas. La IA de borde toma un rumbo diferente; ejecuta los algoritmos localmente en chips y hardware especializado, en lugar de en nubes distantes y centros de datos remotos. Esto significa que un dispositivo puede funcionar sin una conexión persistente a una red dedicada, o a la Internet, y puede acceder a conexiones remotas y transferir datos «según sea necesario». Los marcos actuales, incluidas las redes de «computación en el borde» y «niebla», sólo ofrecen beneficios incrementales porque los chips no están optimizados para la IA y las redes no fueron diseñadas específicamente para la IA en el borde.

Recomendado:  Educación tecnológica efectiva impulsada a través de la inteligencia artificial

Creando dispositivos «más inteligentes» y frenando la dependencia de los centros de datos convencionales, también es posible reducir drásticamente el consumo de energía. El fabricante de chips Qualcomm afirma que sus chips de vanguardia optimizados para la inteligencia artificial producen un ahorro de energía de hasta 25 veces en comparación con los chips convencionales y los enfoques de computación estándar. La conectividad inalámbrica de bajo consumo también reduce la dependencia de las baterías que deben cambiarse o recargarse constantemente. Otro beneficio es que la IA de vanguardia introduce controles más fuertes para la información sensible y privada porque los datos permanecen en el dispositivo o el chip, o en una nube local que el usuario controla.

Sin embargo, un marco de baja latencia requiere nuevos chips, dispositivos de almacenamiento y algoritmos. Altera significativamente los modelos de computación convencionales. «Los métodos modernos de IA basados en datos, en particular en la toma de decisiones y el aprendizaje automático (ML), están diseñados para ser ejecutados en un entorno de nube, con todos los elementos de datos siempre disponibles para el aprendizaje o la inferencia en recursos informáticos abundantes y homogéneos», observa Lovén. «El paradigma nativo de las nubes no se ajusta bien al entorno informático oportunista, distribuido y heterogéneo del borde, en el que los dispositivos aparecen y desaparecen, las conexiones fallan y las baterías de los dispositivos se agotan, y en el que el usuario y los dispositivos del borde tienen recursos computacionales muy variados».

Volver al principio

Dispositivos más inteligentes

Empujar la toma de decisiones y otras funciones al límite de la red produce cambios dramáticos, dice Verma. Por ejemplo, un vehículo autónomo podría utilizar la máquina de a bordo aprendiendo a adaptarse a las diferentes condiciones y conductores de forma dinámica. Una colección de sensores en un hogar o en un hospital podría hacer un mejor seguimiento de los pacientes, incluidos los ancianos, y detectar posibles problemas, como la incapacidad del paciente para levantarse de la cama o la falta de medicamentos. La IA de borde también podría monitorear la condición de las tuberías subterráneas sin necesidad de cambiar la batería de un sensor difícil de alcanzar durante décadas. «En este momento, lo que hacemos en el borde es bastante básico, pero dentro de unos pocos años es probable que veamos una funcionalidad robusta», dice Kurt Busch, CEO y cofundador de Syntiant Corp., una compañía que desarrolla chips de Edge AI.

Aunque muchas de estas cosas ya tienen lugar hoy en día sin la IA de borde, eliminar el viaje de ida y vuelta a la nube alteraría significativamente la funcionalidad. Por ejemplo, es una apuesta segura que una aplicación de traducción de idiomas hoy en día funcionará razonablemente bien en Barcelona o Beijing, pero las cosas se ponen más difíciles en, digamos, el desierto de Gobi de Mongolia, donde no hay conexión celular. Sin embargo, incluso cuando existe una señal fuerte, el proceso de rebote de frases hacia la nube y de regreso toma tiempo, y crea retrasos incómodos, y a menudo inaceptables. La IA de Edge podría resolver el problema almacenando todos los datos necesarios en el dispositivo y entrando en Internet sólo cuando sea necesario y deseable.

Otra característica particularmente atractiva de la IA de borde es la función de despertar al mando. Estos sistemas pueden reducir el consumo de energía a casi cero cuando un dispositivo no está en uso. Esto permite que algunos dispositivos funcionen durante años o décadas sin una recarga o una nueva batería. Las cámaras de video remotas, los implantes médicos y los sensores incorporados se beneficiarían de esta característica. Es más, muchos aparatos -hornos microondas o cafeteras, por ejemplo- no requieren una gran capacidad de procesamiento, o una Siri o Alexa, para funcionar; un par de cientos de palabras conectadas por cable serán suficientes. «El dispositivo es más sensible y ofrece una mejor privacidad porque no tiene que lidiar con el viaje de ida y vuelta de la nube», explica Busch.

Recomendado:  Revista Sex Robots y Carne Vegana de Jenny Kleeman - el futuro de la comida, el nacimiento y la muerte? | Libros

Edge AI podría añadir nuevas y más avanzadas características a los teléfonos inteligentes, relojes, gafas inteligentes, televisores inteligentes, auriculares Bluetooth, audífonos, dispositivos de control remoto, altavoces inteligentes, dispositivos médicos y varios dispositivos de IO. Sin embargo, Amit Lal, profesor de ingeniería eléctrica en la Universidad de Cornell, cree que la IA de vanguardia podría tener un impacto mucho más allá de los hornos microondas que permiten a la gente leer las instrucciones de cocina, o un audífono que se ajusta automáticamente al usuario y al entorno. Como parte de un equipo que supervisó el programa NZERO para la Agencia de Proyectos de Investigación Avanzada de la Defensa de los Estados Unidos (DARPA) entre 2017 y 2019, Lal y otros exploraron chips de aprendizaje nanomecánicos de ultra-bajo consumo o de cero consumo que podrían aprovechar las señales acústicas u otras formas de energía ambiental y despertar según sea necesario. En algún momento, esta investigación podría dar lugar a vehículos y otras máquinas que pueden ser detectados por una firma acústica única. «Se verificaría la identidad del vehículo u otro dispositivo antes de que se acerque y suponga una amenaza», dice.

Volver al principio

Repensar y reconfigurar la IA

Realizar todo el potencial de la IA de borde requiere un enfoque en cosas tanto prácticas como técnicas. Hay una necesidad de nuevos dispositivos y modelos de red que pasen por alto los asistentes virtuales, los altavoces inteligentes y la nube. Un punto de partida para abordar esta tarea son los microprocesadores de ingeniería diseñados específicamente para el aprendizaje profundo y las funciones de la IA en el chip, incluyendo el procesamiento del habla y las características de despertar a la demanda. «La Inteligencia Artificial de vanguardia requiere un marco completamente diferente para la recolección de datos, el modelado, la validación y la producción de un modelo de aprendizaje profundo», dice Busch de Syntiant.

Syntiant es una de las varias compañías que desarrollan chips específicamente diseñados para la inteligencia artificial. Otros incluyen Ambient, BrainChip, Coral, GreenWaves, Flex Logix y Mythic. Tales chips típicamente ejecutan algoritmos de aprendizaje de máquinas como cálculos de 8 o 16 bits, que optimizan el rendimiento local pero también reducen el consumo de energía, en algunos casos por órdenes de magnitud. A diferencia de los tradicionales chips de Von Neumann o de programas almacenados, como las unidades centrales de procesamiento (CPU) y los procesadores de señales digitales (DSP), los chips de IA de borde no necesitan intercambiar datos entre la memoria y el procesador; en su lugar, normalmente se basan en diseños de flujo de datos en memoria o casi en memoria que colocan la lógica y los datos de la memoria más cerca. Busch dice que el Procesador de Decisión Neural de Syntiant produce una mejora de eficiencia 100 veces mayor que las arquitecturas de programas almacenados como CPUs y DSPs.

Sin embargo, la clase actual de chips de IA de borde es sólo un punto de partida. Busch dice que los futuros chips de borde probablemente tomarán diferentes diseños y características, dependiendo del caso de uso. Las tecnologías de memoria emergentes como la Memoria Magnetorresistiva de Acceso Aleatorio (MRAM) y la Memoria Resistiva de Acceso Aleatorio (ReRAM) podrían optimizar aún más el rendimiento y la potencia para casos de usos específicos, incluyendo aplicaciones de ultra-bajo consumo que se ejecuten independientemente de un centro de datos. Otros fabricantes de chips están estudiando la memoria flash no volátil (NOR) como una forma de almacenar código en dispositivos para una funcionalidad de aprendizaje de máquina más avanzada.

Recomendado:  4 formas en que la inteligencia artificial conversacional mejora los servicios y las ventas de seguros : Risk & Insurance

Sin embargo, se necesitará algo más que nuevos y mejores chips para llevar la IA de vanguardia a la corriente principal. Satyanarayanan dice que hay una necesidad de desplegar la computación en nube de maneras completamente nuevas. Hace una década, introdujo la idea de los cloudlets -esencialmente un centro de datos en una caja- que podría funcionar en aviones, trenes, automóviles, casas y oficinas. «El mismo hardware Xeon que ocupa un edificio del tamaño de un balón de fútbol se adaptaría a una pequeña caja o bastidor para adaptarse al entorno. Estas nubes hiperconvergentes acercan la computación al usuario. Terminas con un gran ancho de banda y baja latencia», dice. Estos sistemas, y la IA de borde, podrían ser mejorados con la introducción de 5G, que soporta mejor los marcos de IO.


«Los nubarrones ampliamente desplegados cambiarían fundamentalmente la forma en que los flujos de datos, los procesos se llevan a cabo y las máquinas manejan las decisiones».


En los últimos dos años, la idea de las nubes y el borde de la IA ha comenzado a tomar forma. Amazon Web Services ha introducido la longitud de onda, y Google ha introducido el TPU Edge, soluciones de hardware y software que acomodan la funcionalidad de borde. Aunque la tecnología de inteligencia artificial de vanguardia plantea preguntas, incluyendo cómo abordar la protección física y la ciberseguridad de manera óptima, el modelo está llamando la atención y ganando impulso. «Las nubes ampliamente desplegadas cambiarían fundamentalmente la forma en que los flujos de datos, los procesos se llevan a cabo y las máquinas manejan las decisiones», dice Satyanarayanan.

Volver al principio

En la vanguardia

Mover la IA de la mesa de dibujo a la vida cotidiana requerirá algunas otras cosas. Un requisito particularmente importante es el aprendizaje distribuido y los algoritmos de inferencia que funcionan en un entorno de borde disperso, oportunista y heterogéneo con datos no IID (datos dependientes o distribuidos de forma no idéntica), dice Lovén. Lo bien que estos sistemas cumplan con la tarea determinará cuán eficazmente funcionan y cuánto valor proporcionan, especialmente en ecosistemas de IO altamente conectados.

Además, se necesitan bibliotecas y marcos de trabajo que implementen algoritmos nuevos y más eficientes. Los desarrolladores de aplicaciones de inteligencia artificial de vanguardia y las tareas de aprendizaje de máquinas en chip o en el dispositivo requerirán herramientas y recursos ya preparados. Además, estas bibliotecas deben funcionar en diferentes entornos de borde, incluyendo nubes ad hoc o nubes de diferentes fabricantes. Al carecer de este marco, surgirán problemas de compatibilidad y calidad de datos, y la IA de borde podría tropezar. «Los marcos existentes como Spark, Tensorflow o Ray son esencialmente nativos de la nube, y sus modelos computacionales se ajustan mal al entorno de borde», dice Lovén.

A pesar de los desafíos técnicos y las nuevas preocupaciones de seguridad, la Inteligencia Artificial Avanzada casi seguro que ganará impulso en los próximos años. No sólo aparecerán chips de borde y otros componentes en aparatos, dispositivos y sensores, sino que introducirán formas completamente nuevas de aprovechar la IA, las redes neuronales y el aprendizaje por máquina, mientras que tal vez recapturarán una sensación de privacidad que se ha perdido en gran medida en la era digital. Dice Lal, «Hay un increíble número de aplicaciones y posibilidades para la IA de vanguardia. Si haces que las máquinas y los sensores sean más inteligentes y disminuyan sus requerimientos de energía, se abre un mundo de posibilidades».