Saltar al contenido

Libros de cálculo para el aprendizaje automático

16 de diciembre de 2020

El conocimiento de cálculo no es necesario para obtener resultados y resolver problemas en el aprendizaje de la máquina o el aprendizaje profundo.

Sin embargo, saber algo de cálculo le ayudará de varias maneras, como en la lectura de la notación matemática en libros y papeles, y en la comprensión de los términos utilizados para describir los modelos de ajuste como «gradientey en la comprensión de las dinámicas de aprendizaje de los modelos encajan a través de la optimización como las redes neuronales.

El cálculo es un tema desafiante tal y como se enseña en la universidad, pero no es necesario saber todo el cálculo, sólo un puñado de términos y métodos relacionados con la optimización de la función numérica, fundamental para ajustar los algoritmos como las redes neuronales. Y la mejor manera de aprender cálculo es a través de los libros.

En este tutorial, descubrirás libros de cálculo para el aprendizaje de la máquina.

Después de completar este tutorial, lo sabrás:

  • ¿Qué libros de aprendizaje de máquinas proporcionan una introducción suave a los temas de cálculo relevantes.
  • Libros que puedes usar para aprender las intuiciones, la historia y las técnicas de cálculo.
  • Libros de texto que puede usar como referencia o para profundizar en las técnicas de cálculo y sus pruebas.

Empecemos.

Libros de cálculo para el aprendizaje automático

Libros de cálculo para el aprendizaje automático
Foto de Roanish, algunos derechos reservados.

Resumen del Tutorial

Este tutorial está dividido en tres partes; son:

  1. El cálculo en los libros de aprendizaje automático
  2. Libros de cálculo introductorios
  3. Libros de cálculo

El cálculo en los libros de aprendizaje automático

Empieza con libros de aprendizaje de máquinas que cubren los fundamentos del cálculo.

Esto es perfecto si aprendiste cálculo en la escuela (hace mucho tiempo) y necesitas refrescarte, o si necesitas un curso rápido en los términos y métodos.

Muchos de los mejores libros de texto de aprendizaje automático y de aprendizaje profundo cubren lo básico, y a menudo es suficiente para la mayoría de los casos, por ejemplo, cuando te centras en obtener resultados con los algoritmos de aprendizaje automático.

También ayuda si ya tienes un libro de texto de aprendizaje de máquinas que cubre algunos cálculos, ya que no necesitas conseguir otro libro.

Dos grandes libros de texto que cubren algunos cálculos incluyen:

La cobertura del cálculo en el libro de texto «Aprendizaje profundo» es breve.

El cálculo se introduce en el contexto de la optimización, primero en términos de regresión lineal y luego, de manera más general, para la optimización multivariante, vista al ajustar las redes neuronales.

Esto incluye temas como:

  • Derivado
  • Derivado parcial
  • Segunda derivada
  • Matriz de Hesse
  • Gradiente
  • Descenso gradual
  • Puntos críticos
  • Puntos fijos
  • Máximo local
  • Mínimo global
  • Puntos de la silla de montar
  • Matriz jacobiana

Y más.

Términos de cálculo

Términos de cálculo.
Tomado de la página xiii, Aprendizaje profundo, 2016.

El libro «Pattern Recognition and Machine Learning» proporciona una cobertura más profunda.

Recomendado:  Las 10 ideas principales en estadísticas que han impulsado la revolución de la inteligencia artificial

Específicamente:

  • Capítulo 10: Inferencia aproximada
  • Apéndice D: Cálculo de las variaciones

En el apéndice D se introduce el tema del «cálculo de las variaciones» y en el capítulo 10 se hace uso de la técnica. El tema también se trata en el libro de aprendizaje profundo.

Si un problema típico de cálculo implica encontrar un valor de una variable que optimiza una función, entonces el cálculo de variaciones se refiere a la financiación de una función que optimiza otra función. Podemos ver que esto es relevante en el aprendizaje automático y específicamente en las redes neuronales ya que el modelo de red neuronal (circuito) aprende funciones arbitrarias bajo una función de pérdida.

Un problema común en el cálculo convencional es encontrar un valor de x que maximice (o minimice) una función y(x). De forma similar, en el cálculo de variaciones buscamos una función y(x) que maximice (o minimice) una función F [y]. Es decir, de todas las funciones posibles y(x), deseamos encontrar la función particular para la cual la F funcional [y] es un máximo (o mínimo).

– Página 703, Pattern Recognition and Machine Learning, 2006.

El cálculo de las variaciones no es necesario para ajustar las redes neuronales, pero proporciona una herramienta útil para comprender mejor el problema que estamos resolviendo al ajustar una red neuronal y los tipos de dinámica de aprendizaje que podemos ver en la práctica.

Por último, estamos empezando a ver libros dedicados a la comprensión matemática que subyace en el aprendizaje de las máquinas.

Un ejemplo es «Matemáticas para el aprendizaje de la máquina».

Este libro cubre muchos de los cálculos necesarios para el aprendizaje de la máquina y proporciona el contexto que muestra dónde encaja en términos de la optimización (entrenamiento/aprendizaje) de los modelos.

El cálculo y su conexión con el aprendizaje automático

El cálculo y su conexión con el aprendizaje automático.
Tomado de Matemáticas para el Aprendizaje Automático, página 140.

La discusión sobre el cálculo se limita a Capítulo 5: Cálculo vectorialque cubre los siguientes temas:

  • Sección 5.1 Diferenciación de las funciones univariantes
  • Sección 5.2 Diferenciación parcial y gradientes
  • Sección 5.3 Gradientes de las funciones de valor vectorial
  • Sección 5.4 Gradientes de las matrices
  • Sección 5.5 Identidades útiles para la computación de los gradientes
  • Sección 5.6 La retropagación y la diferenciación automática
  • Sección 5.7 Derivados de orden superior
  • Sección 5.8 Linearización y Serie Taylor multivariante

Este libro es un excelente punto de partida para completar o refrescar sus conocimientos de cálculo para el aprendizaje de la máquina.

Libros de cálculo introductorios

Conocer los nombres de los términos es una cosa, pero ¿qué pasa si quieres conocer algunos de los métodos de forma más general?

Para eso, recomendaría un sólido libro para principiantes, como:

No son libros de texto, sino que asumen poco o ningún fondo (por ejemplo, el pre-cálculo) y le guiarán a través de las intuiciones y las técnicas y su aplicación a ejercicios simples.

Recomendado:  Introducción a la biblioteca de aprendizaje profundo de Python TensorFlow

¡La intuición es la clave! No estamos haciendo grados de matemáticas; estamos resolviendo problemas de aprendizaje de máquinas.

Un libro de texto le enseñará el método y la prueba pero raramente le dirá qué problema el método fue diseñado para resolver en primer lugar y un poco de historia. Creo que los antecedentes son críticos.

Soy dueño de ambos libros. Me gusta «Cálculo para tontos» y lo recomendaría, si puedes pasar del nombre y el estilo.

Hay muchos que dicen que el cálculo es uno de los logros más importantes de toda la historia intelectual. Como tal, vale la pena el esfuerzo. Lee este libro sin jerga, aprende sobre el cálculo, y únete a los pocos felices que pueden decir con orgullo, «¿Cálculo? Claro, sé de cálculo. No es gran cosa».

– Página 1, Cálculo para muñecos, 2016.

El índice es el siguiente:

  • Introducción
  • Parte I: Una visión general del cálculo
    • Capítulo 1: ¿Qué es el cálculo?
    • Capítulo 2: Las dos grandes ideas del cálculo: Diferenciación e Integración – más Serie Infinita
    • Capítulo 3: Por qué funciona el cálculo
  • Parte II: Calentamiento con cálculo Requisitos previos
    • Capítulo 4: Revisión de Pre-Álgebra y Álgebra
    • Capítulo 5: Funciones funky y sus gráficos groovy
    • Capítulo 6: El Tango Trigón
  • Parte III: Límites
    • Capítulo 7: Límites y continuidad
    • Capítulo 8: Evaluación de los límites
  • Parte IV: Diferenciación
    • Capítulo 9: Orientación de la diferenciación
    • Capítulo 10: Reglas de diferenciación – Sí, hombre, es la regla
    • Capítulo 11: Diferenciación y la forma de las curvas
    • Capítulo 12: Sus problemas están resueltos: Diferenciación al rescate!
    • Capítulo 13: Más problemas de diferenciación: Salir en una tangente
  • Parte V: Serie Integración e Infinito
    • Capítulo 14: Introducción a la integración y al área de aproximación
    • Capítulo 15: Integración: Es la diferenciación al revés
    • Capítulo 16: Técnicas de integración para expertos
    • Capítulo 17: Olvida al Dr. Phil: Usa la Integral para resolver problemas
    • Capítulo 18: Domando el infinito con integrales inadecuadas
    • Capítulo 19: Serie infinita
  • Parte VI: La parte de las decenas
    • Capítulo 20: Diez cosas para recordar
    • Capítulo 21: Diez cosas para olvidar
    • Capítulo 22: Diez cosas con las que no puedes salirte con la tuya

Encuentro «La guía de cálculo del autoestopista» buena, pero concisa. Va directo al punto de cada método.

Lo mejor de este libro es que se centra en hacerte hacer cálculos. Aprende calculando. Así es como aprendo.

… El cálculo requiere la comprensión de un nuevo conjunto de ideas, las cuales son muy interesantes y bastante bellas, pero también un poco difíciles de comprender. Sin embargo, con todas las nuevas ideas que conlleva, el cálculo es un método de cálculo, así que en tu curso de cálculo vas a hacer cálculos, montones de cálculos, montones de cálculos, ¡un aparente sinfín de cálculos!

– Páginas 1-2, La Guía de Cálculo del Autoestopista, 2019.

Recomendado:  Hopper, barrido de amperios Pruebas de entrenamiento MLPerf

Otro libro que recomiendo encarecidamente es un libro de ciencia popular:

Poderes infinitos

Poderes infinitos

Este libro te entusiasmará con el cálculo.

Cubre la historia y te dará una idea de por qué se inventaron las herramientas de cálculo y por qué son tan poderosas.

Sin el cálculo, no tendríamos teléfonos celulares, computadoras u hornos de microondas. No tendríamos radio. O televisión. O ultrasonidos para las mujeres embarazadas, o GPS para los viajeros perdidos. No habríamos dividido el átomo, desentrañado el genoma humano, o puesto astronautas en la luna. Ni siquiera tendríamos la Declaración de Independencia.

– Página vii, Poderes Infinitos, 2020.

La historia es importante. Necesitas a alguien que exponga los problemas difíciles que la geometría y el álgebra no pudieron resolver, los hackeos que se intentaron y los nuevos métodos que se inventaron y que funcionan muy bien.

El cálculo comenzó como una consecuencia de la geometría. Alrededor del año 250 a.C. en la antigua Grecia, era un inicio matemático caliente dedicado al misterio de las curvas.

– Página 3, Poderes Infinitos, 2020.

Se da cuenta de que el cálculo no es magia y hechizos, sino herramientas para resolver problemas. Y que todo se puede aprender, si quieres.

Libros de cálculo

Tal vez quieras ir más profundo.

Quieres ver y trabajar a través de las pruebas de cada método, trabajar a través de ejercicios de práctica a nivel universitario, profundizar.

No se requiere que esto sea efectivo en el aprendizaje de la máquina, pero a veces queremos hacerlo todo. Lo comprendo. En ese caso, recomiendo un libro de texto, como el que se usa en los cursos de licenciatura.

También puede ser una buena idea tener a mano un libro de texto para profundizar en los detalles de los términos y métodos específicos que se solicitan cuando se utiliza material de alto nivel/simplificado. Por ejemplo, escarbando realmente en la matriz de Hesse.

Hay un gran número de libros de texto sobre cálculo y aparentemente nuevas ediciones cada pocos años.

Sin embargo, algunos de los principales libros de texto utilizados en la universidad son los siguientes:

  • Cálculo, 3ª edición, 2017. (Gilbert Strang)
  • Cálculo, 8ª edición, 2015. (James Stewart)
  • Cálculo, 4ª edición, 2008. (Michael Spivak)
  • Cálculo, 11ª edición, 2017. (Ron Larson, Bruce Edwards)
  • Cálculo de Thomas, 14ª edición, 2017. (Joel Hass, Christopher Heil, Maurice Weir)

Me gusta Stewart, pero son todos iguales. Todos son un trabajo duro.

Se espera que haga una tonelada de ejemplos trabajados. No hay manera de evitarlo.

Tal vez desnaturalizar algunos y elegir uno que se sienta como un buen ajuste para su estilo de aprendizaje.

Resumen

En este tutorial, descubriste libros de cálculo para el aprendizaje de la máquina.

¿Has leído alguno de los libros, o planeas conseguir uno?
Hágamelo saber en los comentarios de abajo.

¿Conoces otro gran libro de cálculo?
Por favor, hágamelo saber en los comentarios.