Calvin Wankhede / Autoridad de Android
Los chatbots de IA se han convertido en una herramienta invaluable para muchos de nosotros, pero todavía no todos se sienten cómodos usándolos. Entre el hecho de que ChatGPT guarda tus datos y que necesitas una conexión a Internet para usarlo, muchos no se sienten cómodos usándolo. Estos problemas podrían superarse si ChatGPT fuera de código abierto, ya que permitiría que cualquier persona lo ejecutara en su propio hardware. Eso ya es posible con algunos competidores, de lo que hablaremos más adelante. Pero comencemos con ChatGPT: ¿es gratuito en el mismo sentido que Android y Linux?
¿ChatGPT es de código abierto?
Édgar Cervantes / Autoridad Android
No, ChatGPT no es un software de código abierto. Además, solo se ofrece de forma gratuita a los usuarios finales. Si está buscando agregar la funcionalidad ChatGPT a su propio sitio web o aplicación, tendrá que pagar por cada respuesta. El creador de ChatGPT, OpenAI, se fundó como una organización sin fines de lucro. Sin embargo, los objetivos de la empresa han cambiado a lo largo de los años y ahora aspira a volverse rentable.
OpenAI tiene una ventaja única en este momento, lo que significa que se beneficia de mantener el código cerrado de ChatGPT. Se cree ampliamente que el último modelo de lenguaje GPT-4 de la compañía supera a la competencia. Eso incluye el modelo PaLM 2 utilizado en el chatbot Bard de Google.
Sin embargo, incluso si fuera de código abierto, ejecutar una versión local de ChatGPT en su propia computadora sería extremadamente difícil, si no imposible. Esto se debe a que la tecnología requiere grandes cantidades de potencia informática, especialmente cuando hablamos de modelos más complejos como la familia GPT de OpenAI.
¿Cuáles son algunas alternativas de código abierto a ChatGPT?
LLaMA de Meta es uno de los modelos de lenguaje grande de código abierto más populares disponibles en la actualidad. LLaMA significa Large Language Model Meta AI, por lo que lleva el nombre de la empresa matriz de Facebook. Sin embargo, vale la pena señalar que LLaMA no es exactamente una alternativa de ChatGPT de código abierto para el usuario promedio. Meta aún no ha lanzado un producto basado en LLaMA, solo el código subyacente. Pero como le mostraré en una sección posterior, la comunidad de código abierto ha ideado formas de interactuar con LLaMA incluso en las computadoras domésticas típicas.
Es posible que Meta no tenga la mejor reputación en las redes sociales, pero la empresa ha realizado importantes contribuciones de código abierto a lo largo de los años. Por ejemplo, el popular marco de aprendizaje automático PyTorch fue desarrollado originalmente por la división de IA de Meta. Del mismo modo, muchos desarrolladores utilizan la biblioteca React JavaScript de código abierto de Meta para crear rápidamente elementos de interfaz de usuario para sus sitios web. Y ahora, Meta se ha convertido en la primera gran empresa en lanzar un modelo de lenguaje de código abierto.
La empresa matriz de Facebook ofrece el modelo de lenguaje grande de código abierto más popular en este momento.
Según Meta, las versiones más pequeñas de su modelo de lenguaje LLaMA pueden mantenerse al día con GPT-3 de OpenAI. Por contexto, ChatGPT usa una versión más avanzada de GPT-3, a menudo denominada GPT-3.5. Y si paga más de $ 20 por mes por una suscripción a ChatGPT Plus, también obtiene acceso al último modelo GPT-4.
Todo eso es para decir que el modelo de lenguaje LLaMA de código abierto de Meta no puede seguir exactamente el ritmo de los mejores de la industria. Si necesita un chatbot para tareas más complejas que requieren habilidades de razonamiento lógico, obtendrá mejores resultados con ChatGPT y GPT-4.
Pero si no le importa la vanguardia, hay bastantes modelos de lenguaje de código abierto para elegir. Aquí hay unos ejemplos:
- BERT: BERT de Google AI, abreviatura de Representaciones de codificador bidireccional de Transformers, fue uno de los primeros modelos de lenguaje en estar disponible públicamente. Según el gigante de las búsquedas, BERT funciona excepcionalmente bien en escenarios de preguntas y respuestas si ajusta el modelo de antemano. Pero como habrás adivinado, requiere un poco de trabajo para comenzar.
- GPT-NeoX: GPT-NeoX de EleutherAI es un modelo de lenguaje de 20 mil millones de parámetros que es mucho más fácil de usar. Sin embargo, requiere grandes cantidades de memoria de video GPU (VRAM), lo que descarta la mayoría del hardware de consumo. Dicho esto, puede usar varias tarjetas gráficas para alcanzar el requisito mínimo de 45 GB.
- Alpaca: Un grupo de investigadores de Stanford tomó el modelo de lenguaje LLaMA de Meta y lo ajustó utilizando la API GPT-3 de OpenAI. El resultado es un modelo más pequeño pero altamente optimizado que se ejecuta en hardware básico, incluida mi computadora portátil intermedia. La accesibilidad de Alpaca la ha convertido en una de las alternativas de código abierto más populares a ChatGPT.
Cómo usar un chatbot de IA de código abierto sin conexión
Calvin Wankhede / Autoridad de Android
Ahora que conoce algunas de las alternativas de ChatGPT de código abierto que existen, es posible que desee ejecutar una de ellas usted mismo. Hay buenas noticias en ese frente ya que la comunidad de código abierto ha desarrollado una serie de soluciones fáciles para comenzar a chatear con ellos. Lo mejor de todo es que también funcionan sin conexión, por lo que no necesita una conexión a Internet.
Si bien puede encontrar instrucciones individuales para cada modelo principal de código abierto, recomendaría usar GPT4All en su lugar. Es una aplicación gráfica que te permite entrenar, ajustar y chatear con varios modelos de código abierto, incluidos muchos basados en LLaMA. Cuando lo probé en un Macbook Air con tecnología M1, GPT4All tardó solo unos segundos en generar respuestas. En promedio, fue tan rápido como la versión gratuita de ChatGPT con un par de ralentizaciones menores de vez en cuando. Así es como puede comenzar:
- Visite el sitio web de GPT4All y haga clic en el enlace de descarga para su sistema operativo, ya sea Windows, macOS o Ubuntu.
- Siga las instrucciones para instalar el software en su computadora.
- Abra la aplicación GPT4All y seleccione un modelo de idioma de la lista. La aplicación le avisará si no tiene suficientes recursos, para que pueda omitir fácilmente los modelos más pesados.
- Una vez descargado, estará listo para comenzar a chatear con el modelo de idioma. Simplemente escriba un aviso como lo haría con ChatGPT y espere una respuesta.
Si está utilizando una computadora o computadora portátil más lenta, es posible que las respuestas tarden unos segundos en aparecer. Pero esa es la compensación que debe aceptar cuando usa un modelo de lenguaje de código abierto en su propia máquina.