La inteligencia artificial está en boca de muchos gracias a Chat GPT. Pero, ¿la nueva tecnología es una amenaza o una oportunidad? ¿O son ambos? El investigador de IA Fredrik Heintz ve grandes oportunidades pero también desafíos.
Chat GPT: el potente chatbot impulsado por IA que revoluciona la comunicación. Capacitado por OpenAI, Chat GPT ofrece respuestas rápidas y confiables a preguntas sobre un amplio espectro de temas. Con su capacidad de procesamiento de lenguaje natural y su enorme conjunto de datos, Chat GPT es la herramienta definitiva para simplificar la comunicación y aumentar la productividad.
El párrafo anterior fue escrito por Chat GPT cuando se le pidió que escribiera un texto introductorio sobre sí mismo. Tal vez no sea una obra maestra, pero aun así comprensible. ¿Es tentador para un escritor que el chatbot escriba el resto del texto? Bueno, eso no va a pasar… esta vez.
La versión beta de Chat GPT se lanzó en noviembre de 2022. Es, como ya se mencionó, un chatbot administrado por inteligencia artificial: IA. Los resultados generados son en muchos casos asombrosamente buenos y han fascinado a muchos en tan poco tiempo. Después de poco más de una semana, Chat GPT tenía más de un millón de usuarios.
Con versiones anteriores de chatbots, no había duda de que una computadora respondía sus preguntas. Sus limitaciones a la hora de procesar el lenguaje natural y su incapacidad para adaptar sus respuestas al contexto han sido evidentes. Pero Chat GPT difumina las líneas entre humanos y máquinas, para bien o para mal.
Fredrik Heintz es uno de los investigadores suecos más destacados en IA y coordinador del proyecto TAILOR, que tiene como objetivo desarrollar la capacidad para proporcionar las bases científicas para una IA confiable en toda la UE.
“Hay muchas cosas interesantes en los textos que produce, y logra extraer mucho del material de origen, lo que podría proporcionar nuevos conocimientos. Al mismo tiempo, no puede diferenciar entre lo que no tiene sentido y lo que tiene sentido”, dice.
Chat GPT está entrenado con redes neuronales profundas en enormes conjuntos de datos para proporcionar respuestas que sean lo más generales y precisas posible. El modelo ha procesado aproximadamente 500 mil millones de conceptos de libros, archivos web y Wikipedia. Para afinar sus respuestas, es entrenado por humanos. También utiliza el autoaprendizaje para mejorar cada vez más, un método de trabajo utilizado durante mucho tiempo en la investigación de IA.
“En realidad, no es debido a nuevos avances científicos que Chat GPT funcione tan bien. Es la escala lo que importa. Cuantos más datos de entrenamiento, mejores serán los resultados. Diría que es un pequeño paso para la investigación, pero un gran salto para la utilidad de la IA”, dice Fredrik Heintz.
Y la utilidad de Chat GPT parece casi infinita. Puede hacer cualquier cosa, desde ser un chatbot similar a un humano hasta software de codificación, componer música y escribir historias cortas al estilo de Joyce Carol Oates o Edgar Allan Poe.
“La cultura humana consiste en gran medida en texto. Se ha prestado mucha atención a Chat GPT porque el lenguaje que genera se ha acercado mucho más a nosotros. Tal vez un poco demasiado cerca”, dice Fredrik Heintz.
Pero además de escribir cuentos creativos, poesía innovadora y letras emotivas también puede escribir ensayos, artículos científicos y reportajes. Esto ha hecho que algunos de nosotros pensemos en cómo relacionarnos con los hechos y el conocimiento.
La IA existente actualmente se entrena en textos e imágenes existentes una vez creados por humanos. La mayor parte de este material se puede encontrar en la web. Aquí es también donde terminará el material generado por IA. Pero, ¿qué sucede cuando nos encontramos en la precaria situación de que la IA se entrena con sus propios textos?
Algunos dicen que el conocimiento corre el riesgo de convertirse en un concepto flotante cuando nadie tiene las herramientas necesarias para verificar el contenido generado por IA en la web. Pero Fredrik Heintz no es tan pesimista.
“Será posible generar nuevos conocimientos y encontrar nuevas perspectivas sobre cosas que ya sabemos. Chat GPT simplemente puede brindarnos a los humanos nuevos conocimientos”, dice.
Sin embargo, ve otros problemas con Chat GPT además de la posibilidad de generar grandes cantidades de contenido en poco tiempo. Esto, en combinación con la publicidad en las redes sociales, podría generar una avalancha de mensajes personalizados en nuestros flujos.
Él también ve un riesgo. que la IA entrenada en material en línea existente estará sesgada contra ciertas culturas, géneros y discapacidades. Open AI tiene filtros incorporados contra, por ejemplo, homofobia, racismo, sexismo y capacitismo. Pero estos filtros actualmente son fáciles de eludir.
Por lo tanto, es importante sentar las bases para una IA confiable y centrada en el ser humano en este momento. Los investigadores del proyecto EU TAILOR han especificado tres criterios para lograr una IA confiable: debe cumplir con las leyes y regulaciones, cumplir con un conjunto de principios éticos y su implementación debe ser sólida y segura. En opinión de Fredrik Heintz, esto implica grandes desafíos, principalmente en lo que se refiere al cumplimiento de los principios éticos.
“Tomemos como ejemplo una distribución justa: ¿significa esto una distribución equitativa entre los individuos o que todos reciben los recursos que necesitan para llegar al mismo nivel? Estos son problemas importantes a largo plazo que llevará tiempo resolver. Después de todo, la definición de lo que es justo ha sido debatida por filósofos y pensadores durante cientos de años”.
Hechos: Chat Generative Pre-trained Transformer o Chat GPT es una IA basada en un modelo de lenguaje desarrollada por la empresa estadounidense Open AI.
Descargo de responsabilidad: AAAS y Eurek Alert! no son responsables de la precisión de los comunicados de prensa publicados en EurekAlert! por instituciones contribuyentes o para el uso de cualquier información a través del sistema EurekAlert.
