Hoy nos encontramos en una fase interesante del ciclo de la IA. Todas las empresas, independientemente de la industria en la que operen, quieren un pedazo del pastel de IA generativa. Hace unos días, Boris Power, miembro del personal técnico de OpenAI, eligió India diciendo que sería el país donde GPT-4 tendría el mayor impacto. El sector indio de edtech ya se ha subido al carro de GPT-4 con gran entusiasmo.
Recientemente, la firma de edtech Khan Academy anunció un asistente de clase y tutor de IA impulsado por GPT-4 llamado Khanmigo. La organización sin fines de lucro cree que GPT-4 se puede aprovechar para brindar experiencias de aprendizaje personalizadas a los estudiantes según sus capacidades de aprendizaje y comprensión.
Khan Academy, que también opera en India, pronto pondrá a disposición de todos su tutor de IA. Otras nuevas empresas de edtech en India también parecen estar siguiendo un camino similar. Sin embargo, el sector de edtech en la India sigue sin estar regulado. Con la llegada de GPT-4, la necesidad de regulación se ha incrementado aún más.
Regulaciones de tecnología educativa
El sector edtech en India floreció durante la pandemia. Si bien ha facilitado un acceso más amplio a la educación, independientemente de las limitaciones geográficas y lingüísticas, la industria de la tecnología educativa también ha generado preocupaciones sobre prácticas de venta poco éticas, mecanismos insuficientes de reparación de quejas y comercialización excesiva del sector educativo.
Descarga nuestra aplicación móvil
(Fuente: Proyección del tamaño del mercado de la tecnología educativa en la India para 2025)
Desde hace bastante tiempo, ha habido una creciente demanda entre varios actores para la implementación de una política de educación tecnológica en la India. Ahora, con el desarrollo cada vez más acelerado de la IA, la necesidad se agrava aún más.
“El uso cada vez mayor de IA por parte de las empresas de edtech en India plantea la necesidad de una regulación en el sector. Las tecnologías basadas en IA en la educación tienen el potencial de transformar la forma en que los estudiantes aprenden, pero también aumentan
preocupaciones sobre privacidad, seguridad, prejuicios y consideraciones éticas”, dijo el abogado Satya Muley, fundador de Satya Muley & Co. APUNTAR.
En este sentido, Internet and Mobile Association of India (IAMAI) anunció que formará el India Edtech Consortium (IEC), un organismo independiente y autónomo para promover la autorregulación entre las empresas de edtech. El IEC creará un Código de Conducta para que las empresas de edtech lo sigan y establezca un sistema de reparación de quejas para abordar las quejas de los consumidores.
“Sin embargo, lo mismo no habló mucho sobre el uso de sistemas de inteligencia artificial por parte de estas nuevas empresas de edtech y las consideraciones éticas que deben seguir. Con el crecimiento sin precedentes en el sector de la IA y la introducción de herramientas poderosas como GPT-4, existe la necesidad de proteger a las partes interesadas de los plausibles efectos negativos de dicha IA”, Aditi Seetha, gerente de programa en Dialogue, un grupo de expertos en políticas públicas. , dijo APUNTAR.
Abordar los sesgos
Aunque el uso de IA en edtech tiene potencial, también podría generar sesgos. Es muy importante que nos aseguremos de que los modelos de IA estén libres de sesgos. Se descubrió que ChatGPT, el chatbot tremendamente popular de OpenAI, también estaba sesgado, demostrando casos de ser pro-ambiental y libertario de izquierda.
Dado que casi no hay conocimiento sobre GPT-4, incluidos los conjuntos de datos en los que se ha entrenado, usarlo para la educación podría ser una propuesta arriesgada. “Los algoritmos de IA pueden estar fácilmente sesgados contra ciertos grupos de estudiantes, como los de entornos desfavorecidos o con discapacidades de aprendizaje, lo que podría conducir a la discriminación”, dijo Muley.
APUNTAR Se comunicó con Khan Academy para saber cómo planean abordar estos desafíos, pero no recibió una respuesta.
Además, existe la necesidad de una regulación para garantizar que las tecnologías basadas en IA en la educación sean transparentes, explicables y responsables. “Esto significa que los estudiantes, maestros y otras partes interesadas deberían poder comprender cómo funcionan estos sistemas, cómo se toman las decisiones y quién es responsable de cualquier error o sesgo”, agregó Muley.
Otros desafíos
Por el contrario, Girish Singhania, director ejecutivo de EduBridge, cree que el uso de GPT-4 podría limitar las capacidades cognitivas del alumno. “Se deben hacer esfuerzos para regular el uso de la herramienta y garantizar que solo se emplee para impartir una experiencia de aprendizaje inmersiva y sin interrupciones sin comprometer el crecimiento cognitivo del alumno”, dijo. APUNTAR.
Aunque ya hemos visto muchos casos de uso de GPT-4, sería recomendable que la industria de edtech se moviera con cautela. Los LLM son excelentes para predecir la siguiente palabra en una secuencia, sin embargo, realmente no entienden el contexto. Muchos expertos en IA han formulado la misma crítica contra los LLM varias veces. “Los LLM no tienen idea de la realidad subyacente que describe el lenguaje”, dijo Yann LeCun, científico jefe de IA en Meta.
Los modelos son de naturaleza alucinante. Aunque OpenAI afirma que las alucinaciones de GPT-4 son mucho menores en comparación con ChatGPT, que se basa en la arquitectura GPT3.5, todavía alucina.
“La precisión y la confiabilidad de las respuestas generadas automáticamente por estas IA no son una prueba completa, ya que pueden mostrar ciertos sesgos o incluso información inexacta según el conjunto de datos que se alimenta. Esto podría tener un efecto negativo en el bienestar general de los estudiantes e incluso en las credenciales académicas”, dijo Seetha.
Necesidad de ética de IA
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) en su informe sugirió que debería haber un marco regulatorio con respecto al uso de la IA en la educación y el gobierno debe considerar la ética en la IA como una prioridad máxima.
“Dado que el sector de la tecnología educativa está creciendo a un ritmo acelerado, existe una necesidad aún mayor de generar confianza en torno al uso de la IA entre el público”, dijo Seetha.
La UE es una de las pocas regiones que ha elaborado directrices éticas sobre el uso de la IA y los datos en la enseñanza y el aprendizaje para educadores. Del mismo modo, en el Reino Unido, el Instituto para la IA ética en la educación ha publicado un informe que aconseja cómo las escuelas y las instituciones educativas pueden usar los sistemas de IA de manera segura y ética.
“En India, el Consejo Indio de Investigación Médica (ICMR) ha publicado recientemente pautas éticas para la aplicación de inteligencia artificial en la investigación biomédica y la atención médica, incorporando algunos procesos éticos relacionados con la IA en la atención médica. Se puede adoptar un enfoque similar en el sector de la tecnología educativa para superar los desafíos que plantea el uso de la IA en la educación”, dijo Seetha.
A pesar de todos los aspectos negativos, Singhania también cree que la IA tiene características muy beneficiosas que hacen que las pautas regulatorias sean esenciales. “Esto es especialmente cierto en la educación, donde los alumnos pueden producir contenido en cuestión de segundos sin invertir en la virtud del trabajo duro para investigar, aprender y aplicar la lógica para generar opiniones orgánicas”, dijo.
Dado el rápido avance y la adopción apresurada de la IA, no solo en edtech, sino en todas las industrias, es imperativo que India presente pautas y principios éticos para mitigar los riesgos relacionados que seguramente estarán relacionados con estas ventajas.