Al igual que con muchas tecnologías utilizadas en entornos de aprendizaje K-12, los líderes escolares deben garantizar que la inteligencia artificial sea segura. Además de los requisitos legales impuestos a los distritos, existen cuestiones éticas que las escuelas deben tener en cuenta antes de introducir una nueva tecnología impulsada por IA y aprendizaje automático (ML).
Para hacer esto, primero debe haber una comprensión de cómo se ve la IA en la educación. “Todos tenemos ideas muy diferentes sobre la IA y las herramientas algorítmicas y el aprendizaje automático y qué son estas cosas”, dice sava saheli singh, becaria postdoctoral de eQuality-Scotiabank en IA y vigilancia en la Universidad de Ottawa.
Los conceptos de IA y ML son confusos, lo que significa que todos los entienden de manera un poco diferente. Internet y las empresas que venden productos impulsados por IA pueden influir en la comprensión de las personas sobre esta tecnología.
Para que los líderes escolares protejan adecuadamente a los estudiantes que usan esta tecnología, deben comprender qué significan la IA y el ML en el contexto de los productos que están adoptando. Los administradores de TI también deben comprender cómo la IA utiliza los datos y cómo las herramientas afectan a las diferentes poblaciones de estudiantes.
Haga clic en la pancarta para obtener más información sobre tendencias tecnológicas cuando se registre como Insider.
¿Los líderes de TI entienden cómo funciona la IA en K–12 Ed Tech?
La primera consideración que deben hacer los líderes es si entienden las herramientas en las que están invirtiendo. Los departamentos de TI deben saber qué hacen las herramientas entre bastidores para producir los resultados que ven.
“Definitivamente hay una falta de comprensión acerca de qué son estos sistemas, cómo se implementan, para quién son y para qué se usan”, dice singh.
Al comprender cómo funciona la IA, los líderes de TI deben recordar que estos sistemas se basan en datos.
“La IA solo funciona si obtienes datos. Solo funciona si obtienes datos de cualquier lugar donde puedas encontrarlos, y cuantos más datos, mejor”, dice Valerie Steeves, profesora del departamento de criminología de la Universidad de Ottawa e investigadora principal del proyecto eQuality.
Debido a que las herramientas de IA y ML se basan en datos, los administradores deben asegurarse de que están incorporando protecciones de datos de los estudiantes para usar esta tecnología de manera ética. “La IA que se implementa ahora siempre viene con una etiqueta de precio, y la etiqueta de precio son los datos de sus estudiantes”, dice Steeves.
SIGUE LEYENDO: El análisis de datos muestra el impacto de la tecnología educativa.
¿Los líderes escolares dan cuenta del sesgo de AI Tech?
Otra consideración ética es el sesgo algorítmico en las tecnologías de IA y ML. Al comprar estas soluciones, es importante recordar que estos programas funcionan con conjuntos de datos que con frecuencia contienen sesgos.
“Hay muchos prejuicios involucrados en la aplicación de algunas de estas herramientas”, dice Singh. “Muchas de estas herramientas están hechas por personas específicas y con poblaciones específicas en mente. En un nivel básico, hay diferencias raciales, de género y de orientación sexual, hay muchos tipos diferentes de personas, y muchas de estas tecnologías las dejan fuera o las incluyen de formas que son realmente dañinas”.
Si bien los creadores de estas herramientas generalmente no tienen la intención de causar daño, los sesgos integrados en los conjuntos de datos pueden discriminar a ciertas poblaciones de estudiantes.
«Crea un sistema en el que los sesgos pueden desarrollarse de manera desenfrenada, y se vuelve cada vez más difícil eliminarlos porque el sesgo y el uso discriminatorio de los datos están integrados en el algoritmo», dice Steeves.
Una forma de explicar este sesgo es reconocerlo. Enseñar a los estudiantes a interactuar con la IA debe incluir lecciones sobre cómo se creó y dónde pueden aparecer estos sesgos.
¿Cuáles son los usos beneficiosos de la IA en la educación?
Las consideraciones éticas necesarias no deberían disuadir a los líderes escolares de utilizar la IA en la educación por completo. Enseñar a los estudiantes a interactuar con esta tecnología los preparará para el éxito en la educación superior y futuras carreras. También hay formas seguras de usar la IA.
“Gran parte del contexto en el que los algoritmos, la IA y el aprendizaje automático son útiles es cuando observa un gran corpus de datos y trata de encontrarle sentido”, dice Singh. “Usar algoritmos e IA para responder una pregunta específica tal vez pueda darte una pista sobre cuál podría ser el contexto más amplio. En ese contexto educativo, creo que es una herramienta útil”.
Cuando los estudiantes ingresan datos, en lugar de ser los sujetos de quienes se extraen los datos, la IA puede ser extremadamente beneficiosa.
La IA es más útil cuando «no se recopilan datos de los niños y los niños no están integrados en algún tipo de sistema de vigilancia», dice Steeves. “La IA simplemente los ayuda a facilitar su aprendizaje y su modelado del mundo que los rodea”.
SUMERGIR MÁS PROFUNDO: Aprenda a usar la inteligencia artificial en la educación K–12.
