Wuando comenzó la pandemia el año pasado, se expusieron innumerables formas de desigualdad, incluidos los millones de familias estadounidenses que no tienen acceso a computadoras portátiles o Internet de banda ancha. Después de algunos retrasos, las escuelas de todo el país se pusieron en acción y distribuyeron tecnología para permitir que los estudiantes aprendieran de forma remota. ¿La captura? Terminaron espiando a los estudiantes. “Por su propio bien”, por supuesto.
Según una investigación reciente del Centro para la Democracia y la Tecnología (CDT), “el 86% de los maestros informaron que, durante la pandemia, las escuelas proporcionaron tabletas, computadoras portátiles o Chromebooks a los estudiantes al doble de la tasa (43%) antes de la pandemia, una ilustración de los intentos de las escuelas de cerrar las disparidades en el acceso digital «.
El problema es que muchos de esos dispositivos electrónicos se estaban utilizando para monitorear a los estudiantes, incluso revisando chats privados, correos electrónicos y documentos, todo en nombre de protegerlos. Más del 80% de los maestros encuestados y el 77% de los estudiantes de secundaria encuestados dijeron al CDT que sus escuelas usan software de vigilancia en esos dispositivos, y cuanto más dependientes están los estudiantes de esos dispositivos electrónicos, incapaces de pagar teléfonos o tabletas adicionales, más están sometido a escrutinio.
«Sabíamos que había estudiantes que tenían ideas sobre el suicidio, las autolesiones y ese tipo de cosas», explicó un administrador de la escuela a los investigadores del CDT. «[W]encontré esto [student activity monitoring software]. También podríamos hacer un buen trabajo con los estudiantes que podrían estar pensando en el acoso… [I]Si puedo evitar que un estudiante se suicide, creo que esa plataforma vale cada centavo que pagamos [it]. «
Miles de distritos escolares en los Estados Unidos han instalado software de vigilancia en dispositivos proporcionados por la escuela para monitorear las interacciones en línea de sus estudiantes. Si un estudiante envía un correo electrónico o conversa con otro estudiante diciéndole que ha estado pensando en hacerse daño o que hay problemas en casa, un robot de inteligencia artificial o un moderador humano que vigile los mensajes en tiempo real puede enviar una alerta a un maestro o administrador, permitiendo que el maestro intervenga en cuestión de minutos y pregunte si todo está bien.
Estos programas, como Bark, Gnosis IQ, Gaggle y Lightspeed, pueden costarle a las escuelas decenas de miles de dólares implementarlos, y pueden configurarse para buscar lenguaje y comportamiento en línea que indique la posibilidad de tendencias violentas, ideación suicida, etc. uso de drogas, uso de pornografía o trastornos alimentarios.
Ciertamente puedo entender por qué las escuelas se lanzarían a la tecnología que creen que podría prevenir el suicidio adolescente, el acoso escolar y cosas por el estilo. La pandemia ha sido dura para todos y el aumento del aislamiento y la incertidumbre es particularmente difícil para los niños y adolescentes. Los estudiantes informan un aumento en los incidentes de autolesiones e impulsos agresivos desde el comienzo de los encierros, y volver a juntar a todos para un nuevo año escolar requerirá ajustes. El único problema es que ya lo hemos intentado antes, en una forma diferente. La solución propuesta por todos para el advenimiento de los tiroteos escolares fue: «Bueno, observemos a estos pequeños desviados mucho más de cerca». Los detectores de metales en la entrada de las escuelas se convirtieron en la norma, la policía tenía una presencia más visible y las cámaras de seguridad se instalaron en las aulas y los pasillos.
Eso fue un gran negocio; las escuelas gastaron miles de millones de dólares en infraestructura de seguridad que en su mayoría resultó ser ineficaz. Y los resultados fueron, bueno, ¡nunca lo adivinarás! Los niños se sentían inseguros, los estudiantes negros eran seguidos y acosados con mayor frecuencia y los castigos aumentaban a medida que empeoraban los resultados educativos. Y, aunque algunas escuelas han comenzado a cuestionarse si sus contratos con la policía crean más daño que bien, otras simplemente están agregando vigilancia digital a sus sistemas físicos.
Los estudiantes de entornos desfavorecidos tienen menos probabilidades de tener dispositivos electrónicos privados que no estén sujetos a vigilancia, y tendrán menos privacidad cuando se trata de hacer las cosas pervertidas y vergonzosas que hacen todos los adolescentes. Y si las referencias de los estudiantes al uso de drogas, la pornografía o los pensamientos violentos pudieran ser enviadas a las fuerzas del orden, como de costumbre, los niños ya estarán sujetos a un mayor número de interacciones con la policía y los trabajadores sociales y otras formas de monitoreo y castigo que sufrirá la atención aumentada.
Aunque las escuelas y los padres expresan rápidamente sus preocupaciones sobre la privacidad, no está claro si el resultado de todo este monitoreo es la seguridad y, de ser así, ¿la seguridad para quién? ¿Más seguro para los estudiantes? Las encuestas sugieren que los estudiantes son en su mayoría conscientes de que están siendo monitoreados, pero no son plenamente conscientes del alcance. Muchos de estos programas se jactan de que los profesores tienen acceso directo a las pantallas de sus alumnos, incluso después del horario escolar. Los profesores y administradores pueden secuestrar el control de las computadoras de forma remota, cerrando pestañas problemáticas y anulando sus teclados. ¿Eso hace que los niños se sientan seguros?
Luego está la delicada cuestión de la promesa de «intervención». El objetivo de la vigilancia, según las empresas de software, es permitir que un problema sea detectado e intervenido desde el principio. Esa intervención puede llevar a la presencia de policías y trabajadores sociales, cada uno con sus propias historias difíciles en lo que respecta a la participación en hogares privados. Y la información sobre los intentos del niño de acceder a ayuda externa podría enviarse a su posible abusador: sus padres. La Red Nacional de Incesto y Abuso de Violación (Rainn) informó que durante la pandemia más de la mitad de las personas que llamaron en busca de ayuda y asesoramiento eran menores, que tenían más probabilidades de quedar atrapados en sus hogares con familiares abusivos en circunstancias estresantes.
La otra gran promesa de las empresas de software sobre el seguimiento de los problemas de los niños es que se puede alertar a los profesionales de la salud mental y prestar los servicios. Pero, de nuevo, los resultados de la atención de la salud mental en los niños varían enormemente. Los niños con cobertura de Medicaid tienen más probabilidades de que se les receten antipsicóticos y otros medicamentos debilitantes que de tener acceso a la terapia de conversación.
No está claro si los estudiantes se beneficiarán de esta vigilancia o si simplemente reducirá la responsabilidad de las escuelas cuando se produzca un acto de violencia o autolesión. Si los adolescentes necesitan ayuda, parece obvio que la mejor manera de protegerlos es asegurarse de que tengan adultos de confianza en sus vidas a quienes puedan acudir. Una IA fisgona no es un sustituto de eso.
Los adolescentes merecen privacidad por las mismas razones que el resto de nosotros: que no nos pisoteen los derechos, sentirnos paranoicos y ser disciplinados por transgresiones menores. Además, los adolescentes necesitan su privacidad para crear memes confusos y nuevos bailes de TikTok frenéticos. Su trabajo es asustar a los adultos; tenemos que darles el espacio para hacerlo.
