La vigilancia escolar con IA: ¿seguridad o invasión de privacidad?
El uso de software de vigilancia en escuelas de EE.UU. ha generado un acalorado debate sobre seguridad y privacidad de los estudiantes.
Las escuelas en Estados Unidos han adoptado cada vez más la tecnología de vigilancia impulsada por inteligencia artificial (IA) para monitorear 24/7 las cuentas y dispositivos escolares de los estudiantes. Esto incluye laptops y tabletas proporcionadas por los distritos. La meta principal es reforzar la seguridad, especialmente ante la crisis de salud mental y la amenaza de tiroteos escolares. Sin embargo, este tipo de herramientas plantea serios interrogantes sobre la privacidad y la seguridad.
Cómo funciona la vigilancia escolar con IA
Herramientas como Gaggle, GoGuardian y Securly utilizan algoritmos de aprendizaje automático para identificar señales de advertencia en la actividad en línea de los estudiantes. Esto puede incluir indicios de acoso escolar, autolesiones, ideación suicida o potenciales actos de violencia. Cuando el sistema detecta contenido sospechoso, envía alertas a los funcionarios escolares.
Por ejemplo, el distrito escolar de Vancouver, en el estado de Washington, reportó que su uso de Gaggle generó más de 1,000 alertas relacionadas con el suicidio y 800 alertas sobre amenazas de violencia.
Fallas de seguridad expuestas
A pesar de la intención de proteger a los estudiantes, investigaciones periodísticas han revelado serias fallas de seguridad en estos sistemas. Un informe conjunto de The Seattle Times y la agencia Associated Press descubrió que los registros de vigilancia de Gaggle en Vancouver se habían almacenado sin contraseña ni cortafuegos. Cualquier persona con un enlace a estos archivos podía acceder a información altamente personal de los estudiantes.
Entre los datos comprometidos se encontraron testimonios de estudiantes sobre intentos de suicidio, problemas de salud mental y experiencias de acoso. Tras esta filtración, Gaggle ajustó su sistema de almacenamiento para mejorar la seguridad de los registros.
¿Realmente mejora la seguridad estudiantil?
Un informe de 2023 del RAND Corporation encontró “evidencia limitada” sobre la efectividad de la vigilancia con IA en la reducción de tasas de suicidio o violencia escolar. De hecho, algunos expertos argumentan que estas herramientas generan un exceso de alertas que pueden abrumar a los consejeros escolares sin abordar las verdaderas causas de los problemas.
“Si no tienes suficientes consejeros de salud mental, aumentar el número de alertas no va a mejorar la prevención del suicidio”, advierte Benjamin Boudreaux, experto en ética de la IA.
Impacto en estudiantes LGBTQ+
Uno de los problemas más preocupantes es el uso involuntario de estas herramientas para la revelación no consentida de la identidad LGBTQ+. En registros filtrados de Vancouver, al menos seis estudiantes fueron potencialmente expuestos a personal escolar tras escribir sobre su orientación sexual o identidad de género en documentos y correos electrónicos.
Casos similares han ocurrido en otros distritos. En Carolina del Norte, un estudiante fue expuesto a su familia después de que Gaggle alertara a un administrador escolar sobre una conversación en la que hablaba de su identidad de género. A raíz de estos incidentes, el Distrito Escolar Durham votó por eliminar el uso de Gaggle en sus escuelas.
Padres en la oscuridad
Muchos padres desconocen que sus hijos están bajo vigilancia constante en sus dispositivos escolares. En una encuesta realizada a padres del distrito de Vancouver, muchos dijeron que nunca fueron informados sobre el uso de software de vigilancia o que la información se encontraba escondida en documentos largos de términos y condiciones.
Tim Reiland, padre de dos estudiantes en Oklahoma, intentó sin éxito que su distrito permitiera optar por no usar Gaggle. Su hija Zoe comenta que, tras enterarse del monitoreo, evitó hacer cualquier búsqueda personal en su computadora escolar, incluso sobre su propio bienestar.
“Tenía miedo de ser demasiado curiosa”, dijo Zoe Reiland.
¿Qué sigue para la vigilancia en escuelas?
La controversia en torno a estas herramientas de monitoreo ha llevado a varios distritos escolares a reexaminar sus políticas. Algunos han optado por dejar la vigilancia digital, mientras que otros han ajustado sus prácticas para mejorar la comunicación con los padres y estudiantes.
Sin embargo, con la creciente presencia de la tecnología en la educación, la pregunta sigue siendo: ¿hasta qué punto la seguridad justifica la invasión de la privacidad de los estudiantes?
