Por: Priscila Gonsales. CLADE. 28/06/2024
En octubre de 2023, activistas, investigadoras e investigadores brasileños (Israel & Firmino, 2023) revelaron que 1.700 escuelas públicas de la provincia de Paraná, en Brasil, implementaron sistemas de biometría facial con inteligencia artificial (IA) para supervisar el comportamiento y las emociones estudiantiles. Esta medida, justificada por el gobierno estatal, pretendía optimizar tiempos según un documento oficial, apoyándose en un estudio del Banco Mundial (Bruns & Luque, 2014), que encontró que el 36% del tiempo lectivo se destinaba a tareas como el pase de lista1. Se argumentaba que el sistema biométrico, al eliminar el tiempo usado para pasar lista, no solo evitaba una “pérdida de tiempo”, sino que también permitía reconocer las expresiones faciales de las y los estudiantes, usándose esto para prevenir violencia y evaluar la comprensión de contenidos.
Este caso ilustra lo que Morozov (2018) define como “solucionismo tecnológico”: la creencia ideológica de que la tecnología puede solucionar cualquier problema social, económico o político. Según este enfoque, con la implementación de tecnologías digitales en las aulas se presume que mejorará mágicamente la gestión del tiempo y la eficiencia, omitiendo los riesgos asociados. Los sistemas de biometría facial, junto con otras plataformas que utilizan las técnicas de IA como el deep learning, capturan datos y metadatos2 de las y los usuarios para generar estadísticas y probabilidades que favorecen los objetivos comerciales de los productos.
Lo que se presenta como la “personalización de la enseñanza” u “optimización del tiempo escolar” (Cobo, 2023; Vicari, 2018; Luckin, 2016) oculta problemas significativos como la vigilancia y mercantilización de datos personales (incluidos las niñas, niños y adolescentes), además de sesgos de raza y género, así como la privatización de la educación. Estos riesgos permanecen ocultos para muchas personas, incluidos varios educadoras, educadores y directivos (Buzato, 2023; Gonsales, 2022; CGI.br, 2022).
La referencia al Banco Mundial (BM) justifica las acciones educativas, destacando la influencia política externa, especialmente notoria durante la pandemia de COVID-19, cuando se adoptaron plataformas privadas de las grandes corporaciones de tecnología (BIGTECHS) para la educación a distancia en América Latina y el Caribe.
Este modelo de negocio de corporaciones como Google y Microsoft se basa en la explotación de datos en lugar de pagos monetarios. Según Snircek (2017), estas empresas atraen a usuarias y usuarios ofreciendo productos gratuitos para luego usar sus datos con fines lucrativos y poca transparencia. Este fenómeno apoya la “plataformización de la educación”, recolectando extensivamente datos personales e información sobre comportamientos educativos (CGI.br, 2022a, 2022b; Williamson, 2020, 2021; Gonsales & Amiel, 2020; Dijck et al., 2018).
