IA con datos de niños, hecha bien

Cuando una escuela adopta una herramienta de IA, la primera pregunta de un buen director no es "¿qué tan inteligente es?". Es "¿qué pasa con los datos de mis alumnos?". Y tiene razón. Un niño de tercero de primaria no firmó nada, no leyó términos y condiciones, y no entiende qué significa que su nivel lector, sus errores de comprensión o su voz queden registrados en algún servidor. Esa asimetría es justo lo que obliga a tratar sus datos con un cuidado distinto al de cualquier otro usuario.

En EdTech es fácil hablar de "privacidad" como un sello en la página de inicio. Pero la privacidad real no se decide en la portada: se decide en la arquitectura, antes de escribir la primera línea de la pantalla de bienvenida. Privacidad por diseño significa que las decisiones difíciles —qué guardamos, quién puede verlo, qué nunca sale del sistema— ya están tomadas en los cimientos, no parchadas después cuando alguien pregunta.

Consentimiento del tutor, no del niño

En México, los datos personales de menores entran bajo la Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP), y su tratamiento exige cuidado reforzado: el principio rector es siempre el interés superior del menor. El consentimiento no lo otorga el alumno; lo otorga quien ejerce la patria potestad o tutela.

Por eso el consentimiento parental no puede ser un checkbox decorativo. En KidTales lo tratamos como un registro propio, verificable, ligado al tutor por su correo, con un estado explícito de "otorgado" y una fecha. Antes de que un padre dé permiso, su hijo no aparece en flujos que dependan de ese consentimiento —por ejemplo, los reportes que se envían a casa se filtran contra ese registro, no contra una bandera suelta heredada de versiones viejas. El consentimiento también implica su reverso: la LFPDPPP reconoce los derechos ARCO (acceso, rectificación, cancelación y oposición), y una plataforma seria debe poder ejecutarlos, no solo prometerlos.

El consentimiento no es una casilla que se marca una vez. Es una conversación con la familia que la tecnología tiene que poder honrar, y deshacer, cuando lo pidan.

Aislamiento por escuela: cada institución, su propio mundo

La segunda pregunta incómoda es: si dos escuelas usan la misma plataforma, ¿pueden tocarse sus datos? La respuesta correcta es no, y tiene que estar garantizada por diseño, no por buena voluntad.

Trabajamos con un modelo multi-tenant donde cada institución es un inquilino aislado. Cada usuario lleva en su identidad el sello de su escuela, y cada consulta al sistema verifica que el recurso pertenezca a esa misma institución antes de devolver nada. Un maestro de la escuela A no puede, ni por error ni a propósito, ver al alumno de la escuela B. Esto se refuerza en varias capas:

• Identidad: la autenticación está segmentada por institución desde el inicio de sesión.
• Autorización: cada petición valida pertenencia institucional, no solo "estás logueado".
• Acceso: el corazón del sistema no se expone al internet público; el tráfico entra por una sola puerta controlada.

El aislamiento no es un lujo de empresas grandes. Es lo mínimo que una familia debería poder asumir cuando confía el progreso lector de su hijo a un software.

Por qué no entrenamos modelos externos con datos de alumnos

Aquí está la línea que más nos importa trazar con claridad. Usamos IA generativa para crear historias y evaluar comprensión —en nuestro caso, modelos de Vertex AI de Google Cloud—, pero usar un modelo y alimentar un modelo son cosas distintas. Nosotros enviamos una instrucción para generar una historia a la medida del nivel del niño; no entregamos el expediente del alumno para que un modelo de terceros se entrene con él y mejore para todos los demás clientes del proveedor.

Esa distinción es la frontera ética del EdTech con IA. El nivel lector de un niño, sus respuestas equivocadas, su forma de leer en voz alta —el "gemelo digital" pedagógico que construimos para adaptar la dificultad— existe para servir a ese niño y a su maestro. No es materia prima para entrenar productos ajenos. La adaptación inspirada en marcos como el Lexile® nos ayuda a calibrar el reto justo dentro de la zona de desarrollo próximo del alumno; ese cálculo vive dentro del sistema de la escuela, no se va a engordar un modelo comercial afuera.

Hacer IA con datos de niños "bien" no es renunciar a la IA. Es ponerle límites deliberados: consentimiento del tutor, aislamiento estricto, derechos ARCO operativos, y una promesa firme de no convertir a los alumnos en combustible de entrenamiento. La tecnología buena para los niños es la que se diseña como si tu propio hijo la fuera a usar.

En el próximo capítulo cambiamos de tema, de la confianza a la motivación: ¿por qué dejar que el niño elija su propia historia —su personaje, su mundo, su héroe— lo hace leer más y abandonar menos? Resulta que la agencia no es un adorno; es uno de los motores más subestimados de la lectura temprana.