1. Alcance
Esta política se aplica a los agentes, modelos, proveedores, automatizaciones y funciones de inteligencia artificial utilizadas por EduAI, incluyendo tutoría, planificación, evaluación, generación de imágenes, audio, video, traducción, investigación y asistencia administrativa.
2. Principios
- Finalidad educativa: la IA debe utilizarse para apoyar aprendizaje, docencia, creación, accesibilidad y gestión autorizada.
- Supervisión humana: las decisiones relevantes deben poder ser revisadas por una persona competente.
- Minimización: solo se enviarán al modelo los datos necesarios para la tarea.
- Transparencia: los usuarios deben saber cuándo interactúan con IA y cuáles son sus limitaciones.
- Seguridad y privacidad: los proveedores y flujos se evaluarán según el riesgo de los datos.
- Equidad e inclusión: se revisarán sesgos, barreras de accesibilidad y efectos desproporcionados.
- Trazabilidad: las configuraciones, proveedores y cambios relevantes deben quedar documentados.
3. Usos permitidos
- Explicar contenidos y proponer actividades.
- Apoyar planificación y preparación de materiales.
- Crear borradores, resúmenes, imágenes, audio y otros recursos.
- Entregar retroalimentación formativa.
- Facilitar accesibilidad y adaptaciones autorizadas.
- Analizar métricas agregadas para calidad y seguridad.
4. Usos restringidos o prohibidos
- Tomar medidas disciplinarias exclusivamente mediante IA.
- Emitir diagnósticos médicos, psicológicos o de necesidades educativas como decisión automática.
- Calificar evaluaciones de alto impacto sin revisión o posibilidad de corrección humana.
- Inferir características sensibles no proporcionadas expresamente.
- Entrenar modelos externos con datos identificables de estudiantes sin una base válida y autorización específica.
- Enviar secretos, credenciales, RUT, datos de salud o antecedentes familiares cuando no sean indispensables.
- Usar perfiles automatizados para excluir, discriminar o limitar oportunidades educativas.
5. Revisión humana
Las planificaciones, explicaciones, preguntas, rúbricas y correcciones generadas por IA son propuestas. Docentes y administradores conservan la responsabilidad de verificar exactitud, pertinencia curricular, lenguaje, nivel, accesibilidad y ausencia de sesgos.
Todo usuario afectado por una salida incorrecta debe poder reportarla, solicitar revisión y recibir una explicación comprensible sobre la corrección realizada.
6. Evaluación de proveedores y modelos
Antes de habilitar un proveedor se documentará, en la medida aplicable:
- Nombre del proveedor y modelo.
- Finalidad y módulos donde se utiliza.
- Datos que recibe y región de procesamiento.
- Política de retención y uso para entrenamiento.
- Controles de seguridad, moderación y privacidad.
- Alternativa o procedimiento cuando el proveedor no esté disponible.
- Fecha de evaluación, responsable y versión aprobada.
7. Datos de estudiantes y menores
Los datos de menores reciben protección reforzada. Las instrucciones dirigidas a estudiantes deben utilizar lenguaje claro. Los flujos con datos sensibles, PIE, NEE o salud requieren necesidad demostrable, acceso restringido y revisión institucional.
8. Evaluación, sesgos y calidad
Los agentes deben someterse a pruebas periódicas de exactitud, seguridad, contenido inapropiado, discriminación, accesibilidad y consistencia. Las pruebas deben considerar asignaturas, niveles, lenguaje chileno, diversidad de estudiantes y escenarios PIE/NEE sin utilizar datos reales innecesarios.
9. Registro e incidentes de IA
Se registrarán incidentes relevantes, como exposición de datos, respuestas perjudiciales, errores sistemáticos, fallas de moderación o cambios inesperados del proveedor. El registro debe indicar fecha, módulo, modelo, impacto, contención, corrección y responsable de cierre.
10. Cambios y control de versiones
Los cambios importantes de modelo, proveedor, prompt de sistema, permisos o tipo de datos tratados deben quedar documentados y probarse antes de producción. Cuando el riesgo sea alto, el cambio se desplegará mediante una función desactivable o una vista previa antes de su habilitación general.
11. Responsabilidades
- Innova Space Edu SpA: arquitectura, controles, proveedores, documentación y respuesta técnica.
- Establecimiento: finalidades educativas, usuarios autorizados, instrucciones y decisiones pedagógicas.
- Docentes y administradores: revisión de resultados y protección de información.
- Usuarios: uso responsable, verificación de resultados y reporte de fallas.