¿Son seguros los tutores de IA? ChatGPT para adolescentes reabre el debate

Juan Cascón Baños

hace 2 horas

¿Son seguros los tutores de IA? ChatGPT para adolescentes reabre el debate

Los tutores basados en inteligencia artificial pueden ayudar a los menores con sus estudios, pero ESET advierte de que no todas las herramientas ofrecen las mismas garantías de privacidad, seguridad o calidad educativa.

Resolver una duda de matemáticas, practicar un idioma o recibir ayuda con los deberes a cualquier hora ya está al alcance de cualquier menor con acceso a un tutor basado en inteligencia artificial. Para muchas familias, estas herramientas se presentan como una alternativa más accesible a las clases particulares y una forma de obtener apoyo educativo personalizado. Colegios y administraciones empiezan a explorar su potencial para adaptar el aprendizaje a cada alumno y ampliar el acceso al refuerzo educativo. Sin embargo, ESET, compañía líder en ciberseguridad, apunta que su adopción también plantea riesgos relacionados con la privacidad, la seguridad y la forma en la que los niños aprenden.

El debate ha cobrado especial actualidad tras el lanzamiento, el pasado 18 de agosto, de ChatGPT para adolescentes, una experiencia específica para usuarios menores de 18 años que incorpora protecciones reforzadas, controles parentales y herramientas orientadas a fomentar un aprendizaje más activo y un uso saludable de la IA. Entre ellas se incluyen el Modo de estudio, recordatorios para evitar que los deberes se conviertan simplemente en una búsqueda de respuestas rápidas, horarios de estudio y avisos para favorecer los descansos.

El mercado de los tutores con IA está creciendo rápidamente. Según estimaciones de Grand View Research, podría pasar de unos 2.000 millones de dólares en 2025 a más de 17.700 millones en 2033. En España, la incorporación de la IA a la educación ya ha entrado en la agenda pública y el Consejo Escolar del Estado ha aprobado en 2026 un marco de referencia para promover un uso ético, seguro y pedagógicamente fundamentado de estas tecnologías en los centros educativos. Este tipo de iniciativas suponen un paso en la buena dirección, aunque el reto pasa ahora por trasladar esos principios a la elección y el uso cotidiano de estas herramientas.

“Bajo el concepto de ‘tutor con IA’ se engloban soluciones muy diferentes. Algunas son poco más que chatbots de propósito general orientados al ámbito educativo, mientras que otras son sistemas específicamente diseñados para guiar el aprendizaje, siguiendo un currículo determinado y con métodos basados en preguntas y razonamiento para ayudar al estudiante a encontrar la respuesta por sí mismo”, señala Josep Albors, responsable de investigación y concienciación de ESET España. “Por eso, más allá de incorporar la IA al aula, es importante valorar cómo enseña cada herramienta, qué datos recopila y qué mecanismos de protección ofrece cuando sus usuarios son menores”.

Cinco riesgos de los tutores con IA

Aunque estas herramientas pueden convertirse en un elemento útil de apoyo educativo, su uso por parte de menores también plantea riesgos que conviene tener en cuenta. ESET destaca cinco especialmente relevantes:

Dependencia y pérdida de pensamiento crítico: Si la herramienta ofrece las respuestas demasiado rápido o simplifica en exceso el proceso, el menor puede dejar de esforzarse por razonar y resolver problemas por sí mismo. En España, una encuesta estatal de UGT Servicios Públicos a 1.376 docentes reveló que el 83,57% advierte del riesgo de que el uso de la IA reduzca el pensamiento crítico del alumnado, mientras que el 86,70% señala como preocupación el plagio o la falta de esfuerzo.
Exceso de confianza en respuestas incorrectas: Los modelos de IA pueden ofrecer información errónea con gran seguridad. Los menores, que todavía están desarrollando su capacidad para evaluar críticamente las fuentes, pueden ser especialmente vulnerables a estas alucinaciones y asumir como ciertas respuestas que no lo son.
Dependencia emocional y falta de habilidades humanas: Los niños pueden llegar a depositar demasiada confianza en estos sistemas o incluso relacionarse con ellos como si fueran una figura de apoyo. Al mismo tiempo, un tutor artificial carece de la empatía y las habilidades sociales de un profesor para detectar frustración, motivar al alumno o adaptar la enseñanza a sus necesidades emocionales.
Privacidad y exposición de datos personales: Algunas plataformas pueden recopilar conversaciones, trabajos escolares, datos sobre rendimiento e intereses, identificadores de dispositivos o incluso grabaciones de voz. Esta información podría utilizarse para entrenar modelos, elaborar perfiles, compartirse con terceros o quedar expuesta en caso de una brecha de seguridad.
Contenido inapropiado y ataques de prompt injection: Un menor podría intentar saltarse las restricciones de la herramienta para acceder a contenidos no adecuados para su edad. Además, un ciberdelincuente podría manipular el sistema mediante instrucciones maliciosas ocultas en páginas web para mostrar contenido inseguro, redirigir al usuario a sitios de phishing o provocar comportamientos no previstos.

Recomendaciones de ESET para utilizar tutores con IA de forma segura

Ante el creciente número de soluciones disponibles, ESET recomienda:

Prioriza herramientas diseñadas específicamente para el aprendizaje frente a chatbots generalistas que simplemente proporcionan respuestas.
Comprueba que el servicio cumple con la normativa de protección de datos aplicable y revisa sus políticas de privacidad, especialmente en lo relativo al entrenamiento de modelos, la conservación de datos, la publicidad y los proveedores externos.
Elige, siempre que sea posible, plataformas recomendadas por el centro educativo o respaldadas por evidencias sobre su utilidad pedagógica.
Utiliza inicialmente la herramienta junto al menor para comprender cómo funciona y qué tipo de respuestas proporciona.
Enseña a los niños a no compartir información personal, datos de acceso, direcciones, teléfonos u otra información sensible con una inteligencia artificial.
Explícales que una IA puede ofrecer una respuesta con mucha seguridad y, aun así, estar equivocada, y verifica las respuestas importantes con profesores, libros de texto u otras fuentes fiables.
Activa los controles y configuraciones adaptados a la edad siempre que estén disponibles.
Establece límites razonables de uso, del mismo modo que se hace con otras formas de tiempo frente a las pantallas.
Revisa periódicamente el historial de conversaciones para comprobar que la herramienta se está utilizando de forma segura y adecuada.
Habla con los menores sobre su relación con estas tecnologías y recuérdales que una IA no tiene sentimientos, emociones ni capacidad de establecer relaciones humanas reales.

. Leer artículo completo en Frikipandi ¿Son seguros los tutores de IA? ChatGPT para adolescentes reabre el debate.

Entradas recientes para ¿Son seguros los tutores de IA? ChatGPT para adolescentes reabre el debate