¿Confiamos demasiado en la inteligencia artificial?

La rápida aparición de la inteligencia artificial generativa en la educación superior ha suscitado preocupación por la dependencia que los estudiantes pueden desarrollar hacia esta herramienta a la hora de realizar tareas académicas. Aunque la IA generativa puede mejorar la productividad y la creatividad, existe el riesgo de que su uso excesivo pueda socavar competencias clave del aprendizaje.

Un estudio realizado por personal investigador del grupo ESCUTIC (Escuela, Curriculum y TIC) de la Universidad del País Vasco (EHU) muestra que la sobreconfianza en las respuestas dadas por herramientas de IA generativa como ChatGPT depende en gran parte de una habilidad concreta: la autorregulación, es decir, la capacidad de cada estudiante para organizarse, esforzarse y reflexionar sobre lo que hace. En este contexto, “la autorregulación puede funcionar como un factor protector crucial”, explica Héctor Galindo-Dominguez, investigador principal de este estudio y profesor del Departamento de Didáctica y Organización Escolar de la EHU.

El estudio examinó la relación entre la autorregulación y la sobreconfianza excesiva de la IA generativa de 404 estudiantes, de una edad media de 20 años, matriculados en titulaciones relacionadas con la educación en la EHU.

El trabajo ha identificado una paradoja relevante. Los estudiantes que tienen más claros sus objetivos tienden a confiar más en la inteligencia artificial. “Esto no ocurre por falta de capacidad, sino al contrario: usan la IA como una herramienta para avanzar más rápido”, explica el doctor Galindo-Domínguez. Sin embargo, ese mayor uso puede abrir la puerta a un riesgo importante: confiar demasiado en las respuestas de la IA sin cuestionarlas.

Héctor Galindo-Domínguez. (Foto: Nuria González / EHU)

¿Es bueno utilizar herramientas de IA en educación?

El estudio muestra que no todas las dimensiones de la autorregulación funcionan igual. “Tener objetivos claros (uno de los factores de la autorregulación) impulsa tener una mayor confianza en las respuestas proporcionadas por la IA. No obstante, otros factores de la autorregulación como la perseverancia y la capacidad de aprender de los errores actúan como un freno frente a esta dependencia excesiva. Cuando estas habilidades están presentes, el estudiante sigue pensando, revisando y corrigiendo, en lugar de aceptar automáticamente lo que ofrece la tecnología”, sostiene.

Según el doctor Galindo-Domínguez, este punto es clave porque conecta con otro fenómeno detectado en la investigación: la sobreconfianza en la inteligencia artificial. “Algunos estudiantes tienden a asumir que las respuestas de la IA son correctas o suficientes, incluso cuando no lo son. Este exceso de confianza puede llevar a delegar decisiones importantes o a reducir el esfuerzo propio, lo que afecta directamente al aprendizaje”.

Sin embargo, los resultados también matizan el alcance del problema. Tal y como muestran los resultados del estudio, la mayoría del alumnado no utiliza la inteligencia artificial de forma intensiva, sino puntualmente, principalmente para buscar información o resolver dudas. “Solo un grupo más reducido muestra un uso más frecuente que podría acercarse a una dependencia mayor”, afirma.

A partir de estos hallazgos, el estudio plantea una idea clara: “El debate no debería centrarse en si la inteligencia artificial es buena o mala, sino en qué tipo de estudiantes la usan y cómo lo hacen. Cuando faltan factores clave de la autorregulación, el riesgo de sobreconfianza y el uso pasivo de la IA generativa aumentan significativamente. En contraste, cuando estas habilidades clave de la autorregulación están presentes (como son la perseverancia, toma de decisiones y capacidad de aprender de los errores y el aprendizaje), la IA puede convertirse en un apoyo útil sin sustituir el pensamiento propio”, sugiere.

Las implicaciones prácticas son directas. En lugar de prohibir o limitar estas herramientas, resulta más efectivo enseñar a los estudiantes a utilizarlas con criterio. Esto implica, por ejemplo, fomentar que contrasten la información, que expliquen sus decisiones y que no den por válidas las respuestas sin revisarlas. También supone diseñar actividades que obliguen a pensar el proceso, no solo a presentar un resultado final.

En el estudio han participado también Nahia Delgado del Departamento de Didáctica y Organización Escolar, Martín Sainz de la Maza del Departamento de Psicología Evolutiva y de la Educación y José María Etxabe del Departamento de Didáctica de las Matemáticas, Ciencias Experimentales y Sociales, de la EHU.

El estudio se titula “Self-regulation and overreliance on artificial intelligence: Unpacking a paradox through a mixed-methods study in higher education”. Y se ha publicado en la revista académica Computers in Human Behavior. (Fuente: Euskal Herriko Unibertsitatea)