Análisis de sesgos en recursos generados por Inteligencia Artificial: estudio de caso con estudiantes de Pedagogía

Abstract

Entre las metas de la Agenda 2030 para el Desarrollo Sostenible se encuentra el aumento de la población digitalmente competente, para lo que resulta necesario contar con expertos educativos capacitados para contribuir a esta meta desde un enfoque ético, seguro y pedagógicamente fundamentado. Esto implica poner especial énfasis en los riegos asociados al uso de la Inteligencia Artificial Generativa (IAG) para crear recursos educativos. Con este propósito, se realiza un estudio exploratorio con un enfoque mixto, cuyo objetivo es promover la identificación y análisis de sesgos en recursos generados por IAG, con 36 estudiantes de Pedagogía en un centro adscrito a la Universidad Complutense de Madrid, España. Tras la intervención, los resultados muestran un incremento en la identificación de los sesgos asociados a las variables representatividad y representación estereotipada de la diversidad, así como de sesgos más complejos con un carácter interseccional. Los resultados sugieren que el programa resulta un recurso eficaz para promover los análisis críticos de sesgos en materiales generados por IAG. Sin embargo, es necesario identificar y profundizar en tipos de diversidades con los que el estudiante pueda encontrarse menos familiarizado, para lo que la guía del docente sigue siendo de vital importancia.

One of the goals of the 2030 Agenda for Sustainable Development is to increase the digitally competent population, which requires trained educational experts to contribute to this goal from an ethical, safe, and pedagogically sound approach. This implies placing special emphasis on the risks associated with the use of Generative Artificial Intelligence (GAI) to create educational resources. To this end, an exploratory study with a mixed approach is being conducted, whose objective is to promote the identification and analysis of biases in resources generated by GAI, with 36 education students at a centre affiliated with the Complutense University of Madrid, Spain. After the intervention, the results showed a noteworthy rise in the detection of biases associated with the variables representativeness and stereotypical representation of diversity, as well as more complex biases with an intersectional nature. The results suggest that the program is an effective resource to promote critical analysis of bias in materials generated by IAG. However, it is necessary to identify and explore types of diversities with which the student may be less familiar, for which teacher guidance remains vitally important.

Entre as metas da Agenda 2030 para o Desenvolvimento Sustentável está o aumento da população digitalmente competente, para o que é necessário contar com especialistas em educação capacitados para contribuir para essa meta a partir de uma abordagem ética, segura e pedagogicamente fundamentada. Isso implica dar ênfase especial aos riscos associados ao uso da Inteligência Artificial Generativa (IAG) para criar recursos educativos. Com esse objetivo, é realizado um estudo exploratório com uma abordagem mista, cujo objetivo é promover a identificação e análise de vieses em recursos gerados pela IAG, com 36 estudantes de Pedagogia em um centro afiliado à Universidade Complutense de Madrid, Espanha. Após a intervenção, os resultados mostram um aumento na identificação de preconceitos associados às variáveis representatividade e representação estereotipada da diversidade, bem como preconceitos mais complexos de natureza interseccional. Os resultados sugerem que o programa é um recurso eficaz para promover a análise crítica de preconceitos em materiais gerados por IAG. No entanto, é necessário identificar e aprofundar os tipos de diversidade com os quais o aluno pode estar menos familiarizado, para o que o guia do professor continua a ser de vital importância.