Da opacidade à clareza: desmistificando o aprendizado de máquina na educação com IA explicável - Monteiro, Wellington Rodrigo; Ayrosa, Eduardo (REVISTA INTERSABERES, 2024)
A adoção de algoritmos de aprendizado de máquina (ML) na educação está aumentando, com o objetivo de aprimorar os processos de ensino, aprendizado e administração. Esses algoritmos são cruciais para a aprendizagem personalizada, a previsão do desempenho dos alunos e a elaboração de ementas. No entanto, seu uso generalizado pode levar a desafios como parcialidade, falta de transparência e dependência excessiva de decisões automatizadas. Os educadores precisam geralmente de ajuda para entender o funcionamento interno dos modelos de ML. Este artigo examina a IA explicável (XAI) como uma solução para esses problemas na educação. As técnicas de XAI podem fornecer aos educadores e administradores percepções valiosas sobre os algoritmos de ML, facilitando a tomada de decisões mais informadas. Discutimos a diferença entre escolhas algorítmicas transparentes e opacas, demonstrando os benefícios tangíveis da XAI na educação. Os modelos transparentes permitem que os educadores aproveitem seus conhecimentos de forma eficaz, descubram padrões ocultos e melhorem os resultados dos alunos.