Ética para uso de inteligência artificial na educação superior no Brasil

Abstract

A inteligência artificial é uma inovação tecnológica proveniente do Norte Global com o potencial de desafiar o modo como vivemos, produzimos e disseminamos conhecimento no Sul Global. Estudos descrevem tecnologias e tendências tecnológicas baseadas em inteligência artificial, que estão sendo incorporadas à educação superior, com o poder de determinar o acesso a direitos e oportunidades, logo, o destino das pessoas e da sociedade. O desenvolvimento da ciência e da tecnologia estão no centro das causas de transformações paradigmáticas na história, contudo, no cenário atual permanece o paradoxo entre notáveis avanços e o acirramento das desigualdades, decorrentes, em boa parte, de lutas geopolíticas por poder e mercados. A Agenda 2030 da ONU chama atenção para a necessidade de priorizar o desenvolvimento sustentável, e estabelece metas específicas para educação de qualidade. Uma vez que o emprego da inteligência artificial tem influência significativa no futuro da educação superior, e considerando que a educação superior é direito fundamental e um setor estratégico para o desenvolvimento econômico e social do país (BRASIL, 2014), bem como que não existe um marco regulatório da inteligência artificial, especialmente na educação, no Brasil, a finalidade da pesquisa proposta é apontar diretrizes para o uso ético de tecnologias baseadas em inteligência artificial na educação superior brasileira, a partir de uma revisão narrativa e da análise de conteúdo de documentos selecionados. Os resultados apontaram que as pesquisas em inteligência artificial na educação (IAE) começaram nos anos 1970, mas sua aplicação na educação superior está em fase inicial. Constatou-se que há diversas aplicações de inteligência artificial na educação superior, como sistemas adaptativos, realidade virtual e aumentada, gamificação, análise de dados educacionais, avaliação, reconhecimento de fala, facial e biométrico, feedback imediato, pelo que se dessume que a IAE é um setor em franca expansão, com o desenvolvimento de novas tecnologias, o aumento do investimento e o crescimento de pesquisas e aplicações (UNESCO, 2021; 2022; SCHIFF, 2021; VICARI, 2018; 2021; ZAWACKI-RICHTER et al., 2019; LUCKIN; HOLMES, 2016; GUAN; MOU; JIANG, 2020). Os sistemas tutores inteligentes são a principal aplicação, e englobam outras funcionalidades baseadas em inteligência artificial. O emprego da inteligência artificial na educação superior brasileira provoca uma série de preocupações, haja vista o pressuposto da não neutralidade da ciência e tecnologia (DAGNINO, 2008), como as distorções decorrentes da adoção de sistemas desenvolvidos por grandes empresas de tecnologia em outros contextos, a proteção, privacidade e governança dos dados, e o aprofundamento das desigualdades. Por outro lado, a aplicação de IAE gera oportunidades, como adaptação de sistemas e contribuição com novos caminhos de pesquisa e inovação, além de o Brasil ser um destaque na América Latina em pesquisas em IAE e políticas para digitalização. Por fim, os princípios éticos para uso de IAE encontrados em todos os documentos analisados são: autonomia, privacidade, justiça, responsabilidade e transparência (ADAMS et al., 2023; CE, 2023; EUA, 2023; HOLMES et al., 2022; IEAIE, 2021). Além disso, foram identificados princípios estritamente ligados ao campo da educação: adequação pedagógica, alinhamento com a visão de ensino e aprendizagem, foco em alcançar objetivos pedagógicos, empoderamento de alunos e professores, qualidade da educação, transparência sobre escolhas pedagógicas, alfabetização em IA, participação informada e bem-estar dos professores.