Banco de Investimento Global

ÚLTIMAS NO NEGÓCIOS.PT

Plágio e "dependência" são riscos da IA para universidades mas "é possível" minimizá-los
24/09/2024 00:01

A inteligência artificial (IA) está a revolucionar o ensino superior. O plágio, redução do pensamento crítico e a dependência do uso dessa tecnologia são alguns dos riscos identificados, mas a formação e a promoção de uma cultura de consciência ética podem ajudar a minimizá-los. A conclusão é de um relatório divulgado esta terça-feira pelo Institute of Public Policy – Lisbon (IPP). 

"A IA Generativa oferece um enorme potencial para estudantes, docentes e instituições de ensino, ao melhorar os resultados de aprendizagem, facilitar a conceção e avaliação dos cursos e tornar mais eficiente a comunicação com os estudantes. Contudo, os riscos associados não podem ser ignorados", lê-se no relatório intitulado "IA Generativa no Ensino Superior", da autoria dos professores Steffen Hoernig e Paulo Trigo Pereira.

O relatório revela que os estudantes estão a adotar rapidamente esta tecnologia, sobretudo na melhoria da redação de textos e "brainstorming" de ideias. Já os professores encontram desafios significativos, nomeadamente em mostrar que, embora a IA possa auxiliar na aprendizagem e na realização de trabalhos que contam para avaliação, o objetivo do ensino é "desenvolver capacidade analítica e pensamento crítico".

A redução do pensamento crítico é, aliás, um dos grandes riscos identificados neste relatório. "A IA Generativa pode promover o pensamento crítico expondo os alunos a explicações passo a passo e exercícios que desafiam a sua compreensão e incentivam uma aprendizagem mais aprofundada. Mas também pode levar à excessiva confiança dos alunos na IA e uma redução da autoavaliação e do pensamento crítico", indica.

Associado a isso está também uma maior "isolamento social", avança o IPP. Com o uso da IA na realização de trabalhos escolares, os alunos acabam por "gastar mais tempo a interagir com máquinas" do que com outros colegas ou professores. "A falta de interação social pode prejudicar a capacidade dos alunos em trabalharem eficazmente em ambientes de grupo e diminuir sua competência social", alerta. 

Outro risco mencionado é a hipótese de erros. O IPP avisa que é importante ter em mente que a IA Generativa se baseia em bases de dados, disponibilizadas online, que podem conter imprecisões ou "distorções" e podem ampliar injustiças sociais. É o caso da disparidade de género que existe na ciência, tecnologia, engenharia e matemática, e que se reflete numa menor presença de trabalhos de mulheres online.

Como a IA Generativa dá respostas personalizadas em função dos "prompts" (comandos) de cada utilizador, isso torna mais difícil também a deteção de plágio nos trabalhos académicos, dificultando a vida aos docentes na hora das avaliações. A partilha de dados, a violação das regras de privacidade e a substituição de postos de trabalho são ainda outros dos grandes desafios no uso da IA no ensino superior.

Como minimizar esses riscos?
 

No relatório do IPP, Steffen Hoernig e Paulo Trigo Pereira indicam que, apesar das "armadilhas" e desafios do uso de IA Generativa no ensino superior, "é possível prevenir e minimizar estes riscos – se as instituições de ensino superior estiverem cientes da sua existência e dispostas a enfrentá-los".

Para isso, defendem que as instituições de ensino superior devem assumir "uma postura proativa" e aprovar diretrizes internas sobre o uso do IA. "Mais do que um regulamento geral, essas diretizes devem ser adaptadas à respetiva área de conhecimento, uma vez que cada uma enfrenta as suas próprias questões (por exemplo, engenharia, estudos de literatura, análise de dados, economia ou sociologia)", dizem.

Além disso, as universidades e politécnicos devem procurar monitorar e atualizar os sistemas de IA para que sejam "justos, transparentes, eficazes, seguros e protegidos", o que implica investir em tecnologia na formação de quadros. Sugerem ainda que sejam envolvidas as diferentes partes (alunos, professores, especialistas) no desenvolvimento e implementação de ferramentas de IA nas escolas, e promover a literacia digital.

A promoção de uma "cultura de consciência ética entre professores e alunos" é outra das recomendações deste relatório, para que a IA Generativa possa ser alinhada com os "valores fundamentais da educação e de cada comunidade académica".