princípios para uma utilização responsável no dia a dia e na educação • Blog FCCN

Escrito por Diogo Matos, Analista de Sistemas da FCT, na unidade de serviços digitais FCCN

A Inteligência Artificial (IA) deixou de ser uma novidade para passar a fazer parte do nosso quotidiano. Utilizamo-la, muitas vezes, sem nos apercebermos, em diferentes tarefas do dia a dia. Na educação, não é diferente: pode ajudar professores a poupar tempo, apoiar alunos na aprendizagem e contribuir para processos mais eficientes. Mas, como qualquer tecnologia com um impacto crescente nas nossas vidas, exige critérios claros, sentido crítico e uma utilização responsável.

Ao longo deste artigo, partilhamos um conjunto de boas práticas e princípios essenciais para utilizar a IA de forma informada, responsável e consciente, potenciando os seus benefícios sem perder de vista os desafios e riscos associados.

1. Transparência acima de tudo

A utilização responsável da Inteligência Artificial começa pela transparência. Sempre que recorremos a estas ferramentas para apoiar ou produzir um trabalho, um texto, uma análise ou uma decisão, devemos divulgar esse facto de forma clara. Isto aplica-se a alunos que recorrem a esta tecnologia para um trabalho escolar, a professores que a utilizam para preparar materiais, e a qualquer profissional que a integre no seu processo de trabalho.

A transparência não é apenas uma questão ética, é o que permite que quem recebe o trabalho possa avaliar corretamente o que está a ler e como foi produzido.

2. Uma ferramenta, não um substituto

Os modelos de Inteligência Artificial podem ser aliados valiosos em diferentes tarefas, desde a criação de conteúdos e análise de informação, até à organização de ideias, à realização de tarefas repetitivas ou à identificação de aspetos que possam ter sido esquecidos. No entanto, o seu papel deve ser o de apoio, e não o de substituição.

A responsabilidade pela decisão final, seja uma nota atribuída, um diagnóstico, um relatório ou uma simples resposta a um email, continua a ser sempre de uma pessoa. Isto significa que o resultado produzido pela IA deve ser sempre analisado criticamente, em vez de ser automaticamente aceite. Delegar o julgamento por completo a um modelo de IA é abdicar da nossa própria responsabilidade.

3. Fact-checking é uma etapa obrigatória

Os modelos podem errar, e erram com maior frequência do que se imagina. As chamadas “alucinações”, quando é apresentada informação incorreta com total confiança, são um risco real e conhecido. Datas, nomes, citações, referências bibliográficas ou dados estatísticos gerados por Inteligência Artificial devem ser sempre verificados junto de fontes fiáveis antes de serem usados ou partilhados.

Uma boa prática consiste em pedir ao modelo que indique as referências e as fontes utilizadas para sustentar a informação apresentada. Essas referências devem depois ser consultadas e verificadas diretamente pelo utilizador, de forma a confirmar a sua veracidade, fiabilidade e adequação ao contexto.

4. Segurança e privacidade dos dados

Muitas das ferramentas disponíveis recolhem dados dos utilizadores para fins de análise, melhoria dos serviços e, em alguns casos, treino de futuros modelos. Por isso, é fundamental evitar introduzir dados pessoais, confidenciais ou sensíveis nestas plataformas, sejam eles nossos, de alunos ou de colegas.

Antes de utilizar um documento ou colocar uma pergunta que envolva informação identificável, vale a pena parar e pensar: “Este conteúdo pode sair daqui e ser usado para outros fins?” Na dúvida, é preferível anonimizar ou simplesmente não partilhar.

5. Atenção aos enviesamentos

Todos os modelos são treinados com base em grandes conjuntos de dados, recolhidos maioritariamente da internet e de outras fontes já existentes. Isso significa que podem refletir e, por vezes, amplificar enviesamentos presentes nesses dados, como estereótipos de género, preconceitos culturais, desequilíbrios geográficos ou outras formas de representação desigual da realidade.

O utilizador deve estar atento a respostas que pareçam parciais, estereotipadas ou incompletas, e questionar sempre a origem e a neutralidade da informação recebida.

Para professores: transformar princípios em prática

Na educação, a integração responsável da Inteligência Artificial passa não só pela adoção destas ferramentas, mas também pela capacidade de orientar os alunos para uma abordagem crítica e consciente. Neste contexto, existem algumas práticas que podem fazer a diferença dentro e fora da sala de aula.

Definir e comunicar políticas claras de utilização

Uma utilização responsável começa por regras claras. Os alunos devem compreender quando e para que finalidades a Inteligência Artificial pode ser utilizada nos trabalhos académicos, bem como os limites da sua utilização. Por exemplo, pode ser adequada para apoiar a pesquisa ou a organização de ideias, mas não para elaborador um trabalho final na íntegra.

Literacia digital: compreender como funciona a IA

Mais do que utilizar as ferramentas, é importante compreender o seu funcionamento e limitações. Os alunos devem saber que estes sistemas podem cometer erros, apresentar informação incorreta ou refletir enviesamentos presentes nos dados com que foram treinados. Devem ainda perceber que a qualidade das respostas depende, em grande medida, da forma como as perguntas são formuladas.

Reduzir a carga administrativa

A Inteligência Artificial pode ser uma aliada valiosa na redução do trabalho administrativo dos professores, libertando tempo para o que realmente importa: acompanhar os alunos e apoiar o seu processo de aprendizagem. Esta tecnologia pode contribuir para tarefas como o planeamento de aulas, a estruturação de unidades curriculares ou a elaboração de sumários e sínteses dos conteúdos lecionados.

Estas ferramentas podem também facilitar a criação de exercícios, testes e fichas de trabalho, a adaptação de materiais aos diferentes níveis de dificuldade e a necessidades educativas específicas, a elaboração de rubricas de avaliação e a correção de trabalhos. Em todos estes casos, a revisão e validação por parte do professor continuam a ser indispensáveis.

Dar o exemplo na utilização da IA 

Quando um professor usa a Inteligência Artificial de forma transparente e crítica, está também a promover essas boas práticas junto dos alunos. Identificar claramente quando foi utilizada, verificar a informação produzida e manter o julgamento profissional como elemento central da decisão são formas de demonstrar, na prática, o que significa uma utilização responsável.

Preparar o futuro com sentido crítico

A Inteligência Artificial tem vindo a transformar a forma como estudamos, ensinamos e trabalhamos. Quando utilizada com critério, pode apoiar a aprendizagem, simplificar tarefas e aumentar a eficiência em diferentes contextos. No entanto, o seu potencial deve caminhar lado a lado com a transparência, o espírito crítico e o respeito pela privacidade. Mais do que saber utilizar estas ferramentas, é fundamental compreender as suas limitações, validar a informação que produzem e manter sempre o julgamento humano no centro das decisões.

Num contexto em que a IA está cada vez mais presente no nosso dia a dia, desenvolver uma utilização informada e responsável é uma competência essencial para todos. A tecnologia evolui rapidamente. A responsabilidade de a utilizar de forma adequada continua a ser inteiramente nossa.