Quem produziu esse artigo?

Chatbots avançados de IA apresentam novos desafios e oportunidades para o futuro da educação.

Um aluno, que quase sempre atrasa a entrega de trabalhos escritos, acaba de enviar para o professor um texto bem formulado, com uma estrutura narrativa completa, em tempo recorde. Ao final do texto, a assinatura do aluno e nada mais.

O tema da redação não era um assunto simples e não havia sido visto em sala de aula. Mesmo assim o texto apresentava informações que demonstravam pleno domínio. Sem falar da escrita formal e a inexistência de erros gramaticais ou de digitação.

A próxima avaliação para compor a nota final envolvia uma apresentação do texto em um seminário aberto para a turma. Nessa ocasião, o mesmo aluno parecia não saber nada sobre o assunto e nem sobre o texto que, supostamente, ele mesmo havia escrito. A apresentação não foi satisfatória, os debates elaborados no texto não foram desenvolvidos. Após a aula, em uma conversa com o aluno, ele revela: “Fiz o texto utilizando o ChatGPT, uma ferramenta aberta de Inteligência Artificial Generativa. Foi fácil e rápido.”

Situações como essa podem acontecer cada vez com mais frequência no âmbito educacional. E não só com alunos em avaliações escolares, mas também em trabalhos de conclusão acadêmica, dissertações de mestrado e produção de artigos científicos.

Muitas dessas ferramentas de Inteligência Artificial Generativa já estão ao alcance de todos, sendo disponibilizadas em plataformas abertas, gratuitamente. Na área educacional, pesquisadores e professores estão precisando se confrontar com novos paradigmas: quais são os desafios e oportunidades que essa nova tecnologia irá apresentar para a educação?

Mas afinal, o que é o ChatGPT?

Chatbots são softwares que simulam interações humanas a partir de padrões pré-estabelecidos que mimetizam uma conversa. O Chatbot ELIZA foi o primeiro deles, desenvolvido nos anos 60 pelo professor do MIT Joseph Weizenbaum. A ferramenta tinha como objetivo reproduzir uma conversa com um terapeuta através de frases simples e perguntas abertas, elaboradas a partir das palavras-chave enviadas pelo usuário ao longo da interação.

Desde então, outras tecnologias se juntaram à ferramenta, permitindo a elaboração de novos modelos, cada vez mais interativos, avançados e complexos, capazes de manter uma conversa tão fluida quanto os seres humanos. O ChatGPT é um deles.

Essa Inteligência Artificial Generativa foi lançada em novembro de 2022 pela empresa OpenAI e é uma das mais famosas ferramentas de IA da atualidade. O que torna o ChatGPT único é que além de responder perguntas simples, ele também é capaz de desenvolver artigos para sites, textos acadêmicos e até mesmo roteiros em apenas alguns segundos.

Hoje, a ferramenta está em sua versão 3.5, o que representa um avanço das tecnologias anteriores da empresa. Conhecida como Generative Pre-Taught Transformers (GPTs), essa tecnologia é treinada utilizando Reinforcement Learning from Human Feedback (RLHF). Ou seja, a IA aprende conforme os usuários interagem com a plataforma.

Perguntei para o ChatGPT como ele funciona e a resposta foi a seguinte:

“O ChatGPT é um modelo de linguagem baseado em deep learning treinado por OpenAI. Ele foi treinado com milhões de exemplos de texto da internet para poder gerar texto natural a partir de uma prompt (pergunta ou tarefa). Ao receber uma pergunta, o modelo usa seus conhecimentos acumulados ao longo do treinamento para gerar uma resposta coerente e a

propriada. O modelo é alimentado com texto em um loop, o que significa que ele gera uma primeira resposta, e em seguida, essa resposta pode ser usada como prompt para a geração da próxima resposta. Isso permite uma interação em tempo real com o usuário.”

Os limites do ChatGPT

No âmbito educacional o amplo acesso à ferramenta está provocando reflexões e debates éticos sobre o uso de suas funcionalidades. Se por um lado a tecnologia para uso pedagógico possibilita a personalização do aprendizado através de uma análise apurada dos dados dos alunos, por exemplo, por outro ela permite a produção de textos de forma a

utomatizada, muitas vezes reproduzindo informações incorretas e citações falsas.

Felizmente ainda é possível identificar se o texto foi produzido por máquinas ou não. Pistas como a fluência da leitura, a frequência com que certas palavras aparecem, se existem padrões de pontuação e de comprimento de frase ou a presença de erros de escrita genéricos (que máquinas não fariam) podem ser identificados por softwares formulados exclusivamente para isso. O AI Writing Check é um exemplo gratuito das ferramentas já disponíveis. Desenvolvido a partir de um software de código aberto, o sistema utiliza Inteligência Artificial para identificar a escrita de outras IAs. Por meio de uma “engenharia reversa” é possível detectar de forma rápida quem escreveu de fato o texto. Além disso, algumas Inteligências Artificiais Generativas já estão avaliando a possibilidade de colocar uma marca d’água digital quando um conteúdo for desenvolvido.

Em muitas universidades, a utilização de IAs na composição de trabalhos acadêmicos está proibida. A justificativa principal está na alta quantidade de informações falsas produzidas por essas tecnologias em textos sintéticos, além, é claro, da questão ética ligada ao plágio. Em janeiro de 2023, o Departamento de Educação da cidade de Nova York proibiu o uso de tecnologias que utilizam Inteligência Artificial generativa em redes e dispositivos de escolas públicas. E mais recentemente, a Universidade francesa Science Po proibiu o uso de qualquer modelo de IA durante a produção de trabalhos escritos ou orais pelos alunos, sinalizando que o uso pedagógico só será permitido quando supervisionado. Alunos que insistirem serão expulsos, afirmou o diretor.

De fato os desafios para a utilização da Inteligência Artificial na educação são muitos, entretanto, com medidas e estratégias adequadas é possível minimizar os impactos negativos da tecnologia no ensino superior. Para isso, o caminho reside no uso responsável da IA regido por diretrizes e normas que garantam segurança e transparência em relação à sua utilização e funcionamento.

Em 2019, um grupo de especialistas da União Europeia divulgou um documento com diretrizes éticas para nortear o desenvolvimento de tecnologias de Inteligência Artificial. Já no Brasil, a Lei Geral de Proteção de Dados garante privacidade e proteção aos dados dos usuários exigindo transparência em relação ao uso de informações pessoais em treinamento de ferramentas de IA. O assunto também está em debate no Senado. A criação de um Marco Regulatório das Inteligências Artificiais está caminhando e deve ser regulamentado em breve.

A regulamentação e a definição de limites para essa tecnologia se mostra cada vez mais importante, principalmente para que as suas funcionalidades possam ser utilizadas de forma responsável. A utilização da IA na educação também pode facilitar o aprendizado de novas línguas, dar suporte às dúvidas escolares e até mesmo auxiliar professores a avaliarem, desenvolverem tarefas ou montarem aulas personalizadas para cada perfil de aluno.

O aplicativo Socratic é um exemplo nesse sentido. Desenvolvido pelo Google através da sua IA,  a ferramenta, com foco no ensino médio e superior, tem como objetivo auxiliar o aluno a compreender conceitos e atividades educacionais. Para utilizá-lo basta fazer uma pergunta na sua interface interativa que a ferramenta irá indicar os melhores recursos online para respondê-la. Na vídeo-propaganda do aplicativo a foto de uma questão matemática é enviada ao sistema que rapidamente indica uma página na web com dicas para a resolução do problema.

O futuro da educação

O ChatGPT já faz parte do dia a dia de algumas instituições de ensino superior (IES) nacionais. Recentemente, a Associação Brasileira de Mantenedoras de Ensino Superior (ABMES) se reuniu para debater o uso da nova ferramenta de Inteligência Artificial na educação. E pretende realizar em breve novos ambientes abertos para discussão.

Para os especialistas, é preciso pensar além dos riscos. Nesse momento, é importante entender as novas tecnologias como oportunidades de mudar a forma de ensino e preparar os alunos para o mundo em constante transformação em que vivemos. Mas com cautela, é claro. É preciso definir limites e regras, e, principalmente, trabalhar a questão ética com os estudantes, a fim de evitar que assumam a autoria de um

 texto ao qual eles não colaboraram. Nesse sentido, o ChatGPT e outras tecnologias inovadoras podem impulsionar a transformação da educação e trazer para o centro do aprendizado o estímulo à criatividade e o desenvolvimento socioemocional dos alunos. 

Outro ponto em debate é a avaliação educacional. Como avaliar os alunos se os artigos ou as respostas das questões forem elaborados por máquinas? A tecnologia também está sendo vista pelos educadores como uma oportunidade de mudar os padrões avaliativos das instituições. No lugar de perguntas explicativas e impessoais, a proposta é dar protagonismo aos estudantes no próprio processo avaliativo. 

Segundo Celso Niskier, diretor-presidente da ABMES (Associação Brasileira de Mantenedores do Ensino Superior), “Que tal perguntar ao estudante como ele se sente a respeito da guerra da Ucrânia? Com isso iremos poder perceber a atitude do aluno, a forma como ele constrói o pensamento, seu desenvolvimento emocional. Isso é particular do ser humano e ainda não foi substituído pela máquina”.

A integração das tecnologias à sala de aula faz parte da nova Base Nacional Comum Curricular (BNCC). Seu documento reforça a necessidade do uso de ferramentas digitais no ensino e estimula a compreensão, utilização e criação de tecnologias de informação e comunicação de forma crítica, significativa, reflexiva e ética. O letramento digital é essencial para a formação de qualquer cidadão nos dias atuais, principalmente no ensino superior.

“É urgente adotar um plano digital escolar e um programa permanente de formação focado nas metodologias ativas e nas competências digitais. É imperativo incluir famílias, alunos e a comunidade ao redor da instituição nas conversas sobre o tema.”, afirma o membro do Conselho Deliberativo do CNPq e do Fórum Nacional de Educação (FNE) Luciano Sathler.

A calculadora digital, o computador e outras tecnologias apresentadas como novidades também foram recebidas pela comunidade educacional, em um primeiro momento, como empecilhos à educação. Hoje, estão totalmente integradas às salas de aula, sendo utilizadas como ferramentas educativas por alunos e professores. Agora chegou a vez da Inteligência Artificial. Qual será a próxima tecnologia? Novas ferramentas digitais estarão sempre apresentando novos desafios e oportunidades para o futuro da educação. 

Texto escrito por:

Gabriela Nascimento

Redatora da EXP

Todas as imagens foram geradas por inteligência artificial por meio do site DALL·E 2, da OpenAI