///
As respostas do ChatGPT nem sempre estão corretas. Na verdade, muitas vezes, acontece o que é chamado de alucinação – uma resposta da ferramenta de inteligência artificial que não parece ser justificada por seus dados de treinamento. A abordagem da veracidade dos resultados do ChatGPT é um grande desafio, pois a ferramenta não oferece as referências ou os links como fontes de informações para a verificação da veracidade do resultado. O perigo é que o usuário não consegue saber quando a resposta do ChatGPT está incorreta, a menos que já conheça a resposta correta. Assim, um aspecto muito preocupante com a rápida popularidade e a adoção de ferramentas como o ChatGPT é a falta de transparência dessa tecnologia.
Considerando que as tecnologias de inteligência artificial generativa podem ter presença significativa na educação e na ciência, é preciso que se desenvolvam os mecanismos e as regras de responsabilização, para se evitar o uso fraudulento e malicioso dessas ferramentas.
Os erros das respostas oferecidas pelo ChatGPT estão relacionados ao fenômeno conhecido por alucinações.