ChatGPT mente? Saiba o que são as 'alucinações' da inteligência artificial

As "alucinações" da inteligência artificial (IA) são um fenômeno cada vez mais comum. Alucinação é o termo técnico utilizado para as respostas falsas que a IA cria com a mesma convicção e clareza de uma informação verdadeira, confundindo até usuários mais atentos. 

Fique por dentro das notícias que importam para você!

SIGA O ESTADO DE MINAS NO SIGA O EM NO

Essas falhas não acontecem porque a IA está "mentindo" de propósito. Ferramentas, vide o ChatGPT, funcionam como sistemas avançados de previsão de texto. Elas foram treinadas com um volume gigantesco de informações da internet para identificar padrões e determinar qual palavra tem a maior probabilidade de vir a seguir em uma frase. O objetivo é gerar um texto que pareça coerente e humano, não necessariamente factual.

• Inteligência artificial cresce no Brasil, mas falta mão de obra qualificada

O problema surge quando o modelo não encontra a informação correta em sua base de dados ou quando os dados de treinamento estão desatualizados ou incorretos. Em vez de admitir que não sabe a resposta, a IA preenche as lacunas criando fatos, datas, nomes e fontes que parecem plausíveis, mas são completamente inventados. 

Para o usuário, o resultado pode ser frustrante e até prejudicial, como no caso de um casal de influenciadores, que planejou uma viagem para Porto Rico, utilizando o Chat GPT. Com tudo pronto para a viagem, os dois descobriram que não poderiam embarcar, uma vez que não tinham uma autorização para isso. Em vídeo divulgado pelo casal, a dupla disse que a “culpa” era do Chat GPT, que não havia fornecidos informações sobre a necessidade do visto. 

• Potencial da Inteligência Artificial está além do uso básico, diz especialista

A confiança excessiva na ferramenta para tarefas que exigem precisão absoluta, como planejamento de viagens, consultas jurídicas ou diagnósticos médicos, é um risco real. A tecnologia pode ser usada como assistente para brainstorming e tarefas criativas, porém não deve ser tratada como oráculo infalível.

Como se proteger das 'alucinações' da IA

1. Sempre cheque as fontes: para dados críticos, como horários de voos, regras de vistos, informações legais ou dados históricos, use a IA apenas como ponto de partida. Sempre confirme os detalhes em sites oficiais, documentos originais ou fontes de notícias confiáveis.

2. Seja específico em seus comandos: em vez de perguntas abertas, faça pedidos detalhados. Por exemplo, em vez de "qual a melhor rota para Porto Rico?", pergunte "quais companhias aéreas operam voos diretos de São Paulo para San Juan em junho de 2024? Forneça os links para os sites oficiais das companhias".

3. Desconfie de detalhes excessivos: se a IA fornecer um número de lei muito específico, o nome de um estudo científico pouco conhecido ou uma citação exata, redobre a atenção. Esses são os tipos de detalhes que os modelos frequentemente inventam para dar mais credibilidade à resposta.

4. Use a ferramenta para o que ela faz de melhor: a IA funciona para resumir textos, gerar ideias, reescrever e-mails ou ajudar a estruturar um projeto. Concentre o uso nessas tarefas de produtividade, e mantenha a checagem de fatos como uma tarefa humana.

Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia

Uma ferramenta de IA foi usada para auxiliar na produção desta reportagem, sob supervisão editorial humana.

*Estagiária sob supervisão do subeditor Thiago Prata