A discussão sobre a terminologia utilizada para descrever os erros em inteligência artificial (IA) vem gerando crescente interesse entre especialistas. O termo "alucinação", popularizado entre usuários de ferramentas como ChatGPT e Gemini, é criticado por não refletir a realidade dos sistemas de IA, que carecem de consciência e percepção sensorial.
Pesquisadores argumentam que o termo mais apropriado seria "confabulação", que se refere a afirmações errôneas apresentadas como verdadeiras, sem a conotação de consciência que caracteriza as alucinações em seres humanos. "A IA não possui percepção; ela simplesmente calcula probabilidades e, por vezes, essas probabilidades estão erradas", afirmou Terry Sejnowski, especialista em IA.
A escolha das palavras, segundo os especialistas, impacta significativamente a forma como as pessoas entendem e interagem com a tecnologia. A incorreta associação entre alucinações e intenção pode resultar em uma confiança excessiva nos sistemas, levando a consequências emocionais indesejadas. Isso é evidenciado por relatos de usuários que passaram por crises ao tratar chatbots como confidentes.
Embora o uso do termo "alucinação" remonte à década de 1980, sua popularidade contemporânea reflete uma compreensão distorcida das capacidades da IA. Os pesquisadores identificaram várias implicações negativas em sua utilização, incluindo a promoção de mitos sobre a consciência artificial e a formação de expectativas irreais sobre o que a tecnologia pode oferecer.
Enquanto o debate sobre a terminologia evolui, alguns especialistas apontam para alternativas como "resposta não relacionada" ou "deficiência algorítmica", embora essas opções ainda não sejam amplamente aceitas. O consenso, entretanto, é que a linguagem deve evoluir para refletir a natureza real da IA, que não vê, não sente e não experiencia o mundo.
