Conselho europeu destaca riscos do ChatGPT e cobra precisão

O ChatGPT, o chatbot de inteligência artificial desenvolvido pela OpenAI, continua enfrentando críticas da União Europeia em relação à precisão dos dados gerados pela ferramenta. Um conselho responsável pela proteção e privacidade de dados na região europeia destacou que, embora a empresa tenha tomado medidas para aumentar a transparência e evitar interpretações errôneas, essas ações não são suficientes para cumprir o princípio da exatidão dos dados exigido pelas regras europeias.

Segundo o relatório divulgado pelo órgão, “devido à natureza probabilística do sistema, a atual abordagem de treinamento leva a um modelo que também pode produzir resultados tendenciosos ou inventados”. A força-tarefa do Conselho enfatizou que os resultados fornecidos pelo ChatGPT provavelmente serão considerados factuais pelos usuários finais, incluindo informações relacionadas a indivíduos, independentemente de sua precisão real.

A preocupação foi levantada inicialmente no ano passado por reguladores nacionais, liderados pelas autoridades italianas, que apontaram riscos potenciais do uso cada vez mais disseminado do chatbot de IA. Em resposta, o Conselho criou uma força-tarefa dedicada ao ChatGPT para analisar e monitorar a ferramenta.

Riscos e desafios do ChatGPT

Apesar dos esforços da OpenAI para reduzir a produção de resultados falsos pelo ChatGPT, o Conselho europeu enfatiza que a abordagem atual não é suficiente para atender às rigorosas regras de dados da União Europeia. “Embora as medidas tomadas para cumprir o princípio da transparência sejam benéficas para evitar interpretações errôneas, elas não são suficientes para cumprir o princípio da precisão dos dados”, afirma o relatório.

A OpenAI, quando contatada pela Reuters para comentar sobre o assunto, não respondeu imediatamente às solicitações. Essa não é a primeira vez que o ChatGPT enfrenta questionamentos sobre a precisão e confiabilidade de seus resultados, destacando os desafios contínuos no desenvolvimento e regulamentação dessas tecnologias de inteligência artificial poderosas, porém complexas.