Pesquisadores da Universidade Ruhr de Bochum e da Universidade Técnica de Dortmund apresentaram um novo estudo que aborda a confiabilidade de sistemas de inteligência artificial (IA) em um total de seis dimensões. A pesquisa, liderada por Carina Newen, Emmanuel Müller e Albert Newen, foi publicada na revista Topoi.
Seis dimensões para avaliar a confiabilidade
Os autores argumentam que a confiabilidade deve ser considerada como um conjunto complexo de critérios e não apenas como um conceito binário. Dentre as seis dimensões estabelecidas, estão a funcionalidade objetiva, que examina se o sistema cumpre sua função adequadamente; a transparência, que analisa os processos internos da IA; e a incerteza dos dados, que se refere a questões de segurança, viés e qualidade das informações utilizadas no treinamento do sistema.
Outros critérios incluem o nível de integração física ou virtual da IA, o grau de imediatismo nas interações com os usuários, e o potencial de compromisso que o sistema pode ter com os resultados apresentados. Os pesquisadores destacam que muitas tecnologias atuais, como chatbots e veículos autônomos, ainda demonstram fraquezas significativas em diversas dessas dimensões.
Desafios na confiança em sistemas de IA
Do ponto de vista técnico, a falta de transparência continua a ser um obstáculo considerável. Emmanuel Müller afirmou que, embora o aprendizado de máquina tenha produzido resultados impressionantes, seus processos permanecem como uma "caixa-preta". Além disso, Carina Newen ressalta que preconceitos presentes nos dados de treinamento podem ser facilmente replicados nos sistemas de IA.
Albert Newen, por sua vez, alerta para o fato de que sistemas como o ChatGPT possuem a capacidade de gerar respostas que podem ser convincentes, mas que nem sempre são precisas. Isso reforça a necessidade de que usuários adotem uma postura crítica em relação a esses sistemas, evitando a construção de vínculos de confiança que podem ser inseguros ou enganosos.
Com essa nova abordagem, os cientistas visam não apenas melhorar a avaliação de sistemas de IA, mas também contribuir para um entendimento mais profundo das implicações éticas e sociais que envolvem a confiança depositada nestas tecnologias.
