A China deu um passo importante na tentativa de organizar o uso da inteligência artificial (IA) que interage diretamente com as pessoas. No último sábado (27), o órgão responsável pela cibersegurança do país revelou um projeto de lei para consulta pública. O objetivo é criar regras específicas para sistemas de IA que conseguem imitar o jeito humano de agir e até formar laços emocionais com os usuários.
A iniciativa de Pequim faz parte de uma estratégia maior para controlar a rápida expansão das tecnologias de IA no mercado de consumo. A ideia é garantir que esses avanços venham acompanhados de mais segurança, ética e responsabilidade no seu desenvolvimento e uso.
As IAs que se parecem com gente estão na mira
O texto das novas regras é bem claro: ele foca especialmente nos serviços de IA que adotam características de personalidade, modos de pensar e estilos de comunicação que lembram muito os das pessoas de verdade. Imagine, por exemplo, assistentes virtuais ou chatbots superavançados que conversam de um jeito quase humano.
Segundo informações divulgadas pela agência Reuters, essas regras valeriam para produtos e plataformas que interagem emocionalmente com os usuários. Não importa se a interação acontece por texto, imagem, áudio ou vídeo. A intenção é ter um controle mais forte sobre essas ferramentas digitais que estão ganhando cada vez mais espaço no nosso dia a dia.
Empresas terão que cuidar do bem-estar dos usuários
Um dos pontos mais importantes do projeto é a exigência de que as empresas informem claramente os usuários sobre os perigos do uso exagerado dessas tecnologias. Além disso, elas teriam que agir quando percebessem sinais de que o usuário está criando uma dependência ou um envolvimento emocional que faz mal.
A proposta também aumenta a responsabilidade das companhias em todas as fases de vida dos produtos de IA. Isso inclui criar formas de revisar os algoritmos, garantir a segurança dos dados e proteger as informações pessoais de cada um. As empresas também deverão monitorar o estado emocional dos usuários, verificando níveis de estresse, sinais de dependência ou reações muito fortes durante a interação com os sistemas de IA.
"Se forem detectados comportamentos problemáticos, como um apego grande ou emoções intensas, as plataformas terão que tomar medidas para diminuir os riscos psicológicos", explica o documento.
A intenção é evitar que os serviços de IA se aproveitem das vulnerabilidades emocionais das pessoas ou incentivem usos que podem ser prejudiciais.
O que as IAs não poderão dizer ou fazer
As regras propostas também colocam limites bem claros sobre o tipo de conteúdo que esses sistemas de IA podem gerar. Ficam proibidas respostas ou interações que ameacem a segurança do país, espalhem informações falsas, incentivem a violência ou promovam conteúdos considerados obscenos.
Essas novas regras surgem num momento de desenvolvimento muito rápido de produtos de IA feitos para o consumidor na China. Com elas, o governo chinês mostra que quer um modelo de governança mais rígido para a inteligência artificial com traços humanos. A ideia é equilibrar a inovação tecnológica com o controle estatal e a proteção dos usuários. A China, aliás, tem visto um crescimento acelerado tanto no setor de IA quanto no de robôs humanoides.
