O avanço da chamada IA, aqui tratado semanas atrás, começa a preocupar gente graduada. Em longa entrevista para a Folha de S.Paulo, o ministro do Superior Tribunal de Justiça Ricardo Villas Bôas Cueva afirma que a inteligência artificial já causa danos às pessoas e oferece riscos muito grandes. E, em assim sendo, necessita de urgente regulamentação. Ele é mestre pela Universidade Harvard (EUA) e doutor pela Universidade Johann Wolfgang (Alemanha) e preside uma comissão responsável por sugerir um projeto de lei para tratar do tema.

Segundo Cueva, a IA já está presente em nossas vidas: “nas contratações de serviços, na obtenção de benefícios, na busca de emprego, ao obter um seguro ou um empréstimo, no reconhecimento facial”. E exemplifica: “tem o viéis discriminatório que os algoritmos desenvolvem dependendo da base de dados que é usada. No reconhecimento facial, isso é comum. As bases de dados não são suficientemente amplas para contemplar todas as etnias e tipos físicos. Isso gera erros graves que levam a prisões injustas ou até mortes”.

Cita também o caso das contratações. “Grandes empresas analisam currículos por meio da inteligência artificial. Mas, pelo fato de as mulheres, no passado, não terem tido tantas oportunidades, elas acabam sendo consideradas num padrão inferior”. E aduz que “por sermos um país muito desigual, com um racismo estrutural muito arraigado, o medo é que a inteligência artificial cristalize ainda mais essas estruturas antigas”.

Já para Battista Biggio, professor associado da Universidade de Cagliari (Itália) e uma das principais referências no assunto, o grande perigo são os ataques de manipulação da IA nas categorias de evasão, envenenamento, roubo de modelo e interferência da privacidade, quando tenta confundir o sistema, manipular dados, fazer a chamada “engenharia reversa” da tecnologia, criando uma espécie de clone, ou vazando informações sensíveis que eventualmente o robô tenha absorvido. Ele acha que ainda não existem ferramentas para os hackers atacarem as IAs. Mas também acha que eles logo as encontrarão, sobretudo ao perceber os benefícios financeiros trazidos.

Pessoalmente, embora não seja especialista na questão, estou com o ministro Ricardo Villas Bôas Cueva. É preciso ficar de olho nas máquinas “pensantes” e regulamentar com urgência, seriedade e eficiência o seu funcionamento. Hajam através de hackers, por erro ou por iniciativa própria, elas representam um risco de enormes consequências. O importante, como preleciona o ministro do STJ, é que “haja transparência, explicabilidade, inteligibilidade e auditabilidade do algoritmo”. E, sobretudo, “a pessoa tem o direito de saber que está sendo tratada por um algoritmo, tem direito a uma explicação sobre como funciona esse algoritmo, tem direito de auditabilidade”, além do direito de exigir requisitos mínimos de segurança.

Ainda que isso possa causar profunda decepção, como aconteceu com o nosso Mário Montanha Teixeira Filho, aqui confessada, quando descobriu que a sua (nossa) saudosa Elís Regina, no comercial da Volks, não passava de uma recriação artificial da IA.