Quando o historiador, pensador e escritor israelense Yuval Noah Harari discorreu sobre a fusão da tecnologia da informação com a biotecnologia, em “Homo Deus” (2016), e, depois, destacou as ameaças e os perigos das novas tecnologias, em “21 Lições para o Século XXI”, causou nos leitores, mais do que surpresa, certa indignação. Como poderia o ser humano ser dominado pela máquina?!

Indignação despropositada. O domínio já existe e a tendência é crescer.

Harai indaga se “poderiam os engenheiros do Facebook usar inteligência artificial para criar uma comunidade global que vai salvaguardar a liberdade e a igualdade humanas?” A resposta seria afirmativa, como também poderiam esses mesmos engenheiros, usar a inteligência artificial para acabar com a liberdade e a igualdade humanas.

Yuval Noah sabe o que diz (ou escreve). Reafirma, em sua obra, que a tecnologia não é uma coisa ruim e, se você souber o que deseja na vida, ela poderá ajudá-lo a conseguir. Mas, salienta que, se você não souber o que deseja, será muito fácil para a tecnologia moldar por você seus objetivos e assumir o controle de sua vida. Como exemplo, cita “esses zumbis que vagueiam pelas ruas com o rosto grudado em seus smartphones”.

Mesmo sendo fã da ficção-científica, tenho me preocupado com a chamada inteligência artificial. Vejo-a evoluir, trazer progresso para a atividade humana, para a medicina, para a indústria e para o mercado em geral.

No entanto, “o que acontecerá quando uma ‘superinteligência’ puder solucionar qualquer tarefa cognitiva melhor e mais rápido” (que o ser humano) – indaga O Estadão em editorial. Argumenta: “A criatura poderá entregar soluções para erradicar a pobreza, o aquecimento global, guerras doenças, a própria morte”. Ressalta: “Será o maior evento na história humana” – mas, adverte, “pode ser o último”.

Vladimir Putin, da Rússia, sabe disso: “Quem se tornar líder (na Inteligência Artificial – IA) dominará o mundo”. E é aí que mora o perigo.

Luminares da ciência e de tecnologia pedem, em manifesto, uma “pausa” no desenvolvimento da IA. Indagam: “Devemos automatizar todos os empregos, incluindo os que nos satisfazem? Devemos desenvolver mentes não humanas que podem nos superar em números, cognição, nos tornar obsoletos e nos substituir? Devemos arriscar perder o controle da nossa civilização?”.

O mundo evoluiu até aqui graças à inteligência humana. Com todas as falhas, equívocos e carências, é tudo obra do ser humano. O objetivo sempre foi o progresso, o bem-estar social e a solidariedade. Os dois últimos quesitos jamais poderão ser atingidos pela máquina. O poder destrutivo, alimentado por mentes nocivas, em benefício próprio, ou falhas do equipamento, sim.

Significativo é o caso de um médico com quase 40 anos de carreira, sem qualquer denúncia no Conselho Regional de Medicina de São Paulo, que, de repente, passou a ter o seu nome associado a mais de 100 assédios sexuais. Ele compunha uma equipe de trabalho encarregada de investigar reclamações relacionadas a casos de assédio sexual no Estado. Ao pesquisar o seu nome no chatbot do Bing, constatou que os casos de assédio encontrados por ele foram atribuídos a ele. É que a ferramenta da Mocrosoft usa como base a essência do chatGPT, desenvolvido pela empresa Open AI, que fornece respostas automatizadas por IA. Os dados são gerados pelo próprio sistema e, equivocadamente, entendeu que as denúncias citadas pelo médico eram contra ele, e não apurados contra outros profissionais. O médico processou a empresa, que, por decisão judicial, foi obrigada a retirar o conteúdo de suas informações. Mas quase teve a sua carreira acabada de forma trágica.

Por isso, mais do que tudo, o controle se faz necessário. A IA pode vir – e virá, como já se está vendo –, mas deve ser com segurança. Caso contrário, ficções como “O Exterminador do Futuro” poderão, de repente, deixar de ser ficções.