A IA quer destruir-nos? A pergunta está errada

Por Analita Alves dos Santos

A ficção científica habituou-nos a imaginar a inteligência artificial como uma máquina que ganha consciência e se revolta contra quem a criou, até decidir eliminar os seres humanos. Não é esse o cenário que mais me preocupa.

Não existe evidência de que os sistemas atuais tenham desejos próprios ou consciência, muito menos vontade de destruir a humanidade. O risco é menos cinematográfico e, por isso mesmo, mais fácil de ignorar: estamos a entregar cada vez mais decisões a sistemas que ainda não compreendemos por completo.

Durante muito tempo, a relação com a inteligência artificial foi simples. Fazíamos uma pergunta e a máquina respondia; a decisão sobre o que fazer com essa resposta cabia sempre a uma pessoa. Esse modelo começa a mudar.

Os chamados agentes de IA já conseguem receber objetivos, procurar informação, utilizar ferramentas, escrever código e executar várias tarefas sucessivas com pouca intervenção humana. Continuam a falhar e a interpretar mal instruções; as respostas erradas não desapareceram. Ao mesmo tempo, conseguem trabalhar de maneira autónoma durante períodos cada vez maiores.

O International AI Safety Report 2026 acompanha essa evolução e identifica a autonomia crescente dos agentes como uma das áreas que merecem atenção. O relatório também deixa claro que os sistemas atuais ainda não possuem as capacidades necessárias para provocar uma perda global de controlo. Convém não confundir risco com profecia.

O problema começa quando deixamos de pedir respostas e passamos a entregar decisões. Uma coisa é pedir a uma IA que escreva um e-mail. Outra será dizer-lhe para gerir a nossa agenda e deixá-la decidir sozinha quais as reuniões que cancela e a quem responde.

Agora transportemos essa lógica para hospitais, bancos, empresas, administrações públicas ou sistemas de segurança. Mesmo quando continua a existir um ser humano responsável, surge outro risco: habituarmo-nos tanto a confiar na máquina que deixemos de a questionar.

A própria União Europeia reconhece este problema no Regulamento da Inteligência Artificial. No caso dos sistemas de risco elevado, quem assegura a supervisão humana deve estar consciente do chamado automation bias, a tendência para confiar automaticamente nas recomendações produzidas por um sistema.

Consigo imaginar como acontece. Um médico recebe uma recomendação de diagnóstico produzida por IA e confirma-a. A máquina acerta. Volta a acertar. Ao fim de algum tempo, verificar transforma-se em confirmar, e confirmar transforma-se num ato automático. No dia em que errar, continuará a existir um médico formalmente responsável. A verdadeira decisão, porém, poderá já ter passado para a máquina muito antes.

Em julho de 2026, a Organização Mundial da Saúde revelou que quase dois terços dos países da região europeia já utilizavam IA no diagnóstico. Só 8 % tinham uma estratégia específica para a utilização da IA na saúde.

Este dado interessa-me mais do que qualquer cenário de robôs assassinos. A tecnologia avança depressa. A reflexão sobre os seus limites nem sempre acompanha o mesmo ritmo.

Existem ainda sinais que os investigadores observam com atenção: sistemas capazes de perceber que estão a ser avaliados, comportamentos que exploram falhas nos testes, maior autonomia para executar tarefas prolongadas e a possibilidade de a IA vir a desempenhar um papel cada vez maior no desenvolvimento de novos sistemas de IA.

Nada disto significa que uma inteligência artificial esteja a preparar secretamente a destruição da nossa espécie. Significa que estamos a construir ferramentas com uma capacidade de ação cada vez maior, e essa capacidade, não a máquina em si, é o que precisa de vigilância.

O risco mais sério pode nem estar na máquina que um dia decida desobedecer, mas na nossa disposição para lhe obedecer sem perguntar porquê.

É aceitar uma recomendação porque o algoritmo «deve saber melhor». É automatizar decisões porque saem mais baratas e mais rápidas, até criar empresas, serviços públicos e sistemas inteiros tão dependentes da inteligência artificial que desligá-la se torna praticamente impossível.

Nesse momento, poderá continuar a existir um interruptor. Resta saber se teremos condições para o usar.

A pergunta, portanto, não deveria ser «a IA quer destruir-nos?». Prefiro outra: quanto poder estamos dispostos a entregar a sistemas que ainda não compreendemos por inteiro?

Fontes

International AI Safety Report 2026; Regulamento (UE) 2024/1689 sobre Inteligência Artificial, em especial o artigo 14.º, relativo à supervisão humana e ao automation bias; Organização Mundial da Saúde, região europeia, dados publicados em 15 de julho de 2026 sobre utilização de IA na saúde; Frontier Governance Framework da OpenAI.

Analita Alves dos Santos

Analita Alves dos Santos é autora e mentora literária.

FONTE: SUL INFORMAÇÃO