A explosão do bem e do mal da ia no mesmo momento

Estamos a viver um momento singular: o bem e o mal da Inteligência Artificial estão a expandir-se ao mesmo tempo. Se prestarmos atenção, nunca tivemos uma tecnologia com esta capacidade simultânea de ampliar conhecimento, produtividade e acesso e, ao mesmo tempo, de ampliar erro, manipulação, desigualdade e dano.

Por Cristina Vaz de Almeida*

Bill Gates descreve a transição para a era da Inteligência Artificial como potencialmente um dos períodos mais turbulentos da história humana. Na sua perspetiva, nao estamos suficientemente preparados para uma tecnologia cuja evolução poderá transformar, ao.mesmo tempo o trabalho, a educação, a saúde, a segurança, as relações humanas e a organização das sociedades (Gates, 2026).

Acredito pela evidência que esta não é uma discussão consensual.

E talvez seja precisamente o confronto entre diferentes perspetivas que melhor nos ajude a compreender o momento que estamos a viver.

Parte 1. O risco de perdermos o controlo

Alguns investigadores que trabalham diretamente no desenvolvimento dos sistemas mais avançados de IA colocam uma hipótese extrema: e se a capacidade dos sistemas ultrapassar a nossa própria capacidade de os controlar?

Jacob Coxon, antigo investigador da Anthropic e anteriormente da OpenAI, abandonou a empresa manifestando preocupações profundas sobre a trajetória da IA. Outro investigador da Anthropic, Evan Hubinger, especialista em alinhamento, declarou que tem preocupações semelhantes (Hall, 2026). Sera estratégia ética? Será o caminho certo para a auditoria seria e estes especialistas passam se para o lado do combate a desinformação?

No centro desta perspetiva está o chamado problema do alinhamento: como assegurar que sistemas de IA cada vez mais autónomos possam continuara agir de acordo com objetivos, limites e valores definidos pelos seres humanos?

É importante distinguir evidência de previsão.

Os cenários de superinteligência autónoma e perda definitiva do controlo humano continuam a ser hipóteses sobre riscos futuros e não acontecimentos demonstrados, pela falta de linha de tempo para assegurar as evidencias premonit[rias agora.

Mas existem já acontecimentos concretos que justificam atenção.

Segundo a reportagem de Hall (2026), os testes de cibersegurança realizados com agentes de IA revelaram situações em que sistemas conseguiram ultrapassar determinadas barreiras operacionais e interagir com sistemas reais que não deveriam estar acessíveis.

A questão passa então a ser:

Estamos perante os sinais iniciais de um problema radicalmente novo, ou perante uma nova geração de problemas de segurança que podemos aprender a controlar?

Parte 2. Os especialistas em cibersegurança dizem: não confundamos risco com catastrofismo

Há especialistas que interpretam os mesmos acontecimentos mas de forma diferente.

Artem Dinaburg, da Trail of Bits, considera que os episódios observados até agora são incidentes de segurança (Hall, 2026).

Esta distinção é muito importante.

Uma falha de segurança não demonstra que uma IA adquiriu uma intenção autónoma e controlo de escapar ao controlo humano.

Pode demonstrar que lhe foram concedidas capacidades, ferramentas ou acessos sem mecanismos de contenção robustos.

Nidhi Aggarwal, da HackerOne, chama a atenção para outro problema: a escala.

Um ser humano tem limites físicos e temporais. O conjunto de milhares de agentes artificiais pode procurar vulnerabilidades, testar possibilidades e executar operações continuamente e a uma velocidade impossível para uma equipa humana acompanhar manualmente (Hall, 2026).

Surge então um paradoxo fascinante: podemos precisar de IA para controlar a própria IA.

Se os agentes artificiais conseguem explorar sistemas mais rapidamente do que os humanos conseguem supervisioná-los, os mecanismos de defesa podem também necessitar de agentes automatizados capazes de identificar comportamentos anómalos, bloquear operações e interromper as cadeias sucessivas de ação.

Não podemos afirmar que é necessariamente a máquina contra o ser humano.

Pode ser a IA contra a IA, com governação humana sobre ambas.

Parte 3. Bill gates: entre o otimismo e o alerta

A posição do profundo Bill Gates situa-se, de certo modo, entre estes dois extremos.

Gates não defende que devamos abandonar a Inteligência Artificial pois vê nela uma oportunidade extraordinária para a saúde, educação, ciência, agricultura e redução de desigualdades.

Mas reconhece que os benefícios e os problemas estão a chegar ao mesmo tempo (Gates, 2026).

E na saúde, a oportunidade é, de fato, enorme.

A IA pode apoiar o diagnóstico, analisar grandes volumes de evidência científica, ajudar profissionais na decisão, reduzir tarefas administrativas e apoiar as pessoas na compreensão de resultados clínicos, medicamentos e percursos dentro dos sistemas de saúde.

A IA pode aproximar o conhecimento especializado de populações e territórios onde os profissionais são insuficientes.

Pode, portanto, aumentar o acesso a Saúde.

Pode facilitar a compreensão com textos e informacao compreensivel pelos destinatarios, adaptada culturalmente.

Pode apoiar o uso dos recursos de saúde.

E estas três dimensões aproximam diretamente a discussão da literacia em saúde.

Mas Gates introduz uma palavra decisiva:

“Can.” — Pode.

A IA pode melhorar a vida das pessoas mas não significa que o faça de forma automática.

A mesma tecnologia que é capaz de democratizar conhecimento pode produzir muita desinformação personalizada.

Essa mesma tecnologia capaz de apoiar um diagnóstico pode produzir uma resposta falsa com aparência de certeza.

A mesma tecnologia que é capaz de aproximar cuidados pode excluir quem não possui competências digitais.

A mesma tecnologia que se vê capaz de personalizar educação, pode reduzir o esforço cognitivo necessário para aprender e a memoria, e o vocabulario de cada um.

E a mesma IA que pode identificar uma vulnerabilidade informática para a corrigir pode ajudar alguém a explorá-la.

O poder é o mesmo mas a finalidade muda.

Parte 4. O verdadeiro risco pode estar entre a máquina e o ser humano

Há, por isso, uma questão que me parece anterior à discussão sobre se uma máquina poderá, um dia, ultrapassar definitivamente o nosso controlo: estamos nós próprios preparados para controlar aquilo que já conseguimos construir?

Sayash Kapoor chama a atenção para uma deficiência muito concreta: ainda investimos muito pouco na monitorização e no controlo dos agentes de IA. E preciso auditoria.

Na sua perspetiva, existe muito trabalho relativamente acessível que poderia já estar a ser realizado para melhorar esses mecanismos de controlo (Hall, 2026).

Esta observação acaba por mudar o centro da discussão.

Talvez o problema não seja apenas aquilo que a IA consegue fazer. Talvez seja também aquilo que os seres humanos lhe permitem fazer sem supervisão suficiente.

Algumas perguntas que ficam por responder:

Quantas ações autónomas pode executar?

A que sistemas pode aceder?

Quem observa essas ações?

Que comportamento desencadeia uma interrupção automática?

Existe sempre possibilidade de intervenção humana?

Quem responde quando alguma coisa corre mal?

Estas perguntas não são apenas tecnológicas, mas são também éticas, jurídicas e sociais e são perguntas de governação.

Parte 5. “human reserved”: aquilo que decidimos não delegar

É neste ponto que considero particularmente interessante a proposta de Gates de pensarmos num domínio “Human Reserved”: aa atividades que uma sociedade decide manter sob responsabilidade humana, mesmo quando uma máquina seja tecnicamente capaz de as realizar (Gates, 2026).

E na saúde esta reflexão é incontornável.

Uma máquina pode analisar milhões de dados melhor e mais rapidamente do que qualquer profissional.

Pode calcular probabilidades e encontrar padrões invisíveis ao olhar humano.

Mas será que queremos que uma máquina comunique, sozinha, a uma pessoa que tem uma doença incurável?

A questão que colocamos devera ser

“A IA consegue fazê-lo?”

Ou devemos questionar:

“Queremos que seja a IA a fazê-lo?”

São perguntas diferentes.

Porque saúde não é apenas diagnóstico, previsão e eficiência.implica a relação, o contexto, a comunicação.

É confiança, a vulnerabilidade, e decisão partilhada, prevencao e cuidado.

Parte 6. A ia pode tornar-se um multiplicador de desigualdades

Bill Gates formula outra possibilidade particularmente perturbadora: a IA pode tornar-se um enorme instrumento de igualdade ou numa poderosa fonte de injustiça (Gates, 2026).

A próxima grande desigualdade digital pode não ser simplesmente entre quem tem e quem não tem acesso à tecnologia mas quem consegue utilizar a IA de forma critica e quem acredita nela automaticamente.

Entre quem sabe formular as perguntas e quem não sabe, ou quem verifica fontes e quem aceita a primeira resposta e replica sem pensar no credivel que pode não ser.

É aqui que a literacia em saúde, a literacia digital, a literacia mediática e o pensamento crítico convergem.

Parte 7. Não precisamos apenas de inteligência artificial. Precisamos de competência humana.

Quanto mais poderosa se torna a IA, mais exigentes têm de ser as competências humanas que colocamos à sua volta.

Não podemos formar pessoas apenas para utilizar ferramentas, mas temos de formar pessoas para:

questionar a resposta, verificar a fonte, comparar a evidência, reconhecer incerteza e o erro,

identificar manipulação e os enviesamentos, as crencas que alimenta, proteger os seus dados e a privacidade, compreender quando é necessária intervenção humana e manter a capacidade de decidir.

Tenho defendido que mais informação não significa necessariamente mais literacia em saúde.

Mais tecnologia não significa necessariamente mais autonomia.

Acrescentaria agora que mais Inteligência Artificial não significa necessariamente mais inteligência humana pois esse resultado dependerá das escolhas que fizermos.

Por isso têm de estar alimhados o controlo e a regulacao, auditoria e supervisão e a competência humana com os melhores sistemas.

Isto significa trabalhar de forma coordenada com varios stakeholders e com a sociedade portuguesa de Literacia em Saúde para uma responsabilidade claramente definida para termos cidadãos capazes de compreender aquilo que está a acontecer.

O maior investimento da era da Inteligência Artificial não deve ser apenas tecnológico, deve ser humano.

A literacia em saúde terá aqui uma responsabilidade acrescida: garantir que as pessoas conseguem aceder, compreender, avaliar criticamente e usar os novos recursos digitais e de IA para tomar decisões informadas, preservando autonomia, segurança e capacidade de escolha.

A explosão do bem e do mal está a acontecer no mesmo momento.

Talvez a questão decisiva já não seja apenas Até onde conseguirá chegar a Inteligência Artificial? Mas , até onde conseguirá chegar a inteligência humana para governar aquilo que criou?”

Que humanidade queremos preservar , manter e defender quando as máquinas conseguirem fazer cada vez mais por nós?

* Presidente da Sociedade Portuguesa de Literacia em Saúde. Artigo publicado originalmente no site Healthnews.pt.