Modelo de IA importado pode falhar na população brasileira, diz futurista Martha Gabriel

Modelos de inteligência artificial desenvolvidos com dados de outras populações precisam ser validados antes de serem aplicados no Brasil, cuja diversidade pode afetar o desempenho das ferramentas. O alerta é da futurista Martha Gabriel, para quem as soluções estrangeiras devem se atentar a esse problema, sob o risco de não entregarem no Brasil o que entregam nos países de origem. Como exemplo de diferenças populacionais que podem afetar tecnologias médicas, Martha citou características como a cor da pele. “Imagina um ambiente com características biológicas muito distintas. Tem que ser feito esse movimento [de avanço da IA] com cuidado”, disse em entrevista exclusiva ao Saúde Insider.

Na avaliação de Martha, a velocidade da corrida tecnológica dificulta que as organizações aguardem o tempo necessário para validar os resultados e avaliar impactos sociais e empresariais antes de avançar para a etapa seguinte. “A gente tem um poder gigante e está acontecendo uma transformação profunda”, disse a futurista pelo IFTF (Institute for the Future), engenheira pela Unicamp, pós-graduada em Marketing pela ESPM e em design pela Belas Artes, mestre e PhD em artes pela ECA/USP e com formação executiva pelo MIT Sloan.

Famoso estudo publicado em 2020 no New England Journal of Medicine corrobora o alerta da especialista sobre a necessidade de um recorte racial nas pesquisas. A pesquisa mostrou que oxímetros de pulso deixaram passar hipoxemia oculta em pacientes negros com frequência quase três vezes maior do que em brancos.

Martha disse que costuma ouvir de profissionais da área a pergunta sobre por que não integrar tudo, já que os dados existem e estão disponíveis. Como resposta, afirmou que o risco de propagação de falhas impede a integração total. “É grande o risco de uma coisinha que dá errado cascatear.” Para ela, cada etapa do desenvolvimento da tecnologia deve ser validada antes da seguinte, com participação de médicos, pacientes, hospitais e reguladores.

Custo do erro. É importante, segundo a especialista, cruzar o custo do erro com a necessidade de julgamento humano. “Assim temos uma boa baliza”, afirmou. Tarefas de baixo risco, como planilhas e resumos, podem ser delegadas à IA com menos esforço de revisão. “Mas quando o julgamento humano é necessário e o custo do erro é grande, não [se deve delegar à IA]”, disse Martha, que falou ao Saúde Insider depois de sua palestra no 11º MV Experience Forum, realizado em São Paulo no início de setembro. 

Para a futurista, deixar a IA sugerir um diagnóstico para o médico avaliar é diferente de permitir que ela dê alta a um paciente sozinha. Quando o erro é irreversível, disse, a perda de produtividade pesa menos do que o impacto na vida de alguém.

As novas tecnologias estão apontando caminhos para uma mudança de paradigma, avalia a especialista. Isso passa necessariamente pela troca da saúde reativa pela preditiva. Com dispositivos vestíveis medindo dados em qualquer ambiente e IA analisando essas informações continuamente, o setor deixaria de apenas corrigir doenças e eventos para acompanhar o paciente ao longo da vida, disse.

Nesse cenário, o valor sai do acesso ao conhecimento, que a IA torna abundante e barato, e migra para dados, julgamento, execução e confiança. “Confiança é um dos maiores valores para o futuro”, afirmou. Na saúde, segundo ela, essa confiança se constrói entre pessoas. Por outro lado, o maior risco está fora da clínica e mora nas relações sociais decorrentes da adoção massiva da tecnologia, disse Martha.

A IA deve elevar o PIB dos países que a adotam, mas reduzir postos de trabalho e ampliar a distância entre quem consegue e quem não consegue usá-la. “A gente já sabe que vai ter baixa de emprego”, afirmou. Ela atribuiu o problema à corrida tecnológica entre organizações que não esperam validar resultados antes de dar o passo seguinte. Como a IA atravessa fronteiras e o que um país faz afeta o outro, a futurista defendeu um acordo global para definir o ritmo de adoção.

Deskilling. A OpenAI, desenvolvedora do ChatGPT, já se pronunciou abertamente sobre a necessidade de controlar o ritmo do desenvolvimento da inteligência artificial, bem como sobre uma discussão muito em alta sobre deskilling, ou a perda de habilidades humanas em decorrência do avanço do uso de IA. A tese coincide com previsão do Gartner. Em outubro de 2025, a consultoria projetou que a atrofia do pensamento crítico causada pela IA generativa levaria 50% das organizações no mundo a exigir avaliações de habilidades “livres de IA” ao longo de 2026.

Segundo o Gartner, em setores de alto risco, como saúde, finanças e direito, a escassez desse perfil deve encarecer a contratação. As práticas de recrutamento começarão a diferenciar candidatos capazes de pensar de forma independente daqueles que dependem excessivamente de resultados gerados por máquinas. Essa mudança, de acordo com a consultoria, prolongará os processos de contratação e intensificará a competição por talentos com comprovadas capacidades cognitivas. “Se não consigo fazer sem IA, eu não consigo fazer melhor com ela”, afirmou Martha.