Responsabilidade por erros no uso da IA na medicina exige discussão mais aprofundada, diz diretor do Einstein

A responsabilização de profissionais da saúde por eventuais erros causados pelo uso de inteligência artificial necessita de um olhar mais aprofundado diante do aumento do uso da tecnologia na medicina. A avaliação é do diretor médico do Centro de Medicina Intervencionista do Einstein Hospital Israelita, Rodrigo Gobbo. O executivo afirmou que ainda é preciso discutir o papel das empresas de tecnologia, os limites éticos e a segurança na coleta de dados de pacientes.

“Tem a responsabilidade de quem fez a IA, de quem contratou e de quem aceita o diagnóstico dela”, disse o médico durante evento promovido pela Siemens Healthineers, em São Paulo. A utilização de IA na medicina passou a ser regulamentada pelo CFM (Conselho Federal de Medicina) em 2026, com a publicação da Resolução nº 2.454/2026, que assegura ao médico o direito de utilizar a tecnologia como instrumento de apoio, respeitados os limites éticos e legais da profissão.

A norma, que entrou em vigor em agosto, estabelece que o médico deve ser o responsável final pelas decisões. Gobbo ponderou que, embora a tecnologia possa atingir um alto índice de acerto, sempre existirá a possibilidade de erro. Nessas ocorrências, o profissional da saúde pode não ter clareza sobre todas as variáveis que causaram a falha, nem sobre qual IA foi responsável, nos casos em que diversas ferramentas são utilizadas em conjunto.

No mesmo painel, o diretor executivo do InovaHC e do InRad (Instituto de Radiologia do Hospital das Clínicas da Fmusp), Marco Bego, afirmou que as próprias empresas de IA mudaram de discurso diante da constatação de que a tecnologia não é infalível. “A responsabilidade por um erro pode ser grande e os algoritmos não são perfeitos.”

Outra questão debatida foi a coleta de dados de pacientes. Gobbo questionou a utilidade de acessar informações sem finalidade clara para o treinamento das IAs. “Faz sentido coletar dados genéticos indiscriminados? Acredito que atinge até um limite ético.” Ele classificou como “uma perda de energia” armazenar esse grande volume de dados, além de criar possíveis vulnerabilidades.

O Relatório do Custo das Violações de Dados 2026, da IBM, apontou que a saúde teve, pela 13ª vez consecutiva, o maior custo médio por vazamento entre os 17 setores avaliados: US$ 6,64 milhões. O estudo, que analisou 602 organizações de 16 países e regiões, destacou que criminosos atribuem alto valor a informações de pacientes, que podem ser utilizadas em fraudes e crimes financeiros.

A Resolução CFM nº 2.454/2026 determina que os dados dos pacientes sejam tratados em observância às regras de proteção de dados pessoais, bem como às normas específicas de segurança da informação em saúde. A LGPD classifica informações relacionadas à saúde como dados pessoais sensíveis, o que exige um nível mais elevado de proteção por parte das empresas e organizações que realizam seu tratamento.