TL;DR
Na saúde, auditar IA é conseguir provar quem usou qual modelo, com qual dado de paciente e com qual resultado. Os erros mais comuns são não ter inventário dos usos, não guardar log exportável, deixar dado sensível sair sem filtro, auditar só o fornecedor e tratar a auditoria como evento anual. Todos se resolvem com uma camada de controle entre a equipe e os modelos.
A auditoria de IA na saúde falha, na maior parte das vezes, antes de começar: o hospital ou a clínica não consegue listar onde a IA é usada, nem mostrar o registro do que foi enviado e recebido. Sem esse registro, não há como responder a um paciente, ao DPO ou à ANPD sobre o que aconteceu com um dado. Para o CISO e o DPO, o problema não é ter IA, é não conseguir provar o que ela fez.
Por que auditar IA na saúde é mais crítico que em outros setores?
Porque o dado de saúde é dado pessoal sensível pela LGPD (art. 11), com regras mais restritas de tratamento. Quando um profissional cola um laudo, uma evolução clínica ou uma lista de pacientes num chatbot público, esse dado sai do ambiente da instituição sem base legal clara e sem registro. É o shadow AI em sua versão mais cara: o uso já existe, a auditoria ainda não sabe.
Quais são os erros mais comuns na auditoria de IA em saúde?
- Não ter inventário dos usos de IA. A auditoria olha os projetos oficiais, mas o uso real está no assistente que o faturamento adotou, no resumo de prontuário feito em ferramenta pessoal, na triagem do atendimento. O primeiro passo é mapear quem usa o quê.
- Não guardar log exportável. Sem o registro de prompt, resposta, usuário, modelo e horário, não há trilha para investigar um incidente nem para responder a um pedido de titular.
- Deixar dado sensível sair sem filtro. Política escrita não impede um CPF ou um diagnóstico de ir para um modelo externo. O controle precisa acontecer em runtime, antes do envio, com mascaramento ou bloqueio.
- Auditar só o fornecedor. O contrato e o questionário do fornecedor de IA importam, mas não mostram como a sua equipe usa a ferramenta. A evidência que a auditoria precisa está no uso, não no folder.
- Tratar auditoria como evento anual. Modelos mudam, usos mudam e a equipe muda. Auditoria de IA que só acontece uma vez por ano audita um retrato que já não existe.
Como corrigir esses erros na prática?
- Centralize o acesso aos modelos: todo uso de LLM passa por uma única camada, com autenticação por usuário e por área.
- Registre tudo em formato exportável: prompt, resposta, modelo, usuário e custo, prontos para a auditoria e para o DPO.
- Aplique política em runtime: regras de DLP que mascaram ou bloqueiam dado sensível antes de sair da instituição.
- Mantenha o dado na sua infraestrutura: em saúde, operar on-premise reduz o número de terceiros que tocam o dado do paciente.
- Use um referencial de gestão: a ISO/IEC 42001 organiza papéis, riscos e evidências de um sistema de gestão de IA e ajuda a transformar a auditoria em rotina.
É o papel do Sinapse Gateway, a camada brasileira de governança de IA da Moov2: fica entre a equipe e os modelos, aplica política em runtime, guarda log exportável, atribui custo por área e roda on-premise, com qualquer LLM. Para quem também precisa controlar o gasto com modelos, veja o nosso guia de controle de tokens e custo de IA.
Auditoria pontual ou governança contínua: qual a diferença?
| Critério | Auditoria pontual | Governança contínua |
|---|---|---|
| Visão do uso | Projetos declarados | Todo uso que passa pela camada de controle |
| Evidência | Entrevistas e questionários | Log exportável de cada interação |
| Dado sensível | Política escrita | Bloqueio e mascaramento antes do envio |
| Frequência | Anual | Diária |
Se a sua instituição também opera no setor financeiro, os mesmos princípios valem para a fiscalização de IA pela ANPD.
Perguntas frequentes
O que é auditoria de IA na saúde?
É verificar e provar como a instituição usa IA: quais modelos, com quais dados de paciente, por quais usuários e com quais resultados.
Dado de saúde pode ser enviado para um LLM?
Dado de saúde é dado pessoal sensível pela LGPD. O envio precisa de base legal, controle e registro; o mais seguro é mascarar o dado ou manter o processamento na infraestrutura da instituição.
Qual evidência a auditoria precisa ter?
Log exportável com prompt, resposta, usuário, modelo e horário, mais as políticas aplicadas em cada interação.
A ISO/IEC 42001 é obrigatória?
Não é obrigatória, mas é a norma de sistema de gestão de IA e serve de referência para organizar riscos, papéis e evidências.
Quer ver o que a sua equipe já faz com IA hoje? Faça um piloto de 72 horas do Sinapse Gateway no seu ambiente, sem cartão.
