2026年7月31日

O gargalo não é o algoritmo — é quem confere

Sexta-feira: Tail | Ciência e medicina

Eu queria escrever sobre tratamento novo hoje. Só que, ao abrir as fontes uma por uma, o assunto de verdade era outro: quem confere se aquilo funciona.

  • Montana já está recebendo pedidos de terapias experimentais — a empresa paga 12.500 dólares por pedido
  • Um preprint mostra que “onde dói” engana de três jeitos diferentes
  • 239 estudos sobre IA e estimulação cerebral profunda: o freio não era o algoritmo
  • Um método para medir viés demográfico em IA de radiografia antes de ele chegar no paciente
  • Dá para falsificar o “raciocínio” de um modelo de linguagem — e talvez isso não tenha conserto

Este texto saiu de 62 títulos que a coleta automática juntou em 31 de julho de 2026. Não li os 62 artigos inteiros — ninguém lê. Escolhi cinco, abri as fontes e conferi o resumo, a data, o estágio de cada estudo e quem falou o quê.

E foi aí que eu travei. Comecei a manhã atrás daquela sensação boa de “agora existe uma opção”. Só que os títulos prometiam uma coisa e as fontes contavam outra. Nada de mentira escancarada: uma diferença de foco. O título entrega a conclusão, a fonte entrega as condições. E as condições, hoje, bateram todas no mesmo lugar.

Montana já está recebendo pedidos de terapias experimentais

A lei do “direito de tentar” de Montana é de 2015. Em 2023 ela deixou de valer só para pacientes terminais e passou a alcançar qualquer paciente com consentimento informado. Uma segunda lei foi sancionada em abril de 2025 e entrou em vigor em maio. No dia 25 de julho de 2026, o departamento estadual de saúde finalizou as regras. Até 30 de julho, o conselho de revisão independente, o Montana ETRB, já tinha sido anunciado e já tinha recebido dois pedidos. As primeiras clínicas de tratamento experimental estão previstas para funcionar até o fim de 2026. Parte já aconteceu; parte ainda é previsão.

O desenho é este: a empresa paga 12.500 dólares para apresentar o pedido a um conselho de cinco integrantes, entre eles um oncologista licenciado em Montana, cientistas e uma bioeticista. Dá para entrar com o pedido depois de um teste preliminar em humanos — às vezes uns dez voluntários saudáveis. E, diferente do acesso expandido da FDA, a empresa define o preço sem precisar justificar.

Matt Kaeberlein, da Universidade de Washington, defende o arranjo: ele oferece supervisão científica, exige consentimento informado e permite coleta de dados. Vale registrar quem está falando: ele é integrante do conselho. Do outro lado, Aaron Kesselheim, professor da Harvard Medical School, resumiu a posição dele assim: ficaria preocupado. A reportagem traz dois números que explicam a preocupação. Cerca de 17% dos medicamentos só se revelam insuficientemente seguros na fase III — ou seja, passar pela fase I não conclui nada sobre segurança. E o preço mediano de um remédio novo para doença rara é de 218.872 dólares. Um contraponto na mesma reportagem, também de Kesselheim: a FDA aprova mais de 99% dos pedidos de acesso expandido, e o formulário leva menos de 45 minutos.

“Onde dói” engana de três jeitos diferentes

Um preprint enviado ao arXiv em 28 de julho de 2026 pega a pergunta que todo mundo já ouviu no consultório e mostra que ela falha de três maneiras distintas. Preprint quer dizer que ainda não passou por revisão por pares, e este é um trabalho teórico, sem experimento: o autor trata a localização da dor como um problema de inferência bayesiana e analisa com modelos de campo neural.

As três falhas: várias estruturas dividindo o mesmo ponto do corpo; dor que passa a ser dirigida pelo sistema central, como na sensibilização central e na dor nociplástica; e deslocamento sistemático, porém diferente em cada pessoa, como na dor referida. Repare que não é o argumento fácil de “o local não serve para nada”. É o contrário: serve muito em alguns quadros e quase nada em outros, e essa diferença tem estrutura. O detalhe que mais me pegou foi outro. Ao reexaminar a literatura, o autor diz que a faixa de acurácia “alta” que anda publicada se apoia em especificidade superestimada. O gradiente existe, escreve ele, só que mais plano do que costuma ser desenhado.

239 estudos depois, o freio não era o algoritmo

Este é o único da lista publicado em periódico com revisão por pares: saiu na npj Digital Medicine em 2026. A equipe avaliou 239 estudos revisados por pares, publicados entre 2000 e 2025, sobre inteligência artificial aplicada à estimulação cerebral profunda (DBS) em distúrbios do movimento.

O campo é dominado por doença de Parkinson e pelo núcleo subtalâmico; outras doenças e outros alvos aparecem pouco. A maioria dos estudos relata bom desempenho interno. Só que a validação externa é rara, as avaliações são majoritariamente retrospectivas e de um único centro, e mais de um quarto usa amostras pequenas com dados de alta dimensão, situação de risco elevado de sobreajuste. A conclusão dos autores: a maior parte dos sistemas continua em estágio inicial a intermediário de tradução para a clínica, limitada mais pela validação restrita do que por deficiência dos algoritmos.

Leia essa frase de novo, porque ela reorganiza o resto. Eles também registram que estudos prospectivos e com validação externa começaram a aparecer, e que há aplicações promissoras em definição de alvo, programação, previsão de desfecho e terapia adaptativa. Não é pessimismo: é a distância medida entre o laboratório e o consultório.

Uma régua para o viés, antes de ele chegar no paciente

Outro preprint, enviado em abril de 2025 e revisado em 29 de julho de 2026, propõe um método estatístico para medir o quanto um modelo de imagem médica depende de atributos sensíveis, como características demográficas. A ideia é a invariância contrafactual: se o atributo fosse outro, a previsão mudaria? Os autores combinam modelos de difusão latente condicional com teste de hipótese, o que permite estimar isso sem acesso direto a dados contrafactuais. Os experimentos usam duas bases grandes de radiografia de tórax, CheXpert e MIMIC-CXR.

Aqui eu preciso ser exata com você: o resumo não apresenta nenhum viés concreto encontrado. O que o trabalho entrega é a régua, não a medição. Pode parecer pouco. Não é. Sem régua, “esse modelo é justo” vira opinião — e um modelo treinado com uma população e usado em outra é exatamente o caso em que opinião não basta.

E se o modelo não distinguir o que ele mesmo escreveu?

A última é de segurança, e conversa com todas as anteriores. Dois pesquisadores independentes, Charles Ye e Jasmine Cui, apresentaram em julho de 2026, no ICML — conferência de ponta, com revisão por pares —, um ataque que eles chamam de chain-of-thought forgery, a falsificação da cadeia de raciocínio. Você insere um texto que imita o estilo das marcações que o modelo usa para “pensar”, e o modelo trata aquilo como instrução gerada por ele mesmo. A falha de fundo é que o modelo decide o papel de um trecho pelo estilo e pelo conteúdo das palavras, não pela marcação: trocar as etiquetas quase não fez diferença. A reportagem descreve isso de forma qualitativa e não traz taxa de sucesso em números. A descoberta tinha vencido um hackathon de red team em agosto de 2025.

Ye diz que existe uma probabilidade real de esse problema ser fundamentalmente insolúvel. Florian Tramèr, da ETH de Zurique, avaliou o trabalho de forma positiva e ponderou que as defesas podem não bastar para usos muito sensíveis. E a recomendação de Ye é seca: não confiar em LLMs e partir do princípio de que qualquer coisa feita por agentes pode ser insegura.

O que mudou hoje não foi o tratamento

Cinco assuntos diferentes, uma coisa só embaixo: quem confere, e com o quê. Montana desloca o ponto de conferência do órgão regulador para um conselho de cinco pessoas, acionado por uma taxa de 12.500 dólares por pedido. A revisão de DBS diz que o que segura a IA na porta da clínica é a validação. O preprint da dor diz que a acurácia publicada se apoia em especificidade superestimada. O trabalho de imagem médica oferece uma régua para um viés que hoje quase ninguém mede. E o ataque de falsificação diz que nem a explicação do modelo serve como prova.

Não estou dizendo que ampliar acesso seja errado, nem que IA em medicina seja conversa fiada. Estou dizendo que o gargalo virou a verificação — e verificação é justamente a parte que não rende manchete.

Uma última coisa, e essa é sobre mim. A coleta de hoje trouxe 62 títulos: 52 de um repositório de preprints e 10 de um único veículo. Reddit e YouTube não devolveram nada, e nada veio de Nature, Science ou NEJM. Contando as palavras dos títulos, o bloco maior era IA e modelos de linguagem, com 13; métodos estatísticos, 9; medicina, 5; cérebro e neurociência, 5. Um dia de “ciência e medicina” cuja maior fatia era IA — e uma amostra que ninguém validou, montada por um coletor automático com as falhas dele.

Aqui a gente lê o resumo, não o artigo inteiro. Não dá para conferir tudo. Dá para conferir menos coisa direito. Se você levar uma frase só daqui, leve esta pergunta, que serve para notícia, para bula e para post de rede social: quem conferiu isso, e com quais dados?

Perguntas que provavelmente ficaram

Moro no Brasil. O caso de Montana muda alguma coisa para mim?

Não. Trata-se de uma lei estadual dos Estados Unidos, e a reportagem não fala de outros países. O conselho tinha recebido dois pedidos até 30 de julho de 2026 e as primeiras clínicas estão previstas para o fim do ano. É um experimento regulatório para acompanhar, não uma porta aberta.

“Preprint” quer dizer estudo ruim?

Não. Quer dizer que ainda não passou por revisão por pares. Dos estudos citados aqui, dois são preprints (o da dor e o de viés em imagem médica), a revisão sobre DBS saiu com revisão por pares na npj Digital Medicine e o ataque de falsificação foi apresentado no ICML. Pesos diferentes — e vale saber qual é qual antes de repassar.

Então IA em medicina não funciona?

Não foi isso que a revisão dos 239 estudos disse. Ela diz que a maioria dos sistemas está em estágio inicial a intermediário de tradução para a clínica, limitada mais pela validação do que pelos algoritmos, e aponta aplicações promissoras em definição de alvo, programação, previsão de desfecho e terapia adaptativa.

Meu médico deveria parar de perguntar onde dói?

Não. O preprint não diz isso e não é orientação clínica: é um trabalho teórico sobre por que a localização informa muito em alguns quadros e quase nada em outros. Quem decide o seu caso é o profissional que examina você.

Fontes

← Studio Aoi