PUBLICIDADE
Topo

Para onde o mundo vai

OPINIÃO

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

Watson: por que a inteligência artificial da IBM fracassou na área de saúde

Irwan/ Unsplash
Imagem: Irwan/ Unsplash
Daniel Schultz, Monica Matsumoto, Shridhar Jayanthi, Guilherme Pimentel , Luiz Gustavo Martins e Cristina Schultz

sobre os colunistas

Daniel Schultz é cientista, professor de microbiologia e membro do núcleo de ciências computacionais em Dartmouth (EUA). Estuda a dinâmica dos processos celulares, com foco na evolução de bactérias resistentes a antibióticos. É formado em engenharia pelo ITA, doutor em química pela Universidade da Califórnia San Diego e pós-doutorado em biologia sistêmica em Harvard. Possui trabalhos de alto impacto publicados em várias áreas, da física teórica à biologia experimental, e busca integrar essas várias áreas do conhecimento para desvendar os detalhes de como funciona a vida ao nível microscópico.

Monica Matsumoto

Monica Matsumoto é cientista e professora de Engenharia Biomédica no ITA. Curiosa, tem interesse em áreas multidisciplinares e procura conectar pesquisadores em diferentes campos do conhecimento. É formada em engenharia pelo ITA, doutora em ciências pela USP e trabalhou em diferentes instituições como InCor/HCFMUSP, UPenn e EyeNetra.

Shridhar Jayanthi

Shridhar Jayanthi é agente de patentes com registro no escritório de patentes norte-americano (USPTO). Tem doutorado em engenharia elétrica pela Universidade de Michigan (EUA) e diploma de engenheiro de computação pelo ITA. Atualmente, trabalha com empresas de alta tecnologia para facilitar obtenção de patentes e, nas (poucas) horas vagas, é estudante de problemas na intersecção entre direito, tecnologia e sociedade. Antes disso, teve uma vida acadêmica com passagens pela Rice, MIT, Michigan, Pennsylvania e no InCor/USP, e trabalhou com pesquisa em áreas diversas da matemática, computação e biologia sintética.

Guilherme Pimentel

Guilherme Pimentel é pesquisador no instituto de física da Universidade de Amsterdã na Holanda, onde trabalha com novas teorias para explicar a expansão acelerada do Universo. Possui graduação em engenharia eletrônica, mestrado em física pelo ITA (Instituto Tecnológico de Aeronáutica) e doutorado em física na Universidade de Princeton. Sua pesquisa é focada em cosmologia e física de partículas.

Luiz Gustavo Martins

Luiz Gustavo Martins é engenheiro químico, mestrado em física pela Universidade Federal de Minas Gerais (UFMG). Atualmente é doutorando no MIT (Massachusetts Institute of Technology), na área de física do estado sólido experimental, onde trabalha espectroscopia óptica em materiais bidimensionais (com poucos átomos de espessura) e física de altas pressões.

Cristina Schultz

Cristina Schultz é oceanógrafa formada pela USP (Universidade de São Paulo), com mestrado em meteorologia pelo INPE (Instituto Nacional de Pesquisas Espaciais) e doutorado em oceanografia química pelo WHOI (Woods Hole Oceanographic Institution) e o MIT (Massachusetts Institute of Technology). Atualmente é cientista visitante na Universidade de Princeton, no NOAA (National Oceanic and Atmospheric Administration) e no Geophysical Fluid Dynamics Laboratory (Laboratório de Dinâmica de Fluidos Geofísicos). Sua pesquisa combina o uso de dados coletados em cruzeiros oceanográficos, dados de satélite e modelos climáticos para entender as consequências das mudanças climáticas na química do oceano e no ecossistema marinho.

Monica Matsumoto

30/03/2021 04h00

No início de fevereiro, a notícia que o Watson Health estava à venda veio como surpresa a muitos e a outros nem tanto. Lançado com sucesso em 2011, um programa do IBM Watson venceu o show americano Jeopardy. O código automático conseguia prever perguntas e respostas em áreas de conhecimento geral, e bateu todos os outros concorrentes.

O Watson Health opera no segmento de saúde. A campanha era clara, a IA (inteligência artificial) iria mudar para melhor o tratamento dado aos pacientes, salvando vidas.

Um dos carros-chefes é a área de oncologia. Com a base de dados de um hospital, o MSKCC, o poder de recomendação do Watson foi replicado para pacientes em outros hospitais.

Essa foi uma das falhas, passar uma conduta de tratamento de um hospital a outro, sem adaptar à realidade daquele local. Por exemplo, o sistema automático trouxe recomendações de tratamentos avançados que não estavam disponíveis em centros de câncer menores.

Esses resultados começaram a levantar suspeitas e ceticismo dos médicos usuários do programa. E muitos resultados não tinham validação científica, eram apenas uma constatação enviesada pelo banco de dados do sistema de inteligência artificial.

Nos anos que se seguiram, a partir de 2015, foram compradas outras empresas do segmento que tinham bancos de dados maiores e uma carteira considerável de clientes. Compras bilionárias como as empresas Truven, Explorys, Phytel and Merge Healthcare foram feitas. De acordo com reportagens, essa incompatibilidade de fontes de dados tornou o sistema em Frankenstein, sem uma plataforma de backend coesa. Esse foi um dos problemas.

Marketing sem a evidência científica

O mais gritante foi o movimento de tornar os produtos comercializáveis antes mesmo de ter evidência que funcionavam.

Alimentaram promessas como descoberta de novos medicamentos, medicina personalizada, melhores práticas de conduta médica, reduzir o tempo de análise do médico e salvar vidas.

O mercado de saúde é muito intrincado, não existe uma ferramenta que resolva todos os problemas complexos.

Watson Health foi incisivo em suas campanhas de marketing, vendendo os produtos sem comprovação de evidências científicas dos resultados.

Em 2016, um grande centro de oncologia, o MD Anderson, quebrou contrato com a IBM, balançando ainda mais a confiança na plataforma. Mesmo assim, hoje a empresa fatura mais de um bilhão de dólares com os produtos do Watson Health.

Apesar da cifra substancial, a empresa não é sustentável e não tem lucro, nunca o teve.

Paralelo com a pneumonia por covid-19

Em um artigo recente publicado na revista Nature, o cientista Michael Roberts e seus colegas analisaram mais de dois mil artigos científicos que tinham como objetivo detectar o novo coronavírus em raio-X e tomografia computadorizada, diferenciando-o de outros tipos de pneumonia por vírus e bactéria.

Nenhum dos artigos foi capaz, dentro desta análise, de ser uma ferramenta clínica que funcionasse em ambiente clínico real.

Entre as causas estão bancos de dados de tamanho insuficiente, metodologia falha, dados de diversas fontes que não se integram, a dificuldade de se ter um prognóstico (como desfecho e preditores) e a dificuldade de se trabalhar junto com os médicos especialistas (produzindo sugestões que sejam explicáveis e não caixas pretas).

Todas essas dificuldades são as mesmas encontradas pelo sistema da IBM Watson Health.

Justamente, a grande falha da IBM foi focar na venda dos produtos, sem trabalhar a robustez de seu sistema, com metodologia correta e banco de dados não enviesados.

Ainda, este paper da Nature dá algumas sugestões para superar essas dificuldades, principalmente no desafio de usar dados de fontes diferentes e como trabalhar com dados internos e externos.

O Watson Health foi um dos pioneiros a usar IA para a área de saúde. Infelizmente, o desenvolvimento de seus produtos não satisfez a propaganda e gerou enorme desconfiança por parte dos hospitais, planos de saúde e médicos.

Ao se tornar grande e incorporar novas empresas, perdeu agilidade no mercado, tomado hoje por pequenas empresas e startups que conseguem encontrar os nichos e oferecer produtos que respondem à complexidade da biologia e dos sistemas de saúde.

No hype da IA em saúde, uma das ciladas desse relato é não se basear na ciência para salvar vidas.

** Este texto não reflete, necessariamente, a opinião do UOL