A inteligência artificial pode diagnosticar a corrida usando apenas varreduras de raios-X, mas como isso é possível ainda não foi decifrado!

Um médico não pode dizer se um paciente é negro, asiático ou branco apenas olhando para as imagens de raios-X. Uma equipe internacional, incluindo pesquisadores do Instituto de Tecnologia de Massachusetts e Harvard Medical School The Lancet Saúde Digital Um computador pode ser capaz de fazer isso, de acordo com um artigo surpreendente publicado na revista médica![2]

O estudo descobriu que um programa de inteligência artificial treinado para ler raios-X e tomografias identifica a raça de uma pessoa em 90%. verdadeEle descobriu que só podia adivinhar. Mas os cientistas que conduziram o estudo dizem que não têm ideia de como o computador o resolveu. Marzyeh Ghassemi, professor assistente de Engenharia Elétrica e Ciência da Computação no MIT e coautor do artigo, disse:

Quando meus alunos de pós-graduação me mostraram alguns dos resultados deste artigo, pensei que devia ter sido um erro. Para ser honesto, pensei que meus alunos estavam loucos quando me contaram.

Um enorme risco para a medicina assistida por inteligência artificial!

Em um momento em que os médicos estão usando cada vez mais softwares baseados em IA para diagnosticar doenças, esta pesquisa levanta a possibilidade perturbadora de que os sistemas de diagnóstico baseados em IA possam produzir involuntariamente resultados racialmente tendenciosos. Em seu artigo, os pesquisadores escrevem:

Os resultados do nosso estudo, aprendizado profundo com inteligência artificial modeloA capacidade dos pacientes de prever as raças relatadas pelos pacientes é uma questão importante em si. que você não é sublinhadas. No entanto, a inteligência artificial muitas vezes consultórioNossa descoberta de que foi capaz de prever com precisão a raça relatada pelo paciente, mesmo a partir de imagens médicas distorcidas, cortadas ou até parasitas, quando especialistas humanos não podiam modelopara o risco muito grande formulários.

Raios-X intencionalmente distorcidos do conjunto de dados usado pelos pesquisadores.
The Lancet Saúde Digital

Por exemplo, uma inteligência artificial com acesso a raios X, para uma pessoa específica se esse tratamento é o melhor ou não, para todos os pacientes negros pode recomendar automaticamente um curso específico de tratamento. Em contrapartida, o paciente humano Ele não saberia que seu médico, que era psiquiatra, estava baseando seu diagnóstico de IA em dados raciais.

Outros conteúdos relacionados à Inteligência Artificial ›

A pesquisa é para que os cientistas estudem radiografias de tórax. depois que um programa de IA percebeu que pacientes negros eram mais propensos a perder os sintomas nasceu. Leo Anthony Celi, outro coautor e professor associado da Harvard Medical School, pergunta:

Se os computadores não pudessem distinguir a raça de uma pessoa, como isso seria possível?

Você consegue adivinhar a raça do paciente nesta imagem?
Você consegue adivinhar a raça do paciente nesta imagem?
Boston Globe

A equipe de pesquisa, que inclui cientistas dos Estados Unidos, Canadá, Austrália e Taiwan, primeiro treinou um sistema de IA usando conjuntos de dados padronizados de raios-X e tomografia computadorizada, onde cada imagem é rotulada com a raça da pessoa. Imagens, peito, mão e vidaveio de diferentes partes do corpo, incluindo ga. revisado por computador diagnóstico imagens, cor da pele ou cabelo tecidonão incluiu quaisquer marcadores raciais óbvios, como água.

Muitos softwares corrida Depois que a imagem marcada foi exibida, também foram mostrados diferentes conjuntos de imagens que ainda não haviam sido rotuladas. O programa mostra que as pessoas nas imagens corridaFoi capaz de detectá-lo com precisão notável, bem acima de 90% em média. Mesmo ao analisar imagens de pessoas da mesma altura, idade ou sexo, a IA distinguiu com precisão pacientes negros e brancos. Mas como?

Taxas de sucesso da inteligência artificial no diagnóstico racial.  Os números assumem valores entre 0 e 1.
Taxas de sucesso da inteligência artificial no diagnóstico racial. Os números assumem valores entre 0 e 1.
The Lancet Saúde Digital

Como a inteligência artificial conhece a corrida?

Para sua surpresa, Ghassemi e seus colegas suspeitam que tenha algo a ver com a melanina, o pigmento que determina a cor da pele. Talvez raios-X e tomografia computadorizada possam criar padrões de diferentes tons ou formas, influenciados pelo maior teor de melanina da pele mais escura, mesmo que sejam invisíveis ao olho humano, e processar essas informações na imagem digital de uma maneira que os usuários humanos nunca tinha notado antes. Muito mais pesquisas serão necessárias para ter certeza disso.

Os resultados dos testes podem ser evidências de diferenças inatas entre pessoas de diferentes raças?

Biologia no Hampshire College antropologia professor e Racismo não raça (Modelo: Não Raça, Racismo) Alan Goodman, co-autor do livro, não pensa assim (Árvore de evolução Como resultado, já explicamos que a raça não é uma métrica biológica significativa hoje).

Goodman expressa ceticismo sobre os resultados do artigo e diz duvidar que outros pesquisadores possam reproduzir os resultados. Mas mesmo que o fizessem, ele acha que se trata de geografia, não de raça.

bom homem, genéticopessoas genomaEle diz que não encontrou evidências de diferenças raciais significativas na farinha. No entanto, é possível encontrar grandes diferenças entre as pessoas, dependendo de onde seus ancestrais viveram. Goodman pergunta:

Se ao invés de usar raça eles olhassem as coordenadas geográficas de alguém, a máquina faria o mesmo? Minha opinião é que a máquina fará o mesmo.

Em outras palavras, uma IA pode determinar a partir de um raio-X que a ascendência de uma pessoa é do norte da Europa, outra da África central e a ascendência de uma terceira pessoa é do Japão. Goodman disse:

Você pode chamar isso de corrida. Eu chamo isso de diversidade geográfica.

Ainda assim, ele admite que não está claro como a IA poderia detectar essa variação geográfica apenas com um raio-X.

De qualquer forma, disse Celi, os médicos devem relutar em usar ferramentas de diagnóstico de IA que podem produzir automaticamente resultados tendenciosos.

Leave a Comment