A inteligência artificial (IA) está transformando a imagem médica, mas também traz preocupações sobre a equidade e a justiça entre diferentes grupos populacionais. Discutimos as fontes de viés e as estratégias para mitigá-los, bem como oportunidades e desafios no campo.
Com o crescimento exponencial no desenvolvimento de sistemas de inteligência artificial (IA) para análise de imagens médicas, hospitais e centros médicos começaram a implantar essas ferramentas na prática clínica. Esses sistemas geralmente são alimentados por uma técnica específica de aprendizado de máquina (ML) conhecida como aprendizado profundo (DL), que é útil para resolver uma ampla gama de tarefas no contexto de imagem médica (MIC).
No entanto, a comunidade científica tem destacado que os sistemas de ML podem ser tendenciosos contra certas subpopulações, apresentando desempenho discrepante para diferentes subgrupos definidos por atributos protegidos, como idade, raça/etnia, sexo ou gênero, e status socioeconômico. No campo da saúde, o comportamento desigual dos algoritmos em relação a diferentes subgrupos populacionais pode até ser considerado contrário aos princípios da bioética. Nesse contexto, promover a equidade no MIC é essencial, embora seja uma tarefa complexa.
Ao abordar o conceito de equidade em algoritmos no contexto de subgrupos de pacientes definidos por tom de pele ou raça/etnia, é importante considerar o desempenho dos sistemas MIC para patologias oftalmológicas, torácicas e/ou cardíacas suspeitas. Por exemplo, no diagnóstico da retinopatia diabética, um desequilíbrio grave nos dados pode levar a um viés no desempenho do algoritmo.
Para enfrentar os desafios e oportunidades no campo da imagem médica, é crucial identificar e mitigar as fontes de viés e promover a pesquisa em áreas inexploradas, como a análise de dados de treinamento e a avaliação do impacto dos sistemas de ML em diferentes subpopulações. A colaboração entre pesquisadores, clínicos e formuladores de políticas será fundamental para garantir que a IA na imagem médica beneficie todos os pacientes de maneira justa e equitativa.