Acessibilidade / Reportar erro

O paradoxo profundo: dos kernels à maquiagem social

The deep paradox: from kernels to social makeup

Resumo

O objetivo deste estudo é analisar a produção científica disponível sobre modelos de Deep Learning para diagnóstico de doenças de pele, com foco na diversidade étnico-racial, em coleções de imagens. Metodologicamente, o estudo caracteriza-se como uma revisão narrativa da literatura, de natureza exploratória. Excluíram-se artigos que não utilizavam algoritmos de aprendizagem profunda ou que não abordavam o diagnóstico de doenças de pele. Foram analisados 37 artigos e 7 coleções de imagens de lesões cutâneas. Os resultados mostram que três artigos mencionavam a origem populacional das imagens utilizadas no treinamento dos modelos de Deep Learning. Apenas uma coleção indicou a predominância populacional das imagens representadas, mas nenhum desses repositórios forneciam estatísticas detalhadas sobre a população participante. Conclui-se que a eficácia dos algoritmos em contextos de diversidade racial carece de evidências, e as pesquisas analisadas não apresentavam soluções para essa lacuna. Nesse contexto, este estudo destaca o paradoxo profundo entre o avanço tecnológico e a perpetuação de desigualdades sociais, enfatizando a necessidade de ajustes sociais em sistemas de inteligência artificial para promover equidade no acesso à saúde e evitar o viés algorítmico em tecnologias de diagnóstico.

Palavras-chave
Algoritmos; Aprendizagem profunda; Inteligência artificial; Saúde Coletiva; Sociedade da Informação

Abstract

The aim of this study is to analyze the available scientific production on Deep Learning models for skin disease diagnosis, with a focus on ethnoracial diversity in image collections. Methodologically, the study is characterized as an exploratory narrative literature review. Articles that did not use deep learning algorithms or that did not address the diagnosis of skin diseases were excluded. Thirty-seven articles and seven collections of skin lesion images were analyzed. The results show that three articles mentioned the population origin of the images used in the training of Deep Learning models. Only one collection indicated the predominant population of the images represented, but none of these repositories provided detailed statistics on the participating population. It is concluded that the effectiveness of algorithms in contexts of racial diversity lacks evidence, and the analyzed research did not present solutions for this gap. In this context, this study highlights the deep paradox between technological advancement and the perpetuation of social inequalities, emphasizing the need for social adjustments in artificial intelligence systems to promote equity in access to health and avoid algorithmic bias in diagnostic technologies.

Keywords
Algorithms; Deep Learning; Artificial Intelligence; Public Health; Information Society

Introdução

Ao longo das últimas décadas, tem-se observado um aumento significativo do uso da Inteligência Artificial (IA) em vários setores da sociedade, e o campo da saúde não é exceção. Uma mudança sem precedentes na prática médica, na qual tecnologias são empregadas para assistir as decisões dos profissionais de saúde, abrangendo desde a priorização de filas até a classificação de riscos de pacientes e o aprimoramento de diagnósticos clínicos, entre outras aplicações (Do Nascimento Neto et al., 2020Do Nascimento Neto, C. D. et al. Inteligência artificial e novas tecnologias em saúde: desafios e perspectivas. Brazilian Journal of Development, v. 6, n. 2, p. 9431-9445, 2020.; Guarizi; Oliveira, 2014Guarizi, D. D.; Oliveira, E. V. Estudo da Inteligência Artificial aplicada na área da saúde. Colloquium Exactarum, v. 6, p. 26-37, 2014.; Lobo, 2017Lobo, L. C. Inteligência artificial e medicina. Revista Brasileira de Educação Médica, v. 41, p. 185-193, 2017.; Passos; Junior, 2018Passos, R. P.; Junior, G. D. B. V. Inteligência artificial nas ciências da saúde. Revista CPAQV, v. 10, n. 1, p. 2, 2018.).

Existem muitas iniciativas de pesquisadores nas áreas da saúde que têm buscado aplicar modelos de Machine Learning (ML) para aumentar a eficácia do setor (Mamoshina et al., 2016Mamoshina, P. et al. A. Applications of deep learning in biomedicine: Molecular pharmaceutics. American Chemical Society, v. 13, n. 5, p. 1445-1454, 2016. Doi: https://doi.org/10.1021/acs.molpharmaceut.5b00982
https://doi.org/10.1021/acs.molpharmaceu...
). Essa subárea da Inteligência Artificial pode oferecer contribuições importantes para os serviços de saúde, de forma mais personalizada e que priorize a autonomia do paciente (Rong et al., 2020Rong, G. et al. Artificial intelligence in healthcare: Review and prediction case studies. Engineering, v, 6, n. 3, p. 291-301, 2020. Doi: https://doi.org/10.1016/j.eng.2019.08.015.
https://doi.org/10.1016/j.eng.2019.08.01...
), o que pode trazer luz a paradigmas médicos ainda vigentes, como: tempo, espaço e custo.

Nesse contexto, uma grande possibilidade de contribuição desses modelos está no processo de diagnóstico clínico utilizando imagens médicas, como: ressonância magnética, tomografia computadorizada, radiografias, endoscopias e outros tipos de exames de imagens (Chen; Sung, 2021Chen, H.; Sung, J. J. Potentials of AI in medical image analysis in gastroenterology and hepatology. Journal of Gastroenterology and Hepatology, v. 36, n. 1, p. 31-38, 2021.; Kora et al., 2022Kora, P. et al. Transfer learning techniques for medical image analysis: A review. Biocybernetics and Biomedical Engineering, v. 42, n. 1, p. 79-107, 2022.; Tsuneki, 2022Tsuneki, M. Deep learning models in medical image analysis. Journal of Oral Biosciences, v. 64, n. 3, p. 312-320, 2022.).

Os avanços de abordagens de Aprendizagem Profunda e suas possibilidades de contribuições para a área da saúde são vastos na literatura (Morid; Borjali; Del Fiol, 2021Morid, M. A.; Borjali, A.; Del Fiol, G. A scoping review of transfer learning research on medical image analysis using ImageNet. Computers in Biology and Medicine, v. 128, 104115, 2021. Doi: https://doi.org/10.1016/j.compbiomed.2020.104115.
https://doi.org/10.1016/j.compbiomed.202...
; Olveres et al., 2021Olveres, J. et al. What is new in computer vision and artificial intelligence in medical image analysis applications. Quantitative Imaging in Medicine and Surgery, v. 11, n. 8, p. 3830, 2021.; Singh, 2021Singh, C. Medical imaging using deep learning models. European Journal of Engineering and Technology Research, v. 6, n. 5, p. 156-167, 2021.). Porém, um ponto que merece destaque e que ainda está sendo pouco debatido, é a democratização dessas tecnologias, o que remete não somente ao quão capaz é essa tecnologia e quem as opera, mas, primordialmente, a quem essas máquinas servem.

Alguns autores que utilizaram técnicas de ML no cuidado de doenças crônicas apontaram, como alternativa promissora, as aplicações de redes neurais convolucionais (do inglês Convolutional Neural Network – CNN) utilizando imagens médicas para auxiliar no processo de diagnóstico clínico (Faes et al., 2019Faes, L. et al. Automated deep learning design for medical image classification by health-care professionals with no coding experience: A feasibility study. The Lancet Digital Health, v. 1, n. 5, e232-e242, 2019. Doi: https://doi.org/10.1016/S2589-7500(19)30108-6.
https://doi.org/10.1016/S2589-7500(19)30...
; Wernick et al., 2010Wernick, M. et al. Machine learning in medical imaging. IEEE Signal Processing Magazine, v. 27, p. 25-38, 2010. Doi: https://doi.org/10.1109/MSP.2010.936730.
https://doi.org/10.1109/MSP.2010.936730...
).

Embora se trate de uma abordagem notadamente eficiente, existem algumas limitações para o uso desse tipo de tecnologia. Quanto ao treinamento desses modelos, é necessário um grande volume de dados para que o aprendizado realmente aconteça (Cullell-Dalmau; Otero-Viñas; Manzo, 2020Cullell-Dalmau, M.; Otero-Viñas, M.; Manzo, C. Research techniques made simple: deep learning for the classification of dermatological images. Journal of Investigative Dermatology, v. 140, n. 3, p. 507-514, 2020.), e grandes iniciativas, frutos de colaborações internacionais na área da dermatologia, foram criadas para difundir, educar e sistematizar coleções de imagens de pele de acesso público, intensificando o uso dessa abordagem para classificar doenças e servir como matéria-prima para experimentos científicos e publicações sobre o tema, como a International Skin Imaging Collaboration (ISIC).

Todavia, se os algoritmos são treinados com dados que refletem desigualdades raciais já existentes na área da saúde, eles podem perpetuar essas questões ao produzir diagnósticos e recomendações de tratamento incompletos ou inadequados para pacientes de determinadas raças.

Este estudo se justifica, primeiramente, por abordar um problema de saúde que está estreitamente ligado a outras questões contidas nas agendas das nações: o agravamento das condições climáticas que têm impacto direto na incidência de doenças de pele em sua forma mais letal, como os melanomas e outros tipos de cânceres de pele. Em segundo lugar, pela dificuldade em se obter informações sobre a origem étnico-racial do paciente, que, muitas vezes, não são registradas nos metadados das imagens médicas contidas nas coleções públicas de imagem, o que põe em questão o quão plural é o acesso a essas tecnologias e aos serviços de saúde.

Dessa maneira, o objetivo deste estudo é analisar um fragmento da literatura que aborda a utilização de Deep Learning (DL) para o diagnóstico de doenças e discutir a importância da diversidade racial para o treinamento de modelos por imagem e a possibilidade de reprodução do comportamento social no emprego das tecnologias abordadas.

Partindo dos Kernels

No contexto da classificação de doenças de pele por meio da abordagem de aprendizado profundo, cada imagem é submetida a um extrator de características conhecido como kernel. Esses kernels são filtros essencialmente pequenos, desenvolvidos para extrair detalhes como bordas e texturas das imagens utilizadas para treinar os modelos. Cada kernel produz um mapa de características e, à medida que as informações atravessam as camadas da rede neural, os kernels mais profundos aprendem representações progressivamente complexas, capacitando a rede a capturar hierarquias de características (Delazeri; Stevani, 2021Delazeri, A. V.; Stevani, E. S. Classificação de câncer de pele usando redes neurais convolucionais: uma análise do desempenho de classificação em um conjunto de dados desbalanceado. 2021. Trabalho de Conclusão de Curso (Bacharelado em Sistemas de Informação) – Universidade Tecnológica Federal do Paraná, Curitiba, 2021.; Lima, 2019Lima, G. L. S. Identificação da psoríase através de dispositivos móveis usando redes neurais convolucionais profundas. 2019. 111 f. Dissertação (Mestrado em Sistemas de Informação) - Instituto Politécnico de Bragança, Bragança, Portugal, 2019.).

Esses kernels são essenciais para que as redes CNNs aprendam e extraiam características das imagens, tornando-as altamente eficazes em tarefas de visão computacional, como, por exemplo, o reconhecimento de imagem. Porém, essa abordagem tem uma grande limitação a necessidade de que haja uma grande quantidade de imagens disponíveis para treinamento (Cullell-Dalmau; Otero-Viñas; Manzo, 2020Cullell-Dalmau, M.; Otero-Viñas, M.; Manzo, C. Research techniques made simple: deep learning for the classification of dermatological images. Journal of Investigative Dermatology, v. 140, n. 3, p. 507-514, 2020.).

Dessa forma, coleções de imagens, resultados de grandes acordos de colaboração internacional, foram criadas. O intuito dessas coleções é facilitar a aplicação de imagens digitais da pele para ajudar a reduzir principalmente a mortalidade por melanoma e outras doenças com capacidade de causar sérios danos à saúde. Esses arquivos servem como um recurso público de imagens para ensino e pesquisa, bem como para o desenvolvimento de testes de algoritmos de IA (Tschandl; Rosendahl; Kittler, 2018Tschandl, P.; Rosendahl, C.; Kittler, H. The HAM10000 dataset, a large collection of multi-source dermatoscopic images of common pigmented skin lesions. Scientific Data, v. 14, n. 5, p. 180161, 2018. Doi: https://doi.org/10.1038/sdata.2018.161.
https://doi.org/10.1038/sdata.2018.161...
).

Essas imagens digitais de lesões cutâneas podem ser usadas para o reconhecimento de doenças de pele, bem como para auxiliar diretamente no diagnóstico por meio da teledermatologia, incentivando profissionais de diversas áreas a melhorarem suas técnicas de diagnóstico (De Oliveira; De Souza; Tonieto, 2022De Oliveira, F. W. P.; De Souza, D. A.; Tonieto, M. T. Detecção de doenças dermatológicas baseada em aprendizagem de máquina. Revista de Tecnologia da Informação da Faculdade Lourenço Filho, v. 3, n. 2, p. 1-5, 2022.). Entretanto, alguns autores têm relatado a homogeneidade das coleções de acesso aberto utilizadas como matéria-prima para centenas de publicações na literatura científica e para a construção de modelos experimentais (Dascalu; David, 2019Dascalu, A.; David, E. O. Skin cancer detection by deep learning and sound analysis algorithms: A prospective clinical study of an elementary dermoscope. EBioMedicine, v. 43, p. 107-113, 2019. Doi: https://doi.org/10.1016/j.ebiom.2019.04.055.
https://doi.org/10.1016/j.ebiom.2019.04....
; Wang et al., 2019Wang, H. et al. Assessment of deep learning using nonimaging infor-mation and sequential medical records to develop a prediction model for nonmelanoma skin cancer. JAMA Dermatology, v. 155, n. 11, p. 1277-1283, 2019. Doi: https://doi.org/10.1001/jamadermatol.2019.2335.
https://doi.org/10.1001/jamadermatol.201...
).

O grande problema que se tem quando modelos de DL são treinados com dados uniformes é a falta de capacidade de generalização do modelo (Neves; Vieira Neto; Gonzaga, 2012Neves, L. A. P.; Vieira Neto, H.; Gonzaga, A. Avanços em visão computacional. Curitiba: Omnipax, 2012.). Isso significa que, quando essas tecnologias são colocadas no ambiente clínico, elas podem não ser capazes de diagnosticar corretamente tipos de pele diferentes daqueles encontrados na coleção de imagens usadas para treinamento, limitando o uso dos algoritmos a um determinado grupo ou uma determinada população.

A Maquiagem Social e a Violência de Cor

Diversos artifícios são utilizados para tentar superar a deficiência de homogeneidade dos dados no início do processo de aprendizagem de máquinas a fim de mapear características específicas das imagens (Machado, 2021Machado, F. C. L. Application of deep learning methods to detect global patterns in dermoscopic images and aid the skin cancer diagnosis. 2021. 30 f. Monografia (Graduação em Ciência da Computação) − Universidade Federal de Ouro Preto, Ouro Preto, 2021.), como, por exemplo, a criação de máscaras, a rotação das imagens, os mecanismos de atenção e outras técnicas que focam na lesão, mas sem considerar o impacto da diversidade racial no conjunto de dados (Gómez; González, 2021Gómez, D. A. C.; González, G. A. P. Desarrollo de una interfaz de clasificación de enfermedades dermatológicas basadas en procesamiento de señales e inteligencia artificial. Semilleros de Investigación, v. 3, n. 2, p. 1-7, 2021.; Moreno; Caicedo; González, 2010Moreno, J.; Caicedo, J.; González, F. A kernel-based multi-feature image representation for histopathology image classification. Acta Biológica Colombiana, v. 15, n. 3, p. 251-260, 2010.). No entanto, rotação e mecanismos de atenção não podem auxiliar na heterogeneidade do conjunto no aspecto racial.

Para Higgins et al. (2019)Higgins, S. et al. Clinical presentations of melanoma in African Americans, Hispanics, and Asians. Dermatologic Surgery, v. 45, n. 6, p. 791-801, 2019. Doi: https://doi.org/10.1097/dss.0000000000001759.
https://doi.org/10.1097/dss.000000000000...
, a taxa de mortalidade e morbidade no caso de pacientes de pele negra com câncer de pele é alta. Outra questão, dessa vez apontada por Taylor et al. (2002)Taylor, S. C. et al. Health disparities in arthritis and musculoskeletal and skin diseases: The dermatology session: National Institute of Arthritis and Musculoskeletal and Skin Diseases, Bethesda, Maryland, December 15-16, 2000. Journal of the American Academy of Dermatology, v. 47, n. 5, p. 770-773, 2002. Doi: https://doi.org/10.1067/mjd.2002.124691.
https://doi.org/10.1067/mjd.2002.124691...
, refere-se a problemas com dados existentes e escassa quantidade de informação sobre doenças cutâneas em peles negras.

Anaba (2021)Anaba, E. L. Comparative study of cutaneous melanoma and its associated issues between people of African decent and Caucasians. Dermatologic Therapy, v. 34, n. 2, e14790, 2021. revela que pacientes caucasianos têm maior incidência e melhor prognóstico e alerta quando se trata de melanoma, algo não constatado em pacientes afrodescendentes. A ocorrência de câncer em pacientes de pele negra é frequentemente observada já em estágio avançado e, quando comparados a pacientes caucasianos, esses têm piores prognósticos (Torres et al., 2017Torres, V. et al. Refining the ideas of “ethnic” skin. Anais Brasileiros de Dermatologia, v. 92, n. 2, p. 221-225, 2017. Doi: https://doi.org/10.1590/abd1806-4841.20174846.
https://doi.org/10.1590/abd1806-4841.201...
). Além disso, em pessoas de pele negra, predominam tipos de lesões de pele como dermatofibrossarcoma protuberans (Jackson, 2010Jackson, B. A. Skin cancer in skin of color. In: MacFarlane, D. F. (ed.). Skin Cancer Management: A practical approach. New York: Springer, 2010. p. 217-223. Doi: https://doi.org/10.1007/978-0-387-88495-0_16.
https://doi.org/10.1007/978-0-387-88495-...
).

Pessoas de pele escura têm uma taxa de incidência mais baixa de câncer de pele, porém, em se tratando de melanomas, esses casos são identificados em estágios mais avançados em decorrência da falta de atenção dos médicos e de instrução dos pacientes. Contudo, é necessário avaliar fatores de risco de câncer de pele que incide em pessoas de pele escura e identificar a influência de questões socioeconômicas e de origem étnica nos comportamentos sociais (Padovese et al., 2018Padovese, V. et al. Skin cancer risk assessment in dark skinned immigrants: The role of social determinants and ethnicity. Ethnicity and Health, v. 23, n. 6, p. 649-658, 2018. Doi: https://doi.org/10.1080/13557858.2017.1294657.
https://doi.org/10.1080/13557858.2017.12...
).

Apesar da complexidade dos algoritmos, alguns autores destacam preocupações em relação às técnicas de Visão Computacional2 2 Refere-se a uma área da computação que envolve o desenvolvimento de algoritmos e sistemas capazes de interpretar e compreender informações visuais presentes em imagens ou vídeos. , enfatizando a possibilidade de perpetuação ou intensificação de viés racial devido a falhas nos dados de treinamento ou nas decisões dos algoritmos. Além disso, estudos alertam para a presença de discriminação em algoritmos de IA (Silva, 2020Silva, T. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as, v. 12, n. 31, p. 428-448, 2020.; Ribeiro, 2021Ribeiro, A. L. L. Discriminação em algoritmos de inteligência artificial: uma análise acerca da LGPD como instrumento normativo mitigador de vieses discriminatórios. 2021. Trabalho de Conclusão de Curso (Bacharel em Direito) – Universidade Federal do Ceará, Fortaleza, 2021.).

Para ilustrar como a violência de cor ou de etnia ocorre em ferramentas de geração de imagem com IA que utilizam algoritmos avançados para criar, modificar ou aprimorar imagens de forma automatizada e para realizar tarefas específicas relacionadas à geração ou manipulação de conteúdo visual, será utilizado o exemplo da ferramenta de geração de imagens Leonardo.Ai, modelo Leonardo Diffusion XL (Figura 1).

Figura 1
Geração de imagem por tipo de ocupação.

As imagens acima foram geradas a partir de um texto (prompt – contido na legenda) com ocupações de menor prestígio social (na primeira coluna) e de maior prestígio social (na segunda coluna). Os resultados demonstraram que ocupações de menor privilégio resultam em imagens de pessoas com características raciais que comumente sofrem algum tipo de discriminação em contextos sociais diversos. Por outro lado, as ocupações de maior prestígio foram construídas com características marcadas pela uniformidade de gênero e cor, fato que acende um alerta para essas representações no contexto laboral e para a criação de conteúdo digital no ciberespaço (Rocha; Porto; Abaurre, 2020Rocha, C. J.; Porto, L. V.; Abaurre, H. E. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimento Social, v.1, e205201, 2020.).

O exemplo revela a reprodução das relações de poder existentes na sociedade atual com características coloniais que se utilizam de tecnologias ditas sofisticadas, um fato que não é uma construção social, mas um viés de comportamento discriminatório transmitido para as máquinas (Carrera, 2020Carrera, F. Racismo e sexismo em bancos de imagens digitais: análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional. Comunidades, Algoritmos e Ativismos Digitais, v. 139, n. 1, p. 138-155, 2020.). A associação entre viés racial em algoritmos ocorre quando sistemas automatizados, como algoritmos de aprendizado de máquina, produzem resultados discriminatórios com base em características raciais. Isso pode surgir devido a conjuntos de dados de treinamento desbalanceados, falta de transparência em algoritmos, preconceitos implícitos dos desenvolvedores e feedback discriminatório.

A expressão “violência de cor” refere-se à discriminação, ao preconceito ou ao tratamento injusto baseado na cor da pele de uma pessoa. Essa forma de violência pode se manifestar em vários contextos, incluindo social, econômico, educacional e de saúde, e está associado a desigualdades e injustiças que resultam em tratamento diferenciado ou prejudicial em decorrência da cor da pele de uma pessoa, muitas vezes perpetuando estereótipos e contribuindo para disparidades sociais. A discriminação com base na cor da pele de alguém encontrada em algoritmos cria desafios para a garantia de igualdade na área da saúde e constitui-se em uma violação dos direitos humanos (Penacci, 2017Penacci, F. A. Perfil das adolescentes privadas de liberdade no interior do Estado de São Paulo. 2017. Tese (Doutorado em Medicina) – Universidade Estadual Paulista, São Paulo, 2017.).

Procedimentos Metodológicos

Como procedimentos metodológicos, este estudo é caracterizado como uma revisão narrativa de literatura que busca analisar publicações em periódicos científicos para interpretação e análise crítica (Casarin et al., 2020Casarin, S. et al. Tipos de revisão de literatura: considerações das editoras do Journal of Nursing and Health. Journal of Nursing and Health, v. 10, n. 5, e20104031, 2020. Doi: https://doi.org/10.15210/jonah.v10i5.19924.
https://doi.org/10.15210/jonah.v10i5.199...
; Rother, 2007Rother, E. T. Revisão sistemática X revisão narrativa. Acta Paulista de Enfermagem, v. 20, n. 2, p. vii-viii, 2007. [Editorial]. https://doi.org/10.1590/S0103-21002007000200001.
https://doi.org/10.1590/S0103-2100200700...
). Dessa forma, as etapas realizadas nesta pesquisa foram: identificação das publicações, coleta dos artigos selecionados e análise das principais publicações sobre o tema.

Esta pesquisa foi conduzida em quatro fases distintas: na primeira etapa, foram estabelecidas as estratégias e os objetivos foram definidos. A segunda etapa envolveu uma busca no Portal de Periódicos da Coordenadoria de Aperfeiçoamento de Pessoal de Nível Superior (Capes), com critérios específicos para a seleção de artigos publicados em inglês. As bases consultadas foram Scopus, Web of Science, PubMed e IEEE Xplore e a expressão de busca empregada foi (“deep learning”) AND (skin lesion* OR “skin lesion classification” OR “skin lesion segmentation” OR “skin cancer” OR “skin disease” OR “dermatopathology”), tendo resultado em 60 artigos preliminares.

Foram excluídos desta pesquisa os artigos que não utilizavam aplicações de algoritmos de Aprendizagem Profunda e estudos que não abordavam a temática do diagnóstico de doenças de pele (Nascimento; Viera, 2022Nascimento, E. L. L.; Viera, A. F. G. Contributions and limitations about the use of deep learning for skin diagnosis: A review. Switzerland: Springer Nature, 2022. p. 133-149.). A terceira etapa constituiu-se na análise das produções científicas identificadas e, na quarta, procedeu-se à verificação das coleções de imagem de doenças de pele.

A avaliação das produções científicas encontradas buscou: (i) identificar se os artigos mencionavam as populações que deram origem às imagens; (ii) verificar os resultados dos artigos; se esses estudos coletados apresentavam estatísticas ou outras informações sobre as referidas populações representadas nas imagens; (iii) catalogar as coleções de imagens utilizadas para treinar os modelos para diagnóstico; e (iv) examinar se as coleções informavam as populações que deram origem às imagens e suas respectivas descrições nas anotações e dicionários ou no website.

Resultados e Discussão

Foram examinadas 37 publicações consideradas elegíveis para a análise (Figura 2). Foram identificados 27 estudos que utilizaram coleções de acesso aberto para treinamento dos modelos (Abhishek; Kawahara; Hamarneh, 2021Abhishek, K.; Kawahara, J.; Hamarneh, G. Predicting the clinical management of skin lesions using deep learning. Scientific Reports, v. 11, n. 1, p. 1-14, 2021. Doi: https://doi.org/10.1038/s41598-021-87064-7.
https://doi.org/10.1038/s41598-021-87064...
; Almaraz-Damian et al., 2020Almaraz-Damian, J-A. et al. Melanoma and nevus skin lesion classification using handcraft and deep learning feature fusion via mutual information measures. Entropy, v. 22, n. 4, p. 484, 2020. Doi: https://doi.org/10.3390/e22040484.
https://doi.org/10.3390/e22040484...
; Ameri, 2020Ameri, A. A Deep learning approach to skin cancer detection in dermoscopy images. Journal of Biomedical Physics and Engineering, v. 10, n. 6, p. 801-806, 2020. Doi: https://doi.org/10.31661/jbpe.v0i0.2004-1107.
https://doi.org/10.31661/jbpe.v0i0.2004-...
; Bhavani et al., 2019Bhavani, R. et al. Vision-based skin disease identification using deep learning. International Journal of Engineering and Advanced Technology, v. 8, n. 6, p. 3784-3788, 2019. Doi: https://doi.org/10.35940/ijeat.F9391.088619.
https://doi.org/10.35940/ijeat.F9391.088...
; El-Khatib; Popescu; Ichim, 2020El-Khatib, H.; Popescu, D.; Ichim, L. Deep learning–based methods for automatic diagnosis of skin lesions. Sensors, v. 20, n. 6, p. 1753, 2020. Doi: https://doi.org/10.3390/s20061753.
https://doi.org/10.3390/s20061753...
; Goyal et al., 2020Goyal, M. et al. Skin lesion segmentation in dermoscopic images with ensemble deep learning methods. IEEE Access, v. 8, p. 4171-4181, 2020.; Harangi; Baran; Hajdu, 2020Harangi, B.; Baran, A.; Hajdu, A. Assisted deep learning framework for multi-class skin lesion classification considering a binary classification support. Biomedical Signal Processing and Control, v. 62, n. 102041, 2020. Doi: https://doi.org/10.1016/j.bspc.2020.102041.
https://doi.org/10.1016/j.bspc.2020.1020...
; Hekler et al., 2020Hekler, A. et al. Effects of label noise on deep learning-based skin cancer classification. Frontiers in Medicine, v. 7, p. 177, 2020. Doi: https://doi.org/10.3389/fmed.2020.00177.
https://doi.org/10.3389/fmed.2020.00177...
; Jafari et al., 2016Jafari, M. et al. Extraction of skin lesions from non-dermoscopic images using deep learning. ArXiv.Org, v. 12, n. 6, 2016. Doi: https://doi.org/10.48550/arXiv.1609.02374.
https://doi.org/10.48550/arXiv.1609.0237...
; Kadampur; Al Riyaee, 2020Kadampur, M. A.; Al Riyaee, S. Skin cancer detection: Applying a deep learning based model driven architecture in the cloud for classifying dermal cell images. Informatics in Medicine Unlocked, v. 18, n. 12, 2020. Doi: https://doi.org/10.1016/j.imu.2019.100282.
https://doi.org/10.1016/j.imu.2019.10028...
; Kanani; Padole, 2019Kanani, P.; Padole, M. Deep learning to detect skin cancer using google colab. International Journal of Engineering and Advanced Technology, v. 8, n. 6, p. 2176-2183, 2019. Doi: https://doi.org/10.35940/ijeat.F8587.088619.
https://doi.org/10.35940/ijeat.F8587.088...
; Khan et al., 2021Khan, M. A. et al. Skin lesion segmentation and multiclass classification using deep learning features and improved moth flame optimization. Diagnostics, v. 11, n. 5, p. 811, 2021. Doi: https://doi.org/10.3390/diagnostics11050811.
https://doi.org/10.3390/diagnostics11050...
; Li; Shen, 2018Li, Y.; Shen, L. Skin lesion analysis towards melanoma detection using deep learning network. Sensors, v. 18, n. 2, p. 556, 2018. Doi: https://doi.org/10.3390/s18020556.
https://doi.org/10.3390/s18020556...
; Mohamed; Mohamed; Zekry, 2019Mohamed, A.; Mohamed, W.; Zekry, A. H. Deep learning can improve early skin cancer detection. International Journal of Electronics and Telecommunications, v. 65, n. 3, p. 507-513, 2019.; Molina-Molina; Solorza-Calderón; Álvarez-Borrego, 2020Molina-Molina, E. O.; Solorza-Calderón, S.; Álvarez-Borrego, J. Classification of Dermos-copy Skin Lesion Color-Images Using Fractal-Deep Learning Features. Applied Sciences, v. 10, n. 17, p. 5954, 2020. Doi: https://doi.org/10.3390/app10175954.
https://doi.org/10.3390/app10175954...
; Pacheco; Krohling, 2021Pacheco, A. G. C.; Krohling, R. An attention-based mechanism to combine images and metadata in deep learning models applied to skin cancer classification. IEEE Journal of Biomedical and Health Informatics, v. 25, n. 9, p. 1, 2021.; Premaladha; Ravichandran, 2016Premaladha, J.; Ravichandran, K. Novel approaches for diagnosing melanoma skin lesions through supervised and deep learning algorithms. Journal of Medical Systems, v. 40, n. 4, p. 1-12, 2016. Doi: https://doi.org/10.1007/s10916-016-0460-2.
https://doi.org/10.1007/s10916-016-0460-...
; Ravikumar; Maier, 2018Ravikumar, N.; Maier, A. SkinNet: A deep learning framework for skin lesion segmentation. [S. l.]: IEEE, 2018. Doi: https://doi.org/10.13140/RG.2.2.26648.75521.
https://doi.org/10.13140/RG.2.2.26648.75...
; Rodrigues et al., 2020Rodrigues, D. A. et al. A new approach for classification skin lesion based on transfer learning, deep learning, and IoT system. Pattern Recognition Letters, v. 136, p. 8-15, 2020. Doi: https://doi.org/10.1016/j.patrec.2020.05.019.
https://doi.org/10.1016/j.patrec.2020.05...
; Seeja; Suresh, 2019Seeja, R. D.; Suresh, A. Deep learning based skin lesion segmentation and classification of melanoma using Support Vector Machine (SVM). Asian Pacific Journal of Cancer Prevention, v. 20, n. 5, p. 1555-1561, 2019.; Serte; Demirel, 2019Serte, S.; Demirel, H. Gabor wavelet-based deep learning for skin lesion classification. Computers in Biology and Medicine, v. 113, p. 103423, 2019. Doi: https://doi.org/10.1016/j.compbiomed.2019.103423.
https://doi.org/10.1016/j.compbiomed.201...
, 2020Serte, S.; Demirel, H. Wavelet-based deep learning for skin lesion classification. IET Image Processing, v. 14, n. 4, p. 720-726, 2020.; Sherif; Mohamed; Mohra, 2019Sherif, F.; Mohamed, W. A.; Mohra, A. S. Skin lesion analysis toward melanoma detection using deep learning techniques. International Journal of Electronics and Telecommunications, v. 65, n. 4, p. 597-602, 2019. Doi: https://doi.org/10.3390/s18020556.
https://doi.org/10.3390/s18020556...
; Song et al., 2020Song, L. et al. An end-to-end multi-task deep learning framework for skin lesion analysis. IEEE Journal of Biomedical and Health Informatics, v. 24, n. 10, p. 2912-2921, 2020.; Srinivasu et al., 2021Srinivasu, P. N. et al. Classification of skin disease using deep learning neural networks with MobileNet V2 and LSTM. Sensors (Basel), v. 21, n. 8, p. 2852, 2021. Doi: https://doi.org/10.3390/s21082852.
https://doi.org/10.3390/s21082852...
; Tan; Zhang; Lim, 2019Tan, T. Y.; Zhang, L.; Lim, C. P. Intelligent skin cancer diagnosis using improved particle swarm optimization and deep learning models. Applied Soft Computing, v. 84, n. 4, p. 105725, 2019. Doi: https://doi.org/10.1016/j.asoc.2019.105725.
https://doi.org/10.1016/j.asoc.2019.1057...
; Wei; Ding; Hu, 2020Wei, L.; Ding, K.; Hu, H. Automatic skin cancer detection in dermoscopy images based on ensemble lightweight deep learning network. IEEE Access, v. 8, p. 99633-99647, 2020. Doi: https://doi.org/10.1109/ACCESS.2020.2997710.
https://doi.org/10.1109/ACCESS.2020.2997...
; Yap; Yolland; Tschandl, 2018Yap, J.; Yolland, W.; Tschandl, P. Multimodal skin lesion classification using deep learning. Experimental Dermatology, v. 27, n. 11, p. 1261-1267, 2018.), 7 pesquisas empregaram apenas coleções privadas (Jiang; Li; Jin, 2021Jiang, S.; Li, H.; Jin, Z. A Visually interpretable deep learning framework for histopatho-logical image-based skin cancer diagnosis. IEEE Journal of Biomedical and Health Informatics, v. 25, n. 5, p. 1483-1494, 2021.; Jinnai et al., 2020Jinnai, S. et al. The development of a skin cancer classification system for pigmented skin lesions using deep learning. Biomolecules, v. 10, n. 8, p. 1123, 2020. Doi: https://doi.org/10.3390/biom10081123.
https://doi.org/10.3390/biom10081123...
; Liu et al., 2019Liu, Y. et al. A deep learning system for differential diagnosis of skin diseases. ArXiv.Org, v. 26, n. 6, p. 900-908, 2019. Doi: https://doi.org/10.1038/s41591-020-0842-3.
https://doi.org/10.1038/s41591-020-0842-...
; Olsen et al., 2018Olsen, T. et al. Diagnostic performance of deep learning algorithms applied to three common diagnoses in dermatopathology. Journal of Pathology Informatics, v. 9, n. 1, p. 32, 2018.; Thomsen et al., 2020Thomsen, K. et al. Deep learning for diagnostic binary classification of multiple-lesion skin diseases. Frontiers in Medicine, v. 7, p. 1-7, 2020. Doi: https://doi.org/10.3389/fmed.2020.574329.
https://doi.org/10.3389/fmed.2020.574329...
; Wang et al., 2019Wang, H. et al. Assessment of deep learning using nonimaging infor-mation and sequential medical records to develop a prediction model for nonmelanoma skin cancer. JAMA Dermatology, v. 155, n. 11, p. 1277-1283, 2019. Doi: https://doi.org/10.1001/jamadermatol.2019.2335.
https://doi.org/10.1001/jamadermatol.201...
; Zhu et al., 2021Zhu, C. Y. et al. A deep learning based framework for diagnosing multiple skin diseases in a clinical environment. Frontiers in Medicine, v. 8, p. 1-13, 2021. Doi: https://doi.org/10.3389/fmed.2021.626369.
https://doi.org/10.3389/fmed.2021.626369...
), e apenas 2 estudos combinaram ambos os tipos de coleções (Burlina et al., 2019Burlina, P. M. et al. Automated detection of erythema migrans and other confounding skin lesions via deep learning. Computers in Biology and Medicine, v. 105, p. 151-156, 2019. Doi: https://doi.org/10.1016/j.compbiomed.2018.12.007.
https://doi.org/10.1016/j.compbiomed.201...
; Dascalu; David, 2019Dascalu, A.; David, E. O. Skin cancer detection by deep learning and sound analysis algorithms: A prospective clinical study of an elementary dermoscope. EBioMedicine, v. 43, p. 107-113, 2019. Doi: https://doi.org/10.1016/j.ebiom.2019.04.055.
https://doi.org/10.1016/j.ebiom.2019.04....
). Entre esses artigos, apenas dois mencionavam a população de origem das imagens (Dascalu; David, 2019Dascalu, A.; David, E. O. Skin cancer detection by deep learning and sound analysis algorithms: A prospective clinical study of an elementary dermoscope. EBioMedicine, v. 43, p. 107-113, 2019. Doi: https://doi.org/10.1016/j.ebiom.2019.04.055.
https://doi.org/10.1016/j.ebiom.2019.04....
; Wang et al., 2019Wang, H. et al. Assessment of deep learning using nonimaging infor-mation and sequential medical records to develop a prediction model for nonmelanoma skin cancer. JAMA Dermatology, v. 155, n. 11, p. 1277-1283, 2019. Doi: https://doi.org/10.1001/jamadermatol.2019.2335.
https://doi.org/10.1001/jamadermatol.201...
). No entanto, não foi fornecida informação sobre a proporção dessa população utilizada para o treinamento dos modelos. Além disso, os resultados indicaram uma prevalência significativa de fotografias de pessoas caucasianas, sugerindo uma representação uniforme nas coleções de imagens analisadas

Figura 2
Fluxograma da pesquisa.

Quanto aos resultados apresentados nesses estudos, nenhum mencionou dados ou métricas estatísticas sobre a eficácia para cada tipo de população. Minagawa et al. (2020)Minagawa, A. et al. Dermoscopic diagnostic performance of Japanese dermatologists for skin tumors differs by patient origin: A deep learning convolutional neural network closes the gap. Journal of Dermatology, v. 8, n. 2, p. 232-236. 2020. Doi: https://doi.org/10.1111/1346-8138.15640.
https://doi.org/10.1111/1346-8138.15640...
abordavam essa limitação, e, embora mencionasse eficácia, acurácia e sensibilidade (métricas de avaliação), não apresentava os resultados estratificados por população, oferecendo apenas um panorama geral dos resultados. Ainda assim, a pesquisa afirmava que o modelo proposto poderia fechar lacunas do ambiente clínico, como a diferença de tom de pele.

Foi observado que, em grande parte desses experimentos, havia uma preocupação limitada com a aplicação prática dos algoritmos dos modelos de IA no contexto clínico, especialmente em relação aos usuários – incluindo tanto aqueles que operam as tecnologias quanto os pacientes beneficiados. Muitos desses estudos direcionavam seus esforços ao aprimoramento dos algoritmos e da eficácia de modelos. Tschandl et al. (2019)Tschandl, P. et al. Comparison of the accuracy of human readers versus machine-learning algorithms for pigmented skin lesion classification: An open, web-based, international, diagnostic study. The Lancet Oncology, v. 20, n. 7, p. 938-947, 2019. Doi: https://doi.org/10.1016/S1470-2045(19)30333-X.
https://doi.org/10.1016/S1470-2045(19)30...
investigavam a capacidade de diagnóstico de doenças de pele, comparando o desempenho humano com o das máquinas, e destacavam a superioridade das máquinas nessa tarefa.

As coleções de imagens identificadas nos estudos foram: International Skin Imaging Collaboration (ISIC) Archive <https://www.isic-archive.com> e seus subconjuntos, DermNet NZ Image Library <https://dermnetnz.org/image-library> e PH2 Dataset <https://www.fc.up.pt/addi/ph2%20database.html> (Pedro Hispano Hospital). Essas coleções contêm imagens de doenças de pele, incluindo melanoma, nevos e outras dermatoses. A Tabela 1 apresenta a frequência de utilização de abordagens por tipo de coleção de imagens.

Tabela 1
Frequência de utilização das abordagens por tipo de coleção de imagens.

A coleção ISIC apresenta, em seu dicionário de dados, as variáveis relacionadas à raça e à etnia dos pacientes, porém não foram identificados os atributos nos metadados. Em seu website, a ISIC informa a limitação das aplicações treinadas utilizando dados provenientes de segmentos demográficos específicos da população e também que existe a preocupação de que sua acurácia possa ser consideravelmente inferior ao ser aplicada à população em geral, porém não deixa evidente que essa restrição relacionada à acurácia está associada à questão da cor da pele ou da diversidade racial das imagens de treinamento embora relate que as imagens foram fornecidas por centros especializados de todo o mundo.

As coleções Human Against Machine (HAM10000 <https://dataverse.harvard.edu/dataset.xhtml?persistentId=doi:10.7910/DVN/DBW86T>) e International Symposium on Biomedical Imaging (ISBI) 2016 <https://biomedicalimaging.org/2016/?page_id=416> e 2017 <https://skinclass.de/mclass/>, que são subconjuntos de imagens contidas na ISIC, informam que as imagens coletadas são provenientes de diversas populações, adquiridas e armazenadas por meio de diferentes modalidades, porém não citam quais são essas populações nas anotações, no dicionário ou nos metadados. Outro subconjunto derivado da ISIC identificado foi a Melanoma Classification Benchmark (MClass-D <https://skinclass.de/mclass/>), o qual informa que seu dataset foi criado com imagens de lesões de indivíduos de pele branca de populações ocidentais.

A coleção DermQuest datasets foi desativada, portanto não foi possível verificar seu website ou realizar a avaliação amostral visual e das anotações dos registros. A coleção PH2 Dataset contém 200 imagens, das quais uma amostra de 70% (140 imagens) foi analisada pelos pesquisadores de maneira randômica visual, não tendo sido detectada diversidade de tom de pele o que revela a uniformidade da população que deu origem às imagens. Não foi identificada nas anotações ou no website da coleção a população que deu origem às imagens.

Diversos estudos demonstram o potencial das CNNs para extrair características distintivas de imagens dermatoscópicas que auxiliem em um diagnóstico (Gajera; Nayak; Zaveri, 2023Gajera, H. K.; Nayak, D. R.; Zaveri, M. A. A comprehensive analysis of dermoscopy images for melanoma detection via deep CNN features. Biomedical Signal Processing and Control, v. 79, n. 2, p. 104186, 2023. Doi: 10.1016/j.bspc.2022.104186.
https://doi.org/10.1016/j.bspc.2022.1041...
; Maqsood; Damaševičius, 2023Maqsood, S.; Damaševičius, R. Multiclass skin lesion localization and classification using deep learning based features fusion and selection framework for smart healthcare. Neural Networks, v. 160, p. 238-258, 2023.; Viknesh et al., 2023Viknesh, C. K. et al. Detection and classification of melanoma skin cancer using image processing technique. Diagnostics, v. 13, n. 21, p. 3313, 2023. Doi: https://doi.org/10.3390/diagnostics13213313.
https://doi.org/10.3390/diagnostics13213...
). No entanto, a qualidade e a diversidade dos conjuntos de dados utilizados no treinamento e na avaliação desses modelos são cruciais para garantir a generalização das classificações. A falta de representatividade em termos de tipos de pele e características das lesões pode comprometer a acurácia dos modelos, sublinhando a importância de que sejam construídas bases de dados mais inclusivas e abrangentes.

Os algoritmos para diagnóstico de doenças de pele podem ser úteis para auxiliar na identificação de doenças de pele de forma mais precisa e eficiente. Eles podem ser usados para examinar imagens da pele e detectar sinais precoces e para suporte na tomada de decisão médica. Entretanto, as altas taxas de letalidade em relação ao câncer de pele de determinadas populações podem ser atribuídas a uma combinação de fatores, como: acesso limitado a cuidados de saúde de qualidade, diagnóstico tardio e informações incorretas sobre os riscos de câncer de pele e formas de prevenção.

Dessa maneira, algoritmos para classificação de lesões de pele podem ser de grande valia para auxiliar na redução das taxas de letalidade associadas a essas doenças, embora não existam evidências suficientes sobre a eficácia desses algoritmos quando a cor da lesão é muito próxima da cor da pele do paciente, uma vez que esses dispositivos computacionais não foram treinados com diversidade racial para atender espectros populacionais ausentes nas coleções de imagens. As pesquisas levantadas neste estudo não forneceram soluções para a superação desse problema.

Um estudo evidencia a importância da diversidade dos dados para a precisão de modelos de aprendizado de máquina, especialmente em contextos como o de detecção de lesões cutâneas como o Mpox (Thieme et al., 2023Thieme, A. H. et al. A deep-learning algorithm to classify skin lesions from mpox virus infection. Nature Medicine, v. 29, n. 3, p. 738-747, 2023.). A limitada quantidade de dados relacionados a determinados tons de pele compromete a confiabilidade dos resultados, levando a taxas mais altas de falsos positivos e variabilidade na precisão do modelo. Esses achados reforçam a necessidade de coletar dados mais representativos de diferentes tipos de pele para garantir a precisão dos algoritmos, evitando vieses e melhorando a capacidade de generalização dos modelos.

Artefatos e aplicações caracterizados pelo viés tecnológico implícito, que reproduzem ou perpetuam a discriminação racial, são classificados como algoritmos racistas. Nesse contexto, os dados utilizados para treinar esses algoritmos incorporam preconceitos e desigualdades raciais, possivelmente porque os algoritmos foram desenvolvidos com essa limitação, restringindo os benefícios das tecnologias e o acesso dos pacientes aos serviços de saúde, como evidenciado neste estudo. O viés racial discriminatório se configura como mais uma forma de reforçar as desigualdades já presentes na sociedade, contribuindo para a perpetuação do racismo (Bezerra; Costa, 2022Bezerra, A. C.; Da Costa, C. M. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em Revista, v. 18, n. 2, e6043, 2022.).

Nesse contexto desafiador, a presente análise se situa com o objetivo de refletir sobre o uso de tecnologias baseadas em Aprendizagem Profunda e suas implicações nos serviços de saúde, tecnologias essas que são avançadas e têm um grande potencial para auxiliar e solucionar problemas importantes, mas que, simultaneamente, podem reproduzir comportamentos sociais como a segregação étnico-racial.

Embora essas tecnologias sejam projetadas para resolver problemas complexos, elas podem, paradoxalmente, perpetuar desigualdades sociais existentes. Esse fenômeno evidencia o ajuste social das máquinas contemporâneas, onde a sofisticação tecnológica não é suficiente para eliminar preconceitos e injustiças sociais.

A sociedade está se tornando cada vez mais subordinada ao fluxo de informação e pelos algoritmos que a controlam, e isso tem impacto significativo na forma como as pessoas interagem e tomam decisões (Han, 2022Han, B. C. Infocracia: digitalização e a crise da democracia. Petrópolis: Vozes, 2022.). Artefatos informacionais são fonte de capital – gerador de riqueza – e os algoritmos se tornam orquestradores da sociedade, porém essas representações e processos computacionais podem ser consonantes com artifícios que perpetuam e fortalecem a segregação racial e as desigualdades em saúde.

Conclusão

O objetivo desta pesquisa foi examinar a literatura que trata do uso de Aprendizagem Profunda para diagnosticar doenças de pele e discutir a relevância da diversidade racial no treinamento de modelos por imagem. Foram selecionados 37 artigos e 7 coleções de imagens de lesões de pele para análise.

Os resultados apontaram que em apenas três artigos foram mencionadas as populações que deram origem às imagens de treinamento dos modelos de Deep Learning. Em apenas um estudo houve o relato de que o modelo elaborado para diagnóstico seria adequado para predição em população com diversidade étnico-racial, porém não foram apresentadas as métricas por população, tendo sido oferecida apenas a acurácia geral do modelo.

Não há evidências suficientes para comprovar a eficácia dos modelos em casos em que a cor da lesão é muito semelhante à cor da pele do paciente. Isso ocorre porque esses modelos não foram treinados com diversidade racial, permitindo espectros populacionais ausentes nas coleções de imagens. As pesquisas levantadas neste estudo não apresentam sugestões de soluções para superar esse problema.

O termo “algoritmos racistas” é atribuído a artefatos e aplicações que, devido ao viés tecnológico implícito, reproduzem ou perpetuam a discriminação racial, fruto de uma sociedade algorítmica munida de grande arsenal tecnológico, mas que necessita de soluções para questões sociais profundas.

O paradoxo profundo é identificado como a contradição entre o desenvolvimento de tecnologias sofisticadas e seu papel na reprodução de comportamentos sociais que evidenciam a segregação étnico-racial e desigualdades em saúde. Esses modelos, treinados com dados que incorporam preconceitos raciais, restringem os benefícios das tecnologias, impactando o acesso de determinados grupos populacionais a serviços de saúde.

Contudo, deve-se destacar a importância e a necessidade de que essas colaborações internacionais desenvolvam estratégias para promover a diversidade étnico-racial em coleções de imagens para a democratização da tecnologia e o consequente uso delas por dispositivos de saúde. Esses modelos de aprendizagem profunda devem ser criados, desenvolvidos e difundidos, permitindo a inclusão social e o equilíbrio entre as forças que operam tecnologias e as que regem os sistemas. Dessa forma, os algoritmos precisam ser desenvolvidos e treinados com dados que representem a diversidade racial e étnica populacional a fim de evitar a reprodução de desigualdades existentes na sociedade e garantir a precisão dos diagnósticos e a qualidade dos serviços de saúde para qualquer população.

Para prevenir esses problemas/violências, os algoritmos de diagnóstico devem ser desenvolvidos e implementados de forma ética e transparente, levando em consideração as desigualdades raciais existentes na sociedade e garantindo que os algoritmos não perpetuem essas desigualdades. É primordial também que haja mecanismos de supervisão para garantir que os algoritmos possam permitir o acesso igualitário dos pacientes aos serviços de saúde.

  • 2
    Refere-se a uma área da computação que envolve o desenvolvimento de algoritmos e sistemas capazes de interpretar e compreender informações visuais presentes em imagens ou vídeos.

Referências

  • Abhishek, K.; Kawahara, J.; Hamarneh, G. Predicting the clinical management of skin lesions using deep learning. Scientific Reports, v. 11, n. 1, p. 1-14, 2021. Doi: https://doi.org/10.1038/s41598-021-87064-7.
    » https://doi.org/10.1038/s41598-021-87064-7
  • Almaraz-Damian, J-A. et al. Melanoma and nevus skin lesion classification using handcraft and deep learning feature fusion via mutual information measures. Entropy, v. 22, n. 4, p. 484, 2020. Doi: https://doi.org/10.3390/e22040484.
    » https://doi.org/10.3390/e22040484
  • Ameri, A. A Deep learning approach to skin cancer detection in dermoscopy images. Journal of Biomedical Physics and Engineering, v. 10, n. 6, p. 801-806, 2020. Doi: https://doi.org/10.31661/jbpe.v0i0.2004-1107.
    » https://doi.org/10.31661/jbpe.v0i0.2004-1107
  • Anaba, E. L. Comparative study of cutaneous melanoma and its associated issues between people of African decent and Caucasians. Dermatologic Therapy, v. 34, n. 2, e14790, 2021.
  • Bezerra, A. C.; Da Costa, C. M. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em Revista, v. 18, n. 2, e6043, 2022.
  • Bhavani, R. et al. Vision-based skin disease identification using deep learning. International Journal of Engineering and Advanced Technology, v. 8, n. 6, p. 3784-3788, 2019. Doi: https://doi.org/10.35940/ijeat.F9391.088619.
    » https://doi.org/10.35940/ijeat.F9391.088619
  • Burlina, P. M. et al. Automated detection of erythema migrans and other confounding skin lesions via deep learning. Computers in Biology and Medicine, v. 105, p. 151-156, 2019. Doi: https://doi.org/10.1016/j.compbiomed.2018.12.007.
    » https://doi.org/10.1016/j.compbiomed.2018.12.007
  • Carrera, F. Racismo e sexismo em bancos de imagens digitais: análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional. Comunidades, Algoritmos e Ativismos Digitais, v. 139, n. 1, p. 138-155, 2020.
  • Casarin, S. et al. Tipos de revisão de literatura: considerações das editoras do Journal of Nursing and Health. Journal of Nursing and Health, v. 10, n. 5, e20104031, 2020. Doi: https://doi.org/10.15210/jonah.v10i5.19924.
    » https://doi.org/10.15210/jonah.v10i5.19924
  • Chen, H.; Sung, J. J. Potentials of AI in medical image analysis in gastroenterology and hepatology. Journal of Gastroenterology and Hepatology, v. 36, n. 1, p. 31-38, 2021.
  • Cullell-Dalmau, M.; Otero-Viñas, M.; Manzo, C. Research techniques made simple: deep learning for the classification of dermatological images. Journal of Investigative Dermatology, v. 140, n. 3, p. 507-514, 2020.
  • Dascalu, A.; David, E. O. Skin cancer detection by deep learning and sound analysis algorithms: A prospective clinical study of an elementary dermoscope. EBioMedicine, v. 43, p. 107-113, 2019. Doi: https://doi.org/10.1016/j.ebiom.2019.04.055.
    » https://doi.org/10.1016/j.ebiom.2019.04.055
  • De Oliveira, F. W. P.; De Souza, D. A.; Tonieto, M. T. Detecção de doenças dermatológicas baseada em aprendizagem de máquina. Revista de Tecnologia da Informação da Faculdade Lourenço Filho, v. 3, n. 2, p. 1-5, 2022.
  • Delazeri, A. V.; Stevani, E. S. Classificação de câncer de pele usando redes neurais convolucionais: uma análise do desempenho de classificação em um conjunto de dados desbalanceado. 2021. Trabalho de Conclusão de Curso (Bacharelado em Sistemas de Informação) – Universidade Tecnológica Federal do Paraná, Curitiba, 2021.
  • Do Nascimento Neto, C. D. et al. Inteligência artificial e novas tecnologias em saúde: desafios e perspectivas. Brazilian Journal of Development, v. 6, n. 2, p. 9431-9445, 2020.
  • El-Khatib, H.; Popescu, D.; Ichim, L. Deep learning–based methods for automatic diagnosis of skin lesions. Sensors, v. 20, n. 6, p. 1753, 2020. Doi: https://doi.org/10.3390/s20061753.
    » https://doi.org/10.3390/s20061753
  • Faes, L. et al. Automated deep learning design for medical image classification by health-care professionals with no coding experience: A feasibility study. The Lancet Digital Health, v. 1, n. 5, e232-e242, 2019. Doi: https://doi.org/10.1016/S2589-7500(19)30108-6.
    » https://doi.org/10.1016/S2589-7500(19)30108-6
  • Gajera, H. K.; Nayak, D. R.; Zaveri, M. A. A comprehensive analysis of dermoscopy images for melanoma detection via deep CNN features. Biomedical Signal Processing and Control, v. 79, n. 2, p. 104186, 2023. Doi: 10.1016/j.bspc.2022.104186.
    » https://doi.org/10.1016/j.bspc.2022.104186
  • Gómez, D. A. C.; González, G. A. P. Desarrollo de una interfaz de clasificación de enfermedades dermatológicas basadas en procesamiento de señales e inteligencia artificial. Semilleros de Investigación, v. 3, n. 2, p. 1-7, 2021.
  • Goyal, M. et al. Skin lesion segmentation in dermoscopic images with ensemble deep learning methods. IEEE Access, v. 8, p. 4171-4181, 2020.
  • Guarizi, D. D.; Oliveira, E. V. Estudo da Inteligência Artificial aplicada na área da saúde. Colloquium Exactarum, v. 6, p. 26-37, 2014.
  • Han, B. C. Infocracia: digitalização e a crise da democracia. Petrópolis: Vozes, 2022.
  • Harangi, B.; Baran, A.; Hajdu, A. Assisted deep learning framework for multi-class skin lesion classification considering a binary classification support. Biomedical Signal Processing and Control, v. 62, n. 102041, 2020. Doi: https://doi.org/10.1016/j.bspc.2020.102041.
    » https://doi.org/10.1016/j.bspc.2020.102041
  • Hekler, A. et al. Effects of label noise on deep learning-based skin cancer classification. Frontiers in Medicine, v. 7, p. 177, 2020. Doi: https://doi.org/10.3389/fmed.2020.00177.
    » https://doi.org/10.3389/fmed.2020.00177
  • Higgins, S. et al. Clinical presentations of melanoma in African Americans, Hispanics, and Asians. Dermatologic Surgery, v. 45, n. 6, p. 791-801, 2019. Doi: https://doi.org/10.1097/dss.0000000000001759.
    » https://doi.org/10.1097/dss.0000000000001759
  • Jackson, B. A. Skin cancer in skin of color. In: MacFarlane, D. F. (ed.). Skin Cancer Management: A practical approach. New York: Springer, 2010. p. 217-223. Doi: https://doi.org/10.1007/978-0-387-88495-0_16.
    » https://doi.org/10.1007/978-0-387-88495-0_16
  • Jafari, M. et al. Extraction of skin lesions from non-dermoscopic images using deep learning. ArXiv.Org, v. 12, n. 6, 2016. Doi: https://doi.org/10.48550/arXiv.1609.02374.
    » https://doi.org/10.48550/arXiv.1609.02374
  • Jiang, S.; Li, H.; Jin, Z. A Visually interpretable deep learning framework for histopatho-logical image-based skin cancer diagnosis. IEEE Journal of Biomedical and Health Informatics, v. 25, n. 5, p. 1483-1494, 2021.
  • Jinnai, S. et al. The development of a skin cancer classification system for pigmented skin lesions using deep learning. Biomolecules, v. 10, n. 8, p. 1123, 2020. Doi: https://doi.org/10.3390/biom10081123.
    » https://doi.org/10.3390/biom10081123
  • Kadampur, M. A.; Al Riyaee, S. Skin cancer detection: Applying a deep learning based model driven architecture in the cloud for classifying dermal cell images. Informatics in Medicine Unlocked, v. 18, n. 12, 2020. Doi: https://doi.org/10.1016/j.imu.2019.100282.
    » https://doi.org/10.1016/j.imu.2019.100282
  • Kanani, P.; Padole, M. Deep learning to detect skin cancer using google colab. International Journal of Engineering and Advanced Technology, v. 8, n. 6, p. 2176-2183, 2019. Doi: https://doi.org/10.35940/ijeat.F8587.088619.
    » https://doi.org/10.35940/ijeat.F8587.088619
  • Khan, M. A. et al. Skin lesion segmentation and multiclass classification using deep learning features and improved moth flame optimization. Diagnostics, v. 11, n. 5, p. 811, 2021. Doi: https://doi.org/10.3390/diagnostics11050811.
    » https://doi.org/10.3390/diagnostics11050811
  • Kora, P. et al. Transfer learning techniques for medical image analysis: A review. Biocybernetics and Biomedical Engineering, v. 42, n. 1, p. 79-107, 2022.
  • Li, Y.; Shen, L. Skin lesion analysis towards melanoma detection using deep learning network. Sensors, v. 18, n. 2, p. 556, 2018. Doi: https://doi.org/10.3390/s18020556.
    » https://doi.org/10.3390/s18020556
  • Lima, G. L. S. Identificação da psoríase através de dispositivos móveis usando redes neurais convolucionais profundas 2019. 111 f. Dissertação (Mestrado em Sistemas de Informação) - Instituto Politécnico de Bragança, Bragança, Portugal, 2019.
  • Liu, Y. et al. A deep learning system for differential diagnosis of skin diseases. ArXiv.Org, v. 26, n. 6, p. 900-908, 2019. Doi: https://doi.org/10.1038/s41591-020-0842-3.
    » https://doi.org/10.1038/s41591-020-0842-3
  • Lobo, L. C. Inteligência artificial e medicina. Revista Brasileira de Educação Médica, v. 41, p. 185-193, 2017.
  • Machado, F. C. L. Application of deep learning methods to detect global patterns in dermoscopic images and aid the skin cancer diagnosis 2021. 30 f. Monografia (Graduação em Ciência da Computação) − Universidade Federal de Ouro Preto, Ouro Preto, 2021.
  • Mamoshina, P. et al. A. Applications of deep learning in biomedicine: Molecular pharmaceutics. American Chemical Society, v. 13, n. 5, p. 1445-1454, 2016. Doi: https://doi.org/10.1021/acs.molpharmaceut.5b00982
    » https://doi.org/10.1021/acs.molpharmaceut.5b00982
  • Maqsood, S.; Damaševičius, R. Multiclass skin lesion localization and classification using deep learning based features fusion and selection framework for smart healthcare. Neural Networks, v. 160, p. 238-258, 2023.
  • Minagawa, A. et al. Dermoscopic diagnostic performance of Japanese dermatologists for skin tumors differs by patient origin: A deep learning convolutional neural network closes the gap. Journal of Dermatology, v. 8, n. 2, p. 232-236. 2020. Doi: https://doi.org/10.1111/1346-8138.15640.
    » https://doi.org/10.1111/1346-8138.15640
  • Mohamed, A.; Mohamed, W.; Zekry, A. H. Deep learning can improve early skin cancer detection. International Journal of Electronics and Telecommunications, v. 65, n. 3, p. 507-513, 2019.
  • Molina-Molina, E. O.; Solorza-Calderón, S.; Álvarez-Borrego, J. Classification of Dermos-copy Skin Lesion Color-Images Using Fractal-Deep Learning Features. Applied Sciences, v. 10, n. 17, p. 5954, 2020. Doi: https://doi.org/10.3390/app10175954.
    » https://doi.org/10.3390/app10175954
  • Moreno, J.; Caicedo, J.; González, F. A kernel-based multi-feature image representation for histopathology image classification. Acta Biológica Colombiana, v. 15, n. 3, p. 251-260, 2010.
  • Morid, M. A.; Borjali, A.; Del Fiol, G. A scoping review of transfer learning research on medical image analysis using ImageNet. Computers in Biology and Medicine, v. 128, 104115, 2021. Doi: https://doi.org/10.1016/j.compbiomed.2020.104115.
    » https://doi.org/10.1016/j.compbiomed.2020.104115
  • Nascimento, E. L. L.; Viera, A. F. G. Contributions and limitations about the use of deep learning for skin diagnosis: A review. Switzerland: Springer Nature, 2022. p. 133-149.
  • Neves, L. A. P.; Vieira Neto, H.; Gonzaga, A. Avanços em visão computacional Curitiba: Omnipax, 2012.
  • Olsen, T. et al. Diagnostic performance of deep learning algorithms applied to three common diagnoses in dermatopathology. Journal of Pathology Informatics, v. 9, n. 1, p. 32, 2018.
  • Olveres, J. et al. What is new in computer vision and artificial intelligence in medical image analysis applications. Quantitative Imaging in Medicine and Surgery, v. 11, n. 8, p. 3830, 2021.
  • Pacheco, A. G. C.; Krohling, R. An attention-based mechanism to combine images and metadata in deep learning models applied to skin cancer classification. IEEE Journal of Biomedical and Health Informatics, v. 25, n. 9, p. 1, 2021.
  • Padovese, V. et al. Skin cancer risk assessment in dark skinned immigrants: The role of social determinants and ethnicity. Ethnicity and Health, v. 23, n. 6, p. 649-658, 2018. Doi: https://doi.org/10.1080/13557858.2017.1294657.
    » https://doi.org/10.1080/13557858.2017.1294657
  • Passos, R. P.; Junior, G. D. B. V. Inteligência artificial nas ciências da saúde. Revista CPAQV, v. 10, n. 1, p. 2, 2018.
  • Penacci, F. A. Perfil das adolescentes privadas de liberdade no interior do Estado de São Paulo 2017. Tese (Doutorado em Medicina) – Universidade Estadual Paulista, São Paulo, 2017.
  • Premaladha, J.; Ravichandran, K. Novel approaches for diagnosing melanoma skin lesions through supervised and deep learning algorithms. Journal of Medical Systems, v. 40, n. 4, p. 1-12, 2016. Doi: https://doi.org/10.1007/s10916-016-0460-2.
    » https://doi.org/10.1007/s10916-016-0460-2
  • Ravikumar, N.; Maier, A. SkinNet: A deep learning framework for skin lesion segmentation. [S. l.]: IEEE, 2018. Doi: https://doi.org/10.13140/RG.2.2.26648.75521.
    » https://doi.org/10.13140/RG.2.2.26648.75521
  • Ribeiro, A. L. L. Discriminação em algoritmos de inteligência artificial: uma análise acerca da LGPD como instrumento normativo mitigador de vieses discriminatórios. 2021. Trabalho de Conclusão de Curso (Bacharel em Direito) – Universidade Federal do Ceará, Fortaleza, 2021.
  • Rocha, C. J.; Porto, L. V.; Abaurre, H. E. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimento Social, v.1, e205201, 2020.
  • Rodrigues, D. A. et al. A new approach for classification skin lesion based on transfer learning, deep learning, and IoT system. Pattern Recognition Letters, v. 136, p. 8-15, 2020. Doi: https://doi.org/10.1016/j.patrec.2020.05.019.
    » https://doi.org/10.1016/j.patrec.2020.05.019
  • Rong, G. et al. Artificial intelligence in healthcare: Review and prediction case studies. Engineering, v, 6, n. 3, p. 291-301, 2020. Doi: https://doi.org/10.1016/j.eng.2019.08.015.
    » https://doi.org/10.1016/j.eng.2019.08.015
  • Rother, E. T. Revisão sistemática X revisão narrativa. Acta Paulista de Enfermagem, v. 20, n. 2, p. vii-viii, 2007. [Editorial]. https://doi.org/10.1590/S0103-21002007000200001.
    » https://doi.org/10.1590/S0103-21002007000200001
  • Seeja, R. D.; Suresh, A. Deep learning based skin lesion segmentation and classification of melanoma using Support Vector Machine (SVM). Asian Pacific Journal of Cancer Prevention, v. 20, n. 5, p. 1555-1561, 2019.
  • Serte, S.; Demirel, H. Gabor wavelet-based deep learning for skin lesion classification. Computers in Biology and Medicine, v. 113, p. 103423, 2019. Doi: https://doi.org/10.1016/j.compbiomed.2019.103423.
    » https://doi.org/10.1016/j.compbiomed.2019.103423
  • Serte, S.; Demirel, H. Wavelet-based deep learning for skin lesion classification. IET Image Processing, v. 14, n. 4, p. 720-726, 2020.
  • Sherif, F.; Mohamed, W. A.; Mohra, A. S. Skin lesion analysis toward melanoma detection using deep learning techniques. International Journal of Electronics and Telecommunications, v. 65, n. 4, p. 597-602, 2019. Doi: https://doi.org/10.3390/s18020556.
    » https://doi.org/10.3390/s18020556
  • Silva, T. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as, v. 12, n. 31, p. 428-448, 2020.
  • Singh, C. Medical imaging using deep learning models. European Journal of Engineering and Technology Research, v. 6, n. 5, p. 156-167, 2021.
  • Song, L. et al. An end-to-end multi-task deep learning framework for skin lesion analysis. IEEE Journal of Biomedical and Health Informatics, v. 24, n. 10, p. 2912-2921, 2020.
  • Srinivasu, P. N. et al. Classification of skin disease using deep learning neural networks with MobileNet V2 and LSTM. Sensors (Basel), v. 21, n. 8, p. 2852, 2021. Doi: https://doi.org/10.3390/s21082852.
    » https://doi.org/10.3390/s21082852
  • Tan, T. Y.; Zhang, L.; Lim, C. P. Intelligent skin cancer diagnosis using improved particle swarm optimization and deep learning models. Applied Soft Computing, v. 84, n. 4, p. 105725, 2019. Doi: https://doi.org/10.1016/j.asoc.2019.105725.
    » https://doi.org/10.1016/j.asoc.2019.105725
  • Taylor, S. C. et al. Health disparities in arthritis and musculoskeletal and skin diseases: The dermatology session: National Institute of Arthritis and Musculoskeletal and Skin Diseases, Bethesda, Maryland, December 15-16, 2000. Journal of the American Academy of Dermatology, v. 47, n. 5, p. 770-773, 2002. Doi: https://doi.org/10.1067/mjd.2002.124691.
    » https://doi.org/10.1067/mjd.2002.124691
  • Thieme, A. H. et al. A deep-learning algorithm to classify skin lesions from mpox virus infection. Nature Medicine, v. 29, n. 3, p. 738-747, 2023.
  • Thomsen, K. et al. Deep learning for diagnostic binary classification of multiple-lesion skin diseases. Frontiers in Medicine, v. 7, p. 1-7, 2020. Doi: https://doi.org/10.3389/fmed.2020.574329.
    » https://doi.org/10.3389/fmed.2020.574329
  • Torres, V. et al. Refining the ideas of “ethnic” skin. Anais Brasileiros de Dermatologia, v. 92, n. 2, p. 221-225, 2017. Doi: https://doi.org/10.1590/abd1806-4841.20174846.
    » https://doi.org/10.1590/abd1806-4841.20174846
  • Tschandl, P. et al. Comparison of the accuracy of human readers versus machine-learning algorithms for pigmented skin lesion classification: An open, web-based, international, diagnostic study. The Lancet Oncology, v. 20, n. 7, p. 938-947, 2019. Doi: https://doi.org/10.1016/S1470-2045(19)30333-X.
    » https://doi.org/10.1016/S1470-2045(19)30333-X
  • Tschandl, P.; Rosendahl, C.; Kittler, H. The HAM10000 dataset, a large collection of multi-source dermatoscopic images of common pigmented skin lesions. Scientific Data, v. 14, n. 5, p. 180161, 2018. Doi: https://doi.org/10.1038/sdata.2018.161.
    » https://doi.org/10.1038/sdata.2018.161
  • Tsuneki, M. Deep learning models in medical image analysis. Journal of Oral Biosciences, v. 64, n. 3, p. 312-320, 2022.
  • Viknesh, C. K. et al. Detection and classification of melanoma skin cancer using image processing technique. Diagnostics, v. 13, n. 21, p. 3313, 2023. Doi: https://doi.org/10.3390/diagnostics13213313.
    » https://doi.org/10.3390/diagnostics13213313
  • Wang, H. et al. Assessment of deep learning using nonimaging infor-mation and sequential medical records to develop a prediction model for nonmelanoma skin cancer. JAMA Dermatology, v. 155, n. 11, p. 1277-1283, 2019. Doi: https://doi.org/10.1001/jamadermatol.2019.2335.
    » https://doi.org/10.1001/jamadermatol.2019.2335
  • Wei, L.; Ding, K.; Hu, H. Automatic skin cancer detection in dermoscopy images based on ensemble lightweight deep learning network. IEEE Access, v. 8, p. 99633-99647, 2020. Doi: https://doi.org/10.1109/ACCESS.2020.2997710.
    » https://doi.org/10.1109/ACCESS.2020.2997710
  • Wernick, M. et al. Machine learning in medical imaging. IEEE Signal Processing Magazine, v. 27, p. 25-38, 2010. Doi: https://doi.org/10.1109/MSP.2010.936730.
    » https://doi.org/10.1109/MSP.2010.936730
  • Yap, J.; Yolland, W.; Tschandl, P. Multimodal skin lesion classification using deep learning. Experimental Dermatology, v. 27, n. 11, p. 1261-1267, 2018.
  • Zhu, C. Y. et al. A deep learning based framework for diagnosing multiple skin diseases in a clinical environment. Frontiers in Medicine, v. 8, p. 1-13, 2021. Doi: https://doi.org/10.3389/fmed.2021.626369.
    » https://doi.org/10.3389/fmed.2021.626369

Editado por

Editora

Valéria dos Santos Gouveia Martins

Datas de Publicação

  • Publicação nesta coleção
    25 Out 2024
  • Data do Fascículo
    2024

Histórico

  • Recebido
    30 Jan 2024
  • Revisado
    28 Jul 2024
  • Aceito
    06 Ago 2024
Pontifícia Universidade Católica de Campinas Núcleo de Editoração SBI - Campus II - Av. John Boyd Dunlop, s/n. - Prédio de Odontologia, Jd. Ipaussurama - 13059-900 - Campinas - SP, Tel.: +55 19 3343-6875 - Campinas - SP - Brazil
E-mail: transinfo@puc-campinas.edu.br