Aspectos éticos da inteligência artificial na prática cirúrgica geral

EDITORIAL

A inteligência artificial (IA) entrou na arena cirúrgica e veio para ficar. A presença da IA na prática cirúrgica representa uma grande inovação e, como ninguém pode prever seu destino, o cumprimento rigoroso dos princípios éticos e das boas práticas é imprescindível. O conhecido adágio “Informação é poder” foi substituído pelo novo e atual conceito: “A habilidade e a capacidade de processar informações de dados é o verdadeiro poder”. Portanto, a IA tem uma papel definitivo na avaliação, análise, comparação e priorização do “big data”, definido como “ativos de informação caracterizados por um volume, velocidade e variedade tão altos que exigem tecnologia e metodologia de avaliação específicas para sua transformação em valor”. A IA é um campo multidisciplinar em constante evolução que utiliza ferramentas para automatizar tarefas e tem como objetivo replicar, aprimorar e superar as capacidades humanas¹. O aprendizado de máquina (ML) é uma metodologia derivada da IA que aplica algoritmos para encontrar padrões, modelar relacionamentos e gerar previsões em conjuntos de dados complexos². Embora a IA tenha o potencial de otimizar e transformar muitos aspectos da tomada de decisões cirúrgicas, existem barreiras e armadilhas para sua integração e aceitação no campo da cirurgia, assim como acontece com as novas tecnologias. Outro aspecto abrangente da IA é o uso de agentes de interação assistida (chatbox e similares) que permitem um diálogo com os usuários, recebendo e processando suas perguntas e respondendo com textos, mensagens ou respostas de voz.

Nós, enquanto membros da comunidade cirúrgica, devemos lutar para aumentar a confiança e a transparência no uso da IA de forma responsável. Essa abordagem requer a avaliação crítica da quantidade e da qualidade dos dados que estão sendo usados para gerar modelos para atenuar os vieses nos algoritmos. Para integrar totalmente a tecnologia e maximizar seu potencial, deve haver um gerenciamento consciente e proativo de todas as eventuais implicações éticas, legais e financeiras. A qualidade dos dados influenciará a qualidade dos modelos e, por fim, seus resultados. Aparentemente, parece haver parcialidades geográficas, sociais, raciais e étnicas nas implementações atuais do ML, e esses comportamentos devem ser evitados. Tanto os cirurgiões quanto a sociedade devem ficar atentos a esse tipo de viés de exclusão e inclusão, e a auditoria dos bancos de dados é fundamental para garantir a geração de dados de alta qualidade, que constitui a única maneira de os algoritmos de IA oferecerem previsões precisas e desempenho adequado³.

Uma configuração adequada para abordar o impacto da IA e seus subprodutos na aréa cirúrgica é fornecer respostas para o porquê, o como e o quê, ou seja, o propósito, o processo de sua implementação (ações específicas tomadas para realizar o porquê) e os resultados do porquê, representados pelos resultados finais e definitivos (prova final).

A aprendizagem profunda (DL) representa uma subcategoria da ML e seus algoritmos são preparados para reconhecer padrões nos dados coletados e oferecer previsões, decisões ou recomendações pelo uso de camadas de redes neurais artificiais que se assemelham ao processo humano de tomada de decisão. Há dois sistemas adicionais dentro do DL, representados pela visão computacional e pela robótica, conforme mostrado na Figura 1.

Figura 1.

Os processos de IA podem ser classificados em bloqueados e adaptativos, sendo que os primeiros fornecem sempre o mesmo resultado em resposta à mesma entrada, enquanto nos adaptativos o sistema é capaz de continuar aprendendo por meio da aquisição de novos dados, de modo que não oferecerá sempre o mesmo resultado em resposta à mesma entrada, pois considerará novas variáveis dependendo das novas informações adquiridas. Além disso, os sistemas de IA podem ser não autônomos, situação em que um ser humano exerce supervisão, ou autônomos, em que o resultado não é supervisionado por um ser humano. Com o objetivo de avaliar os possíveis conflitos éticos, é importante distinguir as metodologias de IA: a) sistema de IA de caixa branca: que recebe entrada e usa um processo de raciocínio que é transparente e compreensível para encaminhar um resultado na forma de previsão, decisão ou recomendação; b) sistema de IA de caixa preta: o sistema recebe entrada e usa um processo de raciocínio que é opaco e não é compreensível nem interpretável para fornecer um resultado.

Os algoritmos de aprendizagem profunda pertencem a essa categoria. Outros recursos dos sistemas de IA de caixa preta são necessários para uma melhor compreensão das implicações éticas. São elas: a) ser explicável: em contraste com os sistemas operacionais de caixa branca, nos sistemas de caixa preta há uma enorme limitação para decodificar e entender o raciocínio que leva a IA a prever ou decidir, tornando o processo impossível de ser explicado ou justificado; b) embora o usuário humano possa não entender o processo de caixa preta da IA, ele é capaz de avaliar de forma independente a precisão do resultado fornecido; c) entretanto, pode haver situações em que o indivíduo não será capaz de entender o raciocínio da IA de caixa preta nem de avaliar de forma independente a precisão do resultado final. Os Agentes Inteligentes Conversacionais também têm uma função no mundo da saúde, já que esses programas baseados em IA permitem e acionam um diálogo com os usuários, recebendo perguntas ou dúvidas e respondendo por mensagem de texto, imagem ou voz.

A IA viabiliza duas vertentes principais no campo da cirurgia, que são: IA em Cirurgia, relacionada ao uso de algoritmos ad-hoc envolvidos na aprendizagem para previsão e/ou classificação nas fases pré e pós-operatória; e IA-C (Cirurgia de Inteligência Artificial), caracterizada pela utilização de tais algoritmos durante um procedimento cirúrgico e abrangendo ações autônomas durante o mesmo. Essencialmente, o objetivo dos sistemas baseados em IA na assistencia cirúrgica rotineira é incrementar e refinar o processo de tomada de decisão com diferentes tipos de recursos, ferramentas e suporte. Alguns dos principais recursos da aplicação de IA na assistência cirúrgica incluem:

• - Análise preditiva e avaliação de risco com base em resultados anteriores;

• - Assistência intraoperatória com orientação e navegação. A IA é particularmente eficaz em cirurgias guiadas por imagem (laparoscópicas e robóticas), em que a tela pode exibir informações ou orientações de sistemas guiados por IA (por exemplo, sistemas de navegação 3D para a realização de cirurgia hepática complexa) durante a operação;

• - Papel na educação e no treinamento cirúrgico. Com base na análise de milhões de vídeos cirúrgicos, a IA terá a capacidade de auxiliar na realização de uma operação, antecipando os próximos 15 a 30 segundos de uma intervenção e fornecendo supervisão adicional durante a cirurgia, ou como um sistema de navegação. No futuro, a antecipação de eventos cirúrgicos poderá permitir que os cirurgiões alterem seus planos de ação, caso necessário. Essa aplicação seria capaz de tornar os procedimentos laparoscópicos (como a colecistectomia) mais seguros, colocando uma imagem sobreposta na tela de vídeo durante uma operação para sugerir onde seria mais seguro realizar a intervenção. A questão ética é quem é o responsável final no caso de um resultado insatisfatório. A responsabilidade sempre recairá sobre a cabeça do profissional. Do ponto de vista ético, o dilema está no conhecimento que o paciente tem sobre o processo de tomada de decisão.

A necessidade de um equilíbrio adequado entre a ampliação dos benefícios e a redução dos riscos é obrigatória, o que torna imperativa a necessidade de gerenciamento dos aspectos ético, legal e regulatório⁴. A ideia que se apresenta é que a IA melhorará os sistemas de saúde e de prestação de assistência cirúrgica, diminuindo os erros humanos, aumentando a precisão das técnicas de diagnóstico, mas possivelmente prejudicando a relação médico-paciente, desqualificando médicos, comprometendo a transparência, levando ao atendimento ineficiente devido a erros não identificados no processo de tomada de decisão da IA ou a erros ou vieses do algoritmo.

As principais questões éticas que emergem da aplicação da IA à cirurgia estão relacionadas à atuação humana, à responsabilidade por falhas, à solidez técnica, à privacidade e à governança de dados, à transparência, à diversidade, à não discriminação e à justiça. A questão do processo de consentimento informado adequado deve ser considerada um imperativo ético, mas também um mandato legal e, como tal, precisa ser respeitada e realizada na prática clínica. No entanto, a IA e seus subprodutos podem ser considerados atualmente uma tecnologia disruptiva, mas ela veio para ficar e está prestes a revolucionar o atendimento cirúrgico, especialmente em ambientes que são capazes de arcar com seus custos iniciais adicionais e impacto econômico. Definitivamente, a IA terá uma função cada vez maior na administração do setor de saúde e no atendimento ao paciente, tornando as operações dos hospitais e dos sistemas de saúde mais eficientes e menos dispendiosas e menos propensas a erros humanos. As consultas pós-operatórias com enfermeiros e cirurgiões podem ser substituídas por um chatbot que responda às perguntas dos pacientes e solucione suas necessidades. A cirurgia, como especialidade, e os cirurgiões, como agentes éticos, devem garantir a disponibilidade de tecnologias de IA para todos os tipos de pacientes e em todos os ambientes, evitando a discriminação ou a falta de acesso.

Alguns dos riscos éticos da IA estão relacionados à responsabilidade, aos problemas de confiança, às limitações de dados e ao viés. Um algoritmo altamente preditivo depende do aprimoramento da abrangência, da qualidade e da diversidade dos dados inseridos nos modelos de risco. O poder e a precisão dos modelos de previsão de IA dependerão da aquisição de dados de um conjunto diversificado, incluindo diferentes configurações de prática (rural, hospitais comunitários e centros universitários/acadêmicos). É importante, como acontece com qualquer instrumento cirúrgico, que os cirurgiões sejam instruídos sobre os prós e os contras, bem como sobre as limitações de qualquer aplicativo de IA. Um dos principais desafios é garantir o acesso a grandes conjuntos de dados de pacientes com segurança e, ao mesmo tempo, garantir a privacidade destes dados. A quantidade e a diversidade dos dados determinam se os modelos de IA são amplamente aplicáveis e reproduzíveis, independentemente das variações nos fatores do paciente e do cirurgião⁵.

A Ética Cirúrgica (EC) baseia-se no reconhecimento dos direitos dos pacientes submetidos ou que necessitam de tratamento cirúrgico, sendo a Cirurgia uma prática moral e o cirurgião, um agente fiduciário moral. Os deveres éticos de um cirurgião decorrem desses fundamentos éticos: a responsabilidade dos cirurgiões para com a sociedade, para com a Cirurgia como um todo e para com a autorregulamentação da profissão cirúrgica; a obrigação profissional de usar o acervo de conhecimento científico confiado aos cirurgiões para servir aos outros e, por fim, a relação entre os cirurgiões, entre os cirurgiões e suas associações e entre esses dois e a sociedade à qual pertencem⁶. A relação cirurgião-paciente entrelaça, de um lado, o cirurgião, que detém o papel de “autoridade” devido ao treinamento, à experiência, à sabedoria e ao julgamento; e, de outro, o paciente, que detém uma posição de “autoridade” para consentir que uma intervenção seja realizada em seu corpo. Esse vínculo é caracterizado pela confiança. Os princípios éticos no campo da medicina, conforme compilados por Beauchamp e Childress, são: beneficência, não maleficência, respeito à autonomia e justiça⁷.

As teorias éticas estão predominantemente relacionadas a três escolas: a) consequencialismo ou utilitarismo, que se concentra nos resultados; b) deontologia, fundada por Kant e baseada no imperativo categórico; c) ética da virtude, baseada nos ensinamentos dos antigos filósofos gregos clássicos e representada pela busca de entender e viver uma vida de caráter moral. Houve várias tentativas de traduzir os princípios da ética da virtude em um contexto moderno permeado pela tecnologia, o que levou ao conceito de “ética do florescimento”⁸. Seus princípios fundamentais incluem os seguintes conceitos: a) a prosperidade humana é fundamental para a ética; b) como indivíduos sociais, os indivíduos só podem prosperar em sociedade; c) o florescimento impõe que os seres humanos façam e transcendam o que estão especialmente aptos a fazer; d) o conhecimento genuíno, o raciocínio teórico e a atuação autônoma de forma justa são necessários para esse florescimento; e) para alcançar o raciocínio prático, é imprescindível uma capacidade ética de deliberar sobre as metas e selecionar um plano de ação sensato.

As metas perseguidas pelo desenvolvimento da IA e de seus subsistemas devem incluir:

• - Aumento da eficiência e, portanto, melhoria dos benefícios, principalmente do ponto de vista econômico e relacionados aos benefícios econômicos que podem surgir de seu uso;

• - Supervisão/vigilância social, a coleta de dados de milhões de indivíduos pode permitir a identificação de padrões e comportamentos;

• - Prosperidade da humanidade, ligada ao conceito de bem maior para a sociedade e ligada ao conceito de ética da virtude.

Alguns dos desafios éticos específicos enfrentados pelo uso da IA são:

• - Falta de clareza das ferramentas de IA: As decisões de IA nem sempre são compreensíveis para os seres humanos;

• - A IA não é imparcial: As decisões baseadas em IA são suscetíveis a imprecisões, desfechos discriminatórios, preconceitos enraizados ou introduzidos;

• - Práticas de vigilância para coleta de dados e privacidade de usuários de tribunais;

• - Novas preocupações com a justiça e o risco para os direitos humanos e outros valores fundamentais;

• - A IA estará complementando, mas não substituindo, os médicos e outros profissionais de saúde.

Com todos esses tópicos em mente, existe o que é considerado um novo ramo no campo da ética, conhecido como Ética de Dados. Ela representa a aplicação de princípios morais e éticos para abordar problemas decorrentes de dados (geração, registro, curadoria, processamento, disseminação, compartilhamento e uso), algoritmos (IA, aprendizado de máquina e robôs) e práticas associadas, a fim de apoiar e respaldar soluções moralmente adequadas, comportamentos justos e valores corretos⁹. A introdução da IA em muitos aspectos da cirurgia pode ser equiparada à introdução de uma nova tecnologia e, portanto, aplicam-se as mesmas recomendações para seu uso.

Os quatro princípios éticos orientam o comportamento no ambiente de assistência cirúrgica e fornecem uma estrutura para a aplicação da ética cirúrgica. Os pacientes podem estar em risco quando ferramentas ou recursos de IA são usados. Assim, os princípios éticos podem ser aplicados ao mundo da IA e seus subprodutos da seguinte forma, fornecendo uma estrutura para soluções quando confrontados com conflitos no mundo real da assistência médica e da pesquisa cirúrgica (Tabela 1). O princípio da beneficência envolve as questões de: proteção e promoção da saúde humana, transparência, qualidade dos dados, uso e segurança dos dados, gerenciamento adequado dos dados para evitar distorções ou imprecisões, direitos e valores humanos e confiabilidade. O princípio da não maleficência desempenha um papel em: confiabilidade, transparência, tomada de decisão cirúrgica auxiliada por IA, falhas algorítmicas e lacunas de sistemas de caixa preta, segurança cibernética, erros nos processos e na tomada de decisão final e/ou indicação de terapia, vulnerabilidade em relação a vieses, segurança, segurança e lacunas e proteção da privacidade, segurança e valores dos pacientes. O princípio do respeito à autonomia respalda o processo de consentimento informado, a narração com transparência e verdade, a confidencialidade, a comunicação, a autonomia humana e a privacidade (em especial para informações confidenciais), o envolvimento corporativo e o ganho financeiro, o papel dos comitês de ética em pesquisas usando big data, violações de dados. O princípio da justiça oferece suporte em: transparência, responsabilidade, direitos humanos, riscos de responsabilidade médica, equidade no uso de dados, transparência, prevenção de desigualdades, tendenciosidades. O conceito de transparência é anulado pelos quatro princípios éticos, o que significa que as ações, os processos e os dados devem estar abertos à inspeção e à avaliação de forma obrigatória, além da explicabilidade e da responsabilidade em todos os estágios dos processos de IA e dos algoritmos de AM. Há uma complexidade inerente aos desafios éticos apresentados pela IA e pela ciência de dados; provocando assim uma preocupação ética e uma reflexão que deve ser desenvolvida desde o início¹⁰. Os objetivos de uma abordagem ética rigorosa para o desenvolvimento e a aplicação da IA no âmbito cirúrgico são principalmente dois: o desenvolvimento de uma cultura de responsabilidade profundamente integrada e a adoção de um sistema de governança que promova a adoção de boas práticas eticamente sólidas em todos os pontos do processo de inovação e implementação por todas as partes interessadas.

Tabela 1
Princípios éticos e sua taxonomia no âmbito da Inteligência Artificial.

Beneficência	Não maleficência	Respeito à autonomia	Justiça
• Proteção e promoção à saúde humana	• Confiabilidade	• Processo de consentimento cirúrgico informado	• Transparência
• Transparência	• Transparência	• Transparência	• Prestação de contas
• Qualidade dos dados	• Processo de decisão cirúrgica auxliado pela IA	• Narração verdadeira	• Direitos Humanos
• Uso e segurança dos dados	• Lacunas de algoritmos e opacidades dos sistemas de caixa preta	• Confidencialidade	• Ameaça de responsabilidade médica
Beneficência	Não maleficência	Respeito à autonomia	Justiça
• Gerenciamento adequado dos dados para evitar viézes ou imprecisões	• Cibersegurança	• Comunicação	• Prevenção de iniquidades
• Direitos humanos e valores	• Erros	• Autonomia humana e privacidade (em particular quanto à informações sensíveis)	• Tendenciosidades
• Credibilidade	• Vulnerabilidade relativa à viezes, segurança e opacidade	• Envolvimento corporativo e ganhos financeiros
	• Proteção de privacidade, segurança, valores individuais dos pacientes	• Papel dos comitês de ética nas pesquisas utilizando big data
		• Violação de dados

Essas etapas específicas ajudarão os usuários e pesquisadores a transitar com sucesso pelos diferentes estágios dos processos envolvidos:

• - Definir e compreender o benefício para a sociedade e seu bem maior;

• - Conformidade com os princípios éticos e sua taxonomia, bem como com as regulamentações legais;

• - Auditoria da qualidade e das limitações dos dados;

• - Análise e avaliação permanentes, bem como repercussões políticas.

Em resumo, deve-se reconhecer que o objetivo dos sistemas de IA aplicados à saúde é contribuir para o bem-estar dos pacientes e sua segurança assim como para a qualidade do atendimento. A IA precisa ser eticamente responsável, recomendando auditorias frequentes de algoritmos e processos gerais. A IA inevitavelmente fará parte de nossa prática cirúrgica no futuro, de forma semelhante a qualquer outro campo, setor ou atividade. O nó górdio não é se a IA influenciará e mudará a prática cirúrgica, mas sim como podemos adotá-la com princípios éticos rigorosos e estrutura normativa, colocando o paciente no centro de nossos cuidados e preocupações.

Referências bibliográficas

• ¹ De Mauro A, Greco M, Grimaldi M. What is Big Data? A Consensual Definition and a Review of Key Research Topics. AIP Conf. Proc. 2015;1644:97-104. doi: 10.1063/1.4907823
  » https://doi.org/10.1063/1.4907823
• ² Lammers DT, Eckert CM, Ahmad MA, Bingham JR, Eckert MJ. A Surgeon's Guide to Machine Learning. Ann Surg Open. 2021;2(3):e091. doi: 10.1097/AS9.0000000000000091.
  » https://doi.org/10.1097/AS9.0000000000000091
• ³ Kaushal A, Altman R, Langlotz C. Geographic Distribution of US Cohorts Used to Train Deep Learning Algorithms. JAMA 2020;324(12):1212-3. doi: 10.1001/jama.2020.12067.
  » https://doi.org/10.1001/jama.2020.12067
• ⁴ Matsuzaki T. Ethical issues of artificial intelligence in medicine. California Western Law Review. 2018;55(1):article 7.
• ⁵ Stahl BC. Concepts of ethics and their Application to AI (chapter 3). In: Stah BC. Artificial Intelligence for a Better Future. SpringerBriefs in Research and Innovation Governance. 2012, Springer, Cham. doi: 10.1007/978-3-030-69978-9_3.
  » https://doi.org/10.1007/978-3-030-69978-9_3.
• ⁶ Ferreres AR. The ethical duties and obligations of a surgeon. In Ferreres AR, Angelos P, Singer EA (Ed). Ethical issues in surgical care. American College of Surgeons. Chicago 2017.
• ⁷ Beauchamp TL, Childress JF. Principles of Biomedical Ethics. 4th ed. New York, NY: Oxford University Press; 1994.
• ⁸ Bynum TW. Flourishing ethics. Ethics Inf Technol 2006;8:157-73.
• ⁹ Floridi L, Taddeo M. What is data ethics? Phil. Trans. R. Soc. A.3742016036020160360. doi: 10.1098/rsta.2016.0360.
  » https://doi.org/10.1098/rsta.2016.0360
• ¹⁰ Rudzics F, Saqur R. Ethics of artificial intelligence in surgery. In Hashimoto DA (Editor). Artificial intelligence in surgery: a primer for surgical practice. McGraw Hill, New York NY, 2021.

• Fonte de financiamento:
  nenhuma.

Datas de Publicação

• Publicação nesta coleção
  27 Maio 2024
• Data do Fascículo
  2024

Histórico

• Recebido
  15 Abr 2024
• Aceito
  17 Abr 2024
• Corrigido
  10 Jul 2024