Bioética e inteligência artificial: panorama atual da literatura

Resumo

O termo inteligência artificial refere-se à realização, por dispositivos computacionais, de processos intelectuais característicos dos seres humanos, como raciocinar, descobrir significados, generalizar ou aprender com experiências. A atuação da inteligência artificial ocorre quando programas computacionais realizam ações para as quais não foram explicitamente programados. Apesar de o conceito ser bem definido, o desempenho dessa tecnologia é muito complexo, de modo que a bioética encontra diversos conflitos e questões relacionadas a ela, muitas vezes esclarecidas apenas no momento em que surgem. Embora regulamentações tenham sido instituídas ao longo do desenvolvimento da área, ela constantemente passa por adaptações, o que justifica novos estudos sobre o tema.

Palavras-chave
Bioética; Inteligência artificial; Controle da tecnologia biomédica

Abstract

Artificial intelligence refers to the performance, by computer devices, of intellectual processes characteristic of human beings, such as reasoning, discovering meanings, generalizing or learning from experience. Artificial intelligence occurs when computer programs perform action for which they were not explicitly programmed. Although a well-defined concept, its complex performance poses various bioethical conflicts and questions, often clarified only when they emerge. Despite the regulations put in place during the field’s development, these are constantly undergoing adaptations thus justifying further studies on the subject.

Keywords
Bioethics; Artificial intelligence; Technology control, biomedical

Resumen

El término inteligencia artificial se refiere a sistemas informáticos capaces de realizar procesos intelec- tuales característicos de los seres humanos, como razonar, descubrir significados, generalizar o aprender de las experiencias. La actuación de la inteligencia artificial se produce cuando los programas informáticos realizan acciones para las cuales no fueron explícitamente programados. Aunque el concepto está bien definido, la actuación de esta tecnología es muy compleja, por lo que la bioética se encuentra ante diversos conflictos y cuestiones relacionadas con ella, que muchas veces solo pueden aclararse cuando surgen. Aunque a lo largo de su desarrollo se vienen estableciendo normativas, este campo sufre constantes adaptaciones, lo que justifica la realización de nuevos estudios sobre el tema.

Palabras clave
Bioética; Inteligencia artificial; Control de la tecnología biomédica

O termo inteligência artificial (IA) refere-se à realização, por dispositivos computacionais, de processos intelectuais característicos dos seres humanos, como raciocinar, descobrir significados, generalizar ou aprender com experiências ¹. Sua atuação ocorre quando programas computacionais realizam ações para as quais não foram explicitamente progra- mados, podendo ser descrita como o uso desses dispositivos para realizar tarefas que antes exigiam cognição humana ².

A Associação Médica Americana prefere o termo “inteligência aumentada”, em vez de “inteligência artificial”, para enfatizar o papel assistivo dos computadores no aperfeiçoamento das habilidades dos médicos em vez de substituí-los ³. A integração da IA na prática médica aumentou significativamente nos últimos anos, e continua a crescer ². Portanto, a discussão acerca dos princípios éticos e legais nesse campo, incluindo o desenvolvimento de regulamentação específica, é uma preocupação constante e de extrema relevância.

Método

Realizou-se busca na base de dados PubMed por meio dos descritores “bioethics” e “artificial intelligence”, considerando artigos científicos publicados entre 2018 e 2022. A análise incluiu também pareceres das sociedades de referência na área pesquisada. Posteriormente, fez-se comparação crítica com critérios que variavam de acordo com tipo de estudo, discussão do tema e conclusões.

Discussão

Os trabalhos analisados invariavelmente definem o conceito de IA, havendo o entendimento comum de que se trata de uma tecnologia que imita processos intelectuais característicos dos seres humanos, para atingir objetivos sem a programação de uma ação específica ¹-⁴.

Há um amplo acordo segundo o qual demonstra inteligência qualquer dispositivo que usa razão, elabora estratégias, resolve quebra-cabeças, faz julgamentos sob incerteza, apresenta conhecimento (incluindo senso comum), planeja, aprende, comunica em linguagem natural e integra todas essas habilidades com objetivos comuns ¹.

Atualmente, dentre os exemplos de áreas de atuação da IA estão atividades como compreender a fala humana, competir no mais alto nível em sistemas de jogos estratégicos, dirigir carros autô- nomos, planejar roteamento inteligente em rede de entrega de conteúdo e simulações militares ¹.

Na área médica, Bali e colaboradores ¹ apresentam exemplos como o IBM Watson for Oncology, que prescreveu medicamentos para o tratamento de pacientes com câncer com eficiência igual ou superior à de especialistas humanos. Além disso, o projeto Hanover, desenvolvido pela Microsoft no Oregon, Estados unidos, analisou pesquisas médicas para possibilitar o tratamento personalizado de câncer.

Ainda, o Serviço Nacional de Saúde do Reino Unido (NHS) usa a plataforma DeepMind, do Google, para detectar riscos à saúde analisando dados de aplicativos móveis e imagens médicas recolhidas de pacientes. Outro exemplo é o algoritmo de radiologia de Stanford, que detectou pneumonia melhor do que radiologistas humanos, enquanto na retinopatia diabética foi equivalente aos oftalmologistas especialistas na tomada de decisão de encaminhamento ¹.

Vearrier e colaboradores ² concordam que a IA demonstrou benefício potencial substancial para médicos e pacientes, transformando a relação terapêutica da díade médico-paciente tradicional em uma relação triádica médico-paciente-máquina. Ponderam, entretanto, que novas tecnologias de IA exigem verificação cuidadosa, padrões legais, salvaguardas do paciente e educação do provedor, devendo os médicos reconhecer os limites e riscos da IA, bem como seus benefícios potenciais.

Com tantos algoritmos de IA em uso e em desenvolvimento, em todas as áreas e especialmente na área médica, a discussão de aspectos éticos e legais, incluindo a regulamentação, é uma preocupação crescente. No passado, essas mudanças regulatórias eram baseadas em conceitos filosóficos e na necessidade de responder às demandas socioculturais. Atualmente, o desafio é integrar uma série de tecnologias disruptivas, como a IA.

Embora proporcione inúmeras vantagens, por acarretar uma realidade emergente e de resultados imprevisíveis, que não estão isentos de riscos, esse campo gera incerteza e precaução, que exige regulação bioética ⁴. Sánchez López e colaboradores ⁴ propõem três princípios básicos para regular as partes interessadas: 1) respeito pela investigação, 2) justiça e 3) transparência.

Apesar de sua promessa de resultados, os algoritmos de IA estão sob investigação por desempenho inconsistente, particularmente em comunidades minoritárias, o que pode levar a decisões clínicas inferiores ao ideal e a resultados adversos ao paciente. Até o momento, essas preocupações se concentraram na negligência médica e apontam a responsabilidade do médico pelo uso de IA como inextricavelmente ligada à desses outros atores ⁵.

Maliha e colaboradores ⁵, ao estudarem a fundo a labilidade desse assunto, ponderam que a alocação de responsabilidade determina se os pacientes obtêm compensação, e de quem. Além disso, estendem a avaliação, questionando se algoritmos potencialmente úteis serão colocados em prática, visto que aumentar a responsabilidade pelo uso ou desenvolvimento de algoritmos pode desincentivar desenvolvedores e líderes de sistemas de saúde de introduzi-los na prática clínica. Destacam que o ecossistema maior de responsabilidade de IA e seu papel na garantia de execução segura e inovação no atendimento clínico devem ser detalhadamente examinados.

Sher, Sharp e Wright ⁶, em editorial, são otimistas quanto às perspectivas que a IA reserva para os cuidados de saúde no futuro e ponderam a importância de compreender pontos fortes, limitações, oportunidades, desafios éticos e riscos. Igualmente importante é a necessidade de se familiarizar com as ferramentas elencadas para analisar criticamente aplicações de IA aos cuidados de saúde, a fim de diferenciar melhorias concretas de enganos.

Lazarus e colaboradores ⁷ expandem a análise de limitações da IA para o ensino em saúde, especificamente de anatomia, descrevendo tensões entre promessas e perigos de integrar essa tecnologia a esse âmbito. Por fim, os autores fornecem recomendações práticas para uma abordagem ponderada ao trabalhar em conjunto com a IA, que servem como estrutura orientadora com objetivo de desenvolver uma abordagem mais sutil e equilibrada para o papel da IA na educação em saúde.

Os aspectos científicos e éticos dessa questão justificaram a realização de uma reunião para discutir o assunto, em março de 2017, em Barcelona, da qual participaram diferentes especialistas europeus em IA, computação e comunicação, entre outras áreas. O debate deu origem à Declaração de Barcelona para o Desenvolvimento e Uso Adequado da Inteligência Artificial na Europa ⁸, que contém os seguintes princípios e valores: prudência, confia- bilidade, responsabilidade, autonomia restrita e papel humano, detalhados a seguir.

• Prudência: o salto à frente nessa área foi causado pelo amadurecimento das tecnologias de IA, aumento do poder computacional e da capacidade de armazenamento de dados, disponibilidade de plataformas de entrega na internet e maior disposição de muitos atores econômicos para experimentar a tecnologia por conta própria;

• Confiabilidade: todos os sistemas artificiais usados na sociedade precisam passar por testes para determinar sua confiabilidade e segurança;

• Accountability: quando um sistema de IA toma uma decisão, pessoas afetadas por essas decisões devem ser capazes de obter uma explicação, porque a decisão é tomada em termos que elas possam entender, e deve ser possível contestar a decisão com argumentos fundamentados;

• Responsabilidade: há uma preocupação crescente com os chatbots de IA e outros tipos de sistemas de mensagens automáticas que operam na internet e nas mídias sociais e são projetados para a manipulação de opinião política, desinformação pela propagação de fatos falsos, extorsão ou outras formas de atividade maliciosa, que são perigosas para os indivíduos e desestabilizam a sociedade;

• Autonomia restrita: os sistemas de IA não têm apenas a capacidade de tomar decisões. Quando estão incorporados a sistemas físicos, como carros autônomos, eles têm o potencial de agir de acordo com suas decisões no mundo real, o que levanta questões sobre segurança e a possibilidade de a IA autônoma superar a inteligência humana em algum momento; e

• Papel humano: o entusiasmo inegável de hoje pela IA às vezes causa a impressão de que a inteligência humana não será mais necessária, fato que levou algumas empresas a demitir funcionários e substituí-los por sistemas de IA. Esse é um erro grave, já que todos os sistemas de IA dependem criticamente da inteligência humana.

Tai ⁹ relembra que, apesar de todas as promessas positivas que a IA oferece, os especialistas humanos ainda são essenciais e necessários para projetar, programar e operar a IA a fim de evitar qualquer erro imprevisível. Nesse sentido, cita Beth Kindig, analista de tecnologia de São Francisco com mais de uma década de experiência em empresas de tecnologia públicas e privadas.

Kindig publicou um boletim informativo gratuito indicando que, embora a IA apresente uma promessa potencial para um melhor diagnóstico médico, especialistas humanos ainda são necessários para resolver impasses e mitigar erros. Assim, a vigilância da função da IA, exercida pelo profissional conhecido como médico no circuito, não pode ser negligenciada ⁹.

Considerações finais

Como todas as tecnologias emergentes, IA e robótica exigem implementação prévia de normas éticas de funcionamento que garantam segurança e aplicabilidade num campo tão sensível como o da saúde ⁴. Sistemas de IA têm potencial para transformar radicalmente o atendimento clínico e, ainda que caminhe em ritmo mais lento, o ordenamento jurídico não pode ficar estático em relação a essa inovação.

Para alcançar plenamente os benefícios da IA, o sistema jurídico deve equilibrar a responsabilidade para promover inovação, segurança e adoção acelerada desses algoritmos ⁵. O estado relativamente instável da IA e sua potencial responsabilidade oferecem oportunidade para desenvolver um novo modelo, que acomode o progresso médico e instrua as partes interessadas sobre a melhor forma de responder a essa inovação disruptiva.

Referências

• ¹
  Bali J, Garg R, Bali TR. Artificial intelligence (AI) in healthcare and biomedical research: why a strong computational/AI bioethics framework is required? What is artificial intelligence? Indian J Ophthalmol [Internet]. 2018 [acesso 29 nov 2023];67(1):9-12. DOI: 10.4103/ijo.IJO_1292_18
  » https://doi.org/10.4103/ijo.IJO_1292_18
• ²
  Vearrier L, Derse AR, Basford JB, Larkin GL, Moskop JC. Artificial Intelligence in emergency medicine: benefits, risks, and recommendations. J Emerg Med [Internet]. 2022 [acesso 29 nov 2023];62(4):492-9. DOI: 10.1016/j.jemermed.2022.01.001
  » https://doi.org/10.1016/j.jemermed.2022.01.001
• ³
  Crigger E, Khoury C. Making policy on augmented intelligence in health care. AMA J Ethics [Internet]. 2019 [acesso 29 nov 2023];21(2):E188-91. DOI: 10.1001/amajethics.2019.188.
  » https://doi.org/10.1001/amajethics.2019.188
• ⁴
  Sánchez López JD, Cambil Martín J, Villegas Calvo M, Luque Martínez F. Artificial intelligence and robothics: reflections about the need of a new bioethics framework implementation. J Healthc Qual Res [Internet]. 2021 [acesso 29 nov 2023];36(2):113-4. DOI: 10.1016/j.jhqr.2019.07.009
  » https://doi.org/10.1016/j.jhqr.2019.07.009
• ⁵
  Maliha G, Gerke S, Cohen IG, Parikh RB. Artificial intelligence and liability in medicine: balancing safety and innovation. Milbank Q [Internet]. 2021 [acesso 29 nov 2023];99(3):629-47. DOI: 10.1111/1468-0009.12504
  » https://doi.org/10.1111/1468-0009.12504
• ⁶
  Sher T, Sharp R, Wright RS. Algorithms and bioethics. Mayo Clin Proc [Internet]. 2020 [acesso 29 nov 2023];95(5):843-4. DOI: 10.1016/j.mayocp.2020.03.020
  » https://doi.org/10.1016/j.mayocp.2020.03.020
• ⁷
  Lazarus MD, Truong M, Douglas P, Selwyn N. Artificial intelligence and clinical anatomical education: promises and perils. Anat Sci Educ [Internet]. 2022 [acesso 29 nov 2023]. DOI: 10.1002/ase.2221
  » https://doi.org/10.1002/ase.2221
• ⁸
  Barcelona Declaration for the Proper Development and Usage of Artificial Intelligence in Europe. [Propõe diretrizes para um "código de conduta" dos profissionais de IA atualmente em discussão]. Biocat [Internet]. 2017 [acesso 29 nov 2023]. Disponível: https://bit.ly/3w6SYCv
  » https://bit.ly/3w6SYCv
• ⁹
  Tai MCT. The impact of artificial intelligence on human society and bioethics. Tzu Chi Med J [Internet]. 2020 [acesso 29 nov 2023];32(4):339-43. DOI: 10.4103/tcmj.tcmj_71_20
  » https://doi.org/10.4103/tcmj.tcmj_71_20

Datas de Publicação

• Publicação nesta coleção
  14 Jun 2024
• Data do Fascículo
  2024

Histórico

• Recebido
  18 Abr 2023
• Revisado
  30 Nov 2023
• Aceito
  05 Jan 2024