Fernandes e colaboradores; 2019 11
|
Fornecer resultados que possam subsidiar o estudo da pesquisa médica no processo de tomada de decisão em bioética clínica, particularmente nos casos de eutanásia. |
Transversal |
Dados processados por métodos de seleção de características foram usados para criar modelos capazes de predizer a decisão de eutanásia usando ML e um rastreador ocular. Experimentos estatísticos mostraram que o modelo preditivo resultante do algoritmo perceptron multicamadas (MLP) levou a melhor desempenho. Resultados interessantes (normas e regras) para a tomada de decisão bioética foram extraídos de simulações com modelos MLP. Alguns participantes tomaram uma decisão racional, respeitando o código de ética dos profissionais de enfermagem e o código penal brasileiro, o qual considera eutanásia como homicídio. Outros consideraram o aspecto emocional, vinculando essa decisão ao sofrimento do paciente. |
O bom desempenho apresentado pelo modelo preditivo demonstra que a abordagem de investigação proposta pode ser utilizada para testar hipóteses científicas relacionadas à atenção visual e à tomada de decisão, verificando em que medida a visão é um fator determinante na tomada de decisão, particularmente na bioética clínica, quando se trata de questões de terminalidade da vida. |
Silva, Lehoux, Hagemeister; 2018 12
|
Avaliar se uma inovação se qualifica como inovação responsável em saúde utilizando uma ferramenta desenvolvida em três etapas: triagem, avaliação e classificação; e discutir os aspectos políticos do uso da ferramenta. |
Delphi (prospectivo) |
O instrumento de triagem e avaliação da inovação responsável em saúde desenvolvido foi julgado por especialistas e, após a segunda rodada de comentários sobre o tema, chegou-se a um consenso para 16 das 20 questões quanto à importância, clareza e adequação da estrutura do instrumento. A sustentabilidade dos sistemas de saúde é prejudicada pela forma atual como as inovações em saúde são concebidas e colocadas no mercado. Houve consenso sobre a maioria dos critérios, atributos e escalas do instrumento. O uso futuro do instrumento pode contribuir para o desenvolvimento de inovações que proporcionem maior valor social. |
O desenvolvimento desta ferramenta ajudará a preencher uma importante lacuna de conhecimentos e políticas, esclarecendo as decisões tomadas numa fase inicial pelas partes interessadas na inovação, tais como investidores, criadores de tecnologia, agências de financiamento de pesquisa e decisores políticos. |
Lysaght e colaboradores; 2019 13
|
Abordar e analisar a estrutura ética para big data em saúde e pesquisa para demonstrar como a tomada de decisão pode ser baseada nela para o desenvolvimento e a implementação de sistemas de suporte assistidos por IA em saúde de forma ética e responsável 5. |
Estudo de caso |
Sistemas de apoio à decisão clínica (CDSS) são programas que geram informações em saúde. Os que usam ML e IA são complexos, razão pela qual médicos devem ser treinados para melhorar suas habilidades de tomada de decisão clínica ao usar esse tipo de recurso. Os algoritmos de IA do CDSS podem reforçar preconceitos sociais, mas também podem trazer benefícios, como sistemas de saúde pública mais eficientes. A inclusão e análise dos dados acontece de forma contínua, contribuindo com informações sobre práticas futuras adequadas. Alimentar o CDSS com dados de pacientes pode causar conflitos sobre o duplo papel dos médicos – cuidado e pesquisa. Os valores substantivos elencados são integridade profissional e equidade; e os valores processuais são transparência e prestação de contas. O CDSS assistido por IA deve ser explicável. A decisão final deve ser tomada pelo profissional de saúde e deve-se considerar que pode haver julgamentos morais que o programa não é capaz de fazer. O estudo de caso aborda a utilização desses programas em uma unidade de terapia intensiva. Apesar de trazer benefícios financeiros, essa ferramenta poderia gerar questões éticas como economia sobre saúde, desconfiança nas recomendações e preocupação com responsabilidade. |
Dado o aumento dos custos dos cuidados em saúde, o desenvolvimento e a implementação da assistência baseada em IA na tomada de decisões clínicas talvez sejam inevitáveis. Os valores de integridade e responsabilidade profissionais desempenharão um papel mais proeminente ao nível dos cuidados prestados aos doentes, ao passo que os valores de justiça e o potencial de dano para o grupo devem ser equilibrados com imperativos de benefício público a nível social. Os imperativos de benefício público a nível social devem ser utilizados para o equilíbrio. A transparência afeta tanto a confiança na profissão médica como nos sistemas de saúde. |
Cawthorne, Robbins-Van Wynsberghe; 2020 14
|
Criar uma estrutura ética a ser aplicada durante o desenho, o desenvolvimento, a implementação e a avaliação de drones em saúde pública. |
Descritivo |
A hierarquia de valores utilizada consiste em princípios éticos, valores humanos, padrões e requisitos de design. A criação da estrutura considerou os quatro princípios bioéticos, além de um quinto princípio da ética em IA: a explicabilidade. A benevolência no campo da saúde pode ser traduzida em valores de bem-estar humano (e animal não humano), empregos e habilidades humanas e sustentabilidade ambiental. A não maleficência engloba privacidade, segurança, proteção, tranquilidade, empregos, habilidades humanas e sustentabilidade ambiental. A autonomia inclui o livre-arbítrio, os valores humanos, a responsabilidade e a confiança. A justiça inclui a distribuição equitativa de benefícios e indenizações. A adoção de drones na saúde pode levar à redução da infraestrutura de saúde local, reduzindo a assistência pessoal. No entanto, eles também podem conectar pessoas em lugares remotos a serviços modernos. A explicabilidade lida com a facilidade com que os sistemas podem ser compreendidos. O uso de uma estrutura ética é especialmente útil para aqueles com experiência limitada em ética tecnológica. |
Os princípios éticos são abstratos e necessitam de maior contextualização e especificação para reflexão. A criação desta estrutura ética reforça o valor da integração da ética na prática e serve de modelo para o desenho e desenvolvimento em domínios de drones e não drones. A estrutura ajudou a identificar e refinar potenciais benefícios e mitigar riscos. |
Antes e colaboradores; 2021 15
|
Desenvolver uma nova medida e avaliar a abertura e a extensão das preocupações e dos benefícios percebidos em relação às tecnologias de saúde baseadas em IA em uma amostra de adultos nos Estados Unidos. |
Transversal |
Os participantes estavam moderadamente abertos a tecnologias de saúde baseadas em IA, mas houve variação dependendo do tipo de aplicação. A confiança no sistema de saúde e na tecnologia foi o correlato mais forte e consistente de abertura, preocupação e percepção de benefício. Os participantes mais velhos eram menos abertos às tecnologias e os homens eram mais abertos do que as mulheres. O emprego de período integral foi associado a uma maior abertura e a uma menor preocupação. As duas tecnologias que fizeram previsões sobre doenças graves – risco de ataque cardíaco e probabilidade de sobrevivência ao câncer – foram as mais bem avaliadas. |
A abertura dos participantes parece tênue, sugerindo que estratégias de promoção precoce e experimentos com novas tecnologias de IA podem influenciar fortemente as opiniões sobre o assunto. Pode ser necessário abordar a confiança no direcionamento da aceitação dessas inovações na área da saúde. |
Batlle e colaboradores; 2021 16
|
Entender as melhores práticas no compartilhamento de dados de pacientes em instituições de saúde. |
Exploratório |
Um grupo de trabalho identificou cinco amplos domínios de atividades importantes para a colaboração usando dados de pacientes: privacidade, consentimento informado, padronização de elementos de dados, contratos com fornecedores e avaliação de dados. Foram apresentados os métodos e a compreensão ética dos marcos legais comumente utilizados para esses fins, bem como o desenho do fluxo de dados que pode ajudar a informar como as permissões são criadas e revogadas. Uma descrição da cuidadosa preparação e anotação de conjuntos de dados é necessária quando se discute o anonimato e a desidentificação no zelo pela privacidade, apontando tecnicamente as dificuldades. O volume de dados necessários para preparação do algoritmo de IA é muito alto e, portanto, a preparação desses dados deve ocorrer de forma segura e compartilhável com seus proprietários (pacientes). |
Criar uma relação de compartilhamento de dados envolve complexidade ética e de tecnologia da informação. O anonimato e a privacidade dos pacientes mantêm a confiança e protegem as entidades que buscam compartilhar dados com segurança. |
Green e colaboradores; 2021 17
|
Desenvolver ferramentas integradas em sistemas digitais de saúde para apoiar a tomada de decisão compartilhada e otimizar a preparação para o tratamento da doença renal crônica. |
Ensaio clínico randomizado |
Usando as ferramentas, 243 (24%) de 1.032 pacientes em quatro clínicas de nefrologia foram identificados com alto risco de evolução para insuficiência renal em dois anos. Especialistas em transição renal inscreveram 117 (48%) pacientes de alto risco até o final do primeiro ano de pesquisa. Enfermeiros usaram o aplicativo em 100% dos pacientes para documentar 287 etapas de planejamento da terapia renal substitutiva. Todos os especialistas em transição renal (100%) avaliaram a facilidade de uso e utilidade do instrumento, concordando ou concordando totalmente com todos os itens. |
Enfermeiros relataram que as ferramentas desenvolvidas facilitaram a identificação de pacientes que necessitam de apoio e suas atividades de navegação. Houve, ainda, a rápida identificação de pacientes que precisam de tomada de decisão compartilhada e informada e sua preparação para tratamentos de substituição renal. |
Martinho, Kroesen, Chorus; 2021 18
|
Obter informações sobre padrões de raciocínio e opiniões morais sobre IA em saúde de pessoas envolvidas na prática médica. |
Transversal |
Com base nas questões dos médicos sobre ética em torno da IA em saúde, quatro perspectivas principais foram identificadas: 1. A IA é uma ferramenta útil: permite que os médicos façam o que são treinados para fazer. 2. Regras e regulamentos são cruciais: as empresas privadas se preocupam apenas com dinheiro. 3. Ética é suficiente: as empresas privadas são confiáveis. 4. Ferramentas de IA explicáveis: o aprendizado é necessário e inevitável. Todas as perspectivas consideram que os médicos devem participar do processo de criação de tecnologias de IA em saúde, contribuindo para a explicabilidade. Médicos estão mais preocupados com o papel das grandes empresas na área da saúde e menos atentos ou preocupados com questões como equidade, preconceito e desigualdades em saúde. |
Cada perspectiva fornece insights valiosos e muitas vezes contrastantes sobre questões éticas que devem ser operacionalizadas e consideradas no desenho e desenvolvimento de IA em saúde. |
Shen e colaboradores; 2021 19
|
Analisar pesquisas de ressonância magnética (RM) altamente portáteis em ambientes internacionais remotos e com recursos limitados para criar orientação ética e legal em um cenário global complexo. |
Transversal |
É necessário assegurar que as comunidades locais sejam parceiras no empreendimento de pesquisa e garantir o valor social local do estudo. Os estudos de campo sobre RM precisam se responsabilizar pela segurança dos participantes e de todos ao seu redor. É importante prestar atenção às normas de privacidade e segurança de dados (locais e internacionais). É necessário identificar se a amostra na qual o modelo de IA foi treinado era diversa para que as previsões sejam mais precisas, considerando uma diversidade de fatores. Os resultados dos exames precisam ser divulgados aos participantes de forma esclarecedora e, em se tratando de achados incidentais, uma questão desafiadora é como fornecer suporte clínico e encaminhamento nessas comunidades remotas. |
Scanners de ressonância magnética mais acessíveis e portáteis oferecem oportunidades para abarcar as necessidades de pesquisa não atendidas e as iniquidades em saúde em ambientes internacionais remotos e com recursos limitados. As comunidades locais devem ser parceiras contínuas na cocriação do conhecimento. A pesquisa deve produzir valor local para justificar os riscos e minimizar a possibilidade de abuso. |
Spiegel, Barker, Kistnasamy; 2021 20
|
Descrever e avaliar a aplicação da IA no desenvolvimento de diagnósticos auxiliados por computador para apoiar a adjudicação mais eficiente de reivindicações para ex-mineradores de ouro com doença pulmonar ocupacional na África Austral. |
Transversal |
Os resultados foram correlacionados com os princípios bioéticos. Beneficência: a IA poderia fornecer um julgamento mais consistente do que vários profissionais com diferentes níveis de habilidade. Não maleficência: manter a privacidade e a segurança dos dados e evitar a infiltração de determinadas tendências nos sistemas de tomada de decisão. Autonomia: a IA pode levar a perdas na qualificação profissional, à medida que os profissionais passam a confiar mais na tecnologia. Protocolos devem ser estabelecidos e os profissionais, treinados para identificar falsos negativos ou falsos positivos. Justiça: quando a demanda do mercado é fraca por investimentos em IA e as instituições públicas não respondem ao seu uso, o fracasso em lidar com a tecnologia pode ser uma forma de manter as desigualdades. Isso destaca o uso oportuno de inovações para beneficiar aqueles que precisam. |
Os esforços para superar os desafios técnicos na aplicação da IA devem ser seguidos desde o início para garantir seu uso ético. |
Stahl e colaboradores; 2021 21
|
Capturar teoricamente e medir empiricamente os benefícios e as desvantagens da IA para o progresso humano, para além dos princípios do aprendizado de máquina, contrabalançar os benefícios técnicos e econômicos da IA e seus aspectos legais, sociais e éticos. |
Abordagem multidimensional |
O discurso ético da IA é discutido em três correntes: 1. Problemas relacionados à aplicação do ML: é difícil prever até que ponto os dados serão usados para a finalidade determinada – já que um perfil pessoal leva a uma classificação para fins diferentes da inicial. 2. Questões sociais e políticas emergentes em uma sociedade digital: esses sistemas exigem acesso a grandes quantidades de dados para fins de treinamento e validação, o que gera desconfiança relacionada a autonomia das máquinas, substituição de humanos por máquinas, injustiça na distribuição de custos e benefícios e controle de dados, além das consequências. 3. Questões metafísicas sobre a natureza da realidade e da humanidade: estas dizem respeito a quais máquinas devem ser autorizadas a decidir autonomamente. Consequências econômicas, emprego, justiça, liberdade, contato humano, autonomia individual, desigualdade, integridade, propriedade, uso militar, assimetria de poder, responsabilidade e sustentabilidade se enquadram nessa categoria. |
Atualmente, não há consenso entre as diversas abordagens de governança e segurança da informação. A legislação de direitos humanos pode resolver muitas questões sociais e éticas. A complexidade dos contextos e cenários é um fator que pluraliza as formas de abordá-los e permite que estudiosos ou profissionais mantenham uma visão geral. Atenção ao uso atual da IA e ML e, até certo ponto, aos sistemas sociotécnicos mais amplos. |