Inteligência artificial generativa e integridade científica

Resumo

A inteligência artificial generativa tem inegáveis benefícios, mas coloca importantes questões de natureza ética, tais como seu impacto na autonomia e responsabilidade individuais, na inclusão social, na identidade cultural, na segurança, na justa distribuição dos benefícios, na prestação de contas ou mesmo no ambiente. Neste artigo, pretende-se efetuar a ponte entre os inúmeros benefícios da inteligência artificial generativa para a medicina e para sociedade e, simultaneamente, efetuar uma reflexão, com consequentes recomendações, sobre uma inteligência artificial generativa ética, responsável e de confiança, sobretudo no que diz respeito ao modo como se faz ciência e a sua utilização no ensino e na pesquisa com total integridade científica e acadêmica, em um exercício claro de ética tecnológica antecipatória. Trata-se de desafio ético existencial criar regras claras para a utilização responsável da inteligência artificial generativa.

Palavras-chave:
Inteligência artificial; Bioética; Ciência; Medicina; Responsabilidade social; Confiança

Abstract

Generative artificial intelligence has undeniable benefits, but it raises important ethical questions, such as its impact on individual autonomy and responsibility, social inclusion, cultural identity, security, fair distribution of benefits, accountability, and even the environment. This article aims to bridge the gap between the numerous benefits of generative artificial intelligence for medicine and society and, at the same time, to reflect on and make recommendations for ethical, responsible, and trustworthy generative artificial intelligence, especially regarding how science is conducted and its use in teaching and research with complete scientific and academic integrity, in a clear exercise of anticipatory technological ethics. Creating clear rules for the responsible use of generative artificial intelligence is an existential ethical challenge.

Keywords
Artificial intelligence; Bioethics; Science; Medicine; Social responsibility; Trust

Resumen

La inteligencia artificial generativa tiene beneficios innegables, pero plantea importantes cuestiones de naturaleza ética, como su impacto en la autonomía y la responsabilidad individuales, la inclusión social, la identidad cultural, la seguridad, la distribución justa de los beneficios, la rendición de cuentas o incluso el medio ambiente. En este artículo se pretende tender un puente entre los innumerables beneficios de la inteligencia artificial generativa para la medicina y la sociedad y, al mismo tiempo, reflexionar, con las consiguientes recomendaciones, sobre una inteligencia artificial generativa ética, responsable y fiable, sobre todo en lo que respecta a la forma de hacer ciencia y su uso en la enseñanza y la investigación con total integridad científica y académica, en un claro ejercicio de ética tecnológica anticipatoria. Se trata de un desafío ético existencial crear reglas claras para el uso responsable de la inteligencia artificial generativa.

Palabras clave
Inteligencia artificial; Bioética; Ciencia; Medicina; Responsabilidad social; Confianza

Se é certo que a inteligência artificial (IA) está mudando decisivamente nossa vida coletiva, a inteligência artificial generativa (IAGen) é o exemplo mais visível dessa transformação. Diferentes sistemas de IA foram introduzidos há poucos anos no mercado global – de que o ChatGPT ou o DeepSeek são bons exemplos – e alteraram de forma irreversível o modo como se pensa, efetua e aplica o conhecimento científico em medicina e ciências biomédicas.

Se os benefícios da IAGen são inegáveis, essa tecnologia coloca importantes questões de natureza ética, como seu impacto na autonomia e responsabilidade individuais, na inclusão social, na identidade cultural, na segurança, na prestação de contas (accountability) ou mesmo no ambiente. Neste artigo, pretende-se efetuar a ponte entre os inúmeros benefícios da IAGen para a medicina e para sociedade e, simultaneamente, uma reflexão, com consequentes recomendações, sobre uma inteligência artificial generativa ética, responsável e de confiança, sobretudo no que diz respeito ao modo como se faz ciência e a sua utilização no ensino e na pesquisa com total integridade científica e acadêmica.

Inteligência artificial generativa no ensino e na pesquisa

A inteligência artificial generativa é um tipo de tecnologia que recorre a IA para criar conteúdos, incluindo texto, vídeo e imagem. A IAGen é “treinada” pela busca de padrões em largas quantidades de dados (dados de treino) para gerar novos conteúdos. Trata-se de tecnologia que mimetiza a inteligência humana em seu processo criativo e de predição de resultados, e que tende a evoluir sempre que treina com dados adicionais. Ou seja, aprende a aprender autonomamente, opera em modelos e algoritmos de IA que são treinados em coleções de dados não rotulados e demanda enorme poder computacional em sua aplicação. A IAGen, concretamente o ChatGPT, democratizou a utilização da IA na medida em que tornou fácil o acesso e manuseamento dessa tecnologia nos mais diferentes domínios de atividade ¹.

Como referido, alguns exemplos generalizados de IAGen são ChatGPT, DeepSeek, Claude, Gemini e DALL-E. Como se trata de modelos de aprendizagem profunda (deep learning) que se baseiam em dados de treino fornecidos, colocam-se importantes questões éticas ². A IAGen assume, frequentemente, a forma de “inteligência conversacional”, ou seja, de ferramenta que se comunica com seres humanos de forma mais eficiente, espontânea e natural. Trata-se de diálogo com conversação recíproca – perguntas e repostas –, que, associada a tecnologia generativa, pode aumentar significativamente a eficiência e a disseminação da pesquisa e do conhecimento. Deve ficar claro que a responsabilidade pelos resultados da pesquisa e sua aplicação é dos investigadores, não sendo legítimo, pelo menos por agora, responsabilizar a IAGen por essas consequências ³.

Pelo seu impacto ético, a IAGen recorre progressivamente a dados sintéticos – dados produzidos com recurso a IA –, podendo ser uma solução para ultrapassar a impossibilidade de anonimização e pseudonimização de dados pessoais. Assim, a IA pode se tornar mais robusta e confiável, permitindo total proteção de dados pessoais sensíveis ⁴.

As aplicações da IAGen na medicina – como na prática clínica – são ilimitadas ⁵, mas o foco deste artigo é o modo como se faz ciência e como se ensina e transmite conhecimento científico. De fato, a IAGen está, na medicina e na ciência, transformando subitamente o modo como se ensina, aprende e investiga ⁶. Para além de seu impacto já visível no modo como se desenvolve qualquer profissão, deve apreciar-se essa tecnologia com o necessário espírito crítico para que seja utilizada para otimizar o modo como se desenvolvem pesquisas, como se educam estudantes e como profissionais adquirem competências específicas.

Porém, deve ter-se em atenção que um chatbot – ou seja, um software específico que pode manter uma conversa em qualquer idioma – é ativado por um prompt criado pelo utilizador, isto é, uma afirmação ou uma pergunta em linguagem corrente, que gera uma resposta. Essa resposta, no idioma do interlocutor, é obtida por sofisticados métodos estatísticos, mas apresenta diferentes problemas, ainda que as novas versões das ferramentas sejam bem mais sofisticadas.

Em termos coloquiais, a IAGen é uma inteligência artificial “conversacional”, dados o domínio da linguagem, em qualquer idioma, e a capacidade de responder proativamente às questões formuladas nos prompts, que a tornam muito atrativa, mas também problemática ³. Apesar de fenômenos de dependência entre a IAGen e humanos, já em avaliação (está comprovado o desenvolvimento de afetividade dos utilizadores por sistemas de IA, com inegável impacto na saúde mental), a ferramenta é excelente por originar uma série de oportunidades que devem ser aproveitadas.

Oportunidades não apenas em sentido estrito de avanço do conhecimento científico, mas em sentido lato. Por exemplo, por contribuir para maior inclusão de homens e mulheres no acesso e utilização das modernas tecnologias de informação e comunicação; isso, contudo, parece que está longe de ser totalmente concretizado. De fato, parece existir dupla narrativa: por um lado, a promessa de que a IA vai contribuir para maior liderança das mulheres em todas as atividades alavancadas pela tecnologia; e, por outro, disparidades reais de gênero nas posições de liderança e responsabilidade na investigação com IA ⁷.

Mais ainda, a IAGen, ao recorrer generalizadamente a padrões de viés devido a uma já enviesada recolha de dados de treino, pode criar novas formas de “divisão digital” com base no gênero ou no estrato socioeconômico ⁸. Mais do que isso, essa divisão digital pode ter importantes contornos geracionais, pois as novas gerações (alfa e beta) terão total imersão e dependência das novas tecnologias em comparação às gerações anteriores, que apresentam significativa exclusão digital.

A “personalização” do contato, nomeadamente no ensino médico, deve ser potenciada sobretudo em um ambiente médico onde profissionais têm pouco tempo para investigar e para ensinar os mais jovens e por isso recorrem frequentemente a métodos telemáticos de comunicação ⁹. Por outro lado, a reflexão crítica pode ser estimulada com a enunciação de questões científicas não consideradas previamente e a conjugação da informação disponível na internet com informações e dados especificamente fornecidos pelos investigadores. Trata-se, como veremos, de uma faca de dois gumes, uma vez que essa agilização pode diminuir consideravelmente a criatividade científica ou, pelos menos, a percepção de sua necessidade.

Na ciência e no ensino, a IAGen é excelente para traduzir textos e escrever trabalhos. Mas com duas consequências: a total erosão da confidencialidade de dados, que passam a estar partilhados em tempo real com toda a comunidade científica e acadêmica, e a diminuição quase absoluta da escrita manual. Note-se que escrever à mão estimula diretamente partes específicas do cérebro conectadas a criatividade e coordenação, assim como estimula o pensamento lógico. Por isso sugere-se que no ensino básico e no superior se retome pelo menos em parte a escrita manual, para um desenvolvimento harmonioso da mente humana, e mesmo para a preservação do essencial da cultura e da civilização humanas.

Com essas condicionantes, não restam dúvidas de que a IAGen pode contribuir para a pesquisa de informação e seu resumo estruturado, ou para o desenvolvimento de conteúdos pedagógicos úteis a professores (preparação de materiais para utilização em problemas, planos de aula, relatórios, diapositivos, questões para discussão ou perguntas de exame etc.), e de apoio a estudantes (flashcards, resumos, propostas de questões sobre conteúdos etc.).

Em síntese, algumas das formas positivas e aceitáveis de usar a IAGen são:

1. brainstorming de ideias por meio de prompts;

2. ajuda no raciocínio lógico e obtenção de explicações sobre perguntas e conceitos difíceis, incluindo nos prompts as principais referências da temática em questão para obter respostas mais fidedignas;

3. auxílio a superar o bloqueio criativo por meio do diálogo interativo com a IAGen;

4. autotutoria por meio de conversação com a IAGen;

5. aulas colaborativas entre docentes e estudantes, favorecendo uma aprendizagem ativa com a partilha de prompts;

6. criação de questões práticas e autotestes;

7. organização e resumo de anotações pessoais;

8. planejamento e auxílio na estrutura de um trabalho;

9. ajuda na gramática, ortografia, escrita e tradução de textos;

10. resumo de texto, artigo ou livro (tendo em atenção os direitos de autor).

Porém, com vista à implementação generalizada de uma IAGen ética, responsável e de confiança, deve-se ter em atenção alguns riscos potencialmente disruptivos:

1. A resposta ao prompt pode incluir vieses, distorções/“alucinações”, deturpações e plágio, a depender não apenas do tipo de algoritmo (que tende a ser aprimorado com as novas versões), mas sobretudo dos dados de treino.

2. Potencializam-se a fraude acadêmica e científica, nomeadamente de plágio, pela reprodução de matéria criada por outros autores, e a retenção da informação pelo chatbot (prompts e conteúdos), que pode ser reutilizada em resposta a outros autores. Autores, editores e revisores devem estar cientes da possibilidade de aumento do risco de plágio com sua utilização ¹⁰. Os direitos autorais e a prevenção de plágio são alguns dos principais dilemas éticos da IAGen.

3. A geração de conhecimento por IAGen pode disseminar falsa informação e contribuir para a desinformação da sociedade a propósito do conhecimento científico e dos resultados da pesquisa – por exemplo, no caso das vacinas ou de hábitos alimentares. Garantir a verificabilidade, fiabilidade e veracidade da informação é fundamental.

4. A possibilidade de a ferramenta ser treinada com dados adaptados a determinada cultura e grupo populacional gera potenciais efeitos perversos para outras culturas. Mesmo no interior de uma sociedade específica, como o Brasil ou a União Europeia, a IAGen pode agravar as desigualdades se não for utilizada adequadamente. Por exemplo, a medicina personalizada tende a ser desenvolvida com foco em determinados grupos populacionais – desde logo, populações caucasianas. Daí a importância do controle e da supervisão do fluxo de informação.

5. A quebra de confidencialidade e a falta de proteção da privacidade de trabalho original não publicado, bem como a partilha de dados pessoais dos investigadores pelas empresas de IAGen a terceiras partes, mesmo com fins comerciais ¹¹, suscitam importantes questões éticas relacionadas à segurança e proteção dos dados e ao inevitável recurso dos cidadãos a seu legítimo “direito ao esquecimento”, ou seja, o direito de solicitar o apagamento de seus dados pessoais dos sistemas digitais ¹².

6. A rápida evolução para sistemas totalmente autônomos, associada à falta de compreensão de seu método de atuação (black box) pela falta de explicabilidade da IA, pode originar falta de efetiva supervisão humana de sua atuação e da necessária replicabilidade e reprodutibilidade da pesquisa científica e, assim, da confirmação de sua validade. A rápida evolução dos robôs humanoides totalmente autônomos será um dos grandes desafios da humanidade, pela enorme capacidade intelectual de que se revestem e pelo nível de agência e de intencionalidade potenciais ¹³.

7. O estímulo ao isolamento social dos utilizadores, com desenvolvimento de empatia e afetividade pelos sistemas de IA, pode ter sérias repercussões no plano da interação social e da solidariedade entre as gerações. Sobretudo a “geração beta” (2025-2039), com elevados níveis de imersão e elevada dependência das novas tecnologias digitais, será afetada pela IAGen, com previsível e forte impacto na evolução da civilização humana.

8. A possibilidade de atribuir personalidade jurídica à IA, e mesmo personalidade moral ¹⁴, origina uma diluição de responsabilidade pela utilização das modernas tecnologias digitais. É fundamental começar a desenhar um novo quadro jurídico de atribuição de responsabilidade pelas consequências da utilização de IAGen, proporcional a seu nível de autonomia.

9. É necessária regulação legal internacional, por exemplo, pela generalização do AI Act, o regulamento da União Europeia sobre inteligência artificial ¹⁵, que inclua o impacto da IAGen na sustentabilidade ambiental e na Uma Só Saúde (One Health).

10. A possibilidade de agravar as desigualdades sociais no nível da comunidade ou mesmo no plano global ¹⁶ contribui para a exclusão social, sendo previsível nova forma de desigualdade intergeracional dado que gerações mais velhas não têm a mesma literacia digital em IA.

O que fazer, então? Por um lado, promover a literacia de toda a comunidade acadêmica e científica e a necessária atualização em competências digitais. Essa estratégia contribui para a digitalização do ensino e para a promoção de ambientes imersivos de aprendizagem. Ou seja, pretende-se que pesquisadores, professores e estudantes aprendam a aprender, aprendam a perguntar e aprendam a criticar, isto é, a desenvolver um espírito crítico, individual e coletivo. Algumas questões necessitam de novo enquadramento ético à luz dos tradicionais princípios da integridade científica e acadêmica.

Desde logo, convém esclarecer uma questão central na interface entre IAGen, pesquisa e publicação científica, que é o conceito de autor de trabalho ou da publicação dos resultados da pesquisa. De acordo com o Comitê Internacional de Editores de Revistas Médicas ¹⁷, devem aplicar-se, cumulativamente, os seguintes critérios para um pesquisador ser considerado autor: a) contribuições substanciais para a concepção ou desenho da obra, ou a aquisição, análise ou interpretação de dados para o trabalho; b) elaboração do trabalho ou sua revisão crítica quanto a conteúdo intelectual importante; c) aprovação final da versão a ser publicada; e d) acordo para ser responsável por todos os aspectos do trabalho, o qual garanta que questões relacionadas a precisão ou integridade de qualquer parte deste sejam adequadamente investigadas.

Seguidamente, vai apresentar-se o contexto internacional das boas práticas de ética e integridade na pesquisa científica e na educação médica, e uma ponte será efetuada entre esses princípios e a generalização da utilização da inteligência artificial generativa.

Ética, pesquisa e tecnologia digital

A ciência, nomeadamente na pesquisa em medicina e biomedicina, tem conseguido atingir todas as fronteiras tecnológicas, o que levanta a questão de quais deveriam ser seus limites éticos e sociais ¹⁸. É verdade que o espírito da ciência é contribuir para a situação da humanidade e permitir que pessoas em todo o mundo tenham acesso aos benefícios da evolução científica. Ainda assim, não há dúvida de que, em muitos contextos diferentes, e em nível global, cientistas têm sistematicamente desconsiderado princípios éticos inerentes à condição humana.

Portanto, não é surpreendente que nas últimas décadas, especialmente após os julgamentos de Nüremberg, convenções relevantes tenham sido proclamadas internacionalmente por diferentes instituições políticas ¹⁹ mas partilhando os mesmos ideais: preservar os valores fundamentais da humanidade, promover direitos humanos e a dignidade humana, proteger o ambiente e, obviamente, promover o ideal de que os interesses da pessoa devem sempre prevalecer sobre os interesses da ciência. A Declaração de Helsinki, da Associação Médica Mundial ²⁰, a Convenção do Conselho da Europa sobre Direitos Humanos e Biomedicina ²¹ ou a Declaração Universal sobre Bioética e Direitos Humanos, da Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco) ²², são alguns exemplos da necessidade de regulamentação internacional da ciência e da investigação médica.

Todos esses instrumentos, sem exceção, sugerem princípios éticos que devem ser universalmente respeitados, os quais podem ser assim resumidos: respeito pelas pessoas e necessidade de consentimento livre e informado; proteção de pessoas incompetentes, nomeadamente crianças (na obtenção de consentimento do menor, sua opinião deve ser tomada em consideração em função de sua idade e de seu grau de maturidade) ²³ e pacientes psiquiátricos (consentimento pelo legítimo representante, testamento vital etc.); o imperativo ético de maximizar benefícios e minimizar danos (beneficência e não maleficência); direito a privacidade e confidencialidade; justiça e equidade no acesso a cuidados de saúde e a benefícios de ensaios clínicos; responsabilização dos pesquisadores e das instituições que prestam cuidados de saúde; e responsabilidade dos comitês de ética.

É evidente que muitos dilemas éticos estão relacionados a tecnologias de ponta, como a edição do genoma humano e melhoramento genético, medicina de precisão, biologia sintética e muitos outros programas científicos que podem confrontar a própria natureza humana, em áreas que hoje se desenvolvem em total interdependência com a IA. De fato, existe a tendência de compartimentar a ciência em áreas específicas, mas todas têm profundas interconexões. O conceito de redes neuronais é exemplo paradigmático: sendo proveniente das neurociências, é hoje determinante na inteligência artificial. Por outro lado, podem surgir dilemas éticos em ensaios clínicos, nomeadamente em projetos de investigação multicêntricos conduzidos por empresas farmacêuticas transnacionais com o objetivo de desenvolver medicamentos inovadores e revolucionários.

E como deve a humanidade lidar com esses desafios éticos? Qual seria a resposta ética da medicina a tais dilemas, nomeadamente em uma sociedade secular e pluralista? Na verdade, diferentes concepções do bem são aceitáveis, desde que potenciais conflitos de interesse dos cientistas sejam claramente declarados e que estes ajam em coerência com os princípios éticos e legais, principalmente aqueles consensualizados pela comunidade internacional.

Embora a regulação ética da ciência tenha diferentes formas, não há dúvida de que a autorregulação é fundamental, especialmente a integridade pessoal e profissional. Existe a necessidade crescente de promover a integridade como valor ético fundamental, tanto na formação médica como ao longo da vida profissional. A integridade deve ser valorizada, perseguida e promovida como valor ético e social. Os comitês de ética e as organizações profissionais que regulam a prática profissional devem estar particularmente conscientes da importância da integridade na ciência, e deve existir tolerância zero para comportamentos desviantes.

A partilha global dos benefícios da ciência (open science) e a promoção da integridade de cientistas e instituições poderão implicar uma estratégia global, porque a ciência é impulsionada por organizações multinacionais, nomeadamente empresas farmacêuticas, e sobretudo quando se sabe que existem problemas globais que exigem respostas globais (como no caso de pandemias) e a IAGen pode ser excelente ferramenta para concretizar este objetivo ²⁴. Assim, só entidades reguladoras verdadeiramente independentes podem defender o interesse público e os direitos individuais, em especial os direitos dos mais vulneráveis.

As violações da integridade podem ter muitas faces diferentes: fabricação de dados ou comunicação de resultados falsos, falsificação de materiais de investigação ou alteração ou omissão de dados e até plágio, induzidos por ganhos financeiros, progressão na carreira ou pressão institucional. As revistas científicas deveriam, portanto, promover diretrizes mais rigorosas na avaliação, publicação e acompanhamento das pesquisas publicadas, sobretudo com a implementação generalizada da IAGen.

Como o objetivo central da ciência é a busca pelo bem comum, a seleção de revisores para artigos científicos é também enorme tarefa para as revistas científicas, porque qualquer proposta de investigação deve ser avaliada em sua dimensão ética e as verdadeiras autorias devem ser valorizadas pelos editores. Mais uma vez, a tolerância zero deve ser a regra, nomeadamente com o plágio e a manipulação de dados ou de resultados.

Todas essas questões éticas e legais são exponenciadas pela IAGen, de modo que é necessário reinventar os processos de supervisão e de acompanhamento para que a exigível replicabilidade dos estudos (a capacidade de uma investigação independente alcançar conclusões similares, ainda que não idênticas, quando existem diferenças na amostra, procedimentos de investigação e métodos de análise de dados) seja uma realidade insuscetível de ser questionada em suas conclusões ²⁵.

A replicabilidade ²⁶, a reprodutibilidade ²⁷ e a interpretabilidade devem ser reapreciadas para que a natureza fiduciária entre ciência e sociedade não seja questionada. Também a perigosa diminuição dos níveis de liberdade no planejamento, a realização e análise dos estudos científicos ²⁸, a progressiva mercantilização da ciência, a exigência de critérios por parte do peer review que objetivamente limitam a criatividade intelectual podem ser exponenciadas no futuro pela IAGen.

São necessários mecanismos rigorosos de responsabilização da comunidade científica sobre essas práticas, nomeadamente a divulgação pública dos cientistas e centros de investigação que se envolvem nelas. Mas a regulação ética da ciência deveria ir ainda mais longe. Por exemplo, o processo de revisão por pares não deve apenas ser justo e transparente, mas também assegurar a confidencialidade absoluta da investigação submetida para revisão. Portanto, quaisquer conflitos de interesse tanto de pesquisadores quanto de revisores são de extrema importância – em especial, a influência indevida de empresas farmacêuticas que procuram obter lucros (legítimos) após enormes investimentos em investigação.

Na verdade, o custo total de desenvolvimento de um novo fármaco em 2024, da concepção à comercialização, incluindo medicamentos biológicos, foi em média de 2,23 bilhões de dólares para a Big Pharma ²⁹, nos Estados Unidos. Embora não deva ser questionada a responsabilidade social corporativa das empresas farmacêuticas, porque preenchem importante lacuna global na pesquisa farmacêutica, é expectável (embora não desejável) que, por vezes, a maximização do lucro seja uma razão para alguns cientistas superarem seus deveres éticos.

A ética na ciência é sempre tarefa inacabada. Só um esforço conjunto das escolas médicas, das associações profissionais, dos organismos reguladores internacionais e, especialmente, da integridade pessoal dos investigadores pode tranquilizar a sociedade de que o éthos da ciência será sempre o respeito pela pessoa humana e pela comunidade da vida.

Mas o advento da IAGen tem o potencial de afetar a confiabilidade da ciência e da investigação e a integridade acadêmica de cientistas e instituições. Como na medicina, o objetivo final de sua implementação é ajudar cientistas a serem ainda melhores ³⁰. O fato de, inicialmente, a IAGen ser treinada apenas com informação livremente disponível na internet tornava possível que as respostas aos prompts fosse enviesada pela qualidade (e eventual falta de veracidade) dessa mesma informação. Porém, sistemas mais recentes de IA têm outro nível de fiabilidade e conseguem até selecionar com alguma autonomia a informação pretendida, sendo difícil de verificar a validade dos dados obtidos. Mesmo em face de evidentes fenômenos de “alucinação” da IAGen, nos quais as respostas estão manifestamente erradas, existe apenas uma capacidade limitada de a IA corrigir essa reposta ³¹.

Assim, é necessário implementar desde a juventude intensas campanhas de literacia digital (digital literacy), isto é, a capacidade de um indivíduo de identificar, compreender, interpretar, criar e comunicar recorrendo a tecnologias digitais, incluindo plataformas de comunicação digital, como as redes sociais, mas também telemóveis, sistemas de casas inteligentes etc. ³²

Trata-se da interseção de competências tecnológicas e cognitivas para processar e partilhar informação. Pensamento crítico e criatividade são essenciais para uma literacia digital avançada. Trata-se de termo expansivo, mas que inclui, necessariamente, o uso efetivo de tecnologia digital (incluindo o recurso a IAGen) e o conhecimento e desenvolvimento de competências para sua utilização responsável e segura ³³.

Na saúde e na pesquisa, literacia digital é de importância crescente, como na utilização do registro eletrônico de saúde, telemedicina, prescrição digital de medicamentos, ou apps relacionados a saúde, exercício físico ou alimentação. Por sua importância na vida diária das pessoas, é recomendável que literacia digital seja considerada competência fundamental na educação de crianças e jovens não apenas por sua componente tecnológica, mas também por seu impacto ético-social.

De fato, e seguindo a visão de Lawrence Kohlberg ³⁴ sobre os estágios de desenvolvimento moral, é fundamental que a aquisição de competências digitais e o conhecimento de seu impacto na comunidade se iniciem o mais brevemente possível na infância e adolescência, de modo que a mente humana, desde as fases mais precoces de formação da personalidade, integre o manuseamento da tecnologia digital de forma tanto natural como responsável.

A utilização da IAGen na produção de conhecimento e na publicação de resultados é seguramente uma das áreas que mais necessitam de literacia aprofundada, para garantir também na pesquisa científica elevados níveis de integridade e de compromisso acadêmico. Regras estritas devem existir para que estudantes, pesquisadores e cientistas saibam utilizar IAGen ética e integramente. A esse propósito, a Associação Mundial de Editores Médicos apresenta as seguintes diretrizes ³⁵:

1. Os chatbots não podem ser autores.

2. Os autores devem ser transparentes quando usam chatbots e devem fornecer informações sobre como eles foram usados:

   • os autores que enviarem artigo no qual um chatbot/IA foi usado para redigir um texto novo devem anotar tal uso nos agradecimentos; todos os prompts usados para gerar novo texto ou para converter texto ou prompts de texto em tabelas ou ilustrações devem ser especificados;

   • quando uma ferramenta de IA, como um chatbot, é usada para realizar ou gerar trabalho analítico, ajudar a relatar resultados (por exemplo, gerando tabelas ou figuras) ou escrever códigos de computador, isso deve ser declarado no corpo do artigo, tanto no resumo como na secção dos métodos. Para permitir o escrutínio científico, incluindo a replicação e a identificação de falsificações, devem ser fornecidas indicações completas sobre os prompts utilizados para gerar os resultados da investigação, a hora e a data da consulta, bem como a ferramenta de IA usada e sua versão.

3. Os autores são responsáveis pelo material fornecido por um chatbot para seu artigo (incluindo a exatidão do que é apresentado e a ausência de plágio) e pelo reconhecimento adequado de todas as fontes (incluindo as fontes originais do material gerado pelo chatbot).

4. Os editores e revisores devem especificar aos autores e entre si próprios qualquer uso de chatbots na avaliação do manuscrito e na geração de revisões e correspondência. Se utilizarem chatbots em suas comunicações com os autores e entre si, devem explicar como foram utilizados.

5. Os editores devem dispor de ferramentas apropriadas para ajudá-los a detectar conteúdos gerados ou alterados por IA, as quais devem ser disponibilizadas aos editores, independentemente de sua capacidade para pagá-las, para benefício da ciência e do público em geral, e para ajudar a garantir a integridade da informação sobre cuidados de saúde e reduzir o risco de resultados negativos para a saúde.

Considerações finais

Apesar dos inúmeros benefícios para a medicina e a ciência, a inteligência artificial generativa evoca questões ético-sociais da maior importância, que devem ser pensadas. E, sobretudo, deve existir a capacidade de se traçar diferentes cenários para o futuro da humanidade em um exercício claro de ética tecnológica antecipatória. Não se trata de restringir o avanço da ciência ou de limitar a utilização dessas ferramentas digitais, mas, antes, de perceber sua evolução, prever seu impacto e antecipar soluções justas e equitativas.

A disseminação de conteúdos prejudiciais para pessoas e organizações é um dos exemplos que importam prevenir, assim como a violação da privacidade de dados, intencional ou negligente, que pode divulgar matéria sensível e confidencial. No plano estritamente científico, a amplificação de vieses já existentes pode condicionar os métodos e resultados de determinado estudo e perpetuar erros que se multiplicam exponencialmente.

Trata-se, portanto, de desafio ético existencial criar regras claras para uma utilização responsável da IAGen, as quais sejam aplicáveis a estudantes, pesquisadores, médicos e outros profissionais, de modo que a inteligência artificial seja sempre considerada não apenas de confiança, mas, sobretudo, uma ferramenta que ajuda as pessoas em sua vida cotidiana, em seu emprego e no desenvolvimento coletivo.

Referências

• ¹ The Economist Intelligence Unit Limited. Why AI matters: opportunities, risks and regulation. London: EIU; 2023.
• ² Stahl B, Eke D. The ethics of ChatGPT: exploring the ethical issues of an emerging technology. Int J Inf Manage [Internet]. 2024 [accesso 12 jan 2025];74:102700. DOI: 10.1016/j.ijinfomgt.2023.102700
  » https://doi.org/10.1016/j.ijinfomgt.2023.102700
• ³ Gottlieb M, Kline JA, Schneider AJ, Coates WC. ChatGPT and conversational artificial intelligence: friend, foe, or future of research? Am J Emerg Med [Internet]. 2023 [accesso 15 Set 2024];70:81-3. DOI: 10.1016/j.ajem.2023.05.018
  » https://doi.org/10.1016/j.ajem.2023.05.018
• ⁴ Kokosi T, Harron K. Synthetic data in medical research. BMJ Medicine [Internet]. 2022 [accesso 12 set 2024];1(1):e000167. DOI: 10.1136/bmjmed-2022-000167
  » https://doi.org/10.1136/bmjmed-2022-000167
• ⁵ Goh E, Gallo RJ, Strong E, Weng Y, Kerman H, Freed JA et al. GPT-4 assistance for improvement of physician performance on patient care tasks: a randomized controlled trial. Nature Medicine [Internet]. 2025 [accesso 4 Jul 2025];31:1233-8. DOI: 10.1038/s41591-024-03456-y
  » https://doi.org/10.1038/s41591-024-03456-y
• ⁶ Eriksen A, Moller S, Ryg J. Use of GPT-4 to diagnose complex clinical cases. NEJM AI [Internet]. 2023 [accesso 12 set 2024];1(1). DOI: 10.1056/AIp2300031
  » https://doi.org/10.1056/AIp2300031
• ⁷ Nedungadi P, Ramesh M, Govindaraju V, Rao B, Berbeglia P, Raman R. Emerging leaders or persistent gaps? Generative AI research may foster women in STEM. Int J Inf Manage [Internet]. 2024 [accesso 28 dez 2024];77:102785. DOI: 10.1016/j.ijinfomgt.2024.102785
  » https://doi.org/10.1016/j.ijinfomgt.2024.102785
• ⁸ European Commission. 2nd Live Webinar of the Thematic Network Navigating Health Inequalities in the EU through Artificial Intelligence [Internet]. Brussels: EU Health Policy Platform; 2023. Disponível: https://bit.ly/4ujiHRN
  » https://bit.ly/4ujiHRN
• ⁹ Yu H, Zhou Z. Optimization of IoT-based artificial intelligence assisted telemedicine health analysis system. IEEE [Internet]. 2021 [accesso 12 set 2024];9:85035-48. DOI: 10.1109/ACCESS.2021.3088262
  » https://doi.org/10.1109/ACCESS.2021.3088262
• ¹⁰ Appel G, Neelbauer J, Schweidel DA. Generative AI has an intellectual property problem [Internet]. Brighton: Harvard Business Review; 2023 [acesso 17 set 2024]. Disponível: https://bit.ly/4bLFQ7V
  » https://bit.ly/4bLFQ7V
• ¹¹ Thorbecke C. Don't tell anything to a chatbot you want to keep private [Internet]. New York: CNN Business; 2023 [acesso 17 set 2024]. Disponível: https://tinyurl.com/2zcu4w65
  » https://tinyurl.com/2zcu4w65
• ¹² Correia M, Rego G, Nunes R. Gender transition: is there a right to be forgotten? Health Care Anal [Internet]. 2021 [acesso 17 set 2024];29:283-300. DOI: 10.1007/s10728-021-00433-1
  » https://doi.org/10.1007/s10728-021-00433-1
• ¹³ Nuñez M. Anthropic just analyzed 700,000 Claude conversations - and found its AI has a moral code of its own [Internet]. San Francisco: VentureBeat; 21 abr 2025 [acesso 10 jul 2025]. Disponível: https://tinyurl.com/2u3fxw2f
  » https://tinyurl.com/2u3fxw2f
• ¹⁴ Jones N. How should we test AI for human-level intelligence? OpenAI's o3 electrifies quest. Nature [Internet]. 14 jan 2025 [acesso 7 abr 2025];637(8047):774-5. DOI: 10.1038/d41586-025-00110
  » https://doi.org/10.1038/d41586-025-00110
• ¹⁵ AI Act [Internet]. Brussels: European Commission; 2024 [acesso 17 set 2024]. Disponível em: https://bit.ly/4r6Hl53
  » https://bit.ly/4r6Hl53
• ¹⁶ Nunes R, Rego G, Melo H, Nunes S, Duarte I. Perspectives in gender equality. Basel: MDPI Books [Internet]. 2025 [accesso 28 dez 2024]. Disponível: https://bit.ly/3NsItCk
  » https://bit.ly/3NsItCk
• ¹⁷ Defining the role of authors and contributors [Internet]. Philadelphia: ICMJE; 2025 [acesso 8 jul 2025]. Disponível: https://bit.ly/4ucNAaq
  » https://bit.ly/4ucNAaq
• ¹⁸ Nunes R. Ethics in science. Porto Biomed J [Internet]. 2017 [acesso 17 set 2024];2(4):97-8. DOI: 10.1016/j.pbj.2017.04.001
  » https://doi.org/10.1016/j.pbj.2017.04.001
• ¹⁹ Nunes R. Bioética. Brasília: CFM; 2022.
• ²⁰ Declaration of Helsinki [Internet]. Ferney-Voltaire: WMA; 2024 [acesso 9 jan 2025]. Disponível: https://bit.ly/ 4lv7wl3
  » https://bit.ly/ 4lv7wl3
• ²¹ Conselho da Europa. Convenção para a Proteção dos Direitos Humanos e Dignidade do Ser Humano no que se refere à Aplicação da Biologia e da Medicina. Estrasburgo: Conselho da Europa; 1996.
• ²² Unesco. Declaração Universal sobre Bioética e Direitos Humanos. Paris: Unesco; 2005.
• ²³ Nunes R. Declaração de voto - 6/XVI/1 que regulamenta os ensaios clínicos de medicamentos para uso humano. Lisboa: Conselho Nacional de Ética para as Ciências da Vida; 31 jan 2025.
• ²⁴ Akbarialiabad H, Amini H, Shaterzadeh-Yazdi MJ, Jamali S, Almasi-Hashiani A, Abbasi-Kangevari M et al. The utility of generative AI in advancing global health. NEJM AI [Internet]. 2025 [acesso 9 abr 2025];2(3). DOI: 10.1056/AIp2400875
  » https://doi.org/10.1056/AIp2400875
• ²⁵ Ioannidis JPA. Why replication has more scientific value than original discovery. Behav Brain Sci [Internet]. 2018 [acesso 17 set 2024];41:e137. DOI: 10.1017/s0140525x18000729
  » https://doi.org/10.1017/s0140525x18000729
• ²⁶ National Academies of Sciences, Engineering, and Medicine. Reproducibility and replicability in science. Washington, DC: National Academies Press; 2019.
• ²⁷ Baker M. 1,500 scientists lift the lid on reproducibility. Nature [Internet]. 2016 [acesso 17 set 2024];533(7604):452-4. DOI: 10.1038/533452a
  » https://doi.org/10.1038/533452a
• ²⁸ Wicherts JM, Veldkamp CLS, Augusteijn HEM, Bakker M, van Aert RCM, van Assen MALM. Degrees of freedom in planning, running, analyzing, and reporting psychological studies: a checklist to avoid p-hacking. Front Psychol [Internet]. 2016 [acesso 17 set 2024];7:1832. DOI: 10.3389/fpsyg.2016.01832
  » https://doi.org/10.3389/fpsyg.2016.01832
• ²⁹ Deloitte Centre for Health Solutions. Be brave, be bold: measuring the return from pharmaceutical innovation. 15th ed. London: Deloitte; 2025.
• ³⁰ Ahuja AS. The impact of artificial intelligence in medicine on the future role of the physician. PeerJ Life Environ [Internet]. 2019 [acesso 12 set 2024];10:e7702. DOI: 10.7717/peerj.7702
  » https://doi.org/10.7717/peerj.7702
• ³¹ Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med [Internet]. 2023 [acesso 12 set 2024];388(13):1233-9. DOI: 10.1056/NEJMp2302580
  » https://doi.org/10.1056/NEJMp2302580
• ³² European Comission. Empowering learners for the age of AI: an AI literacy framework for primary and secondary education. Brussels: European Comission; 2025.
• ³³ Nunes R, Nunes SB. Reliable artificial intelligence: the 18th Sustainable Development Goal. J Ethics Leg Technol [Internet]. 2024 [acesso 9 abr 2025];6(2):5-20. DOI: 10.14658/pupj-JELT-2024-2-2
  » https://doi.org/10.14658/pupj-JELT-2024-2-2
• ³⁴ Kohlberg L. Essays on moral development. San Francisco: Harper & Row; 1987.
• ³⁵ Zielinski C, Winker MA, Aggarwal R, Ferris LE, Heinemann M, Lapeña Jr JF et al. Chatbots, ChatGPT, and scholarly manuscripts: WAME recommendations on ChatGPT and chatbots in relation to scholarly publications [Internet]. WAME; 2023 [acesso 7 jul 2025]. Disponível: https://bit.ly/409sg7Z
  » https://bit.ly/409sg7Z

• Disponibilidade de dados:
  Todos os dados utilizados ou gerados na pesquisa estão integralmente descritos e apresentados no corpo do artigo.

Editado por

• Editora responsável:
  Dilza Teresinha Ambrós Ribeiro

Disponibilidade de dados

Todos os dados utilizados ou gerados na pesquisa estão integralmente descritos e apresentados no corpo do artigo.

Datas de Publicação

• Publicação nesta coleção
  05 Jun 2026
• Data do Fascículo
  2026

Histórico

• Recebido
  25 Jun 2025
• Revisado
  22 Jan 2026
• Aceito
  24 Jan 2026