Primazia da dimensão utilitária e recuo crítico: inteligência artificial generativa e os valores em disputa na ciência

Primacía de la dimensión utilitaria y retroceso crítico: inteligencia artificial generativa y valores en disputa en la ciencia

Resumo:

Este editorial visa compartilhar o percurso formativo trilhado pelo corpo editorial da revista “Ensaio Pesquisa em Educação em Ciências” sobre a Inteligência Artificial Generativa (IAGen). Além disso, ao evidenciar os fundamentos adotados, os questionamentos suscitados e as contradições observadas, convidamos a comunidade para um diálogo aberto e crítico sobre IAGen e o fazer das ciências. Mobilizamos discursos, posicionamentos e controvérsias apresentadas nacional e internacionalmente e, a partir de fundamentos críticos, buscamos expor as contradições inerentes ao processo produtivo, à apropriação, à distribuição e aos usos e discursos associados a essa tecnologia. Propõe-se enfatizar os riscos relacionados ao uso da IAGen, incluindo ilicitude, desconformidade, ilegitimidade, implausibilidade e acriticidade. Ao nos posicionarmos criticamente com relação ao uso da IAGen para produção acadêmica, reconhecemos sua natureza complexa, intrincada e carente de produções na área de educação em ciências. Tal posicionamento aspira estimular a construção de coletivos e contextos formativos no campo da educação em ciências que promovam aprofundamentos, produções e críticas pertinentes.

Palavras-chave:
educação em ciências; ética científica; integridade científica; risco; tecnologia

Abstract:

This editorial aims to share the formative path taken by the editorial board of the journal Ensaio: Research in Science Education on generative artificial intelligence (GenAI). In addition, by highlighting the foundations adopted, the questions raised, and the contradictions observed, we invite the community to an open and critical dialogue about GenAI and scientific practice. We mobilize discourses, positions, and controversies presented nationally and internationally, and, based on critical theories, we seek to expose the contradictions inherent in the production process, appropriation, distribution, and the uses and discourses associated with this technology. We emphasize the risks associated with the use of GenAI, including illegality, non-compliance, illegitimacy, implausibility, and uncriticality. In taking a critical stance towards the use of GenAI for academic production, we acknowledge its complex and intricate nature, as well as the limited research in the area of science education. This perspective aims to encourage the creation of communities and educational contexts in the science education field that promote the in-depth study, production, and critical analysis relevant to emerging technologies, such as GenIA.

Keywords:
science education; scientific ethics; scientific integrity; risk; technology

Resumen:

Este editorial tiene como objetivo compartir el camino formativo recorrido por el cuerpo editorial de la Revista Ensayo sobre la Inteligencia Artificial Generativa (IAGen). Además, al evidenciar los fundamentos adoptados, los cuestionamientos suscitados y las contradicciones observadas, invitamos a la comunidad a un diálogo abierto y crítico sobre IAGen y el hacer de las ciencias. Movilizamos discursos, posicionamientos y controversias presentadas nacional e internacionalmente y, a partir de fundamentos críticos, buscamos exponer las contradicciones inherentes al proceso productivo, a la apropiación, a la distribución y a los usos y discursos asociados a esta tecnología. Se propone enfatizar los riesgos relacionados con el uso de la IAGen, incluyendo ilicitud, disconformidad, ilegitimidad, inverosimilitud y falta de criticidad. Al posicionarnos críticamente con respecto al uso de IAGen para la producción académica, reconocemos su naturaleza compleja, intrincada y carente de producciones en el área de educación en ciencias. Tal posicionamiento aspira a estimular la construcción de contextos formativos que promuevan profundizaciones, producciones y críticas pertinentes.

Palabras clave:
educación científica; ética científica; integridad científica; riesgo; tecnología

“A fronteira entre ferramenta e mito, instrumento e conceito, sistemas históricos de relações sociais e anatomias históricas dos corpos possíveis (incluindo objetos de conhecimento) é permeável. Na verdade, o mito e a ferramenta são mutuamente constituídos”. (Haraway, 2009, p. 64).

Introdução

A Inteligência Artificial Generativa (IAGen) goza de uma aparente unanimidade de realidade posta, fato inexorável, cabendo-nos tão somente determinar diretrizes mais adequadas e convenientes de convivência. Contudo, é preciso demarcar: a realidade nunca está dada, mas perenemente em disputa. Se pressupomos a IAGen meramente como ferramenta, o nosso protocolo será elaborar um referencial ético coerente com nossas perspectivas de bom e de bem para orientar e regular o nosso uso. Por outro lado, ao enquadrarmos a questão como um problema em tecnologia (no conceito amplo de estudo das dinâmicas humanas das relações históricas com as técnicas e as práticas), cumpre-nos estabelecer referenciais ético e político alinhados às nossas concepções de sociedade, de civilidade e de futuro.

Com efeito, na tessitura moderna dos inventos e seus acontecimentos, somos comprimidos por uma onda avassaladora de novidades e demandas de decisões rápidas, produzindo artificialmente urgências, de modo que não nos resta tempo e contextos qualificados para nos determos às problemáticas e às causas dos temas e contradições que são lançadas no cerne do nosso trabalho. No nosso caso, pessoas trabalhadoras da ciência nos papeis de professoras, pesquisadoras e editoras, aludimos particularmente à incontestável presença da IAGen ocupando, em franca escalada, espaço considerável no trabalho intelectual, científico e acadêmico e as suas consequências em âmbito ético, trabalhista, econômico, político e ambiental.

Com os apontamentos que trazemos neste editorial, buscamos abrir espaços para uma discussão honesta, fundamentada em teorias críticas, amparada por dados recentes e sustentada por uma postura crítica sobre tecnologia. Entendemos que essa é ainda uma discussão propedêutica na área e almejamos evitar que o uso desenfreado da IAGen para a criação de conteúdos acadêmicos sintéticos (sem respeito aos direitos autorais e repleto de violações éticas em sua dinâmica de produção) passe a enviesar, de forma automática e irrefletida, nossas práticas de pesquisa e educação. Nessa perspectiva, este editorial cumpre uma função dupla: a de compartilhar com a comunidade científica o percurso formativo trilhado pelo corpo editorial da Ensaio, bem como, ao evidenciar os fundamentos adotados, os questionamentos suscitados e as contradições observadas, convocá-la a um diálogo aberto e crítico sobre a IAGen e o fazer das ciências. Nesse sentido, recorremos ao que Giroux (1997) denominou como linguagem da possibilidade, sinalizando que “os intelectuais transformadores precisam desenvolver um discurso que une a linguagem da crítica e a linguagem da possibilidade” (p. 163), de modo que a denúncia e o anúncio componham uma unidade crítica consistente e promotora de mudanças.

Definições, (des)acordos tácitos e tensões em curso

Genericamente referenciada pelo conceito abstrato de “Inteligência Artificial”¹, a IAGen possui características que a diferenciam consideravelmente de outros modelos, usos e lógicas da IA, por gerar conteúdos textuais, imagéticos ou de áudio a partir de padrões “aprendidos” (Peñalvo & Ingelmo, 2023). Baseada na abordagem de Machine Learning, a IA vem sendo usada há décadas na programação de máquinas para realização de operações diversas, inclusive com uso bastante consolidado na programação, na economia, em pesquisas sociais e na ciência política (Yu, 2023; França & Monserrat, 2024). Enquanto a Machine Learning baseia-se em algoritmos e exige uma estrutura computacional (física e lógica) mais modesta, a técnica do Deep Learning, fundamento da IAGen, baseia-se em algoritmos mais complexos, como as redes neurais, exigindo um aparato físico, lógico e conceitual mais robusto para sua operação.

Ao ser “popularizada”² e difundida massivamente como ferramenta de produção de conteúdos operada a partir de uma comunicação que simule aspectos da linguagem humana (Natural Language Processing (NLP)), uma interface amigável e operando sem exigências de conhecimentos avançados de programação, a IAGen foi posicionada em um campo tensionado de forças políticas e econômicas, assim como de formação cultural para a sua apropriação, uso, produção e direcionamento.

Os modelos de linguagem em grande escala (LLMs), chamados não ironicamente de papagaios estocásticos (Bender et al., 2021), não entendem o que escrevem, apenas repetem padrões de linguagem extraídos de enormes volumes de textos, sem que haja real compreensão de seu significado (ao menos até o momento da escrita deste texto). Isso se torna especialmente problemático no contexto acadêmico, no qual se espera autoria, criatividade, rigor teórico-metodológico e posicionamento crítico. Textos gerados por essas ferramentas apagam as origens das ideias e reforçam vieses, preconceitos e desigualdades presentes nos dados com os quais foram treinados. Assim, ao invés de desafiar essas distorções, tão caras ao campo educacional, o uso desses modelos para produzir conteúdos tende a normalizá-las (Birhane & Guest, 2021); um risco sério para qualquer escrita que se proponha transformadora.

Nesse contexto de rápida evolução dos LLMs (Thirunavukarasu et al., 2023) e dos chatbots generativos, grupos de pesquisadores (e.g., Sampaio et al., 2024), periódicos (e.g., Flanagin et al, 2023; Leung et al., 2023; Ganjavi et al., 2024), órgãos como UNESCO (Holmes e Miao, 2024) e instituições de ensino superior brasileiras (Schimidt, 2024) passaram a divulgar orientações sobre um suposto uso responsável dessas tecnologias. No entanto, essa ideia de responsabilidade precisa ser problematizada, sobretudo diante da severidade das implicações ambientais (Brevini, 2020, Brevini, 2023; Hodgkinson et al., 2024), políticas (Iasulaitis & Silveira, 2025) e sociais (Dias & Schurig, 2024a, 2024b) imbricadas na existência e manutenção dessas ferramentas dentro de um mundo produtivo majoritariamente neoliberal³. Inseridas em lógicas de concentração de poder, extração massiva de dados e consumo intensivo de energia, essas tecnologias refletem e reforçam desigualdades estruturais (Eubanks, 2018, Cecchini & Ferrari, 2025). Assim, entendemos que, mais do que aderir a diretrizes normativas, pensar criticamente sobre o uso da IAGen requer situá-la nas disputas que compõem o presente e que, consequentemente, moldam os futuros possíveis desta tecnologia no que concerne à produção acadêmico-científica em educação.

Mesmo que abstraíssemos as implicações políticas, econômicas, éticas e ambientais envolvidas, ainda assim não é evidente que o uso da IAGen traga benefícios substantivos para a pesquisa científica (ver França & Monserrat, 2024), o que inclui a área de educação em ciências. Os riscos são múltiplos e interdependentes, desde violações de direitos autorais, como o plágio, até a falta de qualidade e de veracidade das informações geradas. Soma-se a isso a crescente dependência da IAGen em etapas-chave da pesquisa (Yu, 2023), agravada pela opacidade dos processos de geração de conteúdo, entraves à reprodutibilidade, ameaça à reputação da ciência (Yu, 2023), a formação de monoculturas de conhecimento (Messeri & Crockett, 2024) e os múltiplos vieses dos dados usados no treinamento (Chen, 2023). Há ainda um certo paradoxo produtivo: com mais uso de IAGen, cresce a necessidade de escrutínio dos textos gerados, intensificando a sobrecarga nos processos de avaliação e publicação comprometidos com a qualidade científica.

Lamentavelmente, no nosso trabalho editorial temos nos deparado com a submissão de artigos e pareceres contendo evidências que não deixam dúvidas quanto ao uso de IAGen e essa não é uma realidade isolada. Como apontam Van Nordeen e Webb (2024) e Naddaf (2025), práticas semelhantes têm sido identificadas em múltiplos contextos de publicação científica, incluindo em periódicos que proíbem expressamente o uso de IAGen na elaboração de manuscritos e avaliações. Esse cenário é preocupante e exige debate urgente sobre ética, autoria e responsabilidade no fazer científico.

Ainda em nossa prática profissional, observamos que pessoas pesquisadoras têm voltado sua atenção quase exclusivamente ao uso dessas ferramentas como objetos de pesquisa. Isso tem deixado em segundo plano outras Tecnologias Digitais de Informação e Comunicação, como a realidade virtual e a realidade aumentada, que são importantes para a educação científica. Essa mudança de foco, puxada pelo entusiasmo em torno das novas “inteligências artificiais”, pode mexer de forma significativa nas linhas de pesquisa da área, favorecendo o que está em alta no momento. Com isso, corre-se o risco de deixar de lado investigações importantes que já vinham sendo feitas com outras tecnologias. Ao seguir modismos, a pesquisa pode acabar ficando mais superficial e menos diversa, o que enfraquece o avanço da área a longo prazo. Assim, o fenômeno da obsolescência de tecnologias acompanha a lógica da redução da relevância dos próprios objetos de pesquisa.

Diante de consensos e dissensos, há uma aparente preocupação comum com os riscos relacionados aos direitos autorais, à ética e até, em alguma medida, aos possíveis riscos epistêmicos (como superficialidade e homogeneização de ideias) com o uso indiscriminado das IAGen na produção acadêmica. Surgem também vozes que recomendam abordagens mais normativas e reguladoras como forma de integrar tais tecnologias de forma “responsável". Alguns autores, como Sampaio et al. (2024) sugerem que diretrizes claras podem viabilizar o uso da IAGen no contexto de pesquisa, enquanto outros, como Spinak (2023), discutem inclusive sua aplicação nas etapas de arbitragem científica, indicando um campo fértil para debate e construção de critérios para avaliação de artigos mediada por LLMs.

IAGen como figura mítica: encantamento, demonização e essência dos processos históricos das novas tecnologias

O debate sobre IA, de modo geral, tem se mostrado cada vez mais inextricável e emaranhado a difusas determinações das ideologias e dos modos de produção atuais, requerendo abordagens multidisciplinares capazes de produzir sistemas analíticos complexos e robustos. Com o intuito de localizar o debate das IAGen no âmbito do editorial de uma revista científica da área de educação, a opção foi pelo diálogo com perspectivas críticas que permitam estabelecer relações dialéticas entre o estatuto de novidade gozado pela IAGen, a áurea de medos e receios historicamente produzidos e atualmente manifestados, a natureza ideológica dessas tecnologias e algumas contradições materiais pertinentes.

O status de novidade da GenAI baseia-se nas necessidades fabricadas que são essencialmente um produto da vida moderna. Trata-se de um contexto marcado pela efusividade, resultado de uma sociedade saturada de distrações e carente de referências. Essa carência refere-se, sobretudo, à dificuldade contemporânea de estabelecer vínculos com tradições históricas, o que frequentemente resulta na perpetuação de valores e ações superficiais e imunes à análise crítica. A aparência de novidade está, portanto, inserida em uma matriz ideológica que prospera na baixa consciência crítica de uma sociedade caracterizada pela burocratização e padronização em todos os aspectos da vida (Adorno, 1966). Trata-se de uma sociedade semiformada, desvinculada de seus suportes institucionais e fontes de significado (Feenberg, 1990), cujas tradições não são mais capazes de se vincular ao patrimônio cultural da humanidade ou de incorporar experiências profundas, revelando, como afirma Benjamin (2012b), uma definitiva pobreza de experiência autêntica.

Com efeito, essa estratégia se revela bastante conveniente para a propaganda e a difusão de mercadorias. Em uma sociedade que necessita demarcar sua diferenciação pelo consumo (Fromm, 2024), ou de uma fração da classe trabalhadora que necessita renitentemente negar seu pertencimento histórico e concreto, a ideia da novidade funciona como um encanto a conduzi-la a uma fantasia idílica. Paradoxalmente, ao mesmo tempo em que a novidade conduz a um fascínio e desejo fantástico de possuir, a experiência tecnológica também encapsula o assombro e o medo. As tecnologias dos computadores, do mesmo modo, experimentam essa contradição.

No início da década de 1990, Feenberg (1990) evidenciou a ambivalência das tecnologias dos computadores questionando se estariam unicamente predestinadas a endossar um sistema social autoritário ou continham algum potencial democrático mediante as possibilidades de domínio das suas aplicações e seu entendimento. Há mais de 30 anos, o problema da ambivalência, do incremento técnico e mecânico na produção capitalista e do fundamento ideológico da automação já encontrava ecos na teoria crítica da tecnologia, período em que o computador e o acesso à internet se popularizaram e punham em contraste a indeterminação das condições do trabalho futuro.

Para Feenberg (1990), a inteligência artificial pode assumir três diferentes sentidos: um tipo de programa de computador que, apesar de dar suporte a análises de laboratório e a diagnósticos médicos, seria incapaz de progredir no sentido de simular funções intelectuais; o computador concebido como um modelo da mente humana, com base no paradigma racionalista dominante em nossa sociedade que concebe o pensamento como uma espécie de maquinaria; e o slogan ideológico, que serve de suporte para movimentos de recontextualização do ser humano sob o modelo do seu próprio autômato. De qualquer forma, as miríades de metáforas de máquinas-humanas ou humanos-máquinas nos encerram em um sistema fechado no qual representamos não mais que uma parte do mecanismo, criando terreno fértil para o reforço de ideologias de dominação.

Tanto a ideia de automação quanto da inteligência artificial são afetadas pela ambiguidade da tecnologia da informação, que produz simultaneamente alinhamento a perspectivas autoritárias e abertura de possibilidades democráticas (Feenberg, 1990).

“O lugar que os computadores devem ocupar na vida social e o design de sistemas computacionais estão intimamente ligados. Um sistema projetado para controle hierárquico é congruente com pressupostos racionalistas que tratam o computador como um autômato, destinado a comandar ou substituir trabalhadores em funções de tomada de decisão. Um sistema projetado democraticamente deve, em vez disso, responder à dimensão comunicativa do computador, por meio da qual ele facilita a auto-organização das comunidades humanas, incluindo aquelas comunidades de trabalho cujo controle fundamenta o poder político no mundo moderno”. (Feenberg, 1990, p. 730).

De maneira análoga, Vieira Pinto (2005a), ao conceitualizar a tecnologia, evidencia seu caráter ambivalente, destacando que é “ao mesmo tempo o esteio e arma da dominação, na mão do senhor, e a esperança de liberdade e o instrumento para consegui-la, na mão do escravo” (2005, p. 262)⁴. O desconforto diante das incertezas produzidas pelas tecnologias acompanha a humanidade em seu devir histórico. A bastante reportada revolta do ludismo diante das radicais mudanças laborais acompanhadas do incremento do maquinário na produção durante a Revolução Industrial (Hobsbawm, 1952) ou o estranhamento e o pavor do povo colonizado diante das enormes embarcações e suas então sofisticadas parafernalhas, são exemplos de experiências que revelam que tecnologia tem sido, historicamente, fonte de pavor e fascínio, admiração e rejeição, endeusamento e demonização. Vale ressaltar que a análise do ludismo tem reaparecido nos debates sobre IAGen, evocando criticamente a histórica revolta contra a automação que ameaçava não só empregos, mas formas de vida.

Atualmente, diante da ascensão e difusão das IAGen, do que temos medo, afinal? Para atender à sofisticação do modo de produção e responder às suas crises, as matrizes tecnológicas sofreram substanciais alterações, transitando rapidamente do analógico ao digital, de uma função e domínio explícito para redes complexas de relações e interesses, além de, sobretudo, confirmar os antigos receios das “máquinas humanizadas”. Não é de se estranhar, assim, que o domínio principal do temor diante da difusão das IAGen encontra-se no trabalho, seja no medo da substituição dos lugares consagrados da força de trabalho, da mudança injusta na sua dinâmica, do domínio e da aparente disputa desonesta com nossas capacidades criativas e produtivas ou da perda de um suposto controle da produção e dos produtos (McAfee, 2024).

Desde a Revolução Industrial, o receio da mecanização dos processos produtivos tem sondado o imaginário de trabalhadores constantemente postos diante de uma ameaça concreta, ainda que alimentada por fantasias: o trabalho humano será dominado pelas máquinas, em suas diversas formas e funções. De fato, a história tem evidenciado que não se trata de uma substituição sumária, tampouco de um decremento do uso da força de trabalho, muito pelo contrário.

Um dos problemas substantivos da dominação tecnológica, com suas máquinas, robôs e automação, é que ela desafia a divisão social do trabalho já consolidada, estendendo seu alcance ao trabalho intelectual. Pessoas pesquisadoras e produtoras de intelectualidade se veem constrangidas, assim, no cerne do seu trabalho: a criação. A preocupação se torna mais aguda à medida que a ameaça se estende além de tarefas manuais como tecer, costurar ou cultivar. Agora, a maquinaria intervém na esfera da produção científica, aprofundando a sofisticação da dominação.

Sob a promessa de potencializar a reprodução e mimetizar a criação, a IAGen contribui com a perda da aura das produções. Nesse sentido, relembramos Benjamin (2012a) e seu alerta sobre a perda da autenticidade da arte mediante o apogeu das técnicas de reprodução. Para o autor, a reprodutibilidade técnica das obras de arte tem redundado na perda da sua aura, sendo esta “uma teia singular, composta de elementos espaciais e temporais: a aparição única de uma coisa distante, por mais perto que ela esteja” (p. 184). Por conseguinte, perde-se as dimensões do distanciamento (oposto às tendências das massas de possuir), o poder de culto (e de cultivo) e a adequada inserção da obra no campo da tradição. De forma análoga à arte, produtos do conhecimento humano expressos textualmente, por exemplo, em ensaios, artigos ou poesia, encontram também um vertiginoso declínio de autenticidade e das suas formas auráticas no palco das novas configurações tecnológicas.

Sob o pretexto da facilitação ou dinamização do trabalho, as práticas reprodutivas no contexto da IAGen padecem do mito do controle (Feenberg, 1990) e da ilusão da mecanização como um assistente. De fato, a dimensão ideológica das tecnologias dos computadores opera de maneira funcional na garantia da dinâmica de produção capitalista e na organização social favorável à sua reprodução. Na experiência com a GenAI, é fundamental fazer uma distinção essencial entre as dimensões de uso/consumo e as dimensões de criação/produção. Escolher um tema de busca, definir seu foco ou decidir quando usar uma ferramenta não constitui, por si só, participação no processo de idealização da tecnologia, no controle dos códigos que processam dados de entrada e saída, nem das consequências materiais da produção ou da própria dinâmica do trabalho que será afetada pelo conteúdo produzido.

Com efeito, tal como Marx (2011) assinalou sobre o incremento da maquinaria na produção industrial, a transformação tecnológica não levou a uma melhoria na qualidade de vida dos trabalhadores ou a uma expansão de suas habilidades laborais, nem reduziu sua carga de trabalho. Assim, a ideia do computador assistente faria sentido em um contexto em que a exploração do trabalho não fosse a tônica do modelo produtivo vigente. Caso contrário, continuará sendo artifício para ludibriar a sobrecarga de trabalho, a perda da capacidade criativa e o declínio dos momentos favoráveis à criação.

“A atividade do trabalhador, limitada a uma mera abstração da atividade, é determinada e regulada em todos os aspectos pelo movimento da maquinaria, e não o inverso. A ciência, que força os membros inanimados da maquinaria a agirem adequadamente como autômatos por sua construção, não existe na consciência do trabalhador, mas atua sobre ele por meio da máquina como poder estranho, como poder da própria máquina. Na produção baseada na maquinaria, a apropriação do trabalho vivo pelo trabalho objetivado - da força ou atividade valorizadora pelo valor existente por si, inerente ao conceito do capital - é posta como caráter do próprio processo de produção, inclusive de acordo com os seus elementos materiais e seu movimento material”. (Marx, 2011, p. 581).

Assim, revela-se a relação dialética entre a dinâmica de produção e a natureza social do trabalho. Contrariando os ufanismos irredutíveis produzidos ao redor da tecnologia, Vieira Pinto (2005b), ao analisar a cibernética, reconhece que se trata de uma “conservação da essência sob a variação da forma” (p. 497). Com efeito, convém evidenciar que as transformações tecnológicas, ainda que agitadoras do tecido social, são produtos históricos do seu tempo, inseridas na lógica da produção social vigente, respondendo a interesses hegemônicos. Não seria descomedido dizer, assim, que o teor exploratório e de dominação que conduziu a mineração colonial segue ditando a tônica da mineração de dados, por exemplo, subjugando e ameaçando a soberania e autonomia dos povos.

As mutações históricas das dinâmicas produtivas e a sofisticação dos aparatos revelam um cenário ainda bastante dramático: a nova aliança entre Think Tanks e Big Techs. O poder acumulado pelas Big Techs levanta preocupações reais. Cada vez mais dependente delas, a vida cotidiana fica vulnerável a falhas e apagões que podem afetar desde a comunicação até serviços essenciais. Quando tudo passa por poucas mãos, os riscos deixam de ser apenas técnicos e se tornam sociais.

Conformados a partir de consolidadas estratégias de pesquisa social, análise de tendências e propensões públicas, e atuantes sobre o delineamento de estratégias de manipulação e convencimento, os Think Tanks, nos EUA, agora operam em escala industrial por meio das Big Techs. Os gigantes das tecnologias da informação e comunicação, beneficiários do vale do Silício, donos de gigantescos Data Centers consumidores de matérias primas escassas (explorando terras raras, por exemplo), de grande quantidade de energia elétrica e altamente poluentes em seus processos produtivos, dão as cartas: dominam os códigos técnicos, extraem e comercializam dados pessoais e desejos expressos em algoritmos, influenciam vontades e tendências e as operacionalizam como forma de manipulação⁵, tomando a dianteira das políticas de dominação (Zuboff, 2018).

Diante deste cenário, a perspectiva de Haraway (1985) nos convoca a pensar a tecnologia isenta de neutralidade, para além de uma extensão funcional do corpo humano. Para ela, a tecnologia é uma parte intrínseca de redes de poder e produção de subjetividades. Sua proposição da figura de cyborg desafia dicotomias como humano-máquina para abrir espaços para compreensão de que as tecnologias são territórios ambíguos: podem ser ferramentas de controle, mas também carregam potencial subversivo. No contexto das IAGen, o que está em jogo não é apenas seu uso técnico, mas o modo como elas podem tensionar ou não estruturas hegemônicas de saber e lógicas neoliberais de produtividade. Talvez a chave de sua ideia esteja em habitar criticamente as contradições da tecnologia, para além de uma dualidade aceitação-rejeição, assumindo uma postura politicamente situada diante das formas que ela assume em nossas práticas tanto de escrita quanto de fazer ciência.

A despeito de outras frentes urgentes e possíveis de discussão para o campo da IA, como os impactos ambientais dos Data Centers, os controles políticos para acesso às matérias-primas que alimentam as atuais tecnologias de computadores, as tensões e as urgências de regulação, as reconfigurações das dinâmicas do trabalho e a sofisticada constrição das habilidades e conhecimentos do trabalhador, convém ressaltar a relevância da discussão séria e a partir de bases concretas. Soma-se a isso, a importância da análise de publicidades em redes sociais sobre IAGen quanto aos recursos persuasivos visando disseminação de produtos para usos escolares, acadêmicos e profissionais.

Neste diálogo, reconhecemo-nos relutantes em aceitar o fatalismo que concebe o problema como algo dado e irremediável, bem como assumimos que há um risco da acepção mítica da tecnologia das IA porque as concebe em um vazio histórico que redunda em deslumbramento diante do próprio feito. Assim, nos alinhamos a Vieira Pinto (2005a, 2005b) que convoca a apropriação do tema pela perspectiva dialética: a análise histórica e a atenção aos movimentos das categorias concretas. Nesse cenário, resistir talvez signifique, acima de tudo, negar. Reduzir a marcha e recusar enveredar-se pelo fluxo da multidão talvez seja a atitude mais sensata para aqueles que ainda têm a emancipação como horizonte formativo.

Como pessoas trabalhadoras da ciência e da educação não poderíamos deixar de evidenciar a proposta do Plano Brasileiro de Inteligência Artificial (2024-2028) (MCTI, 2024) que, dentre suas ações estruturantes, incluem investimentos em: Infraestrutura e Desenvolvimento de IA; Difusão, Formação e Capacitação em IA; IA para Melhoria dos Serviços Públicos; IA para Inovação Empresarial; Apoio ao Processo Regulatório e de Governança da IA. Sob o slogan “IA para o bem de todos”, as ações em curso e de impacto imediato buscam atender a problemas específicos de diversas áreas prioritárias, inclusive da educação. No âmbito educacional, com um investimento de quase R$ 29 milhões, o empreendimento de IA deve atender: ao controle de frequência de alunos do ensino básico; enfrentamento do abandono e da evasão escolar em nível básico e universitário; aprimoramento do acompanhamento das aquisições do Programa Nacional de Alimentação Escolar (PNAE); apoio aos professores e gestores escolares na avaliação das atividades estudantis para melhor intervenção na alfabetização, atendendo o desafios de aumentar o tempo disponível do professor para tarefas analíticas e pedagógicas; melhora dos resultados dos estudantes em matemática, do nível de aprendizagem geral e do seu bem-estar. Os riscos de exposição de dados sensíveis, mecanização do trabalho, sobrecarga e superexploração do trabalho docente, saída tecnocrática para problemas profundos são algumas das diversas contradições que o programa apresenta, antecipando-se a uma análise crítica qualificada.

Trabalhadores da ciência atuando no âmbito editorial: processos formativos e valores

Entendemos que é necessário reiterar, com a clareza que o momento histórico exige, que editores científicos e autores são, antes de tudo, trabalhadores da ciência. Não se trata de uma metáfora retórica, mas de um reconhecimento político e epistemológico do lugar que ocupamos na criação, curadoria e circulação de conhecimentos da ciência. Neste sentido, o trabalho acadêmico que concebemos não se reduz à criação de conteúdos, mas envolve um compromisso histórico e social com a responsabilidade crítica, com métodos rigorosos e transparentes de investigação e com a integridade intelectual que sustenta a ciência enquanto bem público.

Nesse cenário, como temos argumentado até aqui, o debate sobre o uso de IAGen nos processos editoriais e na produção acadêmica não pode ser capturado por modismos tecnocráticos nem por entusiasmos acríticos. Há valores da ciência que são inegociáveis, como autoria responsável e comprometida, transparência e rastreabilidade das fontes, autonomia intelectual, compromisso com o debate informado, entre outros. Por isso, ao abordar este tema, buscamos reiterar o que já compartilhamos em editoriais anteriores: nosso posicionamento ético para esse debate socialmente vivo se faz pelo caminho da formação do nosso coletivo. Foi assim que enfrentamos outros debates complexos, da revisão por pares à ciência aberta, e é assim que compreendemos também o lugar do debate das IAGen.

A formulação de uma política editorial que dê conta dos impactos e desafios trazidos pelas IAGen tem sido, para o nosso coletivo editorial, um processo menos linear do que inicialmente imaginávamos. Num primeiro momento, inspirados por diretrizes emergentes de grandes editoras (e.g., Springer Nature, Elsevier, Sage Publications, Taylor & Francis⁶) e pelas diretrizes da própria SciELO (2023, 2024), seguimos o que nos pareceu um caminho natural: tentar delimitar usos permitidos e não permitidos no processo de submissão e publicação de manuscritos.

Essa abordagem mais prescritiva parecia fazer sentido, visto que seria possível, supúnhamos, listar o que é aceitável (por exemplo, utilizar IA para revisar a gramática) e o que seria vedado, como delegar à IAGen a produção integral de um artigo ou de fragmentos textuais dele. No entanto, à medida que avançávamos nessa tentativa de normatização, deparamo-nos com dilemas difíceis de contornar com os conhecimentos que temos hoje: onde exatamente traçar essa linha? Estaria o uso da IAGen para a geração de títulos incluídos entre os limites do aceitável? E o auxílio na tradução de textos? A reorganização de referências bibliográficas? A adição de parágrafos? E quanto à criação de imagens esquemáticas? Percebemos que, ao tentar controlar a tecnologia por meio de uma listagem objetiva de condutas, estaríamos inevitavelmente nos confrontando com um campo opaco, alvoroçado e carente de regulamentação. Entendemos que não se trata de interditar a tecnologia, mas de situá-la criticamente também no nosso campo. Isso significa, a nosso ver, criar condições para que pessoas editoras, pareceristas, autoras e leitoras compreendam os impactos, alcances e limites dessas tecnologias, a partir de referenciais éticos que não se dobram à lógica de imediatismo e de uma produtividade amedrontada.

Diante do impasse de traçar limites artificiais para o uso dessas tecnologias, passamos a considerar outro caminho: em vez de normatizar condutas específicas, por que não nos basear em princípios? Inspirados em nossos percursos pregressos com a criação de modelos de declarações de ética e de ciência aberta (ver Massi e Silva, 2024; Azevedo e Mendonça, 2024; Mendonça et al., 2023; Bizerra e Sá, 2022), pensamos que as pessoas autoras poderiam autodeclarar o conhecimento e a conformidade com princípios considerados importantes dentro da conduta ética esperada de pessoas pesquisadoras (e.g., Fapesp, COPE e série Ética e Pesquisa em Educação da ANPed⁷). Esse modelo nos parecia ser menos como um instrumento de vigilância e mais como uma ferramenta de compromisso ético.

Essa inflexão se deu, sobretudo, pelo desejo de escapar de uma lógica do controle, que, além de ineficaz e insustentável frente aos desafios editoriais de lidar com equipes já sobrecarregadas, tende a reproduzir modelos de fiscalização que pouco dialogam com os modos efetivos de produção do conhecimento da atualidade. Mais do que vigiar, almejamos fomentar uma reflexão. E, ao fazer isso, reconhecemos que o uso da IAGen não é apenas uma questão técnica, mas também simbólica e política: ele nos obriga a revisitar o próprio sentido da produção acadêmica em tempos de crescente desconfiança sobre a sua relevância social, além de lançar dúvidas sobre o futuro do próprio fazer científico.

Uma primeira consolidação dos debates formativos realizados no âmbito do nosso coletivo editorial apontou a necessidade de sistematizar possíveis princípios para organizar discussões sobre o uso de IAGen⁸. Apesar disso, partir de princípios nesse caso indicava certa fragilidade, uma vez que desconsiderava toda a discussão que trouxemos aqui. Poderíamos facilmente incorrer na ilusão de que a pessoa pesquisadora, isoladamente, conseguiria garantir um uso responsável ou transparente dessas tecnologias, supondo que tais qualidades pudessem ser asseguradas por decisões individuais ou por uma adesão abstrata a enunciados éticos ainda pouco discutidos na área.

Entendemos que essa abordagem, que tende a personificar a responsabilidade nos sujeitos que utilizam a tecnologia, ignora que os próprios sistemas de IAGen não são, em essência, transparentes, como temos apontado. Tampouco a sua estrutura técnico-científica, ancorada em modelos opacos e centralizados em grandes corporações, permite que esses atributos sejam efetivamente controlados por quem apenas os utiliza. Ao tomarmos princípios como se fossem garantias ou mecanismos suficientes de regulação, corremos o risco de naturalizar as assimetrias materiais e ideológicas que estruturam o desenvolvimento e a circulação dessas tecnologias.

Além disso, a própria ideia de “uso responsável” pode funcionar como uma cortina de fumaça que desloca o debate para um plano estritamente moral, afastando-o de uma crítica política mais ampla sobre as condições estruturais de produção desses sistemas. Tais elementos dificilmente são contemplados por princípios que, em última instância, tendem a reafirmar uma lógica de accountability autorreferente, sem considerar as contradições básicas no uso da IAGen.

Dessa forma, embora a sistematização de princípios possa ter uma função heurística ou organizadora do debate, ela não pode ser tomada como ponto de partida nem como fim em si. Ao invés de princípios, nos parece promissor assumir a relação entre trabalhadores da ciência e as novas configurações tecnológicas construindo alianças interdisciplinares, modelos de governança enraizados na justiça social e na soberania tecnológica, viabilizando práticas coletivas de resistência⁹ capazes de confrontar as lógicas extrativistas e privatistas que hegemonizam o campo hoje.

Assim, considerando aqui a nossa discussão com foco crítico na escrita acadêmica na área de educação em ciências, entendemos ser mais produtivo deslocar o centro da discussão da ideia normativa de princípios para a problematização das dimensões de risco que atravessam o uso de IAGen nesse contexto. Esse deslocamento não é apenas terminológico: ele carrega uma inflexão política. Enquanto os princípios tendem a sugerir uma estabilidade (que tem o seu papel, como é o caso das discussões historicamente consolidadas sobre ética na pesquisa), as dimensões de risco nos permitem lidar com as tensões e contradições que emergem da incorporação dessas tecnologias na prática acadêmica; especialmente em um campo que se constroi criticamente sobre as relações entre ciência, educação e sociedade. Organizamos, assim, dimensões de riscos relacionados ao uso da IAGen na produção acadêmica, buscando evidenciar aspectos que podem ser negligenciados quando se adota uma perspectiva regulatória simplificada ou acrítica.

O risco da ilicitude (o uso infringe leis, normas ou termos?) refere-se ao descumprimento de normas jurídicas e/ou institucionais, à violação de direitos individuais e coletivos - especialmente em consideração à Lei Geral de Proteção de Dados (Brasil, 2018) -, bem como à sobreposição de práticas em relação às orientações dos comitês de ética em pesquisa em suas diferentes instâncias. Isso inclui os Comitês de Ética em Pesquisa, a Plataforma Brasil (sistema nacional de registro e tramitação ética), comitês de ética internacionais e diretrizes estabelecidas por agências de fomento à pesquisa, como o CNPq, a Capes e a Fapesp. Ainda, destaca-se o risco de desconsideração dos termos de uso, das políticas de serviço e das políticas de privacidade das empresas e plataformas de IAGen utilizadas.

Com o risco da desconformidade (o uso contraria normas editoriais estabelecidas e/ou termos de uso?), evidencia-se o descumprimento e o desrespeito aos compromissos éticos da pesquisa científica e do periódico. Isso inclui a desconsideração da originalidade, da honestidade intelectual e da clareza quanto aos métodos e percursos da produção científica.

O risco da ilegitimidade (o uso é incoerente com os pressupostos científicos do campo?), por sua vez, fundamenta-se na ausência de uma análise criteriosa sobre a pertinência do uso da IAGen, considerando as especificidades epistemológicas das áreas, as práticas consensuais e os princípios da comunidade científica. Nesse sentido, pressupõe-se uma aparente neutralidade nas respostas geradas por IAGen, que pode mascarar disputas de sentido, apagar conflitos epistemológicos e reforçar consensos tecnocientíficos acríticos.

Ampliando essas considerações, destaca-se o risco da implausibilidade (o uso é cientificamente necessário e justificado no contexto da pesquisa?), relacionado à ausência de uma fundamentação sólida e contextualizada para a escolha pelo uso da IAGen. Nesse caso, sua aplicação não se mostra justificável do ponto de vista científico e não é acompanhada de uma análise crítica das pessoas pesquisadoras.

Por fim, o risco mais alarmante refere-se ao enfraquecimento da análise crítica, da problematização das estruturas de poder e da capacidade de tensionar discursos estabilizados; justamente aquilo que define, ou deveria definir, a escrita acadêmica no campo da educação em ciências: o risco da acriticidade (o uso considera uma perspectiva ampliada do uso da IAGen?). Esse risco se caracteriza pela ausência de uma análise abrangente dos múltiplos impactos éticos, sociopolíticos, ambientais, tecnológicos, entre outros, decorrentes do uso da IAGen, bem como pela desconsideração de suas limitações e potenciais efeitos, especialmente aqueles que comprometem valores fundamentais da produção acadêmica, como a prevenção de vieses, a transparência algorítmica e o exercício do pensamento autônomo.

Esses riscos não devem ser compreendidos como elementos estanques ou isolados, mas como dimensões sobrepostas, desempenhando papel importante na problematização do uso de IAGen em práticas acadêmicas. Tais práticas podem contribuir para manter o foco nas implicações formativas que se entrelaçam na escrita acadêmica. Considerá-los favorece uma escrita acadêmica comprometida e crítica, além de incentivar a reflexão sobre o próprio fazer científico (incluindo seus métodos, escolhas e responsabilidades).

Exemplificamos tais riscos com o caso recente envolvendo pesquisadores que conduziram um experimento não autorizado em comunidade online com milhões de usuários voltada ao debate argumentativo. Durante quatro meses, sem informar os participantes nem obter consentimento prévio, pesquisadores utilizaram modelos de linguagem baseados em IA para postar comentários com o objetivo de testar a capacidade persuasiva da tecnologia em comparação com a de seres humanos. Para aumentar a eficácia dos argumentos, os bots possuíam identidades fictícias, desde detentoras de forte apelo emocional a personas controversas. A experiência gerou forte reação da comunidade online, que se sentiu enganada, culminando em denúncia formal do caso à universidade e levando à retirada das contas envolvidas na plataforma¹⁰.

À luz da licitude, é possível considerar legítimo um experimento que omite o consentimento de participantes? Como esse tipo de prática se sustenta diante de marcos regulatórios que asseguram o direito à privacidade? Quanto à conformidade, seria admissível, do ponto de vista da ética científica, que um estudo ocultasse o uso de IA e deixasse de explicitar sua metodologia em consonância com padrões de integridade exigidos por periódicos? Como garantir transparência e honestidade intelectual nesses casos? Do ponto de vista da razoabilidade, seria essa estratégia metodológica adequada para o campo específico em que foi aplicada? Considerando práticas e valores de uma comunidade digital orientada por interações genuínas, qual o limite entre experimentação e violação da confiança? A plausibilidade nos leva a questionar: havia uma justificativa científica sólida para a adoção desse tipo de abordagem? Não haveria caminhos alternativos para investigar a questão da persuasão digital sem recorrer a tais estratégias? Por fim, a criticidade convida à reflexão: que impactos éticos, sociais e políticos estão implicados nesse tipo de intervenção? Como ela afeta a confiança em futuros estudos experimentais em espaços públicos? Entendemos que casos como este requerem um debate contínuo e comprometido, pois é atravessado pela transparência e responsabilidade compartilhada.

Assim, a política editorial que buscamos construir dialogicamente não pretende encerrar o debate, pelo contrário, deseja convocá-lo. Porque se há algo que essa (não tão nova) conjuntura tecnológica nos impõe, é justamente a necessidade de rediscutir os fundamentos, os propósitos, os horizontes e o modelo produtivo daquilo que hoje concebemos como produção científica. Seria ilusório ignorar que os modos de produção acadêmica estão sendo reconfigurados por transformações tecnológicas que operam com forte viés ideológico e densidade material. Por isso, é imperativo que os diversos agentes envolvidos no ecossistema de produção de conhecimento científico reflitam e discutam criticamente sobre os sentidos e as consequências dessas mudanças (Vasconcelos and Marušić, 2025).

Em tempos de dinâmicas produtivas aceleradas (Stengers, 2018) e desinformação algorítmica, defender a formação como princípio é uma escolha também política. É uma forma de afirmar que, mesmo diante de pressões neoliberais e de soluções (aparentemente) fáceis, a produção de conhecimento científico é (e deve continuar sendo) um território de responsabilidade coletiva.

Considerações finais

Paulo Freire, em Medo e Ousadia (Freire & Shor, 1986), relembra que se há medo, é porque há sonhos. Nesse sentido, o autor reflete: “O medo existe em você, precisamente porque você tem o sonho. Se seu sonho fosse o de preservar o status quo, então o que você teria a temer?” (p. 70). Há aproximadamente meio século, temos buscado avançar em termos de traçar caminhos emancipatórios para a superação de uma sociedade desigual, economicamente dependente e marcada por injustiças históricas. Para isso, tem-se posto como desafios categóricos o enfrentamento a modelos políticos antidemocráticos, a ideologias regressivas, a estruturas produtivas exploratórias e a práticas que respondem diuturnamente pela manutenção do estado das coisas. Assim, é imperativo não se deter diante da paralisia do aparente consenso produzido pela hegemonia.

Comprometidos com a continuidade dos sonhos históricos de emancipação, autonomia e soberania, este editorial também cumpre a função de manifesto. Diante da expansão do uso de conteúdos produzidos por IAGen, apresentamos um discurso de alerta, cuidado e redução da marcha que nos impõe fatalmente a apropriação das novas tecnologias a partir do seu estatuto de instrumento, ferramenta ou assistente desprovido de problematização ou de historicidade. Nesse sentido, é fundamental o tom enfático: para um país dependente e marginal na lógica produtiva global, (ainda) não há IAGen segura e nem uso isento de contradições.

Com isso, não podemos negar o fato de que os processos formativos, criativos e os fazeres científicos já estejam significativamente permeados pelo uso das IAGen. Por isso mesmo nos comprime a pressão em assumi-la como uma fatalidade irreversível. Por outro lado, não podemos deixar de mencionar os grupos, núcleos e intelectuais dedicados à crítica e à resistência a estas práticas. Precisamente pelas contradições imbuídas nas práticas produtivas e discursivas envolvendo IAGen é que buscamos mobilizar as pessoas trabalhadoras da ciência, docentes, editoras, cientistas, leitoras, a um franco processo analítico e crítico sobre as atuais configurações produtivas e o futuro da ciência.

Pela preocupação ética, política e científica com a nova geração de pesquisadores e o futuro da ciência nos posicionamos contra IAGen, conformadas sob as configurações produtivas atuais, para geração textual e elaboração de pareceres. A autoria, a avaliação e a editoria, enfrentando todos os percalços do trabalho criativo, autêntico e ético diante da precarização, ainda devem ser realizadas e estar sob a responsabilidade de pessoas que, neste momento histórico, definem os caminhos da ciência futura.

Assim, ao concluir este editorial, reconhecemos a amplitude do problema e mantemos abertas as possibilidades de elaboração e discussão, questionando as formas como estamos nos relacionando com essas tecnologias e os sentidos que estamos produzindo para a escrita acadêmica nesse novo cenário. Além das dimensões de risco e das discussões teóricas e casos recentes que as sustentam, reconhecemos que essas questões não se esgotam em diagnósticos conceituais, mas exigem posicionamentos políticos, práticas coletivas e experimentações institucionais capazes de tensionar a normalização do uso da IAGen. Nesse sentido, nos interessa refletir com colegas e coletivos da área de educação em ciências sobre questões que nos ajudem a manter vivo o debate e a ação crítica diante dessas tecnologias:

• Em que medida seria possível afirmar que o uso da IAGen contribui significativamente na qualidade e no rigor teórico e metodológico da pesquisa em educação em ciências?

• Seria razoável pensarmos em uma adequação sociotécnica (Dagnino, 2014) da IAGen com sentidos populares e emancipatórios para a classe trabalhadora e o trabalho científico?

• Quais as possibilidades de que a tecnologia da IAGen favoreça processos democráticos e fortalecedores de soberania quando se trata de um produto dominado pela hegemonia?

• Há possibilidades de definirmos usos mais brandos e/ou mais críticos da IAGen no processo de produção e divulgação da ciência?

Pela complexidade, novidade e escassez de referenciais consolidados sobre o tema na área de educação, evocamos a necessidade de abordá-lo nos espaços de formação e convidamos a comunidade para a produção qualificada de teorias, métodos e sentidos da pesquisa em educação e ensino mediante os novos arranjos tecnológicos. Entendemos que é fundamental promover essas discussões nos diversos espaços que ocupamos (salas de aula, coletivos, grupos de pesquisa, colegiados, assembleias, fóruns, literatura especializada e outros contextos de formação) para que esse debate seja construído de forma crítica, ética e contextualizada.

Agradecimentos

Agradecemos ao coletivo editorial da Ensaio: Pesquisa em Educação em Ciências pelas discussões partilhadas e pelo espaço de constante crítica e debate dialético, que muito contribuíram para a elaboração deste texto. Nossa gratidão também vai aos leitores das primeiras versões, Luiz Gustavo Franco, Luciana Massi, Daniel Guimarães e Valeria Cernei, cujas leituras foram valiosas; em especial os três últimos, cujas observações rigorosas ajudaram a aprofundar argumentos e ampliar questões.

Referências

• Adorno, T. W. (1996). Teoria da Semicultura. Educação e Sociedade, XVII(56), pp. 388-411.
• Azevedo, N.H.; Mendonça, P.C.C. (2024). Dados abertos na pesquisa em educação em ciências: perspectivas, desafios e possibilidades. Ensaio Pesquisa em Educação em Ciências, 26, e51515. https://doi.org/10.1590/1983-21172022240172
  » https://doi.org/10.1590/1983-21172022240172
• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021, March). On the dangers of stochastic parrots: Can language models be too big?. In Proceedings of the 2021ACM conference on fairness, accountability, and transparency (pp. 610-623). https://doi.org/10.1145/3442188.3445922
  » https://doi.org/10.1145/3442188.3445922
• Benjamin, W. (2012a). A obra de arte na era de sua reprodutibilidade técnica. In Benjamin, W. Magia e técnica, arte e política: ensaios sobre literatura e história da cultura (8a. ed., pp. 179-212). São Paulo, SP: Brasiliense.
• Benjamin, W. (2012b). Experiência e pobreza. In Benjamin, W. Magia e técnica, arte e política: ensaios sobre literatura e história da cultura (8a. ed., pp. 123-128). São Paulo, SP: Brasiliense.
• Birhane, A., & Guest, O. (2021). Towards decolonising computational sciences. Women, Gender & Research https://pure.mpg.de/rest/items/item_3287104_1/component/file_3287105/content
  » https://pure.mpg.de/rest/items/item_3287104_1/component/file_3287105/content
• Bizerra, A. F., & Sá, L. P. (2022). Vamos conversar sobre autoria?. Ensaio Pesquisa em Educação em Ciências, 24, e39592. https://doi.org/10.1590/1983-21172022240112
  » https://doi.org/10.1590/1983-21172022240112
• Brasil. (2018). Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União: seção 1, Brasília, DF, 156(157), p. 1. (Atualizada pela Lei nº 13.853, de 8 de julho de 2019). https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm
  » https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm
• Brevini, B. (2020). Black boxes, not green: Mythologizing artificial intelligence and omitting the environment. Big Data & Society, 7(2), 2053951720935141. https://journals.sagepub.com/doi/full/10.1177/2053951720935141
  » https://journals.sagepub.com/doi/full/10.1177/2053951720935141
• Brevini, B. (2023). Myths, Techno Solutionism and Artificial Intelligence: Reclaiming AI materiality and its massive environmental costs. in S Lindgren(ed.), Handbook of Critical Studies of Artificial Intelligence, Edward Elgar Publishing.
• Cecchini, V.K.; Ferrari, P. A tecno diversidade nos movimentos sociais populares: articulando inovação social na resistência à extração e controle capitalista da terra, do alimento e dos saberes. In: S. Iasulaitis & S.; Amadeu da Silveira(orgs.). Estudos sociopolíticos da Inteligência Artificial Campina Grande: EDUEPB, 2025. p. 387-413.
• Chen, Z. (2023). Ethics and discrimination in artificial intelligence-enabled recruitment practices. Humanities and Social Sciences Communications, 10(1), 1-12. https://doi.org/10.1057/s41599-023-02079-x
  » https://doi.org/10.1057/s41599-023-02079-x
• Dagnino, R. (2014). Tecnologia Social: contribuições conceituais e metodológicas Campina Grande; Florianópolis: EDUEP; INSULAR.
• DeepSeek-AI, Guo, D., Yang, D., Zhang, H., Song, J., Zhang, R., Xu, R., ... & He, Y. (2025). Deepseek-r1: Incentivizing reasoning capability in LLMs via reinforcement learning. arXiv preprint arXiv:2501.12948. https://arxiv.org/abs/2501.12948
  » https://arxiv.org/abs/2501.12948
• Dias, T., & Schurig, S. (2024, 5 de Junho). Moderadores subterrâneos: Meta paga centavos por checagem sobre enchentes no RS, violência e política para treinar inteligência artificial Intercept Brasil. Disponível em: Disponível em: https://www.intercept.com.br/2024/06/05/meta-paga-centavos-por-checagem-sobre-enchentes-no-rs-violencia-e-politica-para-treinar-inteligencia-artificial/ Acesso em:11 maio 2025.
  » https://www.intercept.com.br/2024/06/05/meta-paga-centavos-por-checagem-sobre-enchentes-no-rs-violencia-e-politica-para-treinar-inteligencia-artificial/
• Dias, T., & Schurig, S. (2024, 22 julho). Proletários de plataforma: Como a indústria de inteligência artificial lucra criando uma nova classe trabalhadora sem direitos no Brasil Intercept Brasil. Disponível em:Disponível em:https://www.intercept.com.br/2024/07/22/inteligencia-artificial-classe-trabalhadora-sem-direitos-no-brasil/ Acesso em:11 maio 2025.
  » https://www.intercept.com.br/2024/07/22/inteligencia-artificial-classe-trabalhadora-sem-direitos-no-brasil/
• Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor St. Martin's Press.
• Feenberg, A. (1990). Post-industrial discourses. Theory and Society, 19, pp. 709-737. https://doi.org/10.1007/BF00191895
  » https://doi.org/10.1007/BF00191895
• Flanagin, A., Kendall-Taylor, J., & Bibbins-Domingo, K. (2023). Guidance for authors, peer reviewers, and editors on use of AI, language models, and chatbots. Jama, 330(8), 702-703. https://jamanetwork.com/journals/jama/fullarticle/2807956
  » https://jamanetwork.com/journals/jama/fullarticle/2807956
• França, T. F., & Monserrat, J. M. (2024). The artificial intelligence revolution... in unethical publishing: Will AI worsen our dysfunctional publishing system?. Journal of General Physiology, 156(11), e202413654. https://doi.org/10.1085/jgp.202413654
  » https://doi.org/10.1085/jgp.202413654
• Freire, P; & Shor, I. (1986). Medo e Ousadia: o cotidiano do professor Rio de Janeiro, RJ: Paz e Terra.
• Fromm, E. (2024). Ter ou ser? São Paulo, SP: Editora Planeta.
• Ganjavi, C., Eppler, M. B., Pekcan, A., Biedermann, B., Abreu, A., Collins, G. S., ... & Cacciamani, G. E. (2024). Publishers’ and journals’ instructions to authors on use of generative artificial intelligence in academic and scientific publishing: bibliometric analysis. The bmj, 384. https://doi.org/10.1136/bmj-2023-077192
  » https://doi.org/10.1136/bmj-2023-077192
• Giroux, H. A. (1997). Os professores como intelectuais: Rumo a uma pedagogia crítica da aprendizagem Porto Alegre, RS: Artes Médicas.
• Haraway, D. J. (2009) Manifesto ciborgue: ciência, tecnologia e feminismo-socialista no final do século XX. In: Tadeu, T. (Org). Antropologia do ciborgue: as vertigens do pós-humano (2nd ed. pp. 33-118). Belo Horizonte, MG: Autêntica Editora.
• Hobsbawn, E. J. (1952). The Machine Breakers. Past & Present, 1, pp. 57-70.
• Holmes, W., & Miao, F. (2024). Guia para a IA generativa na educação e na pesquisa. UNESCO Publishing. https://unesdoc.unesco.org/ark:/48223/pf0000390241
  » https://unesdoc.unesco.org/ark:/48223/pf0000390241
• Legg, S.; Hutter, M. (2007). A collection of definitions of intelligence. In B. Goertzel & P. Wang (Eds.), Artificial General Intelligence: Concepts, Architectures and Algorithm (pp. 17-24). IOS Press Ebooks: Amsterdam, The Netherlands.
• Leung, T. I., de Azevedo Cardoso, T., Mavragani, A., & Eysenbach, G. (2023). Best practices for using AI tools as an author, peer reviewer, or editor. Journal of Medical Internet Research, 25, e51584. https://www.jmir.org/2023/1/e51584
  » https://www.jmir.org/2023/1/e51584
• Makridakis, S., & Polemitis, A. (2023). Human Intelligence (HI) Versus Artificial Intelligence (AI) and Intelligence Augmentation (IA). In Forecasting with Artificial Intelligence: Theory and Applications(pp. 3-29). Cham: Springer Nature Switzerland.
• Marx, K. (2011). Grundrisse: manuscritos econômicos de 1857-1858: esboços da crítica da economia política São Paulo, SP; Rio de Janeiro, RJ: Boitempo; Ed. UFRJ.
• Massi, L., & Silva, R.L.F. (2024). O papel das revistas científicas na ética em pesquisa. Ensaio Pesquisa em Educação em Ciências, 26, e55294. https://doi.org/10.1590/1983-21172022240198
  » https://doi.org/10.1590/1983-21172022240198
• McAfee, A.(2024). Generally Faster: The Economic Impact of GenerativeAI [online]. The MIT Initiative on the Digital Economy (IDE). Available from: https://ide.mit.edu/wp-content/uploads/2024/04/Davos-Report-Draft-XFN-Copy-01112024-Print-Version.pdf?x76181
  » https://ide.mit.edu/wp-content/uploads/2024/04/Davos-Report-Draft-XFN-Copy-01112024-Print-Version.pdf?x76181
• Mendonça, P. C. C., Franco, L. G., Massi, L., & Coelho, G. R. (2023). Experiências da revista Ensaio Pesquisa em Educação em Ciências com avaliação por pares aberta. Ensaio Pesquisa em Educação em Ciências, 25, e42617. https://doi.org/10.1590/1983-21172022240137
  » https://doi.org/10.1590/1983-21172022240137
• Messeri, L., & Crockett, M. J. (2024). Artificial intelligence and illusions of understanding in scientific research. Nature, 627(8002), 49-58. https://doi.org/10.1038/s41586-024-07146-0 4.
  » https://doi.org/10.1038/s41586-024-07146-0 4
• Ministério da Ciência, Tecnologia e Inovação (MCTI). (2024). IA para o Bem de Todos: Proposta de Plano Brasileiro de Inteligência Artificial 2024-2028. Apresentação na Reunião do Pleno do Conselho Nacional de Ciência e Tecnologia. 29 de Julho de 2024. Brasília, DF: MCTI.
• Naddaf, M. (2025). AI is transforming peer review-and many scientists are worried. Nature, 639(8056), 852-854. https://doi.org/10.1038/d41586-025-00894-7
  » https://doi.org/10.1038/d41586-025-00894-7
• Peñalvo, F. J. G., & Ingelmo, A. V. (2023). What do we mean by GenAI? A systematic mapping of the evolution, trends, and techniques involved in Generative AI. International Journal of Interactive Multimedia and Artificial Intelligence, 8(4), 7-16.
• Sampaio, R.C., Sabbatini, M., & Limongi, R. (2024). Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa: um guia prático para pesquisadores São Paulo: Editora Intercom. https://prpg.unicamp.br/wp-content/uploads/sites/10/2025/01/livro-diretrizes-ia-1.pdf
  » https://prpg.unicamp.br/wp-content/uploads/sites/10/2025/01/livro-diretrizes-ia-1.pdf
• Schmidt, S. (2024, agosto). Universidades brasileiras discutem regras de uso de inteligência artificial: Diante de incertezas por parte de estudantes e pesquisadores, instituições debatem quais seriam os limites éticos do uso dessas ferramentas na escrita e na pesquisa científica. Revista Pesquisa FAPESP 342. Disponível em: Disponível em: https://revistapesquisa.fapesp.br/universidades-brasileiras-discutem-regras-de-uso-de-inteligencia-artificial/ Acesso em:11 maio 2025.
  » https://revistapesquisa.fapesp.br/universidades-brasileiras-discutem-regras-de-uso-de-inteligencia-artificial/
• SciELO. (2023). Guia de uso de ferramentas e recursos de Inteligência Artificial na comunicação de pesquisas na Rede SciELO Disponível em:Disponível em:https://wp.scielo.org/wp-content/uploads/Guia-de-uso-de-ferramentas-e-recursos-de-IA-20230914.pdf Acesso em 06 março -03-2025.
  » https://wp.scielo.org/wp-content/uploads/Guia-de-uso-de-ferramentas-e-recursos-de-IA-20230914.pdf
• SciELO. (2024). Critérios, política e procedimentos para a admissão e a permanência de periódicos na Coleção SciELO Brasil Disponível em: Disponível em: https://www.scielo.br/media/files/20240900-Criterios-SciELO-Brasil.pdf Acesso em 06 março 2025.
  » https://www.scielo.br/media/files/20240900-Criterios-SciELO-Brasil.pdf
• Spinak, E. (2023). ¿Puede la IA hacer arbitrajes confiables de artículos científicos? . SciELO en Perspectiva Disponível em: Disponível em: https://blog.scielo.org/es/2023/12/06/puede-la-ia-hacer-arbitrajes-confiables-de-articulos-cientificos/ Acesso em23 abril 2025.
  » https://blog.scielo.org/es/2023/12/06/puede-la-ia-hacer-arbitrajes-confiables-de-articulos-cientificos/
• Stengers, I. (2018). Another science is possible: a manifesto for slow science Cambridge, UK: Polity Press.
• Thirunavukarasu, A. J., Ting, D. S. J., Elangovan, K., Gutierrez, L., Tan, T. F., & Ting, D. S. W. (2023). Large language models in medicine. Nature Medicine, 29(8), 1930-1940. https://doi.org/10.1038/s41591-023-02448-8
  » https://doi.org/10.1038/s41591-023-02448-8
• Van Noorden, R., & Webb, R. (2023). ChatGPT and science: the AI system was a force in 2023-for good and bad. Nature, 624(7992), 509.
• Vasconcelos, S., & MARUŠIĆ, A. Research Integrity and Human Agency in Research Intertwined with Generative AI [online]. SciELO in Perspective, 2025. Available from: https://blog.scielo.org/en/2025/05/07/research-integrity-and-human-agency-in-research-gen-ai/
  » https://blog.scielo.org/en/2025/05/07/research-integrity-and-human-agency-in-research-gen-ai/
• Vieira Pinto, A. (2005a). O conceito de tecnologia v. 1. Rio de Janeiro: Contraponto.
• Vieira Pinto, A. (2005b). O conceito de tecnologia v. 2. Rio de Janeiro: Contraponto.
• Yu, H. (2023). Reflection on whether Chat GPT should be banned by academia from the perspective of education and teaching. Frontiers in Psychology, 14: 1181712. https://doi.org/10.3389/fpsyg.2023.1181712
  » https://doi.org/10.3389/fpsyg.2023.1181712
• Zuboff, S. (2018). The age of surveillance capitalism: the fight for a human future at the new frontier of power New York: PublicAffairs.

• 1
  O conceito de inteligência é multifacetado e possui mais de 70 definições, que variam conforme a área de estudo, incluindo definições coletivas, da psicologia e tecnológicas (Legg e Hutter, 2007). Apesar disso, não seria correto, com as tecnologias que temos no momento, considerar a IA como inteligência no sentido pleno, dotada de singularidade. Isso porque embora a IA simule comportamentos inteligentes, ela não possui compreensão, consciência ou mesmo intencionalidade (Makridakis e Polemitis, 2023). Ela opera com base em algoritmos e dados, sem a capacidade de generalização profunda ou processos cognitivos biológicos, como ocorre com as inteligências animais.
• 2
  Aqui vale uma ressalva sobre a polissemia do conceito de “popular”. Ainda que, neste caso, estamos utilizando no sentido de um uso disseminado ou amplamente reconhecido, fazemos um destaque que outra acepção possível do conceito é de algo apropriado radicalmente pelo povo, antítese de privilégios e controle hegemônico.
• 3
  Temos hoje ferramentas de IAGen que rivalizam com as estadunidenses, como o Deep Seek, forjadas no mundo produtivo do socialismo com características chinesas. Embora operem em código aberto e possivelmente aleguem gerem menor impacto ambiental (segundo o preprint Deep Seek-AI et al., 2025), seguem carregando implicações éticas, sociopolíticas e econômicas que, longe de enfraquecer, apenas reforçam os argumentos aqui desenvolvidos.
• 4
  Mantemos a palavra original “escravo”, mas enfatizamos que o termo “escravizado” representa melhor o processo histórico de submissão e domínio de homens, mulheres e crianças. No caso brasileiro, particularmente de pessoas negras trazidas de África. Escravo, neste caso, revela uma concepção essencialista, como uma condição natural e fundamental do ser humano.
• 5
  Aqui exemplificamos com casos emblemáticos envolvendo o uso indevido de dados pessoais, como o escândalo entre o Facebook e Cambridge Analytica de 2014/2015, que revelou a manipulação de informações de milhões de usuários para fins políticos. Mais recentemente, também surgiram denúncias de outros casos igualmente antiéticos, como o da província de Salta, Argentina, em que uma plataforma foi criada para predizer gravidez na adolescência e reforçou injustiças sociais e violações de direitos (ver em https://outraspalavras.net/outrasaude/podera-a-ia-ser-programada-com-etica/)
• 6
  Springer-Nature (i) https://www.springer.com/gp/editorial-policies/artificial-intelligence--ai-/25428500?srsltid=AfmBOoo2NA70PRaRtiQln1W03ZF4iwyJPPmSxwT9xvbcgja05Tgik1ER (ii) https://group.springernature.com/gp/group/ai/ai-principles. Elsevier https://www.elsevier.com/about/policies-and-standards/the-use-of-generative-ai-and-ai-assisted-technologies-in-writing-for-elsevier Taylor & Francis https://taylorandfrancis.com/our-policies/ai-policy/ Sage Publications https://us.sagepub.com/en-us/nam/artificial-intelligence-policy
• 7
  Código de Ética e normas de Conduta da Fapesp https://fapesp.br/codigodeetica.pdf. COPE (Committee on Publication Ethics) https://publicationethics.org/getting-started/what-publication-ethics. Série Ética e Pesquisa em Educação da ANPed, volumes 1 (2019), 2 (2021) e 3 (2023) https://anped.org.br/e-books/.
• 8
  Uma versão inicial da nossa discussão sobre princípios foi apresentada em texto de nossa autoria, submetido ao XV ENPEC, com o objetivo de comunicar os desafios éticos e alguns dos aprendizados emergentes nas temáticas de dados abertos e IAGen.
• 9
  Mencionamos práticas e sistemas como cooperativas, incubadoras, núcleos de movimentos sociais. A exemplo, citamos a cooperativa EITA https://eita.coop.br/quem-somos/ e o Núcleo de Tecnologia do MTST https://www.nucleodetecnologia.com.br/
• 10
  Mais informações sobre o caso (1) https://retractionwatch.com/2025/04/28/experiment-using-ai-generated-posts-on-reddit-draws-fire-for-ethics-concerns/ (2) https://san.com/cc/university-of-zurichs-unauthorized-ai-experiment-on-reddit-sparks-controversy/ (3) https://www.npr.org/2025/05/07/nx-s1-5387701/a-controversial-experiment-on-reddit-reveals-the-persuasive-powers-of-ai

• O CECIMIG agradece ao CNPq (Conselho Nacional de Desenvolvimento Científico) e à FAPEMIG (Fundação de Amparo à Pesquisa do Estado de Minas Gerais) pela verba para a editoração deste artigo.

Datas de Publicação

• Publicação nesta coleção
  20 Jun 2025
• Data do Fascículo
  2025