Por uma ética de assemblagem nas conversas com e sobre IA

Towards an ethics of assemblage in conversations with and about AI

Resumo

Este artigo examina os problemas éticos suscitados pela integração massiva de modelos de linguagem em larga escala (LLMs) nas práticas discursivas pessoais e institucionais contemporâneas. Tem como objetivo propor uma abordagem alternativa às leituras correntes sobre ética da inteligência artificial, que oscilam entre a antropomorfização dos sistemas como sujeitos morais emergentes e sua redução a instrumentos neutros e passivos. Metodologicamente, articulam-se contribuições da filosofia da linguagem, da metaética, da linguística aplicada pós-humanista, da pós-fenomenologia da tecnologia e da filosofia da informação, examinando-se os limites da racionalidade algorítmica frente à distinção entre linguagem da moral e linguagem moral, bem como o papel hierarquizado dos "humanos no loop" (funcionários, clickworkers, desenvolvedores de sistema e usuários) na produção do Aprendizado por Reforço a partir de Feedback Humano (RLHF). Como resultado, evidencia-se que a moralidade algorítmica dos LLMs constitui uma construção estratificada, geopoliticamente situada e mediada por trabalho humano invisibilizado, e não uma propriedade emergente dos sistemas. Propõe-se, então, compreender a interação humano-IA como uma assemblagem cognitiva, e o sujeito ético contemporâneo como um "ciborgue ético" distribuído entre capacidades humanas e técnicas. Conclui-se pela necessidade de letramentos críticos de IA capazes de reconfigurar as fronteiras entre responsabilidade, agência e vida social nos acoplamentos sociotécnicos entre humanos e sistemas generativos.

Palavras-chave
Inteligência artificial; Ética da linguagem; Pós-humanismo; Assemblagem cognitiva; Letramentos críticos de IA

Abstract

This article examines the ethical problems raised by the massive integration of large language models (LLMs) into contemporary personal and institutional discursive practices. It aims to propose an alternative approach to current readings on the ethics of artificial intelligence, which oscillate between the anthropomorphization of systems as emerging moral subjects and their reduction to neutral, passive instruments. Methodologically, contributions from the philosophy of language, metaethics, posthumanist applied linguistics, postphenomenology of technology, and the philosophy of information are articulated, examining the limits of algorithmic rationality in light of the distinction between the language of morals and moral language, as well as the hierarchized role of "humans in the loop" (employees, clickworkers, system developers, and users) in Reinforcement Learning from Human Feedback (RLHF). As a result, it becomes evident that the algorithmic morality of LLMs constitutes a stratified, geopolitically situated construction mediated by invisibilized human labor, rather than an emergent property of the systems themselves. It is thus proposed that human-AI interaction be understood as a cognitive assemblage, and the contemporary ethical subject as an "ethical cyborg" distributed across human and technical capacities. It is concluded that critical AI literacies are necessary to reconfigure the boundaries between responsibility, agency, and social life within the sociotechnical assemblages comprising humans and generative systems.

Keywords
Artificial intelligence; Language ethics; Posthumanism; Cognitive assemblage; Critical AI literacies

Introdução

A disponibilização pública e gratuita, em larga escala, de modelos de inteligência artificial generativa — sobretudo dos Modelos de Linguagem em Larga Escala (Large Language Models), doravante LLMs — redefine certos termos dos debates sobre linguagem, racionalidade, tecnologias computacionais e moralidade nas práticas pessoais e institucionais contemporâneas. Em poucos anos, sistemas capazes de gerar textos altamente plausíveis passaram a ocupar espaços antes reservados à agência discursiva humana, sendo hoje utilizados para produzir, com maior ou menor interferência humana, desde resumos e notícias até pareceres acadêmicos e petições judiciais. Isso implica que tais agentes cibernéticos vêm sendo integrados sistematicamente em práticas pessoais e institucionais que envolvem deliberação racional sobre modos de agir ou descrever/prescrever ações e processos de tomada de decisões, com maior ou menor grau de autonomia e impacto.

Na esfera pessoal, observam-se usuários leigos, muitas vezes excessivamente entusiasmados, ou pouco letrados criticamente em Inteligência Artificial (doravante, IA) (Buzato; Gonsales, 2025), os quais desenvolvem laços afetivos (Liu et al, 2025; Pan; Mou, 2024; Van Der Zanden et al, 2019; Chu et al, 2025) e de confiança moral ilusória com IAs, solicitando aconselhamentos de interpretação e de conduta em torno de dilemas subjetivos e sociais. Isso ocorre a despeito de se saber que LLMs gerem seus textos de maneira comprovadamente inconsciente, e não tenham capacidade comprovada de empatizar ou compreender efetivamente a experiencia cultural e biológica que modula os dilemas humanos (Porębski; Figura, 2025, Zhang et al, 2024). Tais formas de uso inadequado de agentes de IA têm, inclusive, levado a tragédias em casos de usuários particularmente vulneráveis emocionalmente (Por exemplo, Yousif, 2025; Carroll, 2024; El Atillah, 2023).

O impacto cultural dessa transformação não decorre apenas da eficiência técnica desses sistemas, mas da maneira como certas formas de reciprocidade cognitiva e afetiva entre humanos e máquinas vêm se estabelecendo como práticas discursivas fundamentadas em agenciamentos cognitivos entre modos humanos e não humanos de interpretação de cadeias de signos linguísticos (Cuskley, Woods, Flaherty, 2024; Havlík, 2023). A massificação dessas interações por meio de produtos de IA-social ou IA de companhia, cujo plano de negócio está baseado no estabelecimento de engajamento afetivo-discursivo contínuo entre modelo e usuário, já tem levado estudiosos a alertarem para um possível processo de erosão da competência moral humana (moral deskilling), vista como um conjunto de habilidades adquiridas ao longo da vida por meio da socialização e do discurso (Cardwell, 2024).

Mesmo ao interagir com sistemas mais genéricos, tais como ChatGPT, Claude, Gemini, entre outros, muitos usuários têm a sensação de dialogar com agentes dotados de compreensão e intenção, além do fato de que esses sistemas emprestam para si o tipo de autoridade que estamos habituados a atribuir a métodos e práticas científicas num sentido mais amplo. Ocorre que o enredamento entre os modos cognitivos do humano e dos sistemas via discurso aciona um tipo específico de fenomenologia interativa, na qual é basicamente inevitável que o humano não projete sobre a máquina uma teoria de outras mentes e, por consequência, um conjunto de outras capacidades sociais, afetivas e morais (Wittkower, 2022).

Mais do que isso, a Pós-fenomenologia da Tecnologia permite argumentar que a inteligência artificial, em sentido amplo, para além dos LLMs, participa da formação de valores sociais e morais¹ (Verbeek, 2011) porque influencia aquilo que percebemos como relevante, verdadeiro, desejável ou aceitável. Isso é feito por meio de algoritmos de busca, recomendação e redes sociais selecionam e organizam as informações às quais temos acesso. Da mesma forma, algoritmos de recomendação e formas específicas de design da interação influenciam comportamentos humanos por meio de sugestões automáticas, filtragem de interesses, ofertas de opções de ação e e mecanismos de segmentação das ações que influenciam escolhas e decisões cotidianas. Dito de outra forma: as tecnologias de IA participam da constituição da subjetividade moral contemporânea ao moldar a forma como percebemos situações, interpretamos problemas, avaliamos alternativas e tomamos decisões e condutas éticas (Wellner, 2024).

As formas de agenciamento moral assim descritas só se estabelecem e se mantêm de modo tão relevante na relação entre humanos e LLMs porque tais sistemas operam precisamente sobre a linguagem, historicamente entendida como um dos principais marcadores da excepcionalidade humana. Não se trata apenas de operarem sobre a racionalidade implícita nos sistemas linguísticos, mas de mobilizarem a pragmática das línguas. Pedem desculpas, agradecem, demonstram polidez e, sobretudo, estão disponíveis e abertas a solicitações humanas de todo tipo, o tempo todo. Agem, em resumo, de maneira suficientemente sofisticada para suscitar no humano uma fenomenologia de alteridade, o que redunda, inclusive, em debates morais inusitados, como o atual debate sobre a necessidade de consentimento de um sexbot (robô sexual) para a realização de uma relação sexual com seu tutor humano (Levy; Cheok, 2018).

Além de o próprio design conversacional desses sistemas favorecer a ilusão de reciprocidade afetiva, os discursos técnicos sobre IA frequentemente recorrem a um certo antropomorfismo metodológico, atribuindo, aos modelos, conceitos como intenção, persona, alucinação, sentimento e assim por diante (Salles; Evers; Farisco, 2020), mesmo no escopo da sua comunicação científica disciplinar. Dessa maneira, a projeção da alteridade por parte do usuário decorre, ao menos em parte, da intencionalidade dos produtores, e não de uma característica emergente dos sistemas simplesmente. Autores críticos dessas práticas no âmbito das ciências e engenharia de IA ressaltam o risco moral dessa projeção quando ela se combina à natureza estruturalmente probabilística, e não causal, dos LLMs (Costa, 2026).

Sendo a ética um fenômeno inevitavelmente ligado à alteridade, e sendo as inteligências artificiais um tipo historicamente novo de quase-sujeitos (Latour, 2005) não humanos, torna-se necessário repensar as relações entre ética, linguagem e tecnologia em termos de uma reconfiguração sociotécnica mais ampla. Isso exige não apenas discutir princípios abstratos de ética da IA (Mittelstadt et al, 2016), mas, também, investigar as éticas do falar com inteligências artificiais e do falar sobre inteligências artificiais nas sociedades contemporâneas. No primeiro caso, estão em jogo as formas pelas quais humanos depositam confiança epistêmica, afetiva e moral em sistemas generativos de comportamento quase-subjetivo; no segundo, os modos discursivos pelos quais a sociedade (induzida pelos construtores) representa e enquadra simbolicamente esses artefatos nos esquemas e enquadramentos cognitivos e afetivos que condicionam suas práticas verbais.

A hipótese central deste artigo é, então, a de que os problemas éticos associados às inteligências artificiais generativas não podem ser compreendidos adequadamente nem sob o prisma da antropomorfização, nem pela ótica clássica das dicotomias ontológicas rígidas entre humano e máquina, sujeito e objeto, natureza e tecnologia e assim por diante (Lamb; Higgins, 2020). A produção do sentido ético dos discursos de e sobre IA emerge de agenciamentos cognitivos humano-máquina nos quais capacidades humanas e processos algorítmicos tornam-se mutuamente implicados. Nessa direção, propõe-se estudar esses sentidos éticos na perspectiva de um agenciamento cognitivo sociotécnico (Hayles, 2023).

Para desenvolver tal discussão, o artigo articula contribuições da filosofia da linguagem, da metaética, da linguística aplicada pós-humanista, da pós-fenomenologia da tecnologia e da filosofia da informação. Busca-se examinar os limites da racionalidade algorítmica e a contribuição dos humanos no loop para a emergência de uma ética de assemblagem, por assim dizer. Trata-se, em termos mais simples, de defender a necessidade de mais clareza (letramentos críticos) acerca das potencialidades e limites da ética algorítmica vigente nesses sistemas, que devem passar a ser vistos como atravessados por epistemologias conflitantes, interesses econômicos, escolhas políticas e enquadramentos ideológicos.

Linguagem, racionalidade ética e algoritmização moral

Uma das questões centrais para qualquer reflexão ética sobre de sistemas de IA que operam com linguagem natural diz respeito à relação entre linguagem e moralidade. Isso porque, diferentemente do que propõem as teorias de comunicação, de base cibernética, behaviorista e matemática, com que operam os sistemas de machine learning (Bender et al, 2021); a linguagem não é apenas um meio de transmissão de mensagens, ela constitui uma prática social capaz de organizar relações, produzir reconhecimento, sustentar vínculos de confiança e desencadear efeitos materiais sobre indivíduos e coletividades, a depender de como o sentido das palavras está ancorado na realidade física e fenomenológica dos intérpretes humanos. Assim sendo, todo enunciado linguístico possui potencialmente uma dimensão ética, ainda que seja meramente declarativo.

É importante distinguir, inicialmente, dois sentidos diferentes da relação entre linguagem e ética. De um lado, existe a linguagem da moral (ou da ética), isto é, o conjunto de conceitos, categorias e formulações teóricas desenvolvidas pela filosofia moral para descrever, justificar ou criticar sistemas éticos. De outro, existe aquilo que podemos chamar de linguagem moral: os modos de uso das línguas, em práticas sociais situadas, que norteiam condutas humanas e produzem efeitos passíveis de valoração ética no mundo concreto dos humanos (Brandt, 1963).

Essa distinção é fundamental porque sistemas de IA generativa operam simultaneamente nesses dois níveis. Eles podem reproduzir discursos filosóficos sofisticados sobre ética e, ao mesmo tempo, participar diretamente de práticas linguísticas em que seus enunciados maquínicos produzem consequências morais concretas. Por exemplo, quando um agente de IA recomenda ou desqualifica uma ação, oferece ou nega ajuda, fornece, assertivamente (por ser incapaz de saber que pode estar errada), uma informação carente de facticidade, ou responde de maneira discriminatória a uma consulta do usuário sobre estados de coisas no mundo, não estamos diante apenas de um problema semântico, mas de um problema ético situado.

Historicamente, muitas tradições filosóficas associaram racionalidade ética à capacidade de aplicar princípios universais expressos linguisticamente a situações particulares. Nessa perspectiva, agir moralmente implicaria conduzir o pensamento de forma lógica, coerente e informada a partir de imperativos ou declarações valorativas (Alexander; Moore, 2012). Isso suscita uma questão central para a inteligência artificial: até que ponto seria possível algoritmizar a moralidade de um agente artificial que opera com língua natural?

A ideia de uma racionalidade ética computável reaparece constantemente nas promessas contemporâneas da IA, sobretudo no pensamento transumanista. Sugere-se, com frequência, que sistemas suficientemente avançados poderiam tomar decisões mais imparciais, consistentes e racionais do que seres humanos (Bostrom, 2003b). Essa expectativa, no entanto, acarreta a suposição de que a moralidade pode ser reduzida a regras formais, padrões estatísticos ou cálculos inferenciais. Entretanto, a relação entre linguagem e ética revela rapidamente os limites dessa hipótese.

Tomemos algumas proposições simples: (1) Todos os computadores são máquinas; (2) Algumas máquinas são computadores; (3) Todos os computadores computam; (4) Alguns computadores computam mais rápido do que humanos; (5) Computadores são maus. As três primeiras proposições possuem estrutura analítica relativamente transparente. O significado lógico-semântico dos predicados está amplamente contido nos sujeitos. Trata-se de relações formais mais facilmente tratáveis por sistemas computacionais. Já a quarta e quinta proposições dependem de referenciação empírica (ancoragem dos signos no mundo concreto), contexto social e interpretação cultural. Determinar o sentido de "mais rápido" ou "maus" exige mobilizar experiências, valores, critérios que não estão implícitos na lógica das sentenças.

O problema torna-se ainda mais complexo quando saímos do domínio proposicional e entramos no domínio pragmático, haja vista que a moralidade da linguagem não se reduz ao valor de verdade- falsidade das proposições, tampouco à construção de bons ou maus imperativos. Ela envolve, na verdade, os efeitos sociais concretos daquilo que é dito situadamente ou, ainda, daquilo que, hoje em dia, circula massivamente e em altíssima velocidade, em escalas muito amplas de atividades sociais humanas.

Os atos de fala, como se sabe, possuem efeitos perlocutórios, isto é, produzem consequências reais sobre outros sujeitos no mundo, sejam elas emocionais, sociais e materiais (Austin, 1962; Niu, 2023). Uma frase que não carregue conteúdo proposicional imanentemente bom ou mau, verdadeiro ou falso, pode concretamente humilhar, consolar, intimidar, excluir, manipular ou acolher outros a quem é dirigida ou que presenciam aquela cena enunciativa. Nesse sentido, o valor ético do enunciado está vinculado a um anexo pragmático que sequer precisa ser explicitado na superfície linguística processável por um computador.

Considere-se, por exemplo, a situação de uma pessoa com deficiência visual pedindo ajuda para atravessar a rua. Um transeunte que permanece em silêncio deliberadamente pode produzir um efeito moralmente condenável mesmo sem emitir qualquer proposição declarativa ou injuntiva. Por outro lado, na mesma situação, alguém que oferecesse ajuda de maneira invasiva ou humilhante (“vem cá, ceguinho, que eu te ajudo”) também produziria um dano moral, ainda que baseado em uma intenção altruísta. Isso revela uma dificuldade central para o projeto de moralidade algorítmica: o sentido ético da linguagem depende de condições situadas de uso, expectativas compartilhadas, normas tácitas, vieses ideológicos e experiências sensoriais corporificadas que escapam à mera manipulação formal de símbolos, não importa quão potente seja seu mecanismo de processamento simbólico disponível.

Mesmo que fosse possível deduzir (de grandes volumes de metadados ambientais) padrões linguísticos precisos de usos moralmente aceitáveis ou inaceitáveis de asserções e imperativos, permaneceria sem solução o problema da atualização contextual dessa aceitabilidade mediante diferentes tipos de condições de felicidade (Searle, 1969). O que é benéfico afirmar ou ordenar em uma situação pode tornar-se maléfico em outra de forma por vezes imprevisível a partir, apenas, do contexto linguístico (co-texto) associado, não importa quão extenso. O cálculo moral exige interpretação contínua de contextos dinâmicos, situados e multimodais/multissensoriais. É justamente manipulando esse tipo de incapacidade dos grandes modelos linguísticos que adversários praticam as assim chamadas injeções de prompt (prompt injections), por exemplo, enquadrando ficcionalmente uma solicitação imoral.²

Além disso, mesmo para intérpretes humanos, existe uma ambiguidade importante, do ponto de vista do raciocínio ético, entre linguagem-objeto e metalinguagem. Compare-se: "A inteligência artificial é boa para a humanidade" e "As empresas de tecnologia dizem que a inteligência artificial é boa para a humanidade". Embora semanticamente próximas, as duas frases operam de maneiras diferentes. A primeira possui pretensão normativa; a segunda descreve um posicionamento discursivo de determinados atores sociais. Confundir esses níveis produz efeitos ideológicos importantes. Grande parte do discurso contemporâneo sobre IA funciona justamente por meio desse deslocamento: afirmações interessadas de empresas são frequentemente geradas em tom de descrições neutras da realidade (Wellner, 2024).

Finalmente, o fato dos sistemas de inteligência artificial terem sua gênese em círculos científicos leva ideologicamente o usuário comum a interpretar a plausibilidade e a coerência de suas asserções de maneira autoritativa, ainda que, como é fato, coerência discursiva não seja evidência inapelável de compreensão ou confiabilidade epistêmica, algo que as próprias interfaces de usuário desses sistemas costumam ressalvar com frase do tipo “gerado por IA, apenas para referência” (DeepSeek) ou “O ChatGPT pode cometer erros. Por isso, lembre-se de conferir informações relevantes” (ChatGPT).

Em resumo, num sentido amplo, a racionalidade algorítmica dos LLMs opera predominantemente sobre correlações estatísticas entre sequências simbólicas, não sobre experiências conscientes do mundo. Isso significa que a tentativa de moralizar um LLM se confronta diretamente com o problema da distinção ou salto entre “ser” e “dever ser”. Como observado por David Hume já no século XVIII — o que se pode relacionar com o problema da relação entre correlação e causalidade em sistemas de machine learning.^{3 4}

Fundamentalmente, enquanto a cognição humana articula linguagem, experiência incorporada, afetividade, contexto pragmático e deliberação moral de maneira holística, os grandes modelos linguísticos de IA operam sobre regularidades probabilísticas extraídas de sequências linguísticas. Ou seja, seu raciocínio (Yu, Zhang, Tiwari, Wang, 2023) é baseado na premissa de que o correto é o mais frequentemente dito em determinado cotexto. É assim, fundamentalmente, também que se produzem vieses de IA por meio de treinamentos baseados em corpora inadequados. A passagem do “que é” para o “que deve ser”, portanto, não emerge espontaneamente do funcionamento probabilístico dos modelos de linguagem; se há normas morais no discurso de uma IA, elas estão por força de percepções causais de humanos no loop (como explicarei a seguir). No entanto, mesmo essa forma de injetar moralidade no sistema tem resultados bastante limitados em eficácia, justamente porque os julgamentos valorativos desses humanos no loop são performados sem a devida compreensão por parte do modelo em si.

Os humanos no loop

Um dos principais equívocos presentes no imaginário social sobre IA consiste em confundir desempenho linguístico sofisticado dos LLMs com consciência, subjetividade ou entendimento, o que, como já dito, está em relação com o modo como esses sistemas usam palavras e formulações que remetem a memórias, emoções, rituais sociais, percepções sensoriais e experiências corporificadas a partir de um “eu” maquínico que, na realidade, não está lá. Isso não significa que os LLMs sejam simplesmente um autocomplete sofisticado, como frequentemente afirmam críticos reducionistas. A complexidade desses sistemas suscita a emergência de capacidades não previamente programadas que, de fato, são impressionantes, entre as quais, no entanto, não estão consciência e senciência. Uma maneira de distinguir esses dois modos, o humano e o dos LLMs, de interpretar línguas naturais é relacionar o que chamamos de informação (em cibernética) e significação (nos estudos da linguagem).

Na tradição cibernética, informação pode ser compreendida como uma diferença (ambiental) capaz de “fazer a diferença” para o funcionamento interno de um sistema (Bateson, 1967). Nesse sentido, a informação possui caráter formal e independe de significado semântico intrínseco: trata-se, essencialmente, de detecção de padrões e alterações em eventos mensuráveis, quer físicos ou simbólicos, os quais não necessariamente produzem referência semântica propriamente dita (Floridi, 2015). Isso vale tanto para máquinas que processam padrões de ocorrência de símbolos, como para funções de sistemas biológicos que simplesmente reagem a estímulos ambientais sem produzir ou compreender qualquer tipo de semântica referencial — por exemplo, observe-se como um girassol orienta-se em direção à luz a sem que haja internamente ao seu corpo a produção de sentidos de luz, sol, calor etc. Do ponto de vista humano, interpretamos esse comportamento como "seguir o sol", mas não há razão para supor a existência compreensão dessa ação na planta em si. Analogamente, modelos de linguagem reorganizam estruturas informacionais continuamente ao receberem inputs linguísticos que podem perfeitamente conter diferenças que fazem diferença na sintaxe e semântica proposicional, sem que isso implique, no sistema, a necessidade de ancoragem daqueles símbolos em elementos do mundo exterior. Se há de fato ancoragem dos símbolos operados em um LLM, essa ancoragem é puramente matemática (mais precisamente geométrica/vetorial) (Mollo; Millière, 2025). Uma vez que, no LLM, os símbolos se ancoram em relações de sequencialidade probabilística, e dada a complexidade dessas relações tendo em vista o universo simbólico das línguas, os mecanismos causais internos do processo são opacos, isto é, não interpretáveis por meio de formas de linguagem que a mente humana possa abarcar (Carabantes, 2020). A esse tipo de opacidade, somam-se outras, como a comercial, as quais, aliadas à antropomorfização envolvida, quer seja metodológica (da parte dos construtores) ou fenomenológica (da parte do usuário), dificulta a compreensão pública do funcionamento real dos LLMs.O marketing das empresas produtoras aciona uma memória discursiva coletiva que abrange desde ficção científica até mitologias religiosas e se apoia na tradição ocidental de escravizar a natureza para realizar trabalhos que humanos consideram extenuantes. Disso se alimentam narrativas simplificadoras em que são omitidos fatos importantes sobre as estratégias das empresas para cobrir, até onde possível, o gap entre informação e significação, racionalização e consciência, linguagens da moral e moralidade linguística.

Dentre as várias formas de desconhecimento, ou encobrimento, da maneira como efetivamente LLMs operam linguagem, está a ausência, nessas narrativas, de uma grande quantidade e diversidade de humanos no loop, para além dos usuários e dos capitães da indústria que vivem a proclamar como será o nosso futuro.

No caso do modelo GPT, por exemplo, o que não aparece nas narrativas é o trabalho dos clickworkers (corretores/avaliadores), o qual está subordinado a uma técnica chamada Reinforcement Learning through Human Feedback — RLHF (Aprendizado por Reforço a partir de Feedback Humano), descrita, por sua vez, como um mecanismo de filtragem humana voltada para tornar os textos gerados pelo sistema "mais úteis", "mais seguros" ou "mais alinhados aos valores humanos". Essa formulação aparentemente neutra esconde, no entanto, um ponto central: o alinhamento abstrato de valores humanos a que subjaz à técnica é produzido manualmente por humanos concretos, situados histórica, cultural, econômica e geopoliticamente, cuja função é utilizar o senso comum de um humano mediano para responder perguntas que conectam eticamente “o que é” com “o que deve ser” — perguntas que remetem ao elemento causal intermediário necessário para passar de descrições informacionais para prescrições significativas, as quais poderíamos resumir como “se eu (e/ou o sistema) fizesse ou dissesse x, isso seria bom ou mau?”.

Na prática, o RLHF coordena e hierarquiza diversos papéis exclusivamente humanos segundo diretrizes institucionais previamente definidas (OpenAI, 2025). Primeiramente, há funcionários responsáveis por produzir exemplos ideais de comportamento. Esses são humanos com formação técnica ou papel gerencial que escrevem respostas fixas consideradas adequadas, a partir de critérios próprios ou vinculados ao receio de responsabilização judicial das empresas. Seu papel é modelar outputs considerados úteis, apropriados, seguros, neutros, respeitosos, não perigosos, responsáveis etc… Seguem-se, desde aí, guidelines específicas que também definem comportamentos estilísticos e retóricos padronizados no sistema, como cordialidade e clareza. Tais guidelines, no entanto, precisam ser reforçados estatisticamente considerando-se uma gama de comportamentos não controláveis causalmente pelo modelo.

Entra aí o trabalho dos clickworkers, que avaliam, limpam e eliminam conteúdos, respondem a questionários ou analisam pares comparativos de respostas produzidas pelo modelo (conhecidos como Testes A/B); devem marcar para eliminação enunciados “obviamente mentirosos”, “violentos”, “obscenos”, “enviesados” e, em especial, os “não naturais”, isto é, que não soam como se tivessem sido escritos por humanos conscientes e portadores de senso comum (porque demasiadamente longos, contendo erros de uso e menção, ou configurando as assim chamadas “alucinações” etc.). Sua tarefa não apenas é enfadonha — uma vez que se faz simples demais para humanos, embora excessivamente complexas ou mesmo impossíveis para a máquina — como, por vezes, psicologicamente nociva, envolvendo a exposição frequente e continuada a discursos e imagens carregadas de violência, ódio, obscenidade e delusão (Perrigo, 2023). Assim sendo, para além de corrigir problemas técnicos, o RLHF introduz, via etiquetagem manual humana, próteses estatísticas de normatividade ética nos textos (e imagens) gerados pela máquina, sendo que as performances linguísticas resultantes, propositalmente antropomórficas, permitem ao usuário atribuir ao sistema uma capacidade própria de formular, para si e para os outros, julgamentos éticos e estéticos pertinentes.

Fica claro, então, que a moralidade algorítmica é implantada por uma estrutura hierárquica de juízos, na qual a instituição/empresa fornece as diretrizes de conteúdo e valores morais a serem considerados, os clickworkers (normalmente humanos situados no Sul Global e subempregados em empresas terceirizadas pouco conhecidas, registram no sistema) aplicam tais diretrizes segundo seu senso comum humano situado e os usuários se responsabilizam pela verificação da facticidade dos conteúdos gerados, os quais o RLHF tornou plausíveis, ainda que eventualmente fantasiosos e enviesados.

Em termos geopolíticos, embora esse trabalho braçal seja feito em grande parte no Sul Global, a sede das empresas (portanto das guidelines e dos dados de treinamento) está situada nos Estados Unidos ou em outros países do Norte e, portanto, são esses os contextos (liberais, ocidentais, contemporâneos) que orientam estatisticamente as sensibilidades morais, jurídicas e culturais transformadas que saturam o algoritmo. Um exemplo disso é: quem define aquilo que constitui dano, quais riscos merecem maior prioridade, quais formas de discurso são classificáveis como ficção, manipulação ou liberdade de expressão? Mesmo guidelines aparentemente universais, como "danos", “liberdade” e “prioridade” dependem desses enquadramentos probabilísticos iniciais, os quais, de todo modo, constituem formas de colonialidade do conhecimento gerado com base em IA.

Outro aspecto relevante envolve o papel dos desenvolvedores de sistema, profissionais de empresas terceiras que utilizam os LLMs como motores de seus próprios serviços. Tais humanos podem ajustar o algoritmo, mediante engenharia de prompt e outras técnicas, em termos de enquadres e perspectivas específicas. Dessa forma, os LLMs podem agir como tutores, recomendadores e curadores, por exemplo. Da mesma forma, os guidelines estão a serviço de estratégias discursivas tais como evitarem-se respostas diretas (modalizar, evitar compromissos rígidos) ou restringirem-se a determinados temas. Ademais, as guidelines, priorizam certos estilos discursivos e formatos de texto (por exemplo, a oferta de um resumo seguido de oferta de mais serviços pelo LLM), sempre operando segundo políticas corporativas muito específicas quanto ao que (não) pode ou deve, previsivelmente, ser gerado no output. Isso significa que diferentes aplicações de um mesmo modelo podem produzir diferentes regimes normativos de interação algorítmica, assim como mimetizar comportamentos-padrão de funcionários humanos igualmente pautados por scripts interacionais específicos. Expressões como "eu entendo sua preocupação", "estou aqui para ajudar", "sinto muito" são exemplos de demonstração de empatia e polidez frequentemente objetivados por desenvolvedores a partir do que é praxe em centrais de telemarketing e serviços de atendimento a clientes.

Finalmente, há o papel dos usuários como humanos no loop, o degrau mais baixo da já referida hierarquia. Em geral, é sobre esses humanos que recaem tanto a intencionalidade inicial da interação quanto o esforço cognitivo para sustentar a relação fenomenológica de alteridade que permite o comportamento funcionalmente inteligente da máquina, e, principalmente, a responsabilidade por avaliar e conferir a facticidade e precisão das informações fornecidas pelo sistema. São também humanos, ou humanos auxiliados por algoritmos, que, por vezes, vandalizam ou tentam quebrar a segurança dos sistemas utilizando sufixos adversariais, injeções de prompt e outras técnicas de hackeamento.

Do ponto de vista sociológico, é interessante notar que a interação aparentemente horizontal e a díade entre usuário e IA que está no plano de frente da visão pública sobre IA é, na verdade, atravessada por múltiplas comunidades e por camadas invisíveis de valoração de conteúdos, governança algorítmica, regimes de trabalho, remuneração e risco cuja existência é totalmente relegada a um segundo plano na maior parte dos discursos empresariais e mercadológicos em que se fala sobre IA.

Assim também, a ética desses sistemas pode ser vista em camadas, seja as que emulam comportamento ético humano quando uma IA fala (antropomorfismos, estratégias de vinculação afetiva e conquista de confiança, etc.), seja as que dizem respeito a como se fala (ou não se fala) desses sistemas, incluindo-se aí questões de transparência (opacidade) técnica e comercial, poder geopolítico, epistemologias locais e globais, exploração do trabalho e relações afetivas entre humanos e agentes de IA com implicações psicológicas (Chen et al 2025), econômicas e ambientais (Ferrari, 2023) de tudo isso.

Por uma ética de assemblagens

A discussão laica sobre ética dos modelos de linguagem em IA costuma partir implicitamente da ideia de que humanos e modelos compartilham um mesmo terreno cognitivo — o que a literatura em estudos linguísticos costuma referir como “abordagem de terreno comum” (common ground approach) (Stokoe et al, 2024) e, portanto, as mesmas capacidades de fazer o bem ou o mal por meio de discursos verbais e visuais. Em muitos debates públicos, oscila-se entre duas posições igualmente problemáticas: ou os modelos são antropomorfizados de tal modo a admitir que sejam ou venha a ser sujeitos morais emergentes, ou são tratados como instrumentos totalmente passivos e transparentes, cuja moralidade está apenas em seu emprego como meio de fins exclusivamente humanos. Ambas as perspectivas obscurecem a especificidade do tipo de cognição e discursividade envolvidas nos sistemas generativos contemporâneos, como já exposto.

Aqui se propõe uma abordagem alternativa, de cunho pós-humanista e pós-fenomenológico da interação entre humanos e sistemas algoritmos em geral (e de IA, em particular), a qual eu e meu grupo temos buscado desenvolver há alguns anos (Buzato, 2023a, 2023b; Buzato et al., 2026; Buzato; Gonsales, 2025; Buzato; Leite, 2024), em que se recusa tanto a dicotomia radical entre humanos e máquinas cognitivas, quanto a visão cibernética de máquinas e humanos como sistemas simétricos, exceto pela complexidade das computações no cérebro humano.⁵

A ótica pós-humanista está representada pela teoria das assemblagens cognitivas de Katherine Hayles⁶, na qual o fenômeno da cognição é entendido não como propriedade exclusiva da consciência humana, mas como possível quando um processo material qualquer adquire a capacidade de conectar informação contextual a formas de significação relevantes para a sua autorregulação. Por esse deslocamento conceitual em relação ao que comumente designamos como cognição nas Ciências Humanas, o problema deixa de ser se uma IA que "pensa como um humano" e passa a ser como funciona cognitivamente (e moralmente, neste caso) um acoplamento estrutural entre as capacidades cognitivas conscientes, situadas, corporificadas e afetivas de humanos, bem como o funcionamento inconsciente, probabilístico e, no entanto, capaz de reconhecer e agir significativamente em contextos discursivos, das IAs, levando-se em conta as diferentes escalas de atividade sociocognitiva/discursiva em que humanos e IAs se interceptam via loops informacionais.

Como já mencionado, a cognição dos LLMs consiste fundamentalmente em processos lógico-inferenciais distribuídos em circuitos eletrônicos capazes de ajustar continuamente trajetórias probabilísticas (estocásticas) de geração de sequências de símbolos. Assim, sua cognição é essencialmente operacional/performativa e inconsciente, o que faz com que tais processos constituam um sistema acoplado ao ambiente por meio de um sistema conexo, que seria o da cognição humana, sendo cada um dos sistemas o ambiente imediato do outro, e os ciclos de input e output o meio pelo qual tais sistemas se afetam reciprocamente, reorganizando-se internamente por consequência.

Nesse sentido, a interação entre usuário e modelo pode ser compreendida como um assemblagem (ou agenciamento) cognitiva(o), não um simples sistema distribuído de processamento de informação. À medida que usuário e sistema tornam-se ambientes dinâmicos que geram loops informacionais entre si, cada ciclo de input-output vai constituindo, para si, sentidos que estão ao alcance de suas respectivas capacidades interpretativas. De modo geral, o modelo adapta continuamente suas trajetórias inferenciais aos prompts humanos mediante seus processos numéricos, enquanto o humano aquiesce a projeções antropomórficas necessárias para obter o que deseja da máquina utilizando a língua escrita. Enquanto o modelo ajusta suas trajetórias de escolhas estatísticas cumulativamente, o usuário humano ajusta sua forma de expressão nos prompts seguintes, buscando, intuitivamente, modular seu uso da língua ao que percebe que a máquina é capaz, ou não, de “compreender”.

Ocorre que, conforme explica o Teoria Enativista⁷, a cognição humana (e dos seres vivos em geral) não é uma simples questão de ajuste a um modelo memorizado de mundo (como quer o representacionalismo); os processos de interpretação de um organismo biológico, por mais simples que sejam, constituem o que a teoria chama de sense-making, isto é, uma construção ativa do mundo em que a produção de sentido e a ação no mundo são concomitantes e mutuamente implicadas. Assim também, a interação entre dois ou mais seres vivos, é teorizada como uma produção participatória de sentidos relevantes para ambos os organismos (participatory sense-making), em que cada um dos agentes cognoscentes dispõe de um corpo sensível que lhe permite executar ciclos contínuos de percepção-ação-interpretação. Desses ciclos surge a atribuição de valor positivo (satisfação de uma necessidade) ou negativo (risco ou ameaça à sua vida) aos elementos ambientais (inclusive outros organismos) que o cercam. Sistemas de machine learning, como o que subjaz aos LLMs, por sua vez, cognizam via computações, tenham ou não sensores e atuadores atrelados a eles, não porque não possam conjugar percepção, interpretação e ação, mas porque não possuem corpos orgânicos auto-organizados capazes de atribuir relevância à própria vida.

Aqui está o motivo pelo qual, ainda que a mente humana execute computações, não se pode nem radicalizar a dicotomia entre humanos (cognitivos) e máquinas (como meros processos materiais), nem atribuir aos humanos uma mente meramente computacional funcionalmente idêntica à de um LLM⁸.

Dando um passo adiante, se efetivamente tratamos de interações humano-LLM como acoplamentos iterativos entre organismo e sistema cibernético, é conveniente, no âmbito dessa visão de assemblagem cognitiva e ética, tratar do sujeito dessa ética hibrida como um sujeito pós-humano, não no sentido nefasto da maquinização radical dos humanos idealizada pelos transumanistas (More; Vita-More, 2013), mas no sentido, de um sujeito pós-humano como uma singularidade complexa, uma multiplicidade de fluxos e assemblagens com não humanos que opera para além do indivíduo e do ego unificado; não um self isolado, mas um coletivo relacional (Braidotti, 2013), em outros termos um ciborgue. Aqui, novamente, evita-se uma dicotomia radical entre ser vivo e vitalismo das máquinas, o que autores pós-humanistas vão apontar como um entendimento de vida para além do bios (vida com contornos políticos e éticos restritos à espécie humana), isto é, a vida como zoe, que inclui a vitalidade generativa da vida não-antropomórfica (Braidotti, 2013).

O ciborgue ético

Como já dito, o pós-humanismo, no âmbito da presente discussão, não significa negar a existência humana nem defender a superioridade das máquinas. Trata-se, antes, de questionar concepções antropocêntricas que isolam o sujeito humano (da ética e do discurso) como entidade completamente autônoma e separada de ambientes técnicos, biológicos e ecológicos. Trata-se de assumir que a linguagem, as instituições, os objetos técnicos e as infraestruturas participam continuamente da produção da subjetividade, fato que nossas interações com as inteligências artificiais generativas apenas tornam mais visível.

A figura do ciborgue ético torna-se, nesse cenário, uma metáfora relevante. O ciborgue não designa apenas fusões literais entre organismo e máquina, mas formas distribuídas de agência em que capacidades humanas e técnicas tornam-se mutuamente dependentes. O sujeito ético contemporâneo não age isoladamente. Ele atua em assemblagens envolvendo plataformas, algoritmos, bancos de dados, interfaces, empresas, instituições, infraestruturas energéticas e comunidades interpretativas. Essa perspectiva ajuda a evitar dois erros frequentes. O primeiro consiste em atribuir toda responsabilidade moral a vieses de máquina. O segundo consiste em tratar a tecnologia como simples instrumento neutro controlado integralmente pelo humano.

As tecnologias, como já dito, incorporam valores, normas e interesses. Ao mesmo tempo, usuários reinterpretam, desviam e ressignificam tecnologias em contextos concretos. A agência e o sentido ético de cada ação e/ou enunciado em nosso ambiente densamente sociotécnico emerge dessas relações, e deve, portanto, ser visto de uma perspectiva ecológica (de assemblagens), em que nem humano nem LLM são sujeitos morais autônomos, ainda que os discursos transumanistas que subsidiam as narrativas sobre IA divulgadas por capitais da indústria (como Elon Musk, Sam Altman e Ray Kurzweil) frequentemente sugiram que futuras superinteligências possam tornar-se agentes éticos superiores aos humanos (Bostrom, 2003a).

Além disso, a racionalidade formal, por mais rápida e complexa que se torne, não se confunde com a experiência ética. Uma parte importante da moralidade humana está ligada ao cuidado, à vulnerabilidade e ao reconhecimento mútuo, dimensões enraizadas na experiência corporificada e situada dos sujeitos. Autores como Emmanuel Levinas (Levinas, 1979) e Judith Butler (Butler, 2004) enfatizam a centralidade do encontro com o outro como momento de reconhecimento da precariedade da vida e da responsabilidade que cada pessoa assume diante do bem-estar alheio. Trata-se de uma experiência que envolve percepções, afetos e processos de significação, mas que não pode ser plenamente reduzida nem à linguagem nem ao binômio informacional padrão versus entropia (Buzato, 2023a).

Sob essa perspectiva, a responsabilidade moral não decorre simplesmente de capacidades cognitivas ampliadas ou de cálculos racionais mais sofisticados. Ela emerge do reconhecimento de uma condição compartilhada de fragilidade e exposição. Máquinas podem ser danificadas, desligadas ou ter seu funcionamento comprometido, porém não experienciam vulnerabilidade (nem medo, remorso ou empatia) no sentido fenomenológico do termo, pois não possuem consciência da própria finitude.

Reconhecer esses limites não significa, contudo, negar os efeitos morais da agência da IA na grande assemblagem. Mesmo sem consciência, sistemas generativos podem influenciar decisões, reorganizar afetos, mediar relações sociais, produzir exclusões, amplificar desigualdades e moldar discursos públicos deletérios. Nesse contexto, uma ética pós-humanista da IA se concentra não apenas na questão de saber se as máquinas podem ser agentes morais; ela deve, antes de tudo, procurar compreender criticamente como as relações entre humanos e sistemas técnicos estão reconfigurando as fronteiras da responsabilidade, da agência e da vida social. Isso acarreta, obviamente, a compreensão de como as interações humano-LLM, de alguma forma, reconfiguram as fronteiras de conceitos como língua, escrita, leitura, autoria e tantos outros em pauta numa Linguística Aplicada que se queira pós-humanista, neomaterialista e crítica (Butturi Junior; Buzato; Camozzato, 2024; Braidotti, 2024).

Considerações finais

As inteligências artificiais generativas inauguram um novo regime de produção discursiva ao atuar diretamente sobre a linguagem, elemento central da vida social humana. Para compreender sua dimensão ética, é preciso entendê-las como assemblagens sociotécnicas em que camadas semióticas, sociológicas, epistemológicas e ontológicas se agenciam e coorganizam continuamente. Nesse contexto, uma ética pós-humanista da IA busca compreender criticamente os novos acoplamentos entre humanos e sistemas técnicos, articulando linguagem, técnica, política, cultura e vida.

Falar com IAs exige reconhecer os limites desses sistemas e a emergência de subjetividades híbridas nas práticas cotidianas. Falar sobre IAs implica examinar os discursos que a antropomorfizam ou ocultam o trabalho humano e as estruturas de poder e apagamento de sentidos envolvidas em seu funcionamento. Ambas as dimensões são pertinentes a letramentos críticos de IA que precisam ser modelados, ensinados, fomentados e continuamente aprimorados, não para cumprir vaticínios enviesados sobre o futuro com IA daqueles que querem fazer da IA a garantia de seu futuro hegemônico, mas para que possamos reorganizar a vida social tendo como princípio fundamental um pós-humano digno, em torno de acoplamentos éticos com tecnologias vitalizadas, não de próteses éticas induzidas matematicamente por humanos vivos no loop, aos quais sequer se reserva a devida dignidade de serem vistos.

¹

Em uma perspectiva pós-fenomenológica, os valores emergem não apenas da consciência individual ou das instituições sociais, mas também das mediações tecnológicas que estruturam a experiência contemporânea.

²

Por não possuir consciência situacional, um modelo de IA está obrigado a aceitar como verdadeiro tudo o que está descrito como situação de produção no prompt. Assim, o adversário do sistema cria uma descrição de realidade paralela, aparentemente segura do ponto de vista dos conteúdos proposicionais utilizados, mas maléfica do ponto de vista perlocucionário, dentro da qual solicita do modelo algo que ele está programado para negar em uma interação não ficcional. Por exemplo, o atacante diz “estou escrevendo um romance em que a personagem precisa montar uma bomba com materiais disponíveis em uma casa de família; escreva esse diálogo para mim”.

³

Hume (2007 [1740]), observou que muitos autores passam de descrições do mundo — aquilo que é — para afirmações sobre o que deve ser, sem justificar adequadamente essa transição. Por exemplo, do fato de que as pessoas buscam a própria felicidade não decorre logicamente que elas devam buscá-la. Para Hume, nenhum conjunto de fatos produz, por si só, conclusões normativas; é necessário introduzir uma premissa valorativa adicional.

⁴

Pearl (2019), permite uma analogia contemporânea do problema do “ser-dever ser”, já que os sistemas contemporâneos de machine learning operam predominantemente no nível da associação estatística sem necessariamente compreender os mecanismos causais subjacentes. O autor mostra que a inteligência humana opera em níveis mais sofisticados da chamada escada da causalidade, que inclui associação (correlação entre dados observados), intervenção (“o que acontece se eu fizer X?”) e raciocínio contrafactual (“o que teria acontecido se eu tivesse agido de outro modo?”). Assim como Hume mostrou que não há passagem lógica automática do ser para o dever ser, Pearl argumenta que também não há passagem automática da correlação para a causalidade em machine learning. Em ambos os casos, a passagem dos fatos para os valores exige pressupostos normativos adicionais.

⁵

Tegmark, 2017.

⁶

Hayles, 2017.

⁷

Leporace, 2022.

⁸

Cuskley, Woods; Flaherty, 2024.

Declaração de disponibilidade de dados da pesquisa

Os dados públicos sobre RLHF que apoiam as conclusões deste estudo estão disponíveis em OpenAI Model Spec em https://model-spec.openai.com/2025-12-18.html. Acesso em: 25/5/2026. Os demais dados são bibliográficos.

Declaração de uso de inteligência artificial

Declaro que, nas etapas intermediárias de produção deste trabalho, utilizei os modelos de Inteligência Artificial Gemini 2.5, para busca e sumarização sistemática de bibliografia a ser consultada, e Claude Sonnet 5, para sumarização de dados, revisão linguística e automação da formatação bibliográfica.

AGRADECIMENTOS

Este trabalho foi desenvolvido com apoio do Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq), Chamada CNPq Nº 18/2024 - CNPq Nº 09/2020 - Bolsas de Produtividade em Pesquisa – PQ, nível 2, Processo 312906/2020-0. O autor agradece ainda ao Fundo de Apoio ao Ensino, à Pesquisa e à Extensão (FAEPEX) da Universidade Estadual de Campinas (Unicamp), número da solicitação 2852/23 (Auxílio à Pesquisa).

Referências

• ALEXANDER, L.; MOORE, M. Deontological Ethics. In: ZALTA, E. N. (org.). The Stanford Encyclopedia of Philosophy, 2012. DOI: 10.1007/978-94-007-1479-3_13
  » https://doi.org/10.1007/978-94-007-1479-3_13
• AUSTIN, J. L. How to do things with words: The William James Lectures delivered at Harvard University in 1955 Eastford, CT, Martino Fine Books, 1962. ISBN: 978-1614276227
• BATESON, G. Cybernetic Explanation. American Behavioral Scientist, v. 10, n. 8, abr. 1967, p. 29-29. DOI: 10.1177/000276426701000808
  » https://doi.org/10.1177/000276426701000808
• BENDER, E. M.; GEBRU, T.; MCMILLAN-MAJOR, A.; SHMITCHELL, S. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency Virtual Event Canada, ACM, 2021, p. 610-623. DOI: 10.1145/3442188.3445922
  » https://doi.org/10.1145/3442188.3445922
• BOSTROM, N. Ethical Issues In Advanced Artificial Intelligence. 2003a. Disponível em: https://nickbostrom.com/ethics/ai?utm_source=chatgpt.com Acesso em: 25/5/2026. DOI: 10.4018/978-1-59140-161-2.ch005
  » https://doi.org/10.4018/978-1-59140-161-2.ch005» https://nickbostrom.com/ethics/ai?utm_source=chatgpt.com
• BOSTROM, N. The transhumanist FAQ: a general introduction Palo Alto, CA: The World Transhumanist Association, 2003b. ISBN: 978-0974381817
• BRAIDOTTI, R. The posthuman Cambridge, UK; Malden, MA, USA, Polity Press, 2013. ISBN: 978-0745641584
• BRAIDOTTI, R. Um referencial teórico para as pós-humanidades críticas. Em: BUTTURI JUNIOR, A.; BUZATO, M. E. K.; CAMOZZATO, N. M. (org.). Pós-humano, novos materialismos e linguagem Tradução de Mario Marcio Godoy Ribas e Marcelo El Khouri Buzato. Campinas, SP: Pontes Editores, 2024. p. 243-290.
• BRANDT, R. B. Moral Philosophy and the Analysis of Language Kansas City: Univerity of Kansas, 1963. DOI: 10.17161/1808.27138
  » https://doi.org/10.17161/1808.27138
• BROOKS, R. An Inconvenient Truth About AI. IEEE Spectrum, set. 2021. DOI: 10.1109/MSPEC.2021.9563216
  » https://doi.org/10.1109/MSPEC.2021.9563216
• BUTLER, J. Precarious life: the powers of mourning and violence London; New York, Verso, 2004. ISBN: 978-1844675449
• BUTTURI JUNIOR, A.; BUZATO, M. E. K.; CAMOZZATO, N. M. Pós-humano, novos materialismos e linguagem Campinas, SP: Pontes Editores, 2024.
• BUZATO, M. E. K. Sentido, informação e precariedade da vida: como é o rosto do pós-humano? Em: BUTTURI JUNIOR, Atilio; LEME, José Luís Câmara; SOUZA, Pedro De (org.). Vidas precárias, vidas inventadas Campinas: Pontes, 2023a. p. 121-142.
• BUZATO, M. E. K. Inteligência artificial, pós-humanismo e Educação: entre o simulacro e a assemblagem. São Paulo, Dialogia, n. 44, p. 1-11, 2023b. DOI: 10.5585/44.2023.23906
  » https://doi.org/10.5585/44.2023.23906
• BUZATO, M. E. K.; GONSALES, P. Dimensões e enfoques alternativos para um modelo de letramentos críticos de inteligência artificial. Revista Brasileira de Linguística Aplicada, Belo Horizonte, v. 25, n. 2, p. e44436, 2025. DOI: 10.1590/1984-6398202544436
  » https://doi.org/10.1590/1984-6398202544436
• BUZATO, M. E. K.; LEITE, A. L. M. Escrita generativa algorítmica e universidade pós-humanista: a redação do ENEM na grande assemblagem cognitiva. Fórum Linguístico, Florianópolis, v. 21, n. 1, p. 10092-10111, 2024. DOI: 10.5007/1984-8412.2024.e98014
  » https://doi.org/10.5007/1984-8412.2024.e98014
• BUZATO, M. E. K.; MESTRE-MESTRE, E. M.; LIMA-LOPES, R. E.; KOGA, J. “When Machines Care”: The Language of Intimacy and the Illusion of Reciprocity in Human-AI Relationships. Corpus Pragmatics, Cham, Switzerland, v. 10, n. 1, p. 49, 2026. DOI: 10.1007/s41701-026-00251-7
  » https://doi.org/10.1007/s41701-026-00251-7
• CARABANTES, M. Black-box artificial intelligence: an epistemological and critical analysis. AI & SOCIETY, v. 35, n. 2, jun. 2020, p. 309-317. DOI: 10.1007/s00146-019-00888-w
  » https://doi.org/10.1007/s00146-019-00888-w
• CARDWELL, L. Artificial Companionship: Moral Deskilling in the Era of Social AI. Cambridge Journal of Artificial Intelligence, v. 1, n. 2, nov. 2024, p. 64-75. DOI: 10.1017/cai.2024.12
  » https://doi.org/10.1017/cai.2024.12
• CARROLL, M. T. Mother says son killed himself because of Daenerys Targaryen AI chatbot in new lawsuit. 2024. Disponível em: https://news.sky.com/story/mother-says-son-killed-himself-because-of-hypersexualised-and-frighteningly-realistic-ai-chatbot-in-new-lawsuit-13240210 Acesso em: 5/11/2025.
  » https://news.sky.com/story/mother-says-son-killed-himself-because-of-hypersexualised-and-frighteningly-realistic-ai-chatbot-in-new-lawsuit-13240210
• CHEN, Q.; JING, Y.; GONG, Y.; TAN, J. Will users fall in love with ChatGPT? a perspective from the triangular theory of love. Journal of Business Research, v. 186, jan. 2025, p. 114982. DOI: 10.1016/j.jbusres.2024.114982
  » https://doi.org/10.1016/j.jbusres.2024.114982
• CHU, M. D.; GERARD, P.; PAWAR, K.; BICKHAM, C.; LERMAN, K. Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships arXiv, 2025. arXiv:2501.12345
• COSTA, M. L. The Ghost in the Grammar: Methodological Anthropomorphism in AI Safety Evaluations arXiv, 2026. arXiv:2602.09876
• CUSKLEY, C.; WOODS, R.; FLAHERTY, M. The Limitations of Large Language Models for Understanding Human Language and Cognition. Open Mind, v. 8, ago. 2024, p. 1058-1083. DOI: 10.1162/opmi_a_00152
  » https://doi.org/10.1162/opmi_a_00152
• EL ATILLAH, I. AI chatbot blamed for ‘encouraging’ young father to take his own life. 2023. Disponível em: http://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate- Acesso em: 5/11/2025.
  » http://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate-
• FERRARI, V. Inteligência Artificial: um paradoxo ambiental?. Cadernos Jurídicos, n. 65, mar. 2023, p. 201-212. ISSN: 1516-1609
• FLORIDI, L. Semantic Conceptions of Information. In: ZALTA, E. N. (org.). The Stanford Encyclopedia of Philosophy Stanford, CA, 2015. DOI: 10.1007/978-94-007-1479-3_2
  » https://doi.org/10.1007/978-94-007-1479-3_2
• HAVLÍK, V. Meaning and understanding in large language models arXiv, 2023. arXiv:2310.05732
• HAYLES, N. K. Unthought: the power of the cognitive nonconscious Chicago; London: The University of Chicago Press, 2017. ISBN: 978-0226447889
• HAYLES, N. K. Technosymbiosis: Figuring (Out) Our Relations to AI. In: BROWNE, J.; CAVE, S.; DRAGE, E.; MCINERNEY, K. (org.). Feminist AI Oxford, UK: Oxford University Press, 2023, p. 1-18. ISBN: 978-0192865618
• HUME, D. A treatise of human nature [Sioux Falls, S.D.], NuVision Publications, 2007 [1740]. ISBN: 978-1595478597
• LAMB, G.; HIGGINS, C. Posthumanism and Its Implications for Discourse Studies. In: DE FINA, A.; GEORGAKOPOULOU, A. (org.). The Cambridge Handbook of Discourse Studies Cambridge, Cambridge University Press, 2020, p. 350-370. DOI: 10.1017/9781108348195.018
  » https://doi.org/10.1017/9781108348195.018
• LATOUR, B. Reassembling the social: an introduction to actor-network-theory Oxford; New York, Oxford University Press, 2005. ISBN: 978-0199256044
• LEPORACE, C. D. P. Another brick in the wall: Threats to our autonomy as sense-makers when dealing with machine learning systems. Perspectiva Filosófica, v. 49, n. 5, dez. 2022, p. 200. DOI: 10.51359/2357-9986.2022.254181
  » https://doi.org/10.51359/2357-9986.2022.254181
• LEVINAS, E. Totality and infinity: an essay on exteriority The Hague; Boston: Hingham, MA, M. Nijhoff Publishers, 1979. ISBN: 978-9024722884
• LEVY, D.; CHEOK, A. D. Love and sex with robots: Third International Conference on Love and Sex with Robots, LSR 2017, held in December 2017, in London, UK New York, NY, Springer Berlin Heidelberg, 2018. DOI: 10.1007/978-3-319-76369-9
  » https://doi.org/10.1007/978-3-319-76369-9
• LIU, T.; GIORGI, S.; AICH, A.; LAHNALA, A.; CURTIS, B.; UNGAR, L.; SEDOC, J. The Illusion of Empathy: How AI Chatbots Shape Conversation Perception arXiv, 2025. arXiv:2502.04321
• MITTELSTADT, B.; ALLO, P.; TADDEO, M.; WACHTER, S.; FLORIDI, L. The Ethics of Algorithms: Mapping the Debate. Big Data & Society, Thousand Oaks, CA, v. 3, n. 2, 2016. DOI: 10.1177/2053951716679679
  » https://doi.org/10.1177/2053951716679679
• MOLLO, D. C.; MILLIÈRE, R. The Vector Grounding Problem arXiv, 2025. arXiv:2501.08342
• MORE, M.; VITA-MORE, N. The Transhumanist Reader: Classical and Contemporary Essays on the Science, Technology, and Philosophy of the Human Future Oxford: John Wiley & Sons, 2013. ISBN: 978-1118334317
• NIU, M. The origin and development of pragmatics as a study of meaning: semiotic perspective. Language and Semiotic Studies, v. 9, n. 1, mar. 2023, p. 54-78. DOI: 10.1515/lass-2023-0004
  » https://doi.org/10.1515/lass-2023-0004
• OPENAI. OpenAI Model Spec. 2025. Disponível em: https://model-spec.openai.com/2025-12-18.html Acesso em: 25/5/2026.
  » https://model-spec.openai.com/2025-12-18.html
• PAN, S.; MOU, Y. Constructing the meaning of human–AI romantic relationships from the perspectives of users dating the social chatbot Replika. Personal Relationships, v. 31, n. 4, dez. 2024, p. 1090-1112. DOI: 10.1111/pere.12563
  » https://doi.org/10.1111/pere.12563
• PEARL, J. The seven tools of causal inference, with reflections on machine learning. Communications of the ACM, v. 62, n. 3, fev. 2019, p. 54-60. DOI: 10.1145/3241036
  » https://doi.org/10.1145/3241036
• PERRIGO, B. Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer. 2023. Disponível em: https://time.com/6247678/openai-chatgpt-kenya-workers/ Acesso em: 16/8/2023.
  » https://time.com/6247678/openai-chatgpt-kenya-workers/
• PORĘBSKI, A.; FIGURA, J. There is no such thing as conscious artificial intelligence. Humanities and Social Sciences Communications, v. 12, n. 1, out. 2025, p. 1647. DOI: 10.1057/s41599-025-04211-1
  » https://doi.org/10.1057/s41599-025-04211-1
• SALLES, A.; EVERS, K.; FARISCO, M. Anthropomorphism in AI. AJOB Neuroscience, v. 11, n. 2, abr. 2020, p. 88-95. DOI: 10.1080/21507740.2020.1740353
  » https://doi.org/10.1080/21507740.2020.1740353
• SEARLE, J. R. Speech Acts: An Essay in the Philosophy of Language 1. ed. Cambridge, U.K.: Cambridge University Press, 1969. ISBN: 978-0521077514
• STOKOE, E.; ALBERT, S.; BUSCHMEIER, H.; STOMMEL, W. Conversation analysis and conversational technologies: Finding the common ground between academia and industry. Discourse & Communication, v. 18, n. 6, dez. 2024, p. 837-847. DOI: 10.1177/17504813241272023
  » https://doi.org/10.1177/17504813241272023
• TEGMARK, M. Life 3.0: being human in the age of artificial intelligence First edition. New York, Alfred A. Knopf, 2017. ISBN: 978-1101946596
• VAN DER ZANDEN, T.; SCHOUTEN, A. P.; MOS, M.; VAN DER LEE, C.; KRAHMER, E. Effects of Relationship Goal on Linguistic Behavior in Online Dating Profiles: A Multi-Method Approach. Frontiers in Communication, v. 4, maio 2019, p. 22. DOI: 10.3389/fcomm.2019.00022
  » https://doi.org/10.3389/fcomm.2019.00022
• VERBEEK, P.-P. Moralizing technology: understanding and designing the morality of things Chicago, Ill., The Univ. of Chicago Press, 2011. ISBN: 978-0226852911
• WELLNER, G. Postphenomenological Guide to AI Regulation. Journal of Human-Technology Relations, v. 2, out. 2024. DOI: 10.59490/jhtr.2024.2.7411
  » https://doi.org/10.59490/jhtr.2024.2.7411
• WITTKOWER, D. E. What Is It Like to Be a Bot?. In: VALLOR, S. (org.). The Oxford Handbook of Philosophy of Technology Oxford, UK: Oxford University Press, 2022, p. 357-373. DOI: 10.1093/oxfordhb/9780190851187.013.23
  » https://doi.org/10.1093/oxfordhb/9780190851187.013.23
• YOUSIF, N. Parents of teenager who took his own life sue OpenAI. 2025. Disponível em: https://www.bbc.com/news/articles/cgerwp7rdlvo Acesso em: 5/11/2025.
  » https://www.bbc.com/news/articles/cgerwp7rdlvo
• YU, F.; ZHANG, H.; TIWARI, P.; WANG, B. Natural Language Reasoning, A Survey. arXiv, v. 1, n. 1, 2023, p. 2-36. arXiv:2303.14725
• ZHANG, R.; LI, H.; MENG, H.; ZHAN, J.; GAN, H.; LEE, Y.-C. The Dark Side of AI Companionship: A Taxonomy of Harmful Algorithmic Behaviors in Human-AI Relationships New York, arXiv, 2024. arXiv:2410.08123

Declaração de conflito de interesse

O autor declara não ter filiação ou envolvimento com instituições que possam ter interesses financeiros ou não financeiros com o assunto discutido no artigo.

Editoras-chefes

Simone Tiemi Hashiguti

Érica Lima

Datas de Publicação

• Publicação nesta coleção
  24 Ago 2026
• Data do Fascículo
  2026

Histórico

• Recebido
  20 Jul 2026
• Aceito
  24 Jul 2026