Inteligência Artificial explicável para atenuar a falta de transparência e a legitimidade na moderação da Internet

O uso massivo de Inteligência Artificial na moderação de conteúdo na internet é uma realidade dos tempos atuais. No entanto, isso levanta uma série de questionamentos, seja sobre a pertinência do uso de sistemas automáticos opacos, seja se as plataformas podem sozinhas tomar decisões que antes cabiam ao Estado. Nesse contexto, o uso de IA “caixa-preta” passa a ser considerado uma ameaça à liberdade de expressão. Por outro lado, manter conteúdos que promovam abuso virtual é igualmente danoso a este direito fundamental. Nesse cenário, este estudo sumariza os principais problemas apontados pela literatura quanto ao paradigma atual, avalia as respostas que as novas tecnologias trazem, e propõe um caminho para um novo paradigma de moderação que seja justo e ético, no qual Estado e plataformas de mídias sociais têm papel relevante. Esse passa pela adoção de IA explicável associada a critérios transparentes e legítimos definidos pela sociedade.

PALAVRAS-CHAVE:
Humanidades digitais; Moderação automática de conteúdo; IA explicável; Liberdade de expressão na internet; Ética na Inteligência Artificial

Autoria

Thomas Palmeira Ferraz

Thomas Palmeira Ferraz é doutorando em Ciência da Computação na Télécom Paris e École Polytechnique, Institut Polytechnique de Paris. É engenheiro pela Escola Politécnica da Universidade de São Paulo (USP) e mestre em Matemática Aplicada e Inteligência Artificial pela École Normale Supérieure Paris-Saclay (ENS).

Institut Polytechnique de Paris, École Polytechnique, Paris, França. thomas.palmeira@telecom-paris.frInstitut Polytechnique de ParisFrançaParis, FrançaInstitut Polytechnique de Paris, École Polytechnique, Paris, França. thomas.palmeira@telecom-paris.fr

https://orcid.org/0000-0002-5385-9164

Caio Henrique Dias Duarte

Caio Henrique Dias Duarte é mestrando no Departamento de Direito Internacional e Comparado da Faculdade de Direito da Universidade de São Paulo (USP), e bacharel em Direito pela mesma universidade.

Universidade de São Paulo, Faculdade de Direito, São Paulo, Brasil. caio.henrique.duarte@usp.brUniversidade de São PauloBrasilSão Paulo, BrasilUniversidade de São Paulo, Faculdade de Direito, São Paulo, Brasil. caio.henrique.duarte@usp.br

https://orcid.org/0000-0002-1720-7249

Maria Fernanda Ribeiro

Maria Fernanda Ribeiro é pesquisadora colaboradora da Universidade de São Paulo (USP) e é engenheira graduada pela mesma instituição.

Universidade de São Paulo, Faculdade de Engenharia, São Paulo, Brasil. maria.fernanda.ribeiro@alumni.usp.br Universidade de São PauloBrasilSão Paulo, BrasilUniversidade de São Paulo, Faculdade de Engenharia, São Paulo, Brasil. maria.fernanda.ribeiro@alumni.usp.br

https://orcid.org/0000-0002-4340-9901

Gabriel Goes Braga Takayanagi

Gabriel Goes Braga Takayanagi é estudante do Departamento de Engenharia de Computação e Sistemas Digitais da Escola Politécnica da Universidade de São Paulo.

Universidade de São Paulo, Escola Politécnica, São Paulo, Brasil. gabriel.takayanagi@usp.br; alexandre.alcoforado@usp.br Universidade de São PauloBrasilSão Paulo, BrasilUniversidade de São Paulo, Escola Politécnica, São Paulo, Brasil. gabriel.takayanagi@usp.br; alexandre.alcoforado@usp.br

https://orcid.org/0000-0002-6498-6716

Alexandre Alcoforado

Alexandre Alcoforado é mestrando em Engenharia de Computação na Escola Politécnica da Universidade de São Paulo, e engenheiro elétrico pela mesma instituição.

https://orcid.org/0000-0003-3184-1534

Roseli de Deus Lopes

Roseli de Deus Lopes é professora titular da Escola Politécnica da Universidade de São Paulo (USP), vice-coordenadora do Centro Interdisciplinar de Tecnologias Interativas (Citi-USP) e pesquisadora do Laboratório de Sistemas Integrados (LSI-USP), onde coordena projetos de pesquisa em mídia eletrônica interativa, com ênfase em aplicações na educação, inclusão e saúde. Atualmente, é diretora no Instituto de Estudos Avançados da USP.

Universidade de São Paulo, Instituto de Estudos Avançados, São Paulo, Brasil. roseli.lopes@usp.br Universidade de São PauloBrasilSão Paulo, BrasilUniversidade de São Paulo, Instituto de Estudos Avançados, São Paulo, Brasil. roseli.lopes@usp.br

https://orcid.org/0000-0001-8556-6473

Mart Susi

Mart Susi é professor de Direito de Direitos Humanos e chefe de Estudos Jurídicos na Tallinn University, Estônia.

Law School, Tallinn University, Tallinn, Estônia. martsusi@tlu.ee Tallinn UniversityEstôniaTallinn, EstôniaLaw School, Tallinn University, Tallinn, Estônia. martsusi@tlu.ee

https://orcid.org/0000-0002-2624-4797

SCIMAGO INSTITUTIONS RANKINGS

Law School, Tallinn University, Tallinn, Estônia. martsusi@tlu.ee Tallinn UniversityEstôniaTallinn, EstôniaLaw School, Tallinn University, Tallinn, Estônia. martsusi@tlu.ee

Figuras

Figuras (6)

Thumbnail

Figura 1
Modelo Geral de Moderação de Conteúdo em Mídias Sociais.

Thumbnail

Figura 2
Número de vídeos (em milhões) removidos pela primeira vez no YouTube (sem considerar o recurso) por ano e pelo autor da remoção. Em azul, a detecção automática é a remoção de IA. Nas outras cores, as remoções são feitas por humanos: Agências governamentais e judiciais, moderadores humanos (que trabalham para o Google), reclamações de usuários, e ONGs (parceiros do YouTube).

Thumbnail

Figura 3
Quantidade de conteúdo removido no Facebook e Instagram ao longo dos anos, não considerando a remoção de spam.

Thumbnail

Figura 4
Novo procedimento de moderação proposto pela Meta em 2021.

Thumbnail

Figura 5
Demonstração (em inglês) da suscetibilidade a “Adversarial Attacks” (ataques adversariais) de um sistema de análise de sentimentos nas críticas de filmes. Observa-se que ao modificar as palavras por sinônimos menos utilizados leva o classificador a uma decisão errada.

Thumbnail

Figura 6
Uma demonstração do método de geração rápida de exemplos adversariais (Goodfellow; Shlens; Szegedy, 2015SZEGEDY, C. et al. Going deeper with convolutions. In: PROCEEDINGS OF THE IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION. [S.l.: s.n.], p.1-9, 2015.) aplicado à rede GoogLeNet (Szegedy et al., 2015) no conjunto de dados da ImageNet (Krizhevsky; Sutskever; Hinton, 2012KRIZHEVSKY, A.; SUTSKEVER, I.; HINTON, G. E. Imagenet classification with deep convolutional neural networks. Advances in neural information processing systems, v.25, p.1097-105, 2012.). Ao adicionar um vetor imperceptivelmente pequeno cujos elementos são iguais ao sinal dos elementos do gradiente da função de custo com relação à entrada, a classificação da imagem da GoogLeNet pode ser alterada, sem que a mudança seja perceptível ao humano.

Figura 1 Modelo Geral de Moderação de Conteúdo em Mídias Sociais.

Fonte: Winchcomb (2019WINCHCOMB, T. Use of AI in Online Content Moderation. [S.l.], 2019. Disponível em: <https://www.cambridgeconsultants.com/insights/whitepaper/ofcom-use-ai-online-content-moderation>.
https://www.cambridgeconsultants.com/ins... ).

Figura 2 Número de vídeos (em milhões) removidos pela primeira vez no YouTube (sem considerar o recurso) por ano e pelo autor da remoção. Em azul, a detecção automática é a remoção de IA. Nas outras cores, as remoções são feitas por humanos: Agências governamentais e judiciais, moderadores humanos (que trabalham para o Google), reclamações de usuários, e ONGs (parceiros do YouTube).

Fonte: Elaboração própria baseada em dados do Google Transparency Report (Google, 2021).

Figura 3 Quantidade de conteúdo removido no Facebook e Instagram ao longo dos anos, não considerando a remoção de spam.

Fonte: Elaboração própria baseada nos dados do Relatório de Transparência do Facebook (Meta, 2021).

Figura 4 Novo procedimento de moderação proposto pela Meta em 2021.

Fonte: Elaboração própria baseada no Facebook Transparency Report (Meta, 2021).

Figura 5 Demonstração (em inglês) da suscetibilidade a “Adversarial Attacks” (ataques adversariais) de um sistema de análise de sentimentos nas críticas de filmes. Observa-se que ao modificar as palavras por sinônimos menos utilizados leva o classificador a uma decisão errada.

Fonte: D. Jin et al. (2020JIN, D. et al. Is BERT really robust? a strong baseline for natural language attack on text classification and entailment. In: PROCEEDINGS OF THE AAAI CONFERENCE ON ARTIFICIAL INTELLIGENCE. [S.l.: s.n.], v.34, n.5, p.8018-25, 2020.).

Figura 6 Uma demonstração do método de geração rápida de exemplos adversariais (Goodfellow; Shlens; Szegedy, 2015SZEGEDY, C. et al. Going deeper with convolutions. In: PROCEEDINGS OF THE IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION. [S.l.: s.n.], p.1-9, 2015.) aplicado à rede GoogLeNet (Szegedy et al., 2015) no conjunto de dados da ImageNet (Krizhevsky; Sutskever; Hinton, 2012KRIZHEVSKY, A.; SUTSKEVER, I.; HINTON, G. E. Imagenet classification with deep convolutional neural networks. Advances in neural information processing systems, v.25, p.1097-105, 2012.). Ao adicionar um vetor imperceptivelmente pequeno cujos elementos são iguais ao sinal dos elementos do gradiente da função de custo com relação à entrada, a classificação da imagem da GoogLeNet pode ser alterada, sem que a mudança seja perceptível ao humano.

Fonte: Goodfellow, Shlens e Szegedy (2015SZEGEDY, C. et al. Going deeper with convolutions. In: PROCEEDINGS OF THE IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION. [S.l.: s.n.], p.1-9, 2015.).

Como citar

copiar

Instituto de Estudos Avançados da Universidade de São Paulo Rua da Reitoria,109 - Cidade Universitária, 05508-900 São Paulo SP - Brasil, Tel: (55 11) 3091-1675/3091-1676, Fax: (55 11) 3091-4306 - São Paulo - SP - Brazil
E-mail: estudosavancados@usp.br

Acompanhe os números deste periódico no seu leitor de RSS

Versão para download de PDF

PDF

Português
Inglês

Versões e tradução automática

Versão original do texto

English
Português

Tradução automática

Google Translator
Microsoft Translator

Como citar

RIS

BIBTEX

Outros formatos de citação e exportação:

SciELO - Scientific Electronic Library Online
Rua Dr. Diogo de Faria, 1087 – 9º andar – Vila Clementino 04037-003 São Paulo/SP - Brasil
E-mail: scielo@scielo.org

Leia a Declaração de Acesso Aberto

Métricas

Inteligência Artificial explicável para atenuar a falta de transparência e a legitimidade na moderação da Internet

PlumX