Os Dilemas Éticos da Transformação Digital

Resumo

Questões éticas estão implicadas no uso crescente de tecnologias emergentes pelas organizações. Recentemente, diversos fóruns empresariais e pesquisas acadêmicas vêm explorando as relações entre ética e transformação digital, uma vez que as tecnologias digitais são cruciais para a chamada Quarta Revolução Industrial, que faz o uso combinado tecnologias, como a inteligência artificial, aprendizagem de máquina, robótica, blockchain , neuro e biotecnologias, para criar inúmeras inovações em produtos, serviços e modelos de negócios. A questão que se apresenta é que essas tecnologias avançam em um ritmo muito mais acelerado do que as instituições humanas, sendo necessário elucidarmos como elas podem ser aplicadas para gerar desenvolvimento para todos, ao mesmo tempo que preservamos os direitos humanos inalienáveis. Considerando esse cenário, neste editorial abordaremos importantes aspectos sobre os dilemas éticos da transformação digital, propondo uma série de questões para pesquisas futuras.

ética; transformação digital; quarta revolução industrial; pesquisa

Abstract

Ethical issues are involved in the increasing use of emerging technologies by organizations. Several business forums and academic research have been exploring the relationship between ethics and digital transformation, as digital technologies are essential for the so-called Fourth Industrial Revolution, which combine the use of technologies, such as artificial intelligence, machine learning, robotics, blockchain, and neuro and biotechnologies, to create numerous innovations in products, services, and business models. The issue is that these technologies advance at a much faster pace than human institutions, and clarifying how they can be applied to bring development for all, while preserving inalienable human rights, becomes necessary. Thus, in this editorial, we will address important aspects about the ethical issues of digital transformation and propose a series of issues for future studies.

ethics; digital transformation; fourth industrial revolution, research

Introdução

O filme “Não olhe para cima” ( Don't look up ), dirigido por Adam McKay, que recentemente bateu recordes de audiência na plataforma Netflix¹ , faz uma crítica mordaz (entre tantas outras) ao uso indiscriminado de informações pessoais. Atualmente, corporações e plataformas digitais coletam grandes volumes de dados (o chamado “ big data ”) para rodar algoritmos que buscam não só traçar nosso perfil psicológico, mas, principalmente, prever nosso comportamento (como intenções de voto ou desejos de consumo).

Em uma cena hilária entre os atores Leonardo DiCaprio e Mark Rylance, que interpreta um CEO multibilionário de uma corporação fabricante de smartphones , o famigerado empresário afirma para DiCaprio (que interpreta um cientista um tanto perturbado) que sua companhia possui todos os dados pessoais e um algoritmo capaz de prever como será a morte do personagem. Ainda, o CEO dá um spoiler: “sua morte será comum e tediosa. Não lembro dos detalhes, só de uma coisa: você vai morrer sozinho”. Foco no rosto atônito do cientista diante da nefasta previsão.

Essa cena nos leva a pensar nas questões éticas relacionadas ao uso crescente de tecnologias digitais. Elas são cruciais para a chamada Quarta Revolução Industrial ( Schwab & Davis, 2019 ), que faz uso combinado de diversas tecnologias, tais como a inteligência artificial, aprendizagem de máquina, robótica, blockchain , neuro e biotecnologias, para criar inúmeras inovações em produtos, serviços e modelos de negócios. Neste editorial, abordaremos importantes aspectos sobre os dilemas éticos da transformação digital, propondo uma série de questões para pesquisas futuras.

Imbricamento humano-tecnologia e questões éticas emergentes

A literatura gerencialista não cansa de afirmar que os dados são o “novo petróleo”. Em nome desse “petróleo”, nossos dados são rastreados constantemente. A despeito de tentativas de regulação para preservar nossa privacidade, sabemos que a trocamos facilmente por serviços digitais que nos gerem cada vez mais comodidade, entretenimento e – claro – dependência.

O imbricamento humano-tecnologia, que vai desde o uso de equipamentos móveis (como o próprio smartphone ), tecnologias vestíveis e operações diárias em plataformas digitais, contribui para que, cada vez mais, abundem os dilemas éticos ( Trevino, 1986 ) – e poderíamos nos perguntar até mesmo se chegam a ser dilemas para as organizações. Só para lembrar alguns deles: tomadas de decisões por inteligência artificial; substituição do humano pela máquina; reprodução de preconceitos e práticas de exclusão em regras de decisão algorítmicas; uso indiscriminado de informações pessoais para fins manipulativos, enfim, os “dilemas” são abundantes.

Atualmente, existem fóruns de grandes organizações voltados para a discussão e criação de princípios éticos para o uso de avanços tecnológicos como a inteligência artificial² . Em termos legislativos, prosperam as regulações visando proteger nossos dados e privacidade³ . Essas iniciativas são cruciais para que possamos, enquanto sociedade, definir eventuais limites no uso de novas tecnologias (enquanto tivermos autonomia para isso?).

Diante de qualquer dilema ético, o cálculo é aparentemente simples: buscar o maior número de benefícios possíveis, evitando ao máximo os riscos. No entanto, os benefícios serão para quem? E os riscos nos afetarão de que maneira? E a quem? A maior parte das tecnologias digitais são ubíquas, complexas, opacas, ou seja, seu funcionamento muitas vezes não é claro a não ser para seus desenvolvedores ( Introna, 2007 ).

Essas tecnologias afetam não só seus usuários, mas também outras pessoas ao seu redor, que podem ser indiretamente impactadas, seja porque não têm acesso direto a essas tecnologias, seja porque optaram por não exercer seu acesso ( Ferneley & Light, 2008 ). Um exemplo claro disso são os avanços em processos de vigilância ( Zuboff, 2015) presentes em mídias sociais. Dados digitais são generativos ( Zittrain, 2006) , o que significa que eles podem ser compartilhados, divididos, recombinados e revendidos (Kallinikos, Aaltonen, & Marton, 2013; Reuver, Sørensen, & Basole, 2018) sem o envolvimento de quem os gerou (Klein, Sørensen, Freitas, Pedron, & Elaluf-Calderwood, 2020; Kolloch & Dellermann, 2018) . Somemos a isso o alto nível de proximidade humano-tecnologia e teremos um prato cheio de controvérsias ( Klein et al., 2020) e de dilemas éticos.

A questão que se apresenta é que as tecnologias avançam em um ritmo muito mais acelerado do que as instituições humanas, que podemos definir aqui, brevemente, com base em North (1991) , como as “regras do jogo” sobre como a sociedade funciona. Nesse sentido, Schwab e Davis (2019) , ao abordarem a Quarta Revolução Industrial, nos propõem uma reflexão fundamental:

Se as tecnologias da quarta revolução industrial puderem ser combinadas com as instituições, as normas, e os padrões adequados, as pessoas ao redor do mundo terão chance de desfrutar de mais liberdade, saúde melhor, níveis mais elevados de educação e mais oportunidades para viver uma vida que podem valorizar, enquanto sofrem menos com a insegurança e a incerteza econômica. ( Schwab & Davis, 2019 , pp. 35-37)

Essa reflexão nos instiga a questionar: quem definirá as “regras do jogo”? Quem participará da criação de padrões que visem o bem-estar coletivo e a preservação de direitos humanos? Por exemplo, empresas de internet e plataformas hoje ocupam poderosas posições monopolistas no mercado global e geram rendas extraordinárias, detendo um poder econômico e político hegemônico sem precedentes (Trittin-Ulbrich, Scherer, Munro, & Whelan, 2021). Isso cria uma disparidade de poder entre essas grandes entidades de tecnologia e a maioria das outras organizações.

Apontamentos e provocações para futuras pesquisas

Recentemente, diversas pesquisas acadêmicas vêm explorando as relações entre ética e transformação digital. Vial (2019) , ao revisar a literatura sobre transformação digital, aponta que a escala, o alcance, bem como a velocidade associada a essa transformação demandam pesquisas sobre seus usos e potenciais impactos. O autor sugere duas linhas de pesquisa principais: a primeira envolve estudar como as capacidades dinâmicas das organizações contribuem para a transformação digital. A segunda via demanda pesquisas que abordem a importância estratégica da ética no contexto dessas transformações.

Trittin-Ulbrich et al. (2021) organizaram uma chamada especial na qual diversos pesquisadores abordaram lados obscuros e inesperados da digitalização para organizações. Kirchschlaeger (2021) aborda as questões éticas da transformação digital, especialmente aquelas ligadas à robótica e à inteligência artificial. Garantir justiça social, desenvolvimento sustentável, dignidade humana, confiança, solidariedade e muitos outros valores inalienáveis é crucial ao pensarmos as aplicações dessas tecnologias nas organizações.

Nesse sentido, novos estudos científicos sobre o tema são necessários, pois essa é uma discussão permanente, uma vez que tanto as tecnologias quanto seus usos e as formas com as quais elas são utilizadas nos processos de trabalho e de gestão mudam. Assim, propomos questões cruciais para pesquisas futuras:

• Como os dilemas éticos ligados ao uso de tecnologias emergentes, no contexto da Quarta Revolução Industrial, são percebidos (se é que de fato o são) nas organizações, por empreendedores e gestores?

• Como as organizações lidam com esses dilemas? Que critérios de tomada de decisão são utilizados para “resolver” tais dilemas?

• Como as tecnologias são projetadas considerando possíveis dilemas éticos? Possíveis dilemas são considerados em seu design ?

• Quais estratégias de atuação coletiva podem ser adotadas por usuários de tecnologia e outros grupos sociais por ela afetados para que tenham voz ativa diante de dilemas éticos e para que o bem-estar coletivo e os direitos humanos sejam preservados?

• Considerando uma perspectiva em que as tecnologias possam agir de forma autônoma e interagir e se comunicar entre si (M2M – Machine to machine ), como é possível definir uma normativa ética para elas?

• Como nós, enquanto sociedade, podemos agir para que nossas instituições se adaptem de forma “sincronizada” com o desenvolvimento e a difusão de tecnologias emergentes, garantindo sua aplicação de forma ética?

• Que papel a academia e a comunidade científica têm exercido diante dos dilemas éticos ligados às tecnologias da Quarta Revolução Industrial?

Essas são somente algumas questões que podem instigar estudos com potencial impacto social. Como cientistas, devemos nos manter ativos no debate ético, além de nos envolver na compreensão dos dilemas e controvérsias. Esse é um papel do qual a academia não pode se omitir nesta época de grandes transformações.

References

• Ferneley, E., Light, B. (2008). Unpacking User Relations in an Emerging Ubiquitous Computing Environment: Introducing the Bystander. Journal of Information Technology, 23(3), 163-175. doi:10.1057/palgrave.jit.2000123
• Introna, L. D. (2007). Maintaining the reversibility of foldings: Making the ethics (politics) of information technology visible. Ethics and Information Technology, 9(1), 11-25. doi:10.1007/s10676-006-9133-z
• Kallinikos, J., Aaltonen, A., Marton, A. (2013). The Ambivalent Ontology of Digital Artifacts. MIS Quarterly, 37(2), 357-370. doi:10.25300/MISQ/2013/37.2.02
• Kirchschlaeger, P. G. (2021). Digital transformation and ethics: ethical considerations on the robotization and automation of society and the economy and the use of artificial intelligence. Baden-Baden: Nomos.
• Klein, A., Sørensen, C., Freitas, A. S., Pedron, C. D., Elaluf-Calderwood, S. (2020). Understanding controversies in digital platform innovation processes: The Google Glass case. Technological Forecasting and Social Change, 152, 1-29. doi:10.1016/j.techfore.2019.119883
• Kolloch, M., Dellermann, D. (2018). Digital innovation in the energy industry: The impact of controversies on the evolution of innovation ecosystems. Technological Forecasting and Social Change, 136, 254-264. doi:10.1016/j.techfore.2017.03.033
• North, D.C. (1991). Institutions. Journal of economic perspectives, 5(1), 97-112. doi:10.1257/jep.5.1.97
• Reuver, M., Sørensen, C., & Basole, R.C. (2018). The digital platform: a research agenda. Journal of Information Technology, 33(2), 124-135. doi:10.1057/s41265-016-0033-3
• Schwab, K.; Davis, N. (2019). Applying the fourth industrial revolution. São Paulo, SP: Edipro.
• Trevino, L. K. (1986). Ethical decision making in organizations: a person-situation interactionist model. Academy of Management Review, 11(3), 601-617. doi:10.2307/258313
  » https://doi.org/10.2307/258313
• Trittin-Ulbrich, H., Scherer, A. G., Munro, I., Whelan, G. (2021). Exploring the dark and unexpected sides of digitalization: toward a critical agenda. Organization, 28(1), 8-25. doi:10.1177/1350508420968184
• Vial, G. (2019). Understanding digital transformation: a review and a research agenda. The Journal of Strategic Information Systems, 28(2), 118-144 doi:10.1016/j.jsis.2019.01.003
  » https://doi.org/10.1016/j.jsis.2019.01.003
• Zittrain, J. L. (2006). The internet generative. Harvard Law Review, 19, 1974-2040. doi:10.1145/1435417.1435426
  » https://doi.org/10.1145/1435417.1435426
• Zuboff, S. (2015). Big other: surveillance capitalism and the prospects of an information civilization. Journal of information technology, 30(1), 75-89. doi:10.1057/jit.2015.5
  » https://doi.org/10.1057/jit.2015.5

Notas

• 1
  . Fonte: https://www.netflix.com/watch/81252357?source=35
• 2
  . Por exemplo: https://fortune.com/2021/12/13/ibm-artificial-intelligence-ethics-regulation-francesca-rossi/
• 3
  . Por exemplo, a LGPD: https://www.serpro.gov.br/lgpd/menu/a-lgpd/o-que-muda-com-a-lgpd
• Verificação de plágio
  A O&S submete todos os documentos aprovados para a publicação à verificação de plágio, mediante o uso de ferramenta específica.
• Disponibilidade de dados
  A O&S incentiva o compartilhamento de dados. Entretanto, por respeito a ditames éticos, não requer a divulgação de qualquer meio de identificação dos participantes de pesquisa, preservando plenamente sua privacidade. A prática do open data busca assegurar a transparência dos resultados da pesquisa, sem que seja revelada a identidade dos participantes da pesquisa.

Datas de Publicação

• Publicação nesta coleção
  15 Jul 2022
• Data do Fascículo
  Jul-Sep 2022