Acessibilidade / Reportar erro

Brasil

Revista de Administração Contemporânea

Español English

Brasil

Español English

sumário « anterior atual seguinte »

Sumário

Caso para Ensino • Rev. adm. contemp. 27 (3) • 2023 • https://doi.org/10.1590/1982-7849rac2023220063.por copiar

Nuveo: Ética Digital e Inteligência Artificial para Desafios do Mundo Real

Autoria SCIMAGO INSTITUTIONS RANKINGS

RESUMO

Este caso de ensino apresenta o dilema enfrentado pela Nuveo em sua busca por crescer sustentavelmente e consolidar-se no mercado de inteligência artificial do país. Ao identificar a possibilidade de ofertar o uso da sua tecnologia de reconhecimento de imagens para a segurança pública, o fundador da startup depara-se com questões éticas envolvidas com essa oportunidade. Ao contar a história da Nuveo, este caso permite a identificação de princípios e recomendações para o desenvolvimento e uso ético de sistemas de IA, propiciando ainda discussões acerca dos desafios éticos relacionados à transformação digital e seus impactos para os indivíduos, empresas e sociedade. Este caso de ensino foi elaborado para ser aplicado em cursos de graduação e pós-graduação em administração de empresas, administração pública e tecnologia da informação, em disciplinas que abordem ética digital, ESG (environmental, social, and governance) e inteligência artificial.

Palavras-chave:
ética digital; inteligência artificial; ESG; tecnologia da informação

Material	Indicação
Relatório da Gartner que trata da importância do uso responsável das ferramentas de reconhecimento facial e fornece recomendações: Buytendijk et al. (2020Buytendijk, F., Willemsen, B., Jones, L. C., & Hare, J. (2020). Digital ethics: Use facial recognition technology responsibly. Gartner. https://www.gartner.com/en/documents/3990243 https://www.gartner.com/en/documents/399... ). Matéria do NIST sobre estudo demográfico em algoritmos de reconhecimento facial: National Institute of Standards and Technology [NIST] (2019).	Ampliar e nivelar o conhecimento sobre a tecnologia de reconhecimento facial e dar suporte às questões de discussão do caso.
Matéria da IBM que aborda a diferença entre IA, machine learning e deep learning: Ceron (2019Ceron, R. (2019, December 5). AI, machine learning and deep learning: What’s the difference? IBM. https://www.ibm.com/blogs/systems/ai-machine-learning-and-deep-learning-whats-the-difference/ https://www.ibm.com/blogs/systems/ai-mac... ). Matéria da Medium que traz um mapa da IA: Corea (2018Corea, F. (2018, August 29). AI knowledge map: How to classify AI technologies. Medium. https://francesco-ai.medium.com/ai-knowledge-map-how-to-classify-ai-technologies-6c073b969020 https://francesco-ai.medium.com/ai-knowl... ).	Alinhar o conhecimento sobre a abrangência da IA e a diferença de abordagens.
Vídeo que aborda alguns desafios éticos e trata da importância de não delegar a tomada de decisões subjetivas exclusivamente às máquinas: Tufekci (2016Tufekci, Z. (2016). Machine intelligence makes human morals more important. TEDSummit. https://www.ted.com/talks/zeynep_tufekci_machine_intelligence_makes_human_morals_more_important https://www.ted.com/talks/zeynep_tufekci... ).	Contribuir com as reflexões sobre a diferença entre inteligência humana e artificial e sobre a importância do estabelecimento de princípios éticos para o desenvolvimento e uso de IA.
Matéria que aborda a regulamentação de ambientes digitais: Crespo (2022Crespo, M. (2022, January 16). Metaverso: Teremos leis para reger o novo mundo? LinkedIn. https://www.linkedin.com/pulse/metaverso-teremos-leis-para-reger-o-novo-mundo-crespo-ph-d-ccep-i/ https://www.linkedin.com/pulse/metaverso... ).	Apresentar alguns desafios para regulamentação das soluções digitais.
Guia para o uso ético de IA elaborado pelo IEEE (Institute of Electrical and Electronics Engineers, 2017). Documento do governo brasileiro que visa a orientar a pesquisa, o desenvolvimento de soluções e o uso de IA: Ministério da Ciência, Tecnologia e Inovação [MCTI] (2021).	Apresentar algumas iniciativas voltadas à promoção do desenvolvimento e uso responsável de IA.
Relatório da Gartner que apresenta a ética digital como um fator de competitividade: Hamer et al. (2020Hamer, P. D., Gove, K., Willemsen, B., Struckman, C., & Buytendijk, F. (2020). Digital ethics: From compliance duty to competitive differentiator. Gartner. https://www.gartner.com/en/documents/3989522 https://www.gartner.com/en/documents/398... ). Matéria da Forbes que apresenta a ética em IA como fator de competitividade: McKendrick (2019McKendrick, J. (2019, July 7). Ethical artificial intelligence becomes a supreme competitive advantage. Forbes. https://www.forbes.com/sites/joemckendrick/2019/07/07/ethical-artificial-intelligence-becomes-a-supreme-competitive-advantage/?sh=3967356f1a8f https://www.forbes.com/sites/joemckendri... ).	Apresentar a ética digital como um fator de competitividade para as empresas.

Alternativa	Prós	Contras
1. Ofertar imediatamente	Entrada em um mercado com projeção de grande crescimento global Possibilidade de ampliação da carteira de clientes Possibilidade de ampliação das receitas Disponibilização de ferramenta alinhada ao Plano Nacional de Segurança Pública e Defesa Social Contribuição com a localização de pessoas procuradas pela polícia	Grau de maturidade e acurácia das soluções de reconhecimento facial Riscos de discriminação de grupos minoritários causada por vieses algorítmicos e de dados, perda de privacidade, uso indevido de imagens, assimetria de poder, entre outros Riscos reputacionais
2. Retardar o lançamento	Possibilidade de implementar ações de mitigação aos riscos relacionados às questões éticas antes da oferta da solução Impactos sociais e reputacionais positivos	Investimento necessário (tempo, dinheiro, capacitação) para implementação de ações de mitigação aos desafios éticos Risco de perder o timing para se tornar relevante no mercado
3. Engavetar a oportunidade	Continuar atuando com soluções e riscos já conhecidos	Não entrar em um mercado com projeção de grande crescimento global

Material consultado	Fonte de dados
Website da empresa	https://www.nuveo.ai/
Rede social profissional da empresa	https://www.linkedin.com/company/nuveo/
Entrevista do CTO da Nuveo sobre a empresa e a IA	https://www.youtube.com/watch?v=x25s0Qwm1q4
Vídeo de apresentação da empresa no Data Science Challenge @ ITA \| Edição 2021	https://www.youtube.com/watch?v=BFAuwRjIMNs
Apresentação do CTO sobre a empresa e soluções da Nuveo na II Semana da Computação da USP/Rib. Preto - 2020	https://www.youtube.com/watch?v=lnTnM3TKQgA
Matéria sobre a empresa	https://www.techtudo.com.br/noticias/2018/10/tecnologia-automatiza-processos-burocraticos.ghtml
Vídeo do protagonista sobre a empresa	https://www.youtube.com/watch?v=i-TlRfRYZAY
Relatório da Distrito sobre startups de inteligência artificial	https://materiais.distrito.me/dataminer-report-inteligencia-artificial
Rede social profissional do protagonista	https://www.linkedin.com/in/joseflaviopereira/

Mercado	Previsão de crescimento	Dimensões
Mercado global de inteligência artificial	38,1% a.a.	O mercado global de inteligência artificial atingiu a marca de US$ 93,5 bilhões em 2021 e tem expectativa de crescimento de 38,1% entre 2022 e 2030.
Mercado global de biometria	17.7% a.a.	Estima-se que o mercado global de biometria possa crescer a uma taxa de 17,67% entre 2019 e 2026, chegando a US$ 62,3 bilhões em 2026.
Mercado global de reconhecimento facial	18% a.a.	O segmento de mercado específico de reconhecimento facial global, que superou a marca de US$ 3 bilhões em 2019, poderá alcançar uma receita total superior a US$ 12 bilhões em 2026.
Mercado LATAM de biometria	17,8% a.a.	O mercado de biometria na América Latina pode crescer de US$ 2,63 bilhões em 2021 para receitas totais de US$ 7,09 milhões em 2027.
Mercado LATAM de reconhecimento facial	16,4% a.a.	Estima-se que o mercado de reconhecimento facial na América Latina cresça 16,35% ao ano no período de 2019 a 2028.

Avaliação	Resultado
Sexo	Existência de duas a cinco vezes mais falsos positivos para mulheres que para homens.
Etnia	Maiores taxas de falsos positivos ocorreram com africanos e asiáticos, seguidos por centro-americanos. As pessoas do Leste Europeu apresentaram a menor taxa de falsos positivos. Algoritmos desenvolvidos na China apresentaram baixa taxa de erros para asiáticos, algumas vezes menores até que para caucasianos. Algoritmos desenvolvidos nos EUA apresentaram a maior taxa de falsos positivos para índios americanos.
Idade	Altas taxas de falsos positivos para idosos e crianças.

Associação Nacional de Pós-Graduação e Pesquisa em Administração Av. Pedro Taques, 294,, 87030-008, Maringá/PR, Brasil, Tel. (55 44) 98826-2467 - Curitiba - PR - Brazil
E-mail: rac@anpad.org.br

Acompanhe os números deste periódico no seu leitor de RSS