Resumo:
A pesquisa objetivou avaliar a qualidade metodológica de diretrizes do Ministério da Saúde brasileiro, da Organização Pan-Americana da Saúde (OPAS) e da Organização Mundial da Saúde (OMS) sobre vigilância e manejo clínico de dengue e chikungunya. Trata-se de um estudo descritivo, no qual a ferramenta Appraisal of Guidelines for Research & Evaluation Reporting Checklist II (AGREE II) foi aplicada por quatro avaliadores, de forma independente e mascarada, para seis diretrizes. Cada avaliador atribuiu um escore de 1 (discordo totalmente) a 7 (concordo completamente) aos 23 itens dos domínios do AGREE II: escopo e propósito; envolvimento das partes interessadas; rigor no desenvolvimento; clareza da apresentação; aplicabilidade e independência editorial. As diretrizes de dengue da OPAS (média = 5,2, DP = 0,8) e da OMS (média = 4,5, DP = 0,5) obtiveram maiores pontuações globais, sendo recomendadas com modificações por todos os avaliadores, e a do Ministério da Saúde (média = 2,7, DP = 0,4) não foi recomendada por um deles. Já as pontuações das diretrizes de chikungunya foram baixas (médias variando de 2,2 a 3,0) independentemente do órgão que as elaborou. Os domínios com maior conformidade foram “clareza da apresentação” (mediana de 84,7%) e “escopo e propósito” (77,1%), e os de menor conformidade foram “independência editorial” (5,2%) e “rigor no desenvolvimento” (9,1%). O estudo identificou lacunas na qualidade metodológica das diretrizes relacionadas, principalmente, à transparência nos processos de busca, seleção das evidências científicas e formulação das recomendações, além de falta de clareza quanto ao financiamento e possíveis conflitos de interesses.
Palavras-chave:
Guias de Prática Clínica como Assunto; Avaliação em Saúde; Infecções por Arbovirus
Abstract:
The study aimed to assess the methodological quality of guidelines by the Brazilian Ministry of Health, Pan American Health Organization (PAHO), and World Health Organization (WHO) on surveillance and clinical management of dengue and chikungunya. This was a descriptive study in which the tool Appraisal of Guidelines for Research & Evaluation Reporting Checklist II (AGREE II) was applied by four evaluators in independent and masked fashion for six guidelines. Each evaluator assigned a score from 1 (disagree completely) to 7 (agree completely) to the 23 items in the AGREE II domains: scope and purpose; stakeholder involvement; rigor in the development; clarity of presentation; applicability; and editorial independence. The dengue guidelines by PAHO (mean = 5.2, SD = 0.8) and WHO (mean = 4.5, SD = 0.5) obtained the highest overall scores and were recommended with modifications by all the evaluators, while the Brazilian Ministry of Health guidelines (mean = 2.7, SD = 0.4) were not recommended by any of them. Meanwhile, the chikungunya guidelines scored low (means from 2.2 to 3.0) for all three agencies. The domains with the greatest conformity were “clarity of presentation” (median 84.7%) and “scope and purpose” (77.1%), while those with the lowest conformity were “editorial independence” (5.2%) and “rigor in development” (9.1%). The study identified gaps in the guidelines’ methodological quality, mainly in transparency of the work processes, selection of scientific evidence, and formulation of recommendations, besides lack of clarity in financing and possible conflicts of interest.
Keywords:
Practice Guidelines as Topic; Health Evaluation; Arbovirus Infections
Resumen:
El objetivo de la investigación fue evaluar la calidad metodológica de las directrices del Ministerio de Salud (MS) brasileño, de la Organización Panamericana de la Salud (OPAS) y de la Organización Mundial de la Salud (OMS) sobre vigilancia y manejo clínico del dengue y chikungunya. Se trata de un estudio descriptivo, en el cual la herramienta Appraisal of Guidelines for Research & Evaluation Reporting Checklist II (AGREE II) fue aplicada por parte de cuatro evaluadores, de forma independiente y oculta, en seis directrices. Cada evaluador atribuyó una puntuación de 1 (en desacuerdo totalmente) a 7 (concuerdo completamente) a los 23 ítems de los dominios del AGREE II: alcance y propósito; implicando las partes interesadas; rigor en el desarrollo; claridad de la presentación; aplicabilidad e independencia editorial. Las directrices del dengue de la OPAS (media = 5,2, DP = 0,8) y OMS (media = 4,5, DP = 0,5) obtuvieron mayores puntuaciones globales, siendo recomendadas con modificaciones por todos los evaluadores, respecto a las del Ministerio de Salud (media = 2,7, DP = 0,4) no se recomendó por parte de uno de ellos. Ya las puntuaciones de las directrices de chikungunya fueron bajas (medias variando de 2,2 a 3,0), independientemente del órgano que las elaboró. Los dominios con mayor conformidad fueron “clareza de la presentación” (media de 84,7%) y “alcance y propósito” (77,1%), mientras que los de menor conformidad fueron “independencia editorial” (5,2%) y “rigor en el desarrollo” (9,1%). El estudio identificó lagunas en la calidad metodológica de las directrices relacionadas, principalmente, respecto a la transparencia en los procesos de búsqueda, selección de las evidencias científicas y formulación de las recomendaciones, además de la falta de claridad respecto a la financiación y posibles conflictos de intereses.
Palabras-clave:
Guias de Práctica Clínica Como Asunto; Evaluación en Salud; Infecciones por Arbovirus
Introdução
As infecções por dengue e chikungunya podem produzir quadros clínicos semelhantes na fase aguda, e durante hiperendemias e epidemias são motivo de intensa procura por atendimento nas unidades de saúde. O diagnóstico precoce, manejo clínico adequado dos pacientes, intervenções de controle vetorial e de monitoramento de casos humanos para a prevenção, detecção e enfrentamento de epidemias são prementes para a diminuição da morbimortalidade por essas arboviroses, o que implica intenso treinamento das equipes de saúde 11. Donalisio MR, Freitas ARR. Chikungunya in Brazil: an emerging challenge. Rev Bras Epidemiol 2015; 18:283-5.,22. Fathima AS, Manimegalai D, Hundewale N. A review of data mining classification techniques applied for diagnosis and prognosis of the arbovirus-dengue. International Journal of Computer Science Issues 2011; 8:322-8.,33. Muller DA, Depelsenaire ACI, Young PR. Clinical and laboratory diagnosis of dengue virus infection. J Infect Dis 2017; 215 Suppl 2:S89-95.,44. Weaver SC. Arrival of chikungunya virus in the new world: prospects for spread and impact on public health. PLoS Negl Trop Dis 2014; 8:e2921.. Nesse sentido, as diretrizes clínicas são úteis para orientar as práticas com base em evidências, definir fluxos e otimizar o uso dos recursos disponíveis, considerando-se o custo-benefício das diferentes opções de diagnóstico, tratamento 55. Institute of Medicine; Graham R, Mancher M, Miller Wolman D, Greenfield S, Steinberg E. Clinical practice guidelines we can trust. Washington DC: The National Academies Press; 2011. e de medidas de saúde pública que envolvem vigilância epidemiológica e entomológica.
Apesar da dengue ser a mais importante arbovirose que afeta o homem, com vasta distribuição mundial e incidência crescente 66. Messina JP, Brady OJ, Scott TW, Zou C, Pigott DM, Duda KA, et al. Global spread of dengue virus types: mapping the 70 year history. Trends Microbiol 2014; 22:138-46.,77. Stanaway JD, Shepard DS, Undurraga EA, Halasa YA, Coffeng LE, Brady OJ, et al. The global burden of dengue: an analysis from the Global Burden of Disease Study 2013. Lancet Infect Dis 2016; 16:712-23., até a atualidade poucos estudos avaliaram diretrizes de dengue: um avaliou a heterogeneidade de recomendações e uso destes dispositivos 88. Santamaria R, Martinez E, Kratochwill S, Soria C, Tan LH, Nuñez A, et al. Comparison and critical appraisal of dengue clinical guidelines and their use in Asia and Latin America. Int Health 2009; 1:133-40.; outros dois avaliaram a qualidade metodológica de apenas uma diretriz de dengue em meio a outras sobre tópicos diversos 99. Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74.,1010. Canelo-Aybar C, Balbin G, Perez-Gomez A, Florez ID. Guías de práctica clínica en el Perú: evaluación de su calidad usando el instrumento AGREE II. Rev Peru Med Exp Salud Pública 2016; 33:732-8..
De forma semelhante, diretrizes para vigilância e manejo clínico de casos de chikungunya ainda não foram avaliadas de forma crítica, apesar desta doença vir gerando significativos prejuízos econômicos após dezembro de 2013, quando o vírus estabeleceu seu ciclo de transmissão mosquito/humano nas Américas, com a diminuição da produtividade humana devido à carga da doença crônica incapacitante que é capaz de causar 44. Weaver SC. Arrival of chikungunya virus in the new world: prospects for spread and impact on public health. PLoS Negl Trop Dis 2014; 8:e2921.,1111. Caglioti C, Lalle E, Castilletti C, Carletti F, Capobianchi MR, Bordi L. Chikungunya virus infection: an overview. New Microbiol 2013; 36:211-27.,1212. Mathew AJ, Ganapati A, Kabeerdoss J, Nair A, Gupta N, Chebbi P, et al. Chikungunya Infection: a global public health menace. Curr Allergy Asthma Rep 2017; 17:13.,1313. Silva LA, Dermody TS. Chikungunya virus: epidemiology, replication, disease mechanisms, and prospective intervention strategies. J Clin Invest 2017; 127:737-49..
Em nível internacional, a Organização Mundial da Saúde (OMS) tem elaborado diretrizes para orientar as ações de saúde e para nortear o desenvolvimento de diretrizes nacionais ou regionais. Dentre elas estão a diretriz para diagnóstico, tratamento, prevenção e controle de dengue 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009. e aquelas sobre manejo clínico, prevenção e controle da febre de chikungunya 1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008.,1616. WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009.. Por orientar as políticas de saúde, as ações de vigilância epidemiológica e a prática clínica da maioria dos 194 países membros das Nações Unidas, o processo de desenvolvimento desses dispositivos deve ser criterioso e transparente para fornecer recomendações baseadas em uma síntese das melhores evidências disponíveis 99. Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74..
Uma diretriz deve fornecer um resumo baseado em evidências, atual, acessível, transparente e fácil de usar, objetivando melhorar o cuidado. Entretanto, os processos de desenvolvimento de diretrizes variam substancialmente e muitos não atendem os critérios básicos de qualidade, são contraditórios, impraticáveis, inaceitáveis para os usuários ou simplesmente não baseados em evidências 1717. Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. AGREE II: advancing guideline development, reporting and evaluation in health care. Can Med Assoc J 2010; 182:E839-42.,1818. Burls A. AGREE II-improving the quality of clinical care. Lancet 2010; 376:1128-9.,1919. Dans AL, Dans LF. Appraising a tool for guideline appraisal (the AGREE II instrument). J Clin Epidemiol 2010; 63:1281-2.,2020. Eikermann M, Holzmann N, Siering U, Rüther A. Tools for assessing the content of guidelines are needed to enable their effective use - a systematic comparison. BMC Res Notes 2014; 7:853.,2121. Hoffmann-Eßer W, Siering U, Neugebauer EAM, Brockhaus AC, McGauran N, Eikermann M. Guideline appraisal with AGREE II: online survey of the potential influence of AGREE II items on overall assessment of guideline quality and recommendation for use. BMC Health Serv Res 2018; 18:143.,2222. Qaseem A, Forland F, Macbeth F, Ollenschläger G, Phillips S, van der Wees P, et al. Guidelines International Network: toward international standards for clinical practice guidelines. Ann Intern Med 2012; 156:525-31..
Nesse sentido, o Appraisal of Guidelines for Research & Evaluation Reporting Checklist II (AGREE II) é um instrumento baseado em revisões abrangentes da literatura e consenso entre uma equipe internacional ampla de interessados em diretrizes práticas, e é considerada a melhor ferramenta de avaliação da qualidade metodológica de diretrizes disponível. Originalmente publicado em 2003, o instrumento foi refinado, resultando em uma versão mais curta e eficiente com 23 itens sobre o escopo, a população-alvo, os métodos de seleção das evidências, a forma de apresentação e aplicabilidade das recomendações e os conflitos de interesse na elaboração da diretriz, capazes de produzir uma avaliação detalhada 2020. Eikermann M, Holzmann N, Siering U, Rüther A. Tools for assessing the content of guidelines are needed to enable their effective use - a systematic comparison. BMC Res Notes 2014; 7:853.,2323. AGREE Collaboration. Development and validation of an international appraisal instrument for assessing the quality of clinical practice guidelines: the AGREE project. Qual Saf Health Care 2003; 12:18-23.,2424. Brouwers MC, Kerkvliet K, Spithoff K, AGREE Next Steps Consortium. The AGREE Reporting Checklist: a tool to improve reporting of clinical practice guidelines. BMJ 2016; 352:i1152.,2525. Siering U, Eikermann M, Hausner E, Hoffmann-Eßer W, Neugebauer EA. Appraisal tools for clinical practice guidelines: a systematic review. PLoS One 2013; 8:e82915..
Nessa perspectiva, o presente trabalho objetivou avaliar a qualidade metodológica de diretrizes de vigilância e manejo clínico de dengue e chikungunya.
Metodologia
Trata-se de um estudo descritivo de avaliação de diretrizes governamentais de acesso livre, dispensando apreciação ética por se restringir a uma análise documental.
Foram incluídas as diretrizes mais recentes sobre vigilância e manejo clínico de dengue e chikungunya elaboradas pelo Ministério da Saúde do Brasil, OMS ou Organização Pan-Americana da Saúde (OPAS), disponíveis no mês de janeiro de 2018 nos sites oficiais destes órgãos, sendo selecionadas as diretrizes da OMS, Dengue: Guidelines for Diagnosis, Treatment, Prevention and Control1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009., Guidelines on Clinical Management of Chikungunya Fever1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008. e Guidelines for Prevention and Control of Chikungunya Fever1616. WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009.; a diretriz da OPAS Dengue: Guidelines for Patient Care in the Region of the Americas2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016.; além das do Ministério da Saúde Dengue: Diagnóstico e Manejo Clínico2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016. e Chikungunya: Manejo Clínico2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017..
Quatro avaliadores (uma médica e uma enfermeira com experiência em vigilância epidemiológica, um economista com experiência na área de incorporação tecnológica em saúde baseada em evidências e uma estudante do último ano de medicina) analisaram de forma independente e mascarada a qualidade metodológica do documento completo das diretrizes. Utilizou-se o AGREE II, que tem 23 itens agrupados em seis domínios: “Escopo e propósito” (3 itens), que diz respeito ao objetivo geral da diretriz, questões de saúde específicas e população-alvo; “Envolvimento das partes interessadas” (3 itens); “Rigor no desenvolvimento” (8 itens), que avalia o processo de busca e síntese das evidências e os critérios adotados para formular as recomendações; “Clareza da apresentação” (3 itens); “Aplicabilidade” (4 itens), que analisa barreiras e facilitadores à implementação da diretriz; e “Independência editorial” (2 itens), abrangendo a avaliação de conflitos de interesse e influência de órgãos financiadores. Cada item recebeu um escore de 1 a 7: um indica ausência de informação ou que o conceito é muito mal relatado; dois a seis indicam que a diretriz não atende plenamente os critérios; e sete, que todos os critérios e considerações foram atendidos 1717. Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. AGREE II: advancing guideline development, reporting and evaluation in health care. Can Med Assoc J 2010; 182:E839-42.,2323. AGREE Collaboration. Development and validation of an international appraisal instrument for assessing the quality of clinical practice guidelines: the AGREE project. Qual Saf Health Care 2003; 12:18-23.,2929. Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. Development of the AGREE II, part 2: assessment of validity of items and tools to support application. Can Med Assoc J 2010; 182:E472-8..
Embora conhecimentos básicos sobre tomada de decisão fundamentada em evidências e assistência médica possam facilitar o uso do AGREE II e a interpretação dos resultados, o manual do usuário permite que indivíduos sem expertise usem o instrumento com confiança de que diretrizes de boa qualidade serão diferenciadas daquelas de baixa 1717. Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. AGREE II: advancing guideline development, reporting and evaluation in health care. Can Med Assoc J 2010; 182:E839-42.,1818. Burls A. AGREE II-improving the quality of clinical care. Lancet 2010; 376:1128-9.,2929. Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. Development of the AGREE II, part 2: assessment of validity of items and tools to support application. Can Med Assoc J 2010; 182:E472-8.. Mesmo assim, optou-se por incluir profissionais de diferentes campos de atuação, experiência profissional e de uso de diretrizes para minimizar o viés de aferição. Os avaliadores estudaram o manual do AGREE II e se reuniram, previamente ao processo de avaliação, para sanar possíveis divergências de entendimento e padronizar os critérios adotados. A avaliação foi feita diretamente no site do AGREE II 3030. AGREE Collaboration. AGREE: Advancing the science of practice guidelines. https://www.agreetrust.org/ (acessado em 08/Fev/2018).
https://www.agreetrust.org/...
, utilizando-se a ferramenta My AGREE Plus (https://www.agreetrust.org/resource-centre/agree-plus/), que gerava os cálculos das porcentagens de qualidade por domínio com base na soma das pontuações obtidas nos itens do domínio dividida pela pontuação máxima possível para aquele domínio, ambas descontadas da pontuação mínima atribuível ao domínio. As porcentagens de conformidade das diretrizes segundo os itens do AGREE II foram calculadas seguindo-se a mesma lógica. Já a qualidade global das diretrizes foi classificada em uma escala de um (mais baixa) a sete (mais alta), sendo calculada a média e o desvio padrão (DP) da pontuação global dos avaliadores. Além disso, os avaliadores emitiram parecer sobre a recomendação de uso das diretrizes, da seguinte maneira: “sim”, “sim com modificações” e “não recomendo”.
Os resultados foram apresentados em tabelas com os percentuais de qualidade por domínios e itens do AGREE II, e com comparações das recomendações presentes nas diretrizes.
Resultados
Seis diretrizes foram avaliadas: três sobre dengue 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009.,2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016.,2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016. e três sobre chikungunya 1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008.,1616. WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009.,2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017.. Os percentuais de conformidade estão apresentados na Tabela 1.
Das diretrizes de dengue, a da OPAS 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016. obteve a maior pontuação na avaliação global do AGREE II (média = 5,2; DP = 0,8), seguida pela da OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009. (média = 4,5; DP = 0,5). Ambas foram recomendadas com modificações pelos avaliadores. A diretriz do Ministério da Saúde 2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016. (média = 2,7; DP = 0,4) não foi recomendada por um dos avaliadores (Tabela 1).
As diretrizes de chikungunya apresentaram pontuações baixas e semelhantes na avaliação global, com médias variando de 2,2 a 3,0 pontos, sendo a de manejo clínico da OMS 1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008. a que obteve a pior avaliação geral (média = 2,2; DP = 0,8) e não foi recomendada por dois avaliadores, resultado que só foi melhor do que o da diretriz brasileira de manejo clínico de chikungunya 2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017., da qual três avaliadores não recomendaram o uso.
Com relação aos domínios do AGREE II, as diretrizes de dengue e chikungunya apresentaram melhores escores de conformidade nos domínios “Clareza da apresentação” (mediana = 84,7%; variação de 72,2 a 97,2%) e “Escopo e propósito” (mediana = 77,1%; variação de 63,9 a 93,1%). As piores avaliações foram nos domínios “Independência editorial” (mediana = 5,2%; variação de 2,1 a 33,3%) e “Rigor no desenvolvimento” (mediana = 9,1%; variação de 4,7 a 43,2%).
Para a maioria dos domínios do AGREE II, as diretrizes de dengue da OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009. e da OPAS 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016. obtiveram pontuações mais elevadas do que a brasileira 2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016., o que não ocorreu para chikungunya.
O item mais bem-avaliado em todas as diretrizes, item 1 (variação de 87,5 a 100%) do domínio “Escopo e propósito”, refere-se à descrição dos objetivos desses dispositivos (Tabela 2). As três diretrizes de dengue apresentaram conformidade superior a 85% para os itens 16 (variação de 87,5 a 95,8%) e 17 (de 91,7 a 100%), ambos do domínio “clareza da apresentação” e referentes à apresentação das diferentes opções de abordagem da doença e à fácil identificação das recomendações-chave, respectivamente. Todos os itens dos domínios “Escopo e propósito” e “Clareza da apresentação” apresentaram mais de 50% de conformidade. Dos 23 itens do AGREE II, na diretriz da OPAS 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016. 60,9% apresentaram mais de 50% de conformidade, contra 47,8% na da OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009. e apenas 30,4% na do Ministério da Saúde 2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016..
Nenhuma diretriz de chikungunya apresentou 50% ou mais dos itens com 50% de conformidade: 30,4% dos itens obtiveram mais de 50% de conformidade para a diretriz de prevenção e controle da OMS 1616. WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009., contra 26,1% na de manejo clínico 15 e 21,7% na do Ministério da Saúde 2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017..
O item 5 (variação de 0% a 4,2%), relativo às opiniões e preferências da população-alvo (domínio “Envolvimento das partes interessadas”) foi o pior avaliado nas diretrizes de dengue e chikungunya (Tabela 2). Além desse, os itens 9: “Pontos fortes e limitações do conjunto de evidências” (variação de 0% a 16,7%), 10: “Métodos para a formulação das recomendações” (variação de 0% a 25,0%) e 22: “Possíveis influências do órgão financiador no conteúdo da diretriz” (variação de 4,2% a 16,7%) apresentaram conformidade igual ou inferior a 25% nas seis diretrizes. Os itens 8: “Critérios de seleção de evidências” e 23: “Registro e abordagem dos conflitos de interesse” receberam pontuação mínima em todas as diretrizes de chikungunya.
A diretriz de dengue para atendimento ao paciente na região das Américas 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016. (115 páginas) foi considerada a mais completa no que diz respeito à presença de recomendações, bem como a citação das evidências de apoio, não contemplando apenas os aspectos relacionados às estratégias de controle de vetores, vigilância entomológica e preparação para emergências, os quais foram abordados na diretriz da OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009., com 147 páginas (Tabela 3).
Aspectos clínicos da dengue na criança, por exemplo, estão ausentes na diretriz da OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009., e na do Ministério da Saúde 2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016. (com 58 páginas) são considerados insuficientes e sem ligação com evidências de suporte. Na diretriz da OPAS 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016. esses aspectos foram abordados de forma resumida, sendo específicos para recém-nascidos e menores de um ano de idade, mas apresentam indicações de diagnóstico diferencial e tratamento para esta faixa etária, com citação de referências de apoio.
Quadros com diagnóstico diferencial entre dengue, chikungunya e zika estão presentes na diretriz do Ministério da Saúde 2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016., ausentes na da OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009. e apenas a diferenciação entre dengue e chikungunya foi apresentada na diretriz da OPAS 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016..
A maioria das recomendações presentes nas diretrizes de chikungunya não apresenta ligação explícita com evidências da literatura (Tabela 4). A diretriz de manejo clínico da OMS 1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008. (18 páginas) não apresenta referências, mas apenas uma sugestão de “leitura adicional”. Em seu prefácio, consta que ela foi baseada na opinião de especialistas com experiência clínica na Ásia.
Tabela 4 Recomendações presentes nas diretrizes clínicas de chikungunya da Organização Mundial da Saúde e do Ministério da Saúde brasileiro.
A diretriz de chikungunya do Ministério da Saúde 2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017. (65 páginas), elaborada em um contexto de circulação simultânea de três arbovírus, apresenta um quadro com diagnóstico diferencial entre dengue, chikungunya e zika, aspecto não abordado na diretriz de manejo clínico de chikungunya da OMS 1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008.. A diretriz para a prevenção e controle da OMS 1616. WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009. (42 páginas) apresenta um quadro de diagnóstico diferencial entre dengue e chikungunya.
Discussão
As diretrizes mais bem-avaliadas foram sobre dengue, principalmente as internacionais (OPAS 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016. e OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009.), ambas recomendadas com modificações pelos avaliadores. A de dengue do Ministério da Saúde 2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016., além de obter menor média global do AGREE II, não foi recomendada por um dos avaliadores, que a considerou com qualidade metodológica muito baixa.
Em um estudo que avaliou oito protocolos clínicos de diretrizes terapêuticas do Ministério da Saúde brasileiro, a avaliação da qualidade global apresentou média de 4,2, sendo que dois avaliadores as recomendaram com modificação e um não recomendou qualquer diretriz 3131. Ronsoni RM, Pereira CCA, Stein AT, Osanai MH, Machado CJ, Ronsoni RDM, et al. Avaliação de oito Protocolos Clínicos e Diretrizes Terapêuticas (PCDT) do Ministério da Saúde por meio do instrumento AGREE II: um estudo piloto. Cad Saúde Pública 2015; 31:1157-62.. Já numa pesquisa que analisou 124 diretrizes atuais da OMS a média do AGREE II foi 5,0, sendo que apenas oito não foram recomendadas 99. Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74.. Essa melhor avaliação encontrada para diretrizes internacionais é condizente com outros estudos que avaliaram a qualidade de diretrizes de uma ampla gama de tópicos de saúde, os quais concluíram que organizações supranacionais produziram diretrizes com pontuações do AGREE II significativamente mais altas, sendo recomendadas com mais frequência do que as originárias de um único país 3232. Alonso-Coello P, Irfan A, Solà I, Gich I, Delgado-Noguera M, Rigau D, et al. The quality of clinical practice guidelines over the last two decades: a systematic review of guideline appraisal studies. Qual Saf Health Care 2010; 19:e58.,3333. Armstrong JJ, Goldfarb AM, Instrum RS, MacDermid JC. Improvement evident but still necessary in clinical practice guideline quality: a systematic review. J Clin Epidemiol 2017; 81:13-21.,3434. Agbata EN, Padilla PF, Agbata IN, Armas LH, Solà I, Pottie K, et al. Migrant healthcare guidelines: a systematic quality assessment. J Immigr Minor Health 2019; 21:401-3..
Uma possível explicação seria a maior disponibilidade de recursos para a elaboração, associada a uma maior fiscalização e cobrança nas etapas do processo de desenvolvimento. Por envolver especialistas de diferentes países e maiores fontes de financiamento, os organismos internacionais provavelmente estão mais bem equipados para elaborar diretrizes mais claras e de maior rigor metodológico 3333. Armstrong JJ, Goldfarb AM, Instrum RS, MacDermid JC. Improvement evident but still necessary in clinical practice guideline quality: a systematic review. J Clin Epidemiol 2017; 81:13-21..
Vale destacar que a diretriz da OPAS 2626. Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016. teve como base a diretriz da OMS 1414. Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009., adaptando-a para a região das Américas, sem alterar as recomendações de tratamento. Apesar de ter incorporado novos aspectos não incluídos na publicação da OMS, o que pode explicar sua melhor qualidade, essa diretriz não descreveu a utilização de uma ferramenta para a adaptação de diretrizes. Essa foi uma das limitações que contribuíram para que ela fosse recomendada com modificações.
Por vez, a diferença de pontuações observada entre diretrizes de âmbitos nacional e internacional não foi observada para as de chikungunya, que apresentaram níveis baixos de conformidade de forma geral. O fato das diretrizes de chikungunya da OMS terem sido publicadas em 2008 1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008. e 2009 1616. WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009. pode explicar, em parte, a pontuação semelhante do AGREE II entre estas diretrizes e a do Ministério da Saúde 2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017., elaborada mais recentemente (2017).
Uma avaliação de diretrizes da OMS usando o AGREE II evidenciou que a transparência nos processos de elaboração das diretrizes neste órgão melhorou após críticas de que suas recomendações eram de baixa qualidade, baseadas na opinião de especialistas e raramente usavam métodos sistemáticos baseados em evidências. Isso levou a organização a estabelecer um Comitê de Revisão de Diretrizes em 2007. O estudo demonstrou que houve transição da quase completa ausência de uma seção de métodos para uma descrição bastante completa, com o uso mais amplo de avaliações sistemáticas de evidências e melhor gerenciamento de possíveis conflitos de interesse. No entanto, a maioria das diretrizes publicadas em 2008 e 2009 implementou apenas parcialmente as mudanças, pois já estavam em andamento antes do estabelecimento do comitê 3535. Sinclair D, Isba R, Kredo T, Zani B, Smith H, Garner P. World Health Organization guideline development: an evaluation. PLoS One 2013; 8:e63715.. Assim, espera-se que futuras atualizações das diretrizes de chikungunya e dengue da OMS sigam os padrões de desenvolvimento já em vigor e, consequentemente, maior clareza no processo de elaboração desses dispositivos.
Entretanto, como diretrizes elaboradas por organismos internacionais são mais abrangentes, nem sempre adaptadas à realidade de determinados países, as instituições de saúde do Brasil devem identificar as universidades com experiência em diretrizes e trabalhar de forma colaborativa para promover o desenvolvimento e a adaptação de alta qualidade desses dispositivos. Destaca-se, ainda, a importância do sistema de saúde brasileiro e suas diretrizes como referência para outros países da América Latina, Caribe e África 3636. Molino CGRC, Romano-Lieber NS, Ribeiro E, de Melo DO. Non-communicable disease clinical practice guidelines in Brazil: a systematic assessment of methodological quality and transparency. PLoS One 2016; 11:e0166367..
Cerca de 93% dos 627 médicos, enfermeiros e técnicos de laboratório que participaram de um estudo na América Latina afirmaram ter recebido algum tipo de treinamento em manejo clínico da dengue, baseado nas recomendações de diretrizes clínicas disponíveis, seja no trabalho ou durante a formação profissional 88. Santamaria R, Martinez E, Kratochwill S, Soria C, Tan LH, Nuñez A, et al. Comparison and critical appraisal of dengue clinical guidelines and their use in Asia and Latin America. Int Health 2009; 1:133-40.. Isso demonstra ampla utilização desses documentos no treinamento de equipes de saúde e a importância de que as diretrizes de dengue e chikungunya sejam elaboradas com rigor metodológico, transparência e abordando o contexto peculiar a esse continente, particularmente na atual situação de circulação simultânea de diferentes arbovírus.
A Lei nº 12.401 de 2011 3737. Brasil. Lei nº 12.401, de 28 de abril de 2011. Altera a Lei nº 8.080, de 19 de setembro de 1990, para dispor sobre a assistência terapêutica e a incorporação de tecnologia em saúde no âmbito do Sistema Único de Saúde - SUS. Diário Oficial da União 2011; 29 abr. reforça que a constituição e alteração de protocolos clínicos e as diretrizes terapêuticas são atribuições do Ministério da Saúde, assessorado pela Comissão Nacional de Incorporação de Tecnologias no SUS (CONITEC). Uma vez que o Departamento de Gestão e Incorporação de Tecnologias em Saúde do Ministério da Saúde preparou uma diretriz metodológica para a elaboração de diretrizes clínicas 3838. Departamento de Gestão e Incorporação de Tecnologias em Saúde, Secretaria de Ciência, Tecnologia e Insumos Estratégicos, Ministério da Saúde. Diretrizes metodológicas: elaboração de diretrizes clínicas. Brasília: Ministério da Saúde; 2016. que estabelece padrões de elaboração e avaliação de qualidade, espera-se que ocorram avanços nas diretrizes organizadas pelo Ministério da Saúde. Entretanto, não foi mencionada qualquer assessoria da CONITEC nos documentos publicados pelo Ministério da Saúde e avaliados neste estudo.
Vale destacar que a CONITEC disponibilizou para consulta pública uma proposta de escopo de diretriz terapêutica para chikungunya que seria a primeira etapa no processo de elaboração de um protocolo baseado em evidências 3939. Comissão Nacional de Incorporação de Tecnologia no SUS. Proposta de protocolo clínico e diretrizes terapêuticas para chikungunya: escopo. Brasília: Comissão Nacional de Incorporação de Tecnologias no SUS; 2017.. No entanto, a consulta foi concluída em fevereiro de 2017 e não estão disponíveis no site do órgão informações sobre o que foi feito desde então. Assim, o documento do Ministério da Saúde de 2017 2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017., avaliado nesta pesquisa, é o que permanece sendo utilizado na abordagem de pacientes com suspeitas de chikungunya em nível nacional.
Em todas as diretrizes avaliadas, os domínios do AGREE II “Escopo e propósito” e “Clareza da apresentação” foram melhor pontuados, resultados condizentes com outros estudos que avaliaram diretrizes de doenças infecciosas do Peru 1010. Canelo-Aybar C, Balbin G, Perez-Gomez A, Florez ID. Guías de práctica clínica en el Perú: evaluación de su calidad usando el instrumento AGREE II. Rev Peru Med Exp Salud Pública 2016; 33:732-8., China 4040. Wu D, Jiang W, Yu L, Wang Y, Tao Y, Tang H, et al. Quality assessment of clinical practice guidelines for infectious diseases in China. J Evid Based Med 2018; 11:95-100., Índia 4141. Bhaumik S, Jagadesh S, Ellatar M, Kohli N, Riedha M, Moi M. Clinical practice guidelines in India: Quality appraisal and the use of evidence in their development. J Evid Based Med 2018; 11:26-39. e publicadas em língua inglesa 4242. Lytvyn L, Mertz D, Sadeghirad B, Alaklobi F, Selva A, Alonso-Coello P, et al. Prevention of clostridium difficile infection: a systematic survey of clinical practice guidelines. Infect Control Hosp Epidemiol 2016; 37:901-8.,4343. Dickson C, Arnason T, Friedman DS, Metz G, Grimshaw JM. A systematic review and appraisal of the quality of practice guidelines for the management of Neisseria gonorrhoeae infections. Sex Transm Infect 2017; 93:487-92.. Nesses estudos, as principais recomendações foram facilmente identificáveis nas diretrizes.
Altos escores nesses domínios indicam que as exigências metodológicas em tópicos que auxiliam os profissionais nas suas decisões sobre a utilidade ou não das diretrizes em seus contextos de trabalho estão sendo atendidas. Além disso, o fácil acesso e localização das recomendações contidas nas diretrizes de dengue e chikungunya é primordial, tendo em vista as elevadas demandas de trabalho a que os profissionais estão submetidos em locais de atendimento dos casos suspeitos.
Os piores percentuais do AGREE II para as diretrizes de dengue e chikungunya foram obtidos nos domínios “Rigor no desenvolvimento” e “Independência editorial”. Itens que abordam pontos fortes e limitações do conjunto de evidências, métodos para a formulação das recomendações, possíveis influências do órgão financiador e o registro dos conflitos de interesse da equipe de desenvolvedores receberam baixíssimas pontuações. Esses resultados são semelhantes aos de outros estudos que avaliaram diretrizes de doenças infecciosas publicadas na Ásia 4040. Wu D, Jiang W, Yu L, Wang Y, Tao Y, Tang H, et al. Quality assessment of clinical practice guidelines for infectious diseases in China. J Evid Based Med 2018; 11:95-100. e América Latina 1010. Canelo-Aybar C, Balbin G, Perez-Gomez A, Florez ID. Guías de práctica clínica en el Perú: evaluación de su calidad usando el instrumento AGREE II. Rev Peru Med Exp Salud Pública 2016; 33:732-8.. O domínio “Independência editorial” também foi o que recebeu as piores pontuações em estudos com diretrizes sobre doenças hepáticas de uma associação americana 4444. Koh C, Zhao X, Samala N, Sakiani S, Liang TJ, Talwalkar JA. AASLD clinical practice guidelines: a critical review of scientific evidence and evolving recommendations. Hepatology 2013; 58:2142-52. e da OMS 99. Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74., porém, estes resultados ainda foram melhores do que os obtidos neste estudo.
Deficiências da área da independência editorial podem comprometer a confiabilidade das diretrizes, causando desconfiança dos usuários devido à percepção de possíveis influências decorrentes de conflitos de interesses da equipe e dos órgãos financiadores 2525. Siering U, Eikermann M, Hausner E, Hoffmann-Eßer W, Neugebauer EA. Appraisal tools for clinical practice guidelines: a systematic review. PLoS One 2013; 8:e82915.,3434. Agbata EN, Padilla PF, Agbata IN, Armas LH, Solà I, Pottie K, et al. Migrant healthcare guidelines: a systematic quality assessment. J Immigr Minor Health 2019; 21:401-3.. Entretanto, um estudo da colaboração AGREE mostrou que “Independência editorial” não foi um significativo preditor para recomendações de diretrizes, intenções gerais de uso e qualidade geral 4545. Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. Development of the AGREE II, part 1: performance, usefulness and areas for improvement. Can Med Assoc J 2010; 182:1045-52.. Mais estudos são necessários para determinar se os desenvolvedores de diretrizes estão esquecendo de incluir declarações sobre financiamento e conflitos de interesses ou omitindo-as propositalmente por existirem conflitos de interesses que podem ter efeitos negativos no conteúdo das diretrizes 3232. Alonso-Coello P, Irfan A, Solà I, Gich I, Delgado-Noguera M, Rigau D, et al. The quality of clinical practice guidelines over the last two decades: a systematic review of guideline appraisal studies. Qual Saf Health Care 2010; 19:e58..
Já a baixa pontuação no “Rigor do desenvolvimento” é particularmente preocupante, pois este domínio pode ser um indicador mais forte de qualidade do que qualquer outro, uma vez que tem efeito mais direto sobre a qualidade das recomendações 3232. Alonso-Coello P, Irfan A, Solà I, Gich I, Delgado-Noguera M, Rigau D, et al. The quality of clinical practice guidelines over the last two decades: a systematic review of guideline appraisal studies. Qual Saf Health Care 2010; 19:e58..
Uma revisão sistemática que incluiu 91 publicações contendo 1.453 diretrizes avaliadas com o AGREE II encontrou que o domínio “Rigor de desenvolvimento” registrou a maior influência nas duas avaliações gerais do AGREE II 4646. Hoffmann-Eßer W, Siering U, Neugebauer EAM, Brockhaus AC, Lampert U, Eikermann M. Guideline appraisal with AGREE II: systematic review of the current evidence on how users handle the 2 overall assessments. PLoS One 2017; 12:e0174831.. Semelhantemente, uma pesquisa com 58 autores de publicações sobre avaliações de diretrizes com o AGREE II e usuários de diretrizes de uma rede científica alemã mostrou que os itens de 7 a 12 do domínio “Rigor de desenvolvimento” apresentaram forte influência na recomendação de uso das diretrizes 2121. Hoffmann-Eßer W, Siering U, Neugebauer EAM, Brockhaus AC, McGauran N, Eikermann M. Guideline appraisal with AGREE II: online survey of the potential influence of AGREE II items on overall assessment of guideline quality and recommendation for use. BMC Health Serv Res 2018; 18:143..
Vale destacar que, a pontuação baixa nos itens desse domínio, principalmente nas diretrizes de chikungunya 1515. World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008.,1616. WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009.,2828. Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017. e na de dengue do Ministério da Saúde 2727. Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016., esteve relacionada a quase total ausência de descrição dos procedimentos que levaram à seleção de evidências e formulação das recomendações. A falta de uma conexão explícita entre as recomendações contidas nas diretrizes e as evidências que as embasaram pode comprometer a confiabilidade destas recomendações. Melhorias nesse sentido poderiam ser conseguidas por meio da simples inclusão de uma descrição mais detalhada do processo adotado para a seleção das evidências 3333. Armstrong JJ, Goldfarb AM, Instrum RS, MacDermid JC. Improvement evident but still necessary in clinical practice guideline quality: a systematic review. J Clin Epidemiol 2017; 81:13-21..
Acredita-se, ainda, que existe um vasto conjunto de evidências disponíveis para dengue, por ser uma arbovirose que vem sendo estudada há mais tempo, diferentemente da literatura disponível para chikungunya. No entanto, a falta de evidências não justifica a falta de transparência na formulação das recomendações. Se não existem estudos publicados em determinado aspecto, isso deve ficar claro na diretriz, detalhando-se como as recomendações foram elaboradas nesse caso, o que poderia auxiliar a identificar questões prioritárias e estimular uma agenda de pesquisa genuinamente útil para preencher lacunas nos cuidados que tenham um maior impacto na saúde da população 4444. Koh C, Zhao X, Samala N, Sakiani S, Liang TJ, Talwalkar JA. AASLD clinical practice guidelines: a critical review of scientific evidence and evolving recommendations. Hepatology 2013; 58:2142-52.,4747. Kliner M, Poole K, Sinclair D, Garner P. Preventing malaria in international travellers: an evaluation of published English-language guidelines. BMC Public Health 2014; 14:1129..
Apesar de diferenças consideráveis nas recomendações de diretrizes de dengue usadas em treze países da América Latina e da Ásia sugerirem uma falta de evidências e/ou padrões acordados de gerenciamento de casos de dengue, com grande variação no uso de algoritmos de tratamento, menos de 2% dos profissionais de saúde pensaram que as orientações destes dispositivos não eram úteis e menos de 1% discordou das diretrizes 88. Santamaria R, Martinez E, Kratochwill S, Soria C, Tan LH, Nuñez A, et al. Comparison and critical appraisal of dengue clinical guidelines and their use in Asia and Latin America. Int Health 2009; 1:133-40.. Isso demonstra que os profissionais tendem a confiar na qualidade da informação fornecida por órgãos oficiais, mesmo sem uma avaliação crítica sobre a forma como essas orientações foram formuladas.
Contrapondo essa ideia, autores afirmam que a má formulação de recomendações pode afetar a credibilidade das diretrizes entre os profissionais de saúde e comprometer sua adesão. Além disso, a qualidade metodológica pode ser a diferença entre o sucesso e o fracasso de uma diretriz em alcançar um impacto na saúde, uma vez que os efeitos benéficos só serão obtidos se diretrizes bem desenvolvidas e válidas forem implantadas 1010. Canelo-Aybar C, Balbin G, Perez-Gomez A, Florez ID. Guías de práctica clínica en el Perú: evaluación de su calidad usando el instrumento AGREE II. Rev Peru Med Exp Salud Pública 2016; 33:732-8.,4848. Graham ID, Calder LA, Hébert PC, Carter AO, Tetroe JM. A comparison of clinical practice guideline appraisal instruments. Int J Technol Assess Health Care 2000; 16:1024-38..
O item pior avaliado no conjunto de diretrizes de dengue e chikungunya foi o que diz respeito às opiniões e preferências da população-alvo (item 5). Outros estudos também não apresentaram uma descrição clara das opiniões e preferências da população-alvo da diretriz 99. Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74.,3434. Agbata EN, Padilla PF, Agbata IN, Armas LH, Solà I, Pottie K, et al. Migrant healthcare guidelines: a systematic quality assessment. J Immigr Minor Health 2019; 21:401-3.,4040. Wu D, Jiang W, Yu L, Wang Y, Tao Y, Tang H, et al. Quality assessment of clinical practice guidelines for infectious diseases in China. J Evid Based Med 2018; 11:95-100.,4242. Lytvyn L, Mertz D, Sadeghirad B, Alaklobi F, Selva A, Alonso-Coello P, et al. Prevention of clostridium difficile infection: a systematic survey of clinical practice guidelines. Infect Control Hosp Epidemiol 2016; 37:901-8.. No caso das diretrizes de dengue e chikungunya, que são doenças altamente disseminadas na população, seria importante reconhecer o que os pacientes julgam como importante para ser abordado, com vistas a melhorar os resultados da implantação das diretrizes na perspectiva populacional. Assim, entende-se que existe uma lacuna substancial no envolvimento do paciente no desenvolvimento de diretrizes, sendo que estes podem contribuir na avaliação das prioridades, introduzir novos tópicos, sugerir abordagens holísticas para o atendimento e avaliar como as recomendações interagem com seus valores 4949. Armstrong MJ, Bloom JA. Patient involvement in guidelines is poor five years after institute of medicine standards: review of guideline methodologies. Res Involv Engagem 2017; 3:19..
Dentre as possíveis limitações nos resultados desta pesquisa, apontamos que não foi definido previamente como os avaliadores ponderariam os domínios do AGREE II para a avaliação global e recomendação de uso das diretrizes, ficando a critério de cada um fazer o julgamento individual de quais itens/domínios considerariam mais relevantes para esta avaliação geral, sendo uma avaliação completamente subjetiva, conforme orientação do próprio manual do AGREE II.
Entretanto, diversos autores têm sugerido a inclusão de recomendações sobre como considerar os escores de itens e/ou domínios do instrumento para as duas avaliações globais, visando a torná-las mais objetivas, uma vez que sem estas orientações os avaliadores podem acabar ponderando os vários itens/domínios do AGREE II de maneiras distintas, limitando a validade das avaliações gerais 99. Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74.,2121. Hoffmann-Eßer W, Siering U, Neugebauer EAM, Brockhaus AC, McGauran N, Eikermann M. Guideline appraisal with AGREE II: online survey of the potential influence of AGREE II items on overall assessment of guideline quality and recommendation for use. BMC Health Serv Res 2018; 18:143.,3232. Alonso-Coello P, Irfan A, Solà I, Gich I, Delgado-Noguera M, Rigau D, et al. The quality of clinical practice guidelines over the last two decades: a systematic review of guideline appraisal studies. Qual Saf Health Care 2010; 19:e58.,4646. Hoffmann-Eßer W, Siering U, Neugebauer EAM, Brockhaus AC, Lampert U, Eikermann M. Guideline appraisal with AGREE II: systematic review of the current evidence on how users handle the 2 overall assessments. PLoS One 2017; 12:e0174831.,5050. Hoffmann-Eßer W, Siering U, Neugebauer EAM, Lampert U, Eikermann M. Systematic review of current guideline appraisals performed with the Appraisal of Guidelines for Research & Evaluation II instrument-a third of AGREE II users apply a cut-off for guideline quality. J Clin Epidemiol 2018; 95:120-7..
Ressalta-se, como outra possível limitação, que este estudo trata de uma avaliação da qualidade do relato do processo de desenvolvimento de diretrizes, podendo não refletir a qualidade real deste processo. Algumas etapas podem não ter sido relatadas no documento da diretriz ou estão presentes em documentos que não estão facilmente disponíveis para consulta, o que compromete uma avaliação mais fidedigna de sua qualidade metodológica.
O que os desenvolvedores de diretrizes descrevem sobre o seu desenvolvimento pode não fazer justiça a como ela foi realmente desenvolvida 4848. Graham ID, Calder LA, Hébert PC, Carter AO, Tetroe JM. A comparison of clinical practice guideline appraisal instruments. Int J Technol Assess Health Care 2000; 16:1024-38.. Todavia, as diretrizes devem ser documentos independentes (autônomos), sem a necessidade de contatar os seus desenvolvedores para obter informações adicionais 4242. Lytvyn L, Mertz D, Sadeghirad B, Alaklobi F, Selva A, Alonso-Coello P, et al. Prevention of clostridium difficile infection: a systematic survey of clinical practice guidelines. Infect Control Hosp Epidemiol 2016; 37:901-8..
Isso reforça a importância da utilidade da ferramenta AGREE II não só para avaliação de diretrizes, mas como instrumento norteador do processo de desenvolvimento e de geração dos relatórios e suplementos de diretrizes, auxiliando na identificação de informações importantes a serem reportadas nestes documentos, tornando o processo mais transparente para os usuários e melhorando a confiabilidade percebida das diretrizes 4343. Dickson C, Arnason T, Friedman DS, Metz G, Grimshaw JM. A systematic review and appraisal of the quality of practice guidelines for the management of Neisseria gonorrhoeae infections. Sex Transm Infect 2017; 93:487-92..
Ressalta-se, ainda, que o foco principal do AGREE II está na qualidade do relato dos aspectos metodológicos do desenvolvimento de diretrizes e não na avaliação da qualidade das recomendações subjacentes, uma vez que este tipo de instrumento não pontua a base de evidências do conteúdo das diretrizes. Embora importante, o adequado registro das questões metodológicas é insuficiente para garantir que as recomendações sejam consideradas apropriadas e válidas 1818. Burls A. AGREE II-improving the quality of clinical care. Lancet 2010; 376:1128-9.,2020. Eikermann M, Holzmann N, Siering U, Rüther A. Tools for assessing the content of guidelines are needed to enable their effective use - a systematic comparison. BMC Res Notes 2014; 7:853.,2525. Siering U, Eikermann M, Hausner E, Hoffmann-Eßer W, Neugebauer EA. Appraisal tools for clinical practice guidelines: a systematic review. PLoS One 2013; 8:e82915.,5151. Vlayen J, Aertgeerts B, Hannes K, Sermeus W, Ramaekers D. A systematic review of appraisal tools for clinical practice guidelines: multiple similarities and one common deficit. Int J Qual Health Care 2005; 17:235-42..
Nesse contexto, uma equipe de pesquisadores internacionais está focada no desenvolvimento de uma ferramenta complementar ao AGREE II, o AGREE Recommendation EXcellence (REX), destinado a otimizar a implantação, aplicabilidade e qualidade das recomendações de diretrizes 5252. Makarski J, Brouwers MC; AGREE Enterprise. The AGREE Enterprise: a decade of advancing clinical practice guidelines. Implement Sci 2014; 9:103.. Segundo a proposta, o AGREE-REX ajudará os desenvolvedores de diretrizes a criar recomendações clinicamente confiáveis e auxiliará os usuários a avaliar e selecionar aquelas que contenham recomendações confiáveis e apropriadas para a implantação em seus cenários 5353. Brouwers MC, Spithoff K, Kerkvliet K, Florez ID. Development and validity testing of the AGREE-REX, a tool to evaluate the clinical credibility and implementability of clinical practice guideline recommendations. https://abstracts.cochrane.org/2017-global-evidence-summit/development-and-validity-testing-agree-rex-tool-evaluate-clinical (acessado em 08/Fev/2018).
https://abstracts.cochrane.org/2017-glob...
.
Outro desafio encontrado neste estudo, com relação ao uso do instrumento AGREE II, diz respeito à sua aplicação a diretrizes que envolvem, além de aspectos clínicos, aspectos voltados à vigilância epidemiológica e organização de serviços de saúde, sendo as diretrizes de arboviroses avaliadas neste estudo consideradas mais amplas e abrangentes que as diretrizes de prática clínica para as quais o instrumento foi projetado. Isso exigiu um esforço dos avaliadores para compreender como alguns itens se aplicariam aos aspectos “não clínicos”, uma vez que o manual do usuário do AGREE II não tem exemplos neste âmbito. Por exemplo, a avaliação do domínio “Aplicabilidade” do AGREE II é provavelmente diferente entre diretrizes de prática clínica e de vigilância e, também, entre diretrizes desenvolvidas em nível nacional e diretrizes da OMS, as quais são destinadas a um público global 99. Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74.. Esses aspectos podem explicar parte da variação das pontuações encontradas nas diretrizes da OMS, OPAS e Ministério da Saúde.
Este estudo traz contribuições ao fazer um diagnóstico da qualidade de diretrizes governamentais de dengue e chikungunya adotadas em níveis nacional e internacional, identificando pontos fortes e fragilidades. Destarte, não foram alvo de avaliação diretrizes e recomendações elaboradas por sociedades de especialidades. A diretriz de dengue da OPAS foi a melhor avaliada, sendo recomendada com modificações. As diretrizes da OMS precisam ser atualizadas, uma vez que as mais recentes foram publicadas no ano de 2009 e novos estudos foram publicados após a dispersão de algumas arboviroses pelo mundo. Já as diretrizes do Ministério da Saúde precisam ser alteradas, passando a ter maior adesão à diretriz de elaboração de diretrizes 3838. Departamento de Gestão e Incorporação de Tecnologias em Saúde, Secretaria de Ciência, Tecnologia e Insumos Estratégicos, Ministério da Saúde. Diretrizes metodológicas: elaboração de diretrizes clínicas. Brasília: Ministério da Saúde; 2016. do próprio Ministério da Saúde. As principais lacunas identificadas estão relacionadas à descrição dos métodos de busca e seleção das evidências para a elaboração das recomendações, o envolvimento do público-alvo, bem como as fontes de financiamento e conflitos de interesses. O aprimoramento da descrição desses aspectos melhoraria a transparência no processo e, portanto, poderia contribuir para melhorar a confiabilidade e adesão de profissionais de saúde e de gestores de saúde às recomendações de manejo clínico e de vigilância epidemiológica nelas contidas.
Agradecimentos
M. C. Feitosa e P. H. A. C. Leite receberam bolsa de doutorado da Escola Nacional de Saúde Pública Sergio Arouca, Fundação Oswaldo Cruz.
Referências
-
1Donalisio MR, Freitas ARR. Chikungunya in Brazil: an emerging challenge. Rev Bras Epidemiol 2015; 18:283-5.
-
2Fathima AS, Manimegalai D, Hundewale N. A review of data mining classification techniques applied for diagnosis and prognosis of the arbovirus-dengue. International Journal of Computer Science Issues 2011; 8:322-8.
-
3Muller DA, Depelsenaire ACI, Young PR. Clinical and laboratory diagnosis of dengue virus infection. J Infect Dis 2017; 215 Suppl 2:S89-95.
-
4Weaver SC. Arrival of chikungunya virus in the new world: prospects for spread and impact on public health. PLoS Negl Trop Dis 2014; 8:e2921.
-
5Institute of Medicine; Graham R, Mancher M, Miller Wolman D, Greenfield S, Steinberg E. Clinical practice guidelines we can trust. Washington DC: The National Academies Press; 2011.
-
6Messina JP, Brady OJ, Scott TW, Zou C, Pigott DM, Duda KA, et al. Global spread of dengue virus types: mapping the 70 year history. Trends Microbiol 2014; 22:138-46.
-
7Stanaway JD, Shepard DS, Undurraga EA, Halasa YA, Coffeng LE, Brady OJ, et al. The global burden of dengue: an analysis from the Global Burden of Disease Study 2013. Lancet Infect Dis 2016; 16:712-23.
-
8Santamaria R, Martinez E, Kratochwill S, Soria C, Tan LH, Nuñez A, et al. Comparison and critical appraisal of dengue clinical guidelines and their use in Asia and Latin America. Int Health 2009; 1:133-40.
-
9Burda BU, Chambers AR, Johnson JC. Appraisal of guidelines developed by the World Health Organization. Public Health 2014; 128:444-74.
-
10Canelo-Aybar C, Balbin G, Perez-Gomez A, Florez ID. Guías de práctica clínica en el Perú: evaluación de su calidad usando el instrumento AGREE II. Rev Peru Med Exp Salud Pública 2016; 33:732-8.
-
11Caglioti C, Lalle E, Castilletti C, Carletti F, Capobianchi MR, Bordi L. Chikungunya virus infection: an overview. New Microbiol 2013; 36:211-27.
-
12Mathew AJ, Ganapati A, Kabeerdoss J, Nair A, Gupta N, Chebbi P, et al. Chikungunya Infection: a global public health menace. Curr Allergy Asthma Rep 2017; 17:13.
-
13Silva LA, Dermody TS. Chikungunya virus: epidemiology, replication, disease mechanisms, and prospective intervention strategies. J Clin Invest 2017; 127:737-49.
-
14Special Programme for Research and Training in Tropical Diseases, World Health Organization. Dengue: guidelines for diagnosis, treatment, prevention and control. Geneva: World Health Organization; 2009.
-
15World Health Organization. Guidelines on clinical management of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2008.
-
16WHO Regional Office for South-East Asia. Guidelines for prevention and control of chikungunya fever. New Delhi: WHO Regional Office for South-East Asia; 2009.
-
17Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. AGREE II: advancing guideline development, reporting and evaluation in health care. Can Med Assoc J 2010; 182:E839-42.
-
18Burls A. AGREE II-improving the quality of clinical care. Lancet 2010; 376:1128-9.
-
19Dans AL, Dans LF. Appraising a tool for guideline appraisal (the AGREE II instrument). J Clin Epidemiol 2010; 63:1281-2.
-
20Eikermann M, Holzmann N, Siering U, Rüther A. Tools for assessing the content of guidelines are needed to enable their effective use - a systematic comparison. BMC Res Notes 2014; 7:853.
-
21Hoffmann-Eßer W, Siering U, Neugebauer EAM, Brockhaus AC, McGauran N, Eikermann M. Guideline appraisal with AGREE II: online survey of the potential influence of AGREE II items on overall assessment of guideline quality and recommendation for use. BMC Health Serv Res 2018; 18:143.
-
22Qaseem A, Forland F, Macbeth F, Ollenschläger G, Phillips S, van der Wees P, et al. Guidelines International Network: toward international standards for clinical practice guidelines. Ann Intern Med 2012; 156:525-31.
-
23AGREE Collaboration. Development and validation of an international appraisal instrument for assessing the quality of clinical practice guidelines: the AGREE project. Qual Saf Health Care 2003; 12:18-23.
-
24Brouwers MC, Kerkvliet K, Spithoff K, AGREE Next Steps Consortium. The AGREE Reporting Checklist: a tool to improve reporting of clinical practice guidelines. BMJ 2016; 352:i1152.
-
25Siering U, Eikermann M, Hausner E, Hoffmann-Eßer W, Neugebauer EA. Appraisal tools for clinical practice guidelines: a systematic review. PLoS One 2013; 8:e82915.
-
26Pan American Health Organization. Dengue: guidelines for patient care in the region of the Americas. 2nd Ed. Washington DC: Pan American Health Organization; 2016.
-
27Diretoria Técnica de Gestão, Secretaria de Vigilância em Saúde, Ministério da Saúde. Dengue: diagnóstico e manejo clínico: adulto e criança. 5ª Ed. Brasília: Ministério da Saúde; 2016.
-
28Departamento de Vigilância das Doenças Transmissíveis, Secretaria de Vigilância em Saúde, Ministério da Saúde. Chikungunya: manejo clínico. Brasília: Ministério da Saúde; 2017.
-
29Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. Development of the AGREE II, part 2: assessment of validity of items and tools to support application. Can Med Assoc J 2010; 182:E472-8.
-
30AGREE Collaboration. AGREE: Advancing the science of practice guidelines. https://www.agreetrust.org/ (acessado em 08/Fev/2018).
» https://www.agreetrust.org/ -
31Ronsoni RM, Pereira CCA, Stein AT, Osanai MH, Machado CJ, Ronsoni RDM, et al. Avaliação de oito Protocolos Clínicos e Diretrizes Terapêuticas (PCDT) do Ministério da Saúde por meio do instrumento AGREE II: um estudo piloto. Cad Saúde Pública 2015; 31:1157-62.
-
32Alonso-Coello P, Irfan A, Solà I, Gich I, Delgado-Noguera M, Rigau D, et al. The quality of clinical practice guidelines over the last two decades: a systematic review of guideline appraisal studies. Qual Saf Health Care 2010; 19:e58.
-
33Armstrong JJ, Goldfarb AM, Instrum RS, MacDermid JC. Improvement evident but still necessary in clinical practice guideline quality: a systematic review. J Clin Epidemiol 2017; 81:13-21.
-
34Agbata EN, Padilla PF, Agbata IN, Armas LH, Solà I, Pottie K, et al. Migrant healthcare guidelines: a systematic quality assessment. J Immigr Minor Health 2019; 21:401-3.
-
35Sinclair D, Isba R, Kredo T, Zani B, Smith H, Garner P. World Health Organization guideline development: an evaluation. PLoS One 2013; 8:e63715.
-
36Molino CGRC, Romano-Lieber NS, Ribeiro E, de Melo DO. Non-communicable disease clinical practice guidelines in Brazil: a systematic assessment of methodological quality and transparency. PLoS One 2016; 11:e0166367.
-
37Brasil. Lei nº 12.401, de 28 de abril de 2011. Altera a Lei nº 8.080, de 19 de setembro de 1990, para dispor sobre a assistência terapêutica e a incorporação de tecnologia em saúde no âmbito do Sistema Único de Saúde - SUS. Diário Oficial da União 2011; 29 abr.
-
38Departamento de Gestão e Incorporação de Tecnologias em Saúde, Secretaria de Ciência, Tecnologia e Insumos Estratégicos, Ministério da Saúde. Diretrizes metodológicas: elaboração de diretrizes clínicas. Brasília: Ministério da Saúde; 2016.
-
39Comissão Nacional de Incorporação de Tecnologia no SUS. Proposta de protocolo clínico e diretrizes terapêuticas para chikungunya: escopo. Brasília: Comissão Nacional de Incorporação de Tecnologias no SUS; 2017.
-
40Wu D, Jiang W, Yu L, Wang Y, Tao Y, Tang H, et al. Quality assessment of clinical practice guidelines for infectious diseases in China. J Evid Based Med 2018; 11:95-100.
-
41Bhaumik S, Jagadesh S, Ellatar M, Kohli N, Riedha M, Moi M. Clinical practice guidelines in India: Quality appraisal and the use of evidence in their development. J Evid Based Med 2018; 11:26-39.
-
42Lytvyn L, Mertz D, Sadeghirad B, Alaklobi F, Selva A, Alonso-Coello P, et al. Prevention of clostridium difficile infection: a systematic survey of clinical practice guidelines. Infect Control Hosp Epidemiol 2016; 37:901-8.
-
43Dickson C, Arnason T, Friedman DS, Metz G, Grimshaw JM. A systematic review and appraisal of the quality of practice guidelines for the management of Neisseria gonorrhoeae infections. Sex Transm Infect 2017; 93:487-92.
-
44Koh C, Zhao X, Samala N, Sakiani S, Liang TJ, Talwalkar JA. AASLD clinical practice guidelines: a critical review of scientific evidence and evolving recommendations. Hepatology 2013; 58:2142-52.
-
45Brouwers MC, Kho ME, Browman GP, Burgers JS, Cluzeau F, Feder G, et al. Development of the AGREE II, part 1: performance, usefulness and areas for improvement. Can Med Assoc J 2010; 182:1045-52.
-
46Hoffmann-Eßer W, Siering U, Neugebauer EAM, Brockhaus AC, Lampert U, Eikermann M. Guideline appraisal with AGREE II: systematic review of the current evidence on how users handle the 2 overall assessments. PLoS One 2017; 12:e0174831.
-
47Kliner M, Poole K, Sinclair D, Garner P. Preventing malaria in international travellers: an evaluation of published English-language guidelines. BMC Public Health 2014; 14:1129.
-
48Graham ID, Calder LA, Hébert PC, Carter AO, Tetroe JM. A comparison of clinical practice guideline appraisal instruments. Int J Technol Assess Health Care 2000; 16:1024-38.
-
49Armstrong MJ, Bloom JA. Patient involvement in guidelines is poor five years after institute of medicine standards: review of guideline methodologies. Res Involv Engagem 2017; 3:19.
-
50Hoffmann-Eßer W, Siering U, Neugebauer EAM, Lampert U, Eikermann M. Systematic review of current guideline appraisals performed with the Appraisal of Guidelines for Research & Evaluation II instrument-a third of AGREE II users apply a cut-off for guideline quality. J Clin Epidemiol 2018; 95:120-7.
-
51Vlayen J, Aertgeerts B, Hannes K, Sermeus W, Ramaekers D. A systematic review of appraisal tools for clinical practice guidelines: multiple similarities and one common deficit. Int J Qual Health Care 2005; 17:235-42.
-
52Makarski J, Brouwers MC; AGREE Enterprise. The AGREE Enterprise: a decade of advancing clinical practice guidelines. Implement Sci 2014; 9:103.
-
53Brouwers MC, Spithoff K, Kerkvliet K, Florez ID. Development and validity testing of the AGREE-REX, a tool to evaluate the clinical credibility and implementability of clinical practice guideline recommendations. https://abstracts.cochrane.org/2017-global-evidence-summit/development-and-validity-testing-agree-rex-tool-evaluate-clinical (acessado em 08/Fev/2018).
» https://abstracts.cochrane.org/2017-global-evidence-summit/development-and-validity-testing-agree-rex-tool-evaluate-clinical
Datas de Publicação
-
Publicação nesta coleção
24 Jul 2020 -
Data do Fascículo
2020
Histórico
-
Recebido
14 Mar 2019 -
Revisado
02 Nov 2019 -
Aceito
10 Jan 2020