Resumo
Introdução
Em um contexto de crescente restrição fiscal após 2014, as avaliações de políticas públicas têm tomado um caráter cada vez mais economicista, privilegiando a eficiência dos programas e ações em detrimento de outros critérios avaliativos.
Objetivo
Este texto procura resgatar a historicidade do “fazer avaliativo”, trazendo-a à luz da constituição do Estado de Bem-Estar nos países centrais ao longo do século XX, destacando as ênfases temáticas e metodológicas que o campo de avaliação foi assumindo em cada período.
Método
Texto resultante de revisão bibliográfica e discussão ensaística.
Resultados
Remetendo-se essa discussão para o Brasil, evidenciam-se os limites do “eficiencismo” como critério primaz em relação a outros valores públicos assegurados no desenho e na implementação de políticas públicas pela Constituição de 1988 e outros documentos normativos.
Conclusão
Tal viés avaliativo, em contexto de baixas taxas de crescimento econômico e limitações impostas pelo Teto dos Gastos Federais, traz risco concreto de interrupção da trilha civilizatória que o país vinha seguindo nos últimos 30 anos.
Palavras-chave:
avaliação de políticas públicas; critérios avaliativos, estado de bem-estar
Abstract
Background
In a context of increasing fiscal constraint after 2014, public policy evaluations have become increasingly economical, favoring the efficiency of programs and interventions over other evaluation criteria.
Objective
This paper brings the historicity of “evaluative doing”, presenting it along the constitution of the welfare state in central countries throughout the twentieth century, highlighting the thematic and methodological emphases that the evaluation field has assumed in each period.
Method
Text resulting from literature review and essay discussion.
Results
This discussion is referred to Brazil to demonstrate the limits of “efficiency” as a prime criterion over other public values ensured in the design and implementation of Public Policies by the 1988 Constitution and other normative documents.
Conclusion
Such an evaluation bias, in the context of low economic growth rates and limitations imposed by the Federal Public Spending Law, brings a concrete risk of interruption of the civilization path that the country has been following for the past 30 years.
Keywords:
public policy assessment; evaluation criteria, welfare state
INTRODUÇÃO
Avaliações de políticas públicas são atividades de extrema importância para garantir o aprimoramento dos programas e das ações associadas, para prover transparência à sociedade de como estão sendo empregados os recursos públicos e para orientar decisões governamentais na alocação orçamentária. Para que cumpram esses objetivos, é fundamental que sejam realizadas em uma perspectiva plural, em termos dos valores e critérios orientadores da apreciação, e que sejam bem informadas acerca dos objetivos e complexidade do desenho e arranjos de implementação dos programas públicos. Afinal, no Brasil, de um lado, não se pode esquecer de que a Constituição, planos nacionais, estatutos e inúmeras normativas explicitam valores como universalidade, integralidade e equidade na proposição e desenho de políticas públicas, o que implica que a avaliação delas precisa tomá-los como referência primária. De outro, não se pode desconsiderar que políticas e programas são empreendimentos complexos, abarcando um amplo conjunto de atividades e processos de trabalho, operados em vários ministérios e instâncias nos três níveis de governo, empregando milhares, ou até mesmo milhões, de agentes públicos e privados, com diferentes níveis de capacidade de gestão, para atender um público-alvo bastante heterogêneos de Norte a Sul, centro, periferia e interior em um vasto território continental.
Em que pesem essas considerações, ou melhor, premissas que deveriam orientar os processos avaliativos de políticas públicas no país, muitas avaliações de programas continuam desconsiderando uma matriz mais ampla de valores – privilegiando, em especial, a eficiência e/ou a conformidade administrativa e desconhecendo a complexidade de seus desenhos institucionais e operacionais –, tratando-os como se fossem projetos isolados, com comando, controle e operação fortemente centralizados11 Jannuzzi PM. Eficiência econômica, eficácia procedural ou efetividade social: Três valores em disputa na Avaliação de Políticas e Programas Sociais. Desenvolvimento em Debate. 2016;4(1):117-42. http://dx.doi.org/10.51861/ded.dmdis.1.011.
http://dx.doi.org/10.51861/ded.dmdis.1.0...
.
Contudo, a intersetorialidade e a natureza federativa das políticas públicas requerem abordagens avaliativas mais abrangentes que as adotadas, em geral, em estudos avaliativos recortados como projetos de pesquisa acadêmicos ou concebidos para avaliar intervenções isoladas e de pequena escala, com alcance limitado em termos de cobertura populacional e territorial. Ao supor que políticas e programas públicos seguem lógicas de organização e operação de projetos sociais de curto alcance e/ou de contextos controlados, simplificações indevidas são realizadas no processo avaliativo, chegando-se a resultados que, quando não parciais, revelam-se equivocados acerca dos efeitos e méritos de políticas e programas analisados. Recortes simplificadores do objeto de interesse avaliativo, privilegiamento de técnicas específicas em detrimento daquelas mais apropriadas para as questões elencadas, pouco interesse em detalhes do funcionamento operacional dos programas são algumas dessas práticas.
Há comunidades epistêmicas no meio acadêmico e instituições no campo da avaliação que chegam a advogar por um modelo único, um suposto padrão-ouro na avaliação de programas – o delineamento experimental –, prescrevendo um desenho de intervenção sujeito às veleidades da técnica22 Gertler P, Martínez S, Premand P, Rawlings L, Vermeersch C. Avaliação de impacto na prática. Washington: Banco Mundial; 2015., e não à complexidade inerente da intervenção em território tão heterogêneo em termos de público-alvo e capacidade de gestão, como no Brasil. Há situações em que círculos externos ao programa pressionam para realizar a avaliação de resultados e impactos quando se sabe que existem problemas de implementação, na articulação federativa, no repasse dos recursos, na superestimação da capacidade de gestão na ponta etc. Em outras palavras, propõe-se a avaliar a “saúde do paciente” – beneficiário ou usuário do programa – sem que o “tratamento” – a intervenção – tenha sido, de fato, implementado com os procedimentos estabelecidos conforme o “protocolo de atendimento” – desenho do programa. Não é à toa que, invariavelmente, a hipótese conservadora da “não identificação de efeitos” seja tão frequente nos estudos de avaliação de impacto de programas sociais aqui no Brasil, tal como já o foram nos Estados Unidos quando esses tipos de avaliação viveram seu apogeu, nos anos 1960-1970, conforme já bem apontado por Patton33 Patton MQ. Utilization-focused evaluation: the next century text. Thousand Oaks: Sage; 1997. e Rossi44 Rossi P. The iron law of evaluation and other metallic rules. In: Miller J, Lewis M, editores. Research in social problems and public policy. New York: Jai Press; 1987. p. 3-20. (vol. 4)..
Essas comunidades epistêmicas enxergam a avaliação de programas como a oportunidade para o exercício escolástico da comprovação dos modelos, teorias e “verdades científicas” que advogam, assim como espaço de doutrinação do método específico disciplinar de desenhar e gerir políticas e programas sociais. Alguns dos expoentes dessas comunidades, sem ter qualquer experiência na vida real de gestão de políticas e programas, parecem estar buscando – e não raramente propondo – a solução universal para os problemas sociais, a prescrição científica que possa conferir racionalidade técnica à “pouca ilustrada” equipe de gestores e técnicos encarregada das políticas e programas públicos nos “Trópicos quentes e úmidos”. Em geral, tendem a desvalorizar o conhecimento e as tecnologias sociais produzidas nos contextos sociopolíticos de operação dos programas.
Não bastasse a miopia quanto a valores ético-republicanos e vieses de natureza epistemológica do “fazer avaliativo”, em um contexto de forte polarização política, baixa capacidade de interlocução técnica nas esferas de decisão de governo e restrita pluralidade na cobertura midiática, alguns desses estudos avaliativos circunscritos – em escopo e universo amostrado – acabam ganhando uma repercussão desproporcional ao esforço empreendido de pesquisa. É o que parece ter se passado com programas como o Mais Educação, o Programa Nacional de Acesso ao Ensino Técnico e Emprego, o Água para Todos, o Ciência Sem Fronteiras e o próprio Mais Médicos. Embora meritórios em vários aspectos, acabaram vitimizados – com cortes orçamentários ou descontinuidades – por avaliações parciais, por um debate público pouco plural e decisões tecnocráticas pouco informadas55 Jannuzzi PDM. Indicadores para Avaliação Sistêmica de Programas Sociais: o caso Pronatec. Estudos em Avaliação Educacional. 2016;27(66):624-61. http://dx.doi.org/10.18222/eae.v27i66.4168.
http://dx.doi.org/10.18222/eae.v27i66.41...
,66 Ruediger M, editor. Análise da efetividade do Programa Água para Todos. Rio de Janeiro: FGV; 2018.. Em algumas circunstâncias, parece até que avaliações só vieram legitimar ex post uma decisão técnica ex ante estabelecida.
Nesse sentido, este texto procura contribuir para um “fazer avaliativo” mais consistente e, por que não dizer, ético-republicano ou contra-hegemônico77 Gussi AF, Oliveira BR. Discutindo paradigmas contra-hegemônicos de avaliação de políticas públicas. In Anais do Encontro Nacional de Ensino e Pesquisa do Campo de Públicas; 2007; Brasília. Brasília: Anepcp; 2017.. Sem o compromisso de exaurir todas questões já relacionadas – nem outras que vêm sendo discutidas em publicações mais recentes no país –, procura-se sistematizar algumas considerações de natureza política, epistemológica e metodológica, envolvidas no esforço de avaliação de programas públicos segundo uma perspectiva mais plural e sistêmica.
ESTADO DE BEM-ESTAR, POLÍTICAS PÚBLICAS E AVALIAÇÃO
Avaliação de políticas públicas são realizadas porque existem políticas públicas. Esta é uma assertiva óbvia e seria dispensável em outros tempos. Mas é bom lembrar que políticas públicas – e avaliações – existem como consequência de movimentos e empreendimentos políticos recentes na nossa história. São construções, sobretudo, ao longo do século XX, conformando o que veio a ser chamado de Estado de Bem-Estar nos países centrais. Um rápido exame da carga fiscal para financiamento do Estado – com todas as limitações desse indicador – é ilustrativo para demonstrar esse processo: se, até final do século XIX, o Estado e suas políticas requeriam menos de 10% do produto interno bruto (PIB) para se sustentar, nos 80 anos seguintes a carga fiscal necessária para atender às demandas públicas veio a ultrapassar 40% do PIB88 Mauro P, Romeu R, Binder A, Zaman A. A modern history of fiscal prudence and profligacy. Washington: IMF; 2013. (IMF Working Paper; no. 13/5).,99 Tanzi V. The economic role of the state in the 21st Century. Cato J. 2005;25(3):617-38..a a A carga fiscal – somatória dos tributos arrecadados pelas esferas de governo, da mesma forma que as isenções fiscais, como parcela do PIB – é um indicador síntese (ainda que imperfeito) para retratar os diferentes modelos de Estado de Bem-Estar. O uso desse indicador neste texto se justifica por sua simplicidade argumentativa entre necessidades de financiamento do Estado para promoção das políticas públicas, extensão da série histórica e comparabilidade entre países.
A contemporaneidade do Estado de Bem-Estar decorre da recente democratização política e da ampliação do sufrágio eleitoral no mundo ocidental, além de outros determinantes históricos mais particulares em cada país, como assevera Esping-Andersen1010 Esping-Andersen G. As três economias do Welfare State. Lua Nova. 1991;(24):85-116. http://dx.doi.org/10.1590/S0102-64451991000200006.
http://dx.doi.org/10.1590/S0102-64451991...
. Quanto mais a sociedade e seus diversos segmentos, como trabalhadores urbanos, camponeses, mulheres, analfabetos, puderam participar das escolhas políticas e influenciar as agendas de governo, mais o Estado foi instado a atender às demandas coletivas de proteção social – seguro, assistência e previdência pública, por exemplo – e de promoção social – educação básica e qualificação profissional, entre outras. Foram fundamentais, nesse sentido, a emergência e a combatividade do movimento sindical e dos movimentos sociais identitários específicos e, naturalmente, a conquista de cadeiras nos parlamentos e de chefia de governos por partidos de esquerda. Naturalmente, para além das demandas populares expressas nas eleições, como mostrou Immergut1111 Immergut E. As regras do jogo: a lógica da política de saúde na França, na Suíça e na Suécia. Rev Bras Cienc Soc. 1996;30(30):139-65. na análise da institucionalização dos sistemas de saúde em países europeus, o modelo de provisão coletiva (em saúde pública, no caso) foi conformado também pela ação e reação de outros atores afetados – médicos, nesse caso, entre outros – e pelas “regras do jogo” parlamentar e político-eleitoral. Diferentes instituições e grupos de interesses em cada país moldaram, de modo distinto, ideias coletivas similares de provisão à saúde em cada país: público-privado na França, privado-subsidiado na Suíça e público-estatal na Suécia.
De modo mais particular, na estruturação do Estado de Bem-Estar europeu também contribuíram a coesão social forjada pelas agruras e dizimação das guerras mundiais e a solidariedade coletiva para lidar com a pobreza – mais visível por conta da urbanização – e com o envelhecimento populacional1212 Souza J. A elite do atraso. São Paulo: LeYa; 2017.. O próprio capital foi outro fator impulsionador do Estado Social, seja pela necessidade de investimentos vultosos e arriscados em infraestrutura de energia e transportes, seja pela necessidade de dispor de trabalhadores com alguma formação educacional básica, em escala maior do que o provido pelas entidades religiosas e assistenciais1313 Tavares MC. O planejamento em economias mistas. In: Seminário Internacional Estado e Planejamento: Sonhos e Realidade; 1988; Brasilia. Brasília: CENDEC; 1988. p. 25-45..
Com tantas trajetórias históricas possíveis, cada país hoje desenvolvido acabou trilhando seu próprio percurso civilizatório e constituindo um tipo específico de Estado de Bem-Estar, mais residual ou mais abrangente; mais restritivo ou mais solidário no acesso a serviços e na cobertura deles; mais comprometido ou não com a redução das desigualdades, com a igualdade de oportunidades ou com a igualdade de resultados; mais orientado por princípios meritocráticos individuais ou pelos princípios de equidade e coesão social1414 Jaccoud L. Igualdade e equidade na agenda da proteção social. In: Fonseca A, Fagnani E, editores. Políticas sociais, desenvolvimento e cidadania. São Paulo: Fundação Perseu Abramo; 2013. p. 281-306.. Cada sociedade construiu soluções específicas – mais solidárias ou mais individualizadas no financiamento dos serviços – para os pobres vindos do campo, crianças envolvidas no trabalho infantil, crianças sem acesso à escola, operários acidentados no trabalho, desempregados, idosos com perda de capacidade laboral, pessoas com deficiência sem capacidade de sustento, famílias sem moradia. Cada país foi moldando suas políticas públicas para o atendimento universal, focalizado nas demandas em saúde, educação, trabalho e assistência social, ou residual delas, para fazer frente aos riscos inerentes à vida no capitalismo contemporâneo e às circunstâncias inexoráveis ditadas pelo ciclo vital.
A experiência histórica do Estado de Bem-Estar levou à constituição de quatro modelos mais gerais de sistemas de políticas públicas. O esforço analítico de Esping-Andersen1010 Esping-Andersen G. As três economias do Welfare State. Lua Nova. 1991;(24):85-116. http://dx.doi.org/10.1590/S0102-64451991000200006.
http://dx.doi.org/10.1590/S0102-64451991...
levou ao enquadramento das modalidades de bem-estar existentes nos anos 1970-80 nos países centrais em três modelos: o Estado Anglo-Saxão Liberal (característico dos Estados Unidos), o Continental Conservador (como a Alemanha e a França) e o Nórdico Social-Democrata (como a Suécia e outros países escandinavos). Entre tantas outras propostas de modelos de tipificação, vale destacar neste texto, pela similitude com o caso brasileiro, o Estado Mediterrâneo Familista (modelo da Espanha, de Portugal e da Itália), descrito em Moreno et al.1515 Moreno L, del Pino E, Marí-Klose P, Moreno-Fuentes FJ. Los sistemas de bienestar europeos tras la crisis económica. Madrid: EuroSocial/IILA, 2014.. Cada um desses modelos reflete determinado nível de financiamento público, conforme a amplitude setorial e a cobertura populacional das políticas públicas e, naturalmente, conforme o nível de coesão, desigualdade e bem-estar social desejado pela sociedade.
Com exceção dos Estados Unidos, todos os demais países mencionados apresentavam carga fiscal acima de 40% do PIB em 2016. Nos Estados Unidos, a carga fiscal estacionou nos 35% do PIB nos anos 1970, abortando o projeto de constituição de políticas sociais mais abrangentes iniciado com o Plano de Combate à Pobreza Great Society, no governo Lyndon Johnson (Tabela 1). A retomada de tal iniciativa nas décadas seguintes, como a tentativa de constituição de um sistema de provimento de saúde pública mais acessível à população por presidentes democratas, tampouco foi bem-sucedida.b b Os Estados Unidos talvez tenham sido, entre os países democráticos desenvolvidos, o lugar onde a crítica liberal ao Estado tenha sido mais bem-sucedida em limitar o escopo e a escala das políticas públicas.
Na realidade, muito além da carga fiscal, os modelos de Estado de Bem-Estar se diferenciam pelo conjunto e natureza de políticas públicas ofertadas para atender às demandas coletivas da sociedade, em particular nos campos da educação, da saúde, do trabalho e da assistência social. Melhor ainda, tais modelos se diferenciam pelo grau de “desmercantilização” e “desfamilização” provido pelas políticas de proteção e promoção social, isto é, da garantia com que indivíduos, em qualquer momento de seu ciclo de vida, qualquer que seja sua origem social e situação socioeconômica, possam dispor de serviços, políticas e meios, providos pelo Estado, para assegurar uma sobrevivência digna sem depender, primariamente, do emprego exercido ou do acolhimento familiar. Assim, universalidade de cobertura, integralidade da oferta e equidade social no acesso são princípios que orientam, de forma diferente, o desenho de políticas públicas em cada modelo.
Ao longo desse processo de constituição do Estado Social – e ampliação da oferta de políticas públicas –, o escopo e a metodologia das avaliações foram se alargando. E, naturalmente, os princípios constitutivos de cada modelo foram moldando os valores públicos do julgamento de mérito das políticas e programas. Se, ao final do século XIX, as primeiras iniciativas de avaliação de políticas se resumiam à educação – focalizada no desempenho em testes cognitivos para mensurar o “aprimoramento das raças nacionais” – e à saúde – voltada à apreciação dos efeitos das intervenções higienistas e sanitárias –, nas primeiras décadas do século passado as avaliações passaram a cobrir políticas habitacionais, infraestrutura urbana e qualificação profissional, setores de atuação crescente de municípios e Estados Nacionais1818 McDavid J, Hawthorn L. Program evaluation and performance measurement: an introduction to practice. Thousand Oaks: Sage; 2006..
Ao longo dos “Trinta Anos Dourados” do capitalismo que se seguiu à Segunda Guerra Mundial, com a expansão da escala e escopo das políticas públicas – que já consumiam em média mais de 25% do PIB nos países centrais –, o campo da avaliação teve forte avanço. De um lado, era necessário dispor de avaliações diagnósticas para o desenho de políticas e programas; de outro, era preciso dispor de informação para legitimar – ou não – o gasto crescente com as intervenções públicas. O caso dos Estados Unidos é emblemático nesse sentido, pelo engajamento de pesquisadores nas universidades, criação de centros de pesquisa aplicada, produção bibliográfica no campo e institucionalização do setor em comunidades de prática33 Patton MQ. Utilization-focused evaluation: the next century text. Thousand Oaks: Sage; 1997.,1919 Rossi P, Lipsey M, Freeman H. Evaluation: a systematic approach. Thousand Oaks: Sage; 2004.. Se nos anos 1950-60 a avaliação estava focalizada na apreciação dos impactos das intervenções públicas – com ênfase muito centrada nos métodos experimental e quase experimental –, nas décadas seguintes passou a contemplar também a avaliação dos problemas de implementação, abrindo-se a abordagens metodológicas mais plurais de análise. Afinal, não bastava investigar se os programas revelavam ou não efeitos; era necessário identificar quais mecanismos potencializavam ou fragilizavam o sucesso das ações. Para responder a essas questões, era preciso o engajamento de sociólogos, antropólogos e outros cientistas sociais – e suas técnicas de pesquisa – no “fazer avaliativo”.
A partir dos anos 1980, a emergência de governos conservadores nos Estados Unidos e em países da Europa e a progressiva implantação de suas agendas de reforma do Estado – que, invariavelmente, significavam contenção de recursos em políticas públicas – trouxeram a preocupação com a produção mais regular de indicadores para o monitoramento de programas e a ênfase em avaliações muito centradas na eficiência dos programas. Se os sistemas de monitoramento foram inovações importantes no campo, o “eficiencismo” na avaliação de políticas públicas certamente significou um retrocesso em relação ao “estado do conhecimento” acerca de valores e critérios de avaliação e também no que se refere ao “estado da técnica” de análise de mérito de programas públicos e projetos sociais. Nessa perspectiva economicista, sob a égide da racionalidade estrita do mercado como agente mais eficiente na produção de bem-estar e justiça distributiva, só se manteriam os programas mais competitivos e mais eficientes, ainda que com baixa cobertura e menor repercussão social11 Jannuzzi PM. Eficiência econômica, eficácia procedural ou efetividade social: Três valores em disputa na Avaliação de Políticas e Programas Sociais. Desenvolvimento em Debate. 2016;4(1):117-42. http://dx.doi.org/10.51861/ded.dmdis.1.011.
http://dx.doi.org/10.51861/ded.dmdis.1.0...
. No campo dos métodos, é curioso que desenhos quase experimentais viessem a ser reapresentados, mais de 40 anos depois, como se fossem técnicas inovadoras, isentas e robustas de avaliação, com todos os problemas éticos e operacionais já documentados2020 Jannuzzi PM. Mitos do desenho quase-experimental na avaliação de programas. Rev NAU Social. 2018;9(16):76-90. http://dx.doi.org/10.9771/ns.v9i16.31419.
http://dx.doi.org/10.9771/ns.v9i16.31419...
.
OS LIMITES DA EFICIÊNCIA NA AVALIAÇÃO DE POLÍTICAS E PROGRAMAS
A consideração da eficiência como critério primaz na avaliação de políticas públicas não é uma escolha neutra, isenta de juízos políticos. Como se discutiu em Jannuzzi11 Jannuzzi PM. Eficiência econômica, eficácia procedural ou efetividade social: Três valores em disputa na Avaliação de Políticas e Programas Sociais. Desenvolvimento em Debate. 2016;4(1):117-42. http://dx.doi.org/10.51861/ded.dmdis.1.011.
http://dx.doi.org/10.51861/ded.dmdis.1.0...
, essa escolha tem sido influenciada pela visão de Estado e pela natureza de políticas públicas advogada por segmentos influentes da comunidade de avaliação – economistas de formação liberal e técnicos da área fazendária de governos – e potencializada pela ação disseminadora de órgãos multilaterais de fomento, como Banco Mundial e Banco Interamericano.
Como analisado por Bauer2121 Bauer A. Quão bom é suficiente? Definição de critérios avaliativos de valor e mérito. Estudos em Avaliação Educacional. 2019 jan/abr;30(73):14-43. http://dx.doi.org/10.18222/eae.v30i73.5879.
http://dx.doi.org/10.18222/eae.v30i73.58...
, valores e critérios avaliativos têm ocupado um número grande de pesquisadores americanos e europeus no campo da avaliação desde os anos 1960. Boa parte das diferenças entre propostas se deve, certamente, às concepções e modelo de Estado que vieram inspirar esses autores. Esse acervo bibliográfico e a experiência pragmática de organismos multilaterais em projetos de cooperação internacional permitiram a proposição, por um comitê técnico da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), de um marco referencial de critérios de avaliação de programas e projetos de desenvolvimento. Desse marco, vale resgatar cinco dos mais empregados, presentes nos principais manuais de avaliação “não economicistas”: relevância, eficácia, eficiência, sustentabilidade e efetividade2222 Programa de las Naciones Unidas para el Desarrollo. Manual de planificación, seguimiento y evaluación de los resultados de desarrollo. New York: PNUD; 2009..c
c
A relevância de um programa ou projeto está associada ao grau de pertinência dele às demandas públicas prioritárias, isto é, a sua aderência à agenda de prioridades políticas de determinada sociedade. A eficácia de um programa ou projeto é um atributo relacionado ao grau de cumprimento dos objetivos dele ou de atendimento da demanda motivadora do programa. A eficiência, por outro lado, está associada à qualidade e à preocupação sobre como os recursos são utilizados na produção dos resultados do programa. A sustentabilidade se refere à capacidade do programa ou projeto de gerar mudanças permanentes na realidade em que atua. O impacto, ou efetividade, diz respeito aos efeitos de médio e longo prazo sobre os beneficiários e a sociedade, direta ou indiretamente atribuíveis ao programa ou projeto.
Nessa perspectiva mais plural e historicamente construída, uma política, programa ou projeto se legitimaria não apenas pelos parâmetros de eficiência econômica estimados pelos modelos econométricos da tecnocracia orçamentária, mas também a partir do juízo balizado pelo decisor político diante das evidências das quatro outras dimensões avaliativas, a começar pela relevância. Esse valor público parece estar esquecido como critério nas avaliações, talvez por ser aquele mais claramente político, que faz a conexão entre os princípios constitutivos do modelo de Estado e o desenho (e avaliação) das políticas. Em tempos de discursos hegemônicos de “adequação das políticas públicas às restrições fiscais” – para o que a eficiência é bastante funcional como critério avaliativo –, é necessário resgatar a legitimidade e a pertinência que os estatutos político-normativos conferem às políticas e programas. É essa relevância publicamente atribuída a determinadas intervenções que historicamente subordinou o econômico ao político na construção do Estado de Bem-Estar. Ações públicas voltadas à nutrição são, por exemplo, relevantes em qualquer país, mas são ainda mais legítimas em contextos em que o acesso ao alimento é considerado um direito humano fundamental, como passou a ser no Brasil a partir de 2010. Contingenciar recursos ou descontinuar ações nesse campo não pode ser realizada sem um juízo explícito da relevância social delas em relação a outras áreas setoriais, inclusive pagamento de juros. Como se manteriam, na lógica de privilegiar a eficiência na avaliação, programas de fortalecimento das identidades culturais regionais e de povos tradicionais, de preservação de espécies ameaçadas, de provimento de escolas em tempo integral em comunidades de baixa renda ou ainda um programa de garantia do direito ao atendimento básico em saúde próximo à demanda populacional, como o Mais Médicos? Políticas e programas não deveriam ser julgados apenas pelos benefícios tangíveis e de curto/médio prazo que poderiam proporcionar, mas também por sua legitimidade em atender ou não a um compromisso civilizatório, uma demanda pública legítima ou ainda um programa de governo recém-eleito.d d Nesse caso, desde que o programa do governo eleito tenha sido explicitado na disputa eleitoral e que esteja em acordo com os princípios determinados pela Constituição, planos, estatutos e outras normativas vigentes.
Não se trata de negar a importância da eficiência como critério avaliativo, mas de não considerá-la como o mais proeminente dentre as demais dimensões. Naturalmente, havendo outras estratégias mais eficientes de atendimento de uma demanda com a mesma eficácia e efetividade, não há por que não considerá-las como alternativa para implementação. Afinal, eficiência é um princípio constitucional orientador da ação do Estado, introduzida pela Emenda Constitucional nº 19/1998, que instituiu as bases para a reforma administrativa e gerencial no país. Mas na Constituição há outros princípios orientadores mais gerais e mais antigos, como a preocupação com a promoção da dignidade humana e da equidade, o combate à desigualdade e à pobreza, e outros aplicáveis às políticas públicas mais específicas, tais como a universalidade do acesso e da integralidade do atendimento. Assim, o foco avaliativo muito centrado na eficiência ou na economicidade pode não reconhecer – e deslegitimar – o esforço e a eficácia da cobertura de programas públicos, assim como mitigar a efetividade e a sustentabilidade das iniciativas.
A inclusão da eficiência como valor público no final dos anos 1990 foi importante para ampliar a perspectiva com que se aplicava a economicidade como critério de apreciação do uso de recursos, especialmente nas auditorias de conformidade realizadas pelos órgãos de controle, como a Controladoria-Geral da União (CGU) e o Tribunal de Contas da União (TCU). Economicidade diz respeito à busca das soluções mais parcimoniosas possíveis na alocação do recurso público. Se, na avaliação de processos de compra de produtos padronizados e de baixa complexidade, esse parece ser um critério simples de ser aplicado, não se pode dizer o mesmo na provisão de serviços públicos. Eficiência é, nesse sentido, um princípio avaliativo mais amplo que economicidade, associado à análise dos resultados em relação aos recursos investidos e aplicável em perspectiva comparada entre programas e projetos de distintas escalas.
Contudo, como bem discutido por Oliveira e Paula2323 Oliveira KP, Paula APP. Herbert Simon e os limites do critério de eficiência na nova administração pública. Cad Gest Pública Cid. 2014;19(64):113-26. http://dx.doi.org/10.12660/cgpc.v19n64.12605.
http://dx.doi.org/10.12660/cgpc.v19n64.1...
, a adoção da eficiência econômica como princípio de racionalidade e mérito na administração pública tem limites éticos, políticos e operacionais, já apontados há décadas por Herbert Simon, Prêmio Nobel de Economia em 1978. Se, em organizações privadas, a eficiência pode ser medida como expressão que maximiza a utilidade dos recursos empregados, isto é, a lucratividade, em políticas públicas, dada a complexidade na apuração de custos e resultados, a apreciação desse critério é bem mais complexa. A solução mais eficiente não seria apontada diretamente por uma razão, mas percebida consensualmente pelos diferentes públicos afetados como a alternativa mais “satisfativa”, “satisfatória” ou “contemporizadora”, para citar termos usados por Simon, relacionados pelas autoras. Em contraponto à eficiência econômica, absoluta, perfeita, precisamente medida, inspirada em conceitos das ciências físicas ‒ em especial, a termodinâmica ‒, Simon propôs a eficiência relativa, a suficiente, a adequada ao contexto complexo e valorativo que cercam o meio técnico-político da gestão pública. A eficiência seria, pois, mais um critério-meio, mais um princípio orientador de gestão de programas, do que um critério-final de avaliação de mérito deles.
EFICIENCISMO E AVALIAÇÃO DE POLÍTICAS PÚBLICAS NO BRASIL PÓS-2014
Em contextos como o do Brasil atual, em que as decisões políticas são subordinadas tão somente à restrição fiscal, avaliações inspiradas pelo “eficiencismo” podem ter consequências gravosas sobre o legado de políticas públicas constituído. Afinal, em uma conjuntura de baixo crescimento econômico e da vigência da Emenda Constitucional nº 95/2016 (Teto dos Gastos Federais) afetando a disponibilidade de recursos públicos, a restrição fiscal parece uma justificativa técnica inquestionável para que políticas e programas tenham suas ações contingenciadas, reduzidas ou mesmo descontinuadas. Nessa perspectiva, seria preciso “readequar as políticas públicas à nova realidade fiscal” e esperar que, com a redução da carga fiscal, o mercado, estimulado por expectativas positivas, volte a investir, criar oportunidades de emprego e renda e oferecer produtos, planos e serviços de saúde, educação, previdência para todo tipo – e poder de compra – de consumidor. Políticas e programas públicos deveriam ser redesenhados sob a égide da eficiência na prestação dos serviços, no que a focalização de público-alvo (os mais pobres, não participantes do mercado) e a oferta restrita de serviços (os essenciais ou mínimos sociais) certamente contribuiriam. No diagnóstico liberal clássico, seria necessário “reduzir o tamanho do Estado”, tomando eficiência a partir de uma interpretação ainda mais reducionista, como economicidade. Ao contrário da experiência histórica dos países que lograram constituir Estados de Bem-Estar robustos, em que a determinação política pautou a gestão econômico-fiscal, seria necessário subverter a lógica civilizacional, condicionando o projeto político da sociedade ao que o mercado acha conveniente “bancar” como público e oferecer como privado.
Nesse quadro, há evidências – a serem mais bem estudadas e documentadas – de que as avaliações realizadas no governo têm deixado de cumprir a função formativa voltada ao aprimoramento de ações públicas (inclusive para melhorar a produtividade dos serviços), para assumir finalidades restritas de balizar – ou justificar ex post – decisões orçamentárias, invariavelmente no sentido de cortes de programas, de serviços e benefícios. É um movimento bem diferente do que se observou nas duas décadas anteriores no campo da avaliação, em que se percebeu um processo de ampliação nas ênfases temáticas como descrito para os países centrais. Desempenho educacional, saúde pública e programas sociais foram sendo objeto de preocupação crescente nas pesquisas de natureza acadêmica e aplicada, mas de modo muito menos espaçado que o descrito lá fora, como resultado da forma adensada que foi processada a estruturação das políticas públicas após a redemocratização do país.
A produção de informação pública nesses campos aumentou de forma significativa, respondendo à demanda de formulação e avaliação das políticas e programas públicos nesse período. É revelador nesse sentido, para citar alguns exemplos, a produção de pesquisas do IBGE e dos instrumentos de avaliação educacional do Instituto Nacional de Estudos e Pesquisas Educacionais Anísio Teixeira (INEP), os estudos avaliativos em saúde e programas na área realizados no âmbito da Fundação Oswaldo Cruz, as análises do IPEA e tantas outras instituições e universidades. Ainda que a preocupação com o impacto das ações públicas, a qualidade do gasto e a conformidade administrativa estivesse sempre presente nas avaliações de programas de governo – conduzidas pelo Ministério do Planejamento e secretarias correlatas –, a necessidade de ampliar a cobertura e o leque de serviços públicos ensejou a necessidade crescente de produção de avaliações diagnósticas e de implementação nos anos 20002424 Jannuzzi PM. Monitoramento e avaliação de programas sociais: uma introdução aos conceitos e técnicas. Campinas: Alínea; 2016..
A primazia do “eficiencismo” nas avaliações e decisões de políticas públicas se justificaria sendo o discurso oficial – e oficioso da grande mídia – em função do tamanho do Estado brasileiro e a carga fiscal necessária para sustentá-lo. Mas o fato é que a carga fiscal do país tem se mantido, desde os anos 2000 até meados da presente década, em torno de um terço do PIB, depois da ampliação de escopo e escala de políticas públicas que a Constituição acabou ensejando e que governos sucessivos vieram a efetivar nas décadas seguintes2525 Castro JA. Política Social no Brasil: marco conceitual e análise da ampliação do escopo, escala e gasto público. Revista Brasileira de Monitoramento e Avaliação, Brasilia. 2011;1:66-95. http://dx.doi.org/10.4322/rbma201101005.
http://dx.doi.org/10.4322/rbma201101005...
. Esse parece ser um patamar crítico para economistas de formação liberal, como Tanzi99 Tanzi V. The economic role of the state in the 21st Century. Cato J. 2005;25(3):617-38., nível a partir do qual a subtração de recursos do mercado (pelo governo, por meio de impostos) estaria produzindo ineficiência na economia.e
e
Para Tanzi9:637, até mesmo os Estados Unidos estariam com carga fiscal excessiva, já que para ele “Government should now scale down its operation... In our 2000 book, Schuknecht and I speculated that no country needs to spend more than 30 percent of its GDP for public-sector activities. This level ought to be enough to finance all the legitimate interventions by the state”.
É o patamar, como já comentado, em que os Estados Unidos estacionaram desde os anos 1970, interrompendo a expansão do sistema de políticas públicas que vinha desde o pós-guerra, em particular na década anterior com o programa de combate à pobreza.
Tal como ocorrido em Portugal, a redemocratização foi um fator-chave para o início da estruturação do Estado Social no Brasil, mas com evolução e desdobramento diferentes nas últimas décadas em cada país. Segundo dados estimados por Mauro et al.88 Mauro P, Romeu R, Binder A, Zaman A. A modern history of fiscal prudence and profligacy. Washington: IMF; 2013. (IMF Working Paper; no. 13/5)., desde a Revolução dos Cravos, em meados dos anos 1970, a carga fiscal do Estado português ampliou-se pelas quatro décadas seguintes, saindo de 25% nos anos 1980, 32% em 1990 e alcançando o padrão mínimo das principais democracias europeias (40%) na década de 2010. O caso da Espanha é semelhante, com o descenso do regime franquista, ainda que não tenha seguido a trajetória de seus vizinhos nos anos 2000.
No caso brasileiro, a ampliação da carga fiscal iniciou-se mais tarde e estabilizou-se mais precocemente, e em patamar mais baixo. Nos anos 1980, a carga fiscal estimada era inferior a 20%, passando, logo alguns anos após a promulgação da Constituição de 1988, a cerca de um quarto do PIB. Em 2002, a carga fiscal já havia atingido o patamar de 33% e, desde então, passou a crescer bem mais lentamente do que no passado, estabilizando-se em torno de 35%. Não fosse o crescimento elevado do PIB no país nesse período, certamente não teria sido possível a expressiva ampliação de escala e escopo de políticas sociais nos anos 2000 até 20142626 Jannuzzi PM, Sousa MF. Pobreza, desigualdade e mudança social no Brasil de 1992 a 2014: tendências empíricas para análise dos efeitos do Plano Brasil Sem Miséria e da Estratégia Brasileira de Desenvolvimento Inclusivo. Brasília; 2016. p. 22-55. (Caderno de Estudos Desenvolvimento Social em Debate; no. 25).. Estimativas do FMI apontam que a carga fiscal no Brasil teria caído para 31% do PIB em 2016, dado ainda mais preocupante quando se considera que o produto brasileiro caiu 3,6% nesse ano. Mas certamente ainda mais impactante é a projeção da instituição para 2023, incorporando os efeitos da Emenda do “Teto dos Gastos Federais”, quando a carga fiscal cairia para 29% do PIB.
Considerando os efeitos restritivos do Teto para os próximos 20 anos, tal como estimados por Rossi e Dweck2727 Rossi P, Dweck E. Impactos do Novo Regime Fiscal na saúde e educação. Cad Saude Publica. 2016;32(12):1-5. http://dx.doi.org/10.1590/0102-311x00194316.
http://dx.doi.org/10.1590/0102-311x00194...
, é possível que o Brasil chegue em 2030 com uma carga fiscal próxima ao que o México tem apresentado nos últimos 20 anos ou próximo daquela que o Brasil apresentava nos anos 1980. Em outras palavras, o Brasil não estaria evoluindo para a constituição de um padrão de oferta de políticas e serviços públicos com alguma semelhança ao de Portugal, do tipo Mediterrâneo Familista, e nem mesmo sequer ao modelo americano de Estado Social Liberal. O Brasil não estaria alcançando o patamar dos 40% de carga fiscal, nível que o conduziria à consecução da maioria dos objetivos da Agenda 2030, segundo simulações do Pardee Center2828 Pardee Center. Sustainable development goals report: Brazil 2030. Final report. Denver: University of Denver; 2017., a pedido do Programa das Nações Unidas para o Desenvolvimento, inspirado nos bons resultados do país na Agenda dos Objetivos de Desenvolvimento do Milênio2929 Programa das Nações Unidas para o Desenvolvimento. Relatório de desenvolvimento humano. New York: PNUD; 2014..
Diante das iniquidades já existentes no país e da continuidade do crescimento demográfico e do envelhecimento populacional, se estados e municípios não ampliarem significativamente a receita de tributos, o país estará condenado a uma regressão ao passado, uma mexicanização da política social brasileira. Ao contrário do que se imagina, não é o Chile o cenário de médio prazo, mas sim o México, com todas as consequências sociais que isso significa em termos de retomada da fome, indigência, trabalho infantil, velhice desamparada, agudização da desigualdade e violência, para citar os desdobramentos mais evidentes.
É preciso reconhecer – e muitas avaliações o demonstram – que o sistema de políticas públicas constituído desde 1988 tem diversos problemas de alcance e qualidade de serviços e produtos. Em menos de 30 anos, tentou-se implantar no Brasil um conjunto amplo de políticas e programas de natureza universal, redistributiva e transversal, processo que levou pelo menos o dobro do tempo em países centrais, em contextos de menor desigualdade social, maior solidariedade intra e intergeracional e, provavelmente, maior capacidade de gestão no setor público. Se é fato que esse conjunto de políticas e programas produziu resultados bastante meritórios em termos de relevância social, eficácia de cobertura e efetividade nos efeitos, reconhecidos em vários relatórios internacionais2929 Programa das Nações Unidas para o Desenvolvimento. Relatório de desenvolvimento humano. New York: PNUD; 2014.
30 Comissão Económica para a América Latina e Caraíbas. Panorama Social da América Latina e Caribe. Santiago: CEPAL; 2016.-3131 Food and Agriculture Organization of the United Nations. State of food insecurity in the world. Rome: FAO; 2014., a rapidez, a fragmentação setorial e as disfuncionalidades operacionais em sua implantação certamente conspiraram contra a eficiência no uso de recursos (humanos, físicos e orçamentários). Não é de se admirar que o discurso da ineficiência seja aceito de forma tão receptiva pelos segmentos médios da sociedade brasileira nos últimos anos.
CONSIDERAÇÕES FINAIS
A breve recensão sobre Estado de Bem-Estar e avaliação talvez seria redundante não fossem os “des”-caminhos que as atividades de avaliação têm enveredado em determinados círculos tecnocratas e comunidades epistêmicas. Neles, a avaliação parece assumir uma a-historicidade, autonomia epistemológica e status de neutralidade em relação ao seu objeto. Mas políticas públicas não são nem autônomas, nem neutras. Expressam intencionalidades políticas em seu agendamento, desenho e implementação. Políticas públicas entram na agenda de prioridades governamentais nas eleições e por pressão política de diferentes segmentos da sociedade, desdobrando-se em leis e programas com desenhos específicos, inspirados por valores imanentes desses segmentos. Se o desenho da política pública segue princípios e valores políticos, por que a avaliação não deveria considerá-los? Embora os manuais aplicados na área, sobretudo os disseminados por organizações multilaterais de fomento, dediquem-se em apresentar as etapas, métodos e técnicas de avaliação como se fossem universais, neutros, livres de uma concepção ideológica e política fundante, as práticas na área estão longe de assim se revelarem77 Gussi AF, Oliveira BR. Discutindo paradigmas contra-hegemônicos de avaliação de políticas públicas. In Anais do Encontro Nacional de Ensino e Pesquisa do Campo de Públicas; 2007; Brasília. Brasília: Anepcp; 2017.,3232 Weiss C. Where politics and evaluation research meet. Eval Pract. 1993;14(1):93-106. http://dx.doi.org/10.1177/109821409301400119.
http://dx.doi.org/10.1177/10982140930140...
.
Como bem colocou Gadotti3333 Gadotti M. Prefácio: concepção dialética da avaliação. In: Demo P, editor. Avaliação qualitativa. Campinas: Autores Associados; 2002. p. IX-XIV. (p. X):
Seria ingênuo pensar que a avaliação é apenas um processo técnico. Ela é também uma questão política. Avaliar pode constituir um exercício autoritário do poder de julgar ou, ao contrário, pode constituir um processo e um projeto em que o avaliador e o avaliando buscam e sofrem uma mudança qualitativa. É nesta segunda prática da avaliação que podemos encontrar o que uns chamam de avaliação emancipadora e que, na falta de melhor expressão, eu chamaria de “concepção dialética da avaliação”.
Avaliações produzem indicadores, evidências qualitativas, resultados para informar o bom e plural debate, esclarecer aspectos positivos e negativos, considerando as limitações do escopo investigado e dos instrumentos de levantamento empregados. Expor diferentes interpretações dos resultados observados é antes uma postura científica e pessoal honesta do que uma inconsistência teórica ou fragilidade metodológica de um estudo avaliativo. A robustez de uma avaliação não diz respeito apenas à consistência dos métodos empregados na sua elaboração, mas também à solidez dos critérios e valores públicos que presidem o processo desde o início.
Avaliações têm a finalidade de informar, não de trazer a “decisão decidida” para o gestor responsável. Mas se avaliador avalia e decisor decide, ainda assim avaliadores, cientistas sociais e outros agentes envolvidos nesse processo têm enorme responsabilidade sobre os resultados de seus trabalhos e as decisões deles decorrentes. Como bem colocou Herbert Marcuse3434 Marcuse H. A responsabilidade da ciência. Sci Stud [Internet]. 2009;7(1):159-64 [citado em 2019 Abr 22]. Disponível em: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1678-31662009000100008&lng=en&nrm=iso
http://www.scielo.br/scielo.php?script=s...
:159-162, sociólogo e filósofo alemão, em palestra intitulada “A responsabilidade da ciência”, ministrada na Universidade da Califórnia em julho de 1966:
A proposição que desejo apresentar é a seguinte: a ciência (isto é, o cientista) é responsável pelo uso que a sociedade faz da ciência; o cientista é responsável pelas consequências sociais da ciência. [...] não existem dois mundos: o mundo da ciência e o mundo da política (e sua ética), o reino da teoria pura e o reino da prática impura – existe apenas um mundo no qual a ciência, a política e a ética, a teoria e a prática estão inerentemente ligadas. [...] a ciência livre de valores promove cegamente certos valores políticos e sociais e, sem abandonar a teoria pura, a ciência sanciona uma prática estabelecida. O puritanismo da ciência transforma-se em impureza. E essa dialética levou à situação na qual a ciência (e não apenas a ciência aplicada) colabora na construção da mais eficiente maquinaria de aniquilamento da história.
Sob aparente neutralidade e boa intenção, avaliações moldadas pelo “eficiencismo” vêm se constituindo em uma eficaz maquinaria aniquiladora de políticas públicas no Brasil.
-
a
A carga fiscal – somatória dos tributos arrecadados pelas esferas de governo, da mesma forma que as isenções fiscais, como parcela do PIB – é um indicador síntese (ainda que imperfeito) para retratar os diferentes modelos de Estado de Bem-Estar. O uso desse indicador neste texto se justifica por sua simplicidade argumentativa entre necessidades de financiamento do Estado para promoção das políticas públicas, extensão da série histórica e comparabilidade entre países.
-
b
Os Estados Unidos talvez tenham sido, entre os países democráticos desenvolvidos, o lugar onde a crítica liberal ao Estado tenha sido mais bem-sucedida em limitar o escopo e a escala das políticas públicas.
-
c
A relevância de um programa ou projeto está associada ao grau de pertinência dele às demandas públicas prioritárias, isto é, a sua aderência à agenda de prioridades políticas de determinada sociedade. A eficácia de um programa ou projeto é um atributo relacionado ao grau de cumprimento dos objetivos dele ou de atendimento da demanda motivadora do programa. A eficiência, por outro lado, está associada à qualidade e à preocupação sobre como os recursos são utilizados na produção dos resultados do programa. A sustentabilidade se refere à capacidade do programa ou projeto de gerar mudanças permanentes na realidade em que atua. O impacto, ou efetividade, diz respeito aos efeitos de médio e longo prazo sobre os beneficiários e a sociedade, direta ou indiretamente atribuíveis ao programa ou projeto.
-
d
Nesse caso, desde que o programa do governo eleito tenha sido explicitado na disputa eleitoral e que esteja em acordo com os princípios determinados pela Constituição, planos, estatutos e outras normativas vigentes.
-
e
Para Tanzi99 Tanzi V. The economic role of the state in the 21st Century. Cato J. 2005;25(3):617-38.:637, até mesmo os Estados Unidos estariam com carga fiscal excessiva, já que para ele “Government should now scale down its operation... In our 2000 book, Schuknecht and I speculated that no country needs to spend more than 30 percent of its GDP for public-sector activities. This level ought to be enough to finance all the legitimate interventions by the state”.
-
Trabalho realizado na Escola Nacional de Ciências Estatísticas do IBGE – Rio de Janeiro (RJ), Brasil.
-
Fonte de financiamento: Bolsa PQ/CNPq “Informação Estatística e Políticas Públicas no Brasil” .
REFERÊNCIAS
-
1Jannuzzi PM. Eficiência econômica, eficácia procedural ou efetividade social: Três valores em disputa na Avaliação de Políticas e Programas Sociais. Desenvolvimento em Debate. 2016;4(1):117-42. http://dx.doi.org/10.51861/ded.dmdis.1.011
» http://dx.doi.org/10.51861/ded.dmdis.1.011 -
2Gertler P, Martínez S, Premand P, Rawlings L, Vermeersch C. Avaliação de impacto na prática. Washington: Banco Mundial; 2015.
-
3Patton MQ. Utilization-focused evaluation: the next century text. Thousand Oaks: Sage; 1997.
-
4Rossi P. The iron law of evaluation and other metallic rules. In: Miller J, Lewis M, editores. Research in social problems and public policy. New York: Jai Press; 1987. p. 3-20. (vol. 4).
-
5Jannuzzi PDM. Indicadores para Avaliação Sistêmica de Programas Sociais: o caso Pronatec. Estudos em Avaliação Educacional. 2016;27(66):624-61. http://dx.doi.org/10.18222/eae.v27i66.4168
» http://dx.doi.org/10.18222/eae.v27i66.4168 -
6Ruediger M, editor. Análise da efetividade do Programa Água para Todos. Rio de Janeiro: FGV; 2018.
-
7Gussi AF, Oliveira BR. Discutindo paradigmas contra-hegemônicos de avaliação de políticas públicas. In Anais do Encontro Nacional de Ensino e Pesquisa do Campo de Públicas; 2007; Brasília. Brasília: Anepcp; 2017.
-
8Mauro P, Romeu R, Binder A, Zaman A. A modern history of fiscal prudence and profligacy. Washington: IMF; 2013. (IMF Working Paper; no. 13/5).
-
9Tanzi V. The economic role of the state in the 21st Century. Cato J. 2005;25(3):617-38.
-
10Esping-Andersen G. As três economias do Welfare State. Lua Nova. 1991;(24):85-116. http://dx.doi.org/10.1590/S0102-64451991000200006
» http://dx.doi.org/10.1590/S0102-64451991000200006 -
11Immergut E. As regras do jogo: a lógica da política de saúde na França, na Suíça e na Suécia. Rev Bras Cienc Soc. 1996;30(30):139-65.
-
12Souza J. A elite do atraso. São Paulo: LeYa; 2017.
-
13Tavares MC. O planejamento em economias mistas. In: Seminário Internacional Estado e Planejamento: Sonhos e Realidade; 1988; Brasilia. Brasília: CENDEC; 1988. p. 25-45.
-
14Jaccoud L. Igualdade e equidade na agenda da proteção social. In: Fonseca A, Fagnani E, editores. Políticas sociais, desenvolvimento e cidadania. São Paulo: Fundação Perseu Abramo; 2013. p. 281-306.
-
15Moreno L, del Pino E, Marí-Klose P, Moreno-Fuentes FJ. Los sistemas de bienestar europeos tras la crisis económica. Madrid: EuroSocial/IILA, 2014.
-
16International Monetary Fund. Government revenue, percent of GDP [Internet]. Washington: IMF; 2019 [citado em 2019 Ago 14]. Disponível em: http://www.imf.org/external/datamapper/rev@FPP/USA/FRA/JPN/GBR/SWE/ESP/ITA/ZAF/IND
» http://www.imf.org/external/datamapper/rev@FPP/USA/FRA/JPN/GBR/SWE/ESP/ITA/ZAF/IND -
17International Monetary Fund. Capitalizing on good times [Internet]. Washington: IMF; 2018 [citado em 2019 Ago 14]. Disponível em: http://www.imf.org/~/media/Files/Publications/fiscal-monitor/2018/April/pdf/fm1801.ashx?la=en
» http://www.imf.org/~/media/Files/Publications/fiscal-monitor/2018/April/pdf/fm1801.ashx?la=en -
18McDavid J, Hawthorn L. Program evaluation and performance measurement: an introduction to practice. Thousand Oaks: Sage; 2006.
-
19Rossi P, Lipsey M, Freeman H. Evaluation: a systematic approach. Thousand Oaks: Sage; 2004.
-
20Jannuzzi PM. Mitos do desenho quase-experimental na avaliação de programas. Rev NAU Social. 2018;9(16):76-90. http://dx.doi.org/10.9771/ns.v9i16.31419
» http://dx.doi.org/10.9771/ns.v9i16.31419 -
21Bauer A. Quão bom é suficiente? Definição de critérios avaliativos de valor e mérito. Estudos em Avaliação Educacional. 2019 jan/abr;30(73):14-43. http://dx.doi.org/10.18222/eae.v30i73.5879
» http://dx.doi.org/10.18222/eae.v30i73.5879 -
22Programa de las Naciones Unidas para el Desarrollo. Manual de planificación, seguimiento y evaluación de los resultados de desarrollo. New York: PNUD; 2009.
-
23Oliveira KP, Paula APP. Herbert Simon e os limites do critério de eficiência na nova administração pública. Cad Gest Pública Cid. 2014;19(64):113-26. http://dx.doi.org/10.12660/cgpc.v19n64.12605
» http://dx.doi.org/10.12660/cgpc.v19n64.12605 -
24Jannuzzi PM. Monitoramento e avaliação de programas sociais: uma introdução aos conceitos e técnicas. Campinas: Alínea; 2016.
-
25Castro JA. Política Social no Brasil: marco conceitual e análise da ampliação do escopo, escala e gasto público. Revista Brasileira de Monitoramento e Avaliação, Brasilia. 2011;1:66-95. http://dx.doi.org/10.4322/rbma201101005
» http://dx.doi.org/10.4322/rbma201101005 -
26Jannuzzi PM, Sousa MF. Pobreza, desigualdade e mudança social no Brasil de 1992 a 2014: tendências empíricas para análise dos efeitos do Plano Brasil Sem Miséria e da Estratégia Brasileira de Desenvolvimento Inclusivo. Brasília; 2016. p. 22-55. (Caderno de Estudos Desenvolvimento Social em Debate; no. 25).
-
27Rossi P, Dweck E. Impactos do Novo Regime Fiscal na saúde e educação. Cad Saude Publica. 2016;32(12):1-5. http://dx.doi.org/10.1590/0102-311x00194316
» http://dx.doi.org/10.1590/0102-311x00194316 -
28Pardee Center. Sustainable development goals report: Brazil 2030. Final report. Denver: University of Denver; 2017.
-
29Programa das Nações Unidas para o Desenvolvimento. Relatório de desenvolvimento humano. New York: PNUD; 2014.
-
30Comissão Económica para a América Latina e Caraíbas. Panorama Social da América Latina e Caribe. Santiago: CEPAL; 2016.
-
31Food and Agriculture Organization of the United Nations. State of food insecurity in the world. Rome: FAO; 2014.
-
32Weiss C. Where politics and evaluation research meet. Eval Pract. 1993;14(1):93-106. http://dx.doi.org/10.1177/109821409301400119
» http://dx.doi.org/10.1177/109821409301400119 -
33Gadotti M. Prefácio: concepção dialética da avaliação. In: Demo P, editor. Avaliação qualitativa. Campinas: Autores Associados; 2002. p. IX-XIV.
-
34Marcuse H. A responsabilidade da ciência. Sci Stud [Internet]. 2009;7(1):159-64 [citado em 2019 Abr 22]. Disponível em: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1678-31662009000100008&lng=en&nrm=iso
» http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1678-31662009000100008&lng=en&nrm=iso
Datas de Publicação
-
Publicação nesta coleção
10 Dez 2021 -
Data do Fascículo
2021
Histórico
-
Recebido
14 Ago 2019 -
Aceito
06 Nov 2019