Prefeitura Municipal de Curitiba Instituto Municipal de Administrao Pblica IMAP rea: Desenvolvimento Social
Carlos Homero Giacomini Presidente Maria do Carmo A. de Oliveira Superintendente Elaine Rossi Ribeiro Diretora da EAP Elaborao: Lycia Tramujas Vasconcellos Neumann
Bahia. Secretaria de Planejamento Sistemtica de monitoramento e avaliao em programas e projetos governamentais. Salvador: SEPLAN/SGA, 2005. 66p. il. 1. Programa governamental Sistematizao. 2. Metodologia. 3. Tcnica de trabalho. I. Ttulo. CDU: 001.81(061)
Junho de 2006
Armando Avena
Secretaria da Agricultura, Irrigao e Reforma Agrria
APRESENTAO
Investir na institucionalizao do processo de monitoramento e avaliao (M&A) constitui um imperativo bsico para a conquista da excelncia dos servios prestados pelo Estado. O Governo da Bahia encontra-se engajado nesse movimento internacional e com a criao da Superintendncia de Gesto e Avaliao (SGA), no mbito da Secretaria do Planejamento (Seplan), manifestou a vontade poltica de disseminar a cultura da avaliao nas Secretarias e rgos do Estado, responsveis pelo planejamento e operacionalizao das polticas pblicas. O documento que se apresenta, constitui um referencial para ser utilizado como catalisador dos diversos instrumentos e prticas de monitoramento e avaliao utilizados pelos diferentes rgos gestores da administrao pblica estadual e est contem-
APRESENTAO
plado no Programa de Monitoramento e Avaliao, desenvolvido pela Seplan/SGA, tendo como um dos objetivos a criao de mecanismos essenciais para a gesto eficaz de programas e projetos estratgicos de Governo. A Sistemtica de Monitoramento e Avaliao , portanto, uma das ferramentas que dever ser utilizada para a medio do grau de eficcia, efetividade e eficincia das intervenes do Estado na sociedade.
SISTEMTICA SISTEMTICA DE MONITORAMENTO DE MONITORAMENTO E AVALIAO E AVALIAO EM PROGRAMAS EM PROGRAMAS E PROJETOS E PROJETOS GOVERNAMENTAIS GOVERNAMENTAIS
dos, subsidiando a tomada de deciso para o aperfeioamento do programa ou do projeto ao longo de sua execuo, com a descrio da seqncia de eventos relacionados, conectando o problema ou a oportunidade diagnosticada, com os resultados esperados. A ferramenta permite visualizar e compreender como os investimentos realizados na gerao de produtos (bens ou servios) podem contribuir para alcanar os objetivos planejados, servindo de base para a criao de procedimentos e processos de monitoramento e avaliao. O resultado esperado ser a criao de um sistema de monitoramento e avaliao mantido e alimentado por todas as Secretarias do Estado, constituindo um poderoso instrumento de planejamento. Espera-se que esta semente encontre um terreno frtil para sua germinao, produzindo bons frutos: a melhoria do nvel de excelncia dos servios pblicos.
PLANEJAMENTO
SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 6
APRESENTAO
Oferece ainda aos clientes da avaliao, um mapa dos caminhos a serem persegui-
SUMRIO
09 O processo de criao da sistemtica 11 A linguagem do monitoramento e avaliao 15 Aspectos conceituais 17 O processo em 12 passos 19 PASSO 1: Definio do programa ou projeto a ser avaliado 20 PASSO 2: Formao de equipe mista de avaliao e elaborao do plano de trabalho 22 PASSO 3: Identificao e entrevista com os potenciais clientes da avaliao 26 PASSO 4: Elaborao do Modelo Lgico de Gesto e Anlise de Avaliabilidade do Programa 28 PASSO 5: Anlise de Avaliabilidade
SUMRIO
29 PASSO 6: Definio do escopo da avaliao 32 PASSO 7: Anlise dos instrumentos e registros j disponveis do Programa 33 PASSO 8: Definio dos indicadores de monitoramento e avaliao a serem utilizados
37 PASSO 9: Definio e criao dos instrumentos para coleta de dados 40 PASSO 10: Coleta dos dados 42 PASSO 11: Tabulao e anlise dos dados coletados 46 PASSO 12: Elaborao e disseminao do Relatrio de Avaliao 47 Estrutura modelo do relatrio de avaliao 48 Concluso 49 Glossrio 53 Referncias Bibliogrficas
Anexos 54 ANEXO I Modelo Lgico de Gesto do Programa Cabra Forte 59 ANEXO II Questionrio para levantamento de informaes 62 ANEXO III Instrumento usado para anlise dos dados coletados sobre o Programa Cabra Forte
SUMRIO
O PROCESSO DE CRIAO
A construo da Sistemtica de Monitoramento e Avaliao em Programas e Projetos Governamentais teve como principio bsico a premissa de que o processo avaliativo de polticas pblicas permite aperfeioar a gesto das aes desenvolvidas por um governo para atender de modo eficiente e eficaz as demandas da sociedade e constitui uma ferramenta estratgica que permite conhecer, entender, decidir e planejar de modo aprimorado com o aprendizado do passado e do presente. O Programa de Monitoramento e Avaliao que vem sendo conduzido pela Secretaria do Planejamento, atravs da Superintendncia de Gesto e Avaliao, busca assegurar a eficcia das polticas pblicas, seus planos, programas, projetos e atividades e o bom uso dos recursos sob responsabilidade das organizaes. O Programa est estruturado em quatro estratgias que se complementam e vm gerando um conjunto diversificado de processos e produtos. A estratgia de formao visa sensibilizar e capacitar servidores estaduais para atuarem em monitoramento e avaliao de programas e projetos governamentais e a divulgao de experincias exitosas. A estratgia de informao tem por objetivo produzir, analisar e veicular informaes confiveis e tempestivas para subsidiar a tomada de deciso, a correo de procedimentos e a retroalimentao do processo de planejamento. Na estratgia de articulao/comunicao est sendo implementado um trabalho em parceria com as Secretarias e rgos estaduais, visando aperfeioar o formato e o fluxo das informaes das aes de Governo. Por fim, a estratgia de Planejamento, visa estimular boas prticas de planejamento focadas em resultado e resulta na construo das matrizes lgicas, onde esto explicitados os objetivos, atividades, produtos, resultados e impactos, com a definio dos respectivos indicadores para cada secretaria. A implementao destas estratgias j apresenta melhorias na qualidade da programao, execuo, monitoramento e avaliao das aes governamentais, contribuindo para uma maior racionalizao no ciclo de gesto do Estado.
A construo e implementao de uma sistemtica de monitoramento e avaliao em programas e projetos governamentais um dos componentes do Programa de M&A e apresenta-se como um pr-requisito bsico para o aperfeioamento do processo de gesto e para a criao das condies da retroalimentao da programao de Governo. Um outro determinante para a elaborao deste documento foi o compromisso em preencher uma lacuna na gesto pblica estadual, face inexistncia de uma cultura avaliativa e de uma sistemtica que oriente metodologicamente o processo de monitoramento e avaliao para a otimizao na utilizao dos recursos pblicos e na maximizao dos resultados. O documento foi construdo por uma equipe composta por representantes de diversas Secretarias, envolvidas na implementao do Programa selecionado, denominada Matricial, liderada pela Seplan/SGA, contando ainda com o apoio da Fundao Luis Eduardo Magalhes (FLEM). A adoo desta Sistemtica possibilitou, de um lado, produzir e testar metodologias e instrumentos de M&A capazes de medir o grau de eficincia, eficcia e efetividade das intervenes governamentais e, de outro lado, capacitar tcnicos da SGA e demais Secretarias e entidades responsveis pela concepo e implementao do Programa Cabra Forte, programa escolhido para testar a ferramenta da Sistemtica. Resultado de um trabalho prtico e participativo, a partir de discusses e contribuies de diversos profissionais do setor pblico estadual, em oficinas e reunies, foi possibilitado um aprendizado consistente sobre o assunto e a construo dos passos da metodologia. A elaborao do Modelo Lgico de Gesto de Programas e Projetos Governamentais (MLGP), um dos passos mais importantes para a utilizao desta Sistemtica, na medida que possibilita o compartilhamento de informaes sobre o real funcionamento de uma interveno governamental, atravs da explicitao das atividades planejadas e dos resultados esperados, demonstrando as premissas e os objetivos do programa a ser monitorado e avaliado. importante registrar que este documento constitui-se em um primeiro esforo de construo metodolgica para nortear as prticas de M&A no Estado, contribuindo para a disseminao dos aspectos tericos e processuais na gesto dos programas e projetos governamentais.
10
O PROCESSO DE CRIAO
Apesar da crescente disseminao de trabalhos de monitoramento e avaliao em instituies pblicas e privadas do Brasil e do mundo, ainda encontramos muito dissenso sobre alguns dos seus principais conceitos. Assim, torna-se imprescindvel na elaborao de qualquer sistemtica de monitoramento e avaliao, uma definio prvia dos conceitos a serem adotados ao longo do trabalho. No incio deste projeto foi realizada uma oficina de Alinhamento Conceitual onde foram apresentadas definies dos termos monitoramento e avaliao adotados por organizaes nacionais e internacionais. A partir de uma sntese dessas definies, foi elaborado o quadro abaixo que ressalta as diferenas entre os dois instrumentos: Monitoramento
Atividade de gesto interna e contnua. Acontece durante a implementao do programa ou projeto. Compara o que est sendo realizado com o que foi planejado.
Avaliao
Atividade interna ou externa. Pode acontecer antes, durante ou depois da implementao de um programa ou projeto. Com base em dados levantados pelo monitoramento e outras fontes, julga o desempenho de um projeto de acordo com critrios pr-estabelecidos, tais como: eficcia, eficincia, efetividade, sustentabilidade, dentre outros.
Foram tambm analisados diferentes tipos de avaliao e seus objetivos, ficando ento definido que a Sistemtica aqui apresentada ser instrumento para a realizao de avaliaes com as seguintes caractersticas: Interna (Internal Evaluation) conduzida por membros das organizaes associadas ao programa, projeto ou objeto que est sendo avaliado.
11
Formativa (Formative Evaluation) utilizada durante a implementao de um programa ou projeto, para fornecer informaes que permitam o seu aprimoramento. Avaliaes Formativas so usadas para dar um retorno s equipes tcnicas sobre os componentes do programa/projeto que esto funcionando e aqueles que precisam ser modificados. De Programas ou Projetos (Program Evaluation) utilizada para determinar se os objetivos, formato e resultados do programa ou projeto esto adequados, assim como seu grau de eficincia, eficcia e efetividade na aplicao dos recursos. Dentro do ciclo governamental de criao e execuo de polticas e programas, esta Sistemtica visa realizao de avaliaes de processo e resultados de programas em fase de implementao, conforme demonstrado na figura a seguir:
Avaliao prvia
Avaliao de processo
Avaliao de resultados
Avaliao final
Avaliaes de processo e resultados podem acontecer simultaneamente, complementando-se na funo de orientar as equipes gestoras para maior compreenso do programa, seu funcionamento e seus resultados junto ao pblico-alvo. A avaliao de processo visa determinar o grau em que o programa est operando conforme planejado. Este tipo de avaliao tem como objetivo entender o funcionamento do programa a partir da anlise do que ele faz e de quem so seus beneficirios para, assim, aprimorar suas aes. A avaliao de processo tambm ajuda na identificao dos elementos essenciais para o melhor desempenho do programa em termos de produtos, resultados e impactos. Em geral, responde a perguntas em duas categorias cobertura e processo. Cobertura: analisa o alcance do programa e as caractersticas dos beneficirios. Processo: analisa a consistncia do programa e a qualidade de sua implementao.
13
A avaliao de resultados analisa em que grau o programa vem produzindo os benefcios e transformaes a que se prope. As atividades de um programa produzem trs tipos de resultado: produtos (outputs), resultados (outcomes) e impactos (impact). Atividades: procedimentos do programa que so mobilizados visando obteno dos efeitos desejados (como o treinamento de produtores, perfurao de poos, etc.). Produtos: efeitos imediatos de cada atividade do programa (como o nmero de pessoas capacitadas, aulas dadas, materiais produzidos, etc.). Resultados: impactos de curto prazo, resultado direto do programa nos seus beneficirios (normalmente referem-se a mudanas de conhecimento, habilidades, comportamento e valores). Impactos: benefcios e transformaes de mdio e longo prazo para os participantes e beneficirios indiretos do programa (suas famlias e comunidades).
ASPECTOS CONCEITUAIS
ASPECTOS CONCEITUAIS
A metodologia utilizada nesta Sistemtica de Monitoramento e Avaliao baseiase em alguns conceitos, princpios e prticas mundialmente adotados por instituies e profissionais da rea. Trs foram os principais princpios norteadores deste trabalho: 1. A avaliao deve ser um instrumento de gesto, desde a sua elaborao at o futuro uso de seus resultados. 2. O valor da avaliao est na sua utilidade, na sua capacidade de atender s necessidades de informao de seus usurios. 3. O processo de avaliao deve ser construdo e implementado de maneira compartilhada pelos avaliadores com a equipe tcnica executora do programa. Estes princpios baseiam-se em conceitos de Michael Quinn Patton, ex-presidente da Associao Americana de Avaliao (American Evaluation Association). Em sua obra Avaliao com Foco na Utilizao (Utilization-focused Evaluation), Patton refora a idia de que avaliaes deveriam ser julgadas pela sua utilidade e real uso. Visando garantir esta utilidade, Patton defende a prvia identificao e engajamento dos usurios da avaliao, pois, segundo ele, mais provvel que os potenciais clientes da avaliao a utilizem se eles compreenderem e se apropriarem do processo de avaliao e seus resultados2.
2
Patton, Michael Quinn. (1997). Utilization-focused evaluation: the new century text. Londres: Sage Publications.
15
OBJETIVOS
A Sistemtica de Monitoramento e Avaliao tem como objetivos: 1. Proporcionar avaliaes peridicas do desempenho dos programas, instrumentalizando as equipes do Governo na gesto de recursos e obteno de resultados mais efetivos. 2. Incorporar a atividade de monitoramento e avaliao como um instrumento de rotina em programas governamentais.
Para estar apta a coordenar as atividades, a equipe Matricial deve ser capacitada em temas como: Os mitos sobre avaliao; Os principais conceitos e tipos de avaliao; A lgica e os valores da avaliao; A avaliao com foco na utilizao seus passos e desafios; Os princpios da avaliao participativa; A relao entre polticas, programas e projetos; A anlise de avaliabilidade; O modelo lgico de gesto do programa sua funo e seus componentes.
16
ASPECTO CONCEITUAIS
17
ASSOS P 2 1 M E O O PROCESS
gia uma metodolo o a li a v to e A 3 permite onitoramen M e d a c Governo . Ela ti o d s m co te gi is t S ra A jetos est aes governarogramas e pro as p d o m h e n a e p ad m lic se bre o de para ser ap mada de informaes so e d a ic bsidiando a to d su , ri o e p o cu e x n e te a ob a da nto da sua do na melhori o aprimorame an o lt d n su ia re ic , p m ro si p mentais, cerias e, as projetos e par s vo o n a to cional. deciso quan ttico e opera , artir da co gi t ra st e eis s 12 passos a p o id fin e d m ra gesto nos nv tica, fo o desta Sistem a lic ap a ar lit ci e. Para fa ama Cabra Fort gr ro P o m co to vivida experincia-pilo
A Sistemtica aqui apresentada pode ser aplicada tanto a programas quanto a projetos governamentais. Neste roteiro, o termo programa usado de maneira generalizada, representando programas e projetos.
18
O PROCESSO EM 12 PASSOS
PASSO 1:
O processo de avaliao de um programa complexo e exige bastante dedicao no s dos avaliadores, mas tambm da equipe gestora. Por isso, a deciso de avaliar determinado programa deve ser tomada a partir do comprometimento de todos os envolvidos na sua execuo. A definio de critrios tcnicos para auxiliar na deciso de qual programa dever ser avaliado, ajuda no estabelecimento das diretrizes do trabalho e alinha o entendimento de todos os participantes sobre a importncia do estudo avaliativo a ser desenvolvido. Entre os critrios que podem ser adotados na seleo de programas a serem avaliados esto: Prioridade do tema: grau de importncia do tema foco do programa. Clareza de foco: grau de clareza dos objetivos do programa. Visibilidade: grau de visibilidade do programa para a populao da Bahia.
PASSO 1
Interesse dos gestores e responsveis institucionais em avaliar: grau de interesse em avaliar o programa. Concordncia: grau de entendimento entre os gestores envolvidos quanto aos objetivos, metas e resultados. Conhecimento: existncia de informaes que permitam o acompanhamento da execuo fsica e financeira. Volume de recursos oramentrios: recursos oramentrios disponveis para o programa.
19
PASSO 2:
A metodologia adotada nesta Sistemtica prev a formao de uma equipe mista de avaliao, formada por avaliadores da prpria unidade gestora do programa a ser avaliado, equipe tcnica do programa e, se necessrio, consultores externos contratados. A Seplan dar o apoio em todo o processo de avaliao quanto aos procedimentos, normas e nas atividades relativas ao planejamento, articulao e gesto da informao. No caso de avaliao de programas multisetoriais, todas as Secretarias e rgos envolvidos na execuo do programa devero estar representados na equipe mista de avaliao. Desta forma, garante-se que todas as perspectivas setoriais sero consideradas no estudo. A primeira tarefa a ser executada pela equipe mista de avaliao a elaborao do plano de trabalho para a aplicao da Sistemtica de Monitoramento e Avaliao no programa escolhido. A partir de informaes do programa a ser avaliado e da disponibilidade de recursos (humanos, financeiros e de tempo) a equipe dever detalhar as etapas apresentadas neste roteiro, definindo prazos e responsveis.
20
SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS
Principais Funes da Equipe Mista de Avaliao: Articular o processo avaliativo com os interesses e necessidades dos potenciais clientes da avaliao; Participar da elaborao do Modelo Lgico de Gesto do Programa e da definio do escopo da avaliao; Coletar, analisar e sistematizar as informaes sobre o desempenho do programa para garantir seu contnuo monitoramento; Elaborar relatrios de avaliao do programa com recomendaes para seu aprimoramento.
PASSO 2
PLANO DE TRABALHO
PLANO DE TRABALHO
12. Elaborao e disseminao do Relatrio de Avaliao 11. Tabulao e anlise dos dados coletados 10. Coleta de dados 9. Criao dos instrumentos para coleta de dados 8. Definio dos indicadores de M&A 7. Anlise de instrumentos de M&A e registros existentes 6. Definio do escopo de avaliao 5. Anlise das expectativas dos clientes de avaliao 4. Elaborao do Modelo Lgico de Gesto
3. Entrevista com potenciais clientes de avaliao 2. Formao da equipe mista de avaliao 1. Definio do programa a ser avaliado
21
PASSO 3:
Os potenciais clientes de uma avaliao so as pessoas e grupos que so afetados pelos seus resultados, esto em posio de tomar decises sobre a avaliao, e pretendem usar as informaes sobre o processo e os resultados da avaliao para definir futuras aes. A equipe de avaliao dever definir no incio dos trabalhos quem so os potenciais clientes da avaliao e entrevist-los para conhecer suas expectativas e necessidades de informao que o estudo avaliativo dever atender.
22
PASSO 3
MODELO DE QUESTIONRIO A SER APLICADO COM OS CLIENTES DA AVALIAO. Com relao avaliao do programa:
1. Quais so as suas expectativas sobre o processo e os resultados desta avaliao? 2. Como esta avaliao poderia contribuir para o aperfeioamento deste projeto? 3. Quais perguntas voc gostaria que fossem respondidas por esta avaliao? 4. De que maneira as respostas a essas perguntas ajudariam no seu trabalho? 5. Quais decises os resultados da avaliao poderiam influenciar? 6. Que dados e informaes so necessrios para esta tomada de deciso? 7. Quem deveria estar envolvido no processo de avaliao para orient-lo quanto s suas expectativas? 8. Como ns poderemos saber no futuro se esta avaliao foi til? 9. Outras informaes e comentrios?
PASSO 3
23
As informaes coletadas junto aos potenciais clientes da avaliao devero ser tabuladas e analisadas de maneira a orientar a definio do escopo da avaliao a ser realizada. Este processo de tabulao e anlise dever ser feito em trs etapas: 1. Despersonalizao das informaes. 2. Tabulao por categoria de anlise. 3. Priorizao das expectativas e perguntas de avaliao.
24
PASSO 3
Que evidencie os resultados (positivos ou no) das intervenes, e se os investimentos realizados atendem s necessidades e expectativas dos pequenos criadores de caprinos e ovinos; Que demonstre se o Programa est alcanando os objetivos preconizados, ou seja, a melhoria da qualidade de vida da populao e da regio; Que analise at que ponto o Programa atende s necessidades dos beneficirios; Que analise o desempenho do Programa. Quanto aos resultados: Que possibilite maior registro e disseminao para conscientizao das equipes sobre os trabalhos que esto sendo realizados; Que possibilite a transparncia, eficincia e eficcia dos recursos aplicados nos projetos do Governo; Que as equipes internalizem os conceitos de avaliao e passem a v-los como instrumentos de gesto, para o aprimoramento e reconhecimento de seus esforos; Que possibilite a melhoria do fluxo de informaes entre as equipes de trabalho; Que tenha continuidade no processo de avaliao da ao governamental; Que tenha continuidade para que a metodologia seja preservada e se tenha registro de sries histricas. Quanto ao futuro uso: Que sirva de subsdio para o planejamento estadual e para a tomada de decises quanto a novos financiamentos e parcerias; Que leve correo dos desvios identificados e subsidie outros programas.
PASSO 3
25
PASSO 4:
O Modelo Lgico de Gesto do Programa (MGLP) um instrumento visual e sistmico de apresentao e compartilhamento de informaes sobre os recursos alocados em um programa, as atividades previstas, os produtos e as mudanas que se esperam alcanar no curto, mdio e longo prazo. De forma simples, o MLGP retrata um programa conforme ele vem sendo executado, facilitando a comunicao sobre o seu propsito fundamental e tornando-se um ponto de referncia para todos os envolvidos na sua implementao. importante sinalizar que apenas as atividades prioritrias para o desenvolvimento do programa devero ser includas no Modelo Lgico de Gesto. Oficinas devero ser realizadas com os principais responsveis pela execuo do programa a ser avaliado, para construo conjunta do MLGP . Apresenta-se a seguir a sugesto da estrutura do Modelo Lgico de Gesto a ser adotado nesta Sistemtica, e sua lgica de leitura.
26
PASSO 4
PASSO 4
27
PASSO 5:
Anlise de avaliabilidade
A anlise de avaliabilidade tem por objetivos buscar informaes sobre o formato do programa, explorar sua realidade e ajudar a conhecer sua estrutura, antes que seja feita a avaliao de seus resultados. Ela ajuda a definir se o programa pode ser efetivamente avaliado e se sua avaliao contribuiria para melhorar seu desempenho. Sendo uma espcie de pr-avaliao, esta anlise traz benefcios como: prevenir o desperdcio de recursos com avaliao; ajudar os potenciais clientes da avaliao a formularem perguntas avaliativas importantes e significativas; facilitar o consenso entre avaliadores e equipe tcnica do programa sobre o objeto e escopo da avaliao a ser realizada, e a metodologia que ser adotada. Realizada com base no Modelo Lgico de Gesto, a anlise de avaliabilidade deve buscar responder a cinco questes bsicas: 1. Quais so os principais componentes do programa? 2. Quais so os principais objetivos e metas do programa? 3. As pessoas envolvidas na gesto no programa concordam com seus objetivos? 4. Existe uma conexo lgica entre os objetivos, atividades e resultados esperados? 5. Quais seriam os melhores indicadores e/ou critrios para avaliar o alcance dos objetivos? Se no houver consenso sobre o que o programa e seus principais componentes, ele ainda no pode ser avaliado.
28
PASSO 5
PASSO 6:
O escopo da avaliao uma combinao de sua(s) principal(is) finalidade(s) e do foco que o estudo dever ter, ou seja, as perguntas avaliativas que dever responder para cumprir esta finalidade. Vale destacar que o foco de todo processo avaliativo deve estar na sua utilidade para os tomadores de deciso e gestores do programa. Para garantir que a avaliao possa ser um efetivo instrumento gerencial, fundamental que se tenha clareza sobre o objeto a ser avaliado e sobre as expectativas dos seus principais usurios, os potenciais clientes da avaliao. A partir destas expectativas com relao aos produtos, resultados e futuro uso da avaliao, pode-se definir a(s) sua(s) principal(is) finalidade(s). E ento, todo o processo de definio de indicadores e criao de instrumentos dever ser realizado de maneira a garantir o alcance desta(s) finalidade(s). A definio das perguntas avaliativas dever ser feita a partir da anlise das perguntas trazidas pelos potenciais clientes sob a tica dos critrios de avaliao a
PASSO 6
29
30
PASSO 6
As perguntas avaliativas devero ser sintetizadas segundo os seguintes critrios de avaliao: Eficcia expressa o grau em que o programa realiza o que havia sido proposto, alcanando suas metas e objetivos; Eficincia estabelecida pela menor relao custo x beneficio possvel para a realizao das atividades e alcance dos objetivos do programa; Efetividade o grau em que o programa alcana os resultados e impactos pretendidos junto ao seu pblico-alvo.
PASSO 6
31
PASSO 7:
Parte importante das informaes que subsidiam a avaliao de eficcia e eficincia de um programa vem dos registros administrativos gerados ao longo de sua execuo. A partir do registro sistematizado das atividades, seus principais produtos e custos, a equipe gestora do programa dispe de dados para comparar o realizado com o previsto em determinado perodo, monitorando, assim, o desempenho do programa. O levantamento e anlise dos registros administrativos antecede e subsidia a montagem dos instrumentos de monitoramento. Da a necessidade de registros confiveis, tempestivos, teis e bem estruturados. Nesta etapa do trabalho devero ser analisados os modelos de registro das realizaes j em uso pela equipe gestora e pelos tcnicos, nos vrios nveis de execuo do programa. Essa pesquisa fornecer aos avaliadores importantes informaes sobre falhas ou inadequao dos instrumentos de registro e dos processos de sistematizao dessas informaes. A partir do que j existe, de seu funcionamento e uso, os avaliadores podero propor formas de aprimorar o fluxo de informaes, de maneira que permita realizaes peridicas de avaliaes sobre o desempenho do programa. Para checagem e complementao das informaes necessrio, no entanto, que se apliquem tambm outros instrumentos quantitativos e qualitativos junto aos beneficirios do programa e aos atores intermedirios no seu processo de execuo. O diagrama a seguir retrata o fluxo de informaes proposto por esta Sistemtica de Monitoramento e Avaliao:
32
PASSO 7
PASSO 8:
Indicadores so medidas quantitativas e/ou qualitativas que funcionam como um termmetro do progresso de um programa, indicando os avanos obtidos em relao aos objetivos e metas traados. Como o prprio nome sugere, so sinalizadores que buscam expressar algum aspecto da realidade, de forma que possamos observ-lo ou mensur-lo. Indicadores de desempenho so usados para verificar e mensurar os possveis impactos, resultados, produtos, processos e recursos alocados em um programa, permitindo, assim, seu moni-
PASSO 8
toramento e avaliao. A partir do que se quer avaliar, ou seja, das perguntas avaliativas e da anlise dos principais componentes do programa apresentados no seu Modelo Lgico de Gesto, devem ser definidos os indicadores de desempenho a serem utilizados para o monitoramento e avaliao do programa.
33
Nesta etapa, fundamental que se realize um exerccio para a seleo dos indicadores a serem utilizados e a definio de seus respectivos descritores. Os descritores so fundamentais para garantir a uniformidade de conceitos e um entendimento compartilhado sobre o que ser medido. O Descritor do Indicador traduz em linguagem simples e objetiva o que est sendo medido. Seu uso garante o alinhamento de conceitos entre os responsveis pela coleta dos dados, dando maior consistncia s informaes produzidas pela avaliao. Alm disso, deve-se tambm, definir as principais fontes de informao para a obteno dos dados necessrios composio de cada indicador e a periodicidade com que esta informao pode ser obtida. O quadro a seguir exemplifica como este exerccio pode ser realizado:
34
PASSO 8
PASSO 8
35
Objetivo Especfico: Ampliar e melhorar a oferta de gua para os produtores. Estratgia: 1.1. Disponibilizar ponto de gua confivel para grupos de 15 a 20 produtores.
Componentes a Serem Avaliados Indicadores de Desempenho Descritor dos Indicadores Periodicidade da Informao 1. Mensal Fonte de Informao Tcnicos da Cerb
1.1.1 Perfurao e recuperao de poos tubulares Poos instalados Produtores beneficiados/ Comunidades de abrangncia Produo de gua
1. N de Sistemas Simplificados de Abastecimento de gua (SSAA) entregues comunidade a partir de poos, em condies de oferecer gua em quantidade e qualidade adequadas para consumo animal. 2. Produtores pertencentes s 2. N de produtores beneficiados/ comunidades do Programa comunidade (grupo de produtores) / beneficiados com os novos poos municpio/ plo instalados. 3. Capacidade potencial de produo 3. Produo potencial de gerao de de gua dos poos instalados, gua disponvel por poo instalado / medida em m/hora. comunidade / municpio / plo 4. Produo efetiva de gerao de 4. Capacidade real de produo de gua disponibilizada por poo instalado/ comunidade / municpio / gua dos poos instalados, medida plo por m/hora.
2. Mensal
3. Mensal (dos novos poos instalados) 4. Mensal (dos novos poos instalados).
36
PASSO 8
PASSO 9:
A definio dos instrumentos para a coleta de dados a serem utilizados no estudo avaliativo depende da escolha do tipo de abordagem que se quer adotar. Abordagens quantitativas tm a vantagem de permitir mensurao, comparao e generalizao das informaes obtidas, no entanto as abordagens qualitativas permitem uma anlise mais aprofundada das experincias estudadas. Os mtodos de coleta de dados quantitativos mais comumente utilizados so a pesquisa de dados disponveis em sistemas de acompanhamento e monitoramento do programa, e a aplicao de questionrios ou formulrios junto aos beneficirios e atores intermedirios da sua execuo. No caso de abordagens qualitativas, os mtodos de coleta de dados mais usados so entrevistas, grupos focais e observao direta. Cada instrumento criado dever ser pr-testado para anlise de sua consistncia e clareza, e avaliao da relevncia e viabilidade dos dados por ele coletados. Uma simulao da tabulao e anlise dos dados coletados no pr-teste tambm ajuda no aprimoramento do instrumento antes da sua aplicao generalizada. O sucesso desta etapa fundamental para a realizao de uma avaliao que permita uma utilizao plena de seus resultados. No basta escolher bons indicadores tericos e de aplicaes gerais, torna-se imprescindvel a relevncia, bem como pertinncia ao objeto avaliado e, sobretudo, a operacionalidade, sem implicar em excessos de utilizao de recursos (tempo, recursos financeiros e recursos humanos).
PASSO 9
37
38
PASSO 9
Para uma completa visualizao das realizaes do Programa, foi acordado com a equipe Matricial que os dados seriam coletados nos seguintes nveis de desagregao: por plo do Programa por municpio atendido por comunidade beneficiada por grupos de produtores beneficiados Desta maneira, as informaes poderiam ser espacializadas e consolidadas nos diferentes nveis de execuo do Programa, permitindo comparaes sobre as realizaes e alocaes de recursos.
COMPONENTES
INDICADORES
N de poos instalados no perodo/ comunidade/ municpio/ plo. Meta de instalao de poos no perodo/ comunidade/ municpio/ plo. N de produtores beneficiados/ comunidade (grupo de produtores)/ municpio/ plo. Meta de produtores a serem beneficiados com poos no perodo/ comunidade/ municpio/ plo. Capacidade potencial de produo de gua dos poos instalados (em m/hora)/ poo/ comunidade/ municpio/ plo. Capacidade real de produo de gua dos poos instalados (em m/hora)/ poo/ comunidade/ municpio/ plo. Custo de instalao dos poos no perodo/ comunidade/ municpio/ plo.
Eficcia: N poos instalados x n previsto N de produtores beneficiados x n previsto Espacializao dos poos instalados Espacializao dos produtores beneficiados Produo potencial de gerao de gua disponvel nos poos instalados Produo efetiva de gerao de gua disponibilizada nos poos instalados Eficincia: Produo potencial de gerao de gua x produo efetiva de gerao de gua disponibilizada nos poos instalados Custo de produo da gua com poo x N de produtores atendidos
PASSO 9
39
O processo de coleta dos dados deve ser planejado a partir da definio dos instrumentos que sero utilizados, das informaes que sero pesquisadas e do prazo de que se dispe para a obteno dessas informaes. A caracterstica da populao-alvo, a caracterstica espacial e os indicadores de desempenho fsico-financeiro so dados relevantes para serem coletados. As primeiras informaes a serem levantadas dizem respeito ao processo de execuo do programa e seus produtos. A partir dos dados sobre as realizaes do programa, obtidos no sistema de monitoramento e de outras fontes de informaes, os avaliadores podero coletar os indicadores de eficcia e eficincia definidos. Os indicadores de eficcia e eficincia so obtidos, freqentemente, a partir dos registros administrativos do prprio programa. J os indicadores de efetividade, exigem seu levantamento direto junto populao beneficiria ou a registros censitrios. Na coleta de dados com beneficirios do programa, pode-se optar pela pesquisa com toda a populao a ser estudada ou por amostragem. Censos demogrficos e econmicos, relatrios de acompanhamento da execuo fsico-financeira, relatrios de avaliaes anteriores, artigos ou informaes de divulgao, so fontes que podem ser consultadas para o levantamento das informaes. Nesta etapa, importante dispor de um banco de dados de registros administrativos consistente com o MLGP . necessrio tambm, capacitar os executores do programa, especialmente os tcnicos responsveis pela obteno das informaes primrias.
40
PASSO 10
PASSO 10
41
Todos os dados devem ser tabulados, ou seja, organizados de maneira a facilitar a sua interpretao e anlise, tendo em vista as perguntas avaliativas a serem respondidas. A tabulao e anlise dos dados sero decorrentes da sua natureza: quantitativos ou qualitativos. Em uma avaliao, os textos e observaes coletados vm de vrias fontes como: respostas a perguntas abertas de questionrios, transcries de grupos focais ou entrevistas, roteiros de observao de casos, ou, ainda, resumos de relatrios e documentos pesquisados. Tanto as fontes de informaes, como as tcnicas quantitativas e qualitativas utilizadas para a coleta de dados, devem ser combinadas para uma compreenso mais abrangente do programa. As informaes sobre o previsto e o realizado, os principais produtos entregues aos beneficirios, e a espacializao destas realizaes, so dados importantes para subsidiar a avaliao de desempenho do programa.
42
PASSO 11
PASSO 11
43
44
PASSO 11
INDICADOR DE EFETIVIDADE
PASSO 11
45
Toda avaliao deve resultar em um relato claro e objetivo sobre o processo e os resultados obtidos quanto ao desempenho do programa analisado. Estas informaes devem ser disseminadas entre os principais clientes da avaliao de maneira a influenciar futuras decises quanto ao aprimoramento do programa ou ao estabelecimento de novas diretrizes de ao. A comunicao dos resultados de uma avaliao pode ser feita de forma oral ou escrita, mas deve sempre ser simples, direta e livre de jarges. A nfase deve estar nos importantes resultados obtidos e nas recomendaes, sempre com o foco nos principais clientes da avaliao, suas expectativas e necessidades de informao.
46
PASSO 12
ESTRUTURA MODELO
1. Capa ttulo do relatrio, autores, instituies patrocinadoras/ participantes, lugar e data. 2. ndice captulos e subcaptulos do relatrio. 3. Crditos agradecimento a todas as pessoas e instituies que possibilitaram a realizao do estudo. 4. Resumo Executivo apresentao do estudo incluindo objetivos, metodologia adotada, principais resultados encontrados, concluses/ recomendaes. Deve ter no mximo quatro pginas. 5. Introduo contexto e antecedentes da avaliao: caracterizao do problema, justificativa do estudo, finalidade da avaliao, perguntas avaliativas e circunstncias especiais. 6. Metodologia desenho da avaliao: coleta e anlise dos dados e limitaes. Texto curto com maior detalhamento nos anexos (cpias dos instrumentos utilizados, clculo de tamanho de amostra, etc.). 7. Resultados principais resultados encontrados e apresentados em grficos e tabelas com breve anlise. 8. Concluses sntese dos dados encontrados e apresentados de maneira a responder s perguntas avaliativas. 9. Recomendaes prescrio do que deve ser feito a partir das concluses do estudo. O nvel de detalhamento das recomendaes depende da finalidade da avaliao e do perfil dos seus clientes. 10. Referncias Bibliogrficas identificao de todo o aporte bibliogrfico que norteou a avaliao. 11. Anexos instrumentos para a coleta dos dados utilizados, procedimentos metodolgicos adotados, dados adicionais obtidos ou com maior desagregao, entre outros documentos relevantes.
SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS
47
CONCLUSO
Buscando instrumentalizar as equipes gestoras dos programas e projetos estratgicos do Governo do Estado da Bahia, a Secretaria do Planejamento e a Fundao Luis Eduardo Magalhes criaram e testaram uma Sistemtica de Monitoramento e Avaliao. Testada no Programa Cabra Forte, programa multisetorial que visa melhorar a qualidade de vida de 26.000 pequenos produtores rurais e suas famlias, atravs do aumento da renda proveniente da ovinocaprinocultura, a Sistemtica aqui apresentada tem o objetivo de ser disseminada entre as equipes das Secretarias e rgos Governamentais do Estado. A partir da compreenso das etapas que levaram a construo desta metodologia de monitoramento e avaliao, as equipes podero implant-la em outros programas e projetos seguindo o roteiro apresentado neste Guia. Capacitaes, orientaes e acompanhamento peridico devero ser oferecidos por avaliadores da Seplan aos rgos Gestores, no sentido de garantir a implantao desta Sistemtica de forma gradual, consistente e efetiva. A disseminao dos conceitos, princpios, processos e instrumentos, permitir que tcnicos dos nveis estratgico, ttico e operacional do Governo estejam constantemente informados sobre o desempenho dos programas e projetos sob sua responsabilidade. Ao fazer do monitoramento e da avaliao efetivos instrumentos de gesto, o Governo do Estado da Bahia demonstra sua preocupao com o aprimoramento da habilidade gerencial de suas equipes, visando aumentar a eficcia, eficincia e efetividade das suas polticas, programas e projetos.
48
CONCLUSO
GLOSSRIO
Acompanhamento / Monitoramento
Exame contnuo ou peridico realizado pela administrao, em todos os nveis hierrquicos, do modo como se est executando um projeto ou atividade. Tem como objetivo prover os gestores e principais stakeholders com regular feedback e indicaes do progresso ou possveis falhas no alcance dos resultados esperados. O termo acompanhamento freqentemente tem sido associado a um mero registro contbil. Entretanto, preciso considerar que o acompanhamento tem necessariamente que produzir informaes teis para o gerenciamento do projeto ou atividade.
concorrem para a manuteno e o funcionamento de rgos e entidades governamentais e para a prestao de servios pblicos utilizados pela populao.
Avaliao
Apreciao sistemtica e objetiva do valor ou mrito de um projeto, programa ou poltica, antes, durante ou aps a interveno, quanto sua concepo, execuo e resultados. Tem como propsito determinar a pertinncia, eficincia, eficcia, efetividade, impacto e sustentabilidade da interveno.
Avaliao de Processo
Visa determinar o grau em que o programa est operando conforme planejado. Este tipo de avaliao tem como objetivo entender o funcionamento do programa a partir da anlise do que ele faz e de quem so seus beneficirios para, assim, aprimorar suas aes. A avaliao de processo tambm ajuda na identificao dos elementos essenciais para o melhor desempenho do programa em termos de produtos, resultados e impactos. Em geral, responde a perguntas em duas categorias cobertura e processo.
Anlise de Avaliabilidade
GLOSSRIO
Tem por objetivos buscar informaes sobre o formato do programa, explorar sua realidade e ajudar a conhecer sua estrutura, antes que seja feita a avaliao de seus resultados.
Avaliao de Resultados
Analisa em que grau o programa vem produzindo os benefcios e transformaes a que se prope. As atividades de um programa produzem trs tipos de resultado: produtos (outputs), resultados (outcomes) e impactos (impact).
Atividades
Procedimentos do programa que visam obteno dos efeitos desejados. Do ponto de vista da programao oramentria um conjunto de operaes que se realizam de modo contnuo e que
49
Avaliao Participativa
Avaliao coletiva de um projeto ou programa, realizada pelos stakeholders ou beneficirios. So avaliaes reflexivas, pr-ativas, que visam capacitar os envolvidos no programa e tm como principal objetivo atender as necessidades de informao dos stakeholders.
Avaliao Externa
Avaliao conduzida por um ou mais avaliadores que no esto diretamente envolvidos na formulao, implementao e/ou gerenciamento do objeto da avaliao. Normalmente realizada por pessoas de fora da organizao envolvida. tambm chamada de avaliao independente.
Beneficirios
Indivduos, grupos ou organizaes que se beneficiam do programa ou projeto direta ou indiretamente, intencionalmente ou no.
Avaliao Formativa
Refere-se ao processo de execuo do programa, servindo para melhorar seu funcionamento. So modalidades complementares a serem utilizadas de acordo com cada situao concreta.
Cobertura
Analisa o alcance do programa e as caractersticas dos beneficirios.
Avaliao Interna
Avaliao conduzida por membros de organizaes associadas com o programa, projeto ou objeto que est sendo avaliado.
50
GLOSSRIO
Descritor do Indicador
Traduz em linguagem simples e objetiva o que est sendo medido. Seu uso garante o alinhamento de conceitos entre os responsveis pela coleta dos dados, dando maior consistncia s informaes produzidas pela avaliao.
Impacto
Benefcio e transformao de mdio e longo prazo para os participantes e beneficirios indiretos do programa (suas famlias e comunidades).
Indicador
Medida quantitativa e/ou qualitativa que funciona como um termmetro do progresso de um programa, indicando os avanos obtidos em relao aos objetivos e metas traados.
Desempenho
O grau com que um programa ou projeto implementado de forma eficaz, eficiente e efetiva.
Efeito
Mudana esperada ou no, direta ou indiretamente atribuda a uma interveno.
Indicador de desempenho
Usado para verificar e mensurar os possveis impactos, resultados, produtos, processos e recursos alocados em um programa, permitindo assim seu monitoramento e avaliao.
Efetividade
O grau em que o programa alcana os resultados e impactos pretendidos junto ao seu pblico-alvo.
Eficcia
GLOSSRIO
Expressa o grau em que o programa realiza o que havia sido proposto, alcanando suas metas e objetivos.
Eficincia
Estabelecida pela menor relao custo x benefcio possvel para a realizao das atividades e alcance dos objetivos do programa.
Objetivo
Situao futura desejada com a execuo de programa, projeto ou atividade, descrita com conciso e preciso e sempre mensurvel por um indicador, que expressa o produto ou resultado esperado sobre o pblico-alvo.
Estudos de Base
Anlise que descreve a situao antes do lanamento de uma interveno de desenvolvimento, a qual se podem fazer comparaes ou apreciar os progressos.
Pressupostos (Hipteses)
Suposies sobre fatores ou riscos que podem ter repercusses na evoluo ou no sucesso da interveno de desenvolvimento.
51
Processo
Analisa a consistncia do programa e a qualidade de sua implementao.
Retroalimentao (Feedback)
Transmisso das constataes resultantes do processo de avaliao a todos os que podem tirar lies teis e pertinentes das mesmas, com o objetivo de facilitar a aprendizagem. Isto pode implicar reunir e difundir as constataes, concluses, recomendaes e lies aprendidas.
Produto
Efeito imediato de cada atividade do programa.
Programa
o instrumento de organizao da ao governamental com vistas ao enfrentamento de um problema, atendimento a uma demanda ou o aproveitamento de uma oportunidade.
Stakeholders
Grupos que tem um papel ou interesse nos objetivos e implementao de um programa ou projeto. Incluem o pblico-alvo, os beneficirios diretos, os responsveis por garantir que os resultados sero alcanados conforme planejado, e os responsveis por prestar contas dos recursos alocados nos trabalhos.
Projeto
Instrumento de programao oramentria para alcanar o objetivo de um programa, envolvendo um conjunto de operaes, limitadas no tempo, das quais resulta um produto que concorre para a expanso ou aperfeioamento da ao de Governo.
Sustentabilidade
Continuao dos benefcios resultantes de uma interveno de desenvolvimento mesmo aps a sua concluso. Probabilidade de os benefcios perdurarem no longo prazo. Situao em que as vantagens lquidas so suscetveis de resistir aos riscos ao longo do tempo.
Pblico-alvo
Conjunto de pessoas, famlias, comunidades, instituies ou setores que sero atingidos pelo programa.
Recursos (Inputs)
Meios financeiros, humanos e materiais usados para uma interveno de desenvolvimento.
Resultado
Impacto de curto prazo causado pelo diretamente pelo programa nos seus beneficirios (normalmente referem-se a mudanas de conhecimento, habilidades, comportamento e valores).
52
GLOSSRIO
REFERNCIAS BIBLIOGRFICAS
Alberta Consultative Health Research Network. (2001-2002) Evaluability Assessment. Disponvel em http://www.achrn.org/ Evaluability.htm Buvinich, Manuel Rojas. (1999). Ferramentas para monitoramento e avaliao de programas e projetos sociais. Unicef. Instituto do Banco Mundial. (sem data). Introduo ao Monitoramento & Avaliao: Apostila do Participante. Rodrigues, Maria Ceclia Prates. (1998). Avaliao e monitoramento. Texto base para International Development Research Centre. a disciplina de Monitoramento e Avaliao Identifying the Intended Use(s) of an ministrada no mbito do curso de Gerncia Evaluation. Abril de 2004. Disponvel em de Programas Sociais, promovido pela FESP/ www.idrc.ca ISAPE/CPG. International Development Research Centre. United Way of America. (1996). Measuring Identifying the Intended User(s) of an program outcomes: a practical approach. Evaluation. Maro de 2004. Disponvel em www.idrc.ca Valarelli, Leandro Lamas (1999). Indicadores de Kayano, Jorge, e Caldas, Eduardo L. (2001). Indicadores para o dilogo. So Paulo: Instituto Plis; Programa Gesto Pblica e Cidadania/ EAESP/ FGV. McNamara, Carter. Basic Guide to Program Evaluation. 1999. Disponvel em http:// www.mapnp.org/library/evaluatn/fnl_ Patton, Michael Quinn. (1997). Utilizationfocused evaluation: the new century text. Londres: Sage Publications. resultados de projetos sociais. RITS. Disponvel em: http://www.rits.org.br/ gestao_teste/ge_testes/ge_tmes_jul99.cfm W.K. Kellogg Foundation. (2001). Logic Model Development Guide: Using Logic Models to Bring Together Planning, Evaluation, & Action. 3 Patton, Michael Quinn. (1997). Utilizationfocused evaluation: the new century text. Londres: Sage Publications.
BIBLIOGRFICAS
53
ANEXO 1
Modelo Lgico de Gesto do Programa Cabra Forte
54
ANEXO 1
ANEXO 1
55
56
ANEXO 1
ANEXO 1
57
ANEXO 2
Questionrio para levantamento de informaes sobre os resultados da implantao de poos pelo Programa Cabra Forte
58
ANEXO 2
Propriedade:
Proprietrio:
1 - Qual a rea (em tarefas) da propriedade? tarefas 2 - Quantas cabeas de ovinos e caprinos existem na propriedade? Ovinos: Caprinos: cabeas cabeas
3 - Quantos litros de gua por dia so necessrios para o consumo do rebanho? litros
ANEXO 2
59
6 - O produtor tinha como garantir gua para o rebanho durante todo o ano? ( ) Sim ( ) No Por qu ?
7 - Qual a distncia que o produtor (ou rebanho) percorria para ter acesso gua? metros 8 - Em mdia, quantos meses no ano a gua era insuficiente para atender necessidade do rebanho? meses
11 - Qual o grau de facilidade que a instalao do poo trouxe para o acesso gua pelo rebanho? ( ) Pouca ( ) Regular ( ) Muita
Comente:
60
ANEXO 2
ANEXO 3
ANEXO 3
Instrumento usado para anlise dos dados coletados sobre o Programa Cabra Forte
61
Total do Programa Plo de Remanso Campo Alegre de Lurdes Casa Nova Pilo Arcado Remanso Plo de Jaguarari Andorinha Cura Jaguarari Juazeiro Monte Santo Uau Plo de Conceio do Coit Barrocas Conceio do Coit Nova Ftima Retirolndia Santaluz So Domingos Serrinha Valente
62
ANEXO 3
Capacidade real Custo de N de produtores N de produtores de produo de instalao X N beneficiados gua X beneficiados de produtores Capacidade X previsto beneficiados potencial Qde. %
ANEXO 3
63
64
ANOTAES
ANOTAES
65
Fotografias gentilmente cedidas pela Agecom, Arquivo Cacob-Diren-Seinfra, Ascom-Funceb, Ascom-Seagri, Ascom-Secomp, Adenilson Nunes, Alceu Elias, Angeluci Figueiredo, Aristeu Chagas, Jorge Cordeiro, Lzaro Srgio, Marcos Souza e Roberto Viana
Bahia. Secretaria de Planejamento Sistemtica de monitoramento e avaliao em programas e projetos governamentais. Salvador: SEPLAN/SGA, 2005. 66p. il. 1. Programa governamental Sistematizao. 2. Metodologia. 3. Tcnica de trabalho. I. Ttulo. CDU: 001.81(061)
Junho de 2006
Armando Avena
Secretaria da Agricultura, Irrigao e Reforma Agrria
APRESENTAO
Investir na institucionalizao do processo de monitoramento e avaliao (M&A) constitui um imperativo bsico para a conquista da excelncia dos servios prestados pelo Estado. O Governo da Bahia encontra-se engajado nesse movimento internacional e com a criao da Superintendncia de Gesto e Avaliao (SGA), no mbito da Secretaria do Planejamento (Seplan), manifestou a vontade poltica de disseminar a cultura da avaliao nas Secretarias e rgos do Estado, responsveis pelo planejamento e operacionalizao das polticas pblicas. O documento que se apresenta, constitui um referencial para ser utilizado como catalisador dos diversos instrumentos e prticas de monitoramento e avaliao utilizados pelos diferentes rgos gestores da administrao pblica estadual e est contem-
APRESENTAO
plado no Programa de Monitoramento e Avaliao, desenvolvido pela Seplan/SGA, tendo como um dos objetivos a criao de mecanismos essenciais para a gesto eficaz de programas e projetos estratgicos de Governo. A Sistemtica de Monitoramento e Avaliao , portanto, uma das ferramentas que dever ser utilizada para a medio do grau de eficcia, efetividade e eficincia das intervenes do Estado na sociedade.
SISTEMTICA SISTEMTICA DE MONITORAMENTO DE MONITORAMENTO E AVALIAO E AVALIAO EM PROGRAMAS EM PROGRAMAS E PROJETOS E PROJETOS GOVERNAMENTAIS GOVERNAMENTAIS
dos, subsidiando a tomada de deciso para o aperfeioamento do programa ou do projeto ao longo de sua execuo, com a descrio da seqncia de eventos relacionados, conectando o problema ou a oportunidade diagnosticada, com os resultados esperados. A ferramenta permite visualizar e compreender como os investimentos realizados na gerao de produtos (bens ou servios) podem contribuir para alcanar os objetivos planejados, servindo de base para a criao de procedimentos e processos de monitoramento e avaliao. O resultado esperado ser a criao de um sistema de monitoramento e avaliao mantido e alimentado por todas as Secretarias do Estado, constituindo um poderoso instrumento de planejamento. Espera-se que esta semente encontre um terreno frtil para sua germinao, produzindo bons frutos: a melhoria do nvel de excelncia dos servios pblicos.
PLANEJAMENTO
SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS 6
APRESENTAO
Oferece ainda aos clientes da avaliao, um mapa dos caminhos a serem persegui-
SUMRIO
09 O processo de criao da sistemtica 11 A linguagem do monitoramento e avaliao 15 Aspectos conceituais 17 O processo em 12 passos 19 PASSO 1: Definio do programa ou projeto a ser avaliado 20 PASSO 2: Formao de equipe mista de avaliao e elaborao do plano de trabalho 22 PASSO 3: Identificao e entrevista com os potenciais clientes da avaliao 26 PASSO 4: Elaborao do Modelo Lgico de Gesto e Anlise de Avaliabilidade do Programa 28 PASSO 5: Anlise de Avaliabilidade
SUMRIO
29 PASSO 6: Definio do escopo da avaliao 32 PASSO 7: Anlise dos instrumentos e registros j disponveis do Programa 33 PASSO 8: Definio dos indicadores de monitoramento e avaliao a serem utilizados
37 PASSO 9: Definio e criao dos instrumentos para coleta de dados 40 PASSO 10: Coleta dos dados 42 PASSO 11: Tabulao e anlise dos dados coletados 46 PASSO 12: Elaborao e disseminao do Relatrio de Avaliao 47 Estrutura modelo do relatrio de avaliao 48 Concluso 49 Glossrio 53 Referncias Bibliogrficas
Anexos 54 ANEXO I Modelo Lgico de Gesto do Programa Cabra Forte 59 ANEXO II Questionrio para levantamento de informaes 62 ANEXO III Instrumento usado para anlise dos dados coletados sobre o Programa Cabra Forte
SUMRIO
O PROCESSO DE CRIAO
A construo da Sistemtica de Monitoramento e Avaliao em Programas e Projetos Governamentais teve como principio bsico a premissa de que o processo avaliativo de polticas pblicas permite aperfeioar a gesto das aes desenvolvidas por um governo para atender de modo eficiente e eficaz as demandas da sociedade e constitui uma ferramenta estratgica que permite conhecer, entender, decidir e planejar de modo aprimorado com o aprendizado do passado e do presente. O Programa de Monitoramento e Avaliao que vem sendo conduzido pela Secretaria do Planejamento, atravs da Superintendncia de Gesto e Avaliao, busca assegurar a eficcia das polticas pblicas, seus planos, programas, projetos e atividades e o bom uso dos recursos sob responsabilidade das organizaes. O Programa est estruturado em quatro estratgias que se complementam e vm gerando um conjunto diversificado de processos e produtos. A estratgia de formao visa sensibilizar e capacitar servidores estaduais para atuarem em monitoramento e avaliao de programas e projetos governamentais e a divulgao de experincias exitosas. A estratgia de informao tem por objetivo produzir, analisar e veicular informaes confiveis e tempestivas para subsidiar a tomada de deciso, a correo de procedimentos e a retroalimentao do processo de planejamento. Na estratgia de articulao/comunicao est sendo implementado um trabalho em parceria com as Secretarias e rgos estaduais, visando aperfeioar o formato e o fluxo das informaes das aes de Governo. Por fim, a estratgia de Planejamento, visa estimular boas prticas de planejamento focadas em resultado e resulta na construo das matrizes lgicas, onde esto explicitados os objetivos, atividades, produtos, resultados e impactos, com a definio dos respectivos indicadores para cada secretaria. A implementao destas estratgias j apresenta melhorias na qualidade da programao, execuo, monitoramento e avaliao das aes governamentais, contribuindo para uma maior racionalizao no ciclo de gesto do Estado.
A construo e implementao de uma sistemtica de monitoramento e avaliao em programas e projetos governamentais um dos componentes do Programa de M&A e apresenta-se como um pr-requisito bsico para o aperfeioamento do processo de gesto e para a criao das condies da retroalimentao da programao de Governo. Um outro determinante para a elaborao deste documento foi o compromisso em preencher uma lacuna na gesto pblica estadual, face inexistncia de uma cultura avaliativa e de uma sistemtica que oriente metodologicamente o processo de monitoramento e avaliao para a otimizao na utilizao dos recursos pblicos e na maximizao dos resultados. O documento foi construdo por uma equipe composta por representantes de diversas Secretarias, envolvidas na implementao do Programa selecionado, denominada Matricial, liderada pela Seplan/SGA, contando ainda com o apoio da Fundao Luis Eduardo Magalhes (FLEM). A adoo desta Sistemtica possibilitou, de um lado, produzir e testar metodologias e instrumentos de M&A capazes de medir o grau de eficincia, eficcia e efetividade das intervenes governamentais e, de outro lado, capacitar tcnicos da SGA e demais Secretarias e entidades responsveis pela concepo e implementao do Programa Cabra Forte, programa escolhido para testar a ferramenta da Sistemtica. Resultado de um trabalho prtico e participativo, a partir de discusses e contribuies de diversos profissionais do setor pblico estadual, em oficinas e reunies, foi possibilitado um aprendizado consistente sobre o assunto e a construo dos passos da metodologia. A elaborao do Modelo Lgico de Gesto de Programas e Projetos Governamentais (MLGP), um dos passos mais importantes para a utilizao desta Sistemtica, na medida que possibilita o compartilhamento de informaes sobre o real funcionamento de uma interveno governamental, atravs da explicitao das atividades planejadas e dos resultados esperados, demonstrando as premissas e os objetivos do programa a ser monitorado e avaliado. importante registrar que este documento constitui-se em um primeiro esforo de construo metodolgica para nortear as prticas de M&A no Estado, contribuindo para a disseminao dos aspectos tericos e processuais na gesto dos programas e projetos governamentais.
10
O PROCESSO DE CRIAO
Apesar da crescente disseminao de trabalhos de monitoramento e avaliao em instituies pblicas e privadas do Brasil e do mundo, ainda encontramos muito dissenso sobre alguns dos seus principais conceitos. Assim, torna-se imprescindvel na elaborao de qualquer sistemtica de monitoramento e avaliao, uma definio prvia dos conceitos a serem adotados ao longo do trabalho. No incio deste projeto foi realizada uma oficina de Alinhamento Conceitual onde foram apresentadas definies dos termos monitoramento e avaliao adotados por organizaes nacionais e internacionais. A partir de uma sntese dessas definies, foi elaborado o quadro abaixo que ressalta as diferenas entre os dois instrumentos: Monitoramento
Atividade de gesto interna e contnua. Acontece durante a implementao do programa ou projeto. Compara o que est sendo realizado com o que foi planejado.
Avaliao
Atividade interna ou externa. Pode acontecer antes, durante ou depois da implementao de um programa ou projeto. Com base em dados levantados pelo monitoramento e outras fontes, julga o desempenho de um projeto de acordo com critrios pr-estabelecidos, tais como: eficcia, eficincia, efetividade, sustentabilidade, dentre outros.
Foram tambm analisados diferentes tipos de avaliao e seus objetivos, ficando ento definido que a Sistemtica aqui apresentada ser instrumento para a realizao de avaliaes com as seguintes caractersticas: Interna (Internal Evaluation) conduzida por membros das organizaes associadas ao programa, projeto ou objeto que est sendo avaliado.
11
Formativa (Formative Evaluation) utilizada durante a implementao de um programa ou projeto, para fornecer informaes que permitam o seu aprimoramento. Avaliaes Formativas so usadas para dar um retorno s equipes tcnicas sobre os componentes do programa/projeto que esto funcionando e aqueles que precisam ser modificados. De Programas ou Projetos (Program Evaluation) utilizada para determinar se os objetivos, formato e resultados do programa ou projeto esto adequados, assim como seu grau de eficincia, eficcia e efetividade na aplicao dos recursos. Dentro do ciclo governamental de criao e execuo de polticas e programas, esta Sistemtica visa realizao de avaliaes de processo e resultados de programas em fase de implementao, conforme demonstrado na figura a seguir:
Avaliao prvia
Avaliao de processo
Avaliao de resultados
Avaliao final
Avaliaes de processo e resultados podem acontecer simultaneamente, complementando-se na funo de orientar as equipes gestoras para maior compreenso do programa, seu funcionamento e seus resultados junto ao pblico-alvo. A avaliao de processo visa determinar o grau em que o programa est operando conforme planejado. Este tipo de avaliao tem como objetivo entender o funcionamento do programa a partir da anlise do que ele faz e de quem so seus beneficirios para, assim, aprimorar suas aes. A avaliao de processo tambm ajuda na identificao dos elementos essenciais para o melhor desempenho do programa em termos de produtos, resultados e impactos. Em geral, responde a perguntas em duas categorias cobertura e processo. Cobertura: analisa o alcance do programa e as caractersticas dos beneficirios. Processo: analisa a consistncia do programa e a qualidade de sua implementao.
13
A avaliao de resultados analisa em que grau o programa vem produzindo os benefcios e transformaes a que se prope. As atividades de um programa produzem trs tipos de resultado: produtos (outputs), resultados (outcomes) e impactos (impact). Atividades: procedimentos do programa que so mobilizados visando obteno dos efeitos desejados (como o treinamento de produtores, perfurao de poos, etc.). Produtos: efeitos imediatos de cada atividade do programa (como o nmero de pessoas capacitadas, aulas dadas, materiais produzidos, etc.). Resultados: impactos de curto prazo, resultado direto do programa nos seus beneficirios (normalmente referem-se a mudanas de conhecimento, habilidades, comportamento e valores). Impactos: benefcios e transformaes de mdio e longo prazo para os participantes e beneficirios indiretos do programa (suas famlias e comunidades).
ASPECTOS CONCEITUAIS
ASPECTOS CONCEITUAIS
A metodologia utilizada nesta Sistemtica de Monitoramento e Avaliao baseiase em alguns conceitos, princpios e prticas mundialmente adotados por instituies e profissionais da rea. Trs foram os principais princpios norteadores deste trabalho: 1. A avaliao deve ser um instrumento de gesto, desde a sua elaborao at o futuro uso de seus resultados. 2. O valor da avaliao est na sua utilidade, na sua capacidade de atender s necessidades de informao de seus usurios. 3. O processo de avaliao deve ser construdo e implementado de maneira compartilhada pelos avaliadores com a equipe tcnica executora do programa. Estes princpios baseiam-se em conceitos de Michael Quinn Patton, ex-presidente da Associao Americana de Avaliao (American Evaluation Association). Em sua obra Avaliao com Foco na Utilizao (Utilization-focused Evaluation), Patton refora a idia de que avaliaes deveriam ser julgadas pela sua utilidade e real uso. Visando garantir esta utilidade, Patton defende a prvia identificao e engajamento dos usurios da avaliao, pois, segundo ele, mais provvel que os potenciais clientes da avaliao a utilizem se eles compreenderem e se apropriarem do processo de avaliao e seus resultados2.
2
Patton, Michael Quinn. (1997). Utilization-focused evaluation: the new century text. Londres: Sage Publications.
15
OBJETIVOS
A Sistemtica de Monitoramento e Avaliao tem como objetivos: 1. Proporcionar avaliaes peridicas do desempenho dos programas, instrumentalizando as equipes do Governo na gesto de recursos e obteno de resultados mais efetivos. 2. Incorporar a atividade de monitoramento e avaliao como um instrumento de rotina em programas governamentais.
Para estar apta a coordenar as atividades, a equipe Matricial deve ser capacitada em temas como: Os mitos sobre avaliao; Os principais conceitos e tipos de avaliao; A lgica e os valores da avaliao; A avaliao com foco na utilizao seus passos e desafios; Os princpios da avaliao participativa; A relao entre polticas, programas e projetos; A anlise de avaliabilidade; O modelo lgico de gesto do programa sua funo e seus componentes.
16
ASPECTO CONCEITUAIS
17
ASSOS P 2 1 M E O O PROCESS
gia uma metodolo o a li a v to e A 3 permite onitoramen M e d a c Governo . Ela ti o d s m co te gi is t S ra A jetos est aes governarogramas e pro as p d o m h e n a e p ad m lic se bre o de para ser ap mada de informaes so e d a ic bsidiando a to d su , ri o e p o cu e x n e te a ob a da nto da sua do na melhori o aprimorame an o lt d n su ia re ic , p m ro si p mentais, cerias e, as projetos e par s vo o n a to cional. deciso quan ttico e opera , artir da co gi t ra st e eis s 12 passos a p o id fin e d m ra gesto nos nv tica, fo o desta Sistem a lic ap a ar lit ci e. Para fa ama Cabra Fort gr ro P o m co to vivida experincia-pilo
A Sistemtica aqui apresentada pode ser aplicada tanto a programas quanto a projetos governamentais. Neste roteiro, o termo programa usado de maneira generalizada, representando programas e projetos.
18
O PROCESSO EM 12 PASSOS
PASSO 1:
O processo de avaliao de um programa complexo e exige bastante dedicao no s dos avaliadores, mas tambm da equipe gestora. Por isso, a deciso de avaliar determinado programa deve ser tomada a partir do comprometimento de todos os envolvidos na sua execuo. A definio de critrios tcnicos para auxiliar na deciso de qual programa dever ser avaliado, ajuda no estabelecimento das diretrizes do trabalho e alinha o entendimento de todos os participantes sobre a importncia do estudo avaliativo a ser desenvolvido. Entre os critrios que podem ser adotados na seleo de programas a serem avaliados esto: Prioridade do tema: grau de importncia do tema foco do programa. Clareza de foco: grau de clareza dos objetivos do programa. Visibilidade: grau de visibilidade do programa para a populao da Bahia.
PASSO 1
Interesse dos gestores e responsveis institucionais em avaliar: grau de interesse em avaliar o programa. Concordncia: grau de entendimento entre os gestores envolvidos quanto aos objetivos, metas e resultados. Conhecimento: existncia de informaes que permitam o acompanhamento da execuo fsica e financeira. Volume de recursos oramentrios: recursos oramentrios disponveis para o programa.
19
PASSO 2:
A metodologia adotada nesta Sistemtica prev a formao de uma equipe mista de avaliao, formada por avaliadores da prpria unidade gestora do programa a ser avaliado, equipe tcnica do programa e, se necessrio, consultores externos contratados. A Seplan dar o apoio em todo o processo de avaliao quanto aos procedimentos, normas e nas atividades relativas ao planejamento, articulao e gesto da informao. No caso de avaliao de programas multisetoriais, todas as Secretarias e rgos envolvidos na execuo do programa devero estar representados na equipe mista de avaliao. Desta forma, garante-se que todas as perspectivas setoriais sero consideradas no estudo. A primeira tarefa a ser executada pela equipe mista de avaliao a elaborao do plano de trabalho para a aplicao da Sistemtica de Monitoramento e Avaliao no programa escolhido. A partir de informaes do programa a ser avaliado e da disponibilidade de recursos (humanos, financeiros e de tempo) a equipe dever detalhar as etapas apresentadas neste roteiro, definindo prazos e responsveis.
20
SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS
Principais Funes da Equipe Mista de Avaliao: Articular o processo avaliativo com os interesses e necessidades dos potenciais clientes da avaliao; Participar da elaborao do Modelo Lgico de Gesto do Programa e da definio do escopo da avaliao; Coletar, analisar e sistematizar as informaes sobre o desempenho do programa para garantir seu contnuo monitoramento; Elaborar relatrios de avaliao do programa com recomendaes para seu aprimoramento.
PASSO 2
PLANO DE TRABALHO
PLANO DE TRABALHO
12. Elaborao e disseminao do Relatrio de Avaliao 11. Tabulao e anlise dos dados coletados 10. Coleta de dados 9. Criao dos instrumentos para coleta de dados 8. Definio dos indicadores de M&A 7. Anlise de instrumentos de M&A e registros existentes 6. Definio do escopo de avaliao 5. Anlise das expectativas dos clientes de avaliao 4. Elaborao do Modelo Lgico de Gesto
3. Entrevista com potenciais clientes de avaliao 2. Formao da equipe mista de avaliao 1. Definio do programa a ser avaliado
21
PASSO 3:
Os potenciais clientes de uma avaliao so as pessoas e grupos que so afetados pelos seus resultados, esto em posio de tomar decises sobre a avaliao, e pretendem usar as informaes sobre o processo e os resultados da avaliao para definir futuras aes. A equipe de avaliao dever definir no incio dos trabalhos quem so os potenciais clientes da avaliao e entrevist-los para conhecer suas expectativas e necessidades de informao que o estudo avaliativo dever atender.
22
PASSO 3
MODELO DE QUESTIONRIO A SER APLICADO COM OS CLIENTES DA AVALIAO. Com relao avaliao do programa:
1. Quais so as suas expectativas sobre o processo e os resultados desta avaliao? 2. Como esta avaliao poderia contribuir para o aperfeioamento deste projeto? 3. Quais perguntas voc gostaria que fossem respondidas por esta avaliao? 4. De que maneira as respostas a essas perguntas ajudariam no seu trabalho? 5. Quais decises os resultados da avaliao poderiam influenciar? 6. Que dados e informaes so necessrios para esta tomada de deciso? 7. Quem deveria estar envolvido no processo de avaliao para orient-lo quanto s suas expectativas? 8. Como ns poderemos saber no futuro se esta avaliao foi til? 9. Outras informaes e comentrios?
PASSO 3
23
As informaes coletadas junto aos potenciais clientes da avaliao devero ser tabuladas e analisadas de maneira a orientar a definio do escopo da avaliao a ser realizada. Este processo de tabulao e anlise dever ser feito em trs etapas: 1. Despersonalizao das informaes. 2. Tabulao por categoria de anlise. 3. Priorizao das expectativas e perguntas de avaliao.
24
PASSO 3
Que evidencie os resultados (positivos ou no) das intervenes, e se os investimentos realizados atendem s necessidades e expectativas dos pequenos criadores de caprinos e ovinos; Que demonstre se o Programa est alcanando os objetivos preconizados, ou seja, a melhoria da qualidade de vida da populao e da regio; Que analise at que ponto o Programa atende s necessidades dos beneficirios; Que analise o desempenho do Programa. Quanto aos resultados: Que possibilite maior registro e disseminao para conscientizao das equipes sobre os trabalhos que esto sendo realizados; Que possibilite a transparncia, eficincia e eficcia dos recursos aplicados nos projetos do Governo; Que as equipes internalizem os conceitos de avaliao e passem a v-los como instrumentos de gesto, para o aprimoramento e reconhecimento de seus esforos; Que possibilite a melhoria do fluxo de informaes entre as equipes de trabalho; Que tenha continuidade no processo de avaliao da ao governamental; Que tenha continuidade para que a metodologia seja preservada e se tenha registro de sries histricas. Quanto ao futuro uso: Que sirva de subsdio para o planejamento estadual e para a tomada de decises quanto a novos financiamentos e parcerias; Que leve correo dos desvios identificados e subsidie outros programas.
PASSO 3
25
PASSO 4:
O Modelo Lgico de Gesto do Programa (MGLP) um instrumento visual e sistmico de apresentao e compartilhamento de informaes sobre os recursos alocados em um programa, as atividades previstas, os produtos e as mudanas que se esperam alcanar no curto, mdio e longo prazo. De forma simples, o MLGP retrata um programa conforme ele vem sendo executado, facilitando a comunicao sobre o seu propsito fundamental e tornando-se um ponto de referncia para todos os envolvidos na sua implementao. importante sinalizar que apenas as atividades prioritrias para o desenvolvimento do programa devero ser includas no Modelo Lgico de Gesto. Oficinas devero ser realizadas com os principais responsveis pela execuo do programa a ser avaliado, para construo conjunta do MLGP . Apresenta-se a seguir a sugesto da estrutura do Modelo Lgico de Gesto a ser adotado nesta Sistemtica, e sua lgica de leitura.
26
PASSO 4
PASSO 4
27
PASSO 5:
Anlise de avaliabilidade
A anlise de avaliabilidade tem por objetivos buscar informaes sobre o formato do programa, explorar sua realidade e ajudar a conhecer sua estrutura, antes que seja feita a avaliao de seus resultados. Ela ajuda a definir se o programa pode ser efetivamente avaliado e se sua avaliao contribuiria para melhorar seu desempenho. Sendo uma espcie de pr-avaliao, esta anlise traz benefcios como: prevenir o desperdcio de recursos com avaliao; ajudar os potenciais clientes da avaliao a formularem perguntas avaliativas importantes e significativas; facilitar o consenso entre avaliadores e equipe tcnica do programa sobre o objeto e escopo da avaliao a ser realizada, e a metodologia que ser adotada. Realizada com base no Modelo Lgico de Gesto, a anlise de avaliabilidade deve buscar responder a cinco questes bsicas: 1. Quais so os principais componentes do programa? 2. Quais so os principais objetivos e metas do programa? 3. As pessoas envolvidas na gesto no programa concordam com seus objetivos? 4. Existe uma conexo lgica entre os objetivos, atividades e resultados esperados? 5. Quais seriam os melhores indicadores e/ou critrios para avaliar o alcance dos objetivos? Se no houver consenso sobre o que o programa e seus principais componentes, ele ainda no pode ser avaliado.
28
PASSO 5
PASSO 6:
O escopo da avaliao uma combinao de sua(s) principal(is) finalidade(s) e do foco que o estudo dever ter, ou seja, as perguntas avaliativas que dever responder para cumprir esta finalidade. Vale destacar que o foco de todo processo avaliativo deve estar na sua utilidade para os tomadores de deciso e gestores do programa. Para garantir que a avaliao possa ser um efetivo instrumento gerencial, fundamental que se tenha clareza sobre o objeto a ser avaliado e sobre as expectativas dos seus principais usurios, os potenciais clientes da avaliao. A partir destas expectativas com relao aos produtos, resultados e futuro uso da avaliao, pode-se definir a(s) sua(s) principal(is) finalidade(s). E ento, todo o processo de definio de indicadores e criao de instrumentos dever ser realizado de maneira a garantir o alcance desta(s) finalidade(s). A definio das perguntas avaliativas dever ser feita a partir da anlise das perguntas trazidas pelos potenciais clientes sob a tica dos critrios de avaliao a
PASSO 6
29
30
PASSO 6
As perguntas avaliativas devero ser sintetizadas segundo os seguintes critrios de avaliao: Eficcia expressa o grau em que o programa realiza o que havia sido proposto, alcanando suas metas e objetivos; Eficincia estabelecida pela menor relao custo x beneficio possvel para a realizao das atividades e alcance dos objetivos do programa; Efetividade o grau em que o programa alcana os resultados e impactos pretendidos junto ao seu pblico-alvo.
PASSO 6
31
PASSO 7:
Parte importante das informaes que subsidiam a avaliao de eficcia e eficincia de um programa vem dos registros administrativos gerados ao longo de sua execuo. A partir do registro sistematizado das atividades, seus principais produtos e custos, a equipe gestora do programa dispe de dados para comparar o realizado com o previsto em determinado perodo, monitorando, assim, o desempenho do programa. O levantamento e anlise dos registros administrativos antecede e subsidia a montagem dos instrumentos de monitoramento. Da a necessidade de registros confiveis, tempestivos, teis e bem estruturados. Nesta etapa do trabalho devero ser analisados os modelos de registro das realizaes j em uso pela equipe gestora e pelos tcnicos, nos vrios nveis de execuo do programa. Essa pesquisa fornecer aos avaliadores importantes informaes sobre falhas ou inadequao dos instrumentos de registro e dos processos de sistematizao dessas informaes. A partir do que j existe, de seu funcionamento e uso, os avaliadores podero propor formas de aprimorar o fluxo de informaes, de maneira que permita realizaes peridicas de avaliaes sobre o desempenho do programa. Para checagem e complementao das informaes necessrio, no entanto, que se apliquem tambm outros instrumentos quantitativos e qualitativos junto aos beneficirios do programa e aos atores intermedirios no seu processo de execuo. O diagrama a seguir retrata o fluxo de informaes proposto por esta Sistemtica de Monitoramento e Avaliao:
32
PASSO 7
PASSO 8:
Indicadores so medidas quantitativas e/ou qualitativas que funcionam como um termmetro do progresso de um programa, indicando os avanos obtidos em relao aos objetivos e metas traados. Como o prprio nome sugere, so sinalizadores que buscam expressar algum aspecto da realidade, de forma que possamos observ-lo ou mensur-lo. Indicadores de desempenho so usados para verificar e mensurar os possveis impactos, resultados, produtos, processos e recursos alocados em um programa, permitindo, assim, seu moni-
PASSO 8
toramento e avaliao. A partir do que se quer avaliar, ou seja, das perguntas avaliativas e da anlise dos principais componentes do programa apresentados no seu Modelo Lgico de Gesto, devem ser definidos os indicadores de desempenho a serem utilizados para o monitoramento e avaliao do programa.
33
Nesta etapa, fundamental que se realize um exerccio para a seleo dos indicadores a serem utilizados e a definio de seus respectivos descritores. Os descritores so fundamentais para garantir a uniformidade de conceitos e um entendimento compartilhado sobre o que ser medido. O Descritor do Indicador traduz em linguagem simples e objetiva o que est sendo medido. Seu uso garante o alinhamento de conceitos entre os responsveis pela coleta dos dados, dando maior consistncia s informaes produzidas pela avaliao. Alm disso, deve-se tambm, definir as principais fontes de informao para a obteno dos dados necessrios composio de cada indicador e a periodicidade com que esta informao pode ser obtida. O quadro a seguir exemplifica como este exerccio pode ser realizado:
34
PASSO 8
PASSO 8
35
Objetivo Especfico: Ampliar e melhorar a oferta de gua para os produtores. Estratgia: 1.1. Disponibilizar ponto de gua confivel para grupos de 15 a 20 produtores.
Componentes a Serem Avaliados Indicadores de Desempenho Descritor dos Indicadores Periodicidade da Informao 1. Mensal Fonte de Informao Tcnicos da Cerb
1.1.1 Perfurao e recuperao de poos tubulares Poos instalados Produtores beneficiados/ Comunidades de abrangncia Produo de gua
1. N de Sistemas Simplificados de Abastecimento de gua (SSAA) entregues comunidade a partir de poos, em condies de oferecer gua em quantidade e qualidade adequadas para consumo animal. 2. Produtores pertencentes s 2. N de produtores beneficiados/ comunidades do Programa comunidade (grupo de produtores) / beneficiados com os novos poos municpio/ plo instalados. 3. Capacidade potencial de produo 3. Produo potencial de gerao de de gua dos poos instalados, gua disponvel por poo instalado / medida em m/hora. comunidade / municpio / plo 4. Produo efetiva de gerao de 4. Capacidade real de produo de gua disponibilizada por poo instalado/ comunidade / municpio / gua dos poos instalados, medida plo por m/hora.
2. Mensal
3. Mensal (dos novos poos instalados) 4. Mensal (dos novos poos instalados).
36
PASSO 8
PASSO 9:
A definio dos instrumentos para a coleta de dados a serem utilizados no estudo avaliativo depende da escolha do tipo de abordagem que se quer adotar. Abordagens quantitativas tm a vantagem de permitir mensurao, comparao e generalizao das informaes obtidas, no entanto as abordagens qualitativas permitem uma anlise mais aprofundada das experincias estudadas. Os mtodos de coleta de dados quantitativos mais comumente utilizados so a pesquisa de dados disponveis em sistemas de acompanhamento e monitoramento do programa, e a aplicao de questionrios ou formulrios junto aos beneficirios e atores intermedirios da sua execuo. No caso de abordagens qualitativas, os mtodos de coleta de dados mais usados so entrevistas, grupos focais e observao direta. Cada instrumento criado dever ser pr-testado para anlise de sua consistncia e clareza, e avaliao da relevncia e viabilidade dos dados por ele coletados. Uma simulao da tabulao e anlise dos dados coletados no pr-teste tambm ajuda no aprimoramento do instrumento antes da sua aplicao generalizada. O sucesso desta etapa fundamental para a realizao de uma avaliao que permita uma utilizao plena de seus resultados. No basta escolher bons indicadores tericos e de aplicaes gerais, torna-se imprescindvel a relevncia, bem como pertinncia ao objeto avaliado e, sobretudo, a operacionalidade, sem implicar em excessos de utilizao de recursos (tempo, recursos financeiros e recursos humanos).
PASSO 9
37
38
PASSO 9
Para uma completa visualizao das realizaes do Programa, foi acordado com a equipe Matricial que os dados seriam coletados nos seguintes nveis de desagregao: por plo do Programa por municpio atendido por comunidade beneficiada por grupos de produtores beneficiados Desta maneira, as informaes poderiam ser espacializadas e consolidadas nos diferentes nveis de execuo do Programa, permitindo comparaes sobre as realizaes e alocaes de recursos.
COMPONENTES
INDICADORES
N de poos instalados no perodo/ comunidade/ municpio/ plo. Meta de instalao de poos no perodo/ comunidade/ municpio/ plo. N de produtores beneficiados/ comunidade (grupo de produtores)/ municpio/ plo. Meta de produtores a serem beneficiados com poos no perodo/ comunidade/ municpio/ plo. Capacidade potencial de produo de gua dos poos instalados (em m/hora)/ poo/ comunidade/ municpio/ plo. Capacidade real de produo de gua dos poos instalados (em m/hora)/ poo/ comunidade/ municpio/ plo. Custo de instalao dos poos no perodo/ comunidade/ municpio/ plo.
Eficcia: N poos instalados x n previsto N de produtores beneficiados x n previsto Espacializao dos poos instalados Espacializao dos produtores beneficiados Produo potencial de gerao de gua disponvel nos poos instalados Produo efetiva de gerao de gua disponibilizada nos poos instalados Eficincia: Produo potencial de gerao de gua x produo efetiva de gerao de gua disponibilizada nos poos instalados Custo de produo da gua com poo x N de produtores atendidos
PASSO 9
39
O processo de coleta dos dados deve ser planejado a partir da definio dos instrumentos que sero utilizados, das informaes que sero pesquisadas e do prazo de que se dispe para a obteno dessas informaes. A caracterstica da populao-alvo, a caracterstica espacial e os indicadores de desempenho fsico-financeiro so dados relevantes para serem coletados. As primeiras informaes a serem levantadas dizem respeito ao processo de execuo do programa e seus produtos. A partir dos dados sobre as realizaes do programa, obtidos no sistema de monitoramento e de outras fontes de informaes, os avaliadores podero coletar os indicadores de eficcia e eficincia definidos. Os indicadores de eficcia e eficincia so obtidos, freqentemente, a partir dos registros administrativos do prprio programa. J os indicadores de efetividade, exigem seu levantamento direto junto populao beneficiria ou a registros censitrios. Na coleta de dados com beneficirios do programa, pode-se optar pela pesquisa com toda a populao a ser estudada ou por amostragem. Censos demogrficos e econmicos, relatrios de acompanhamento da execuo fsico-financeira, relatrios de avaliaes anteriores, artigos ou informaes de divulgao, so fontes que podem ser consultadas para o levantamento das informaes. Nesta etapa, importante dispor de um banco de dados de registros administrativos consistente com o MLGP . necessrio tambm, capacitar os executores do programa, especialmente os tcnicos responsveis pela obteno das informaes primrias.
40
PASSO 10
PASSO 10
41
Todos os dados devem ser tabulados, ou seja, organizados de maneira a facilitar a sua interpretao e anlise, tendo em vista as perguntas avaliativas a serem respondidas. A tabulao e anlise dos dados sero decorrentes da sua natureza: quantitativos ou qualitativos. Em uma avaliao, os textos e observaes coletados vm de vrias fontes como: respostas a perguntas abertas de questionrios, transcries de grupos focais ou entrevistas, roteiros de observao de casos, ou, ainda, resumos de relatrios e documentos pesquisados. Tanto as fontes de informaes, como as tcnicas quantitativas e qualitativas utilizadas para a coleta de dados, devem ser combinadas para uma compreenso mais abrangente do programa. As informaes sobre o previsto e o realizado, os principais produtos entregues aos beneficirios, e a espacializao destas realizaes, so dados importantes para subsidiar a avaliao de desempenho do programa.
42
PASSO 11
PASSO 11
43
44
PASSO 11
INDICADOR DE EFETIVIDADE
PASSO 11
45
Toda avaliao deve resultar em um relato claro e objetivo sobre o processo e os resultados obtidos quanto ao desempenho do programa analisado. Estas informaes devem ser disseminadas entre os principais clientes da avaliao de maneira a influenciar futuras decises quanto ao aprimoramento do programa ou ao estabelecimento de novas diretrizes de ao. A comunicao dos resultados de uma avaliao pode ser feita de forma oral ou escrita, mas deve sempre ser simples, direta e livre de jarges. A nfase deve estar nos importantes resultados obtidos e nas recomendaes, sempre com o foco nos principais clientes da avaliao, suas expectativas e necessidades de informao.
46
PASSO 12
ESTRUTURA MODELO
1. Capa ttulo do relatrio, autores, instituies patrocinadoras/ participantes, lugar e data. 2. ndice captulos e subcaptulos do relatrio. 3. Crditos agradecimento a todas as pessoas e instituies que possibilitaram a realizao do estudo. 4. Resumo Executivo apresentao do estudo incluindo objetivos, metodologia adotada, principais resultados encontrados, concluses/ recomendaes. Deve ter no mximo quatro pginas. 5. Introduo contexto e antecedentes da avaliao: caracterizao do problema, justificativa do estudo, finalidade da avaliao, perguntas avaliativas e circunstncias especiais. 6. Metodologia desenho da avaliao: coleta e anlise dos dados e limitaes. Texto curto com maior detalhamento nos anexos (cpias dos instrumentos utilizados, clculo de tamanho de amostra, etc.). 7. Resultados principais resultados encontrados e apresentados em grficos e tabelas com breve anlise. 8. Concluses sntese dos dados encontrados e apresentados de maneira a responder s perguntas avaliativas. 9. Recomendaes prescrio do que deve ser feito a partir das concluses do estudo. O nvel de detalhamento das recomendaes depende da finalidade da avaliao e do perfil dos seus clientes. 10. Referncias Bibliogrficas identificao de todo o aporte bibliogrfico que norteou a avaliao. 11. Anexos instrumentos para a coleta dos dados utilizados, procedimentos metodolgicos adotados, dados adicionais obtidos ou com maior desagregao, entre outros documentos relevantes.
SISTEMTICA DE MONITORAMENTO E AVALIAO EM PROGRAMAS E PROJETOS GOVERNAMENTAIS
47
CONCLUSO
Buscando instrumentalizar as equipes gestoras dos programas e projetos estratgicos do Governo do Estado da Bahia, a Secretaria do Planejamento e a Fundao Luis Eduardo Magalhes criaram e testaram uma Sistemtica de Monitoramento e Avaliao. Testada no Programa Cabra Forte, programa multisetorial que visa melhorar a qualidade de vida de 26.000 pequenos produtores rurais e suas famlias, atravs do aumento da renda proveniente da ovinocaprinocultura, a Sistemtica aqui apresentada tem o objetivo de ser disseminada entre as equipes das Secretarias e rgos Governamentais do Estado. A partir da compreenso das etapas que levaram a construo desta metodologia de monitoramento e avaliao, as equipes podero implant-la em outros programas e projetos seguindo o roteiro apresentado neste Guia. Capacitaes, orientaes e acompanhamento peridico devero ser oferecidos por avaliadores da Seplan aos rgos Gestores, no sentido de garantir a implantao desta Sistemtica de forma gradual, consistente e efetiva. A disseminao dos conceitos, princpios, processos e instrumentos, permitir que tcnicos dos nveis estratgico, ttico e operacional do Governo estejam constantemente informados sobre o desempenho dos programas e projetos sob sua responsabilidade. Ao fazer do monitoramento e da avaliao efetivos instrumentos de gesto, o Governo do Estado da Bahia demonstra sua preocupao com o aprimoramento da habilidade gerencial de suas equipes, visando aumentar a eficcia, eficincia e efetividade das suas polticas, programas e projetos.
48
CONCLUSO
GLOSSRIO
Acompanhamento / Monitoramento
Exame contnuo ou peridico realizado pela administrao, em todos os nveis hierrquicos, do modo como se est executando um projeto ou atividade. Tem como objetivo prover os gestores e principais stakeholders com regular feedback e indicaes do progresso ou possveis falhas no alcance dos resultados esperados. O termo acompanhamento freqentemente tem sido associado a um mero registro contbil. Entretanto, preciso considerar que o acompanhamento tem necessariamente que produzir informaes teis para o gerenciamento do projeto ou atividade.
concorrem para a manuteno e o funcionamento de rgos e entidades governamentais e para a prestao de servios pblicos utilizados pela populao.
Avaliao
Apreciao sistemtica e objetiva do valor ou mrito de um projeto, programa ou poltica, antes, durante ou aps a interveno, quanto sua concepo, execuo e resultados. Tem como propsito determinar a pertinncia, eficincia, eficcia, efetividade, impacto e sustentabilidade da interveno.
Avaliao de Processo
Visa determinar o grau em que o programa est operando conforme planejado. Este tipo de avaliao tem como objetivo entender o funcionamento do programa a partir da anlise do que ele faz e de quem so seus beneficirios para, assim, aprimorar suas aes. A avaliao de processo tambm ajuda na identificao dos elementos essenciais para o melhor desempenho do programa em termos de produtos, resultados e impactos. Em geral, responde a perguntas em duas categorias cobertura e processo.
Anlise de Avaliabilidade
GLOSSRIO
Tem por objetivos buscar informaes sobre o formato do programa, explorar sua realidade e ajudar a conhecer sua estrutura, antes que seja feita a avaliao de seus resultados.
Avaliao de Resultados
Analisa em que grau o programa vem produzindo os benefcios e transformaes a que se prope. As atividades de um programa produzem trs tipos de resultado: produtos (outputs), resultados (outcomes) e impactos (impact).
Atividades
Procedimentos do programa que visam obteno dos efeitos desejados. Do ponto de vista da programao oramentria um conjunto de operaes que se realizam de modo contnuo e que
49
Avaliao Participativa
Avaliao coletiva de um projeto ou programa, realizada pelos stakeholders ou beneficirios. So avaliaes reflexivas, pr-ativas, que visam capacitar os envolvidos no programa e tm como principal objetivo atender as necessidades de informao dos stakeholders.
Avaliao Externa
Avaliao conduzida por um ou mais avaliadores que no esto diretamente envolvidos na formulao, implementao e/ou gerenciamento do objeto da avaliao. Normalmente realizada por pessoas de fora da organizao envolvida. tambm chamada de avaliao independente.
Beneficirios
Indivduos, grupos ou organizaes que se beneficiam do programa ou projeto direta ou indiretamente, intencionalmente ou no.
Avaliao Formativa
Refere-se ao processo de execuo do programa, servindo para melhorar seu funcionamento. So modalidades complementares a serem utilizadas de acordo com cada situao concreta.
Cobertura
Analisa o alcance do programa e as caractersticas dos beneficirios.
Avaliao Interna
Avaliao conduzida por membros de organizaes associadas com o programa, projeto ou objeto que est sendo avaliado.
50
GLOSSRIO
Descritor do Indicador
Traduz em linguagem simples e objetiva o que est sendo medido. Seu uso garante o alinhamento de conceitos entre os responsveis pela coleta dos dados, dando maior consistncia s informaes produzidas pela avaliao.
Impacto
Benefcio e transformao de mdio e longo prazo para os participantes e beneficirios indiretos do programa (suas famlias e comunidades).
Indicador
Medida quantitativa e/ou qualitativa que funciona como um termmetro do progresso de um programa, indicando os avanos obtidos em relao aos objetivos e metas traados.
Desempenho
O grau com que um programa ou projeto implementado de forma eficaz, eficiente e efetiva.
Efeito
Mudana esperada ou no, direta ou indiretamente atribuda a uma interveno.
Indicador de desempenho
Usado para verificar e mensurar os possveis impactos, resultados, produtos, processos e recursos alocados em um programa, permitindo assim seu monitoramento e avaliao.
Efetividade
O grau em que o programa alcana os resultados e impactos pretendidos junto ao seu pblico-alvo.
Eficcia
GLOSSRIO
Expressa o grau em que o programa realiza o que havia sido proposto, alcanando suas metas e objetivos.
Eficincia
Estabelecida pela menor relao custo x benefcio possvel para a realizao das atividades e alcance dos objetivos do programa.
Objetivo
Situao futura desejada com a execuo de programa, projeto ou atividade, descrita com conciso e preciso e sempre mensurvel por um indicador, que expressa o produto ou resultado esperado sobre o pblico-alvo.
Estudos de Base
Anlise que descreve a situao antes do lanamento de uma interveno de desenvolvimento, a qual se podem fazer comparaes ou apreciar os progressos.
Pressupostos (Hipteses)
Suposies sobre fatores ou riscos que podem ter repercusses na evoluo ou no sucesso da interveno de desenvolvimento.
51
Processo
Analisa a consistncia do programa e a qualidade de sua implementao.
Retroalimentao (Feedback)
Transmisso das constataes resultantes do processo de avaliao a todos os que podem tirar lies teis e pertinentes das mesmas, com o objetivo de facilitar a aprendizagem. Isto pode implicar reunir e difundir as constataes, concluses, recomendaes e lies aprendidas.
Produto
Efeito imediato de cada atividade do programa.
Programa
o instrumento de organizao da ao governamental com vistas ao enfrentamento de um problema, atendimento a uma demanda ou o aproveitamento de uma oportunidade.
Stakeholders
Grupos que tem um papel ou interesse nos objetivos e implementao de um programa ou projeto. Incluem o pblico-alvo, os beneficirios diretos, os responsveis por garantir que os resultados sero alcanados conforme planejado, e os responsveis por prestar contas dos recursos alocados nos trabalhos.
Projeto
Instrumento de programao oramentria para alcanar o objetivo de um programa, envolvendo um conjunto de operaes, limitadas no tempo, das quais resulta um produto que concorre para a expanso ou aperfeioamento da ao de Governo.
Sustentabilidade
Continuao dos benefcios resultantes de uma interveno de desenvolvimento mesmo aps a sua concluso. Probabilidade de os benefcios perdurarem no longo prazo. Situao em que as vantagens lquidas so suscetveis de resistir aos riscos ao longo do tempo.
Pblico-alvo
Conjunto de pessoas, famlias, comunidades, instituies ou setores que sero atingidos pelo programa.
Recursos (Inputs)
Meios financeiros, humanos e materiais usados para uma interveno de desenvolvimento.
Resultado
Impacto de curto prazo causado pelo diretamente pelo programa nos seus beneficirios (normalmente referem-se a mudanas de conhecimento, habilidades, comportamento e valores).
52
GLOSSRIO
REFERNCIAS BIBLIOGRFICAS
Alberta Consultative Health Research Network. (2001-2002) Evaluability Assessment. Disponvel em http://www.achrn.org/ Evaluability.htm Buvinich, Manuel Rojas. (1999). Ferramentas para monitoramento e avaliao de programas e projetos sociais. Unicef. Instituto do Banco Mundial. (sem data). Introduo ao Monitoramento & Avaliao: Apostila do Participante. Rodrigues, Maria Ceclia Prates. (1998). Avaliao e monitoramento. Texto base para International Development Research Centre. a disciplina de Monitoramento e Avaliao Identifying the Intended Use(s) of an ministrada no mbito do curso de Gerncia Evaluation. Abril de 2004. Disponvel em de Programas Sociais, promovido pela FESP/ www.idrc.ca ISAPE/CPG. International Development Research Centre. United Way of America. (1996). Measuring Identifying the Intended User(s) of an program outcomes: a practical approach. Evaluation. Maro de 2004. Disponvel em www.idrc.ca Valarelli, Leandro Lamas (1999). Indicadores de Kayano, Jorge, e Caldas, Eduardo L. (2001). Indicadores para o dilogo. So Paulo: Instituto Plis; Programa Gesto Pblica e Cidadania/ EAESP/ FGV. McNamara, Carter. Basic Guide to Program Evaluation. 1999. Disponvel em http:// www.mapnp.org/library/evaluatn/fnl_ Patton, Michael Quinn. (1997). Utilizationfocused evaluation: the new century text. Londres: Sage Publications. resultados de projetos sociais. RITS. Disponvel em: http://www.rits.org.br/ gestao_teste/ge_testes/ge_tmes_jul99.cfm W.K. Kellogg Foundation. (2001). Logic Model Development Guide: Using Logic Models to Bring Together Planning, Evaluation, & Action. 3 Patton, Michael Quinn. (1997). Utilizationfocused evaluation: the new century text. Londres: Sage Publications.
BIBLIOGRFICAS
53
ANEXO 1
Modelo Lgico de Gesto do Programa Cabra Forte
54
ANEXO 1
ANEXO 1
55
56
ANEXO 1
ANEXO 1
57
ANEXO 2
Questionrio para levantamento de informaes sobre os resultados da implantao de poos pelo Programa Cabra Forte
58
ANEXO 2
Propriedade:
Proprietrio:
1 - Qual a rea (em tarefas) da propriedade? tarefas 2 - Quantas cabeas de ovinos e caprinos existem na propriedade? Ovinos: Caprinos: cabeas cabeas
3 - Quantos litros de gua por dia so necessrios para o consumo do rebanho? litros
ANEXO 2
59
6 - O produtor tinha como garantir gua para o rebanho durante todo o ano? ( ) Sim ( ) No Por qu ?
7 - Qual a distncia que o produtor (ou rebanho) percorria para ter acesso gua? metros 8 - Em mdia, quantos meses no ano a gua era insuficiente para atender necessidade do rebanho? meses
11 - Qual o grau de facilidade que a instalao do poo trouxe para o acesso gua pelo rebanho? ( ) Pouca ( ) Regular ( ) Muita
Comente:
60
ANEXO 2
ANEXO 3
ANEXO 3
Instrumento usado para anlise dos dados coletados sobre o Programa Cabra Forte
61
Total do Programa Plo de Remanso Campo Alegre de Lurdes Casa Nova Pilo Arcado Remanso Plo de Jaguarari Andorinha Cura Jaguarari Juazeiro Monte Santo Uau Plo de Conceio do Coit Barrocas Conceio do Coit Nova Ftima Retirolndia Santaluz So Domingos Serrinha Valente
62
ANEXO 3
Capacidade real Custo de N de produtores N de produtores de produo de instalao X N beneficiados gua X beneficiados de produtores Capacidade X previsto beneficiados potencial Qde. %
ANEXO 3
63
64
ANOTAES
ANOTAES
65
Fotografias gentilmente cedidas pela Agecom, Arquivo Cacob-Diren-Seinfra, Ascom-Funceb, Ascom-Seagri, Ascom-Secomp, Adenilson Nunes, Alceu Elias, Angeluci Figueiredo, Aristeu Chagas, Jorge Cordeiro, Lzaro Srgio, Marcos Souza e Roberto Viana
19/05/2010
Objetivos da Oficina
H dois propsitos principais para esta oficina:
Promover a troca de conhecimentos sobre teorias e prticas em Planejamento, Monitoramento e Avaliao de programas e projetos Sociais. Levar os participantes a desenvolverem um olhar avaliativo e uma lgica de planejamento e gesto voltada para melhores resultados em programas e projetos sociais.
19/05/2010
Agenda de Trabalho
Esta oficina foi dividida em 2 partes:
Concepo e planejamento polticas e projetos sociais (12h) Elaborao, gesto e avaliao de projetos sociais (20h)
19/05/2010
Para reflexo
O planejamento no diz respeito a decises futuras, mas s implicaes futuras de decises presentes.
(Peter Drucker)
Alinhamento Conceitual
Polticas, programas e projetos
19/05/2010
Polticas institucionais
Poltica como a organizao decide atuar com relao a determinados temas. Existem polticas que determinam o funcionamento interno da organizao (ex.: Recursos Humanos, Preveno de Acidentes de Trabalho) E polticas que determinam a atuao tcnica da organizao atravs das quais ela busca realizar sua misso e alcanar sua viso de futuro.
19/05/2010
Para reflexo
Poltica Pblica no o mesmo que Deciso Poltica, pois, uma Poltica Pblica envolve mais que uma deciso e requer diversas aes estrategicamente selecionadas para implementar as decises tomadas.
(Pereira, 2007)
19/05/2010
Polticas Sociais
Existem 3 nveis de formulao de ao social: o nvel dos grandes objetivos e eixos estratgicos de ao: a Poltica um nvel intermedirio em que as polticas so traduzidas em linhas mestras de aes temticas e/ou setoriais: os Programas o nvel das aes concretas, delimitadas no tempo, no espao e pelos recursos existentes, que possam realizar os programas e as polticas: os Projetos
(Armani, citado por Pogoda, Pires e Moretti, s.d.)
Do Estratgico ao Operacional
POLTICA PROGRAMAS PROJETOS
19/05/2010
Do Estratgico ao Operacional
Programas e projetos tornam operacional uma poltica na medida em que traduzem com clareza seus objetivos e concretizem sua implementao mediante a aplicao de recursos.
Ciclo de um Projeto
Design Estratgico da Poltica Formulao do Programa/ Projeto Incio da operacionalizao Implementao Reformulao, expanso, reduo, encerramento.
19/05/2010
Formao de Agenda
Com questes que merecem polticas definidas.
Formulao
Definio dos objetivos, marco jurdicos, administrativo e financeiro.
3.
Implementao
Elaborao dos planos, programas e projetos que permite executar a poltica.
4.
Avaliao
Compara os fins alcanados aos meios mobilizados e aos objetivos inicialmente estabelecidos.
Elaborando Polticas
Baseado na metodologia de Policy Analysis de Eugene Bardach
19/05/2010
1. Defina o problema
Comece com uma definio clara e objetiva sobre o(s) problema(s) que procura resolver ou minimizar com a poltica. Isto lhe dar a razo para realizar todo este trabalho e nortear a coleta de informaes e evidncias. As primeiras definies do problema podero ser revisadas quando mais conhecimento for construdo sobre as questes envolvidas.
19/05/2010
1. Defina o problema
Dicas na definio do problema:
Pense em faltas e excessos (ex.: h muito disso, h pouco daquilo); Evite o uso de termos subjetivos (ex.: bom ou ruim, insatisfatrio, etc.); Quantifique se possvel (mesmo que os nmeros no sejam definitivos, daro uma boa idia do tamanho do problema); Condies que causam o problema tambm so problemas (busque identificar a relao causal entre os problemas e suas condicionantes); Perder oportunidades tambm um problema.
2. Colete evidncias
Definido o problema hora de analisar o contexto no qual a poltica ser implementada e coletar dados e informaes para evidenciar a questo sobre seus vrios ngulos. Nesta etapa so analisados o que, o onde, o quando e o porqu do problema identificado.
Para isso deve-se mergulhar na literatura e documentos j produzidos, realizar pesquisas, entrevistas e anlises de tendncias.
10
19/05/2010
2. Colete evidncias
Dados: so fatos ou representao de fatos sobre o mundo. So normalmente valores, medidas, estatsticas, mas podem ir alm disso. Informaes: so formadas por um conjunto de dados devidamente ordenados e organizados de forma a terem significado. Evidncias: tudo aquilo que pode ser usado para provar que uma determinada afirmao verdadeira ou falsa.
Evidncias so informaes que afetam as crenas das pessoas (inclusive as suas) sobre aspectos significantes do problema que est sendo estudado. (Bardach)
2. Colete evidncias
Razes para buscar evidncias:
Para compreender a natureza e a dimenso do(s) problema(s) que est tentando definir; Para conhecer e analisar caractersticas particulares do contexto onde a politica atuar; Para avaliar boas prticas, polticas que se mostraram efetivas em situaes semelhantes.
O material coletado ajudar no s na melhor formulao do problema central, como na construo de alternativas de ao e na definio de resultados esperados.
11
19/05/2010
3. Construa alternativas
Pense nas diferentes polticas, cursos de ao ou estratgias de interveno que podem ser adotadas para minimizar o problema.
Dicas na construo de alternativas: Comece abrangente e termine bem focado, com no mximo 4 alternativas. Considere as alternativas propostas por atores-chave no processo decisrio (tcnico e poltico). Sempre inclua a alternativa status quo nesta anlise (ou seja, a
manuteno da situao como est).
Identifique o conceito central de cada alternativa e procure descrev-lo de forma simples. Faa a distino entre a alternativa bsica e suas variaes.
12
19/05/2010
5. Projete os resultados
Nesta etapa importante pensar em todos os potenciais resultados e impactos das alternativas de ao. a etapa mais difcil! Procure ser o mais realista possvel!
Perguntas para avaliar a potencial efetividade: 1. Qual o nvel mnimo aceitvel de efetividade? 2. Que processo pode produzir este nvel de efetividade? 3. Quo provvel que este processo alcance este resultado? 4. Qual a probabilidade de fracasso?
5. Projete os resultados
Elabore uma matriz de resultados, cruzando alternativas com os critrios selecionados:
Critrio 1 Alternativa 1 Alternativa 2 Alternativa 3 Resultado Resultado Resultado Critrio 2 Resultado Resultado Resultado Critrio 3 Resultado Resultado Resultado
Cuidado: Deve ficar claro nos critrios a unidade e o valor que ser considerado na anlise dos resultados (ex: % de reduo de emisso de gases, ou tempo de implantao em meses).
13
19/05/2010
7. Decida
Mesmo que a deciso final no seja sua, se nesta etapa voc ainda no tiver segurana sobre a melhor alternativa porque as vantagens e desvantagens no foram bem pesadas, ou porque alguns aspectos sobre as alternativas no ficaram bem claros.
Revise o processo e busque aprimor-lo. Consulte importantes stakeholders para evitar futuras resistncias.
14
19/05/2010
15
19/05/2010
O produto final
O que temos ao final deste processo?
O problema que precisa ser resolvido ou minimizado. Algumas alternativas de ao que podem ser tomadas. Para cada alternativa, uma srie de resultados potenciais. Se nenhuma alternativa dominante considerando os critrios selecionados, as alternativas so analisadas segundo vantagens x desvantagens identificadas. Quando solicitado, pode-se apresentar recomendaes sobre qual a melhor alternativa de poltica.
16
19/05/2010
Projeto - conceito
Um projeto um empreendimento planejado que consiste num conjunto de atividades inter-relacionadas e coordenadas para alcanar objetivos especficos dentro dos limites de um oramento e de um perodo de tempo dados.
(ONU, citado por Almeida, s.d.)
17
19/05/2010
Programa - conceito
Programa um conjunto de projetos de carter institucional, com diretrizes bem definidas, voltado para um ou mais objetivos de uma instituio.
Geralmente se acha sob a responsabilidade de um coordenador ou equipe de coordenadores Na elaborao de vrios projetos sobre o mesmo tema e objetivo, eles devem ser reunidos e organizados de forma mais ampla em um programa. Assim, os recursos e esforos podem ser otimizados e integrados.
(So Paulo.Secretaria do Meio Ambiente, 2005)
Para Reflexo
O termo projeto carrega o sentido de organizar idias, pesquisar, analisar a realidade e desenhar uma proposta articulada com intencionalidade.
(Marcos Jos Pereira da Silva)
18
19/05/2010
Projetos sociais so uma forma de organizar aes para transformar determinada realidade social.
(baseado em Schuckar, 2005)
Para reflexo
Os projetos so pontes entre o desejo e a realidade.(...) Os projetos sociais tornam-se, assim, espaos permanentes de negociao entre nossas utopias pessoais e coletivas o desejo de mudar as coisas , e as possibilidades concretas que temos para realizar estas mudanas a realidade.
(Stephanou, Muller e Carvalho)
19
19/05/2010
Projetos Sociais
Riscos da ao social sob a forma de projeto:
Fragmentao e duplicidade das aes; Orientao pela linha do financiador e no pela misso institucional; Descontinuidade de aes; Dificuldade de avaliar a efetividade das aes e interpretar seus desdobramentos.
20
19/05/2010
Rede - conceito
Rede um sistema de ns e elos capaz de organizar pessoas, organizaes e instituies, de forma igualitria e democrtica, em torno de um objetivo comum, descentralizando a informao, estimulando a participao cooperativa e garantindo autonomia a cada um de seus integrantes.
(Instituto Ecoar para a Cidadania, 2010)
21
19/05/2010
Redes: componentes
Ns: so os integrantes (pessoas, organizaes, territrios),
atores sociais s vezes organizados em grupos e sub-grupos em torno de propostas comuns.
A fora de uma rede no se mede pelo nmero de integrantes, mas pela qualidade da comunicao entre eles.
22
19/05/2010
Para reflexo
A interligao em rede, de pessoas e/ou entidades, se estabelece a partir da identificao de objetivos comuns e/ou complementares cuja realizao melhor se assegurar com a formao da rede.
(Whitaker, 1993)
23
19/05/2010
Ser protagonista significa ser o primeiro lutador, ou proto agonistes em grego; ser, portanto, o primeiro agente de transformao.
(Neumann e Neumann, 2004)
Mudana de Olhar
deficincias e necessidades
talentos e recursos
Toda pessoa, assim como toda comunidade um copo meio cheio, meio vazio. O olhar determina o movimento. Se o copo vazio, procura-se ench-lo. Se d para ver gua no copo, busca-se complet-lo.
24
19/05/2010
De mquinas de refrigerante...
De um lado esto as instituies pblicas e privadas que desenvolvem projetos e programas sociais baseados nas deficincias e necessidades das comunidades e dos beneficirios das aes.
Atuando como meros provedores de servios, as instituies so como mquinas de refrigerante: ao terem seus botes acionados, ofertam produtos e servios baseados em modelos padro e desenvolvidos para consertar pessoas e suas realidades.
25
19/05/2010
Para reflexo
26
19/05/2010
Parceria
O que e como construir
Parceria - conceito
A relao entre duas ou mais partes que, tendo objetivos compatveis, estabelecem um acordo para fazer alguma coisa juntos. Parcerias so pessoas trabalhando juntas em uma relao mutuamente benfica, muitas vezes fazendo juntos o que no conseguiriam realizar sozinhos.
(Frank & Smith, 2000)
27
19/05/2010
Colaborao
Segredos e desafios
28
19/05/2010
Colaborao
Considerada a marca da dcada de 90, quando profissionais e pesquisadores passaram a recomendar parcerias colaborativas entre mltiplos setores como estratgia para tranformaes sistmicas em reas como: desenvolvimento humano e social, governo e mobilizao comunitria.
Para reflexo
Colaborao um processo atravs do qual atores que vem diferentes aspectos de um problema ou questo podem construtivamente explorar suas diferenas e buscar solues que vo alm dos limites de sua viso
(adaptado de Gray, citado por Borden e Perkins)
29
19/05/2010
Tipos de colaborao
Dentro da hierarquia de uma organizao, as colaboraes podem ser:
Interinstitucional no nvel estratgico com o propsito maior de coordenao de programas e servios Interinstitucional no nvel operacional com o objetivo de criar uma rede entre os prestadores de servio Intrainstitucional quando envolve parcerias entre os vrios nveis hierrquicos de uma mesma organizao Tcnico-famlia quando a parceria criada com as famlias para prover servios mais efetivos e individualizados aos beneficirios.
(adaptado de Hodges, Nesman & Hernandez, 1999)
30
19/05/2010
Articulao Integrao
Quando falamos em integrar as aes, torna-se comum o entendimento de que cada qual vai deixar de fazer o que faz para realizar um novo trabalho. Articulao significa cada um trazer seus conhecimentos, habilidades e prticas e atravs de parcerias descobrir novas formas de trabalhar em conjunto e ser mais efetivo.
(Curitiba. Prefeitura Municipal, 2002)
Para reflexo
O objetivo maior de uma colaborao deve ser estabelecer um processo contnuo de resoluo de problemas, e no ser um fim em si mesmo.
(Hodges, Nesman & Hernandez, 1999)
31
19/05/2010
32
19/05/2010
2.
Estruturao: uma vez decidido que o projeto vai ser realizado, hora de
organizar a equipe executora e mobilizar os meios necessrios para execut-lo.
3.
Realizao: o perodo quando as atividades previstas so realizadas e acompanhadas, de acordo com o planejado. Por vezes necessrio alterar a programao, em razo de fatos no previstos. Encerramento: ao trmino do projeto preciso analisar seus resultados e
impactos, comparando-se o que se pretendia originalmente com o realmente alcanado. Tambm o momento de cuidar da desmobilizao do projeto, caso no haja prosseguimento.
(Campos, Abego e Delamaro, 2002)
4.
Para reflexo
Elaborar projetos uma forma de independncia. uma abordagem para explorar a criatividade humana, a mgica das idias e o potencial das organizaes. dar vazo para a energia de um grupo, compartilhar a busca da evoluo.
(Rosana Kisil)
33
19/05/2010
34
19/05/2010
35
19/05/2010
TOC - Origens
Inicialmente usada como ferramenta de avaliao, a Teoria da Tranformao vem sendo aprimorada e disseminada como uma ferramenta simples e prtica que ajuda a retratar a complexidade envolvida em promover efetivas tranformaes sociais.
Resultados: conceito
Outcome = Efeitos ou transformaes provocadas pelo programa ou projeto em seus beneficirios.
Normalmente referem-se a mudanas de conhecimento, percepo, habilidades, atitudes, opinies, aspiraes, motivao, comportamentos, prticas, condio ou status.
36
19/05/2010
Exemplo do cotidiano
Situao: Voc est com uma dor de cabea terrvel. O
que fazer?
Consegue o remdio
Toma o remdio
Sente-se melhor
Qual o resultado?
Para reflexo
No sobre quantas minhocas o pssaro alimentou seus filhotes, mas quo bem os passarinhos conseguiram voar
(United Way of America)
37
19/05/2010
A relao de causalidade
TOC - Conceitos
A Teoria da Transformao define todos os marcos que so necessrios para o alcance de um objetivo de longo prazo. Esses marcos - muitas vezes chamados de resultados, efeitos, realizaes ou pr-condies so representados em um mapa chamado de caminho da transformao, que ilustra graficamente o processo de transformao e a relao de causalidade entre seus componentes.
38
19/05/2010
O caminho da transformao
Viso de Futuro
Prcondies necessrias
Mulheres que foram vtimas de violncia precisam estar emocionalmente preparadas para trabalhar.
Pressuposto: premissa que embasa o Projeto, justificando as estratgias adotadas, a partir dos resultados esperados.
(baseado no projeto desenvolvido por ActKnowledge e Aspen Institute Roundtable on Community Change, 2003)
39
19/05/2010
40
19/05/2010
Finalidades da TOC
1. Compreender e comunicar uma iniciativa j existente. 2. Planejar uma nova iniciativa. 3. Repensar e reorganizar uma iniciativa.
41
19/05/2010
2. Garanta o consenso sobre a questo central a ser trabalhada com o projeto 3. Defina o Objetivo de Longo Prazo (a viso de futuro) 4. Estabelea as pr-condies para que este Objetivo se concretize (resultados de mdio e curto prazo) 5. Paralelamente, registre os pressupostos identificados (as premissas que justificam a relao de causalidade) 6. Procure chegar at o nvel operacional (a descrio do que o projeto dever fazer)
Para reflexo
A demonstrao de uma Teoria da Transformao oferece um retrato dos marcos importantes e nos guia quanto ao que devemos encontrar ao longo da jornada para garantir que estamos no caminho certo.
(baseado em Annie E. Casey Foundation)
42
19/05/2010
43
19/05/2010
Traduo
Quem O que Por que Para quem Para que Quando Onde Como Quanto custa Quantos
O que ser feito
Conceito
Quem vai realizar o projeto
Por que deve ser feito Quem sero os beneficirios Que diferena o projeto vai fazer Quando o projeto acontecer Onde o projeto acontecer Como o projeto acontecer Quanto custar realiz-lo Quais so as metas do projeto (produtos e
beneficirios)
Traduo
Quem O que Por que Para quem Para que Quando Onde Como
Conceito
Quem vai realizar o projeto O que ser feito Por que deve ser feito Quem sero os beneficirios Que diferena o projeto vai fazer Quando o projeto acontecer Onde o projeto acontecer Como o projeto acontecer Quanto custar realiz-lo Quais so as metas do projeto
(produtos e beneficirios)
No projeto
1. Apresentao da instituio 3. Proposta 2. Justificativa 7. Pblico-alvo 4. Objetivos 9. Cronograma 8. Localizao 6. Metodologia 10. Oramento 5. Metas
44
19/05/2010
Estrutura do projeto
1. 2. 3. 4. 5. 6. 7. 8. 9. Apresentao identificao e histrico da instituio proponente (ressaltar se h parceiros na execuo) Justificativa apresentao das razes para a realizao do projeto (caractericao do problema) Proposta o que o projeto, o que ele se prope a realizar Objetivos o que se quer transformar a partir do projeto (normalmente apresentados em Geral e Especficos) Metas - apresentao dos resultados a serem atingidos pelo projeto (quantitativos e qualitativos) Metodologia as aes revistas para a realizao do projeto (devem ser claramente descritas e relacionadas aos objetivos especficos) Pblico-alvo identificao do(s) pblico(s) ao qual o projeto se destina Localizao descrio da comunidade ou local onde aconter o projeto Cronograma apresentao das etapas ou principais aes do projeto na linha do tempo
10. Oramento - iIndicao dos recursos financeiros necessrios para execuo do projeto, com valores unitrios e totais.
45
19/05/2010
Avaliao
Controle
Desenvolvimento
Avaliao de Processo
Utilizao
Avaliao de Resultado
46
19/05/2010
A Implementao do Projeto
IMPACTOS
RESULTADOS
PRODUTOS
ATIVIDADES
RECURSOS
Impactos (Impact) benefcios de mdio e longo prazo para os participantes e beneficirios indiretos do projeto (suas famlias e comunidades).
47
19/05/2010
48
19/05/2010
A Visualizao
um instrumento importante no desenvolvimento de um trabalho participativo porque facilita o processo de comunicao, ao mesmo tempo que objetiva o trabalho do grupo. As principais vantagens da visualizao:
Facilita a participao ativa permite a cada participante ver suas contribuies e identificar sua parcela no trabalho conjunto; Aumenta a qualidade da comunicao facilita a estruturao de idias; possibilita representar de forma didtica situaes complexas. Fortalece o efeito da aprendizagem racionaliza a discusso possibilitando seu aprofundamento. Aumenta a integrao do grupo torna transparente o processo de trabalho.
49
19/05/2010
OBJETIVOS ESPECFICOS Situaes esperadas por conseqncia do projeto = benefcios esperados ao pblico-alvo
RESULTADOS Impactos de curto prazo: Transformao em: Conscincia Conhecimento Habilidades Opinio Aspiraes Motivao
IMPACTOS Mdio prazo: Mudanas em: Atitudes Prticas Tomadas de deciso Longo prazo: Mudanas em:
Condies Sociais, Econmicas e Ambientais
Materiais
(prprios ou doados)
Beneficirios
PRESSUPOSTOS
FATORES EXTERNOS
A Relao de Causalidade
OBJETIVO GERAL OBJETIVOS ESPECFICOS ESTRATGIAS PRODUTOS ATIVIDADES PARA QUE FAZ O QUE O PROJETO FAZ O QUE RESULTA DELE IMPACTO RESULTADOS
50
19/05/2010
MLGP TOC?
Modelos Lgicos de Gesto ilustram os componentes do programa e constru-los ajuda os vrios atores a identificarem claramente os resultados esperados, recursos que esto sendo alocados e atividades que sero desenvolvidas. Teorias da Transformao buscam ligar resultados esperados s atividades do projeto para explicar como as transformaes desejadas vo acontecer.
51
19/05/2010
MLGP TOC
Como?
Modelos Lgicos de Gesto normalmente comeam com a definio de um programa e ilustram seus componentes. Teorias da Transformao podem comear com um programa, mas so melhores quando iniciadas a partir de um Objetivo de Longo Prazo para ento definir que abordagens programticas so necessrias.
TOC + MLGP?
A combinao das duas ferramentas um poderoso instrumento para a gesto com foco em resultados. 1. Comear com a Teoria da Tranformao para saber: onde se quer chegar e o que deve ser feito para chegar l. 2. Detalhar o projeto no Modelo Lgico de Gesto para garantir alinhamento entre o que o projeto faz e o para que faz.
52
19/05/2010
Para Reflexo
Se voc no sabe para onde est indo, como vai saber quando chegar l?
(Yogi Berra)
53
19/05/2010
54
19/05/2010
OBJETIVOS ESPECFICOS Situaes esperadas por conseqncia do projeto = benefcios esperados ao pblico-alvo
RESULTADOS Impactos de curto prazo: Transformao em: Conscincia Conhecimento Habilidades Opinio Aspiraes Motivao
IMPACTOS Mdio prazo: Mudanas em: Atitudes Prticas Tomadas de deciso Longo prazo: Mudanas em:
Condies Sociais, Econmicas e Ambientais
Materiais
(prprios ou doados)
Beneficirios
PRESSUPOSTOS
FATORES EXTERNOS
55
19/05/2010
Os Componentes do MLGP
Questes Prioritrias: As questes ou problemas que o projeto quer resolver ou minimizar. A definio clara e precisa dos problemas que o projeto quer resolver o primeiro requisito para alcanar o impacto desejado .
Para maior alinhamento e consistncia, pode-se usar ferramentas para ajudar na identificao da relao de causalidade entre as questes levantadas. Ex.: rvore de problemas
Os Componentes do MLGP
Objetivo Geral
a contribuio maior que o projeto far e que deve corresponder soluo ou reduo do problema central identificado nas questes prioritrias. S deve haver um Objetivo Geral por projeto. a misso do projeto!
Exemplo: Problema Alta incidncia de mortalidade infantil na regio X. Objetivo Geral Reduzir a mortalidade infantil na regio X.
56
19/05/2010
Os Componentes do MLGP
Objetivos Especficos: O que o projeto espera alcanar para realizar seu Objetivo Geral. Devem descrever condies ou transformaes a serem obtidas para que o Objetivo Geral se concretize.
O Objetivo Geral do projeto deve estar diretamente ligado grande questo identificada e os Objetivos Especficos s questes identiificadas como causadoras da questo principal.
Os Componentes do MLGP
Estratgias: As alternativas de ao escolhidas para o alcance dos objetivos propostos. Refletir sobre as estratgias ajuda a clarificar o propsito das atividades realizadas e a garantir mais qualidade nos processos de trabalho. Atividades: Aes que o projeto realiza, dentro de cada estratgia, para alcanar os objetivos especficos
57
19/05/2010
Os Componentes do MLGP
Produtos: Bens ou servios criados ou fornecidos pelo projeto atravs de suas atividades e a quem beneficiam. Por serem o resultado direto da realizao de cada atividade, sua descrio e quantificao comprovam a realizao e a dimensionam.
Exemplo: Atividade Oferecer cursos de ingls para os jovens. Produtos Cursos oferecidos Jovens beneficiados
Os Componentes do MLGP
Resultados: Benefcios ou transformaes para os participantes gerados durante ou logo aps sua participao no programa. Normalmente referem-se a mudanas de conscincia, conhecimentos, habilidades, comportamentos, aspiraes e motivao. Muitas vezes os resultados so resultados de mais de uma atividade ou at estratgia.
Os resultados comprovam a diferena que o programa est fazendo na vida dos participantes.
58
19/05/2010
Os Componentes do MLGP
Impactos: Benefcios ou transformaes de mdio e longo prazo para os participantes e beneficirios indiretos do projeto. Os efeitos (esperados ou no-esperados) de um projeto nos seus beneficirios, suas famlias, comunidades e sociedade em geral.
Quanto mais de longo prazo, mais a concretizao dos impactos depende no s da efetividade do projeto, como tambm de outros fatores externos sua gesto e mandato.
Os Componentes do MLGP
Recursos Os recursos financeiros, humanos, materiais e
tecnolgicos com os quais o projeto/ programa conta para realizar suas atividades.
59
19/05/2010
Alinhamento Conceitual
Avaliao
60
19/05/2010
Conceito de avaliao
Do dicionrio: avaliar determinar ou estabelecer o valor de; examinar e julgar
(Worthen, 2004)
61
19/05/2010
Muitas pessoas acreditam que a avaliao um processo nico e complexo que deve sempre acontecer no mesmo momento, de uma certa maneira e normalmente por especialistas externos.
Elas acreditam que deveriam entender termos como validade e confiabilidade, e na verdade no precisam. Precisam saber que informao necessitam para tomar decises sobre o projeto e suas deficincias.
(adaptado de Carter McNamara, 1999)
62
19/05/2010
Para Reflexo
O que se define por avaliao e o nome dado uma avaliao em particular uma questo de discusso, clarificao e negociao.
(Michael Quinn Patton)
Definies
Monitoramento
Processo contnuo de coleta e anlise de dados implementado para avaliar um projeto (programa ou poltica) e compar-lo com a performance esperada.
Avaliao
Anlise sistemtica e objetiva dos resultados alcanados por um projeto, programa ou poltica, realizada com o objetivo de avaliar sua relevncia, coerncia, a eficincia da implementao, sua efetividade e impacto, e sua sustentabilidade.
(Instituto do Banco Mundial, s.d.)
63
19/05/2010
Monitoramento Avaliao
Monitoramento
Atividade de gesto interna e contnua Acontece durante a implementao do projeto
Avaliao
Atividade interna ou externa Pode acontecer antes, durante ou depois da implementao de um projeto Com base em dados levantados pelo monitoramento e outras fontes, julga o desempenho de um projeto de acordo com critrios pr-estabelecidos
A avaliao usa extensivamente os dados gerados pelo sistema de monitoramento, mas alm dele usa outras fontes de informao.
Eficincia: uso otimizado, com economia e qualidade, dos bens e recursos empregados na execuo das aes.
Estamos usando os recursos da melhor maneira possvel?
64
19/05/2010
Avaliao de Programas
a coleta cuidadosa de informaes sobre um programa ou um aspecto do programa para que sejam tomadas as decises necessrias sobre ele.
(McNamara, 1999)
a coleta sistemtica de informaes sobre as atividades, caractersticas e resultados dos programas para propiciar julgamentos sobre ele, melhorar sua efetividade, e/ou subsidiar decises sobre a criao de novos programas. (Patton, 1997)
Tipos de Avaliao
Uma avaliao de programa pode incluir um ou mais dos 35 tipos de avaliao que existem: ex-ante, expost, formativa, somativa, de processo, de resultado, de impacto, custo x benefcio, etc.
O tipo de avaliao que deve ser realizada para subsidiar o aprimoramento de um programa depende do que se quer saber sobre ele.
65
19/05/2010
Para Reflexo
No se preocupe com o tipo de avaliao que deve ser feito, preocupe-se em definir o que voc precisa saber para tomar importantes decises sobre o programa, e como a informao pode ser corretamente coletada e analisada.
(Carter McNamara)
Desmistificando a Avaliao
Avaliao como Instrumento de Gesto
66
19/05/2010
Para Reflexo
O que avaliado, feito; Se voc no mede resultados, no pode separar o sucesso do fracasso; Se voc no v o sucesso, no tem como premi-lo; Se voc no premia o sucesso, est provavelmente premiando o fracasso; Se voc no v o sucesso, no pode aprender com ele; Se voc no reconhece o fracasso, no pode corrigi-lo; Se voc demonstrar resultados, ganhar apoio pblico.
(adaptado de Osborne & Gaebler, 1992 Premissas de um Governo Orientado para Resultados)
67
19/05/2010
Mudana de Paradigma
Considerada tarefa tediosa e que toma Considerada um trabalho de todos. Todos da tempo de trabalho real, representando organizao levantam informaes e se um luxo para a organizao. perguntam: "O que e como podemos fazer melhor? Resultados da avaliao pouco incorporados no planejamento e tomada de decises da organizao. Temor de que resultados pouco satisfatrios tragam conseqncias negativas, tais como a perda do trabalho dos envolvidos. A avaliao complexa e onerosa financeiramente, j que deve ser feita por especialistas. Resultados da avaliao orientando o desenvolvimento dos projetos e as mudanas de direo. Ambiente onde no existe medo de se correr risco; onde as pessoas podem examinar algo que no deu certo sem medo de conseqncias negativas. Os instrumentos e metodologias so simples, no onerosos e podem ser adaptados a diferentes realidades e necessidades.
(baseado em Marino, 2001)
68
19/05/2010
Avaliao de Processo
Utilizao
Avaliao de Resultado
69
19/05/2010
Anlise Situacional
Tambm chamada de Avaliao Diagnstica ou apenas Diagnstico. Tem por objetivo organizar informaes que caracterizem, dimensionem e evidenciem as questes ou problemas que o projeto vai buscar resolver ou minimizar. Neste momento, sempre que possvel, deve-se reunir outros stakeholders para caracterizar o problema sob vrios pontos de vista.
70
19/05/2010
Avaliao de Processo
Visa determinar o grau em que o programa est operando conforme o planejado. Analisa o que faz o programa e quem so seus beneficirios. Identifica quais so os elementos essenciais para que os objetivos do programa sejam alcanados. Em geral, responde a perguntas em duas categorias:
Cobertura: analisa o alcance do projeto e as caractersticas dos beneficirios. Processo: analisa a consistncia do projeto e a qualidade de sua implementao.
Avaliao de Resultados
A avaliao de resultados analisa os benefcios/transformaes proporcionados aos participantes (que so resultantes dos esforos do projeto) durante e/ou logo aps a sua participao no mesmo.
Deve ser realizada a partir da fase intermediria e prximo ao final do projeto. Pode-se tambm avaliar os resultados do projeto junto aos parceiros, equipe responsvel e outros stakeholders.
71
19/05/2010
Parmetros de Qualidade
Standards of Evaluation
Parmetros de Qualidade
Princpios orientadores desenvolvidos em 1994 por um Comit formado por 16 associaes profissionais dos Estados Unidos
(hoje aceitos por avaliadores em todo o mundo)
72
19/05/2010
4. Ser sistemtico = Planeje o que fazer, e faa o que planejou. Registre cuidadosamente o que acontece em cada
estgio da tomada de deciso e da coleta de dados.
73
19/05/2010
Baseada na premissa de que avaliaes deveriam ser julgadas pela sua utilidade e uso real. Assim, o foco da metodologia est no futuro uso das informaes, conforme definido pelos principais clientes da avaliao.
O avaliador atua como facilitador ajudando os principais clientes da avaliao a definirem que tipo de avaliao eles precisam. Isso requer muita negociao onde o avaliador oferece um menu de possibilidades dentro da lgica do projeto, e dos princpios e modelos de avaliao.
74
19/05/2010
A Lgica da AFU
Os potenciais clientes da avaliao tendero a us-la quanto melhor eles compreenderem e se apropriarem do processo de avaliao e seus resultados. Eles compreendero e se apropriaro da avaliao quanto mais ativamente forem envolvidos no processo. Ao envolver ativamente os principais clientes, o avaliador prepara-os para o uso, cria base tcnica para a utilizao da avaliao e refora, ao longo de todo o processo, a importncia e a utilidade das informaes coletadas.
75
19/05/2010
Quando realizada de forma apropriada, a avaliao facilita o comprometimento compartilhado com os resultados de um programa entre os vrios nveis hierrquicos.
(adaptado de Patton,1997)
A Avaliao Participativa
As pessoas que participam da criao de algo tendem a se sentir mais donas do que foi criado, percebem melhor sua utilidade e preocupam-se mais em cuidar dele.
(Michael Patton)
76
19/05/2010
Os participantes definem o foco da avaliao em processos e resultados que eles consideram importantes e com os quais esto comprometidos;
77
19/05/2010
Para reflexo
Aprender a ver o mundo como um avaliador o v, normalmente tem um impacto maior e mais duradouro naqueles que participam da avaliao, do que as informaes que constam no relatrio final.
(Michael Patton)
78
19/05/2010
Planejando a avaliao
Passo a passo de uma avaliao formal, interna e formativa de um programa ou projeto
Avaliao formal
Avaliao formal :
um julgamento (porque envolve valores) sistemtico (porque baseia-se em critrios e procedimentos previamente reconhecidos) dos processos ou dos produtos de uma poltica, programa ou projeto, tendo como referncia critrios explcitos, a fim de contribuir para o seu aperfeioamento, a melhoria do processo decisrio, o aprendizado institucional e/ou o aumento da accountability.
(Rua, 2000)
79
19/05/2010
Avaliao formativa
Formativa - tipo de processo de avaliao usado durante a implementao de um programa ou projeto, para fornecer informaes que permitam o seu aprimoramento.
Usada para prover informaes essenciais para que os gestores possam introduzir mudanas a fim de melhor-lo ainda durante seu processo de implementao.
80
19/05/2010
Avaliao somativa
Somativa conduzida aps o trmino do programa ou projeto.
Serve basicamente para julgar o mrito e a relevncia de um programa ou projeto em relao a determinados critrios, possibilitando a deciso sobre sua continuidade, extenso, reformulao ou encerramento.
(baseado em Chianca, Marino e Schiesari, 2001)
Plano de Trabalho
Formao da equipe de avaliao Elaborao do Modelo Lgico de Gesto Anlise de Avaliabilidade Identificao dos principais clientes da avaliao Definio das finalidades da avaliao Seleo das perguntas avaliativas Identificao dos indicadores de avaliao Definio dos mtodos de coleta e anlise de dados Coleta e anlise dos dados Apresentao dos resultados
81
19/05/2010
82
19/05/2010
2. Elaborao do MLGP
A elaborao do Modelo Lgico de Gesto do Projeto um dos momentos mais importantes da avaliao e deve ser realizado com representantes de todas as organizaes responsveis pela execuo do projeto. fundamental que o MLGP retrate o projeto como est sendo executado na prtica, e no como foi elaborado e consta no papel.
3. Anlise de Avaliabilidade
um processo que tem por objetivos: clarificar informaes sobre o design do programa/ projeto, explorar sua realidade e ajudar a redefinir sua estrutura, antes que seja feita a avaliao de seus resultados.
Ajuda a definir se o projeto pode ser efetivamente avaliado e se sua avaliao contribuiria para melhorar sua performance.
83
19/05/2010
84
19/05/2010
Clientes de Avaliao
Identificando os principais clientes
Os principais clientes de uma avaliao devem ser definidos no incio do processo e o avaliador deve manter contato freqente com eles para engaj-los e ter a certeza de que a avaliao respeita seus valores e atende s suas necessidades.
85
19/05/2010
3. Que grupos e pessoas sero mais afetados pela avaliao? 4. Que grupos e pessoas esto em posio de tomar decises sobre o projeto/programa a ser avaliado? 5. Quem ter suas aes e decises mais influenciadas pelo seu engajamento no processo de avaliao e seus resultados?
86
19/05/2010
Pensando a estratgia
Aps identificar os principais clientes da avaliao hora de planejar a estratgia de atuao junto a eles.
Para reflexo
Tentaes que afastam do foco no cliente: os Sete Pecados Capitais (Patton, 1997)
Os avaliadores fazerem deles prprios os principais clientes da avaliao; Identificar audincias vagas e passivas ao invs de pessoas reais como clientes; Selecionar organizaes como clientes e no pessoas especficas; Focar nas decises ao invs de nos tomadores de deciso; Assumir que o financiador automaticamente o principal cliente da avaliao; Esperar at ter os resultados da avaliao para ento identificar os clientes e futuros usos dela; Colocar-se acima das questes pessoais e polticas.
87
19/05/2010
88
19/05/2010
89
19/05/2010
Perguntas avaliativas
Perguntas Avaliativas
So as perguntas que do direo, fundamento e foco avaliao. Especificam exatamente o que a avaliao vai responder e guiam o projeto e o planejamento da avaliao.
(Worthen, 2004)
A definio das perguntas avaliativas dever ser feita a partir da anlise das perguntas trazidas pelos potenciais clientes e considerando o que foi definido e acordado como as principais finalidade da avaliao.
90
19/05/2010
Para Reflexo
As perguntas avaliativas devem gerar as informaes necessrias para basear o julgamento do valor de alguma coisa.
(Chianca, Marino e Schiesari, 2001)
PA 1
PA 2
PA 3
91
19/05/2010
Indicadores
O que so Indicadores
Em projetos sociais, indicadores so parmetros qualificados e/ou quantificados que servem para detalhar em que medida os objetivos de um projeto foram alcanados, dentro de um prazo delimitado de tempo e numa localidade especfica.
(Valarelli, citado em Pogoda, Pires e Moretti, s.d.)
92
19/05/2010
O que so Indicadores
So medidas quantitativas e/ou qualitativas que indicam o grau de alcance dos objetivos e metas de um projeto. Permitem analisar em que medida um resultado esperado est sendo alcanado. Como o prprio nome sugere, so uma espcie de marca ou sinalizador, que busca expressar algum aspecto da realidade sob uma forma que possamos observ-lo ou mensur-lo. Eles indicam mas no so a prpria realidade. Baseiam-se na identificao de uma varivel, ou seja, algum aspecto que varia de estado ou situao, variao esta que consideramos capaz de expressar um fenmeno que nos interessa.
Exemplo
O programa a varivel independente que se espera cause alteraes na varivel dependente.
(Banco Mundial)
Varivel: sade Indicador: temperatura do corpo Unidade de medida: graus Celsius Instrumento: termmetro Parmetro: 37,5 = boa sade
93
19/05/2010
Para reflexo
94
19/05/2010
Pergunta Avaliativa
Indicadores
Fontes de Informao
Periodicidade da Informao
PERGUNTA AVALIATIVA
Objetivo Especfico: Ampliar e melhorar a oferta de gua para os produtores. Estratgia: 1.1. Disponibilizar ponto de gua confivel para grupos de 15 a 20 produtores.
COMPONENTES A SEREM AVALIADOS 1.1.1 Perfurao e recuperao de poos tubulares INDICADORES DE PRODUTO 1. N de poos instalados no perodo Descritor Periodicidade do Indicador 1. Mensal F.I.
1. N de Sistemas Simplificados de Abastecimento de gua (SSAA) entregues comunidade a partir de poos, em condies de oferecer gua em quantidade e qualidade adequadas para consumo animal. 2. Produtores pertencentes s comunidades do programa beneficiados com os novos poos instalados. 3. Capacidade potencial de produo de gua dos poos instalados, medida em m/hora. 4. Capacidade real de produo de gua dos poos instalados, medida por m/hora.
2. N de produtores beneficiados/ comunidade/ municpio/ plo 3. Produo potencial de gerao de gua disponvel por poo instalado / comunidade / municpio / plo 4. Produo efetiva de gerao de gua disponbilizada por poo instalado/ comunidade / municpio / plo
2. Mensal Tcnicos da CERB 3. Mensal (dos novos poos instalados) 4. Mensal (dos novos poos instalados
95
19/05/2010
96
19/05/2010
97
19/05/2010
Comparativo de Mtodos
Mtodo de coleta de dados Pesquisa de dados disponveis Descrio Pesquisa focada em registros administrativos, sistemas de acompanhamento, avaliaes anteriores do programa, outros relatrios e documentos, dados de censos, etc. Aplicao de questionrios padronizados com perguntas abertas ou fechadas. O questionrio pode ser autoadministrvel ou no, ser aplicado em forma de entrevista pessoal ou por telefone. Vantagens - Baixo custo e rapidez na obteno de informaes. Desvantagens - Os dados disponveis podem no ser adequados, precisos, vlidos ou confiveis para o que se quer avaliar.
Pesquisa de campo
- Questionrios e entrevistas bem estruturados facilitam a tabulao e anlise dos dados coletados.
Comparativo de Mtodos
Mtodo de coleta de dados Observao de casos Descrio Observao direta de um ambiente ou situao, com ou sem o conhecimento dos participantes. Vantagens Desvantagens - Pouco adequada para a generalizao dos resultados encontrados. - Parcialidade e subjetividade do observador. - Adequada para compreender processos e formular hipteses. - Proporciona descrio detalhada da realidade encontrada. Formao de grupos - So relativamente pequenos (de 6 a 12 rpidos de se realizar. pessoas) para debate - Estimula a gerao sobre temas, obteno de de novas idias. informaes e sugestes - Permite o exame de sobre a execuo do diferentes programa. essencial a perspectivas. presena de um bom - Contato direto com facilitador. os beneficirios ou atores do programa.
Grupos focais
- A tabulao anlise consome muito tempo. - Risco de parcialidade por parte dos participantes e do facilitador. - Necessidade de controlar participantes dominantes.
98
19/05/2010
A importncia do pr-teste
Cada instrumento criado dever ser pr-testado para anlise de sua consistncia e clareza, e avaliao da relevncia e viabilidade dos dados por ele coletados. Uma simulao da tabulao e anlise dos dados coletados no pr-teste tambm ajuda no aprimoramento do instrumento antes da sua aplicao generalizada.
99
19/05/2010
Tipos de Amostragem
Probabilstica ou aleatria aquela em que cada elemento da populao tem uma chance igual de ser selecionado para compor a amostra. Deve ser representativa da populao como um todo para que os resultados obtidos possam ser generalizados como verdadeiros para toda a populao.
No-probabilstica ou no aleatria aquela em que a composio da amostra intencional e seleo dos seus participantes depende ao menos em parte do julgamento do pesquisador. Limitada na capacidade de generalizar a informao para o todo da populao estudada.
100
19/05/2010
Alerta
Quando a amostra no-probabilstica ou no aleatria pode-se apenas relatar os resultados em termos de porcentagem de entrevistados, sem generalizar para o universo estudado.
Ex.: 60% dos jovens pesquisados afirmou estar satisfeito com seu plano de sade.
Anlise de Dados
Todos os dados devem ser tabulados, ou seja organizados de maneira a facilitar a sua interpretao, e analisados tendo em vista as perguntas avaliativas que se quer responder.
101
19/05/2010
Porcentagem expressa a informao como um percentual do todo (ex.: 83% dos participantes aprovou o contedo do curso).
Uma prtica comum na apresentao de dados em porcentagem dizer o nmero total de casos a partir dos quais a porcentagem foi calculada.
Moda a resposta ou valor mais freqentemente obtido. bastante usada quando h um nmero grande de respostas obtidas, pois no sofre distoro com valores extremos como acontece com a mdia. Mediana o valor do meio, quando listadas todas as respostas em ordem crescente.
Quando a listagem de respostas obtidas apresenta valores extremos e destoantes da maioria, a mediana mais precisa do que a mdia como valor representativo do todo.
102
19/05/2010
Em uma avaliao, os textos e observaes coletados vm de vrias fontes como: respostas a perguntas abertas de questionrios, transcries de grupos focais ou entrevistas, roteiros de observao de casos, ou, ainda, resumos de relatrios e documentos pesquisados.
Quando os dados so mais densos e complexos, o grande desafio conseguir diminuir o volume de informao, identificar os temas mais significativos e desenvolver uma estratgia para comunicar aos diferentes interessados a essncia do que os dados revelam
(Chianca, Marino e Schiesari, 2001)
103
19/05/2010
Use vrias fontes de informao busque combinar, por exemplo, entrevistas individuais com grupos focais, de maneira a checar as informaes obtidas e ter maior confiana nas suas concluses.
104
19/05/2010
Para Reflexo
Processos e resultados da avaliao so teis quando contribuem para decises informadas, esclarecem as opes de tomada de deciso, identificam pontos fortes e fracos, e fornecem lies aprendidas e recomendaes para melhorar programas, polticas e estratgias.
(Manuel Rojas Buvinich)
105
19/05/2010
106
19/05/2010
A nfase deve estar nos importantes resultados obtidos e nas recomendaes, sempre com o foco nos principais clientes da avaliao, suas expectativas e necessidades de informao.
107
19/05/2010
Referncias Bibliogrficas
Este material foi desenvolvido tendo como base as seguintes obras e documentos
108
19/05/2010
Referncias Bibliogrficas
ActKnowledge; Aspen Institute Roundtable on Community Change. (2003). Theory of Change. Guided example: Project Superwomen. Disponvel em www.theoryofchange.org Alberta Consultative Health Research Network. (2001-2002) .Evaluability Assessment. Disponvel em http://www.achrn.org Almeida, Maria Cristina Salomo. (s.d.). Roteiro para elaborao de projeto. Disponvel em www.fibrj.com.br/projetos_sociais.htm Bardach, Eugene. (2000). A practical guide for policy analysis: the eightfold path to more effective problem solving. New York: Seven Bridges Press, LLC. Borden, L.M.; Perkins, D.F. (1999). Assessing your collaboration: A self evaluation tool. Journal of Extension, Vol.37, No.2. Buvinich, Manuel Rojas. (1999). Ferramentas para monitoramento e avaliao de programas e projetos sociais. Unicef.
Referncias Bibliogrficas
Canada. Federal/Provincial/Territorial Committee of Officials for the Federal/Provincial/Territorial Ministers Responsible for Seniors. The Seniors policy handbook: a guide for developing and evaluating policies and programs for seniors. Junho de 2009. Chianca, Thomaz; Marino, Eduardo; Schiesari, Laura. (2001).Desenvolvendo a cultura de avaliao em organizaes da sociedade civil. So Paulo: Editora Global. Curitiba. Prefeitura Municipal. (2002). Modelo colaborativo: Experincia e aprendizados do desenvolvimento comunitrio em Curitiba. Curitiba: Instituto Municipal de Administrao Pblica. Frank, F.; Smith, A. (2000). The partnership handbook. Escrito para Human Resources Development Canada. Disponvel em www.hrdcdrhc.gc.ca/common/partnr.shtml GETS .Grupo de Estudos do Terceiro Setor; United Way of Canada Centraide Canada. Facilitando oficinas: da teoria prtica. So Paulo, 2002.
109
19/05/2010
Referncias Bibliogrficas
Hodges, S.; Nesman, T.; Hernandez, M. (1999). Promising practices: building collaboration in systems of care. Systems of Care: Promising Practices in Childrens Mental Health, 1998 Series, Volume VI. Washington, D.C.: Center for Effective Collaboration and Practice, American Institutes for Research. Hfling, Eloisa de Mattos. Estado e polticas (pblicas) sociais. Cadernos Cedes, ano XXI, n 55, novembro/2001. Hourton, Douglas et al. (2003). Evaluating capacity development: experiences from research and development organizations around the world. IDRC. Instituto do Banco Mundial. (s.d.). Introduo ao monitoramento & avaliao:apostila do participante. Instituto Ecoar para a Cidadania. (2010). Oficina de Futuro. Disponvel em www.ecoar.org.br/website/edu_oficina.asp
Referncias Bibliogrficas
International Development Research Centre.Identifying the Intended Use(s) of an Evaluation. Abril de 2004. Disponvel em www.idrc.ca _________. Identifying the Intended User(s) of an Evaluation. Maro de 2004. Disponvel em www.idrc.ca Marino, Eduardo. (2001). Avaliao: a mudana do paradigma. Artigo parte do livro Desenvolvendo a Cultura da Avaliao em Organizaes da Sociedade Civil. So Paulo: Instituto Fonte Marino, Eduardo; Cancellier, Everton L. P. de Lorenzi. (2004). Ciclo de vida de projetos Sociais: um estudo dos projetos de Vitae Apoio Cultura, Educao e Promoo Social . Artigo escrito para o Programa de Liderana para o Desenvolvimento Local Sustentvel no Nordeste. McNamara, Carter. Basic Guide to Program Evaluation. (1999). Disponvel em www.mapnp.org Neumann, Lycia Tramujas Vasconcellos; Neumann, Rogerio Arns. (2004). Desenvolvimento comunitrio baseado em talentos e recursos locais - ABCD. So Paulo: Editora Global.
110
19/05/2010
Referncias Bibliogrficas
Neumann, Lycia Tramujas Vasconcellos; Neumann, Rogerio Arns. (2004). Repensando o investimento social: a importncia do protagonismo comunitrio. So Paulo: Editora Global. Osborne,D., & Gaebler, T. (1993). Reinventing Government: How the Entrepreneurial Spirit is Transforming the Public Sector. New York: Plume. Patton, Michael Quinn. (1997). Utilization-focused evaluation: the new century text.Londres: Sage Publications. _________. (2000). Utilization-focused evaluation in Africa. Training sessions delivered to the Inaugural Conference of the African Evaluation Association. Pereira, Elson Manoel. (2007). Polticas pblicas: conceitos e condicionantes. Disponvel em http://www.alesc.sc.gov.br Pogoda, Cristina Fedato; Pires, Joo Teixeir; Moretti, Telma. (s.d.). Avaliao de resultados de programas e projetos sociais. Estudo de caso elaborado para o VI SEMEAD.
Referncias Bibliogrficas
Rodrigues, Maria Ceclia Prates. (1998). Avaliao e monitoramento. Texto base para a disciplina de Monitoramento e Avaliao ministrada no mbito do curso de Gerncia de Programas Sociais, promovido pela FESP/ISAPE/CPG. Rua, Maria das Graas. (2000). Avaliao de polticas e programas: notas introdutrias. Mimeo. So Paulo (Estado). Secretaria do Meio Ambiente. Coordenadoria de Planejamento Ambiental Estratgico e Educao Ambiental. Manual para Elaborao, Administrao e Avaliao de Projetos Socioambientais. So Paulo: SMA / CPLEA, 2005. Schlithler. Clia Regina Belizia. (2004). Redes de desenvolvimento comunitrio: iniciativas para a transformao social. So Paulo: Editora Global. Schuckar. Myriam. (2005). Captao de recursos para projetos sociais. Disponvel em www.usc.br/assecom/encontropsm1.ppt Silva, Marcos Jos Pereira da. (2010). Elaborao de projetos sociais. Artigo publicado na Revista Carta na Escola. Disponvel em www.acaoeducativa.org.br.
111
19/05/2010
Referncias Bibliogrficas
Stephanou, Luis. (s.d). Projetos sociais: importncia para a sustentabilidade. Disponvel em www.me.org.br. Stephanou, Luis; Muller, Lcia Helena; Carvalho, Isabel Cristina de Moura. (2003). Guia para a elaborao de projetos sociais. Porto Alegre: Editora Sinodal e Fundao Luterana de Diaconia. United Way of America. (1996). Measuring program outcomes: a practical approach. Whitaker. Francisco (1993). Rede: uma estrutura alternativa de organizao. Srie Procurando entender Textos para discusso. W.K. Kellogg Foundation. (2001). Logic Model Development Guide: Using Logic Models to Bring Together Planning, Evaluation, & Action. Worthen, Blaine. (2004). Avaliao de programas: concepes e prticas. So Paulo: Editora Gente. Wright, J.D. ; Rodal, A.B. (1997). Partnerships and Alliances. New Public Management and Public Administration in Canada.
112