Como fazer uma Teoria da Mudança consistente para sua avaliação de impacto?

3 de maio de 2024

Por Isadora Pagy, analista da área de monitoramento e avaliação do IDIS

A Teoria da Mudança (TdM ou TM) é uma ferramenta muito valiosa tanto para o planejamento estratégico de uma iniciativa, quanto para a avaliação de impacto. O processo de sua construção pode ser desafiador e gerar muitas dúvidas, então, elaboramos uma série de dicas que podem te ajudar.

Antes de tudo, é preciso entender o que é, para que serve e como sistematizar uma Teoria de Mudança.

Quando utilizamos a TdM com o intuito de avaliar o impacto de uma determinada iniciativa, ela apoia na maior compreensão das relações causais do projeto ou programa em questão, trazendo um resumo dos públicos-alvo que foram beneficiados pela iniciativa, das atividades que foram realizadas, dos impactos que se espera gerar e do objetivo estratégico a ser alcançado.

Entender quem são os stakeholders

Assim, o processo de sistematização se inicia por um mapeamento de quais foram os stakeholders, ou partes interessadas, envolvidos no projeto. Busca-se entender quem foram os beneficiários diretos, indiretos, os executores, parceiros e investidores da iniciativa. E, com isso, definimos quem será consultado para a construção da TdM.

1 – Saiba separar quem são os beneficiários diretos e quem são atores intermediários. Por exemplo, muitos projetos que trabalham com educação realizam atividades com escolas, mas tem como objetivo impactar as crianças que frequentam as aulas. É possível que os públicos de gestores pedagógicos sejam apenas intermediários para beneficiar os estudantes, não sendo considerados beneficiários diretos. Muitos projetos se deparam com ausência de informações e base de dados de seu público beneficiário direto, por não definir bem, logo no início da intervenção o seu púbico principal e assim, consequentemente, não coletar e monitorar dados a contento, o que por sua vez cria dificuldades a pretensão de uma avaliação de impacto.

 

A importância de um escopo bem definido

Em seguida, passamos para a definição de quais foram as atividades realizadas pelo projeto. Para isso, é importante realizarmos uma análise dos materiais e documentos do mesmo, o que nos dará insumos para maior compreensão sobre o que foi inicialmente proposto para ser realizado e aquilo que aconteceu de fato. Alinhado a isso, é realizada uma série de entrevistas com a equipe técnica da iniciativa para entendermos como foi a sua execução e se houve mudanças de rumo relevantes.

2 – Seja curioso! Entenda o que aconteceu na prática e fora do papel, questione os dados e busque uma compreensão maior do projeto.

3 – Tenha um escopo bem definido. Se houve mudanças metodológicas muito grandes, talvez não seja possível incluir todas as iniciativas de uma organização. E talvez nem todas estejam ajudando a alcançar um objetivo de longo prazo único e consistente.

Escuta ativa

Definidas as atividades realizadas, investigamos aquilo que mudou na vida das pessoas que participaram do projeto ou programa. Nessa etapa, realizamos entrevistas com os beneficiários e buscamos ir além de resultados imediatos e nos aprofundar nos impactos de médio e longo prazo que a intervenção gerou. Para isso, preste atenção nos seguintes pontos:

4 – Tenha uma escuta ativa. Busque proporcionar um espaço confortável para que os entrevistados falem abertamente sobre o impacto que sentiram e tente não os influenciar presumindo impactos que não foram ditos.

5 – Cuidado com o double counting, ou dupla contagem. Principalmente se você estiver realizando uma avaliação que envolve uma etapa de monetização, evite contar o mesmo impacto duas vezes, estruturando uma cadeia de causalidade entre os resultados e impactos mapeados. Por exemplo, em uma iniciativa de geração de emprego e renda que trabalha com cursos profissionalizantes, os participantes relatam ampliação de conhecimento técnico em informática e um aumento de renda por conta do emprego que conseguiram através desses novos conhecimentos. Nesse caso, uma das mudanças (conhecimento) gera a outra (emprego), se monetizarmos ambas, estaremos contando duas vezes o impacto da mesma cadeia de causalidade, superestimando assim o impacto gerado pelo projeto.

Por fim, entendemos qual é o objetivo estratégico que aquela iniciativa tentou (e possivelmente conseguiu) alcançar com suas atividades. Isso pode ser feito relembrando alguns dados já coletados e respondendo algumas perguntas importantes: O que foi realizado? Para quem foi realizado? Por quê? Com qual ambição?

Nem sempre a equipe técnica terá uma mesma visão sobre o objetivo estratégico, mas realizando uma consulta com atores importantes e respondendo essas perguntas, o processo de estabelecimento de um objetivo pode ser facilitado. O que nos leva a última dica:

6 – Não esqueça de validar seus entendimentos com a equipe executora. A apresentação da TdM para quem realizou o projeto na ponta é muito importante. Esse é o momento para todos ficarem na mesma página e obtermos um escopo bem definido, o que facilitará nos próximos passos da sua avaliação de impacto.

O processo de construção de TdM é tão importante quanto seu resultado, ao percorrer o passo a passo o avaliador consegue compreender melhor o acesso aos beneficiários e a disposição de dados do projeto, e assim reavaliar o escopo e o desenho de avaliação. Reduzindo as chances de futuros infortúnios que oneraria a avaliação em tempo e recursos.

Tendo cumprido essas etapas, podemos sistematizar a Teoria de Mudança de forma visual e utilizá-la como uma ferramenta que guiará o restante da avaliação, caso você vá realizar uma pesquisa qualitativa ou quantitativa, por exemplo.