GIZ Review Gesundheit: Kurzbericht

Ähnliche Dokumente
Checkliste zur qualitativen Nutzenbewertung

Was sind Jahres- und Zielvereinbarungsgespräche?

Industrie 4.0 in Deutschland

SWOT-Analyse. Der BABOK V2.0 (Business Analysis Body Of Knowledge) definiert die SWOT-Analyse wie folgt:

2. Psychologische Fragen. Nicht genannt.

Informationssicherheit als Outsourcing Kandidat

Systemen im Wandel. Autor: Dr. Gerd Frenzen Coromell GmbH Seite 1 von 5

Arbeitsmarkteffekte von Umschulungen im Bereich der Altenpflege

Mobile Intranet in Unternehmen

Lineargleichungssysteme: Additions-/ Subtraktionsverfahren

Empathisches CRM. (Empathic CRM) Sven Bruck, die dialogagenten. die dialogagenten Agentur Beratung Service GmbH Katernberger Straße Wuppertal

WSO de. <work-system-organisation im Internet> Allgemeine Information

Verband der TÜV e. V. STUDIE ZUM IMAGE DER MPU

Zusammenfassende Beurteilung der Unterrichtsbeispiele für Wirtschaft und Recht

Wie bewerten. LehrerInnen & SchülerInnen. die MindMatters-Materialien?

Mitarbeiterbefragung zur Führungsqualität und Mitarbeitermotivation in Ihrem Betrieb

Ohne den gewerkschaftlichen Rechtsschutz hätte ich meine Rechte nicht durchsetzen können.

Stiftung Zewo Schweizerische Zertifizierungsstelle für gemeinnützige, Spenden sammelnde Organisationen

Qualitätsmanagement-Handbuch Das QM-System Struktur des QM-Systems

Informationssystemanalyse Problemstellung 2 1. Trotz aller Methoden, Techniken usw. zeigen Untersuchungen sehr negative Ergebnisse:

Geyer & Weinig: Service Level Management in neuer Qualität.


GeFüGe Instrument I07 Mitarbeiterbefragung Arbeitsfähigkeit Stand:

Leseauszug DGQ-Band 14-26

Studie zu unabhängige Vermögensverwalter Die Großen erwirtschaften die Erträge, die Kleinen sind effizient

Die Zukunft der Zukunftsforschung im Deutschen Management: eine Delphi Studie

Energetische Klassen von Gebäuden

Deutliche Mehrheit der Bevölkerung für aktive Sterbehilfe

Prozessmanagement Modeerscheinung oder Notwendigkeit

Die 7 wichtigsten Erfolgsfaktoren für die Einführung von Zielvereinbarungen und deren Ergebnissicherung

Schnelle Antwort, gute klare Beratung. Ich bin wirklich sehr zufrieden. Auswertung der Mandantenbefragung 2007

Erläuterungen zur Untervergabe von Instandhaltungsfunktionen

Leseprobe. Mit Projekten Unternehmen erfolgreich führen. KNo W- HoW. Studie. Ergebnisbericht. Ronald Gleich. Reinhard Wagner.

Glaube an die Existenz von Regeln für Vergleiche und Kenntnis der Regeln

Mitarbeiterbefragung als PE- und OE-Instrument

Im Folgenden werden einige typische Fallkonstellationen beschrieben, in denen das Gesetz den Betroffenen in der GKV hilft:

Studie über die Bewertung von Wissen in kleinen und mittleren Unternehmen in Schleswig-Holstein

Erfolgreiche ITIL Assessments mit CMMI bei führender internationaler Bank

Wissenswertes über die Bewertung. Arbeitshilfe

Wie wirksam wird Ihr Controlling kommuniziert?

HealthCare Relationship Management.

DB Wesentlichkeitsanalyse 2014

Ergebnisse der NOVIBEL-Kundenzufriedenheitsanalyse 2002

Letzte Krankenkassen streichen Zusatzbeiträge

Was meinen die Leute eigentlich mit: Grexit?

DAS TEAM MANAGEMENT PROFIL IM ÜBERBLICK. Sie arbeiten im Team und wollen besser werden. Das erreichen Sie nur gemeinsam.

PROTOKOLL Managementreview Bewertung 2014

2 Aufbau der Arbeit und wissenschaftliche Problemstellung

Kundenorientierung ist wichtigster Wachstumstreiber in Europa

«Eine Person ist funktional gesund, wenn sie möglichst kompetent mit einem möglichst gesunden Körper an möglichst normalisierten Lebensbereichen

Moderne Behandlung des Grauen Stars

RÜSTZEITEN SENKEN, PRODUKTION BESCHLEUNIGEN DER SMED-PRAXIS-WORKSHOP IN IHREM HAUS

Research Note zum Thema: Laufzeit von Support-Leistungen für Server OS

Qualitätsmanagement an beruflichen Schulen in Deutschland: Stand der Implementierung. Diplomarbeit

TÜV SÜD- geprüfte Kundenzufriedenheit

Analyse zum Thema: Laufzeit von Support-Leistungen für ausgewählte Server OS

Welches Übersetzungsbüro passt zu mir?

Content Management System mit INTREXX 2002.

Meinungen der Bürgerinnen und Bürger in Hamburg und Berlin zu einer Bewerbung um die Austragung der Olympischen Spiele

Professionelle Seminare im Bereich MS-Office

Häufig wiederkehrende Fragen zur mündlichen Ergänzungsprüfung im Einzelnen:

DNotI. Fax - Abfrage. GrEStG 1 Abs. 3 Anteilsvereinigung bei Treuhandverhältnissen. I. Sachverhalt:

Tabelle: Maßnahmen und Datenschutz-Kontrollziele zu Baustein 1.5 Datenschutz

Optimierung Liefertreue

INDUSTRIE- UND PRODUKTIONSLOGISTIK VERSTEHEN VERTRAUEN VERANTWORTEN

Fragebogen zur Qualität unserer Teamarbeit

Aufgabenheft. Fakultät für Wirtschaftswissenschaft. Modul Business/IT-Alignment , 09:00 11:00 Uhr. Univ.-Prof. Dr. U.

IT-Governance und Social, Mobile und Cloud Computing: Ein Management Framework... Bachelorarbeit

Alle gehören dazu. Vorwort

Prozessbeschrieb des Wissensaustauschs zwischen den Generationen in Unternehmen, Organisationen und in der Verwaltung

Andersen & Partners Finanzplanung. Vernetzte Beratung für langjährigen Erfolg. A N D E R S E N & P A R T N E R S. value beyond financial advice

Personalentwicklung. Umfrage zur Personalentwicklung. Februar Cisar - consulting and solutions GmbH. In Zusammenarbeit mit

Wann ist eine Software in Medizinprodukte- Aufbereitungsabteilungen ein Medizinprodukt?

KundInnenbefragung zur mobilen Pflege und Betreuung 2012

Vermögensbildung: Sparen und Wertsteigerung bei Immobilien liegen vorn

PRÜFBERICHT ERSTELLT FÜR:

Führungsgrundsätze im Haus Graz

P H I U S. Strategieentwicklung in Wissenschaft und Forschung

C2E bringt grossen Nutzen für die Organisationen

1. Einleitung. 1.1 Hintergrund. 1.2 Motivation. 1.3 Forschungsansatz - These

27001 im Kundendialog. ISO Wertschätzungsmanagement. Wie Wertschätzung profitabel macht und den Kunden glücklich

InfoSEC AWARENESS RESSOURCEN BESTMÖGLICH NUTZEN. RISIKEN PRAKTIKABEL REDUZIEREN. InfoSEC Awareness Ein Workshop von ExpertCircle.

Was macht Layer2 eigentlich? Erfahren Sie hier ein wenig mehr über uns.

Fragebogen: Abschlussbefragung

Zwischenbericht der UAG NEGS- Fortschreibung

IT-Controlling in der Sparkasse Hildesheim

RWE Service. lieferantenmanagement. Konzentration auf die Besten gemeinsam sind wir stark

Cross-Selling bei Versicherungen. Empirische Analyse zu Status quo, Trends und zukünftigen Anforderungen

ISO 9001:2015 REVISION. Die neue Struktur mit veränderten Schwerpunkten wurde am 23. September 2015 veröffentlicht und ist seit

Das Unternehmens- Cockpit Die zehn wichtigsten Kennzahlen zum Strategie-Controlling

HUMAN ASSET REVIEW

Die Post hat eine Umfrage gemacht

Management Summary. Was macht Führung zukunftsfähig? Stuttgart, den 21. April 2016

ONLINE-AKADEMIE. "Diplomierter NLP Anwender für Schule und Unterricht" Ziele

Programmmoduls für die CEMES-Plattform zur onlinebasierten Ermittlung der Leistungspunkte

Business Model Canvas

TOP SELECT PLUS Newsletter Nr.2

Kundenbefragung als Vehikel zur Optimierung des Customer Service Feedback des Kunden nutzen zur Verbesserung der eigenen Prozesse

Energieaudits. VerbesserungÊ derê EnergieeffizienzÊ

Portfolio zur Analyse der Personalqualität

Transkript:

Stabsstelle Monitoring und Evaluierung GIZ Review Gesundheit: Kurzbericht Querschnittauswertung mit Metaevaluierung, Effizienzanalyse und Evaluierungssynthese

Impressum Als Bundesunternehmen unterstützt die GIZ die deutsche Bundesregierung bei der Erreichung ihrer Ziele in der internationalen Zusammenarbeit für nachhaltige Entwicklung. Herausgeber: Deutsche Gesellschaft für Internationale Zusammenarbeit (GIZ) GmbH Sitz der Gesellschaft Bonn und Eschborn Friedrich-Ebert-Allee 40 53113 Bonn, Deutschland T +49 228 44 60-1877 F +49 228 44 60-2877 Dag-Hammarskjöld-Weg 1-5 65760 Eschborn, Deutschland T +49 61 96 79-14 08 F +49 61 96 79-80 14 08 E evaluierung@giz.de I www.giz.de/monitoring Verantwortlich: Martina Vahlhaus, Leiterin der Stabsstelle Monitoring und Evaluierung Auftragnehmer: Arbeitsgemeinschaft Rambøll Management Consulting GmbH Saarbrücker Straße 20/21 D-10405 Berlin T: 030 30 20 20-0 E: berlin@r-m.com SEEK Development - Strategic and Organizational Consultants Greifswalder Str. 33A D-10405 Berlin T: 030 4172 8172 E:info@seekdevelopment.org Autoren: Marco Schäferhoff, Christina Schrade, Tanja Corhs (SEEK Development), Lennart Raetzell, Matías Krämer (Rambøll Management Consulting) Dieses Gutachten wurde von unabhängigen externen Sachverständigen erstellt. Es gibt ausschließlich deren Meinung und Wertung wieder. Berlin, 15. Oktober 2013 2

0. Zusammenfassung 0.1 Kurzdarstellung von Gegenstand und Zielen des Reviews (Querschnittauswertung mit Metaevaluierung, Effizienzanalyse und Evaluierungssynthese) Rambøll Management Consulting und SEEK Development wurden von der Deutschen Gesellschaft für Internationale Zusammenarbeit (GIZ) beauftragt, das GIZ Review Gesundheit durchzuführen. Diese Querschnittauswertung besteht aus drei aufeinander aufbauenden Studien, mit jeweils unterschiedlichen Zielsetzungen. In der ersten Teilstudie führte Rambøll Management Consulting eine Metaevaluierung durch, bei der die Qualität der 37 zentralen und dezentralen Evaluierungen der Gesundheitsvorhaben der Jahre 2009-2012 überprüft wurde. Im Mittelpunkt der Überprüfung standen die methodische Qualität sowie die Qualität bei der Bearbeitung der DAC-Kriterien. Durch die Erkenntnisse der Metaevaluierung wurden die wesentlichen Herausforderungen bei der Umsetzung der Evaluierungen hervorgehoben. Dadurch konnten Verbesserungspotenziale für die Planung und Durchführung zukünftiger zentraler und dezentraler Evaluierungen aufgezeigt werden, insbesondere bezüglich der Effizienz. Weiter wurde so sichergestellt, dass nur Berichte mit angemessener methodischer Qualität in die inhaltliche Auswertung einfließen. Die zweite Teilstudie bestand aus einer Effizienzanalyse. Ziel dieser Teilstudie war es, eine erneute Effizienzanalyse der Gesundheitsvorhaben durchzuführen. Dabei flossen die Ergebnisse der Metaevaluierung hinsichtlich der Bewertungskriterien Effizienz, Effektivität, methodische Qualität und Angemessenheit der Notengebung in die Effizienzanalyse ein. Im Mittelpunkt der Effizienzanalyse standen die Untersuchung der Kostenstruktur der Vorhaben sowie die Ermittlung des Verhältnisses von Kosten und Zielerreichung. Rambøll Management Consulting zeigte dabei die Möglichkeiten und Grenzen der Effizienzberechnung von Vorhaben auf, die sich aus der derzeit vorhandenen Kostenerfassung der GIZ ergeben. Schließlich führte SEEK Development in der dritten Studie eine Evaluierungssynthese durch. Im Rahmen dieser Evaluierungssynthese wurden die Evaluierungsberichte inhaltsanalytisch untersucht und anschließend vergleichend ausgewertet, um die von der GIZ durchgeführten Gesundheitsmaßnahmen vorhabenübergreifend zu beurteilen und deren Stärken und Schwächen herauszuarbeiten. Ein wesentliches Ziel der Evaluierungssynthese war es dabei, die zentralen (Miss-) Erfolgsfaktoren wirksamer, nachhaltiger und effizienter Gesundheitsmaßnahmen aufzuzeigen und mit den Erkenntnissen sektorrelevanter Studien und Literatur zu vergleichen. Darauf aufbauend wurde sektorspezifisches und sektorübergreifendes Verbesserungspotenzial identifiziert und Empfehlungen für zukünftige Gesundheitsvorhaben der GIZ entwickelt. 0.2 Zusammenfassung der wesentlichen Ergebnisse und Empfehlungen des Reviews Im Folgenden werden die wesentlichen Ergebnisse und Empfehlungen der Metaevaluierung, Effizienzanalyse und Evaluierungssynthese dargestellt. 0.2.1 Metaevaluierung Die Ergebnisse der Metaevaluierung verdeutlichten, dass zwischen zentralen und dezentralen Evaluierungen zum Teil deutliche Qualitätsunterschiede vorhanden sind. Dabei sind zum einen Qualitätsaspekte identifiziert worden, deren Optimierung sich auf die Qualität von zentralen und dezentralen Evaluierungen gleichermaßen auswirkten. Zum anderen sind auch Qualitätsaspekte identifiziert worden, die spezifisch die Qualität von zentralen bzw. dezentralen Evaluierungen beeinflussten. Sieben dezentrale Evaluierungen gingen daraufhin aus methodischen Gründen nicht in die Evaluierungssynthese ein. Übergreifende Aspekte, die die Qualität der zentralen und dezentralen Evaluierungsberichte negativ beeinflusst haben, betreffen die methodische Qualität und die Qualität der Effizienzanalysen. Bei den zentralen und dezentralen Evaluierungen kann die methodische Transparenz und die transparente Auseinandersetzung mit dem Kausalitätsproblem verbessert werden. Hierzu gehört beispielsweise die oftmals fehlende Diskussion über Vor- und Nachteile der eingesetzten Evaluierungsmethodik und eine begründete Auswahl der eingesetzten Methoden und Verfahren. Aus den Ergebnissen der Metaevaluierung lässt sich zudem zusammenfassen, dass die Bearbeitung der Evaluierungsdimension der Effizienz in den zentralen und dezentralen Evaluierungen noch großes Potenzial zur Verbesserung besitzt. Schwächen zeigten sich in den zentralen und dezentralen Evaluierungen gleichermaßen, konnten jedoch in der Regel auf die fehlenden Informationen zurückgeführt werden, die in der Art und Weise der Kostenerfassung begründet sind. 3

Die Metaevaluierung verdeutlichte hinsichtlich der zentralen Evaluierungen, dass, von einzelnen Ausnahmen abgesehen (wie beispielsweise einigen Aspekte der methodischen Qualität), eine zufriedenstellende Berichtsqualität erreicht wird. Optimierungspotenzial besteht insbesondere hinsichtlich einzelner Indikatoren, wie zum Beispiel bei der detaillierten Darstellung der Erhebungs- und Auswertungsmethoden oder bei der Trennschärfe von Effektivität und Wirkungen. Mit Blick auf die dezentralen Evaluierungen konnte festgestellt werden, dass das Potenzial der Evaluierungen bezüglich der methodischen Qualität und der Bearbeitung der DAC-Kriterien noch nicht ausgeschöpft ist. So fiel bei der methodischen Qualität der Projektfortschrittskontrollen (PFK) auf, dass nur eine sehr eingeschränkte Auswahl von Evaluierungsmethoden und -verfahren eingesetzt worden ist. Zudem werden in vielen PFK Analyse und Bewertung vermischt. Diese Ergebnisse weisen darauf hin, dass die PFK nicht konsequent als Zwischenevaluierung verstanden werden, deren Hauptfunktion es ist, robuste Entscheidungsgrundlagen für das Vorhabensmanagement zu liefern. Schließlich ist auch das methodische Vorgehen in den dezentralen Evaluierungen noch nicht systematisch genug. Hier zeigte die Metaevaluierung, dass zum Teil grundlegende Qualitätsstandards nicht eingehalten werden. So haben weniger als die Hälfte der dezentralen Evaluierungen Wirkungsketten und Indikatoren als Bewertungsgrundlage eingesetzt, um Fortschritte in der Zielerreichung zu messen. Bei der Ableitung von Handlungsempfehlungen aus den Analyseergebnissen der Metaevaluierung wurde beachtet, dass derzeit innerhalb der GIZ eine neue M&E Policy diskutiert wird. Zentraler Diskussionspunkt dieser neuen M&E Policy ist die Abschaffung zentraler Portfolio-Evaluierungen und die Weiterentwicklung der PFKs zu dezentralen Schlussevaluierungen, die in die Berichterstattung an die Auftraggeber eingehen sollen. Um die Relevanz zu gewährleisten sind daher die nachfolgenden sechs Handlungsempfehlungen auf Grundlage der dargestellten Ergebnisse abgeleitet und zugleich der aktuelle Diskussionsstand zur neuen M&E Policy der GIZ als Bezugsrahmen herangezogen worden. 0.2.2 Ergebnisse der Effizienzanalyse Eine Beurteilung der Effizienz der untersuchten Gesundheitsvorhaben fiel aufgrund methodischer Einschränkungen schwer, weil keine Zuordnung von spezifischen Kosten zu den jeweiligen Outputs und Zielen in den Vorhaben bestand. Zum einen konnte bei den Kostenangaben der Vorhaben keine Produktions- und Allokationseffizienz nachträglich gemessen werden. 1 Zum anderen wurden diese Dimensionen der Effizienzanalyse auch kaum in den Evaluierungsberichten analysiert. Dementsprechend konnten diese Dimensionen der Effizienz in dieser Studie auch nicht beurteilt werden. Es war jedoch möglich Aussagen hinsichtlich des eingesetzten Instrumenten-Mix in den Gesundheitsvorhaben zu treffen. Hierzu konnte festgestellt werden, dass der Instrumenten-Mix keine entscheidende Rolle bei der Effizienz der Vorhaben spielte. Auf der einen Seite zeigten die Ergebnisse der Analyse der Vorhabenskosten (Clusteranalyse), dass sich die Ursachen für den erreichten Effizienzgrad in den Gesundheitsvorhaben nicht auf eine bestimmte Kostenstruktur bzw. einen bestimmten Instrumenten-Mix zurückführen lassen. Auch aus den ermittelten Cost-Effectiveness- Ratios in den Vorhabensgruppen (Clustern) konnte nicht die höhere oder niedrigere Effizienz eines bestimmten Instrumenteneinsatzes abgeleitet werden. Auf der anderen Seite lieferte die qualitative Analyse der ausgewählten Evaluierungsberichte vergleichbare Ergebnisse. So wird beispielsweise nur in vereinzelten Evaluierungsberichten die Kombination bestimmter Instrumente direkt mit der erreichten Effizienz des Vorhabens in Verbindung gebracht. Dies allerdings kann auch darin begründet sein, dass dieser Zusammenhang nicht Teil der Untersuchungsanforderungen an die Evaluierungen war. Aus der vorliegenden Effizienzanalyse heraus kann dennoch geschlussfolgert werden, dass die Effizienz der Gesundheitsvorhaben nicht durch einen bestimmten Instrumenten-Mix bzw. durch eine bestimmte Kostenstruktur bedingt wurde. Insgesamt verdeutlichte die Analyse, dass sich die Gesundheitsvorhaben vor allem durch ihre Heterogenität auszeichneten. Dies gilt sowohl hinsichtlich der Kostenstruktur und der Anzahl der unterschiedlichen Kombination der eingesetzten Instrumente, als auch hinsichtlich der Ziele der Vorhaben und der unterschiedlichen Themenschwerpunkte. Im Ergebnis kristallisierte sich in dieser Effizienzanalyse kein typisches Gesundheitsvorhaben. Dies gilt auch innerhalb der verschiedenen Themenschwerpunkte, in denen sich die Vorhaben in ihrer Interventionslogik und Umsetzung stark voneinander unterscheiden. 1 Produktionseffizienz beschreibt das Verhältnis von eingesetzten Ressourcen (Input) zu den zuzuordnenden Produkten (Outputs), wie bspw. Workshops. einer Intervention. Die Allokationseffizienz wiederum beschreibt das Verhältnis von eingesetzten Ressourcen (Input) zu den zuzuordnenden Effekten (Outcomes). 4

In der qualitativen Untersuchung der Evaluierungsberichte kristallisierten sich jedoch andere Ursachen als wichtige Faktoren für die erreichte Effizienz in den Vorhaben heraus. Dazu zählten insbesondere die Nutzung lokaler Ressourcen, die Koordination bzw. Komplementarität mit anderen Gebern und die Leistungen der Partner. Wie sich zeigte, entfaltete die Präsenz bzw. das Fehlen dieser Faktoren positive bzw. negative Wirkungen auf die Effizienz. In der Konsequenz erscheinen daher diese Faktoren als wichtige Ursachen für die Effizienz von Gesundheitsvorhaben. 0.2.3 Ergebnisse der Evaluierungssynthese Die Evaluierungssynthese kommt zu zehn zentralen Ergebnissen: 1. Die durchschnittliche Gesamtbewertung der Gesundheitsvorhaben durch die Evaluierungen (2,4) entspricht den Bewertungen von GIZ-Vorhaben in anderen Sektoren: Auch die von der Stabsstelle Monitoring und Evaluation in 2013 veröffentlichte sektoren- und regionenübergreifende Auswertung von GIZ- Vorhaben ( Messen-Bewerten-Verbessern ) 2 kommt auf ein durchschnittliches Gesamtrating von 2,4. Weiterhin haben die Gesundheitsvorhaben auch für die einzelnen OECD-DAC- Kriterien Durchschnittsbewertungen erhalten, die der sektoren- und regionenübergreifenden Auswertung der GIZ ähnlich sind. 2. Die Gesamtbewertungen der Gesundheitsvorhaben variieren moderat nach Themenschwerpunkten und Regionen. Hervorzuheben ist, dass Vorhaben im Bereich der Gesundheitssystemstärkung (HSS) durchschnittlich mit 2,1 etwas stärker bewertet werden als Vorhaben im Bereich HIV/AIDS und Sexueller und Reproduktiver Gesundheit und Rechte (SRGR). Das gilt auch im Vergleich mit dem sektorenübergreifenden Durchschnitt. 3. Gender-Aspekte, deren zentrale Bedeutung für Gesundheit sowohl in der internationalen Debatte als auch im Rahmen der deutschen Entwicklungszusammenarbeit (EZ) anerkannt wird, sind in drei Vierteln der Vorhaben, für die hierzu Informationen vorhanden waren, als Querschnittsthema stark bis moderat integriert. 4. Das Kriterium der Relevanz schneidet bei der Bewertung der Gesundheitsvorhaben nach OECD-DAC-Kriterien mit 1,9 durchschnittlich am stärksten ab. 3 Er liegt damit geringfügig unter dem sektorenübergreifenden Durchschnitt für dieses Kriterium von 1,6. 5. Die durchschnittliche Gesamteinschätzung der Effektivität der Gesundheitsvorhaben liegt genau auf dem Niveau, welches vom Bericht Messen-Bewerten-Verbessern sektorenübergreifend festgestellt wurde (2,4). Die Untersuchung zeigt, dass die Vorhaben zu einer Verbesserung der Qualität von gesundheitlichen Leistungen und der Verfügbarkeit von Fachpersonal beigetragen haben. Hierin liegt eine klare Stärke der GIZ Gesundheitsvorhaben. 6. Aus den Kapiteln der Evaluierungen zu Effektivität und Impact ließen sich eine Reihe von wirkungshemmenden oder -befördernden Faktoren identifizieren: o o o Die angemessene konzeptionelle Berücksichtigung eines integrativen Ansatzes bei der Vorhabenplanung und - durchführung erscheint in den Evaluierungen als ein zentraler Erfolgsfaktor für die Effektivität der Gesundheitsvorhaben. Gerade an der Schnittstelle von SRGR mit HIV gibt es zahlreiche Potenziale für die Integration von Programmen und gesundheitlichen Interventionen, die von einer Reihe von Vorhaben erfolgreich genutzt wurden. Insgesamt gibt es jedoch durchaus noch Raum, diese integrierten Projektansätze noch systematischer zu nutzen und existierende Best-Practices breiter nutzbar zu machen. Dies entspräche auch dem internationalen Dialog, in dem aufgrund wachsender positiver Evidenz integrierte Servicebereitstellung ( Integrated Service Delivery ) zunehmend an Bedeutung gewinnt. Ownership durch Beteiligung an der Entwicklung und Anpassung von Vorhaben, sowie Alignment mit nationalen Strategien sind zentrale Faktoren für die Erreichung von nachhaltigen Wirkungen. Wirkungsmessung ist ein Schwachpunkt in manchen Projekten, und dies in einem Kontext, in dem gute Wirkungsmessung 3 Dieses Ergebnis war zu erwarten, da es bei der Bewertung der Relevanz 2 GIZ 2013: Messen-Bewerten-Verbessern, Erkenntnisse und Konsequenzen aus Monitoring und Evaluierung, 2010-2012. auch um einen Abgleich der Partner- und Auftraggeber-Erwartungen geht. Ohne eine Übereinstimmung werden keine Aufträge erteilt. 5

o (also das Nachweisen von Wirkungen) immer wichtiger wird. Monitoring und Evaluation (M&E) steht zudem in einem Zusammenhang mit der Effektivität. Es finden sich Hinweise, dass defizitäres M&E zu schwacher Steuerung beiträgt und ein Hemmfaktor für Wirkung ist. Starkes M&E hat vor allem dann einen Einfluss auf die Effektivität, wenn es systematisch zur Steuerung von Vorhaben genutzt wird. Insofern gibt es Hinweise darauf, dass die Qualität der Steuerung in einem Zusammenhang mit der Güte des M&E steht. Nur Vorhaben mit einer starken M&E- Bewertung erhalten die Note 1 für Effektivität. Wissensmanagement: Die Evaluierungen weisen darauf hin, dass Verbesserungspotenzial beim Wissensmanagement besteht. Lernerfahrungen und Best Practices wurden nicht hinreichend dokumentiert und vor allem nicht verlässlich an andere Vorhaben oder die GIZ-Zentrale zur Weiterverbreitung kommuniziert. Auch haben eine Reihe von Vorhaben die GIZ-Strukturen zum Wissensaustausch nicht genutzt, obwohl sie von den Erfahrungen anderer Vorhaben hätten profitieren können. 7. Die Nachhaltigkeit ist ein niedrig bewertetes Kriterium im Gesundheitsbereich und unabhängig von spezifischen Themenschwerpunkten. Die durchschnittliche Gesamteinschätzung der Nachhaltigkeit liegt bei 2,5. Dieses Ergebnis ist fast konsistent mit der sektorenübergreifenden Analyse der anderen GIZ- Projekte von 2,6. Es scheint hier Potenzial zu bestehen, die Nachhaltigkeit der Vorhaben weiter zu stärken. Die Analyse der Gesundheitsprojekte zeigt, dass hier vor allem eine engere Kooperation mit anderen Gebern und mit den lokalen Partnern sowie eine gestärkte Ownership zentral sind. 8. Bei der Effizienzbewertung der Evaluierungen bleibt das Thema Kosteneffizienz unterbelichtet. Aussagen zur Kosten-Nutzen- Ratio werden nur in etwa der Hälfte der Evaluierungen zur Begründung der Effizienzbewertung herangezogen. Bei den so bewerteten Projekten wird in ca. 60 Prozent der Fälle die Kosteneffizienz als gut oder sehr gut, für die restlichen 40 Prozent als gemischt oder schwach bewertet. Während dies Spielraum nach oben andeutet, divergieren die den Bewertungen zugrunde liegenden Faktoren häufig und es ist fraglich, inwieweit die Bewertungen auf einer soliden Grundlage getroffen wurden. Zentrale Erfolgsfaktoren für Effizienz, die in einer inhaltsanalytischen Untersuchung nachgewiesen werden konnten, sind in absteigender Reihenfolge ihrer Relevanz Synergien mit anderen internationalen Gebern, die Nutzung lokaler Ressourcen und Synergien mit anderen FZ/TZ-Vor-haben. Die durchschnittliche Gesamteinschätzung der Effizienz liegt bei 2,5. 9. Impact: Insgesamt lässt sich für die Bewertung der übergeordneten entwicklungspolitischen Wirkungen feststellen, dass die positiven Ergebnisse überwiegen, die Datenlage und das bestehende Problem der Attribution aber nur vorsichtige Schlussfolgerungen erlauben. Die durchschnittliche Gesamteinschätzung des Impacts liegt bei 2,6. 10. Insgesamt scheint das Programmdesign internationalen Standards zu entsprechen. Neben Gender-Aspekten (siehe oben) wurden häufig auch Menschenrechtsaspekte in den Vorhaben berücksichtigt. Etwas Verbesserungspotenzial scheint bei den HIV-Vorhaben zu bestehen. Hier gab es Vorhaben, deren Konzept bei Ländern mit konzentrierten Epidemien nicht zielgruppenorientiert war. 6

0.2.4 Handlungsbereiche und -empfehlungen der Metaevaluierung, Evaluierungssynthese und der Effizienzanalyse Aus den Ergebnissen der Metaevaluierung, Evaluierungssynthese und der Effizienzanalyse lassen für das GIZ Review Gesundheit vierzehn Handlungsbereiche und -empfehlungen ableiten. Fünf Handlungsbereiche ergaben sich durch die Ergebnisse der Metaevaluierung (Handlungsbereiche 1-5). Fünf Handlungsbereiche wurden durch die Evaluierungssynthese (Handlungsbereiche 6-10) identifiziert und vier durch die Effizienzanalyse (Handlungsbereiche 11-14). Die Empfehlungen beziehen sich auf die Qualität der Evaluierungsberichte und auf die Konzeption und Durchführung zukünftiger Vorhaben im Gesundheitsbereich, sind aber teilweise auch sektorenübergreifend und unternehmensweit von Relevanz dies gilt insbesondere für die Empfehlungen zur Effizienz. Handlungsbereich 1: Die Qualitätsstandards zur Erstellung von zentralen Evaluierungen haben sich weitestgehend bewährt. Es sollte daher überprüft werden inwieweit diese auf die dezentralen Evaluierungen übertragen werden können. Handlungsbereich 2: Zur Steigerung der methodischen Qualität in den dezentralen Evaluierungsberichten sollten die Anforderungen zum Evaluierungsdesign deutlicher formuliert werden. Handlungsbereich 3: In den dezentralen Evaluierungen sollten lokale Gutachter verstärkt eingesetzt werden, um eine Forschertriangulation zu ermöglichen. Handlungsbereich 4: Die Handreichung für die PFKs sollte überarbeitet und übersichtlicher gestaltet werden, um sie für die Erarbeitung des Evaluierungsdesigns besser nutzbar zu machen. Handlungsbereich 5: Für die dezentralen Evaluierungen sollten zwei Instrumente entwickelt werden, in denen den zukünftigen unterschiedlichen Funktionen der dezentralen Evaluierungen als Rechenschafts-, Lern- und Managementinstrument Rechnung getragen wird. Handlungsbereich 6: Bei der Konzeption zukünftiger Vorhaben im Gesundheitsbereich sollten noch stärker Potenziale zur Integration von Vorhaben in den Bereichen HIV, SRGR und Gesundheitssystemstärkung geprüft und entsprechend genutzt werden. Handlungsbereich 7: Das interne Wissensmanagement, vor allem der Wissensaustausch zwischen den Länderbüros und der GIZ-Zentrale, sollte weiter gestärkt werden, um Lernerfahrungen und Best Practices aus den Gesundheitsvorhaben schneller und effektiver zu verbreiten und nutzbar zu machen. Handlungsbereich 8: Die Wirkungsmessung der Gesundheitsvorhaben sollte schon in der Projektkonzeption und dann in der Umsetzung weiter gestärkt werden. Die Nutzung existierender Handreichungen zur Wirkungsmessung im Gesundheitsbereich sollte forciert und Richtlinien für die Durchführung Baseline- Studien sollten entwickelt werden. Handlungsbereich 9: Da das Thema Nachhaltigkeit ein sektorenübergreifendes Thema ist, sollten Strategien hierzu in den Rahmen einer GIZ-weiten Nachhaltigkeitsdiskussion eingebettet sein. Zentrale Elemente dieser Strategiedebatte könnte ein verstärkter Fokus auf Kooperation mit anderen Gebern und lokalen Partnern sowie die Verbesserung von Ownership. Erwogen werden sollte auch die systematischere Durchführung von Capacity Assessments. Handlungsempfehlung 10: In den Untersuchungsfragen der GIZ zu den Evaluierungskriterien (Anleitung zur Erfolgsbewertung) sollten Fragen zur systematischen Darstellung von Instrumenteneinsatz und Mehrebenenansatz aufgenommen werden. Handlungsbereich 11: Um die Effizienz in den Vorhaben zu steigern, sollte verstärkt auf die Nutzung lokaler Ressourcen, die Koordination mit anderen Gebern und die Leistungen der Partner zurückgegriffen werden. Handlungsbereich 12: Um die Qualität der Effizienzanalysen in den Evaluierungsberichten zu steigern, sollte die GIZ die notwendigen Daten zur Effizienzmessung erheben. Handlungsbereich 13: Um die Qualität der Effizienzanalysen zu steigern, sollte in den Evaluierungen untersucht werden, inwiefern wie in der internationalen Debatte zu Value for Money stark diskutiert - die effizientesten Umsetzungsstrategien genutzt worden sind. Handlungsbereich 14: Um ein umfassenderes Bild der erreichten Effizienz der Vorhaben zu erhalten, sollten die Auswirkungen von Komplementarität und Kooperation auf die Vorhabenseffizienz quantitativ erfasst werden. 7

Deutsche Gesellschaft für Internationale Zusammenarbeit (GIZ) GmbH Sitz der Gesellschaft Bonn und Eschborn Friedrich-Ebert-Allee 40 53113 Bonn, Deutschland T +49 228 44 60-1877 F +49 228 44 60-2877 Dag-Hammarskjöld-Weg 1-5 65760 Eschborn, Deutschland T +49 61 96 79-14 08 F +49 61 96 79-80 14 08 E evaluierung@giz.de I www.giz.de/monitoring