Business Intelligence seit 1992 als

Transkript

1 ing im BI-Umfeld Business Intelligence seit 1992 als (Senior) Consultant, Business Analyst Projekt Leiter, Teamleiter, BI Architekt Dozent HSLU Leiter TDWI Roundtable ZH seit 2009 Ausbildungen 1992 eidg. Fachausweis als Analytiker-Programmierer 1994 eidg. Fachausweis als Organisator 1998 eidg. Dipl. als Organisator 2004 ITIL Foundation Certificate V ITIL Service Manager V Prince2 Foundation Certificate 2010 ITIL Service Expert V Erwachsenenbildner SVEB1 Projektleiter / BI Architekt T M Herbert.stauffer@axpo.com 1

2 Inhalt Einführung + Grundlagen Ursachen und Auswirkungen von Fehlern Wirtschaftlichkeit Unterschiede des ens in DWH- und BI-Projekten Vorbereitung Wann sind cases vollständig? strategie betrieb und Organisation Aufbau von umgebungen Umgang mit Defects Abschluss Die menschliche Seite Rollen und Rollenkonflikte Die emotionale Seite des ens Zusammenfassung Hilfsmittel Typische Fehler Hinweise zum Buch EINFÜHRUNG + GRUNDLAGEN Praxisbeispiel, Grundsätze, ing in BI, 2

3 Kosten Zitate Debugging ist twice as hard as writing the code in the first place. Therefore, if you write code as cleverly as possible, you are, by definition, not smart enough to debug it. Brian Wilson Kernighan Ich habe noch anderes zu tun als meinen Code zu testen. Software-Entwickler einer Lebensversicherung (nach einer grösseren Produktionsstörung durch ein von ihm ungetestes Modul) Wieso soll ich mir die ganze Mühe für das en machen, wenn ich für die Eröffnung eines Störungstickets bedeutend weniger Zeit benötige. Business-Analystin einer Grossbank Wirtschaftlichkeit von ing Kosten von Fehlern versus Kosten fürs ing Gesamtkosten kosten Fehlerkosten Zeit Gesamtkosten = kosten + Fehlerkosten Ariane 5 Bildherkunft: 3

4 Gegenüberstellung BI- und klassischen Projekte (1/2) Traditional projects start with requirements and end with data. Data Warehousing projects start with data and end with requirements Bill Inmon, in Data Warehousing Projektmethodik Requirements Code Klassisches Projekt Meist traditionelle Modelle (Wasserfall, V-Modell, ) Klar definiert Business Intelligence ETL Speicherung Frontend Iterativ Prototyping Agil, z.b. Scrum Konsistent mit referentieller Integrität, Relational 3NF Heterogene Quellen Multidimensional, temporär Inkonsistent Unscharf definiert Dynamisches SQL oder MDX Gegenüberstellung BI- und klassischen Projekte (2/2) Statisches SQL in Dynamisches Code SQL oder MDX Ausprogrammierte Interaktive Code- Funktionen Generierung Datenmodelle Datenzugriff Daten und daten Schwerpunkte Klassisches Projekt Update einzelner Datensätze Zeilenweise lesend (alle Attribute einer einzelnen Zeile) Nicht vorhanden, entstehen durch Erfassung im system Use cases driven Function based Business Intelligence Projekte ETL Speicherung Frontend Massenupdates (Bulkload) Spaltenweise lesend (einzelne Attribute aus allen Zeilen einer Tabelle In den operativen Source-Systemen vorhanden. Wie können diese genutzt werden? (Security) Neue Daten entstehen in der Regel nicht Data driven Datenqualität Funktionale s Integrations- + Regressionstests bei Beschaffung oder Rel.Wechsel Performance Datenqualität Vollständigkeit und Richtigkeit Performance Integrations- und Regressionstests bei Beschaffung oder Rel.Wechsel Performance 4

5 ein fehlerhaftes Dashboard A B C D E F 1 Vortag heute Differenzen in % in % gerundet 2 Erdoel Erdgas Kohle CO SPI =C2-B2 =100/(B2/D2) =RUNDEN(E2;1) Korrekte Formel für Spalte E: =WENN(B2=C2;0;100/(B2/D2) Ursachen von Fehlern über den Verlauf (in %) % sonstige/unbekannt Tool Spezifikation Datenqualität Implementierungsfehler Datenverständnis beginn ende t 5

6 PLANUNG UND VORBEREITUNG Definition von geeigneten cases, Fehlerkategorien, datengetriebene s, Dokumentation, Referenzmodell Informationsempfänger (Benutzer und Rollen) Anwender Administrator Informationsbereitstellung Persistente Datenhaltung Data Warehouse Power User Data Steward Techn. Plattform Reporting Analyse Data Mining Portale Dashboard / Cockpits Data Marts Externe Systeme und Prozesse Mobile Planung Plattform Meta Data Log s Data Dictionary Daten Integration Staging Area Data Sources und Schnittstellen <XML> csv strukturiert Semistrukturiert unstrukturiert Master Data ETL Externe Daten 6

7 cases definiert in drei Schritten Sales- Report META-Layer P_DIM T_DIM BI K_DIM SALES_ Fact S_DIM PGM48TXT PGM4711 KDB CRM Neu Geändert Betroffen Deaktiviert Schritt 1: Übersicht cases definiert in drei Schritten case 2 Sales- Report case 5 P_DIM T_DIM META-Layer case 3 BI case K_DIM 1 SALES_ Fact S_DIM case 4 PGM48TXT PGM4711 KDB CRM Neu Geändert Betroffen Deaktiviert Schritt 1: Übersicht Schritt 2: Farblich kennzeichnen Schritt 3: Definieren von cases 7

8 Arten von cases nach ISO 9126 / FURPS Functionality Funktionalität Usability Benutzbarkeit Reliability Zuverlässigkeit Performance Effizienz Supportability Änderbarkeit Portability Übertragbarkeit Security FURPS ISO9126 Richtiges Reaktionen in allen Szenarien X X Bedienbarkeit aus Sicht des X X Anwenders Konsistenz und Aussagekraft. X X Robustheit Verhalten unter X X durchschnittlicher und maximaler Last Wartbarkeit X X Sicherheit X Struktur ISO 9126 ISO 9126 Funktionalität Benutzbarkeit Zuverlässigkeit Effizienz Änderbarkeit Übertragbarkeit Tauglichkeit Verständlichkeit Reife Antwortzeiten Analysierbarkeit Anpassbarkeit Erlernbarkeit Fehlertoleranz Ordnungsmäßigkeit Ressourcenverbrauch Modifizierbarkeit Installierbarkeit Interoperabilität Bedienbarkeit Robustheit Stabilität Koexistenz Konformität Attraktivität Wiederherstellbarkeit barkeit Austauschbarkeit Sicherheit 8

9 ETL Daten- Speicherung Frontend Reports/ Dashboards Plattform/ Infrastruktur Master- und Metadaten Externe Systeme + PRozesse cases in BusinessIntelligence Functionality X (x) X X X X Usability X X X X X X Performance X X X X X X Stress (reliability) X X X X Maintainability X X (x) X X X (supportability/ Portability) Security (x) X X X X X (x) Beschreibung von cases Eindeutige Identifikation, Bezeichnung und Kurzbeschreibung Voraussetzungen/Vorbereitungen Szenario daten Ausgangssituation (Zustand vor ) Schritte zur Durchführung abschluss Ziel Akzeptanzkriterien (erwartetes Ergebnis) Weitere Informationen Referenzierte Dokumente Zuständigkeiten Termine Autor 9

10 Referenzmodell management Strategie, Policies + phasenplan datenund Szenario- Management Abschlussbericht operations case Definition s durch + Defect log nachführen Lessons learned und Transfer Phasen des prozesses Planung Durchführung Abschluss Referenzmodell Phase Planung Start management manager Erstellen strategie policies grobplanung operations manager operations Analyst Durchführung detailplanung Ablauf Anforderung Umgebung und daten Definition cases 10

11 Durchführung Dokumentation nach IEEE Projekt Dokumen. Dokumen. der Elemente Elemente plan Design Design Spez. Sepz. fall fall Spez. Spez. ablauf ablauf Spez. Spez. Element Übertragungsbericht log log Vorfall Vorfall Bericht Bericht Schlussbericht Spezifikation bericht Objekte ohne Füllung sind nicht Teil von IEEE Datengeriebene fälle Fehlende Quelldaten Unvollständige Quelldaten Alte oder veraltete Quelldaten Veränderungen im Quellsystem Syntaktische Richtigkeit Semantische Fehler in den Quelldaten Datenvolumen und Laufzeiten Berechtigungen auf Dateninhalte (rowlevel security) Starke Schwankungen im Datenvolumen unterschiedliche Laufzeitverhalten Interpretierbarkeit der Daten (Datenverständnis) 11

12 en mit Checklisten (Beispielsweise Reporte) Priorisierung der Defects Stufe Beschreibung/Auswirkung Beispiel 1 - emergency Sofortige Behebung notwendig, da gesamtes weitere Vorgehen hochgradig gefährdet. Ohne sofortige Behebung muss der betrieb abgebrochen und neu geplant werden. Diese Priorität führt fast zwingend zu einer Terminverschiebung. 2 hoch Produktionsbetrieb nicht sinnvoll. s von anderen Komponenten kann weiter geführt. Ohne Behebung ist ein golive nicht möglich! 3 mittel Produktionsbetrieb mit Einschränkungen möglich. Fehlerhafte Daten haben eine untergeordnete Bedeutung oder es existiert ein Workaround. Behebung ist erwünscht. Trotzdem ist ein golive möglich. 4 tief Der Produktionsbetrieb ist möglich. Die Behebung des Fehlers hat nur einen kosmetischen Charakter. Behebung kann zu irgendwann erfolgen. fehlerhafter Ladeprozess zerstört Daten von anderen Ladeprozessen im Data Mart sämtliche Summen eines Hauptladeprozesses werden falsch oder gar nicht geladen. Das Beschreibungstext wird nicht vollständig geladen, Das heisst, bei überlangen Texten, gehen die letzten paar Stellen verloren. Die Schriftart in der Fusszeile ist kursiv. 12

13 Referenzmodell Werkzeuge und Hilfsmittel Menschen und Rollen Aktivitäten management Strategie, Policies + phasenplan datenund Szenario- Management Abschlussbericht operations case Definition s durch + Defect log nachführen Lessons learned und Transfer Phasen des prozesses Planung Durchführung Abschluss TESTBETRIEB UND ORGANISATION Unterschiede nach Projektmodell und Architektur, Aufbau und Betrieb der umgebung, Fehlerbehandlung, Reporting 13

14 Detailierung en in verschiedenen Varianten des Phasenmodells «klassisches» Phasenmodell A D B T G t V-Modell A D1 D2 D.. B T T T t G Phasenmodell mit integriertem en A T D T B T G t A = D = B = T = G = Analyse Design Build go Live and Run definition und -planung durchführung en in nicht-linearen Projektmodellen Iteratives Vorgehen spec goals Scrum Product backlog build review Sprint backlog Sprint Inkrement Evolutionäres Prototyping V3 V2.1 V2.2 V1.1 V1.2 V0 V2.3 definition und -planung durchführung 14

15 operation management Architekturvarianten mit unterschiedlichen Anzahl Systemen 1-System 2-Systeme 3-Systeme 4-Systeme 5-Systeme D/T/P P P P P D/T T T2 T1 T2 D T1 D1 D2 D Bugfix Release D=Delevopment / T= / P=Production Defectbearbeitung mgmt. HB Steuern der Szenarions daten bereitstellen Überwachen des fortschrittes case log case ing Kommunikation Motivation Defect log Priorisieren der Defects Bundle er Check in Dispatcher Organisation IT Professional Disposition New New Module Package Codefix 15

16 case Stati Waiting Open Started Passed Failed Ready for retest Defect Stati Open Accepted Analyzed On Work Ready for retest Rejected closed reopen 16

17 Reporting fortschritt nach Status und Termin Anzahl Fehler nach Auftreten Anzahl offene Fehler Unregelmässige Fehlerverteilung (Fehlerhäufung nach Modul) Fehler mit Status «reopen» passed 2 failed waiting 4 ready for retest started 12 6 open Level Level 3 12 Level Level KW1 KW2 KW3 KW4 KW5 Problem: Fehlerverteilung Prio 1 Modul A Modul B Prio 3 Modul E Prio 2 Phase 1: cases für «Rasterfandung» Phase 2: neue cases für «kritische Kandidaten» 17

18 Manager Business Analyst IT Analyst operations Manager IT Business er IT er Projektleiter Auftraggeber DIE MENSCHLICHE SEITE Rollen und Zuständigkeiten, Rollenkonflikte, die emotionale Seite des ens Rollen und Zuständigkeiten (Beispiel eines RACI Matrix für den prozess) Phase Planung Definition strategie und policies A R R Spezifikation fachliche cases (funktionale s, Usability,...) R A C C I I Spezifikation techn. cases (Performance, Security, ) R A C C I I ablaufplanung (Termine, Szenarions) R C C A C C C I Planung daten R C C A C C C I Phase betrieb Bereitstellen umgebung R A R C Bereitstellen daten R A C Durchführung fachl. cases I C R C A Durchführung IT cases I C R C A Defect-Bearbeitung (inkl. Owner Defectlog) I A R R R Betrieb umgebung (inkl. case log) R A R I Phase Abschluss Review ergebnisse, Schlussbericht mit Empfehlung A C C R C C R R Bereinigen umgebung I A R Lessons Learned und Transfer-Workshop A C C R C C C R I 18

19 Rollenkonflikt 1 Grundhaltung Auftrag Ziel Erfolg, wenn SW-Entwickler er Konstruktiv, Kreativ, Destruktiv «Schöpferisch» Bereitstellen der im Überprüfen der im Projektauftrag vereinbarten Projektauftrag vereinbarten Lieferobjekte Akzeptanzkriterien will eine neue gute Lösung will beweisen, dass die schaffen Lösung schlecht ist das Programm möglichst viele Fehler abgenommen und möglichst gefunden und fehlerfrei im produktiven (mangelhaftes) Programm Einsatz zurück gewiesen. Rollenkonflikt 2 Grundhaltung Auftrag Ziel Erfolg, wenn Projektleiter manager Konstruktiv in Abwägung mit Destruktiv Zeit und Geld «Qualitätsorientiert» Bereitstellen eines Systems Sicherstellen der Qualität des bis zum Zeitpunkt X unter Systems Einhaltung des Budgets Y Einhaltung Termin und Fehler finden und Beheben Budget lassen termingerechter golive und Fehler gefunden werden Projekt abgenommen 19

20 rationaler Bereich Emotionaler Bereich Aufgabenorientiert menschenorienteirt zwei Risikotypen in der phase Lange Entwicklungsphase jetzt läuft gar nichts wird das Projekt scheitern? Vertrauensverlust Erste greifbare Objekte sieht toll aus, aber ich hätte da noch eine Verbesserungsidee, Neue Requirements Motive S Sicherheit G Gewinnstreben P Prestige B Bequemlichkeit Reaktion Verhalten Motivation Karrierepläne Jobängste Bonusziele Was steuert die Verhaltensweise? D extrovertiert I Dominant Initiativ Requirements Kosten, Zeitpläne Herr A Motive Frau B Gewissenhaft stetig G introvertiert S Motive und Motivation nach Rudolf A. Schnappauf, «Verkaufspraxis», ISBN DISG nach F. Gay, «DISG-Persönlichkeitsprofil, ISBN L. Seiwert & F. Gay, «Das 1x1 der Persönlichkeit, ISBN

21 ZUSAMMENFASSUNG Beispiele, Fazit, Fragen Session Based ing Planung Einführung Session 90 Debriefing 20 Erstellen brief (Charta: zu testende Komponenten, erwarteten Resultate, er) report: Getestete Komponenten Buglist open Issues (untested components, open questions) PROOF Past Results Obstacles Outlook Feelings Dauer min. 21

22 Grundsätze (nach SAQ/ISTQB) Grundsatz 1: en zeigt die Anwesenheit von Fehlern Grundsatz 2: Vollständiges en ist nicht möglich Grundsatz 3: Mit dem en frühzeitig beginnen Grundsatz 4: Häufung von Fehlern Grundsatz 5: Wiederholungen haben keine Wirksamkeit Grundsatz 6: en ist abhängig vom Umfeld Grundsatz 7: Trugschluss: Keine Fehler bedeutet ein brauchbares System Checkliste von vermeidbaren Fehlern Fehler 1 Fehler 2 Fehler 3 Fehler 4 Fehler 5 Fehler 6 Fehler 7 Fehler 8 Fehler 9 Fehler 10 Fehler 11 Nur einfache funktionale s en nur als Vorgang im Projektplan Projektplan ohne Fehlerbearbeitung Keine planung über den gesamten Projektverlauf Aufbau umgebung und Bereitstellen von daten wird nicht geplant s werden nur durch Entwickler durchgeführt Ungenügende Vorbereitung der er Keine Fehlerkategorien definiert Fehlerdichte wird ignoriert Kein Transfer am Ende der phase Zu hohe Erwartungen an das en 22

23 Buch Beschreibung und Vergleich von methoden (V-Modell IEEE 1008, IEEE 1012, ISO 29119, ITIL, Cobit, Conct, FURPS, RUP, etc.) en nach unterschiedlichen Projektmethoden (Phasenmodell, iterative, Prototyping, agile) Bibliothek von cases Toolübersicht für Automatisation, Dokumentation und Logging, Debugger Dokumentenvorlagen Praxisbeispiele Erscheint im August 2013 ca. 300 Seiten, Gebunden ISBN: ca. 69,90 Euro ing can only show the presence of bugs, but not their absence. Edsger Wybe Dijkstra ( ) Good testing works best on good code and good design. An no testing technique can ever change garbage into gold. Dr. Boris Beizer 23

24 Fragen? Danke fürs zuhören 24