Divide et impera Session-Management im ETL

Ähnliche Dokumente
Unsere Vorträge auf der DOAG 2015

Mittwoch. Donnerstag

Mind the Gap Lücken und Muster erkennen mit Match_Recognize. 18. November 2015 Robert Marz Technical Architect

Divide et impera Session-Management im ETL

Nächster Halt 12c Migration bei der DB Netz. 19. November 2015 Robert Marz Technical Architect

Kleine Helferlein. Jens Behring its-people. Copyright its-people

Da fliegt die Kuh Rasante Datenbankklone durch cow (copy-on-write) Robert Marz Technical Architect.

Oracle SQL Developer Lassen Sie sich anstecken!

CSV mit reinem SQL & der Magie von JSON_TABLE einlesen

Formatierte Berichte Excel-Dateien mittels PL/SQL erzeugen. Robert Marz its-people

Global Staging Area - Implementierung einer zentralen Datendrehscheibe

Virtual Reality Analytics Keynote

Advanced Monitoring von ETL-Prozessen. Sven Bosinger its-people

Virtualisierung, Cloud und Hosting - Kriterien und Entscheidungshilfen. Ein Gemeinschaftsvortrag von its-people und managedhosting.

Flexible Schnittstelle für Flat Files in das DWH

"Hier kann ich mich weiterentwickeln!"

1001 Möglichkeiten eine Staging Area zu füllen. Sven Bosinger its-people GmbH

Herzlich willkommen zum Regionaltreffen Bremen

Mehr Dynamik in Apex mit Javascript und JQuery. Alexander Scholz its-people

Tools für DBA s und Cloud-Nutzer: ssh die Secure Shell

Tools für DBA s und Cloud-Nutzer: ssh die Secure Shell

avantum consult Business Analytics at its best Würzburg,

Herzlich Willkommen zum

Bezwingen Sie das Technologiemonster

Oracle Data Integrator Ein Überblick

Tobias Braunschober DAS GENERISCHE DWH WENIGER CODE WENIGER KOSTEN

in Zürich Quelle: 8. TDWI Roundtable in Zürich

Viel aus wenig: Enterprise-DWH mit Basic ETL

Szenarien zu Hochverfügbarkeit und Skalierung mit und ohne Oracle RAC. Alexander Scholz

DOAG Hochschul-Community Ulm

SQL Developer 4 DBAs DOAG Datenbank 2015 Düsseldorf Referent Ernst Leber. Düsseldorf, den

Visualisierung von Geodaten in APEX Interactive Grid und OpenLayers

Berechnung von Kennzahlen mit der SQL Model Clause

Best Practices: Entwicklung komplexer APEX-Applikationen

Informationsmanagementpraktikum

He H rz r lich Wil kommen zur DOAG SI S G G Fu F sion Middlewa w re r Hamburg

Übersicht Streams nach Liste Produkte/Themen

OXO³ technische Aspekte der Oracle EMEA internen BI Implementierung

GESTERN OWB, HEUTE ODI

ZWISCHEN ALBTRAUM UND OPTIMALER PERFORMANCE

Oracle BI Publisher - PDF und einiges mehr

Modellierung agiler Data Warehouses mit Data Vault Dani Schnider, Trivadis AG DOAG Konferenz 2015

DOAG Wie kann ich meine (bestehende) Forms GUI moderner gestalten? Nürnberg, , Daniel Kampf. Copyright 2013 PITSS GmbH

Das nächste Duet(t): APEX und SAP DOAG Konferenz Niels de Bruijn Nürnberg,

BI meets GEO DOAG Regionalgruppe Berlin-Brandenburg 3. Juni 2009

Dashboards und Kennzahlen in der Instandhaltung. Jochen Croonenbroeck

Ist Gradle auch für die APEX-Projekte?

Hibernate Eine Einführung

Herzlich willkommen zum. Regiotreffen Rhein-Neckar

Data Warehouse Automation und Life Cycle Management mit AnalyticsCreator

Oracle Snap Management Utility Snap mir eine. Marco Schwab, DOAG 2017,

Herzlich willkommen zum. Regiotreffen Rhein-Neckar

Robotron Datenbank-Software GmbH

+++ Bitte nutzen Sie die integrierte Audio-Funktion von WebEx (Menü Audio -> Integrated Voice Conference -> Start auswählen), um uns zu hören!!!.

TUI InfoTec. We do IT with a Smile. TUI InfoTec We do IT with a smile Folie 1

quick documentation Inhalt Datenmodellierung

JasperReports als Nachfolger von Oracle Reports

ADF & APEX to go! Expertengespräche ADF & APEX Previewer. am PITSS Stand 206. im Anschluss an diesen Vortrag! Wir freuen uns auf Ihren Besuch!

ETL-Industrialisierung mit dem OWB Mapping Generator. Irina Gotlibovych Senior System Beraterin

Bachelor of Eng. (Wirtschafts-Ing.-wesen)

Forms auf Tablets. Vision oder Realität?

THEMA: SAS DATA INTEGRATION STUDIO FÜR MEHR TRANSPARENZ IM DATENMANAGEMENT EVA-MARIA KEGELMANN

Transformations. Die API des Oracle Datamodeler. Dr. Gudrun Pabst. Trivadis GmbH Lehrer-Wirth-Straße München.

DATENQUALITÄT IM DWH IST AUTOMATISCH AUCH GLEICH BESSER?

Herzlich willkommen zum Regionaltreffen Bremen T-Systems International GmbH, Bremen

Ein APEX für alle und alle für APEX! Niels de Bruijn, Fachbereichsleiter APEX , DOAG DB Konferenz

Continuous Delivery mit Orcas

Exadata Engineered Systems als Lösung? Reinhold Boettcher, Systemarchitekt Infrastruktur, arvato Systems

FREUDENBERG IT. Mobile Business Intelligence

Office 365 Dynamics 365 Azure Cortana Intelligence. Enterprise Mobility + Security Operations Mgmt. + Security

Exadata und In-Memory Datenbewirtschaftung und Analyse Extrem mit Exadata und InMemory (Erfahrungsbericht)

Oracle9i Designer. Rainer Willems. Page 1. Leitender Systemberater Server Technology Competence Center Frankfurt Oracle Deutschland GmbH

Oracle Application Express 3 für die schnelle und schlanke Business Intelligence Lösung

BI Publisher-Praxis: Komplexe Reports und Apex- Dokugenerator

DQM Data Quality Manager. DOAG Hochschul-Regionaltreffen Münster Johannes Tomasoni

Hochverfügbarkeit mit AlwaysOn für die SSISDB. Stefan Grigat,

Die Bedeutung der Prozessmodellierung bei der Weiterentwicklung des DWHs der DAK Der Innovator als Missing Link

Oracle Database Cloud Service

Für Querdenker Was ODI anders macht als OWB und umgekehrt

Oracle-Reports in Enterprise-Projekten: Erfahrungsbericht über Architektur, Performance und weitere Aspekte

APEX Office Print - Einfach Druck machen! Daniel Hochleitner Freelance APEX Developer, FOEX GmbH

Beratung Software Lösungen. Migration von ProStore Logistics Intelligence von OBIEE 10g auf 11g

Oracle Developer Monthly Datenbank-Update für Anwendungsentwickler

Zeitlich abhängig von OWB?

Erfolg mit Oracle BI?

CHOICE-O-MAT ENTSCHEIDUNGSHILFE FÜR ORACLE ENTWICKLUNGSWERKZEUGE. Ulrich Gerkmann-Bartels CEO & Consultant Oracle Technologies

Qualitätssicherung und formales Testen einer E-Business Suite-Migration

Mandora Business Solutions

Oracle Warehouse Builder Wie finde ich den richtigen Nachfolger?

DOAG-Jahreskonferenze Nürnberg,

Einführung: Betrieb von Oracle-Infrastrukturen

Geschäftsprozesserstellung durch den Fachbereich am Kundenbeispiel

SAP Analytics für KMU. Oktober 2017

DOAG München Die etwas anderen Oracle Performance-Tipps. Marco Patzwahl

Real World Performance Tour. 19. Februar 2014

Oracle Spatial im Topobase Umfeld SIG Oracle Spatial Event Frankfurt, 18. April 2012

NetDoc Server. DB Migration mit der. Oracle Migration Workbench. NetDoc Server-DB Migration. Dirk Thieslack

Transkript:

we make the difference www.its-people.de Divide et impera Session-Management im ETL 17. November 2015 Sven Bosinger Portfoliomanager BI Themenverantwortlicher DWH der DOAG BI Community

IT Management Services Projekt-, Qualitäts-, Test-Mgmt its-people auf einen Blick Unternehmensphilosophie Zusammenschluss selbständiger IT-Experten unter einer gemeinsamen Marke Bündelung von umfassendem IT-Wissen Partnerschaft auf Augenhöhe Gemeinsam stark! Unternehmensdaten Gründung: 2003 Anzahl der Experten: 70 Leistungsangebot DatenbankTechnologie Plattform & Anwendungsentwicklung Business Intelligence & DWH Architektur, Design & Implementierung Customer Data Integration Beratung, Konzepte & Projekte Best Practice ERP Mediation, Integration, Migration Beratung, Planung, Konzeption, Implementierung, Support, Krisenbewältigung Stärken Kompetenz, Exzellenz und Qualität aus praktischer Erfahrung Partnerschaft auf Gegenseitigkeit Kundenorientierung auf höchster Ebene Wertekodex als Geschäftsgrundlage Teams für komplexe Projektaufgaben Nähe zum Kunden Dienstleistungen von Menschen für Menschen its-people Ihr Partner für Projekte im Umfeld Datenbanken, Data Warehouse, Business Intelligence, Customer Data Integration und ERP its-people Frankfurt Lyoner Str. 44-48, 60528 Frankfurt Tel.: +49 (69) 2475 210-0 E-Mail: frankfurt@its-people.de its-people ERP Beratungsgesellschaft mbh Lyoner Str. 44-48, 60528 Frankfurt Tel.: +49 (69) 2475 19-80 E-Mail: erp@its-people.de its-people Köln Hohenzollernring 57, 50672 Köln Tel.: +49 (221) 1602 5204 E-Mail: koeln@its-people.de its-people München Lichtenbergstr. 8, 85748 Garching Tel.: +49 (89) 5484 2401 E-Mail: muenchen@its-people.de its-people Hamburg Am Strohhause 31, 20097 Hamburg Tel.: +49 (40) 2360 8808 E-Mail: hamburg@its-people.de 17. November 2015 Sven Bosinger its-people 2

Unsere Vorträge auf der DOAG 2015 Dienstag Virtual Reality Analytics 12:00-12:45 Uhr Raum Oslo, Ebene 2 Jörg Osarek SQL Developer Lassen Sie sich anstecken! 12:00-12:45 Uhr Raum Sydney, Ebene 1 Sabine Heimsath Kommandozeile 2.0 SQLcl Ein Erfahrungsbericht 15.00 15.45 Uhr Raum Sydney, Ebene 1 Jens Behring Divide et impera Session-Management im ETL 16.00 16.45 Uhr Raum Oslo, Ebene 2 Sven Bosinger Mittwoch Mind the Gap: Lücken und Muster erkennen mit Match-Recognize 12:00-12:45 Uhr Raum Helsinki, Ebene 2 Robert Marz Donnerstag Nächster Halt 12c: Migration bei der DB Netz 12:00-12:45 Uhr Raum Seoul, Ebene 3 Robert Marz These: Werkverträge in der IT sind anachronistisch! 12:00-12:45 Uhr Raum Oslo, Ebene 2 Thomas Algermissen Customer Analytics Erkenntnisse einer 20-jährigen Reise! 14.00-14.45 Uhr Raum Oslo, Ebene 2 Frank Sommerer

Agenda 17. November 2015 Sven Bosinger its-people 4

Aufgabenstellung / Herausforderung 17. November 2015 Sven Bosinger its-people 5

1. Beispiel: Geometrie-Index Geo- DWH Oracle Spatial Spatial Indexes ETL MBR Fläche Fläche MBR Minimum Bounding Rectangle USER_SDO_GEOM_METADATA Inserts Änderung des MBR Update USER_SDO_GEOM_METADATA erweitertes MBR Erweiterung ETL ETL-USER <> Table-Owner Benutzer-Wechsel Neue Session aus Package Fläche 17. November 2015 Sven Bosinger its-people 6

2. Beispiel: Dynamische Segmentierung Streckenlinie Segmente Streckenlinien Linear Referencing System (LRS) Alle Straßen Deutschlands Liste Tempo 80 Abschnitte (von- bis- KM) mit Tempo 80 Mehrere Tausend Geometrien durch dynamische Segmentierung Problem Sehr PGA inensiv Freigabe erst nach Abbau der Session Aufteilen auf mehrere Pakete Massensegmentierung 17. November 2015 Sven Bosinger its-people 7

3. Beispiel: Parallelisierung mehrerer Sessions Aufruf externer Programme zur Geodaten-Umrechnung Aufruf über Betriebsystem-Call Filebasiert, jedes File eine Geometrie Sehr viele Geometrien > 100.000 zu laden Programm parallelisiert nicht Parallelisierung durch mehrfachen parallelen Aufruf n.file 2.File n.file 2.File n.file 2.File 1.File 1.File 1.File 17. November 2015 Sven Bosinger its-people 8

Der Oracle Werkzeugkasten Start von PL/SQL und Java seit 10gRel1 Oracle Scheduler Externe Jobs Parallele und Serielle Ergebnisgesteuerte Verarbeitun gsketten 17. November 2015 Sven Bosinger its-people 9

Der Oracle Werkzeugkasten 17. November 2015 Sven Bosinger its-people 10

Der Oracle Werkzeugkasten DBMS_ALERT Sync paralleler Sessions Handshaking Transaktionsgesichert 17. November 2015 Sven Bosinger its-people 11

Der Oracle Werkzeugkasten Master Session Start init new Session dbms_alert. waiton go on Slave-Session Work dbms_alert. signal 17. November 2015 Sven Bosinger its-people 12

1. Anwendungsfall: Geometrie-Index ETL-USER ETL füllen Geo-Tabelle start Job: create_index dbms_alert. waiton ETL GEO-USER anlegen Index dbms_alert. signal 17. November 2015 Sven Bosinger its-people 13

2. Anwendungsfall: Dynamische Segmentierung Master-Session ja Chunks ermitteln start Job und warten Chunk übrig? nein Chunks ermitteln Slave-Session Segmentierung 17. November 2015 Sven Bosinger its-people 14

3. Anwendungsfall: Parallelisierung mehrerer Sessions nein Master-Session Datei vorh. ja freier worker nein warten Ende ja fertig Slave-Session Slave-Session 1 Slave-Session 1 Start: Geo2Spatial.jar 17. November 2015 Sven Bosinger its-people 15

Zusammenfassung 17. November 2015 Sven Bosinger its-people 16

we make the difference www.its-people.de Herzlichen Dank für Ihre Aufmerksamkeit! Ihre Fragen? its-people GmbH Frankfurt Tel. 069 2475 2100 Hamburg Tel. 040 2360 8808 Köln Tel. 0221 1602 5204 München Tel. 089 5484 2401 its-people ERP Beratungsgesellschaft mbh Frankfurt Tel. 069 2475 1980 www.its-people.de info@its-people.de