Machine Learning 101 Wie geht das (heute) in der Oracle Cloud?

Transkript

1 Machine Learning 101 Wie geht das (heute) in der Oracle Cloud? DOAG Konferenz, 22. November 2017 Harald Erb Oracle Business Analytics & Big Data Copyright 2017, Oracle and/or its affiliates. All rights reserved. 1

3 Safe Harbor Statement Safe Harbor Statement The following is intended to outline our general product direction. It is intended for information The following purposes is intended only, to and outline may our not general be incorporated product direction. into any contract. It is intended It is not for a commitment information purposes to deliver only, any material, and may not code, be or incorporated functionality, into and any should contract. not be It is relied not a upon in commitment making purchasing to deliver decisions. any material, The development, code, or functionality, release, and and timing should of not any be features relied upon or functionality in making purchasing described decisions. for Oracle s The products development, remains release, at the and sole timing discretion of any of Oracle. features or functionality described for Oracle s products remains at the sole discretion of Oracle. Copyright 2017, Oracle and/or its affiliates. All rights reserved. 3

4 Agenda Oracle Analytics Vision (Oracle Open World 2017) Oracle Big Data Cloud aus vier Perspektiven System Engineer Data Scientist Entwickler Business Analyst Q&A Copyright 2017, Oracle and/or its affiliates. All rights reserved. 4

7 Oracle Cloud Workshops auf der DOAG Konferenz 2017 Im Foyer Shanghai-Seoul Einstieg in die jeweilige Session jederzeit möglich! Dienstag Uhr Oracle Datenbank und GoldenGate in der Oracle Cloud Uhr IT Systems Management mit der Oracle Management Cloud Mittwoch Uhr Agile Entwicklung von Microservices in der Oracle Cloud Uhr Oracle Datenbank und GoldenGate in der Oracle Cloud Donnerstag Uhr IT Systems Management mit der Oracle Management Cloud Uhr Agile Entwicklung von Microservices in der Oracle Cloud Copyright 2017, Oracle and/or its affiliates. All rights reserved. 7

11 Data Source Connectivity External Interfaces Common SQL Access to ALL Data OOW 2017: Analytics Demo-Szenario Data Management und Analytics (Mögl. Umsetzung) Data Sources Data Lake Batch Integration Real-Time Integration Data Streaming Intake Tier Data Profiling Management Tier Raw Data Data Cleansing Data Hub All Data Data Transformation Curated & enriched Data Relation Extraction Indexing (Inverted Faceted/Fuzzy) Consumption Tier Data Provisioning (Catalog) Data Classification Deep Learning Operational Data Store Enterprise Information Analytical Database Data Discovery/ Business Intelligence Advanced Analytics Data Wrangling Data Enrichment Data Discovery Data Federation & Virtualization Layer Data Driven Applications Metadata & Information Lifecycle Management Layer Security & Governance Layer Copyright 2017, Oracle and/or its affiliates. All rights reserved. 11

13

14

15

19

20

21 Safe Harbor Statement The following is intended to outline our general product direction. It is intended for information purposes only, and may not be incorporated into any contract. It is not a commitment to deliver any material, code, or functionality, and should not be relied upon in making purchasing decisions. The development, release, and timing of any features or functionality described for Oracle s products remains at the sole discretion of Oracle. Copyright 2017, Oracle and/or its affiliates. All rights reserved.

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36 Do you know your customer? Features Basic Query Basic Analytics Machine Learning Age / Gender Marketing Preferences RFM (Recency, Frequency and Monetary Value): Purchases in the Last 3/6/12 mo. Behavioral Customer Segment Probability to Buy New Product X Known Known Known Unknown Unknown Mail and 1 item / $35 in the last 3 mo Retired Cosmopolitan 2 items / $150 in the last 6 mo Affluential Executive and Facebook 3 items / $75 in the last 3 mo New Home Mom and Google+ 3 items / $225 in the last 12 mo Young Successful startup 31% 45% 55% 21% 72% Mail, and Twitter 9 items / $250 in the last 6 mo Executive product collector Probability to churn Yes with 85% No with 31% No with 20% Yes with 75% No 30% Copyright 2017, Oracle and/or its its affiliates. All All rights reserved. Confidential Oracle Internal 36

37 Quelle: Nvidia Artificial Intelligence Machine Learning Deep Learning *) *) Blog: Understanding the differences between AI, machine learning, and deep learning open» Künstliche Intelligenz (AI): Bereich der Informatik, der sich mit dem Erwerb kognitiver Fähigkeiten beschäftigt, die i.d.r. menschlicher Intelligenz zugeordnet werden (Lernen, Problemlösung und Mustererkennung)» Machine Learning (ML): besteht im Kern aus Sammlung von Algorithmen, die aus aufgezeichneten Daten lernen und Voraussagen treffen, aus Daten verborgene Strukturen extrahieren, Daten in präzise Beschreibungen klassifizieren und wird häufig eingesetzt, wenn explizite Programmierung zu starr oder unpraktisch ist» Deep Learning (DL): Teilbereich von ML, bei dem Algorithmen als Netz geschichtet werden, um Daten noch besser analysieren und verstehen zu können. Nach ausreichender Konditionierung/Training sind äußerst komplexe Daten interpretierbar Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

38 Machine Learning Einige klassische Anwendungsfälle Anomalieerkennung Erkennung von Produkten, Ereignissen oder Beobachtungen, die nicht zu einem erwarteten Muster bzw. anderen Elementen eines Datensatzes passen. Betrugserkennung Entwicklung von Prognosemodellen, die bei der Erkennung potenziell betrügerischer Verkaufstransaktionen oder schädigender Produktbewertungen helfen. Kundenabwanderung verhindern Erkennung von Kunden, bei denen ein hohes Abwanderungsrisiko besteht, das proaktive Maßnahmen zur Stärkung der Kundenbindung zum Beispiel in Form von Sonderangeboten oder Kundendienst- Follow-ups erfordert. Personalisierung von Inhalten Bereitstellung eines optimal personalisierten Kundenerlebnisses mithilfe von prädiktiven Analysemodellen, die Produkte vorschlagen oder die Website-Ausgabe auf Basis vorheriger Kundenaktionen optimieren. Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

39 Wie Machine Learning prinzipiell funktioniert New case With X i and Y i unknown Historical cases With X i and Y i known Train & test Churn Scoring churn Model model Y i = f(x i )? = f(x i ) Y = Churning Yes/no and churn risk score P = 0.7 f() kann alles Mögliche sein ****** Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

40 Deep Learning Einige bekannte Anwendungsfälle Bild-/Videoklassifizierung, Segmentierung Konvolutional neuronale Netze sind bei vielen visionellen Aufgaben, so auch bei der Objektklassifizierung, weitaus leistungsfähiger als das menschliche Gehirn. Wenn das Algorithmussystem des Deep Learning die Gelegenheit hatte, sich an Millionen bezeichneter Bilder zu konditionieren, beginnt es schließlich, das Motiv eines Bildes von sich aus zu erkennen. Spracherkennung Virtuelle Assistenten sind darauf konzipiert, eine Anforderung zu erkennen und korrekt zu beantworten. Dank Deep Learning gelingt es dem System der Algorithmen immer besser, Sprache zu erkennen und deren Aussage zu interpretieren. Empfehlungsmodule Online-Shopping bietet häufig personalisierte Inhaltsempfehlungen zu Produkten, Filmen oder Nachrichten, die den Benutzer interessieren könnten. In den Kinderschuhen des Online- Shoppings wurden diese Systeme durch Menschen aus Fleisch und Blut gespeist, die Artikel miteinander verknüpften. Seit der Einführung von Big Data und Deep Learning sind für diese Aufgaben keine Menschen mehr erforderlich. Heute identifizieren Algorithmen die Produkte, die Sie interessieren könnten, durch Analyse Ihrer vergangenen Käufe oder Produktsuchen und Vergleich dieser Informationen mit den Käufen anderer Benutzer. Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

42 Warum Machine Learning in der Cloud? Alex Sadovsky, Director of Data The Oracle Data Cloud describes how to embrace cloud computing, Hive, and Spark to create machine learning solutions at scale. YouTube URL Copyright 2017, Oracle and/or its affiliates. All rights reserved.

43 Warum Cloud? Grenzen austesten und On-Demand massiv parallele Datenanalyse betreiben können einige Überlegungen von Alex Sadovsky Data Scientists should not be System Administrators If hardware fails, throw it away If someone messes up the OS, trash it No support tickets, no time wasted Data scientists should not have to deal with system administrators Science is about experimentation Experimentation is about testing boundaries No support tickets, no time wasted Don t be afraid to throw money (more computer resources) at a problem Engineers and their time are often more expensive than computer resources Burstable solutions Copyright 2017, Oracle and/or its affiliates. All rights reserved.

44 Warum Cloud? Für experimentelles Arbeiten einige Überlegungen von Alex Sadovsky Data Scientists should not be System Administrators If hardware fails, throw it away If someone messes up the OS, trash it No support tickets, no time wasted Data scientists should not have to deal with system administrators Science is about experimentation Experimentation is about testing boundaries No support tickets, no time wasted Don t be afraid to throw money (more computer resources) at a problem Engineers and their time are often more expensive than computer resources Burstable solutions Copyright 2017, Oracle and/or its affiliates. All rights reserved.

45 Warum Cloud? Case Study: Der 10-Node-Selbstbau Spark Cluster Selbstbau ist teuer! Kosten für System Engineers Kosten für zusätzliche Entwicklungzeiten im Hinblick auf Personal (Gehalt) im Hinblick auf verlagerte Arbeit Kosten für besondere Developer Skills Leute mit Python/SQL-Kenntnissen sind z.z. noch leichter zu finden im Vergleich zu Spark-/Hive-Spezialisten Be lazy. Warum nicht ein paar Euro/Stunde für eine Single Cloud Instance bezahlen anstatt eine eigene Infrastruktur für Datenexperimente aufzubauen und zu warten? Copyright 2017, Oracle and/or its affiliates. All rights reserved.

46 Demo Use Case New York City Bikes: Analyse vergangener Bike-Trips und Anwendung eines Prediction Models Historische Daten Echtzeitdaten Download aus Amazon Cloud (AWS S3) Copyright 2017, Oracle and/or its affiliates. All rights reserved. 46

47 REST API Kafka API Big Data Cloud: Basis Services Oracle Event Hub Cloud Service Oracle Storage Cloud Service Data Scientists / Developer R Studio Web Browser Cloud Berry Notebooks Data Sources Business Users Files Database Real-time Cloud Streaming Kafka Queue Kafka API Spark Streaming Alluxio Hbase API HBase *) Python Object Storage Rest API HTML Notebook Spark HTML SparkSQL TEZ Weitere.. Batch Hive Alluxio Hive SQL TEZ Oracle Data Visualisation Oracle Public Cloud Oracle Big Data Cloud *) Roadmap Item für die Oracle Big Data Cloud Copyright 2017, Oracle and/or its affiliates. All rights reserved. 47

49 Das Team: System Engineer» Aufgaben: Richtet die Cloud ein: Provisioniert Services, Installiert ggf. weitere benötigte Software, automatisiert (skriptet) für mehr Effizeinz» Skills: kennt/beherrscht die Komponenten der Oracle Big Data Cloud: HDFS, Hive, Spark» Tools: Linux Shell, SFTP, Zeppelin Notebooks Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

50 Oracle Storage Cloud Service Merkmale und Gründe für den Einsatz Object Storage Sehr preiswerte & flexible Speicherung beliebiger Daten für strukturierte und unstrukturierte Daten Im Gegensatz zu bekannten Dateisystemen enthalten Objekte zwar Daten, sind allerdings nicht in einer Hierarchie organisiert. Jedes Objekt befindet sich auf der gleichen Ebene eines Adressraums, wird mithilfe seiner erweiterten Metadaten charakterisiert und bekommt einen einzigartigen Identifikator zugewiesen. Server oder Endanwender können das Objekt beziehen, müssen den physischen Standort der Daten nicht kennen. Diese Herangehensweise ist für die Automatisierung und Rationalisierung der Datenspeicherung in Cloud- Computing-Umgebungen nützlich Copyright 2017, Oracle and/or its affiliates. All rights reserved. 50

54 Cluster-Computing mit Apache Spark Das Schweizer Taschenmesser für Big Data Adapted from Prof. J. Albrecht: Einführung in Apache Spark, TDWI 2017 Datenintegration/ aufbereitung (ETL) Verknüpfung verschiedenster Datenquellen Komplexe Transformationen mit relationalen und nichtrelationalen Operatoren über DataFrame API Ergebnisse als Tabelle (Hive, JDBC) oder Datei Interaktive Analyse und Data Discovery Interaktive Anfragen auf Rohdaten möglich Zugriff mit SQL, Python, R, JDBC/ODBC Datenanalyse/-visualisierung mit Data-Science- Notebooks (wie Apache Zeppelin), BI-Werkzeuge Near Real-Time Data Processing Kontinierliche Verarbeitung von Datenströmen für IoT- Anwendungen, Betrugserkennung u.v.m. Machine Learning und Data Science Einsatz von ML-Verfahren für Vorhersagen, Empfehlungssysteme u.v.m High-Performance Computing Parallelisierung aufwändiger Berechnungen im Cluster für rechenintensive Simulationen Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

56 Hive - Tez Query Execution Engine Für gute Abfrage-Performance bei interaktiven Analysen docs.hortonworks.com/hdpdocuments/hdp2/hdp-2.4.3/bk_performance_tuning/content/hive_perf_best_pract_config_tez.html Copyright 2017, Oracle and/or its affiliates. All rights reserved. 56

57 REST API Kafka API Big Data Cloud Service einrichten Data Scientists / Developer R Studio Web Browser Cloud Berry Notebooks Data Sources Business Users Files Database Real-time Cloud Streaming Kafka Queue Kafka API Spark Streaming Alluxio Hbase API HBase Python Object Storage Rest API HTML Notebook Spark HTML SparkSQL TEZ Weitere.. Batch Hive TEZ Alluxio Hive SQL TEZ Data Visualiz. Desktop Oracle Public Cloud Copyright 2017, Oracle and/or its affiliates. All rights reserved. 57

68 Big Data Cloud: Automatisierung mit Bootstrap-Skripts Beispiel: Installation von Anaconda inkl. TensorFlow und Konfiguration von Python Copyright 2017, Oracle and/or its affiliates. All rights reserved. 68

69 Das Team: Data Scientst» Aufgaben: Explorative Analyse, Feature Engineering, bestes ML-Modell finden und anwenden. usw.» Skills: Statistik, Programmiersprachen (R, Python, SQL? usw), Methodenwissen etc.» Tools: Notebooks (Zeppelin, Jupyter) Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

70 Machine Learning mit R und Oracle Überblick ROracle (CRAN Package) Oracle Database interface (DBI) Treiber für R OCI-basiert gute Performance via JDBC- und ODBC-Zugriff Oracle R Distribution 100% compatible Bessere performance Support durch Oracle Oracle Advanced Analytics Oracle Data Mining & Oracle R Enterprise : In-Database Analytics Support durch Oracle Oracle R Advanced Analytics For Hadoop Von R transparenter Zugriff auf Hadoop Spark und teilweise Map-Reduce in R Support durch Oracle Mehr Informationen zu R Technologies from Oracle Oracle Technology Network Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

71 Oracle R Distribution (ORD) Die Foundation für alle R-Analysen» Oracle R Distribution (ORD, Version 3.3.0) ist eine Redistribution der freien Programmiersprache R durch Oracle, die für statistische Berechnungen und Grafiken eingesetzt wird» Vorteile: Hochleistungsbibliotheken wie Intel's Math Kernel Library (MKL), Sun Performance Library für Solaris werden für optimale Nutzung und maximale Performance geladen; R-spezifische Speichereinstellungen für die Server-seitige Ausführung der R-Engine werden automatisch gesetzt.» ORD und Non-Oracle R Pakete: können in Kombination eingesetzt werden» Bereitstellung: freier Download bei oder vorinstalliert auf der Oracle Big Data Appliance» Oracle Support: Inklusive für DB-Kunden mit Lizenz für die Oracle Advanced Analytics Option (umfasst Oracle R Enterprise und Oracle Data Mining), Oracle Enterprise Linux und der Oracle Big Data Appliance; der Einsatz von Non-Oracle R Paketen (z.b. von CRAN geladen) ist dabei ausgeschlossen Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

72 Oracle R Advanced Analytics mit Hadoop (ORAAH) Oracle R Engine mit Hadoop/Hive/Spark Integration Oracle R Advanced Analytics for Hadoop (ORAAH) on Hadoop Cluster R interface to HQL Basic Statistics, Data Prep, Joins and View creation HQL Parallel, distributed algorithms: ORAAH Spark algorithms: Deep Neural Network, GLM, LM Spark MLlib algorithms: LM, GLM, LASSO, Ridge Regression, Decision Trees, Random Forests, SVM, k-means, PCA Oracle Database mit Advanced Analytics Option Use of Open-source R packages via custom R Mappers / Reducers SQL Developer Other SQL Apps Hinweis: ORAAH Support für die Oracle Big Data Cloud wurde von Oracle angekündigt, ist aber noch nicht verfügbar Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

73 Oracle R Advanced Analytics mit Hadoop (ORAAH) Machine Learning Algorithmen, Version Classification GLM ORAAH Logistic Regression ORAAH Logistic Regression Random Forests Decision Trees Support Vector Machines Clustering Hierarchical k-means Hierarchical k-means Gaussian Mixture Models Regression MLP Neural Networks ORAAH LASSO Ridge Regression Support Vector Machines Random Forest Linear Regression Basic Statistics Correlation/Covariance Feature Extraction Non-negative Matrix Factorization Collaborative Filtering (LMF) Singular Value Decomposition Attribute Importance Principal Components Analysis Principal Components Analysis Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

75 Was ist mit weiteren 3 rd Party-Komponenten? Beispiel: Python + Jupyter Notebook + TensorFlow Framework Die Programmiersprache Python zusammen mit Bibliotheken wie z.b. Scikit-Learn, SciPy (Scientific Python) usw. kommen im Bereich Maschinelles Lernen zur Anwendung Das Jupyter Notebook ist eine Open-Source- Webanwendung, mit der Dokumente erstellt und ausgetauscht werden können, die Live-Code, Visualisierungen, formatierten Text, Gleichungen etc. enthalten. TensorFlow ist eine plattformunabhängige Open-Source-Programmbibliothek für künstliche Intelligenz bzw. maschinelles Lernen im Umfeld von Sprache und Bildverarbeitungsaufgaben Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

82 Das Team: Entwickler» Aufgaben: Datenprodukte (Apps, etc.) entwickeln, neue Erkenntisse in Tagesgeschäft integrieren (Analytics as a Service, in BI-Plattform usw.)» Skills: Programmiersprachen (Angular, Python, Scala, SQL, Java usw), Agile Methoden etc.» Tools: Notebooks, Java IDE s, Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

83 REST API Kafka API Neue Erkenntnisse produktiv verwerten Datenprodukte, intelligentere Apps/Dashboards usw. Data Scientists / Developer R Studio Web Browser Cloud Berry Notebooks Data Sources Business Users Files Database Real-time Cloud Streaming Kafka Queue Kafka API Spark Streaming Alluxio Hbase API HBase Python Object Storage Rest API HTML Notebook Spark HTML SparkSQL TEZ Weitere.. Batch Hive TEZ Alluxio Hive SQL TEZ Data Visualiz. Desktop Oracle Public Cloud Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

86 Apache Zeppelin Notebook Unterstützt eine Vielzahl von Programmiersprachen und Technologien Oracle R Zeppelin Notebook in Big Data Cloud bereits integriert One-stop Entwicklungsumgebung für Data Science Machine Learning Scala, Python, R und SQL Code, Spark Analyse von strukturierten und unstrukturierten Daten möglich Verwendet Angular ( als Webapplikationsframework schnell produktiv sein Browser-basiert keine Client- Installation Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

89 Das Team: Business Analyst» Aufgaben: Explorative Analyse, wertet Machine Learning Erkenntisse aus bzw. wendet diese im Tagesgeschäft an» Merkmale: hat Domänenwissen (Geschäftsabläufe, Abhängigkeiten), ist Power BI-und MS Excel Anwender, benutzt SQL- Schnittstellen» Tools: Data Visualisierung inkl. Data Preparation, integr. Analytics Funktionen Copyright 2017, Oracle and/or its its affiliates. All All rights reserved.

90 REST API Kafka API Oracle Data Visualization Direkter Zugriff auf die Big Data Cloud Data Scientists / Developer R Studio Web Browser Cloud Berry Notebooks Data Sources Business Users Files Database Real-time Cloud Streaming Kafka Queue Kafka API Spark Streaming Alluxio Hbase API HBase Python Object Storage Rest API HTML Notebook Spark HTML SparkSQL TEZ Weitere.. Batch Hive TEZ Alluxio Hive SQL TEZ Data Visualiz. Desktop Oracle Public Cloud Copyright 2017, Oracle and/or its affiliates. All rights reserved. Oracle Confidential 90

91 Oracle Data Visualization Datenaufbereitung, -verknüpfung und interaktive Analyse in einem Werkzeug Data Set Management Data Flow Editor Lightweight Data Profiling Visual Analyzer Copyright 2017, Oracle and/or its affiliates. All rights reserved. 91

92 Oracle Data Visualization Prozessablauf Import, Refresh, Verwaltung der Data Sets Neue Daten inspizieren, auf Qualität/Vollständigkeit prüfen und verstehen Data Sets bereinigen, filtern kombinieren, anreichern (Data Pipelines bauen) Interaktiv Analysieren, Zusammenhänge erkennen und visualisieren Ergebnisse kommentieren, Analyseschritte dokumentieren (Story Telling) Neue Datenquellen hinzunehmen Weitere vorhandene Data Sets ansehen Data Sets weiter aufbereiten, anreichern Neue Perspektiven und Datensichten umsetzen Komplett neue Fragen und Analyseideen verfolgen Mit dem Werkzeug können komplette Analyse-Projekte umgesetzt werden, ist Rapid Prototyping möglich (anstelle starrer Spezifikationen in Papierform) Lassen sich Einmal-Analysen umsetzen, die eine Erweiterung der Business Intelligence-Plattform (noch) nicht rechtfertigen Copyright 2017, Oracle and/or its affiliates. All rights reserved. 92

95 Safe Harbor Statement The following is intended to outline our general product direction. It is intended for information purposes only, and may not be incorporated into any contract. It is not a commitment to deliver any material, code, or functionality, and should not be relied upon in making purchasing decisions. The development, release, and timing of any features or functionality described for Oracle s products remains at the sole discretion of Oracle. Copyright 2017, Oracle and/or its affiliates. All rights reserved. 95