MACHINE LEARNING MIT JAVA UND H2O. Dr. Jonathan Boidol, Stephan Schiffner , Java Forum, Stuttgart

Transkript

1 MACHINE LEARNING MIT JAVA UND H2O Dr. Jonathan Boidol, Stephan Schiffner , Java Forum, Stuttgart

2 Outline Introduction H 2 O Demo Use Case: Klassifikation von Sentiment in Tweets ML Pipeline Modellbildung ML Pipeline Anwendung Mehr Machine Learning mit H 2 O 2

3 Machine Learning im Einsatz 3

4 Machine Learning in a Nutshell Gelabelte Trainingsdaten Machine Learning Algo. Classifier Vorhersagen Oder wenigstens: supervised learning Neue (ungelabelte) Daten 4

5 Machine Learning im Einsatz Data Science Produktiv- Systeme 5

6 Tweet Klassifikation Sentimentvorhersage mit WordEmbeddings 6

7 Ziel Live-Vorhersage von Wetter-Gefühlen aus Tweets: Textvorverarbeitung von Tweets Training eines Word2Vec Modell Training eines 4-Klassen Klassifikators anhand der Word2Vec-Vektoren Streaming und Klassifizierung neuer Tweets 7

8 Weather Tweets Trainingsdaten Datensatz von Tweets 1000 gelabelte Beispiele 4 Klassen einschl. nicht relevant Negative Uqhhh it's sooooo hot outside! #Texasweather Neutral / author is just sharing information Weather Alert: Flood Warning issued May 22 at 6:32PM MDT expiring May 23 at 9:32AM MDT by NWS Glasgow {link}... {link} Positive Friday evening. Weather? Beautiful. Last man standing at the office. Bitter? Nah. It only makes payday that much sweeter. Stay hungry. Not related to weather condition Community Blood Center Media Blood drive Tues Noon-6 at Westridge Mall by Penneys lower level - Blood to help Joplin st... 8

9 Intro H2O Machine Learning Platform 9

10 H 2 O Fakten Open source In-memory, verteilte, skalierbare ML platform Erstellen von ML Modellen und einfacher Export zur Produktivanwendung der Modelle Hocheffiziente Versionen bekannter Algorithmen APIs: H2O4GPU, Sparkling Water, Steam Leader im 2018 Gartner Magic Quadrant für Data Science and Machine Learning Platforms 10

11 Überblick H 2 O Source: 11

12 H 2 O-Cluster H2O Cluster in Java (auch lokal) Funktionsaufrufe werden in REST- Calls übersetzt Interfaces in R/Python/Java/Scala/GUI Source: 12

13 Use-Case Architektur Implementiert mit R, H2O, Spark Streaming & Java 13

14 Architektur Trainingsdaten Modelltraining Modell Twitter Streaming Vorhersage Modell 14

15 Trainings-Pipeline 16

16 Teil I: R-Studio 17

17 Datenimport library(h2o) h2o_context <- h2o.init(nthreads=-1, max_mem_size = "12G") # aus Filesystem: twitter_data_raw <- h2o.importfile("weather-agg-dfe.csv", header = T) # Aufbereitung und Formatierung... w2v.model <- h2o.word2vec(words, epochs = 100) twitter.vecs <- h2o.transform(w2v.model, tokenize(twitter_data_df$tweet)) twitter_data_embedded <- h2o.cbind(twitter_data_df[, c("confidence", "emotion")], twitter.vecs) 18

18 Datenimport library(h2o) h2o_context <- h2o.init(nthreads=-1, max_mem_size = "12G") # aus Hadoop: twitter_data_hdfs <- "hdfs://node-1:/user/data/twitter/weather-agg-dfe.csv" twitter_data_raw <- h2o.importfile(twitter_data_hdfs, header = T) # Aufbereitung und Formatierung... w2v.model <- h2o.word2vec(words, epochs = 100) twitter.vecs <- h2o.transform(w2v.model, tokenize(twitter_data_df$tweet)) twitter_data_embedded <- h2o.cbind(twitter_data_df[, c("confidence", "emotion")], twitter.vecs) 19

19 Entscheidungsbäume Hierarchische Baum-Struktur Abzweigungen nach Kriterien Ja sun Nein Blatt des Baums -> Entscheidung gefunden too rain Varianten: Mehrere Bäume pleasant Spezialisierte Modelle in Blättern Kombination mit NN 20

20 Modellentwicklung target <- "emotion" emotion_model_gbm <- h2o.gbm(y = target, x = feature_list, training_frame = twitter_data_embedded_train, ntrees = 100, max_depth = 4, learn_rate = 0.1 ) # Validierung, Parameteroptimierung, andere Modelle... 21

21 Modellfiles H 2 O + Spark Cluster Integration ist optional möglich Entwicklung direkt in Spark-Umgebung Sparkling Water Auch hier Python/R/ Interfaces H 2 O-Cluster/-Umgebung/ nicht mehr nötig: Dependencies für Java-Einbindung Serialisierte Modelle vs. 22

22 MOJO vs POJO public class MyPojo { private String someproperty; public String getsomeproperty() { return someproperty; POJO: Kompilierbare Base-Klassen der Modelle Braucht h2o-genmodel.jar } public void setsomeproperty(string someproperty) { } this.someproperty = someproperty; } MOJO: Model ObJect, Optimized Platzsparendes Binärformat Erst für wenige Modelle verfügbar Braucht h2o-genmodel.jar 23

23 Modellexport # model_dependencies.jar enthält Abhängigkeiten für Java: # Importfunktionen, Modelwrapper, etc.. modelfile <- h2o.download_mojo(emotion_model_gbm, path = "/model/dir", get_genmodel_jar = T, genmodel_name = "model_dependencies.jar") 24

24 Anwendungs-Pipeline 25

25 Java & Spark 26

26 Receiver Spark/Spark-Streaming in a nutshell Spark Streaming Daten stream Batches Master Spark Context Results Slave Slave Slave Slave task task task task task task task task task task task task task task task task task task task task 27

27 Spark Streaming // Erzeugen des spark streaming context SparkConf sparkconf = new SparkConf().setMaster("local[4]").setAppName("StreamDemo"); JavaStreamingContext ssc = new JavaStreamingContext(sparkConf, Durations.seconds(2)); // stream processing definieren JavaReceiverInputDStream<Status> tweetstream = TwitterUtils.createStream(ssc, filters);... // Start des stream-processing ssc.start(); ssc.awaittermination(); ssc.close(); 28

28 Modell Einbinden // Mojos einlesen import hex.genmodel.algos.word2vec.wordembeddingmodel; import hex.genmodel.mojomodel; import hex.genmodel.easy.easypredictmodelwrapper; EasyPredictModelWrapper predictionmodel = new EasyPredictModelWrapper( MojoModel.load(predictionModelPath)); WordEmbeddingModel w2vmodel = Word2VecMojoModel.load(w2vModelPath); 29

29 Scoring //eigentliches scoring float[] tweetembedding = new float[vecsize]; words.stream().map(word -> w2vmodel.transform0(word, new float[vecsize]) ).reduce( tweetembedding, Utils::sumFloatarrays ); MultinomialModelPrediction prediction = predictionmodel.predictmultinomial(tweetembedding); 30

30 Live-Demo Wenn das Wifi mitspielt 31

31 Ausblick H 2 O Weitere Machine Learning Fähigkeiten 32

32 H 2 O Machine Learning: More Deep NN sm_deepl = h2o.deeplearning( epochs = 50, hidden = c(20, 20) ) XGBoost sm_xgb = h2o.xgb( ) Ensemble Models ens <- h2o.stackedensemble( ) Optimization param_opt <- h2o.grid( "model", hyper_params = ) 33

33 H2O Flow GUI für Programmierfaule 34

34 36 Thank you for your attention! Questions?