Neuronale Netze. Automatische Hinderniserkennung Paul Fritsche

Transkript

1 1 Neuronale Netze Automatische Hinderniserkennung

2 2 Hintergrund Grundlagen Tensorflow Keras Fazit

3 3 TTBN

4 4 TTBN

5 5 TTBN

6 6 TTBN

7 7 Biological Neural Network By BruceBlaus - Own work, CC BY 3.0

8 8 Artificial Neural Network Mathematisches Modell des Nervensystems Erste Ideen und Konzepte schon um Backpropagation Problem: Nicht genug Rechenleistung GPU/Cluster ändern das AWS, TPU

9 9 Artificial Neural Network X A Y

10 10 Artificial Neural Network 1 2 A Y 3

11 11 Artificial Neural Network

12 12 Deep Neural Network Schicht 1 Schicht

13 13 Deep Neural Network Schicht 1 Schicht

14 14 Propagation x R G y Y B N

15 15 Back Propagation x R G y Y B N

16 16 Convolutional Neural Network

17 17 Convolutional Neural Network

18 18 Convolutional Neural Network

19 19 Convolutional Neural Network

20 20 Convolutional Neural Network /

21 21 Convolutional Neural Network

22 22 Convolutional Neural Network Convolutions Subsampling

23 23 Convolutional Neural Network N N N N N px 32 Features Halbe Größe 64 Features Halbe Größe 1024 Hidden Ausgang: One hot vector

24 24 Convolutional Neural Network N V N V N V N V N Mio px 32 Features Halbe Größe 64 Features Halbe Größe 1024 Hidden Ausgang: One hot vector

25 25 Convolutional Neural Network Mit GPU ca 15 Minuten für Samples (Genauigkeit: 0.99) Sehr gute Ergebnisse für relativ kleine Bilder Funktioniert nur mit statischen Daten

26 26 Recurrent Neural Network x(t) A y(t)

27 27 Recurrent Neural Network x(0) A y(0) x(1) A y(1) x(t) A y(t)

28 28 Recurrent Neural Network The A quick x(1) A y(1) x(t) A y(t)

29 29 Recurrent Neural Network The A quick quick A brown x(t) A y(t)

30 30 Recurrent Neural Network Typen LSTM GRU Zustand (hidden nodes) Für Texte auf Buchstabenebene: 3 LSTM mit 512 hidden und 128 states Mit Shakespeare, Linux Quelltext, Babynamen trainiert

31 31 Probleme Viele (math.) Bausteine Netztyp, Training Viele Parameter Anzahl Neuronen, Layer Viele Modellierungsmöglichkeiten One hot vector, Farbraum Viele Zielplattformen Training GPU, TPU Runtime Handy, Browser Training sehr teuer

32 32 Tensorflow Google Brain team Seit 2015 open source Python Library/Toolset zum Arbeiten mit ANN Alternative zu Theano

33 33 Tensorflow input Python Script W b mul Session Storage add

34 34 Graph Datenflussgraph Datentyp: Tensor ~ 600 Operationen add, matmul, relu, softmax HSVToRGB, I/O Placeholder... W b input matmul add

35 35 Session Ausführung des Graphs Verschiedene Backends: CPU, GPU, TPU Implementierung der Operationen C/C++

36 36 Python Generiert den Graph Riesige Library Nicht nur die 600 Operationen Manipulation des Graphs Verwaltet Session Kann Placeholder setzen Daten lesen Variablen speichern

37 37 JVM JNI Schnittstelle zur C-API Laden/Speichern eines Graph inkl. Variablen Ändern des Graphen (Low Level) Session Desktop, Android (keine GPU) Streng getypte Kotlin API (Builder) denkbar Sehr viel Logik im Pythonteil

38 38 Tensorflow CNN x_in = tf.placeholder(tf.float32, [None, 28, 28, 1], name="x-input") y_in = tf.placeholder(tf.float32, [None, 10], name="y-input") conv1 = u.conv_layer(x_in, 5, 5, 1, 32, 'layer1') pool1 = u.max_pool_2x2(conv1) conv2 = u.conv_layer(pool1, 5, 5, 32, 64, 'layer2') pool2 = u.max_pool_2x2(conv2) flat = tf.reshape(pool2, [-1, 7*7*64]) densely = u.nn_layer(flat, 7*7*64, 1024, 'densely') y = u.nn_layer(densely, 1024, 10, 'readout', tf.identity) diff = tf.nn.softmax_cross_entropy_with_logits(labels=y_in, logits=y) cross_entropy = tf.reduce_mean(diff) train_step = tf.train.gradientdescentoptimizer(0.05).minimize(cross_entropy) correct = tf.equal(tf.argmax(y, 1), tf.argmax(y_in, 1)) accuracy = tf.reduce_mean(tf.cast(correct, tf.float32))

39 39 Tensorflow CNN

40 40 Keras Python Library für deep learning Backends: Tensorflow, Theano, CNTK Verschiedene Layer: Dense (normale NN Schicht) Conv2D (Convolution Schicht) LSTM Mathematische Operationen Baumstruktur aus Layern

41 41 Keras Input Conv MaxPool Conv MaxPool Dense Activation

42 42 Keras Input Conv MaxPool Conv MaxPool Dense LSTM Dense Activation

43 43 Keras Frame Conv MaxPool Conv MaxPool Dense Add Frame Conv MaxPool Conv MaxPool Dense LSTM... Dense Frame Conv MaxPool Conv MaxPool Dense Activation

44 44 Fazit TTBN Problem sind die Trainingsdaten Generieren mit Open Street Map Daten Qualität nicht ausreichend Insgesamt Technik - durch GPU/TPU auch große Netze möglich Tools - mit Keras/Tensorflow vorhanden Nutzen - Tensorflow Graph kann auf Endgerät benutzt werden

45 45 Einsatzgebiete Klassifizierung Statisch mit CNN: Bilder Ströme mit RNN (+CNN): Audio, Video Generieren Texte: RNN (Modelldaten Bericht) Musik Bewertung Abweichung vom Normalzustand finden (z.b. Netzwerk) Werberelevant? (youtube) Simulationen KI (Spiele)