A linear-regression analysis resulted in the following coefficients for the available training data

Transkript

1 Machine Learning Name: Vorname: Prof. Dr.-Ing. Klaus Berberich Matrikel: Aufgabe Punkte % % (Bonus) % (Gesamt) Problem 1 (5 Points) A linear-regression analysis resulted in the following coefficients for the available training data w 0 = 0.5 w 1 = 2.0 w 2 = 0.1 w 3 = 0.5 (a) Compute the mean squared error (MSE) when using this model to make predictions for the following data points x 1 x 2 x 3 y (b) What can you say about the impact (both direction and strength) of the three features x 1, x 2, and x 3 on the target feature y, assuming that the training data was normalized upfront? (c) Explain the purpose of regularization in the context of polynomial regression. How would you determine a suitable value for the regularization hyperparameter λ? Problem 2 (5 Points) Applying a multi-class classifier to your test data resulted in the following confusion matrix Predicted A B C Actual A B C (a) Compute the number of true positives, false positives, true negatives, and false negatives for each of the three classes Prüfungsklausur ML Sommersemester Juli 2018 Seite 1 von 4

2 Problem 1 (5 Punkte) Eine Analyse mittels linearer Regression hat folgende Koeffizienten auf den Trainingsdaten ergeben w 0 = 0.5 w 1 = 2.0 w 2 = 0.1 w 3 = 0.5 (a) Berechnen Sie den mittleren quadratischen Fehler (MSE), wenn Sie dieses Modell verwenden, um Vorhersagen für die folgenden Datenpunkte zu bestimmen x 1 x 2 x 3 y (b) Was können Sie über den Einfluß (sowohl Richtung als auch Stärke) der drei Merkmale x 1, x 2, and x 3 auf das vorherzusagende Merkmal y sagen, wenn Sie annehmen, dass die Trainingsdaten vorab normalisiert wurden? (c) Erklären Sie den Zweck von Regularisierung im Kontext von polynomieller Regression. Wie würden Sie vorgehen, um einen Wert für den Hyperparameter λ zu bestimmen? Problem 2 (5 Punkte) Die Anwendung eines Mehrklassen-Klassifikators hat die folgende Konfusionsmatrix ergeben Predicted A B C Actual A B C (a) Bestimmen Sie die Zahl Richtig Positiver, Falsch Positiver, Richtig Negativer und Falsch Negativer für jede der drei Klassen Prüfungsklausur ML Sommersemester Juli 2018 Seite 2 von 4

3 Name: Vorname: Matrikel: (b) Compute micro-averaged recall and macro-averaged precision (c) Give an example of a confusion matrix for three classes A, B, and C, as above, so that the values of micro-averaged precision and macro-averaged precision are the same Problem 3 (5 Points) You re provided with the following data about insects and birds observed in the wild Color Wings Species Blue 2 Bird Yellow 2 Insect Blue 4 Insect Green 4 Insect (a) Construct a decision tree to predict the species of the observed animal based on Color and Wings. Use information gain to determine the best possible decision criterion in each step. At the end of the exam you find a table with all the logarithms needed (b) Compare k-nearest Neighbors and Logistic Regression in terms of their storage and runtime cost for classifying a previously unseen data point, assuming that you have large amounts of training data available. Describe what has to be stored for both methods after training and how a previously unseen data point is classified Problem 4 (5 Points): You re provided with the following data regarding area and population for six cities in Germany Name Area [m 2 ] Population [in 1, 000] SB RV F K 400 1,000 S B 900 4,500 (a) Normalize the data, so that the features Area and Population range in [0, 1]. To simplify the following calculations, round the resulting values to two digits after the point (b) Compute the distance matrix using Euclidean distance based on Area and Population. Again, round the resulting distances to two digits after the point (c) Determine a hierarchical clustering using agglomerative clustering with complete-link distance (d) Draw the resulting dendrogram Prüfungsklausur ML Sommersemester Juli 2018 Seite 3 von 4

4 (b) Berechnen Sie micro-averaged recall und macro-averaged precision (c) Geben Sie eine Konfusionsmatrix für drei Klassen A, B, and C an (wie im Beispiel oben), so dass die Werte von micro-averaged precision and macro-averaged precision übereinstimmen Problem 3 (5 Punkte) Ihnen sind die folgenden Daten zu in der Wildnis beobachteten Insekten und Vögeln gegeben Color Wings Species Blue 2 Bird Yellow 2 Insect Blue 4 Insect Green 4 Insect (a) Erstellen Sie einen Entscheidungsbaum, um die Spezie (Species) eines beobachteten Tieres anhand seiner Farbe (Color) und der Zahl seiner Flügel (Wings) vorherzusagen. Verwenden Sie hierbei den Informationsgewinn (information gain), um in jedem Schritt das beste Split-Kriterium zu bestimmen. Am Ende der Klausur finden Sie eine Tabelle mit den benötigten Logarithmen (b) Vergleichen Sie k-nächste Nachbarn und logistische Regression im Hinblick auf den benötigten Speicherplatz und die benötigte Rechenleistung zur Klassifikation zuvor unbekannter Datenpunkte. Gehen Sie hierbei davon aus, dass eine große Menge an Trainingsdaten verfügbar war. Beschreiben Sie was für die beiden Methoden nach dem Training gespeichert werden muss und wie ein zuvor unbekannter Datenpunkt klassifiziert wird Problem 4 (5 Punkte): Ihnen sind die folgenden Daten zu sechs Städten in Deutschland gegeben Name Area [m 2 ] Population [in 1, 000] SB RV F K 400 1,000 S B 900 4,500 (a) Normalisieren Sie die Daten so, dass die Werte von Fläche (Area) und Einwohnerzahl (Population) im Wertebereich [0, 1] liegen. Runden Sie die Werte auf zwei Nachkommastellen (b) Berechnen Sie die Distanzmatrix unter Verwendung der Euklidischen Distanz basierend auf den beiden Merkmalen Fläche (Area) und Einwohnerzahl (Population). Runden Sie die Werte auf zwei Nachkommastellen (c) Bestimmen Sie ein hierarchisches Clustering unter Verwendung von agglomerativem Clustering mit complete-link distance (d) Zeichnen Sie das resultierende Dendrogramm Prüfungsklausur ML Sommersemester Juli 2018 Seite 4 von 4

5 x log 2 (x) 1/ / / / / / / / / / / /6-0.26