Dezentralisiertes Quality-of-Service Monitoring

Transkript

1 Dezentralisiertes Quality-of-Service Monitoring Dezember 2013 netidee Endbericht Dieses Dokument informiert über den Abschluss des Netidee 2012 Projektes Dezentralisiertes Quality-of-Service Monitoring.

2 Dezentralisiertes Quality-of-Service Monitoring NETIDEE ENDBERICHT PROJEKTBESCHREIBUNG Schlechte Quality-of-Service im Internet, wie zu geringe Down-/Upload Geschwindigkeit, können verschiedene Ursachen haben: Probleme am eigenen PC, Netzwerkprobleme/ Qualität des eigenen (W)LANs, Provider Traffic, Server Traffic, etc. Mögliche Ursachen können besser eingegrenzt werden, wenn die Teilnehmer eines Netzwerks Informationen über ihre Verbindungsqualität untereinander teilen. Wir entwickeln Methoden, wie man wichtige QoS-Metriken, wie Down/Upload Speed, Antwortzeit, etc., in aggregierter anonymisierter Form für definierte Usergruppen (z.b. gleiche Region, gleicher Vertrag, etc.) in einem Netzwerk lokal berechnen kann. Unsere Idee basiert auf der Verwendung Epidemischer Algorithmen, ist dezentral sowie ausfallsicher, und sichert auch den Datenschutz. Sowohl Internet User als auch ISPs profitieren von diesem System. Wichtige Vorteile dieser Algorithmen sind unter anderem (i) Dezentralisierung (kein single-point-of-failure ), (ii) Datenverteilung mit Redundanz, (iii) Fehlertoleranz, sowie (iv) Robustheit gegenüber Ausfällen. Auf den folgenden Seiten folgt nun ein Bericht über den aktuellen Projektstatus der einzelnen Workpackages, sowie eine Zusammenfassung der bisher erreichten Milestontes. Eine Kurzversion der einzelnen Workpackages des original Workplans ist im Anhang zu finden. Page 2

3 FINALER STATUS DER EINZELNEN WORKPACKAGES WP1 Grundlage und Konzeption: Aufarbeitung bereits existierender epidemischer Algorithmen zum Informationsaustausch in dezentralen und verteilten Systemen Die Aufarbeitung bereits existierender epidemischer Algorithmen wurde abgeschlossen, und grundlegende Eigenschaften verschiedener Algorithmen wurden analysiert und evaluiert. Als interessanteste Algorithmen wurden der Push-sum Algorithmus sowie der Push-pull Algorithmus ausgewählt. Gründe für die Auswahl waren neben der Effizienz und Korrektheit der Algorithmen auch deren Kompaktheit, sowie die Tatsache, dass beide Algorithmen sowohl Zyklus-basiert als auch Event-basiert verwendet werden können. Beide Algorithmen haben eine komplett dezentralisiere Struktur und garantieren Datenschutz, da immer nur ein aktueller Schätzwert der lokalen/globalen Umgebung weitergegeben wird, jedoch niemals sensible Daten (z.b. der genaue Download-Speed oder andere QoS Metriken eines einzelnen Users). Ein Vergleich der verwendeten Algorithmen bezüglich Konvergenzgeschwindigkeit und Genauigkeit kann direkt mit unserer neu entwickelten Software aus WP3 (Simulation mittels PeerSim bzw. FreePastry) auf unterschiedlichen Rechnern durchgeführt werden. Ein Vergleich der beiden verwendeten Algorithmen innerhalb der PeerSim Simulationssoftware ist Teil von WP3. Eine genaue Dokumentation der untersuchten Algorithmen wird zurzeit im Rahmen einer Masterarbeit verfasst, welche im Sommersemester 2014 präsentiert bzw. verteidigt wird. WP2 Implementierung: Implementierung, Analyse, und Evaluierung der in WP1 ausgewählten Algorithmen; Adaptierung der Algorithmen für das vorgegebene Problem; Entwicklung prototypischer Implementierungen Zu Beginn des Projektes wurden die beiden in WP1 ausgewählten epidemischen Algorithmen (Push-sum und Push-pull) erfolgreich in verschiedenen Programmiersprachen implementiert. Diese Implementierung in unterschiedlichen Programmiersprachen erlaubte einfache Einbindung in unterschiedliche Simulationssoftware, diente aber auch als Grundlage für die weitere Prototyp-Entwicklung. Alle verwendeten Algorithmen können adaptiert werden um weitere Statistiken (welche über die Berechnung eines einfachen Mittelwerts hinausgehen) wie Varianz, Standardabweichung, oder Mean Squarred Error zu berechnen. Dies eröffnet weitere interessante Szenarien für die Weiterverwendung der in diesem Projekt entwickelten Algorithmen. Prototypische Implementierung: Ein Meilenstein der noch vor Projektende abgeschlossen werden konnte war die Fertigstellung einer prototypischen Implementierung außerhalb jeglicher Simulationsumgebungen. Hierfür wurde ein Prototyp entwickelt, welcher komplett eigenständig und unabhängig von teilweise umfangreichen Netzwerksimulationen läuft. Dieser Prototyp kann sowohl in einem komplett dezentralen Setup d.h. auf physisch verteilten Rechnern gestartet werden, ist zu Testzwecken aber auch lokal auf einem einzelnen Rechner lauffähig. Der Prototyp ist in Java geschrieben und verwendet UDP (User Datagram Protocol, ein verbindungsloses Netzwerkprotokoll) zum Informationsaustausch. Da der Prototyp komplett eigenständig, d.h. unabhängig von jeglichen Netzwerksimulationstools laufen soll, wird zum Kommunikationsaufbau ein Server verwendet bei dem sich jeder Client anmelden muss (um eine Liste verbundener Clients zu bekommen). Die komplette Kommunikation zwischen den Clients sowie alle tatsächlichen Berechnungen laufen jedoch komplett dezentral und ohne Verwendung des Servers ab. Im Gegensatz zur eigentlichen Planung konnten wir unser Programm soweit entwickeln und verbessern, dass unser Prototyp mittlerweile keine komplett statische Topologie voraussetzt, sondern sogar robust gegen Ausfälle einzelner Clients ist eine Situation die im eigentlichen Anwendungsfall wohl häufig auftritt (z.b. wenn einzelne Internetuser ihren Page 3

4 Computer abschalten). Ein wichtiger Faktor für die erfolgreiche Entwicklung unsers Prototyps und dessen Anwendbarkeit in Situationen mit ausfallenden Knoten war dessen Weiterentwicklung im Rahmen einer Bachelorarbeit an der Universität Wien. Die Veröffentlichung dieser Bachelorarbeit inklusive erweiterter Beschreibung und Dokumentation des Prototyps wird für Beginn des Sommersemesters 2014 erwartet. Informationen zur Verwendung der Prototyp-Software sind auf unserer Projektwebseite zu finden (inkl. Video-Anleitung). WP3 Simulation und Evaluierung: Auswahl der Simulationsumgebung, Implementierung der Algorithmen aus WP1 in diesen Simulationstools, Evaluierung der Ergebnisse und Vergleich der Algorithmen. Auswahl: Die Auswahl der Simulationsumgebung basierte auf einer Analyse aktueller Netzwerk-Simulations-Tools. Nach genauer Analyse fiel die Wahl auf zwei unterschiedliche Simulationsumgebungen, Peer Sim und Pastry. (i) Peer Sim ( ist eine simulierte P2P-Overlay-Netzwerk Software für strukturierte und unstrukturierte P2P-Netzwerk-Simulation. Peer Sim unterstützt ebenso wie Push-sum und Push-pull (WP1) zwei verschiedene Simulations-Modi, Zyklus-basiert (cycle-based) und Ereignis-basiert (event-driven). Darüber hinaus ist Peer Sim frei verfügbar, open source, und erfordert im Gegensatz zu komplexen Simulationstools wie NS3 keine (monatelange) Einarbeitungsphase. (ii) Pastry bzw. FreePastry ( ist eine peer-to-peer Anwendung welche sowohl als Applikation als auch als Simulation verwendet werden kann. Dies erlaubt die Wiederverwendung von Code welcher eigentlich für Simulationen geschrieben wurde für tatsächliche Prototyp-Anwendung. FreePastry arbeitet eventbasiert und erlaubt eine sehr hohe Anzahl an Knoten (theoretisch sind 2^12 verschiedene Knoten adressierbar). Implementierung: (i) In der Simulationsumgebung PeerSim konnten beide Algorithmen aus WP1 Push-sum und Push-pull erfolgreich implementiert werden. Die vollständige Implementierung ist unter der MIT License auf folgender Seite verfügbar: (ii) In FreePastry, der zweiten Simulationsumgebung die im Rahmen dieses Projektes verwendet wurde, ist im Moment der Push-sum Algorithmus implementiert. Erweiterungen mit anderen Algorithmen sind problemlos möglich, da auch hier der komplette Source Code öffentlich verfügbar ist: Auf den gerade angegeben Webseiten finden Sie sowohl für die PeerSim Version als auch für die FreePastry Version alle nötigen Informationen um unsere Software zu kompilieren und auszuführen. Es ist sogar möglich, beide Software Projekte direkt in Eclipse als vollständiges Eclipse-Projekt zu laden. Zum Erstellen der Grafiken wird das Programm gnuplot ( verwendet (siehe ebenfalls die oben angegebenen Webseiten), welches sowohl für Linux als auch für Windows verfügbar ist. Generell ist unsere komplette Software sowohl Prototyp als auch beide Simulationsversionen frei verfügbar (Open Source) und plattformunabhängig. Weitere Informationen zum Download sowie zur Verwendung unserer Software finden Sie auf der Projektwebseite Evaluierung: Sowohl in PeerSim als auch in FreePastry ist es möglich verschiedenste Simulationsläufe durchzuführen. Aktuell werden wissenschaftlichen Publikationen aus den Ergebnissen dieses Projektes verfasst. In diesen Publikationen werden für die Simulation mittels PeerSim detaillierte Vergleiche zwischen Event-basierter und Zyklus-basierter Implementierung erstellt, sowie die Konvergenzgeschwindigkeiten und Genauigkeiten der beiden verwendeten Algorithmen untersucht. Für die Simulation mittels FreePastry wird untersucht wie sich Knotenausfälle bzw. neu hinzukommende Knoten auf die Genauigkeit der Algorithmen auswirken. Ein Überblick über unsere Simulationsergebnisse mit PeerSim ist in Abbildung 1zu sehen. Die Plots A D zeigen für verschiedene Netzwerk-Topologien (fully connected, k-out clustered topology) die Anzahl der benötigten Zyklen (cycle driven, CD) bzw. Zeit (time/stepsize für event driven, ED) sowie die Genauigkeit (mean squared error, MSE) abhängig von der Anzahl der verwendeten Knoten. Es zeigt sich, dass der Push-Pull Algorithmus schneller konvergiert als der Push- Sum Algorithmus, jedoch hat der Push-Pull Algorithmus mehr Kommunikationsaufwand pro Zyklus. Zwischen Eventbasierter und Zyklus-basierter Implementierung zeigt sich kein allzu großer Unterschied, wobei zu erwähnen ist, dass in realen Anwendungsszenarien eine Zyklus-basierte Kommunikation aufgrund der damit nötigen Synchronisierung in den meisten Fällen nicht anwendbar sein wird. Es ist ohne großen Aufwand möglich die Plots aus Abbildung 1 mithilfe der Page 4

5 verfügbaren Simulationssoftware selbst erzeugen. Ebenso können fast alle Parameter mithilfe übersichtlicher Config Dateien geändert werden ohne Änderungen im Code vornehmen zu müssen. A B C D ABBILDUNG 1 SIMULATION IN PEERSIM Page 5

6 Ein Überblick über unsere Simulationsergebnisse mit FreePastry ist in Abbildung 2 zu sehen. Hier sieht man den Einfluss neu hinzukommender bzw. ausfallender Knoten. Hier sei Erwähnt, dass in den meisten Anwendungsszenarien keine allzu hohe Genauigkeit vorausgesetzt wird. Wenn die geschätzte Download oder Upload Geschwindigkeit (oder andere QoS Metriken) nicht auf mehrere Dezimalstellen genau sind, so hat das nur wenig Einfluss. Wichtig ist, dass bei ausfallenden und neu hinzukommenden Knoten der aktuelle Schätzwert schnell die Veränderung im System bemerkt und auf diese reagiert. ABBILDUNG 2 - SIMULATION IN FREEPASTRY WP0 Phasenübergreifende Tätigkeiten: Öffentlichkeitsarbeit Das Projekt wurde im Rahmen des NetIdee Kickoff Events am 22. November 2012 öffentlich präsentiert. Laufende Updates über den aktuellen Status waren auf der Projektwebseite zu finden. Im Dezember 2013 wurden alle vorhandenen Programme, Sourcecodes, Videos, Fotos, und Anleitungen auf der Projektwebseite öffentlich verfügbar gemacht. Die Sourcecodes der PeerSim und FreePastry Simulationen sind überdies hinaus auf GitHub, einem webbasierten Hosting-Dienst für Software-Entwicklungsprojekte, verfügbar. Zurzeit laufen Vorbereitungen für wissenschaftliche Publikationen welche aus diesem Projekt entstehen werden. Darüber hinaus werden im Sommersemester 2014 sowohl der Abschluss einer Bachelorarbeit als auch der Abschluss einer Masterarbeit erwartet, welche im Rahmen dieses Projektes durchgeführt wurden. Die geplanten Publikationen sowie die Bachelorarbeit bzw. die Masterarbeit erlauben eine weitere Nutzung der Projektergebnisse sowie der entwickelten Software auch nach Ende des Projektes. Page 6