Forschungsprojekte in der Netzabteilung des RRZE: GEANT3/FEDERICA/NOVI/EGEE-III/TSS

Transkript

1 Forschungsprojekte in der Netzabteilung des RRZE: GEANT3/FEDERICA/NOVI/EGEE-III/TSS Martin Gründl, Dr. Susanne Naegele-Jackson, Regionales Rechenzentrum Erlangen (RRZE), Juli 2011

2 Inhalt Motivation GÉANT3 HADES FEDERICA NOVI EGEE-III TSS Ausblick und Weiterentwicklung Kontakt

3 Motivation Rechenzentrum nicht nur für Betrieb zuständig Betrieb erfordert oftmals auch das Untersuchen neuer Anwendungen, Geräte, Techniken In Drittmittelprojekten Forschungsschwerpunkte am RRZE Dienstgüte in Kommunikationsnetzen Innovative Kommunikationsanwendungen High Performance Computing (HPC) Publikationen z.b. unter

4 GÉANT3

5 Forschungsnetze in Europa NRENs: National Research and Education Networks DFN-Verein, zuständig für Deutsches Forschungs-Netz (X-WiN) Consortium GARR, zuständig für NREN in Italien FCCN, zuständig für NREN in Portugal RedIRIS, zuständig für NREN in Spanien PSNC, zuständig für NREN in Polen.. DANTE, zuständig für gesamt-europäisches Forschungsnetz: GÉANT (Gigabit European Advanced Networking Technology)

6 DANTE DANTE (Delivery of Advanced Network Technology to Europe) gehört europäischen NRENs plant, betreibt europäische Infrastruktur in Kooperation mit NRENs und EU

7 GÉANT Projekt Mittlerweile sechste Generation vom europäischen Forschungsnetz: EuropaNET (1992) TEN-34 (1997) TEN-155 (1998) GÉANT (2001) GÉANT2 (2005) GÉANT3 (2009) GÉANT verbindet 40 Millionen Benutzer in über 8000 Einrichtungen in 40 Ländern km an Netzwerk Infrastruktur Datenraten 10 Gbps 40 Gbps (auf einzelnen Strecken im Pilotbetrieb) 100 Gbps (geplant)

8 GÉANT3 im Überblick seit April 2009: EU-Förderung mit 93 Mio Euro Förderung unter FP7 (Seventh Research and Development Framework Programme) Activities Joint Research Activities (JRA) Services Activities (SA) Networking Activities (NA)

9 Joint Research Activities in GÉANT3 JRA1 Future Internet Untersuchung neuer Netztechnologien und Services JRA2 Multi-Domain Network Service Research Erforschung neuer Lösungen im Bereich C&M (Control and Management) und Netzprovisionierung für Netzumgebungen über mehrere Domains JRA3 Multi-Domain User Application Research Unterstützung von Anwendungen im multi-domain Bereich

10 Services Activities in GÉANT3 SA1 Network Build & Operations Design, Aufbau und Management des paneuropäischen Backbones SA2 Multi-Domain Network Services Services zur Unterstützung der Netzverbindungen (wie z.b. Monitoring im multi-domain Umfeld) SA3 Multi-Domain User Applications Roaming, Authentifizierungs- und Autorisierungsservices für die Endnutzer SA4 Software Governance Definition von Richtlinien zur Softwareentwicklung und Qualitätssicherung

11 Networking Activities in GÉANT3 NA1 Project Management Koordination des Gesamtprojektes NA2 Communication & Promotion Verbreitung von Informationen und Veröffentlichungen NA3 Status & Trends Besondere Situation und Bedürfnisse von Forschungsund Lehreinrichtungen NA4 Liaison & Support Koordination der NRENs, Benutzerprojekte und internationaler Netze

12 Forschungsbereich am RRZE In SA2-T3: Service Monitoring Tools and Performance Entwicklung von multi-domain Monitoring Tools und PerfSONAR-kompatibler Software Weiterentwicklung von HADES Active Delay Evaluation System Neue Standalone Version Neue Oberflächen für Konfigurations- und Messauswertungen Management und Support von PerfSONAR/HADES Messungen für LHCOPN (Large Hadron Collider, größter Teilchenbeschleuniger in CERN/Genf) Internationale Zusammenarbeit (DICE)

13 Internationale Kooperation DICE: DANTE-Internet2-CANARIE-ESnet Collaboration Transatlantische Kooperation der Forschungsnetze zwischen DANTE (Europa) Internet2 (USA) CANARIE (Kanada) ESnet Energy Sciences Network (USA) verbesserte globale Verbindungen multi-domain Monitoring Konzept Ziel: Offene, interoperable Dienste

14 HADES HADES Active Delay Evaluation System Wurde vom WiN-Labor am RRZE entwickelt Rund-um-die-Uhr Überwachung für multi-domain Umgebungen Active Measurement Process Generiert UDP Pakete mit Sequenznummer und GPS Timestamps Metriken: One-Way Delay (OWD) One-Way Delay Variation (OWDV) Packet Loss

15 Weltweiter Einsatz von HADES In Project Number of Locations Monitored Links X-WiN GEANT MDM LHCOPN 10 90

16 Wie werden Messdaten verwendet? Messdaten von Netzwerkmonitoring können eingesetzt werden für Zuteilungen von Ressourcen (resource provisioning) Für Netzüberwachung von Ressourcen Zur Unterstützung eines Netzwerkalarmsystems Für Archive von Messdaten Um Vorhersagen und Abschätzungen bzgl. der Verfügbarkeit von Ressourcen treffen zu können Leistungsbewertungen der Verbindungen Für die Dokumentation von Dienstgüteparametern und erbrachten Dienstgüteleistungen bei speziellen QoS abhängigen Zuteilungen von Ressourcen Für Accounting / Billing

17 FEDERICA

18 FEDERICA Federated E-infrastructure Dedicated to European Researchers Innovating in Computing Network Architectures Europaweites EU Testbed

19 FEDERICA Kernnetzknoten Seit Sommer 2008 FEDERICA Kernnetzknoten am RRZE Einzigster Knoten in Deutschland

20 FEDERICA Kernnetzknoten in Erlangen Bereitstellung von 4x1 GE werden über X-WiN des DFN nach Frankfurt/M geleitet für internationale Konnektivität zum GÉANT- Netz

21 Ziele von FEDERICA Ziel des Projektes: Technologie-agnostische realistische Testbedinfrastruktur für Netzwerkforscher, z.b. für verteilte virtuelle Netze Multicasting/IPv6 zukünftige Internet Technologien Benutzer / Wissenschaftler / Studenten können virtuelle Testumgebung Slice beantragen über FEDERICA User Portal:

22 FEDERICA Infrastruktur

23 Fokus am RRZE SA1: Infrastructure Support Task TSA1.1: Physical infrastructure Task TSA1.3: Multi-domain monitoring and management of the infrastructure Monitoring der physikalischen Infrastruktur mit HADES Untersuchungen zur Reproduzierbarkeit der Sliceumgebungen JRA1: Network Control & Management Task TJRA1.2: Tools and protocols for creating and stitching network resources in multi-domain, multivendor virtual infrastructures

24 HADES Messtopologie in FEDERICA

25 Beispiel für Link Auswahl

26 Beispiel für Auswahl der Metriken

27 Eingrenzung auf Betrachtungsintervall

28 Beispiele für HADES Messungen (I)

29 Beispiele für HADES Messungen (II)

30 NOVI

31 NOVI NOVI: Network Innovations over Virtualized Infrastructures Projektstart 1. September 2010 Laufzeit 30 Monate EU-Förderung: 2,363,999 Testbed Infrastruktur: FEDERICA GEANT PlanetLab Europe

32 NOVI s Innovation Cloud

33 NOVI Aufgabe: Entwicklung von Methoden, Algorithmen und Informationssystemen, die es Benutzern ermöglichen, virtuelle Ressourcen, Dienste und isolierte Slices über Future Internet Plattformen zu verwalten. Fokus insbesondere auf: Monitoring Architectures Semantic Resource Description Virtual Resource Brokerage Federated Virtualization Technologies

34 NOVI am RRZE (I) Integration der HADES-Messsoftware in virtuelle Umgebungen, insbesondere in Bezug auf das Fehlen einer stabilen Echtzeituhr Anpassung des HADES-Systems für virtuelle Umgebungen Evaluation von IPPM-Metriken für virtuelle Umgebungen in virtueller multi-domain Umgebung

35 HADES und virtuelle Umgebungen HADES wurde für Echtzeit Umgebungen entwickelt kann nicht einfach auf virtuelle Umgebungen umgesetzt werden Probleme: Non-deterministisches Zeitverhalten von virtuellen Systemen Fehlen der notwendigen Zeitsynchronisation statt Delaymessungen Fokus auf andere Metriken (Jitter, Packet Loss, Reordering, Throughput, )

36 NOVI am RRZE (II) WP3: Control&Management Plane Extensions for Monitoring & Resource Brokering in Federated Platforms Subtask: Investigation of the influence of virtualized infrastructures on classical measurement methods Extension of HADES as an example WP4: Monitoring Resource Allocation Authentication Toolset: Planning & Early Experiments Integration & Prototype

37 HADES Slice (I) NOVI Testumgebung ( Slice ) für HADES Experimente: Slice (virtuelle Testumgebung) über Testbed Infrastrukturen von FEDERICA und PlanetLab Europe Installation von HADES auf 6 virtuellen Maschinen Für Vergleich: Gleichzeitige Ausmessung der physikalischen FEDERICA Infrastruktur

38 HADES Slice (II)

39 Einrichten einer Slice Benutzer muss sich bei NOVI einwählen (login) Benutzer gibt gewünschte Ressourcen für Slice an, z.b.: Anzahl Knoten / Links CPU, OS RAM / Disk gewünschte Monitoring Tools NOVI überprüft, ob diese Art von Slice über die Gesamtinfrastruktur angelegt werden kann Im Erfolgsfall werden Ressourcen für Benutzer in multi-domain Umgebung belegt

40 EGEE-III

41 EGEE-III EGEE-III Projekt: Enabling Grids for E-Science als Vorbereitungsphase für EGI EGEE-I => EGEE-II => EGEE-III => EGI EGI: European Grid Initiative Design/Aufbau einer europaweiten Grid Infrastruktur zur Unterstützung der Forschungsgemeinschaft Liefert z.b. Computing Infrastructure für LHC Projekt LHC: Large Hadron Collider derzeit größter Teilchenbeschleuniger der Welt in Cern/Genf

42 Grid Infrastrukturen Grid Infrastruktur liefert Rechenleistung um Daten von groß angelegten Experimenten verarbeiten zu können z.b. für Experimente, Source: wo viele Daten in kürzester Zeit anfallen und Daten in großen Mengen über eine verteilte Netzinfrastruktur gespeichert werden müssen Bei Netzproblemen evtl. grosser Datenverlust

43 Motivation EGEE-III Projekt baut auf Erfahrungen der beiden vorausgehenden Projekte EGEE-I und II auf Überwachung und Fehlersuche im Gesamtnetz in EGEE-I und II sehr komplexe Aufgabe Komplettmonitoring des Gesamtnetzes rund um die Uhr für > 400 Einrichtungen für Fehlersuche und Schnelldiagnose eher ungeeignet: fremdkontrollierter Verkehr Bandbreite für dauerhaften aktiven Messverkehr Troubleshooting On-Demand Einsatz von Tools zur Fehlerdiagnose Ferndiagnose zwischen zwei beliebigen Messpunkten

44 Anforderungen an Troubleshootingsystem EGEE-III Anforderungen an Schnelldiagnosesystem: Light-weight solution Keine kontinuierlichen Messungen im Hintergrund Möglichst Plattform unabhängig Nur on-demand Messungen als Unterstützung bei der Fehlersuche Tools: Ping Traceroute DNS-Lookup, reverse Lookup Portscan (nmap) BWCTL (Bandwidth Test Controller; TCP, UDP Throughput) Schneller Zugang bei Problemen Zugang über zentrale Registrierung

45 Autorisierung und Authentifizierung Authentifizierung auf Webserver mit X.509 Zertifikaten Autorisierung über Datenbankregistrierung (Benutzer und Clients) 3-Schichtenmodell für Benutzer ENOC (Super Users) Manager Sonstige Benutzer Messungen sind erlaubt, wenn Benutzer Zugangsrechte für Messstation hat, die entweder Start- oder Zielpunkt der Messanfrage ist BWCTL Messungen sind nur möglich zwischen registrierten Messstationen

46 ENOC (Schicht 1) ENOC Super Users haben Zugang zu allen Messungen Können jede Datenverwaltungsfunktion aufrufen

47 Manager (Schicht 2) Zugangsrechte für Manager sind definiert über Standorte (Zugang zu Standort bedeutet Zugang zu allen Messboxen des Standorts) Zusätzlicher Zugang zu individuellen Messboxen möglich Manager sind z.b. definiert über Rollen der EGEE Grid Datenbank GOC-DB (z.b. Site Administrator, Regional Manager, Deputy Regional Manager )

48 Sonstige Benutzer (Schicht 3) Zugangsrechte müssen für einzelne Messstationen explizit eingetragen werden Keine Zugangsrechte für ganze Standorte Manager registrieren Benutzer und vergeben Zugangsrechte für registrierte Messstationen

49 TSS

50 Motivation Verteilte Netzwerke im Rahmen von virtuellen Organisationen und Drittmittelprojekten neuartigen Virtualisierungstechnologien Potentiell erhebliche Beeinträchtigung durch Technische Einschränkungen der Netzanbindung Ungenügende Dienstqualität Störungen

51 Motivation - Beispiel Friedrich-Alexander-Universität Erlangen-Nürnberg Zahlreiche, über verschiedene Zugangstechnologien angebundene Außenstellen FAU Busan

52 Anforderungen Werkzeug, um Einschränkungen und Störungen einer Netzanbindung schnell kostengünstig und benutzerfreundlich erkennen und analysieren zu können. TSS

53 Architektur

54 Architektur Zentraler Server - steuert und überwacht verteilte Sensoren Sensoren führen Messungen durch

55 Architektur Zentraler Server - steuert und überwacht verteilte Sensoren Sensoren führen Messungen durch Zentrales Web-Interface für Steuerung und Überwachung Perl-Daemon oppd auf den Sensoren Kommunikation über verschlüsselten SSL-Kanal Ausführung der Messung, ggf. vorherige Konfiguration Regelmäßiges Ping der Sensoren an den zentralen Server mit Informationen über aktuelle Erreichbarkeit

56 SheevaPlug Kompakte Hardware auf ARM-Basis Geringe Kosten Vollständig kompatibel mit Debian Linux Betriebssystem auf SD-Karte erleichtert Recovery Fotos: Tim Lossen, Berlin (CC BY 2.0)

57 Ablauf einer Messung

58 Werkzeuge

59 Verfügbare Werkzeuge

60 Beispiel: IPv4 Traceroute

61 Beispiel: iperf-messung TCP

62 Beispiel: DHCP Discovery

63 Beispiel: IPv6 Router Discovery

64 Anwendungsszenarien

65 Überprüfung einer Netzanbindung Erreichbarkeit der relevanten Gegenstellen Stabiles Routing keine technischen Einschränkungen ACLs / Firewall transparente Application-Level-Gateways ggf. Verhalten von DNS- sowie DHCP-Servern Caching, DNS-Views

66 Qualitätsüberprüfung mit Hilfe von IPPM-Metriken Messung des One-Way Delay einer Verbindung OWAMP Messung des Jitter einer Verbindung OWAMP Messung der nutzbaren Bandbreite iperf

67 Qualität der IPv6-Anbindung Performance der IPv6-Anbindung Analyse des Routings Stabilität optimale Pfade Überprüfung auf Transitions-Mechanismen, welche die Performance oder die Funktion bestimmter Protokolle und Anwendungen beeinträchtigen

68 Prototypischer Einsatz FAU Busan

69 Prototypischer Einsatz FAU Busan Traceroute

70 Prototypischer Einsatz FAU Busan One-Way Delay

71 Prototypischer Einsatz FAU Busan UDP-Bandbreitenmessung 10Mbps

72 Zusammenfassung und Ausblick

73 Zusammenfassung TSS: kostengünstiges und benutzerfreundliches Werkzeug zur Evaluation von Netzwerkverbindungen Fehlersuche in verteilten Netzwerken Sensoren in diversen Ausprägungen ermöglichen es, ein an die jeweiligen Anforderungen angepasstes System zu betreiben, welches flexibel erweitert werden kann.

74 Ausblick Integration weiterer Werkzeuge z.b. anwendungsspezifische Simulation von Datenströmen Erweiterung der Administrations- und Monitoring- Module Konfiguration periodischer Messungen zur langfristigen Überwachung und Beurteilung von Netzwerkverbindungen darauf aufbauend Anomalieerkennung mit nachgeschalteter Alarmierung