Loadbalancing Technologien

Transkript

1 Autor Datum Thema Loadbalancing Technologien Version V 1.0

2 Inhaltsverzeichnis Inhaltsverzeichnis Loadbalancing Gründe für Loadbalancing Problemstellungen Wie können Datenbanksysteme eingesetzt werden? Wie werden Kundenuploads synchronisiert? Gemeinsamer Speicherort Synchronisierung aller Server Weiterleitung auf Zuständigen Server Müssen die HTML Files auf jeden Server hochgeladen werden? Die Verteilungs-Methoden Layer 1: Signalauswertung Layer 2: MAC Spoofing Layer 3: IP Spoofing Layer 3: Verbindungsweiterleitung Beispielszenario Layer 5: Verbindungsverteilung (Statisch) Layer 5: Verbindungsverteilung (Dynamisch) Layer 6: DNS Verteilung Layer 7: Verbindungsweiterleitung Beispielszenario Gewichtungsverfahren (Priorisierungsverfahren) Auslastungsbedingte Priorisierung Round-Robin Verfahren Zufällige Zuordnung Heartbeat Verteilungsarten Anfrageverteilung Sessions Verteilung IP Verteilung Gebietsverteilung Weitere Loadbalancing Methoden Teilen von Weitverkehrsnetzen Teilen von Internetanbindungen Quellnachweis: Version: V 1.0

3 1 Loadbalancing Loadbalancing sind Verfahren um Rechenaufgaben auf mehrere Rechner zu verteilen. Loadbalancing bedeutet übersetzt so viel wie Lastenverteilung. Gemeint ist damit das verteilen von Rechenvorgängen auf mehrere Rechner. Um die Rechenlast zu verteilen existieren viele verschiedene Lösungsansätze. Hier werden einige Lösungsansätze vorgestellt, welche benutzt werden, um im Internet oder in einem Netzwerk Traffic wie beispielsweise Webseitenanfragen auf mehrere Systeme zu verteilen. Bei grösseren Systemen können auch verschiedene von den in dieser Doku vorgestellten Methoden ergänzend genutzt werden. 1.1 Gründe für Loadbalancing Ein Server ist meistens sehr leistungsfähig. Wenn diese grundlegende Leistung nicht mehr genügt, wird der Server ausgebaut. Meistens wir hierbei die CPU und Arbeitsspeicherkapazität erweitert. Sobald der Server, welcher bisher 1'000'000 Anfragen am Tag bearbeiten musste beispielsweise aufgrund einer gross angelegten Promotionsaktion fünfmal so viele Anfragen verarbeiten muss, kommt er definitiv an seine Grenzen. Die meisten Nutzer jedoch zeigen im Internet wenig Geduld. So wird eine Webseite, welche nicht schnell genug geladen wird in durchschnittlich 3-5 Sekunden wieder verlassen. Dies würde für den Anbieter in diesem Szenario bedeuten, dass die Promotionsaktion keinen Erfolg bringen würde - Im Gegenteil. Durch die Überlastung werden auch die bisherigen Kunden beim Surfen auf der Webseite beeinträchtigt. Diese könnten im Schlimmsten Fall die Kundschaft beenden. Damit genau solche Szenarien nicht auftreten, wird die Webseite der Firma auf mehreren Servern gespeichert. Die Benutzer werden nun gleichmässig auf alle verfügbaren Server verteilt. So muss kein Besucher auf das laden der Webseite warten, und falls einmal einer der Server ausfallen sollte, können die restlichen Maschinen den Dienst übernehmen. Somit kann auch die Verfügbarkeit erheblich verbessert werden Version: V 1.0

4 2 Problemstellungen Wie auch bei vielen anderen Systemen hat das Loadbalancing ebenfalls seine Ecken und Kanten. Man kann jedoch sagen, dass keine der möglicherweise auftretenden Schwierigkeiten, nicht mit relativ einfachen Mitteln umgangen oder behoben werden könnte. Besitzer von eigenen Webseiten werden nun sicherlich einige Fragen haben. Zu diesen könnten beispielsweise folgende zählen: - Wie können SQL Datenbanksysteme auf diese Art eingesetzt werden? - Wie werden Kundenuploads schnell genug auf alle Server synchronisiert? - Muss ich die html Files auf jeden Server einzeln hochladen? 2.1 Wie können Datenbanksysteme eingesetzt werden? Ein solches Szenario ist im Grunde sehr simpel zu lösen. Die Frontend-Server, greifen einfach alle auf denselben Datenbankserver im Hintergrund zu. Falls die Auslastung des Datenbankservers tatsächlich sehr hoch sein sollte, kann dieser geclustert (Verfügbarkeitssteigerung, jedoch kosteninternsiv) werden. Dies erhöht auch die Ausfallsicherheit. 2.2 Wie werden Kundenuploads synchronisiert? Um die Kundenuploads für alle Server verfügbar zu machen gibt es mehrere Wege. Am meistens eingesetzt werden die folgenden drei Methoden Gemeinsamer Speicherort Diese Methode wird wohl weitaus am meisten eingesetzt. Alle Server haben dabei Zugriff auf einen zentralen Datenspeicher. In diesen werden die Dateien hochgeladen und alle Server können die Dateien im Bedarfsfall auch dort wieder abrufen. Als Speicher kann ein Disc-Array im SAN oder ein NAS System in einem internen Netzwerk verwendet werden. Je nach Menge der zugreifenden Server kann es bei der Anbindung des Arrays zu einem Flaschenhals kommen. Diese Möglichkeit wird vor allem dann eingesetzt, wenn die Dateien ohne Wartezeit auf allen Servern verfügbar sein müssen und ein schneller Zugriff unerlässlich ist Synchronisierung aller Server Diese Methode wird bei kleinen Datenbeständen und kleinen erwarteten Datenmengen eingesetzt. Auf jedem Server muss ein Agent-Programm installiert werden, welches die Daten mit einem Hauptserver abgleicht. So werden in einem gewissen zeitlichen Intervall die Daten auf alle Server verteilt. Die Verteilung kann jedoch einige Minuten dauern. Ausserdem steigt die Netzwerkauslastung massiv an beim Übertragen der Dateien. Diese Möglichkeit wird vor allem dann eingesetzt wenn die Wartezeit, die beim Übertragen der Dateien entsteht akzeptiert werden kann und auf allen Servern genügend Speicher für alle Dateien zur Verfügung steht Weiterleitung auf Zuständigen Server Diese Methode ist mit einer einfachen Konfiguration am Webserver (Beispiel: Apache) zu realisieren. In der Konfiguration wird ein weiterer Server angegeben, auf welchen der Client weitergeleitet wird, wenn die Datei auf dem angefragten Server nicht verfügbar ist (Anstelle einer 404 Meldung wird die Downloadanfrage weitergeleitet). Im Gegensatz zur Synchronisierung stehen bei diesem Verfahren die Dateien ebenfalls unverzüglich für den Client zum Download bereit. Ein markanter Vorteil an dieser Methode ist, dass der verfügbare Speicherplatz durch das hinzufügen eines weiteren Servers jederzeit Version: V 1.0

5 erweitert werden kann. Sollte jedoch ein Gerät offline gehen, sind die Daten auf diesem Gerät nicht mehr verfügbar, bis das System wieder online gestellt wird. 2.3 Müssen die HTML Files auf jeden Server hochgeladen werden? Es wäre ziemlich umständlich, wenn die Webseite nach einer Änderung auf allen Servern von Hand aktualisiert werden müsste. Aus diesem Grund verwenden die zuständigen Administratoren dieselben Programme, welche für die Synchronisierung zwischen den Servern eingesetzt wird. So muss die Webseite nur auf einem Server aktualisiert werden. Die anderen werden nach einigen Minuten vollautomatisch aktualisiert Version: V 1.0

6 3 Die Verteilungs-Methoden Wie oben bereits erwähnt werden für das Loadbalancing verschiedene Methoden eingesetzt. Es gibt beispielsweise die Möglichkeit die Kunden mittels Round-Robin DNS oder den Traffic mittels speziell konfigurierten Switches oder Router an die Server zu verteilen. Die Methoden sind jeweils einem ISO- OSI Referenzmodell Layer zugeteilt. Jede Methode wiederum hat ihre Vor- und Nachteile. Hier werden die wichtigsten Methoden kurz vorgestellt. 3.1 Layer 1: Signalauswertung Die Methode der Physikalischen Signalauswertung dient ausschliesslich der Verfügbarkeitssteigerung. Hierbei wird die Anfrage des Clients von einem Switch an alle Server gesendet. Alle Server beantworten die Anfrage und senden die Antwort an den Switch. Die Antwort des Servers, welcher die Anfrage am schnellsten zurückgesendet hat, wird dann an den Client zurückgesendet. Dies ist ein ziemlich spartanisches Verfahren, da der Switch nicht unterscheiden kann ob die Antwort eine korrekte Antwort ist, oder lediglich eine Fehlermeldung. Möglicherweise liefert einer der Server aufgrund eines Konfigurationsfehlers nur Fehlermeldungen aus. Diese sind schnell generiert. Daher ist die Chance, dass die Fehlermeldung vor einer korrekten Antwort beim Switch eintrifft sehr gross. Der Vorteil ist jedoch, dass mehrere Server problemlos ausfallen können. Solange auch nur ein einziger Server die Anfragen beantwortet funktioniert das System problemlos. 3.2 Layer 2: MAC Spoofing Das Mac-Spoofing Verfahren ist ebenfalls ein Verfahren, welches ausschliesslich zur Steigerung der Verfügbarkeit von Serversystemen verwendet wird. Meistens wird dieses Konzept mit einem gemanagten Switch und zwei Servern umgesetzt. Der eine Server ist hierbei rein passiv und hört den Netzwerkverkehr des aktiven Rechners mit. Sobald dieser auf eine Anfrage nicht reagiert übernimmt der zweite Rechner diese Anfrage und sendet eine entsprechende Antwort. Diese Konfiguration wird auf dem Switch mit einem Monitoring-Port realisiert, an welchen der zweite Rechner angeschlossen wird. Der Reserverechner übernimmt die gesamten Netzwerkeinstellungen vom aktiven Rechner sobald dieser ausfallen sollte. Somit kann der Client auch bei genauerem Hinschauen vom Ausfall nichts mitbekommen. 3.3 Layer 3: IP Spoofing Das IP-Spoofing Verfahren ist ebenfalls ein Verfahren, welches ausschliesslich zur Steigerung der Verfügbarkeit von Serversystemen verwendet wird. Beim IP-Spoofing wird eine öffentliche IP-Adresse unter mehreren Servern aufgeteilt. Die Server kommunizieren in einem internen Netzwerk miteinander um den Status jedes Servers abzufragen. Sobald der Server, welcher gerade im Produktiveinsatz ist einen Fehler aufweist, nicht mehr antwortet oder sonstige Probleme hat, wird die IP von einem anderen Server übernommen. So kann die Verfügbarkeit auch bei Systemen, die über den ganzen Globus verteilt sind jederzeit gewährleistet werden. 3.4 Layer 3: Verbindungsweiterleitung Bei der Verbindungsweiterleitung handelt es sich um ein sehr simples verfahren. Die Kunden werden durch ein Priorisierungsverfahren auf beliebig viele Server weitergeleitet. Der Hauptserver, welcher alle Verbindungen annimmt, teilt die Kunden jeweils einem Server zu. Da dieser Server nur einen einzigen Befehl ausliefern muss, welcher den Zielserver für den anfragenden Benutzer angibt, reicht hier ein einziger Server um millionen von Seitenbesuchern abzufertigen. Sobald der Hauptserver dem Anfragenden Webseitenbesucher einmal einen Zielserver zugewiesen hat, kommuniziert der Besucher mit dem Zielserver direkt und benötigt bis zum nächsten Besuch keinen Kontakt mehr zum Verteiler- Server Version: V 1.0

7 Bei der Verbindungsweiterleitung auf Layer 3 wird die Weiterleitung mittels eines ICMP Befehls gesendet Beispielszenario Ein Kunde ruft die Webseite auf. Der Server sendet über ICMP den Weiterleitungsbefehl an www84.google.com. Auf dem Server www84.google.com beinhalten nun alle Links die URL's zum Server www84.google.com. So fordert der Surfer die Webseiten während seines ganzen Seitenaufenthalts vom selben Server an. 3.5 Layer 5: Verbindungsverteilung (Statisch) Beim Layer 5 Switching werden die Verbindungen ebenfalls mit der Hilfe eines Priorisierungsverfahrens an die zur Verfügung stehenden Server verteilt. Die Verbindung zwischen Client und Server geht jedoch in jedem Falle über den Loadbalancer. Im Gegensatz zum dynamischen Verfahren werden alle Anfragen, welche von derselben IP ausgehen an denselben Server weitergeleitet. Der Loadbalancer merkt sich beim erstmaligen Verbindungsaufbau die IP und verbindet alle zukünftigen anfragen mit demselben Server. Nach einigen Minuten/Stunden/Tagen werden die ältesten Einträge gelöscht und der IP muss beim erneuten aufbauen einer Verbindung ein anderer Server zugeordnet werden. An welchen Server eine Clientanfrage weitergeleitet wird, wird mit Hilfe eines Priorisierungsverfahrens ermittelt. 3.6 Layer 5: Verbindungsverteilung (Dynamisch) Beim Layer 5 Switching werden die Verbindungen ebenfalls mit der Hilfe eines Priorisierungsverfahrens an die zur Verfügung stehenden Server verteilt. Die Verbindung zwischen Client und Server geht jedoch in jedem Falle über den Loadbalancer. Im Gegensatz zum statischen Verfahren wird die Anfrage des Clients beim Dynamischen Verfahren unter Umständen bei jeder Anfrage an einen anderen Server vergeben. An welchen Server eine Clientanfrage weitergeleitet wird, wird mit Hilfe eines Priorisierungsverfahrens ermittelt. 3.7 Layer 6: DNS Verteilung Beim Round-Robin DNS werden die Anfragen ganz simpel auf mehrere Server verteilt. In den DNS Servern einer Domain werden mehrere A-Einträge mit verschiedenen Zielen auf denselben Hostnamen erstellt. Der Client nimmt nun die oberste IP und greift auf diese zu. Da der Server die IP, welche er als erste ausliefert immer ändert, wird der Verkehr ganz simpel auf alle in der DNS Konfiguration angegebenen Server verteilt. 3.8 Layer 7: Verbindungsweiterleitung Bei der Verbindungsweiterleitung handelt es sich um ein sehr simples verfahren. Die Kunden werden durch ein Priorisierungsverfahren auf beliebig viele Server weitergeleitet. Der Hauptserver, welcher alle Verbindungen annimmt, teilt die Kunden jeweils einem Server zu. Da dieser Server nur einen einzigen Befehl ausliefern muss, welcher den Zielserver für den anfragenden Benutzer angibt, reicht hier ein einziger Server um millionen von Seitenbesuchern abzufertigen. Sobald der Hauptserver dem Anfragenden Webseitenbesucher einmal einen Zielserver zugewiesen hat, kommuniziert der Besucher mit dem Zielserver direkt und benötigt bis zum nächsten Besuch keinen Kontakt mehr zum Verteiler- Server Version: V 1.0

8 Bei der Verbindungsweiterleitung auf Layer 7 wird die Weiterleitung beispielsweise mittels eines HTML- Redirect oder eines PHP-Location Headers gesendet. Letztere Methode wird deutlich öfters eingesetzt, da der Webseitenbesucher davon nichts mitbekommt und die Redirect Methode mit HTML nicht von allen Browsern problemlos unterstützt wird Beispielszenario Ein Kunde ruft die Webseite auf. Der Server sendet über ICMP den Weiterleitungsbefehl an www84.google.com. Auf dem Server www84.google.com beinhalten nun alle Links die URL's zum Server www84.google.com. So fordert der Surfer die Webseiten während seines ganzen Seitenaufenthalts vom selben Server an Version: V 1.0

9 4 Gewichtungsverfahren (Priorisierungsverfahren) Das schlimmste mögliche Szenario bei einem Loadbalancer wäre, dass der Verteilungsrechner zu viele Clients demselben Server zuordnet und der Zielrechner schlussendlich überlastet wird. Denn genau dies soll ein Loadbalancer verhinden. Um diesem Szenario vorzubeugen werden verschiedene Verfahren angewendet, um die Anfragen gleichmässig zu verteilen und die Server zu priorisieren. Am sinnvollsten und wohl auch am meisten eingesetzt werden die statistischen Verfahren. Bei diesen werden die Auslastungs- und Verfügbarkeitswerte aller vorhandenen Server miteinander verglichen. Anhand dieser Daten wird ein optimaler Zielserver errechnet. 4.1 Auslastungsbedingte Priorisierung Für eine auslastungsbedingte Priorisierung muss auf jedem Server ein Agent laufen, welcher den Status und die Auslastung des Systems misst, und alle paar Sekunden an den Master (Verteiler -> Loadbalancer) berichtet. Der Master kann die Server nun mit Hilfe einer Auslastungstabelle in eine Reihenfolge setzen. Je mehr ein Server gerade ausgelastet ist, desto weiter wandert er in dieser Liste nach unten. Der Loadbalancer selber braucht dann nur noch die eingehenden Anfragen an den jeweils obersten Server in der Liste weiterzuleiten. 4.2 Round-Robin Verfahren Beim Round-Robin Verfahren werden alle Server unabhängig jeglicher Kriterien in eine Liste aufgenommen. Die Liste wird nun von oben nach unten abgearbeitet. Wenn die Liste fertig ist, beginnt der Balancer wieder am Anfang. 4.3 Zufällige Zuordnung Alle im System vorhandenen Server werden auch bei der zufälligen Zuordnung in einer Liste zusammengefasst. Ob dies nach Kriterien erfolgt oder nicht, spielt in diesem Falle keine Rolle. In der Liste sind alle Server durchnummeriert. Der Loadbalancer generiert nun eine Zufallszahl und leitet den anfragenden Client an die ausgewählte IP weiter. 4.4 Heartbeat Der Heartbeat ist ein Signal, welches periodisch alle paar Sekunden an den Loadbalancer oder den Reserveserver gesendet wird. Sobald der Loadbalancer nun von einem Server keinen Heartbeatsignal mehr bekommt, werden diesem Server keine Anfragen mehr zugeteilt, bis dieser wieder online ist. Falls ein Passivserver eingesetzt wird, übernimmt dieser die Aufgabe des nicht mehr verfügbaren Servers, sobald er keinen Heartbeat des aktiven Servers mehr empfängt Version: V 1.0

10 5 Verteilungsarten Es gibt viele Möglichkeiten, wie man die Clients auf die Server aufteilen kann. Genauso gibt es viele Möglichkeiten, wie lange man die Clients einem Server zuordnet. 5.1 Anfrageverteilung Bei der Anfrageverteilung wird jede Anfrage für eine Webseite an den Loadbalancer gestellt und dieser kann im Extremfall bei jeder Anfrage einen neuen Zielserver zuteilen. 5.2 Sessions Verteilung Bei der Session basierenden Verteilung, wird ein Client solange er diese Sessions Nummer besitzt immer demselben Server zugeordnet. Sobald er die Session schliesst oder ein Timeout erreicht, bekommt er eine neue Sessions Nummer und somit auch einen neuen Zielserver. 5.3 IP Verteilung Der Anfragende Rechner bekommt beim ersten Besuch der Webseite einen Zielserver zugeordnet. Der Zielserver wird dieser IP Adresse für einen beliebig anpassbaren Zeitraum zur Verfügung gestellt. 5.4 Gebietsverteilung Die Anfragen eines Cleints aus Amerika werden an einen Server weitergeleitet, welcher in Amerika steht und Anfragen eines Clients aus Deutschland werden an einen Server in der Umgebung von Deutschland weitergeleitet. Durch diese Methode wird ein langes weitersenden von Traffic unterbunden.xx Version: V 1.0

11 6 Weitere Loadbalancing Methoden 6.1 Teilen von Weitverkehrsnetzen Auch bei Weitverkehrs-Netzwerkverbindungen, bei denen ein Gigabit-Netzwerk nicht mehr genügt, sich der Glasfaserausbau jedoch nicht lohnt oder nicht möglich ist, kann das Traffic Aufkommen ebenfalls mit Loadbalancer auf verschiedene Leitungen aufgeteilt werden. In diesem Szenario werden meistens zwei Kabel benötigt. Das eine wird für den Up-, das andere für den Download benutzt. So kann der Traffic kostensparend aufgeteilt werden. Detail am Rande: Für kurze Strecken könnte auch ein 10gbps Kategorie 7 Kabel verlegt werden. Dies bietet den nötigen Durchsatz und ist dennoch preislich attraktiv. 6.2 Teilen von Internetanbindungen Das Balancen von Internetverbindungen ist vor allem im Business-Bereich ein häufig angewendetes Szenario. Sobald die Verfügbarkeit oder Bandbreite eines einzelnen Providers nicht mehr ausreicht, kann mit der Hilfe eines zweiten Anschlusses die Bandbreite und Verfügbarkeit erhöht werden. Ein (mittels eines weiteren Default Gateway) ziemlich einfach zu realisierendes Szenario wäre die Failover Methode. Sobald eine Verbindung nicht mehr online ist, wird die Verbindung über die zweite geroutet. Der gesamte Verkehr wird jedoch nicht auf die beiden Verbindungen gesplittet. Dies bedeutet, dass die eine Verbindung voll ausgelastet und sehr langsam sein kann und die andere unbenutzt bleibt. Aus diesem Grund ist es sinnvoll, eine Loadbalancing Lösung einzusetzen, welche den Traffic je nach Auslastung der einzelnen Leitungen auf die verschiedenen Provider verteilt Version: V 1.0

12 7 Quellnachweis: Version: V 1.0