Ziele dieses Kapitels. Konzepte und Methoden der Systemsoftware Kapitel 8: Warteschlangentheorie. Holger Karl. Warteschlangen überall.

Transkript

1 Ziele dieses Kapitels Konzepte und Methoden der Systemsoftware Kapitel 8: Warteschlangentheorie Holger Karl Im vorherigen Kapitel wurden unterschiedliche Optionen zur Gestaltung von Client/Server-Systemen diskutiert Die Frage der Leistungsfähigkeit solcher Systeme blieb aber offen Antwortzeit auf eine Anfrage? Durchsatz (#abgearbeitete Aufträge pro Zeiteinheit)? Auslastung eines Systems? Hier: Wie kann man die Leistungsfähigkeit solcher Systeme berechnen? Geeignete Parameter und Metriken Mathematische Grundtechniken Vergleich unterschiedlicher Systemkonzepte Computer Networks Group Universität Paderborn SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie Übersicht Warteschlangen, Sinn und Zweck Little s Law, Gleichgewichtszustand M/M/1 Modell Alternativen: mehrere M/M/1, M/M/m Ausblick: andere Warteschlangen-Typen Warteschlangen überall Grundlegende Gemeinsamkeiten unterschiedlicher Situationen: Kasse im Supermarkt, Schalter im Postamt/Bahn/Flughafen, Tankstelle Fabrikanlagen mit Werkstücken, die von Maschine zu Maschine transportiert und dort verarbeitet werden Anfragen an einen Web-Server, File-Server, Kommunikationsvorgänge (Telefon, Internet, ) Scheduling, Festplattenzugriffe (Paging), Struktur: Aufträge werden durch einen oder mehrere Auftragnehmer abgearbeitet Wenn nicht sofort möglich, in eine Warteschlange einreihen SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 3 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 4 1

2 Warteschlangensystem Parameter vs. Metrik Parameter: (Quantitative) Repräsentation der Situation & Operationsweise des Modells Die Eingabe des Modells Meist quantitative Parameter, teilweise auch strukturelle Parameter Manche Parameter sind gegeben, auf manche hat man Einfluss Metriken: Kenngrößen, um interessierende, beobachtbare zu untersuchende Aspekte des Modellverhaltens zu beschreiben Die Ausgabe des Modells Neue Aufträge/ Kunden Kunden Warteschlange Server System Kunden verlassen System Nennen Sie jeweils drei Parameter Metriken eines Warteschlangenmodells. Erläutern Sie, warum Sie diese als Parameter/Metrik einstufen! SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 5 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 6 Parameter und Metriken Ziele Parameter: Beschreibung der Aspekte, die das Systemverhalten als ganzes bestimmen Es gibt quantitative Parameter und qualitative Parameter (z.b. welches Verfahren? ) Durch Entwurf beeinflussbar oder nicht Beispiele Anzahl Server, Geschwindigkeit Server Wie lange braucht ein Auftrag? (im Mittel? Wahrscheinlichkeiten?) Wie oft kommen neue Aufträge an? (im Mittel? Wahrscheinlichkeiten?) Metriken: Interessierende, beobachtbare Aspekte des Systemverhaltens Meist quantitativ und stochastisch Metriken stellen i.d.r. die Optimierungsziele dar Beispiele Wie lange muss ein Kunde in der Schlange warten? (im Mittel? Wahrscheinlichkeiten?) Wie lange wird die Warteschlange? (im Mittel? Wahrscheinlichkeiten?) Wie ist die Auslastung des/der Server(s)? (im Mittel? Wahrscheinlichkeiten?) Primäres Ziel: Metriken aus gegebenen Parametern bestimmen Möglichkeiten: mathematische Analyse, Simulation, Experiment Sekundäres Ziel: Parameterwerte wählen, die die gewünschten Metriken optimieren Beispiel: Besser ein schneller oder zwei langsame Server, um mittlere Antwortzeit zu minimieren? SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 7 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 8

3 Verfahren: Warteschlangentheorie Mathematisches Modell von Server, Warteschlange, Ankunft und Bearbeitung von Kunden Gleichungen für Metriken in Abhängigkeit von Parametern bestimmen Aktueller Zustand des Systems (mindestens) beschrieben durch Zustand des Servers ( idle oder busy ) Zustand der Warteschlange (Anzahl und Art der wartenden Kunden) Zustandsübergänge Neuer Kunde kommt an Kunde wird abgearbeitet und verlässt das System Algorithmus einer Warteschlange Neuer Kunde kommt an Wenn Server idle: Abarbeitung beginnen (Server wird busy) Wenn Server busy: An der Warteschlange hinten anstellen (ggf. an einer leeren Schlange) Kunde beendet Abarbeitung und verlässt System Wenn noch Kunde in Warteschlange: Nächsten Kunden bearbeiten Wenn kein Kunde wartet: Server wird idle SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 9 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 10 Übersicht Warteschlangen, Sinn und Zweck Little s Law, Gleichgewichtszustand M/M/1 Modell Alternativen: mehrere M/M/1, M/M/m Ausblick: andere Warteschlangen-Typen Notation Einige wesentliche Größen (Parameter und Metriken) zur Beschreibung von Warteschlangensystemen L die durchschnittliche Anzahl von Kunden im System L Q die durchschnittliche Anzahl von Kunden in der Warteschlange W die durchschnittliche Zeit, die ein Kunde im System verbringt W Q die durchschnittliche Zeit, die ein Kunde in der Warteschlange verbringt N(t) die Anzahl Kunden, die bis zum Zeitpunkt t angekommen sind λ a die durchschnittliche Rate (Anzahl/Zeiteinheit), mit der Kunden das System betreten SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 11 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 1 3

4 Eintrittsgeld Vorstellung: Kunden müssen beim Betreten des Systems (Anstellen an Warteschlange) Eintrittsgeld bezahlen Nicht notwendigerweise alle Kunden gleich viel Dann gilt: Mittlere Einkommensrate des Systems = λ a * mittlerer Eintrittspreis der Kunden Eintrittsgeld Beweisskizze Sei T eine beliebig aber fest gewählte, große Zahl Einnahmen bis zum Zeitpunkt T ist mittlere Einkommensrate * T Einnahmen sind andererseits mittlerer Eintrittspreis eines Kunden mal Anzahl Kunden bis zum Zeitpunkt T = N(t) Dividere durch T und T! 1 folgt Behauptung wegen Definition von λ a (Formaler Beweis: Regenerationseigenschaft als Annahme nötig) Dabei ist Einkommensrate: eingenommenes Geld/Zeiteinheit SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 13 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 14 Eintrittsgeld! Little s Law Obiges Ergebnis lässt sich spezialisieren Beispiel: Jeder Kunde bezahlt 1 pro Zeiteinheit im System L = λ a W Little s Law Beispiel: Jeder Kunde bezahlt 1 pro Zeiteinheit in der Warteschlange L Q = λ a W Q Aussage für weite Klassen von Warteschlangensystemen gültig; kaum Annahmen beim Beweis gemacht Little s Law Beispiel: -Abarbeitung Angenommen, man kommt 50 s/tag Angenommen, man löscht beantwortete s nach Beantwortung Angenommen, in der inbox sind im Schnitt 150 s Wie lange muss man (im Schnitt) auf eine Bearbeitung warten? Little s Law: = 50 s/tag L = 150 W = L/ = 150 / (50 s/tag) = 3 Tage/ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 15 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 16 4

5 Eingeschwungener Zustand, stochastischer Prozess Für detailliertere Ergebnisse braucht man mehr Information über den Systemzustand Insbesondere: stochastische Information über Zustand! Formal: Sei X(t) die Anzahl der Kunden im System zum Zeitpunkt t Jedes X(t) ist eine Zufallsvariable! Die Folge der Z.Var. X(t) ist ein stochastischer Prozess Sei P {X(t) = n} die Wahrscheinlichkeit, gerade n Kunden anzutreffen Die Wahrscheinlichkeit für n Kunden im eingeschwungenen Zustands (steady-state probabilities) ist Übersicht Warteschlangen, Sinn und Zweck Little s Law, Gleichgewichtszustand M/M/1 Modell Alternativen: mehrere M/M/1, M/M/m Ausblick: andere Warteschlangen-Typen Unter sinnvollen Annahmen auch: Der Anteil der Zeit, in dem gerade n Kunden im System sind SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 17 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 18 P n bestimmen zusätzliche Annahmen Um P n zu bestimmen, sind zusätzliche Annahmen erforderlich Ankunftsverhalten von Kunden Kunden kommen stets einzeln an Die Zeit zwischen der Ankunft von Kunde i und i+1 sei eine exponential verteilte Zufallsvariable mit konstanter Rate λ, für alle i Rate: mittlere Anzahl Ereignisse (=Ankunft Kunde) pro Zeiteinheit Diese Zwischenankunftszeiten zwischen zwei Kunden sind stets unabhängige Zufallsvariablen Kurz: Ankünfte bilden einen Poisson-Prozess mit Rate λ Serviceverhalten Die Servicezeit eines Kunden ist eine exponential verteilte Zufallsvariable mit Rate µ Servicezeiten aller Kunden sind unabhängige Zufallsvariablen Erinnerung: Exponential verteilte Zufallsvariablen Sei X eine exponential verteilte Zufallsvariable mit Rate λ Kurz: X ~ exp (λ) Dichte der Exponentialverteilung Verteilungsfunktion der Expontialverteilung Erwartungswert: E[X] = 1/λ Varianz: V[X] = 1/λ Gedächnislosigkeit: P(X t+h X h) = P(X t) Exponentialverteilung ist einzige Verteilung mit dieser Eigenschaft und durch diese auch eindeutig charakterisiert SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 19 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 0 5

6 Markov-Annahmen Mit exponential verteilten, unabhängige Zeiten zwischen zwei Ereignissen (Ankunft & Abfertigung) wird das Warteschlangenmodell zu einem Markov-Prozess Wesentliche Eigenschaft: Zukunft eines Systems hängt nur vom momentanen Zustand ab; wie und wann der Zustand erreicht wurde spielt keine Rolle Insbesondere, wie lange in diesem Zustand schon auf das nächste Ereignis gewartet wurde, kann man ignorieren! Betrachte das System zu einem beliebigen Zeitpunkt h Zeiteinheiten nach Eintreten des letzten Ereignisses (z.b. Ankunft) wie wahrscheinlich ist es, dass nach weiteren t Zeiteinheiten das nächste Ereignis immer noch nicht eingetreten ist? Wegen P(X > t+h X>h) = P (X>t) muss man bei Exponentialverteilung h nicht berücksichtigen! Erhebliche Vereinfachung der Systemanalyse! Kontinuierlicher Markov-Prozess; Continuous Time Markov Chain (CTMC) SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 1 Markov-Eigenschaft Formalisiert werden diese Annahmen über einen stochastischen Prozess zur sog. Markov-Eigenschaft Intuition: Angenommen, man kennt die gesamte Historie des Prozesses bis zum Zeitpunkt t Man interessiert sich für die Wahrscheinlichkeit, welchen Zustand der Prozess zum Zeitpunkt t+h annehmen wird Für beliebige stochastische Prozesse muss man all diese Zustände kennen, um die Wahrscheinlichkeit ausrechnen zu können Wenn diese Wahrscheinlichkeit aber nur vom Zustand zum Zeitpunkt t abhängt (und nicht von der Historie davor), dann hat ein Prozess die Markov-Eigenschaft (und heißt Markov-Prozess) Formal: P (X(t + h) =j X(u) u t) =P (X(t + h) =j X(t)) SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie Das M/M/1-Modell Ankunftszeiten zwischen Kunden seien exponential verteilt mit Rate λ, unabhängig Servicezeiten der Kunden seien exponential verteilt mit Rate µ, unabhängig Zusätzlich benötigter Parameter: Anzahl Server Einfachster Fall: 1 Server Damit unser erstes Warteschlangensystem vollständig beschrieben! Last und Service Markov, 1 Server In Kurzschreibweise: M/M/1-System Sog. Kendall-Notation Zustandsbeschreibung Interessierender Aspekt des Systemzustandes: Anzahl Kunden im System (in diesem Modell) Wechsel zwischen Zuständen nur zu benachbarten Zuständen möglich (in diesem Modell) Ein Kunde kommt einzeln an, ein Kunde verlässt das System SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 3 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 4 6

7 Anzahl Zustandswechsel Angenommen, man lässt einen Zeiger auf den jeweils gerade aktuellen Zustand zeigen Ratengleichgewicht der Zustandswechsel Beobachtung: Für einen beliebigen Zustand i und einen bestimmten Zeitraum T ist die Anzahl Betreten Zustand i = Anzahl Verlassen Zustand i (+ 1) Fokussieren wir einen beliebigen Zustand und zählen wir mit, wie oft der Zeiger z.b. Zustand Übergang: Den Zustand betritt Den Zustand verlässt Dividiert man beide Seiten durch T und lässt T! 1, so folgt Rate Betreten Zustand i = Rate Verlassen Zustand i +/- 0 (Achtung: Das Gleichgewicht existiert nicht immer!) SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 5 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 6 Absolute Raten der Zustandsübergänge? Wie groß sind nun die Raten der Übergänge tatsächlich? Wechsel von Zustand i nach Zustand i+1 (Ankunft eines Kunden) Es kommen neue Kunden mit Rate λ an Ein ankommender Kunde sieht mit Wahrscheinlichkeit P i Zustand i D.h., P i aller Ankünfte entfallen auf den Zustand i D.h., Wechsel von i nach i+1 erfolgt mit Rate λ P i Wechsel von Zustand i+1 nach Zustand i (Kunde wird fertig) Mit analoger Argumentation: µ P i+1 ist Rate von i+1 nach i λ λ λ λ λ λ λ µ µ µ µ µ µ µ Nur bei Poisson Ankünften! Achtung Notation: Man lässt hier die P i weg! SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 7 Einschub: PASTA Ein ankommender Kunde sieht mit Wahrscheinlichkeit P i Zustand i Achtung: Das stimmt nicht immer! Beispiel: Deterministische Ankünfte, deterministische Abarbeitung Kunden kommen im Abstand von exakt einer Sekunde an Abarbeitung dauert exakt Sekunden Zustandswahrscheinlichkeiten: P 0 = = ; P 1 = Welchen Zustand sieht ankommender Kunde? Stets Zustand 0! Aber bei Poisson-Ankünften stimmt es! Die Zustandswahrscheinlichkeit im eingeschwungenen Zustand ist gleich der Wahrscheinlichkeit, in der das System bei Ankunft eines Kunden ist PASTA: Poisson Arrivals see time averages Beweis: Recht technisch, s. z.b. %819803%F04%930%3A%3C3%3APASTA%3E.0.CO%3B-O SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 8 7

8 Alternative Interpretation Zustandsübergangsdiagramm Für das Zustandsübergangsdiagramm kann man eine alternative, intuitive Interpretation geben Nicht streng korrekt, aber nützlich Nehmen wir an, wir hätten gerade einen bestimmten Zustand betreten Zum Beispiel Zustand Es gibt i.allg. mehrere Übergänge, die diesen Zustand verlassen Jeder Übergang ist mit einer Rate beschriftet 1 µ 3 Vorstellung: Im Moment des Betretens wird für jeden Übergang aus dem Zustand heraus ein Timer gestellt Der Wert des Timers ist eine Zufallszahl, exponential verteilt mit der entsprechenden Rate Es wird der Übergang gewählt, dessen Timer zuerst abläuft λ Absolute Raten und Ratengleichgewicht Zusammenhang absolute Raten zwischen Zuständen und Prinzip des Ratengleichgewichtes? Für jeden Zustand: Betretensrate = Verlassensraten 0 1 Fall 1: Zustand 0 (und Zustand 1) µ Zustand 0 kann nur nach Zustand 1 verlassen werden, mit Rate λ P 0 Zustand 0 kann nur von Zustand 1 betreten werden, mit Rate µ P 1 Summengleichheit: λ P 0 = µ P 1 Fall : Zustand i>0 (und i-1, i+1) Zustand i kann von i-1 betreten werden, mit Rate λ P i-1 Zustand i kann von i+1 betreten werden, mit Rate µ P i+1 Gesamtbetretensrate: λ P i-1 + µ P i+1 µ µ Zustand i kann nach Zustand i-1 verlassen werden, mit Rate µ P i Zustand i kann nach Zustand i+1 verlassen werden, mit Rate λ P i Gesamtverlassensrate: µ P i + λ P i = (µ + λ) P i Summengleichheit: λ P i-1 + µ P i+1 = (µ + λ) P i λ λ λ i-1 i i+1 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 9 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 30 Gleichung für Raten/Gleichgewichtswahrscheinlichkeiten Damit: Gleichung für Raten/Gleichgewichtswahrscheinlichkeiten Zusätzlich muss gelten: Für geschlossene Lösung: P i als Funktion von P 0, λ, µ schreiben P 1 = λ/µ P 0 (λ + µ) P 1 = λ P 0 + µ P! P = (λ/µ) P 0 Induktionshypothese: P i = (λ/µ) i P 0 Induktionsschritt: (λ + µ) (λ/µ) i P 0 = λ (λ/µ) i-1 P 0 + µ P i+1 Setzt man ein und formt um, so folgt (für λ/µ < 1!): i=0 1 (λ/µ) i P 0 = 1! P 0 = (1- λ/µ) Geometrische Reihe! Insgesamt:! P i+1 = (λ/µ) i+1 P 0 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 31 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 3 8

9 Berechne Metrik: mittlere Anzahl Kunden im System Erinnerung: P i = P(X = i) ist die Wahrscheinlichkeit, i Kunden im System anzutreffen Damit ist der Erwartungswert von X, E[X] = i=0 1 i P i, gerade die mittlere Anzahl Kunden im System E[X] als L geschrieben; P i einsetzen: Weitere Metriken Aus L und Little s Law kann man nun weitere Metriken einfach durch Einsetzen berechnen Mittlere Zeit, die ein Kunde im System verbringt: Mittlere Zeit, die ein Kunde in der Warteschlange verbringt: Mittlere Anzahl Kunden in der Warteschlange: SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 33 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 34 Beispiel M/M/1 In einem M/M/1-Model kommt im Mittel 1 Kunde alle 1 Minuten an; die mittlere Bedienzeit eines Kunden sei 8 Minuten. Bestimmen Sie L, L Q, W, W Q. Parameter: λ = 1/1, µ = 1/8 L = mittlere Anzahl Kunden im System = W = mittlere Zeit im System = 4 Minuten W Q = mittlere Zeit in Warteschlange = W 1/µ = 16 Minuten L Q = mittlere Anzahl in Warteschlange = λ W Q = 4/3 Nun erhöht sich die Ankunftsrate geringfügig um 0% auf λ = 1/10. Was ist nun L und W? Woran liegt dies? L = 4, W = 40 M/M/1-Verhalten in Abhängigkeit von λ/µ Im wesentlichen wird M/M/1-Verhalten durch λ/µ bestimmt Sei µ = 1, λ (0,1) Mittlere Anzahl Anzahl Kunden im System λ/µ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 35 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 36 9

10 Übersicht Warteschlangen, Sinn und Zweck Little s Law, Gleichgewichtszustand M/M/1 Modell Alternativen: mehrere M/M/1, M/M/m Ausblick: andere Warteschlangen-Typen Alternative: Ein schneller oder zwei langsame Server? Mit diesem Wissen kann man Systeme konfigurieren Zum Beispiel: Ist ein schneller oder zwei langsame Server besser? Genauer: Alternative 1 ist ein M/M/1 System mit Ankunftsrate λ und Bedienrate µ L = λ / (µ - λ), W = 1/(µ λ), W Q = λ/(µ (µ - λ)), L Q = λ /(µ (µ - λ)), Alternative sind zwei M/M/1 Systeme, bei denen die Last auf die beiden, getrennten Systeme aufgeteilt wird (separate Warteschlangen); jedes System ist halb so schnell und hat damit die halbe Bedienrate. Also: λ = λ /, µ = µ / Berechnen Sie L, W, L Q, W Q ; setzen Sie in Beziehung zu L, W, L Q, W Q SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 37 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 38 Zwei getrennte langsame Server Alternative: Zwei langsame Server mit gemeinsamer Warteschlange? Also: λ = λ /, µ = µ / Im obigen Beispiel waren die separaten Warteschlangen möglicherweise ungeschickt gemeinsame WS? Also Annahme: Ankunftsrate λ, eine Warteschlange, die von zwei Servern mit Bedienrate µ bedient wird Ein M/M/ System Wir brauchen: Zustandsübergangsdiagramm Gleichgewichtswahrscheinlichkeiten Lösung der Gleichgewichtswahrscheinlichkeiten Daraus dann L, W, L Q, W Q berechnen Anmerkung: Streng genommen müsste man hier noch zeigen, dass ein solches Aufspalten eines Poisson-Prozesses wieder einen Poisson-Prozess SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie liefert. Dies ist der Fall. 39 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 40 10

11 Zwei Server, gemeinsame Warteschlange Zeichnen Sie das Zustandsübergangsdiagramm. Überlegen Sie sich insbesondere was passiert, wenn 0, 1 oder Kunden im System sind. Gleichgewichtswahrscheinlichkeiten für M/M/ Stellen Sie auf der Grundlage des Zustandsübergangsdiagramms die Gleichungen für die Gleichgewichtswahrscheinlichkeiten auf! SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 41 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 4 Metriken für M/M/ Lösen dieser Gleichungen ist zwar im Prinzip einfach, aber mühselig Die wichtigsten Metriken: Es muss gelten ρ = λ / µ < 1 (sonst nicht stabil) Wahrscheinlichkeit, kein Kunde im System: Wartewahrscheinlichkeit: Mittlere Anzahl Kunden in Warteschlange: Mittlere Wartezeit: Vergleich M/M/1 (schnell), xm/m/1 (langsam), M/M/ Annahmen: Ankunftsrate λ (0,1), µ = 1 für schnelle Server, µ = ½ für langsame Server Metriken: mittlere Anzahl Kunden L, mittlere Zeit im System W Ein M/M/1 System mit schnellem Server L = λ/(1-λ) W = 1 / (1-λ) Zwei separate M/M/1 Systeme mit langsamen Servern L = L W = W Ein M/M/ mit einer Warteschlange, zwei langsame Server P 0 = (1-λ)/(1+λ) L = λ /(1-λ ) = /(1+λ) L W = / (1 - λ ) = /(1+λ) W SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 43 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 44 11

12 Vergleich unterschiedlicher Konfigurationen Mittlere Anzahl Kunden im System 1 schneller langsame 5 langsame 1 schneller langsame 5 langsame Mittlere Zeit eines Kunden im System 0 1 schneller langsame, gemeinsame WS 5 langsame, gemeinsame 1 schneller WS langsame, separate WS 5 langsame, getrennte WS 18 langsame, 1 WS 5 langsame, 1 WS langsame, WS 16 5 langsame, 5 WS 14 1 Übersicht Warteschlangen, Sinn und Zweck Little s Law, Gleichgewichtszustand M/M/1 Modell Alternativen: mehrere M/M/1, M/M/m Ausblick: andere Warteschlangen-Typen λ λ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 45 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 46 Komplexere Warteschlangen Der Formalismus eignet sich auch zur Beschreibung anderer Systemtypen Warteschlangen endlicher Länge Systeme mit unterschiedlichen Raten der Abarbeitung/der Ankunft Systeme mit unterschiedlichen Zustände Systeme mit komplexeren Übergängen Lediglich die Markov-Eigenschaft muss erfüllt sein! Warteschlange endlicher Länge Angenommen, in einer Warteschlange können nur bestimmte Anzahl Personen anstehen Modellierung: Die Rate des Übergangs in den nächsten Zustand ist 0 Trotzdem kommen Kunden an, diese gehen verloren Wahrscheinlichkeit dafür interessant Beispiel: Maximal 4 Kunden können anstehen λ λ λ λ λ 0 0!!! µ µ µ µ µ µ µ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 47 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 48 1

13 Warteschlange endlicher Länge Verlustwahrscheinlichkeit Auch bei voller Warteschlange kommen natürlich noch Kunden an Rate der abgewiesenen Kunden? Sei max = Anzahl der maximal im System existierenden Kunden Kunde wird abgewiesen wenn er eintrifft, während das System im Zustand max ist Das ist mit Wahrscheinlichkeit P max der Fall Kunde wird nicht abgewiesen wenn in anderem Zustand eintrifft Mit Wahrscheinlichkeit 1 P max Warteschlangen endlicher Länge Gleichungen Ratengleichgewichte wie bei M/M/1, allerdings nur bis Zustand max Zustände größer max werden nicht erreicht Damit P i = ( / µ) i P 0 für i <= max P i = 0 für i > max Normierung: 1 = 1 i=0 P i = max i=0 P i = max i=0 ( / µ) i P 0 D.h.: P max viele Kunden werden pro Zeiteinheit abgewiesen SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 49 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 50 Heterogene Warteschlangensysteme Systeme, bei denen nicht alle Übergänge einheitlich sind M/M/k war schon ein erstes, einfaches Beispiel dafür! Beispiel 1: Manche Ankünfte sind nicht ein einzelner Kunde, sondern zwei Kunden Z.B., mit fester Wahrscheinlichkeit q trifft ein Kunde, mit 1-q treffen zwei Kunden ein Änderung im Zustandsdiagram: Übergänge auch zwischen nicht direkt benachbarten Knoten (1-q)λ (1-q)λ (1-q)λ (1-q)λ (1-q)λ (1-q)λ Heterogene Warteschlangensysteme Beispiel 1 Ratengleichgewichte: P 0 : P 0 = µ P 1 P 1 : ( + µ) P 1 = q P 0 + µ P P : ( + µ) P = (1-q) P 0 + q P 1 + µ P 3 P 3 : ( + µ) P 3 = (1-q) P 1 + q P + µ P 4 P 4 : Und explizite Lösung entsprechend allerdings recht hässlich J qλ qλ qλ qλ qλ qλ qλ µ µ µ µ µ µ µ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 51 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 5 13

14 Heterogene Warteschlangensysteme Beispiel Beispiel : Server kann nur 3 Einheiten abarbeiten Z.B. Verpackungsmaschine oder ähnlich Das dauert dann wieder exponential verteilt lange, mit Mittelwert 1/µ Dann: keine µ-übergänge aus den Zuständen 0, 1, heraus Aus Zuständen 3, µ-übergänge in einen drei kleineren Zustand, mit Rate µ Heterogene Warteschlangensysteme Beispiel Ratengleichgewichte: P 0 : P 0 = µ P 3 P 1 : P 1 = P 0 + µ P 4 P : P = P 1 + µ P 5 P 3 : ( +µ) P 3 = P + µ P 6 P 4 : ( +µ) P 4 = P 3 + µ P 7 λ λ λ λ λ λ λ µ µ µ µ µ µ µ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 53 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 54 Systeme mit unterschiedlichen Arten von Zuständen Unterschiedliche Server-Betriebsarten können durch unterschiedliche Zustände der Warteschlange repräsentiert werden Gleiche Anzahl Kunden im System, aber andere Art der Abarbeitung Beispiel Supermarkt mit zwei Kassen, zweite Kasse wird nur geöffnet, wenn Warteschlange bestimmte Länge überschreitet Eine der beiden Kassen schließt, sobald kein Kunde mehr da ist; nicht notwendigerweise die als zweites geöffnete Kasse Gemeinsame Schlange für beide Kassen unterstellt Systeme mit unterschiedlichen Zuständen Diagramm Beispiel: Ab 5 Kunden im System (= 4 Kunden warten) öffnet zweite Kasse Zustand ohne : nur eine Kasse offen Zustand mit : zwei Kassen offen λ λ λ λ λ µ µ µ µ λ λ λ λ λ µ µ µ µ µ µ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 55 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 56 14

15 Verkettete Warteschlangen Was passiert, wenn Jobs/Kunden/... nach Verlassen einer Warteschlange sich an einer anderen anstellen müssen? Warteschlange Essensausgabe Warteschlange Kasse Bleiben wesentliche Eigenschaften erhalten? Kann man Gleichgewichtswahrscheinlichkeiten berechnen? Vorüberlegung: Bis jetzt nur Poisson-Ankünfte an WS Die Ankünfte an Server sind abgearbeitete Jobs von Server 1 Frage: Werden Possion-Ankünfte zu Poisson-Abgängen? Poisson-Eigenschaft bleibt erhalten! Zu zeigen: ein Poisson-Ankuftsprozess ergibt einen Poisson-Abgangsprozess betrachte Zeiten zwischen zwei fertigen Abarbeitungen Zu zeigen: Zeiten zwischen Job-Beendigungen sind exponential verteilte, unabhängige Zufallsvariablen mit gleicher Rate Frage 1: Unabhängigkeit gilt (klar) Frage : Ist die Zeit Z zwischen zwei Job-Fertigstellungen exponential verteilt? (Und wenn ja, mit welcher Rate?) Notation: Sei X Z.V. zwischen zwei Ankünften, Y Z.V. für Abarbeitungsdauer Es gilt X ~exp(λ), Y ~exp(µ) Also: Berechne P(Z <= c) für irgendein c! SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 57 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 58 Verteilung der Zeit zwischen zwei Job-Enden Konditioniere auf den Zustand des Systems nach dem der vorherige Job das System verlassen hat: Wir kennen P(Y <= c) = 1 e -µc Wir brauchen P(X+Y <= c) Verteilung der Zeit zwischen zwei Job-Enden Nebenrechnung: P(X+Y <= c) Faltung zweier unabhängiger, exponential verteilter Zufallsvariablen mit unterschiedlichen Raten Nebenrechnung liefert (konditioniere auf Wert von X): P (X + Y c) = = x=0 c x=0 f X (x)p (Y + X c X = x)dx f X (x)p (Y c x)dx =1 µe λc λe µc µ λ SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 59 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 60 15

16 Wahrscheinlichkeit eines leeren Systems bei Jobende Mit welcher Wahrscheinlichkeit hinterlässt ein beendeter Job das System im Zustand leer (0 Kunden)? 0 1 µ Erinnerung: Rate Betreten Zustand 0 = Raten Verlassen Zustand 0 Wenn aber Zustand genauso oft verlassen wie betreten wird, muss die Wahrscheinlichkeit, den entsprechenden Zustand vorzufinden, gleich sein Wir wissen aber, mit welcher Wahrscheinlichkeit ein neuer Job das System leer vorfindet das ist gerade P 0! Also (für M/M/1): P (System nach Job leer) = 1 λ µ λ Verteilung der Zeit zwischen zwei Job-Enden (II) Setzt man das zusammen und löst auf, so erhält man: P (Z c) =P (System nach Job nicht leer)p (Y c) + P (System nach Job leer)p (X + Y c) = λ µ (1 e µc )+(1 λ )P (X + Y c) µ = λ µ (1 e µc )+(1 λ µ ) 1 µe λc λe µc = 1 e λc Das ist exponential verteilt! µ λ Mit genau der Rate des Ankunftsprozesses! Die Rate des Servers spielt keine Rolle (Gilt auch analog für allgemeinere Modelle, z.b. auch für M/M/k!) SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 61 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 6 Verkettete Warteschlangen Damit: Jobs verlassen einen Server wieder als Poisson- Prozess! Damit: Der zweite Server sieht wiederum einen Poisson- Ankunftsprozess Wir können also die bisher entwickelte Maschinerie direkt anwenden SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 63 Verkettete Warteschlangen Zustandsdiagramm Was ist die Zustandsbeschreibung eines solchen Systems? Warteschlange Essensausgabe Warteschlange Kasse Wir brauchen eine Variable pro Server/Warteschlange ( Anzahl Kunden im Teilsystem Essensausgabe, Anzahl Kunden im Teilsystem Kasse ) λ λ (0,0) (1,0) (,0)... µ 1 µ 1 Übergangsdiagramm µ µ µ λ λ (0,1) (1,1) (,1)... µ µ 1 µ 1 µ µ λ λ (0,) (1,) (,) SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie

17 Verkettete Warteschlangen Lösung Und ab hier ganz normal weiter Gleichgewichtsgleichungen aus dem Diagramm ablesen Geschlossene Form bestimmen... das ist nur recht unhandlich Praktischer: Lösung raten, mit Gleichgewichtsgleichungen verifizieren Beobachtung: die beiden einzelnen Warteschlangen haben ja wenig miteinander zu tun sind die sogar unabhängig? Ansatz: die Wahrscheinlichkeit, jeweils n 1 bzw. n Teilnehmer im ersten bzw. zweiten Teilsystem zu sehen, ist das Produkt der entsprechenden Wahrscheinlichkeiten für separate M/M/1- Systeme... Und das stimmt! Verkettete Warteschlangen Lösung (II) Also: P (X 1 = n 1,X = n )= 1 λµ1 n1 1 λµ1 λµ n λµ Metriken analog zu bisherigen Ansätzen Verallgemeinerung auf Netze von Warteschlangen, Entscheidungen zwischen Alternativen, Rückkopplungen, geschlossene Warteschlangen,... SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 65 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 66 Nicht-Markov Warteschlangen Systeme bisher: Verhalten des Systems nur vom aktuellen Zustand und aktuellen Zeitpunkten abhängig Nicht davon, wie oder wann dieser Zustand erreicht wurde Markov-Eigenschaft Wesentlich dazu: Gedächnislosigkeit der Ankunfts- und Bedienzeitverteilungen Andere Verteilungen als exponential: nicht gedächnislos Damit geht Markov-Eigenschaft verloren! Damit keine einfache Analyse mehr möglich!! Nicht-Markov sche Warteschlagen erheblich komplizierter! Kritik, Ausblick Adäquate Annahmen? Sind Ankünfte und Bedienzeiten exponential verteilt? Sind sie unabhängig? Wie würde man korrekte Annahmen herausfinden? Komplexität der Rechnung? Ausblick Systeme mit allgemeinen Ankunfts- oder Bedienzeitverteilungen (nicht-markovsche Systeme) Geschlossene Systeme Systeme mit endlicher Anzahl Kunden Mathematische Methoden zur Vereinfachung der Berechnung SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 67 SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 68 17

18 Zusammenfassung Warteschlangentheorie ist ein mächtiges Werkzeug, um für eine weite Klasse von Systemen Metriken aus Parametern zu berechnen Erlaubt Den Vergleich von Systemen und Systemkonfigurationen Die Wahl von Parametern, die gewünschte Metriken optimieren Die Aufstellung korrekter Modelle kann nicht-trivial sein SS 11 - v.1 KMS - Kap. 8: Warteschlangentheorie 69 18