Scheduling. Scheduling Tanenbaum Kap. 2.4, Stallings Kap , Glatz Kap. 3.4

Transkript

1 Scheduling Scheduling Tanenbaum Kap. 2.4, Stallings Kap , Glatz Kap

2 Inhalt CPU Scheduling Einführung, Begriffe, Kriterien Verfahren - nonpreemptive FCFS, SPN (SJN), Priority Scheduling - preemptive Round Robin, Multilevel, Multilevel Feedback Zusammenfassung und Auswahlkriterien Unix / Linux/ Windows Scheduling Linux CFS: completely fair scheduler Multiprozessor Scheduling Real-Time Scheduling Einführung Rate Monotonic, Deadline Scheduling, Cyclic-Executives 2 2

3 Lehrziele Sie können den Begriff Scheduling erklären und diskutieren die wichtigsten Scheduling Algorithmen aufzählen, erklären und diskutieren die Scheduling Verfahren der wichtigsten Betriebssysteme erklären und diskutieren Probleme beim Multiprozessor Scheduling aufzählne und erklären den Begriff Real-Time Scheduling erklären und diskutieren Die wichtigsten Real-Time Scheduling Algorithmen aufzählen, erklären und diskutieren 3 3

4 Scheduling und Zustandsdiagramm new Long-Term admit admit ready suspend ready dispatch timeout running release exit Event occurs blocked suspend activate suspend blocked Event occurs Event wait Medium-Term Short-Term 4 Long-Term Scheduler oder Admission Scheduler - Frage: welche resp. wie viele Prozesse zulassen (starten)? - steuert "degree of multiprocessing" - Viele Prozesse "+" kleinere Wahrscheinlichkeit, dass alle Prozesse blockieren "-" jeder Prozess erhält weniger Rechenzeit - mögliche Zulassungskriterien kurze Prozesse bevorzugen, lange müssen warten interaktive Prozesse bevorzugen guter Mix zwischen CPU- und I/O-bound Prozessen Medium-Term Scheduler oder Memory Scheduler - Prozess im Speicher halten - Frage: welche Prozesse auf Disk auslagern oder wieder in Speicher holen? Short-Term Scheduler oder CPU Scheduler - Zuteilung von Rechenleistung - Frage: welchen Prozess als Nächsten ausführen? - verschiedene Verfahren möglich, abhängig von Zielen Hauptthema dieses Kapitels: CPU Scheduling bzw. Scheduling nur für eine CPU: singlecpu scheduling Hinweis zum Begriff Prozess im Zusammenhang mit Scheduling - Verfahren gelten sowohl für Prozesse und Kernel-Threads - Task schedulierbare Einheit: Prozess oder Thread 4

5 Scheduling: Queuing Diagramm Long-Term Short-Term enter Ready Queue dispatch CPU exit timeout (preemted) Event occurs Event Queues Event wait Blocked Suspend Ready Suspend Medium-Term 5 Scheduling aus Sicht Queuing Diagramm 5

6 Scheduling-Klassen Scheduling abhängig von Art der Anwendung Drei wichtige Klassen für Batch Systeme - keine Anwender, die am Terminal auf Antwort warten - Jobs können am Stück verarbeitet werden Interaktive Systeme - Anwender warten am Terminal auf Antwort - Umschaltung zwischen Prozessen notwendig Real-Time Systeme - Resultat muss zur richtigen Zeit verfügbar sein - oft periodische Jobs 6 Batch Systeme - die Verarbeitung von Jobs resp. Prozessen erfolgt "am Stück" - non-preemtive scheduling keine Unterbrechung durch Scheduler Unterbrechung nur, wenn Prozess blockiert Interaktive Systeme - Umschaltung zwischen Anwendern resp. deren Prozessen notwendig - preemptive scheduling Prozesse erhalten CPU während "time-slice" Scheduler unterbricht Prozess wenn time-slice abgelaufen Unterbruch resp. Umschaltung auch wenn Prozess blockiert Real-time Systeme - Systemantwort: deadlines müssen eingehalten werden - oft repetitive Aufgaben - Beispiel Film alle 1/25s ein Bild rendern Embedded Systeme - embedded Systeme stellen je nach Anwendung weitere Anforderungen an Betriebssysteme: "mini-betriebssysteme" Echtezeitsysteme? 6

7 Scheduling Algorithmen: Ziele Für alle Systeme gilt Fairness, Einhalten von Policies, optimale Systemnutzung Batch Systeme Durchsatz Anzahl Jobs pro Zeit Turnaround Zeit Zeit zwischen Aufgabe und Terminierung CPU-Nutzung möglichst 100% Auslastung Interaktive Systeme Antwortzeit schnelle Reaktion Erwartung Erfüllen der Anwendererwartungen Real-Time Systeme Deadlines kein Datenverlust Vorhersagbarkeit kein Qualitätsverlust z.b. bei Multimedia 7 Policy: z.b. Vorgabe von Prioritäte vs. Mechnismus: durchführen des Scheduling Non-Preemtive: Job kann sich selber unterbrechen oder blockieren Durchsatz: throughput - Anzahl abgearbeiteter Jobs (Prozesse) pro Zeit - Ziel: möglichst viele Jobs pro Zeit - Anmerkung: Optimierung auf Durchsatz mit Bevorzugung von kurzen Jobs kann lange Jobs stark benachteiligen -> führt u.u. zu "starvation" Turnaroundzeit - Zeit zwischen Aufgabe und Terminierung eines Jobs - statistischer Mittelwert: wie lange der Anwender im Mittel warten muss CPU-Nutzung: processor utilization - Anteil der Zeit während der der Prozessor beschäftigt ist Antwortzeit: response time - Zeit zwischen Aufgabe eines Befehls und Antwort des Systems Erwartung - Anwender erwarten vom System ein bestimmtes Verhalten sollte möglichst gut erfüllt werden, aber verschiedene Anwender haben auch verschiedene Erwartungen, resp. nehmen das Systemverhalten verschieden wahr - Beispiel Deadlines clicken auf Icon sollte möglichst schnell eine sichtbare Aktion auslösen ein umfangreiche Berechnung darf aber ruhig etwas dauern - wenn Daten nicht rechtzeitig verfügbar sind, stimmt Resultat nicht - Beispiel: Video Frames müssen periodisch gerendert werden, sonst "ruckelt" das Bild, Resultat aber noch nicht "fatal" falsch 7

8 Wichtigste Scheduling-Verfahren Nonpreemptive Scheduling First Come First Served Shortest Job First (Shortest Process Next) Priority Scheduling i.d.r. Batch Systeme und Soft Real Time Systeme Preemptive Scheduling Round Robin Multilevel und Multilevel Feedback: prioritätsbasiert i.a. interaktive Systeme und Multiprozessor-Systeme Real-Time Scheduling Rate Monotonic Scheduling Deadline Scheduling 8 Bewertungskriterien - Antwortzeit wie lange geht es bis Task reagiert? - Durchsatz wie viel Tasks pro Zeit werden verarbeitet? - Fairness werden Tasks vernachlässigt? - Starvation können Tasks nie an die Reihe kommen - Implementierung / Overhead wie aufendig ist die Implementierung des Verfahrens? Task: Prozess oder Thread (Kernel Level) 8

9 Laufzeitverhalten von Prozessen / Threads CPU-bound Prozesse lange CPU bursts langer CPU burst Burst Time t I/O-bound Prozesse kurze CPU bursts auf IO Warten t kurzer CPU burst 9 Sozusagen alle Prozesse laufen in einem CPU - I/O Burst Zyklus - rechnen... I/O... rechnen... I/O... rechnen... I/O... - Phasen zwischen CPU-bound und I/O-bound können sich auch abwechseln CPU-bound - lange CPU bursts - z.b. Batch Jobs I/O-bound - kurze CPU bursts - interaktive Jobs Anmerkung - je schneller die Prozessoren (CPUs), desto eher sind Prozesse I/O-bound die Geschwindigkeit von CPUs nimmt stärker zu als z.b. von Disk und Memory während burst konsumiert Prozess Rechnezeit resp. hat CPU alloziert 9

10 Scheduling: Definition "Zeiten" P 1 T mb = (6T + 5T + 7T)/3 = 6T T mw = (0T + 5T + 10T)/3 = 5T T ma = (6T + 10T + 17T)/3 = 11T P 3 T s Zeit T a1 =6 T w2 =5 T a2 =10 T w3 =10 T a3 =17 T s2 T s3 T b =7 T b Rechenzeit, Bedienzeit T w Wartezeit T a Turnaroundzeit T s Startzeit 10 Definitionen des zeitlichen Verhaltens von Prozessen - T b : Rechzeit, Bedienzeit Zeit während der ein Prozess CPU belegt (Rechenzeit beansprucht) kann aus mehreren Teilabschnitten bestehen:teilabschnitte entstehen, wenn der Prozess blockiert oder der Prozess unterbrochen wird - T w : Wartezeit Tw gesamte Zeit, während der ein Prozess wartet - T a : Ausführungszeit oder Turnaroundzeit Zeit von Prozessaufgabe bis Prozessterminierung Berechnung von Mittelwerten - werden für den Vergleich von Schedulingverfahren resp. -algorithmen verwendet - Beispiel oben ( jeweils P 1,, P 3 ) mittlere Bedientzeit T mb = (6T + 5T + 7T)/3 = 6T mittlere Wartezeit T mw = (0T + 5T + 10T)/3 = 5T mittlere Turnaroundzeit T ma = (6T + 10T + 17T)/3 = 11T Anmerkungen - Prozesse müssen nicht notwendigerweise am Stück ausgeführt werden Prozesse geben Kontrolle CPU bei blockierenden Systemaufrufen ab Prozesse werden aktiv vom Scheduler unterbrochen: z.b. time-slice abgelaufen oder Prozess mit höherer Priorität wird aktiv, etc. 10

11 CPU Scheduling Beispiel für Vergleich der Scheduling Verfahren Annahmen: Prozesse blockieren nicht, geben CPU nicht ab T s1 = 0, T b1 = 3 P 1 T s2 = 2, T b2 = 6 T s3 = 4, T b3 = 4 P 3 T s4 = 6, T b4 = 5 P 4 T s5 = 8, T b5 = 2 P t eine CPU, (FIFO) P 1 P 3 P 4 P 5 11 Im folgenden verwendetes Beispiel für die Erklärung der verschiedenen Scheduling Verfahren 11

12 Non-Preemptive Scheduling admit Ready Queue dispatch Processor release Event occurs Blocked Queue Event wait 12 Ready-Queue: FIFO Queue Non-Preemtive Scheduling - nicht blockierende Prozesse am Stück abgearbeitet - blockierende Prozesse in Blocked Queue gehängt bleiben, bis sie von entsprechendem Event geweckt werden werden in die Ready Queue gehängt - freiwillige Prozessabgabe werden in die Ready Queue gehängt Anmerkung - kommt ein neuer Prozess an und wird zum gleichen Zeitpunkt ein Prozess geweckt, dann wird i.a. der neue Prozess vor dem geweckten Prozess in die Ready Queue eingefügt 12

13 First Come First Served (FCFS/FIFO) Auswahlfunktion FCFS ältester Prozess in der Queue First Come First Served T s1 = 0, T b1 = 3 P 1 T s2 = 2, T b2 = 6 T s3 = 4, T b3 = 4 P 3 T s4 = 6, T b4 = 5 P 4 T s5 = 8, T b5 = 2 P t FCFS P 1 P 3 P 4 P 5 13 Auswahlfunktion - FCFS = FIFO Decision Mode - nonpreemptive - Prozess läuft bis er terminiert oder blockiert Diskussion - Antwortzeit lang, wenn Ausführungszeiten sehr unterschiedlich sind - Durchsatz kein Thema - Fairness lange und CPU-bound Prozesse werden bevorzugt schlechte Ausnutzung von I/O Geräten - Verhungern (Starvation) nicht möglich - Implementation einfach, minimaler Overhead Implizierte Priorität - die Ankunftszeit 13

14 Shortest Job First (SJF, SPN) Auswahlfunktion Prozess mit kürzester, geschätzter Rechenzeit T s1 = 0, T b1 = 3 P 1 T s2 = 2, T b2 = 6 T s3 = 4, T b3 = 4 P 3 T s4 = 6, T b4 = 5 P 4 T s5 = 2, T b5 = 2 P t SPN, SJF P 1 P 5 P 3 P 4 14 Auswahlfunktion - SJF, SPN - Prozess mit der kürzesten erwarteten Rechen- resp. Bedienzeit Decision Mode - nonpreemptive - Prozess läuft bis er terminiert oder blockiert Diskussion - Antwortzeit gut für kurze Prozesse, lange Prozesse müssen warten verbessert mittlere Wartezeit - Durchsatz hoch: viele kurze Prozesse - Fairness bestraft lange Prozesse - Verhungern möglich für lange Prozesse - Overhead relativ hoch: Bestimmung resp. Schätzung der Rechenzeit Implizierte Priorität - Prozess mit kürzester (geschätzter) Rechenzeit wird vorgezogen 14

15 Schätzung der CPU Burst Time Schätzwert gewichtete Summe: aktuelle Laufzeit + letzter Schätzwert S 1 = α Tn + (1 α) S 0 <α < 1 n+ n T n : effektive Ausführungszeit des n-ten CPU Bursts S n+1 : Schätzwert für Ausführungszeit des (n+1)-ten CPU Bursts S 0 : Schätzwert, wenn Prozess zum ersten Mal läuft (oft 0) Diskussion Einfluss vergangener Messwerte schwindet exponentiell je grösser α Schätzung folgt besser exaktem Verlauf Startwert S 0 oft auf 0 gesetzt hohe Startpriorität 15 Auflösung obiger Formel: S n+1 = α T n + (1-α) α T n-1 + (1-α) 2 α T n-2 + (1-α) 3 α T n (1-α) n S 1 Diskussion - je grösser α (α < 1), desto weniger fallen alte Werte ins Gewicht: alte Werte nehmen exponentiell ab - je grösser α desto besser folgt S der effektiven Kurve 15

16 ... Schätzung der CPU Burst Time Burst Time aktuelle Rechenzeit α= 0.8 α= t 16 Wahl α - gross folgt aktueller Kurve - klein glättet Kurve - Wahl abhänging von Anwendung 16

17 Priority Scheduling Ready Queue dispatch Processor release Priority admit Event occurs Blocked Queue Event wait 17 Decision Mode - nonpreemptive Auswahlverfahren - Prioriät - neue und aufgeweckte Prozesse werden anhand ihrer Priorität in die Ready Queue einsortiert Diskussion - Prozesse mit tiefen Prioritäten können verhungern - mögliche Abhilfe: dynamische Prioritäten Prioritäten in Funktion der Zeit anpassen 17

18 Preemptive Scheduling admit Ready Queue dispatch Processor release preempt Event occurs Blocked Queue Event wait 18 Ready Queue: FIFO Queue Preemptives Scheduling - Prozess können vom Scheduler unterbrochen werden und wieder in die Ready Queue eingereiht werden - Unterbruch durch Scheduler wenn time-slice abgelaufen - Unterbruch auch wenn Prozess blockiert Rescheduling notwendig 18

19 Round Robin (RR) Auswahlfunktion wie bei FCFS aber preemptive: time-slice resp. time-quantum q T s1 = 0, T b1 = 3 P 1 T s2 = 2, T b2 = 6 T s3 = 4, T b3 = 4 P 3 T s4 = 6, T b4 = 5 P 4 T s5 = 8, T b5 = 2 P 5 Round Robin P 1 P 1 P 3 P 4 P 3 P 5 P 4 P 3 P 5 P 4 P 3 P 4 t 19 Auswahlfunktion - Round Robin - nächster Prozess in Ready Queue Decision Mode - preemptive - Prozess läuft bis time-slice abgelaufen, Prozess blockiert oder terminiert Diskussion - Response Time gut für kurze Prozesse (P 5 wird für q=1 stark bevorzugt) lange Prozesse müssen auf nächsten Time Slice warten: T w = n q (n Anzahl Prozesse) - Throughput abhängig vom Time-Slice q (Zeit-Quantum q resp. Quantum q) tief, wenn q zu klein zuviele Prozesse und zuviele Context Switches FCFS Verhalten wenn q (zu) gross - Fairness Benachteiligung von I/O-bound Prozessen (nutzen ev. nicht ganzes q) - Verhungern nicht möglich - Overhead klein Anmerkung - ein gerade unterbrochener Prozess wird i.a. hinter einem gleichzeitig ankommenden Prozess in die Ready Queue eingereiht 19

20 Round Robin: Wahl von q Wie grossmuss Time Slice qgewählt werden? einiges grösser als Zeit für Clock Interrupt und Dispatching etwas grösser als eine typische Interaktion (~1 ms) aber nicht viel grösser, sonst werden I/O-bound Prozesse bestraft Interaktion < q Interaktion > q Time Slice q Time Slice q Time Slice q Interaktion s q-s Interaktion s Antwortzeit = Interaktion Antwortzeit = Interaktion + q 20 Ein sehr kleines q wäre gut - kurze Jobs schnell fertig - aber Overhead gross (Anteil Verwaltung zu Nettorechenzeit) Interaktion > q - es werden 2 time-slices benötigt, um Interaktion zu beenden - zwischendurch laufen andere Prozesse eher schlecht Antwortzeit optimale Wahl für q - etwas grösser als typische Interaktion - Interaktion findet gerade noch währen time-slice statt 20

21 Multilevel Scheduling Priorität 0 Ready Queue Priorität 1 Priorität 2 Processor Priorität 3 21 In üblichen Systemen verschiedene Arten von Jobs - batch, interaktiv, systembezogen, rechenintensiv, etc. Jobs erhalten je nach Art verschiedene Prioritäten - für jede Priorität eine Queue - Scheduler wählt immer Jobs mit höchster Priorität Funktionsweise - der Dispatcher sucht immer Prozesse aus Queue mit höchster Priorität - Ready Queues: FIFO Queues -> Round Robin pro Queue Diskussion - Jobs mit tiefen Prioritäten können verhungern Abhilfe: dynamische Prioritäten 21

22 Multilevel Feedback Scheduling Priorität 0 Ready Queue Priorität 1 Priorität 2 Processor Priorität 3 22 Ähnlich wie Multilevel Scheduling - Priorität bei zuviel CPU-Verbrauch erniedrigen -> Prozesse sinken von Queue zu Queue: - Prozess wird bei Ablauf des Time Slices in die nächste Queue gehängt: RQ0 RQ1 RQ2 RQ3 - unterste Queue RR - kürzere Prozesse fallen nicht so tief (I/O-bound), längere Prozessen (CPUbound) driften auf den "Grund" und bleiben dort (RR Scheduling) Diskussion - Prozesse können immer noch verhungern - Priorität abhängig von konsumierter Rechenzeit -> einfach zu ermittlen (im Gegensatz zu Schätzwert bei SJF) - die Bestrafung rechenintensiver Jobs begünstigt kurze Jobs Starvation - Lösung nur mit dynamischen Prioritäten möglich - Priorität bei zu langer Wartezeit erhöhen -> Prozesse steigen von Queue zu Queue 22

23 Multilevel Feedback (ohne dynamische Prioritäten) MF mit q = 1und q = 2 i (i = Priorität der Queue) T s1 = 0, T b1 = 3 P 1 T s2 = 2, T b2 = 6 T s3 = 4, T b3 = 4 P 3 T s4 = 6, T b4 = 5 P 4 T s5 = 2, T b5 = 2 ML: q = 1 P P 1 P 1 P 3 P 4 P 3 P 5 P 4 P 5 P 3 P 4 P 3 P 4 P 4 t ML: q = 2 i P 1 P 3 P 4 P 5 P 3 P 4 P 5 P 3 P 4 1) P 1 RR P 1 P 1 P 3 P 4 P 3 P 5 P 4 P 3 P 5 P 4 P 3 P ) hier wechselt der Prozess von Prioritätsqueue 0 nach 1 ML: Multilevel Feedback ohne dynamische Erhöhung der Priorität - bei festem time slice werden rechenintensive Prozesse benachteiligt - siehe - Idee: time slice mit abnehmender Priorität erhöhen, z.b. q = 2 i lange Prozesse können nach wie vor verhungern Anmerkung zum variablen time slice - ein Prozess der einmal gestartet ist, kann erst unterbrochen werden, wenn sein time slice q=2 i abgelaufen ist, auch wenn in der Zwischenzeit ein Prozess mit höherer Priorität angekommen is - Beispiel: P 1 läuft zu beginn auf Priorität 0 für ein 1q und anschliessend mit Priorität 1 für 2q obwohl in der Zwischenzeit angekommen ist - die Queues werden demzufolge, bis auf diejenige mit der tiefsten Priorität, mit einem FCFS verfahren scheduliert Starvation - dynamische Erhöhung der Prioritäten notwendig Round Robin: nur zum Vergleich, ähnliches Resultat wie ML: q = 1 23

24 Zusammenfassung First Come First Served(FCFS) ältester Prozess Shortest Process Next(SPN, SJN) Prozess mit kürzester erwarteter Rechenzeit Priority Scheduling Prozesse nach Priorität "einsortiert" Round Robin (RR) Time Slicing und "Rotation" in Queue Multilevel / Multilevel Feedback (ML/MLF) Jobs in Prioritäts-Queues aufgrund div. Kriterien nonpreemptive preemptive 24 Welches Verfahren ist das Beste? - die Antwort hängt ab von der Workload des Systems Anzahl Prozesse, I/O-CPU-bound, etc. der Hardwareunterstützung für den Dispatcher Gewichtung der Performance Kriterien Methode der Evaluierung Toomanyfactorsto giveanyuseful... Was wird in der Praxis eingesetzt - Unix - Linux - Windows 24

25 Unix Scheduling Traditionelles Unix Scheduling: SVR3 und 4.3 BSD: Zielsysteme: Time-Sharing resp. interaktive Systeme Verfahren Multilevel Feedback, Round Robin innerhalb jeder Queue und dynamische Prioritäten Basispriorität: Einteilung der Prozesse in Benutzer- und Systemprozesse Neuberechnung der Prioritäten und Rescheduling alle Sekunden - 60 Timer Interrupts / Sek. unterstützt effiziente Nutzung von I/O-Geräten Unix SVR4 Scheduling vollständig überarbeitet unterstützt zusätzlich real-time Anwendungen 25 Unterstützt sehr gut Time Sharing Systeme CPU-bound Anwender-Prozesse werden bestraft Je nachdem auf welche BS Ressource gewartet wird, erhält Prozess unabhängig von Vorgeschichte (System) Priorität zugewiesen Prioritäten 25

26 Unix Scheduling traditionell (vor SVR4) Prioritäten basieren auf Prozesstyp und Geschichte tiefer Wert = hohe Priorität CPU j[ i 1] CPU j[ i] = 2 CPU j[ i] Pj [ i] = base j + + nice j 2 P j [i] base j CPU j [i] nice j Priorität von Prozess j zu Beginn des Intervalls i Basispriorität von Prozess j exponentiell gewichtete mittlere Prozessornutzung durch Prozess j bis zum Beginn von Intervall i benutzergesteuerter Anpassungsfaktor 26 CPU und nice Komponenten so gewählt, dass Prioritätsband nicht verlassen werden kann. Während dem Laufen - wird ein Prozesses mehrmals vom Zeitgeber unterbrochen 60 mal pro Sekunde - der CPU Usage Counter (U j [i]) wird jeweils inkrementiert, zu Beginn des Zeitintervals ist U j [i]=0 -> die Priorität sinkt bei starkr CPU Nutzung über die Zeit Hinweis - CPU j [i] wird auch in der Form CPU j [i]=cpu j [i-1] / 2 angegeben - in diesem Fall besteht CPU j [i-1] aus dem Wert zu Beginn des Intervalls i und der Anzahl Zähler-Takte während dem Intervall i, d.h. das Resultat ist in beiden Fällen gleich. 26

27 Unix Scheduling SVR4 Vollständige Überarbeitung des Scheduling Algorithmus Prioritäten: 3 Klassen, mit 160 Levels Real-Time Kernel Time-Sharing Priority Class Real- Time Kernel Global Value Scheduling Sequence first Preemption Points im Kernel Punkte, wo der Kernel "sicher" unterbrochen werden kann Time- Sharing last 27 Für jeden Prioritätslevel gibt es eine Dispatch Queue Prozesse in einem Prioritätslevel werden mit Round Robin ausgeführt Ausführung von Prozessen aus der Queue mit höchster Priorität, die nicht leer ist Immer wenn der Kernel an einem Preemption Point angelangt ist, wird überprüft, ob ein Real-Time Prozess lauffähig ist, falls ja wird der höchstpriorisierte lauffähige Real- Time Prozess gestartet Jeder Real-Time Prozess hat eine feste Priorität und ein festes Zeitquantum Time Shared Prozesse - variable Prioritäten erreichen des Zeitquantums Reduktion der Priorität blockieren wegen I/O Erhöhung der Priorität - variable Zeit-Quanten Priorität 0 100ms Priorität 59 10ms 27

28 Unix Fair Share Scheduling (FSS) Oft besitzen Benutzer mehrere Prozesse (Threads) 28 wie verhält sich diese Gruppe von Prozessen resp. Threads? Fair-Share Scheduling Erweiterung der Scheduling Konzepte auf (Prozess-)Gruppen CPU wird "fair" an Gruppen zugeteilt - unabhängig von Anzahl Prozesse / Threads Vorgehen Prozesse werden Gruppen zugeteilt Gruppe k bekommt Anteil W k an CPU-Zeit Beispiel: 4 gleichwertige Gruppen Gruppe 3 - hat mehr Prozesse als die anderen - erhält nach wie vor 1/4 der Rechenzeit Wurde von einigen Unix Systemen implementiert Fair-Share Scheduling - versucht die CPU fair auf die verschiedenen Gruppen von Prozesse zu verteilen - zusätzlicher Aufwand Erfassen von Laufzeitinformation innerhalb der Gruppen Berechnung der Priorität - starke Ausrichtung auf Anwender Anwender mit vielen Prozessen erhalten gleichen Anteil an CPU-Zeit, wie Anwender mit wenigen Prozessen -> fair Priorität des Prozesses P j [i] aus Gruppe k in Zeitintervall i P j [ i] = base j CPU + 2 j [ i] GCPU [ i] + 4 W k k base j : Basispriorität von Prozess j CPU j [i]: Prozessornutzung bis Zeitintervall i durch Prozess j GCPU k [i]: Prozessornutzung bis Zeitintervall i durch Gruppe k - Priorität sinkt, wenn Prozesse aus Gruppe k die CPU intensiv nutzen (! Wert wird grösser) - je grösser W k, desto weniger sinkt die Priorität 28

29 Linux-Scheduling: Kernel Drei Scheduler Klassen (absteigende Prio) Real-time: SCHED_FIFO, SCHED_RR, SCHED_DEADLINE ( 3.14) CFS: SCHED_OTHER, SCHED_BATCH Idle: SCHED_IDLE Tasks laufen in idle-zeiten der höheren Prioritätsklasse CFS: Completely Fair Scheduler Idee: kein Time-Slice, sondern "Anteil an Prozessorleistung" - Laufzeit wird fair auf Anzahl lauffähige Task verteilt keine Run-Queue (RQ) sondern ein Red-Black Tree - selbstbalancierender Binärbaum unterstützt Group-Scheduling nice Werte geometrisch multiplikativ 29 Hinweis - Task Prozess oder Thread CFS löst O(1) Scheduler ab - verbessertes Antwortverhalten für interaktive Systeme - verwendet keine Heuristiken - sehr viel weniger schlanker bezüglich Programmcode Ziel-Laufzeit: "target scheduling latency" - wird gleichmässig auf Tasks aufgeteilt n Tasks 1/n der Laufzeit - mehr Tasks kleinere Ziel-Laufzeit aber minimale Lauftzeit garantiert (minimum garnularity) damit nicht mehr 100% fair Beispiel - target scheduling latency = 20ms, - 4 lauffähige Tasks - jeder Tasks kann für 5ms laufen, bevor er unterbrochen wird Group Scheduling - Gruppe wird gesamthaft wie ein Taks behandelt - Beispiel: ein einzelner Task und eine Gruppe mit 4 Tasks der einzelne Task erhält 50% der Laufzeit Gruppe erhält 50% der Laufzeit 29

30 ... Linux-Scheduling: Kernel CFS-Scheduling jeder Prozess besitzt eine vruntime (virtual run time, in ns) - vruntime mit gewichteter Laufzeit erhöht Gewicht = 1 für normale Tasks (nice level 0) physikalische Zeit = virtuelle Zeit - vruntime sinkt während Wartezeit proprotional zu 1/#Tasks Dispatching - Prozess mit kleinster vruntime eingeplant - überprüft Re-Scheduling in Clock-Zeitraster - Laufzeit ~ Gewicht bezogen auf Scheduling Latenz - Scheduling Latenz: Intervall während dem Task laufen sollte neue Prozesse - vruntime = Minimum aller vruntimes kann sofort starten 30 Scheduling Latency - Zeitintervall während dem jeder lauffähige Prozess mindesten einmal laufen sollte - /proc/sys/kernel/sched_latency_ns: ca. 20ms Minimale Scheduling Granularität - minimales Zeitintervall, während dem ein Prozess laufen muss - /proc/sys/kernel/sched_min_granularity: ca. 2ms Falls mehr Prozesse vorhanden sind, als so einplanbar sind, wird die Scheduling Latency proportional erhöht Die Scheduling Granularität innerhalb der Scheduling Latency wird proportional zum Gewicht eines Taks vergeben "slice" - alle Gewichte gleich: jeder erhält den gleichen "slice" 30

31 Windows Scheduling Priorität Scheduling: nur Threads Scheduling 31 Real-Time Prioritäten Round Robin pro Priorität Variable Prioritäten Multilevel Feedback 0 31 Windos 2000 Scheduling - es gibt kein eigentliches Scheduling Module, Code für Scheduling über ganzen Kernel verteilt - ausschliesslich Thread Scheduling (keine Prozesse) - Multilevel (feedback, dynamische Prioritäten) 32 Prioritätststufen, 2 Prioritätstklassen 16-31: 0-15: Real-Time, Round Robin Queue variable Prioritäten (0 System), Multilevel Feedback - unterstützt Real-Time Threads - unterstützt symmetrisches Multiprocessing 31

32 Multiprozessor Scheduling Uniprozessor Scheduling 1-dimensional Zeit - welcher Task läuft als Nächster Multiprozessor Scheduling 32 2-dimensional Zeit und Ort - welcher Task läuft als Nächster - auf welcher CPU einplanen Problemstellungen Load Balancing - benötigt Process Migration Prozessor Affinität - Caches, UMA/NUMA, etc. numa node 0 numa node 1 Anforderungen an Scheduler für Multiprozessor Systeme - Load Balancing CPU Last muss möglichst gleich verteilt werden Prozesse müssen zwischen CPUs verschoben werden können - Afinität Tasks sollten wenn möglich auf CPU gebunden werden können 32

33 ... Multiprozessor Scheduling Nicht verwandte Tasks einfachster Fall: 1 gemeinsamer Scheduler - Timesharing, Zeitquantum q - Tasks nach Prioritäten der CPU zugewiesen Eigenschaften - automatisches Load Balancing - eine gemeinsame Scheduling Datenstruktur Problemstellungen Task läuft lange auf CPU viele Daten ins Cache geladen - CPU-Wechsel Daten müssen neu geladen werden Task hält Spin-Lock, q läuft ab Task wird unterbrochen - Tasks die am Lock warten warten bis Task wieder läuft Lösungsansätze: Affinity Scheduling und Smart Scheduling 33 Lösungansätze für Problemstellungen - Affinity Scheduling Scheduler versucht Task immer auch gleicher CPU zu halten z.b. two-level scheduling Level 1: Task auf CPU mit z.b. kleinster Last gestartet Level 2: Task wird dann auf Stufe CPU scheduliert Nachteil ev. schlechet CPU Nutzung - Smart Scheduling Tasks, die Lock halten, setzen flag falls flag gesetzt Scheduler kann Task nicht unterbrechen 33

34 ... Multiprozessor Scheduling Verwandte Tasks Space Sharing mehrere Tasks (Threads) arbeiten zusammen Scheduling mehrerer Tasks über mehrere CPU's Einfachstes Verfahren non-preemptive gestarteter Task wird abgearbeitet CPU idle während Blocking Tasks nur starten wenn genügend CPU's verfügbar Vorteil / Nachteil - kein Overhead wegen Kontextwechsel - eher schlechtes Load Balancing Alternatives Verfahren zentrale Instanz (Server) überwacht Scheduling Anzahl Threads wird von Applikation dynamisch angepasst 34 Alternative Methode - eine zentrale Instanz verfolgt (Server) welche Threads laufen und welchen laufen möchten welches die Minmal- und Maximalanforderungen der Anwendungen bzgl. CPU's sind - die Anwendungen fragen periodisch beim Server nach, wie viele CPUs genutzt werden dürfen 34

35 ... Multiprozessor Scheduling Space Sharing/ Dedicated Processor Assignment Prozesse (Programme) werden CPU-Gruppen zugewiesen Anzahl CPU's = Anzahl Threads / Programm 8-CPU Gruppe 6-CPU Gruppe CPU Gruppe nicht zugewiesen 12-CPU Gruppe 35 Wird in clusterbasierten Systemen mir sehr vielen CPU's verwendet 35

36 ... Multiprozessor Scheduling Interagierende Threads Beispiel - Prozess A mit Threads A 0, A 1 - Prozess B mit Threads B 0, B 1 CPU 0 A 0 B 0 A 0 B 0 A 0 B 0 Anfrage Antwort Anfrage Antwort Anfrage Antwort CPU 1 B 1 A 1 B 1 A 1 B 1 A q = 10ms t 36 Zwei Prozesse: A und B - jeweils zwei Threads A 0 und A 1, resp. B 0 und B 1 - A 0 und B 0 werden CPU 0 zugewiesen, A 1 und B 1 CPU 1 A 0 und B 1 starten in gleichem Zeitquantum - Anfragen bzw. Antworten stehen erst zu Beginn des nächsten Time Slots zur Verfügung Problem - auch wenn Antwort sofort abgeschickt Datenaustausch nur alle 20ms 36

37 ... Multiprozessor Scheduling Interagierende Threads Beispiel - Prozess A mit Threads A 0, A 1 - Prozess B mit Threads B 0, B 1 CPU 0 A 0 B 0 A 0 B 0 A 0 B 0 Anfrage Antwort Anfrage Antwort Anfrage Antwort CPU 1 A 1 B 1 A 1 B 1 A 1 B q = 10ms t 37 Zwei Prozesse: A und B - jeweils zwei Threads A 0 und A 1, resp. B 0 und B 1 - A 0 und B 0 werden CPU 0 zugewiesen, A 1 und B 1 CPU 1 A 0 und B 1 starten in gleichem Zeitquantum - Anfragen bzw. Antworten stehen erst zu Beginn des nächsten Time Slots zur Verfügung Problem - auch wenn Antwort sofort abgeschickt Datenaustausch nur alle 20ms 37

38 ... Multiprozessor Scheduling Gang Scheduling Gruppe verwandter Threads gemeinsam schedulieren Gang Gang-Mitglieder - gleichzeitig auf verschiedenen CPU's aktiv - starten und beenden Time Slice gemeinsam CPU 0 CPU 1 CPU 2 CPU 3 CPU 4 CPU 5 q t 38 Idee Beispiel - wenn alle Threads zusammen laufen, gibt es keine Verzögerung beim Austausch von Information - 6 CPU's - 5 Prozesse mit mehreren Threads 6 Threads (blau) 3 Threads (pink) 3 Threads (grün) 2 Threads (dunkelblau) 4 Threads (gelb) Diskussion - Load Balancing "Auslastungslöcher" möglich - Affinity gleicher Thread auf gleicher CPU ev. Problem, wenn Gang nicht ready - muss nicht so extrem implementiert werden group scheduling 38

39 Zusammenfassung: Multiproc. Scheduling Multicore Scheduling berücksichtigt Load Balancing Affinity Synchronisation / Kommunikation zwischen verschiedenen CPU's Echte Parallelverarbeitung möglich, aber Spitzenleistung oft nicht ausgenutzt - Tasks meist nicht unabhängig Synchronisation / Kommunikation / gemeinsame Daten - strikte Affinität nicht durchsetzbar Programmierer z.z. für Parallelisierung verantwortlich 39 39

40 Real-Time Systeme Real-Time Systeme Systeme, die auf Ereignisse in der "äusseren Welt" reagieren Ereignisse finden in der "reellen Zeit" statt real-time intuitive Betrachtungsweise - das System muss schnell reagieren... was heisst schnell? Real-Time Systeme verhalten sich korrekt, wenn das logischen Resultat einer Berechnung stimmt das Resultat zum richtigen Zeitpunkt ausgeliefert wird (innerhalb einer Deadline) Klassierung Hard Real-Time Systeme Soft Real-Time Systeme 40 Anwendungen - Steuerung von Laborexperimenten, Prozesssteuerungen, Robotik, Luftfahrt, Fahrzeugesteuerungen, Telekom, etc. - real-time Systeme gewinnen zunehmend an Bedeutung Anforderungen - i.a. erhöhte Anforderungen an Zuverlässigkeit und Korrektheit des Systems als bei Desktop Systemen Hard Real-Time Systeme - Zeitbedingungen (Deadlines): müssen eingehalten werden - Nichteinhalten der Deadline hat schwerwiegende Konsequenzen Misserfolg oder Ausfall des Systems Voyager - Beispiel Flugzeugsteuerung, z.b. Landeanflug: 20m über Boden... Soft Real-Time Systeme - Zeitbedingungen (Deadlines): sollten eingehalten werden - Nichteinhalten der Deadline hat keine schwerwiegenden Konsequenzen - Beispiel Banküberweisungen Bank sollte Überweisung innerhalb einer Woche tätigen 40

41 Real-Time Systeme Typische Eigenschaft von Echtzeitsystemen zeitkritische Tasks wiederholen sich in regelmässigen Abständen die Dauer und die benötigten Betriebsmittel sind bekannt Beispiel: Flugzeugsteuerung Airbus A-340 die Steuerung benötigt verschiedene Flugdaten - Beschleunigung in x-, y- und z-richtung: alle 5ms - die drei Werte der Drehung: alle 40ms - die Temperatur: alle Sekunden - die absolute Position zur Kontrolle: alle 10s - Aktualisierung der Bildschirmanzeige: alle Sekunden 41 Real-Time Tasks - eine Instanz eines Real-Time Tasks löst i.a. eine in sich geschlossene Aufgabe - Instanz wird oft periodisch wiederholt - die Verarbeitungszeit und benötigten Ressourcen sind oft im voraus bekannt 41

42 Real-Time Tasks Drei Real-Time Task Klassen 1. kritische Tasks - periodische Tasks - asnychrone, sporadische Tasks 2. nicht kritische, aber notwendige Tasks 3. nicht notwendige Tasks (nice to have) Entsprechende Scheduling Verfahren wählen kritische Tasks - Rate Monotonic, Deadline nicht kritische Tasks - übliche Scheduling Kriterien nicht notwendige Tasks - im Hintergrund, in verbleibender Zeit ausführen 42 In Echtzeitsystemen gibt es nicht nur Real-Time Tasks, die auf die Umwelt reagieren müssen Task Klassen - kritische Tasks periodische Tasks: Video Rendering, Audioverarbeitung asynchrone, sporadische Tasks Air Bag: 10ms für Entscheid, nach 30ms aufgeblasen - nicht kritische Tasks need to have und nice to have abhängig von Funktionalität des Systems Beispiele Real-Time Tasks Selbsttests, Kalibrierung Auslastungsmonitore, Logging Visualisierung zeitlich nicht kritische Datenübertragung: z.b. erfasste Messdaten - sind meist "lightweight processes" - im wesentlichen Threads - arbeiten in gemeinsamem Adressraum gemeinsame Daten kein Kontextwechsel notwendig Umschaltung effizient 42

43 Real-Time Scheduling Short-Time Scheduler eine der wichtigsten Komponenten eines Real-Time Systems Scheduling Strategie abhängig von Systemanforderungen - Hard-Real Time Systeme - Soft-Real Time Systeme - periodische Tasks vs. asynchrone Tasks Betrachten im folgenden Rate Monotonic Scheduling Deadline Scheduling Cyclic Excutives preepmtive statisch 43 43

44 Rate Monotonic Scheduling (RMS) Preemptives Verfahren für periodische Tasks Cycle 1 Cycle 2 Processing Processing t Task A execution time C j Task A period T j Idee statische Priorität eines Jobs proprotional zu Repetitionsrate 1973 von Liu und Layland vorgeschlagen high Priority low Rate = 1/T Hz 44 Rate Monotonic Scheduling - preemtive Tasks müssen unterbrechbar sein - Priorität proportional zur Repetitionsrate Tasks müssen periodisch sein - statische Zuweisung von Prioritäten Tasks müssen unabhängig sein: müssen gegenseitig nicht aufeinander warten (z.b. Resultate, etc.) 44

45 U tot - Auslastung des Prozessors durch mehrere periodische Tasks Rate Monotonic Scheduling Was ist daran so interessant? Grenze für erfolgreiches Scheduling kann berechnet werden Vorgehen Prozessorauslastung U j durch periodischen Task j, ( U j 1) : C U j = T j j C j Rechenzeit T j Periode gesamte Prozessorauslastung U tot bei n periodischen Tasks U tot C1 C2 C3 Cn = T T T T n 45 - U j = Rechzeit pro Periode muss kleiner als 1 sein 45

46 Rate Monotonic Scheduling Obige Formel zu optimistisch, nur bei perfektem Schedule möglich Korrekter Schedule für n Tasks garantiert bei Einhaltung folgender Grenze U Diskussion C 1 1 C2 C3 Cn n (2 1) T T T T n tot = n eher konservativ, besserer Auslastung möglich Scheduling Algoritmus beliebig Grenzwert für n : U tot = ln konkrete Anwendungen: Auslastung bis 90% realistisch 46 Bei Einhaltung obiger Grenze - Schedule immer garantiert - aber eher konservativ für grosse n nur 70% CPU Auslastung falls Sie sich das leisten können kein Problem 46

47 Rate Monotonic Scheduling C j T j U tot = = P.S. Wie gross ist die Repetitionsrate des Schedules? kgv 47

48 Deadline Scheduling Idee Tasks zum richtigen Zeitpunkt starten resp. beenden Mögliche Deadlines Start-Deadline - Zeitpunkt zu dem ein Task gestartet werden muss Completion-Deadline - Zeitpunkt an dem der Task beendet sein muss Earliest Deadline Scheduling Priorität umgekehrt proportional zur Zeit bis Deadline Scheduling aufwendiger als bei RMS - Prioritäten müssen dynamisch angepasst werden theoretisch 100%-tige Prozessorauslastung möglich 48 48

49 Earliest Deadline Scheduling C i T i Rescheduling - hier alle 5 Zeiteinheiten - wenn sich Task suspendiert 49 Beispiel zu Earliest Deadline Scheduling - Rescheduling alle 5 Zeiteinheiten wenn Task sich suspendiert (Tasks sind periodisch) - bei gleichen Prioritäten z.b. höhere Repetitionsrate bevorzugen 49

50 Cyclic Executives Eigenschaften statisches Scheduling non-preemtive Schedule für periodischen Hauptzyklus (100ms) - mehrere Nebenzyklen (hier 4, 25ms) Realisierung: Aufruf von Prozeduren Task C i T i T T T T T P 5 P 4 P 3 P Beispiel - Hauptzyklus und 4 Nebenzyklen - Hauptzyklus 100T, jeder Nebenzyklus 25T Diskussion - manchmal schwierig einen sinnvollen Schedule zu finden (abhängig von Task- Struktur) Pseudo Code für Realisierung: timer event alle 25T MainLoop: wait; // wait for timer event call T1_T2; call T3; wait; // wait for timer event call T1_T2; call T4; wait: // wait for timer event call T1_T2 call T3 wait: // wait for timer event call T1_T2 call T4 jump MainLoop; 50

51 RT-Linux: Foreground-/Background-Scheduling init shell X11 System-Bibliotheken Treiber Linux RT-task RT-task Scheduler RTLINUX Hardware 51 Antwortzeiten in der Grössenordnung von Mikrosekunden - abhängig von Treibern: wie lange wird die CPU blockiert - abhängig von anderen RT-tasks Kritische real-time Tasks foreground tasks - Threads - Direktzugriff auf Hardware Interrupts Nicht kritische Tasks background tasks - Linux traditionell als "task" - Visualisierung - Vernetzung - etc. 51