Ziele. Begriff. Wiederholung: Prozess ist ein Konzept zur Virtualisierung des Prozessors Aufteilung der Prozessorzeit Scheduling.

Transkript

1 Betriebssysteme Sommersemester Betriebssysteme. Kapitel Scheduling Prof. Matthias Werner Professur Betriebssysteme. Einführung Strategie und Mechanismus. Einführung Wiederholung: Prozess ist ein Konzept zur Virtualisierung des Prozessors Aufteilung der Prozessorzeit Scheduling Beim Scheduling muss unterschieden werden: Strategie (policy): Die prinzipielle Entscheidung, welcher Prozess wann geplant wird Mechanismus: Die Art und Weise, mit der die Strategie durchgesetzt wird n Mikrokernelsystemen ist der Mechanismus stets im Kern, während die Strategie auch im Nutzerbereich angesiedelt werden kann Auf dieses Weise kann die Strategie leicht angepasst werden Den Mechanismus haben wir schon im Kapitel n diesem Kapitel betrachten wir die Scheduling-Strategie SoSe M. Werner /. Einführung. Einführung Begriff Ziele Scheduling (etwa: Ablaufplanung): Zeitliche Zuordnung von Aktivitäten zu Ressourcen Scheduling tritt auf verschiedenen Granularitätsebenen auf, z.b. Wann sollen Programme gestartet werden? Abwicklung Wann soll ein Prozess eine CPU erhalten? Scheduler Wann soll ein bestimmter Befehl einer Befehlsfolge ausgeführt werden Prozessor in Pipelining- bzw. Superskalararchitekturen m Bereich Betriebssysteme ist meist gemeint, welcher Prozess wann auf welchen Prozessor(kern) ausgeführt wird Scheduling-Theorie ist wesentlich älter als der Computer und wurde z.b. in der Bauplanung benutzt Die Scheduling-Strategie kann beträchtlichen Einfluss auf die Leistung eines Rechnersystems besitzen Die Auswahl einer Strategie hängt von den Zielen ab, die im System verfolgt werden sollen Mögliche Ziele hohe Effizienz Prozessor gut ausgelastet geringe Antwortzeit bei interaktiven Prozessen hoher Durchsatz bei Stapelbetrieb (batch-processing) Fairness gerechte Verteilung der Prozessorleistung und Wartezeit unter die Prozesse Pünktlichkeit Einhalten von Fristen oder möglichst geringe Verspätung... SoSe M. Werner / SoSe M. Werner /

2 . Einführung. Einführung Schema des Schedulings Bedienzeit vs. Antwortzeit Aankunft warten rechnen Ende Neuankömmling bzw. verdrängter Prozess Einordnen gemäß Strategie Prozessoren... Wartezeit (waiting time) Antwortzeit (response time) Bedienzeit (execution time) nächster Prozess... Anmerkung n der Schedulingtheorie spricht man als der zu planenden Einheit i.d.r. von einem Task oder Job (nicht Prozess.) Mitunter wird auch ein Unterschied zwischen Task und Job gemacht, jedoch nicht in dieser Vorlesung (aber z.b. in VL Echtzeitsysteme). SoSe M. Werner / SoSe M. Werner /. Standardstrategien. Standardstrategien Nutzen durchgängiges Beispiel Gegeben seien folgende fünf Prozesse (Tasks) Nr. Ankunft a Bedienzeit t e Priorität P. Standardstrategien First Come First Serve FCFS auch FFO (First n First Out) Arbeitsweise: Bearbeitung der Prozesse in der Reihenfolge ihrer Ankunft in der Bereitliste Prozessorbesitz bis zum Ende oder zur freiwilligen Aufgabe Anmerkung: Entspricht der Alltagserfahrung a a a a a 9 9 SoSe M. Werner / SoSe M. Werner /

3 . Standardstrategien Last Come First Served Preemptive Resume LCFS-PR, Arbeitsweise: Neuankömmling in Bereitliste verdrängt den rechnenden Prozess Verdrängter Prozess wird hinter dem verdrängendem Prozess in die Warteschlange eingereiht Falls keine Ankünfte Abarbeitung der Liste ohne Verdrängung Anmerkung: Ziel ist die Bevorzugung kurzer Prozesse Kurzer Prozess hat Chance, noch vor nächster Ankunft fertig zu werden Lange Prozesse werden u.u. mehrfach verdrängt a a a a a. Standardstrategien Last Come First Served Preemptive Resume (Forts.) Stärken von FCFS-PR kommen im Beispiel-Taskset nicht voll zum tragen Betrachten daher folgende Prozesse: Nr. Ankunft a Bedienzeit t e Nr. Ankunft a Bedienzeit t e a a a a a a SoSe M. Werner 9 / Task und Task werden vor einer möglichen Verdrängung fertig SoSe M. Werner /. Standardstrategien. Standardstrategien Round Robin RR, Arbeitsweise: Bearbeitung der Prozesse in Ankunftsreihenfolge Nach Ablauf einer vorher festgesetzten Frist τ (Zeitscheibe, time slice, CPU-quantum) findet eine Verdrängung statt und es wird auf den nächsten Prozess umgeschaltet Anmerkung: Ziel des Verfahrens ist die gleichmäßige Verteilung der Prozessorkapazität und der Wartezeit auf die Prozesse Wahl der Zeitscheibenlänge τ ist Optimierungsproblem Für großes τ nähert sich RR der Reihenfolgestrategie FCFS Für kleines τ schlägt der Aufwand für das häufige Umschalten negativ zu Buche Üblich sind Zeiten im msec-bereich Round Robin (Forts.) τ = τ = a a a a a 9 9 a a a a a 9 9 SoSe M. Werner / SoSe M. Werner /

4 . Standardstrategien. Standardstrategien Priorities Nonpreemptive Priorities Preemptive PRO-NP, Arbeitsweise: a a PRO-P, Arbeitsweise: Neuanko mmlinge werden nach ihrer Priorita t in die Bereitliste eingeordnet Prozessorbesitz bis zum Ende oder zur freiwilligen Aufgabe a a a Wie PRO-NP, jedoch mit Verdra ngungspru fung: der rechnende Prozess wird verdra ngt, wenn er geringere Priorita t hat als der Neuanko mmling a 9 9 a Prio. a a a 9 9 Prio. SoSe M. Werner / SoSe M. Werner. Standardstrategien /. Standardstrategien Effekt von Priorita ten Effekt von Priorita ten (Forts.) Modellierung mit Warteschlangentheorie λ Ankunftsrate (# Anku nfte pro Zeiteinheit) á Poisson-Prozess te Bedienzeit (reine Rechenzeit) á Exponentialverteilung tw Mittlere Wartezeit tq Mittlere Antwortzeit, tq = tw + te t trn Normalisierte Antwortzeit, trn = teq = + ttew ρ Auslastung, ρ = λ te Klassen, te = te, λ = λ Normalisierte Antwortzeit fu r lange Bedienzeiten (= niedrige Priorita t): trn ρ SoSe M. Werner / SoSe M. Werner /

5 . Standardstrategien. Standardstrategien Effekt von Priorita ten (Forts.) Shortest Job Next SJN, auch SPN (shortest Prozess next) Arbeitsweise: Klassen, te = te, λ = λ Normalisierte Antwortzeit fu r kurze Bedienzeiten (= hohe Priorita t): Anmerkung: FCFS a trn SJN und SRTN haben den Nachteil, dass sie Kenntnis der Bedienzeit beno tigen, die nur vom Benutzer in Form einer Scha tzung stammen kann La ngere Prozesse ko nnen verhungern, wenn stets ku rzere vorhanden sind a PRO-NP Prozess mit der ku rzesten Bedienzeit wird als na chster bis zum Ende oder zur freiwilligen Aufgabe bearbeitet Wie PRO-NP, wenn man die Bedienzeit als Priorita tskriterium verwendet a a a 9 9 PRO-P ρ Mehr in Betriebssysteme SoSe M. Werner / SoSe M. Werner. Standardstrategien Highest Response Ratio Next SRTN, Arbeitsweise: Prozess mit der ku rzesten Restbedienzeit wird als na chster bearbeitet Rechnender Prozess kann verdra ngt werden HRN, Arbeitsweise Das Anwortverha ltnis (response ratio) r ist definiert als Anmerkung: Bevorzugt kurze Prozesse und fu hrt daher zu ku rzeren mittleren Antwortzeiten als FCFS a a a a rr = a 9. Standardstrategien Shortest Remaining Time Next / 9 tw + te te mit tw : Wartezeit, te : Bedienzeit rr wird dynamisch berechnet und als Priorita t verwendet Prozess mit gro ßtem rr -Wert wird als na chster ausgewa hlt Strategie ist nicht verdra ngend Anmerkungen SoSe M. Werner 9 / Wie bei SJN werden kurze Prozesse bevorzugt, lange Prozesse mu ssen aber nicht ewig warten, sondern ko nnen durch Warten Punkte sammeln Wieder muss Bedienzeit bekannt sein SoSe M. Werner /

6 . Standardstrategien. Standardstrategien Highest Response Ratio Next (Forts.) a a a a Feedback FB, auch multilevel feedback Arbeitsweise: a 9 9 Kennt man die Bedienzeit a priori nicht, mo chte aber lang laufende Prozesse benachteiligen, so kann man den Prozess nach jeder CPU-Benutzung in seiner Priorita t schrittweise herabsetzen Mehrere Warteschlangen, bei denen die niederprioren (gro ßeres i) nur abgearbeitet werden, wenn ho herpriore (kleineres i) leer sind Unterschiedliche Zeitscheibenla ngen τ sind mo glich, z.b. τ = i á niedrigere Priorita ten bekommen la ngere Abschnitte Warteschlange Abgang Zugang Warteschlange Abgang Warteschlange n Abgang SoSe M. Werner /. Standardstrategien a τ = a a 9 9 τ = i a a SoSe M. Werner mit Priorita ten ohne Priorita ten mit Priorita ten bedienzeitunabha ngig FCFS PRO-NP LCFS-PR, RR, FB PRO-P bedienzeitabha ngig SJN, HRN 9 9 ohne Priorita ten a mit Verdra ngung a a ohne Verdra ngung Standardstrategien (U bersicht) a /. Standardstrategien Feedback (Forts.) a SoSe M. Werner SRTN / SoSe M. Werner /

7 . Fallbeispiele. Fallbeispiele realer Scheduler Reale Betriebssysteme haben i.d.r. keine reinen Schedulingstrategien, sondern Mischformen Teilweise werden bei der Zuweisung von Rechenzeit Sonderfälle berücksichtigt oder Spezialmaßnahmen getroffen Da Scheduling zum Betriebssystemoverhead zählt, muss dem erzielten Effekt immer der benötigte Aufwand gegenüber gesetzt werdenwir betrachten: Klassisches Unix-Scheduling Linux-Scheduler Windows-NT-Scheduler. Fallbeispiele.. Klassisches Unix-Scheduling Ähnlicher Ansatz in. BSD und System V Release Unterschied vorwiegend in Parametern Hier:. BSD auf VAX Prinzipieller Ansatz: Feedback mehrere Queues nnerhalb einer Queue: Round Robin Ziel: Allgemeine Fairness bei Bevorzugung interaktiver Jobs Queues werden Prioritäten zugeordnet (... ) Kleine Werte hohe Priorität Große Werte niedrige Priorität Festlegung der Priorität (Queue) in Abhängigkeit von... CPU-Nutzung durch den Prozess Gesamtbelastung der CPU Nutzervorgabe SoSe M. Werner / SoSe M. Werner /. Fallbeispiele. Fallbeispiele Feedback Queues in UNX höchste Priorität (...) niedrigste Priorität (...) Zusammenfassung von vier Prioritäten in einer Queue Round-Robin innerhalb der Prioritätsklassen (Queues) n manchen UNX-Varianten sind höhe Prioritätsklassen nicht unterbrechbar Alterung Typische Zeitverhältnisse (VAX): Timertick: Hz Berechnung der Priorität: Hz Zeitscheibe für Round Robin: ms Wechsel mit Hz Glättung der Alterung Hz Pro Timertick wird der Wert L CPU im PCB des running Prozesses um erhöht Bei jedem vierten Timertick wird die Priorität des laufenden Prozesses wie folgt berechnet: P J = min(p base + LCPU + p nice, ) Dabei ist Pbase die Basispriorität, für ein Nutzerprogramm in. BSD Während besonderer Situationen (/O, Swapping,...) haben Prozesse andere Basisprioritäten pnice ein nutzerwählbare Wichtigkeit,... 9 SoSe M. Werner / SoSe M. Werner /

8 . Fallbeispiele Alterung (Forts.) Wenn ein Prozess eine Priorität in einer anderen Prioritätsklasse bekommt, wird er in die andere Queue umsortiert Diesen Vorgang nennt man Alterung: starke Prozessorbenutzung führt zu einer schlechten Priorität! Glättung. Fallbeispiele Mit der Zeit wächst LCPU und damit die Priorität alle (hinreichend lange laufende) Prozesse hätten nach einiger Zeit hohe (schlechte) Prioritätswerte Kompensation: Glättung des Wertes der Prozessornutzung L CPU einmal pro Sekunde Reduzierung des Einflusses der letzten Rechenzeiten (Dämpfungsfilter) Rechenintensive Prozesse werden benachteiligt /O-intensive Prozesse werden bevorzugt: Sie belegen den Prozessor nur kurz, um einen E/A-Auftrag abzusetzen Man erreicht dadurch eine hohe Parallelität zwischen den aktiven Rechnerkomponenten (CPU und Peripherie) n einigen UNXen wird /O zusätzlich belohnt L CPU = l RQ l RQ + L CPU + p nice l RQ : Durchschnitt der Länge der Ready-Queue während der letzten Minute Dämpfung ist abhängig von der Last des Systems SoSe M. Werner 9 / SoSe M. Werner /. Fallbeispiele Glättung (Forts.) Auswirkung der Systemlastanpassung Beispiel: Einzelner Prozess, sammelt c i Timerticks in der i. Sekunde an, p nice = L () CPU = c L () CPU = (c + ) c = c + 9 c L () CPU = c + 9 c + c L () CPU = c + 9 c + c + c L () CPU = c + + c. Fallbeispiele Glättung (Forts.) Sonderfall: blockierte (schlafende) Prozesse erhalten keine Timerticks Bei Schlaf länger als eine Sekunde nach dem Aufwecken: L CPU = ( ) tsleep lrq L CPU l RQ + t sleep wird einmal pro Sekunde inkrementiert, Nach fünf Sekunden gehen nur noch etwa % der Altlast ein SoSe M. Werner / SoSe M. Werner /

9 Diskussion. Fallbeispiele. Fallbeispiele.. Linux-Scheduling Schnelle Ermittlung des nächsten Prozesses bei vielen Prozesse mit unterschiedlicher Priorität aufwendige Neuberechnung der Priorität u. U. Entnahme und Neueinreihen in Queue anderer Priorität Neuberechnung der Priorität nur für den aktuellen Prozess Berücksichtigung der aktuellen Last keine Echtzeit-Priorisierung Betrachten zunächst Linux. Prozessverwaltung über doppelt verkettete Listen: Liste zur Verwaltung aller Prozesse Liste zur Verwaltung aller bereiten Prozesse (ready to run) Drei Prozessklassen Konventionelle Prozesse: nteraktive Prozesse und Batch Prozesse (Batch Jobs) FFO-Echtzeit-Prozesse RR-Echtzeitprozesse Grundlage: (eine Art) priorisiertes Round-Robin für alle konventionellen Prozesse First-n-First-Out für FFO-Echtzeit-Prozesse, Round-Robin für RR-Echtzeitprozesse SoSe M. Werner / SoSe M. Werner / Epochen. Fallbeispiele Gütefunktion. Fallbeispiele Prozessen zugewiesene Prozessorzeit ist in Epochen unterteilt Epochenbeginn: alle lauffähige Prozess haben ihr Zeitquantum erhalten Epochenende: alle lauffähigen(!) Prozesse haben ihr Zeitquantum verbraucht Zeitquanten (Zeitscheiben) variieren mit den Prozessen und Epochen jeder Prozess besitzt eine einstellbare Zeitquantumbasis nice() Ticks ms das Zeitquantum eines Prozesses nimmt periodisch (Tick) ab Der Linux-Scheduler berechnet die Güte (goodness) jedes laufbereiten Prozesses und wählt aus Güte = : Prozess hat sein Quantum verbraucht Güte : konventioneller Prozess mit Restquantum in dieser Epoche Güte : Echtzeit-Prozess static inline intgoodness (p, this_cpu, this_mm ) { int weight = -; verbleibende Zeit in der Epoche if (p-> policy == SCHED_OTHER ) { weight = p-> counter ; if (! weight ) goto out; if (p->mm == this_mm!p->mm) weight += ; } weight += -p-> nice ; goto out; } weight = + p-> rt_priority ; out : return weight ; kernel/sched.c (Linux..) SoSe M. Werner / SoSe M. Werner /

10 Diskussion. Fallbeispiele. Fallbeispiele Linux-O()-Scheduler Schnelle Ermittlung des nächsten Prozesses bei wenigen Prozessen Bearbeitung aller Prozesse bei Ermittlung des nächsten Prozesses Bearbeitung aller Prozesse bei nitialisierung der Prioritäten bei Ende einer Epoche Ansatz einer Echtzeit-Priorisierung Problem: Laut Benchmarking verbringt der Kern -% in der goodness-funktion schlechte Skalierbarkeit Probleme führten zur Entwicklung des O()-Schedulers ab Linux. Ziele: Bessere Skalierbarkeit SMP Eine Run-Queue pro Prozessor mit zwei Prioritäts-Arrays: Array für alle Prozesse mit positivem Quantum Array für alle Prozesse mit verbrauchtem Quantum Jedes Array besteht aus einer Bitmap und eine Queue von lauffähigen Prozessen für jeden Prioritätslevel ein Bit für jeden Prioritätslevel Vertauschen des Pointers zwischen den beiden Arrays, wenn keine Prozesse mit Quantum mehr vorhanden SoSe M. Werner / SoSe M. Werner /. Fallbeispiele Linux-O()-Scheduler (Forts.) Prioritätsarray. Fallbeispiele Wieder hat jeder Prozess ein Zeitquantum Quantum hängt von Priorität ab # define BASE_TMESLCE (p) ( MN_TMESLCE + \ (( MAX_TMESLCE - MN_TMESLCE ) * \ ( MAX_PRO - - (p)->static_prio ) / ( MAX_USER_PRO -))) Priorität wird bei Start zugeordnet (nice) und ändert sich um maximal ± CPU-bound Prozesse werden bestraft /O-bound Prozesse (mit /O) werden belohnt Zusätzlich: nteraktive Prozesse erhalten jede Millisekunde ihr Quantum aufgefüllt SoSe M. Werner 9 / Finden des höchstpriorisierten Prozesses reduziert sich auf Finden des ersten gesetzten Bites unabhängig von Anzahl der Prozesse find first set() kann effizient implementiert werden nnerhalb einer Priorität wird Round Robin genutzt SoSe M. Werner /

11 . Fallbeispiele.. Scheduling in Windows Preemption. Fallbeispiele Auch Windows (NT und folgende) verwendet eine verdrängende, auf Prioritäten und Zeitscheiben beruhende Umschaltstrategie Es werden Prioritätsklassen unterschieden: - für Echtzeitprozesse - für normale Prozesse für den Leerlaufprozess Die Standard-Zeitscheibenlänge ist bei Workstation-Systemen Einheiten, bei Server-Systemen Einheiten lang Bei jeder Unterbrechung von der Hardware-Uhr (clock tick) wird die aktuelle Zeitscheibenlänge um Einheiten dekrementiert Die Uhrauflösung ist bei ntel-prozessoren ca. - msec, d.h. eine Zeitscheibe ist - msec bei einer Workstation und - msec bei einem Server Wird ein Prozess laufbereit, der eine höhere Priorität hat als der derzeitig laufende, wird der laufende verdrängt Verdrängte Prozesse werden an den Anfang der Warteschlange des Prioritätslevels gestellt Normale Prozesse behalten ihr Restquantum Echtzeitprozesse erhalten ihr Quantum aufgefüllt Dagegen werden Prozesse mit verbrauchten Quantum ans Ende der Warteschlange gestellt Falls ein Prozess eine Priorität über seiner Basispriorität hat, wird die Priorität dekrementiert SoSe M. Werner / SoSe M. Werner /. Fallbeispiele Windows-Scheduling. Fallbeispiele Windows-Scheduling (Forts.) Auch in Windows werden Prioritäten dynamisch angepasst m Gegensatz zu UNX werden Prioritäten temporär erhöht priority boost Dies geschieht... nach Beendigung eines E/A-Auftrags nach Warten auf Events, wait(), Semaphore etc. bei GU-Prozess nach einer Fenster-Aktivität wenn ein Prozess sehr lange (- Sekunden) nicht aktiv war (Starvation-Verhinderung) Der Boost-Level wird nach jeder Zeitscheibe verringert, bis die Ursprungspriorität erreicht wird Ausnahme: Bei Starvation wird der Boost nach zwei Quanten vollständig zurück genommen Neben den Prioritäten werden in Windows auch die Zeitscheiben manipuliert Verlängerung der Zeitscheiben für Vordergrundprozesse quantum boost Standard nur in Workstation-Variante (nicht bei Server) Bei Starvation-Gefahr um Faktor auch bei Nicht-Vordergrundprozess Einstellbarer Faktor, oder Timerticks (normal: Timerticks) Konfigurierbar über Performance-Optionen oder Registry (HKLM\SYSTEM\CurrentControlSet\Control\PriorityControl\ WinPrioritySeparation) SoSe M. Werner / SoSe M. Werner /

12 Diskussion. Fallbeispiele Anhang A: Literatur Anhang A: Literatur Darstellung hier vereinfacht, es gibt noch zwei (nichtobligatorische) Ebenen: Jobs und Sehnen (fiber) Jobs: Zusammenfassung von Prozessen um gemeinsames Ressourcenmanagement zu vereinfachen Fiber: User-Space Thread, (eigentlich) Co-Routine, kann zwischen (Kernel-)Threads wechseln Kein einzelner Scheduler Code ist über den Kernel verteilt Algorithmus ist eher unübersichtlich, aber erfahrungsoptimiert quantitative Analyse schwierig Ansätze für Echtzeitscheduling [Sta] W. Stallings. Operating Systems: nternals and Design Principles. Prentice Hall,, Chapter 9 & [Tan] A. Tanenbaum. Modern Operating Systems. Prentice Hall,, Abschnitte.,., &. [RS] Mark E. Russinovich und David A. Solomon. Microsoft Windows nternals. Microsoft Press,, Chapter SoSe M. Werner / SoSe M. Werner /