PROZESSE UND NEBENLÄUFIGKEIT

Transkript

1 Kapitel 2 PROZESSE UND NEBENLÄUFIGKEIT [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 1

2 Ziele dieses Kapitels ² Wie wird aus einem stabschen Programmtext ein dynamisches, ablaufendes, in der Zeit sich veränderndes Programm? ª Welche Mechanismen werden wie durch Betriebssystem verwendet? ² Einführen eines Ressourcenbegriffs was wird (in einem Rechner) gebraucht, um ein Ziel zu erreichen? ² Verbergung von spezifischen EigenschaWen durch AbstrakBon ² Die Idee eines Betriebssystems [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 2

3 Betriebssystem ² Ein Betriebssystem ist ein Programm ² Ein Betriebssystem abstrahiert den Zugriff auf Geräte (und andere Ressourcen), vereinheitlicht und vereinfacht dadurch deren Nutzung für andere Programme ² Ein Betriebssystem koordiniert den Zugriff auf Geräte (und andere Ressourcen) durch mehrere Programme ² Ein Betriebssystem koordiniert den Ablauf mehrerer Programme Kurz: Ein Betriebssystem abstrahiert und koordiniert Ressourcennutzung [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 3

4 Übersicht ² Prozesse, Prozesszustände und Prozessumschaltung ² Adressraum ² Threads ² Parallele und nebenläufige Programmiersprachenkonstrukte ² Geräte und Gerätetreiber [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 4

5 Programmausführung: Prozesse ² Ein sta4scher Programmtext muss in ein dynamisches, zeitlich veränderndes, ablaufendes Programm verwandelt werden ª Kontext, in dem Verarbeitung = Veränderung von Daten geschehen kann ² Prozess als AbstrakBon ª Prozess = laufendes Programm [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 5

6 Prozesse ² Ein Prozess (process, task, job) ist definiert durch ª VerarbeitungsvorschriP, das eigentlich Programm ª Adressraum wo darf der Prozess Daten/Programm speichern Bereiche(e) des Arbeitsspeicher die der Prozess lesend/schreibend/ ausführend benutzen darf (mehr dazu später) Nicht der Inhalt des Speicher ª Momentanen Zustand der Ausführung Alle Daten, die zur Weiterführung eines Prozesses gebraucht werden Notwendige Daten als Kontext der Ausführung bezeichnet InstrukBonszähler, Register des Prozessors,... Streng genommen: auch der Inhalt des Adressraums [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 6

7 Ressourcen ² Alle Prozesse sind für Ausführung auf die Verfügbarkeit von Prozessor und Speicher angewiesen ² Zur Ausführung werden solche Ressourcen (auch: Betriebsmi>el) benöbgt ª Beispiele bisher Prozessor = Ressource, die Verarbeitung leistet Speicher = Ressource, die Status festlegt ² Weitere Ressourcen? ² Durch Ressource als Begriff kann man von Details abstrahieren [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 7

8 Ausführung von Prozessen: Stapelbetrieb ² Einfachste Rechnerbetriebsart: Stapelbetrieb (batch mode) ª Alle Ressourcen eines Rechners stehen einem Prozess zur Verfügung es gibt (zu einem Zeitpunkt) nur einen Prozess ª Mehrere Prozesse werden sequenbell abgearbeitet ² Problem: Während der KommunikaBon mit z.b. E/A- Geräten bleibt die CPU ungenutzt ª Der Prozess kann nicht weiterarbeiten er blockiert à Leerlaufzeiten und ineffiziente Ausführung CPU Leerlauf der CPU, Blockade des Prozesses Gerät 1 Gerät 2 [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 8

9 Ausführung von Prozessen ² Beobachtung: Ein einzelner Prozess kann in der Regel den Prozessor nicht sinnvoll auslasten ª Z.B.: Prozess muss warten, bis Daten von Festplape zur Verfügung stehen ª Oder auch andere Geräte/Ressourcen als Prozessor werden durch einzelnen Prozess meist nicht ausgelastet ² Möglicherweise kann Prozessor aber anderweibg benutzt werden! ª Was, wenn mehrere Prozesse gleichzeibg vorhanden wären? Und ausgeführt werden dürwen? [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 9

10 Ausführung von Prozessen: Mehrprozessbetrieb à Mehrerer Prozesse unter Ausnutzung von Leerlauf ausführen ª Reduzierung der Leerlaufzeiten des Prozessors ª Reduzierung der Leerlaufzeiten der anderen Geräte ² BenöBgt: Mehrprozessbetrieb ª Mehrere Prozesse können quasi- parallel ausgeführt werden Bei Programmen mehrerer Benutzer: Mehrbenutzerbetrieb In der Regel auch: Mehrprogrammbetrieb es muss ja nicht das gleiche Programm mehrfach ausgeführt werden ª Jedes Programm ergibt mindestens einen Prozess ² Problem: InterakBon zwischen mehreren Prozessen? ª Gewünscht: Keine! Forderung: Isola4on [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 10

11 IsolaRon von Prozessen ² Gewünschte EigenschaW: Prozesse dürfen sich nicht gegenseibge beeinflussen ª Nicht gegenseibg auf Daten zugreifen (lesen oder schreiben) Adressräume zweier Prozesse sind disjunkt ª Beeinflussen nicht gegenseibg den Ablauf ² In Praxis: ª Beeinflussung durch Ressourcenverbrauch unvermeidbar ª Darf gezielt durchbrochen werden (i.d.r. nur bei Einverständnis beider Prozesse) z.b. zum Datenaustausch [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 11

12 Verzahnte Ausführung von Prozessen ² Verzahnte Ausführung: Prozessen wird abwechselnd die CPU zugewiesen ² Für den Benutzer: Scheinbare Gleichzei4gkeit ª Bei geeigneten Zeitskalen! ª Aber: mögliche Konflikte! Z.B. wenn beide Prozesse gleichzeibg Gerät 1 benöbgen ² Für die Prozesse: Wenn andere Prozesse blockieren, kann trotzdem ein nicht blockierter Prozess weiterarbeiten ² Für System: Verbesserung der Auslastung [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 12

13 Verzahnte Ausführung von Prozessen Beispiel ² Beispiel: Zwei Prozesse greifen auf CPU und drei Geräte zu ª Prozesse müssen auf Gerät warten, sind blockiert ª Ein Prozess blockiert, anderer Prozess kann arbeiten ª Leerlauf der CPU, wenn alle Prozesse blockiert Prozess 1 Prozess 2 Leerlauf CPU Gerät 1 Gerät 2 Gerät 3 [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 13

14 Notwendig: KoordinaRon ² Verzahnte Ausführung erfordert KoordinaBon: ª Welcher Prozess darf wann CPU benutzen? ª Welcher Prozess darf wann welches Gerät (allg.: Ressource) benutzen? ª Wie erfolgt der Wechsel zwischen den Prozessen? ² KoordinaBon muss durch laufendes Programm erfolgen! ª Aber ein besonderer Prozess ª Dieser Prozess regelt Betrieb eines Rechners Betriebssystem ² Damit erste Aufgaben für Betriebssystem ª KoordinaBon des Ablaufs mehrerer Prozesse ª KoordinaBon des Zugriffs auf Geräte/Ressourcen [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 14

15 Prozesszustände ² Ein Prozess kann sich in unterschiedlichen Zuständen befinden ª Rechnend, Laufend (Running): Der Prozess ist im Besitz des physikalischen Prozessors und wird aktuell ausgeführt (1 Prozess bei Monoprozessoren, n Prozesse bei MulBprozessoren) ª Bereit (Ready): Der Prozess ist ablauuereit und wartet auf die Zuteilung des/eines Prozessors Später: ablauuereit = besitzt alle nöbgen Betriebsmipel außer CPU ª Blockiert, Wartend (Blocked): Der Prozess wartet auf die Erfüllung einer Bedingung, z.b. Beendigung einer E/A- OperaBon, und bewirbt sich derzeit nicht um den Prozessor ª Beendet (Terminated): Der Prozess hat alle Berechnungen beendet und die zugeteilten Betriebsmipel freigegeben [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 15

16 Zustände und Zustandsübergänge Beendet Resign Add Bereit Assign Laufend Blockiert [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 16

17 Erlaubte Zustandsübergänge ² Add: ² Assign: ² Block: ² Ready: ² Resign: ² Re4re: Ein neu erzeugter Prozess wird in den Zustand bereit aufgenommen Infolge des Kontextwechsels wird der Prozessor zugeteilt Aufruf einer blockierenden E/A- OperaBon oder SynchronisaBonsoperaBon bewirkt, dass der Prozessor entzogen wird Nach Beendigung der blockierenden OperaBon wartet der Prozess auf erneute Zuteilung des Prozessors Einem laufenden Prozess wird der Prozessor aufgrund eines Timer- Interrupts, z.b. Zeitscheibe abgelaufen entzogen Oder: Prozess gibt Prozessor freiwillig auf Der laufende Prozess terminiert und gibt alle Ressourcen wieder frei [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 17

18 Prozesszustandsübergänge am Beispiel Prozess 1 Prozess 2 Leerlauf CPU Gerät 1 Gerät 2 Gerät 3 Block Ready, Assign Block Ready, Assign Retire Zustand Prozess 1 Running Blocked Run ning Blocked Running Beend et Zustand Prozess 2 Ready Runni ng Blocked Run ning Blocke d Rea dy Runnin g Add Assign Block Ready, Block Ready Assign Assign [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 18

19 Prozessumschaltung Details ² Aktuell akbver Prozess wird aus Zustand Laufend in anderen Zustand versetzt ª Grund: z.b. wegen blockierender AkBon ª Notwendige AkBon: Sicherung des Kontextes ² Ein bereiter Prozess wechselt in den Zustand Laufend ª Notwendige AkBon: Laden des Kontextes des neuen Prozesses ² Arten der Prozessumschaltung ª Explizit: akbver Prozess inibiert selbst die Umschaltung ª Automa4sch: Prozessumschaltung wird durch ein äußeres Ereignis (i.d.r. Interrupt) ausgelöst ª Bedingt: Umschaltung erst bei Erfüllung einer Bedingung möglich [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 19

20 Prozesswechsel für Prozesse sichtbar? ² Ist ein geeignet gestalteter Prozesswechsel für die Prozesse sichtbar? ª Oder: Wissen Prozesse, dass sie sich den Prozessor teilen müssen? à Jeder Prozess kann sich so benehmen, als häpe er einen eigenen Prozessor ª den es nicht wirklich gibt, aber das ist egal ª Ein virtueller Prozessor für jeden Prozess ² InterpretaBon: Betriebssystem virtualisiert den Prozessor ª Und nicht nur Prozessor: IsolaRonsanforderung erfordert das entsprechend für Speicher, Geräte, [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 20

21 Auswahl des nächsten laufenden Prozesses ² Strategien zur Auswahl des nächsten laufenden Prozesses (aus Menge der bereiten Prozesse) sind wichbg für die Effizienz eines Systems ª Bislang: Annahme einer starren Reihenfolge ª Meistens: Auswahl nahe des Umschaltzeitpunktes dynamisch durchgeführt à Details: Siehe Kapitel Scheduling Details: Kapitel 3! ² Beinhaltet die dynamische Auswertung verschiedener Kriterien, z.b. ª Prozessnummer (zyklisches Umschalten) ª AnkunWsreihenfolge ª Fairness ª Priorität (Konstant / Dynamisch) ª Einhaltung von geforderten FerBgstellungspunkten ² Nach der Wahl müssen die Apribute aller anderen Prozesse angepasst werden [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 21

22 Prozesse im Kontext von Betriebssystemen ² Beschreibung von Prozessen in Betriebssystemen durch Datenstruktur Prozesskontrollblock (Process Control Block, PCB) ª PCB enthält Daten, die zur Verwaltung des Prozesses benöbgt werden ProzessidenBfikaBon Bereich für die aktuellen Registerwerte des eigentlichen Prozessors Prozesszustand: Laufend, blockiert, wartend,... InformaBon über Betriebsmipel Hinweise auf Eltern- bzw. Kindprozesse ª PCB wird bei Zustandsänderungen, z.b. Prozesswechsel, aktualisiert ² Alle PCBs in Prozesstabelle zusammengefasst ª Ein Eintrag pro exisberendem Prozess [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 22

23 Beispiel: Process Control Block in Linux ² struct task_struct { volatile long state; long counter; long priority; unsigned long signal; unsigned long blocked; unsigned long flags; int errno; long debugreg[8]; struct exec_domain *exec_domain; struct linux_binfmt *binfmt; struct task_struct *next_task, *prev_task; struct task_struct 0, *prev_run; unsigned long saved_kernel_stack; unsigned long kernel_stack_page; int exit_code, exit_signal; unsigned long personality; int dumpable:1; int did_exec:1; int pid; int pgrp; int tty_old_pgrp; int session; int leader; int groups[ngroups]; Wichtigster Teil: struct task_struct { volatile long state; long priority; int pid; } struct task_struct *p_opptr, *p_pptr, *p_cptr, *p_ysptr, *p_osptr; struct wait_queue *wait_chldexit; unsigned short uid,euid,suid,fsuid; unsigned short gid,egid,sgid,fsgid; unsigned long timeout, policy, rt_priority; unsigned long it_real_value, it_prof_value, it_virt_value; unsigned long it_real_incr, it_prof_incr, it_virt_incr; struct timer_list real_timer; long utime, stime, cutime, cstime, start_time; unsigned long min_flt, maj_flt, nswap, cmin_flt, cmaj_flt, cnswap; int swappable:1; unsigned long swap_address; unsigned long old_maj_flt; /* old value of maj_flt */ unsigned long dec_flt; unsigned long swap_cnt; struct rlimit rlim[rlim_nlimits]; unsigned short used_math; char comm[16]; int link_count; struct tty_struct *tty; /* NULL if no tty */ struct sem_undo *semundo; struct sem_queue *semsleeping; struct desc_struct *ldt; struct thread_struct tss; struct fs_struct *fs; struct files_struct *files; [KMS] Sommer 2015 struct mm_struct *mm; Prozesse und Nebenläufigkeit 23 struct signal_struct *sig; }; Quelle: sched.c, linux kernel

24 Prozessumschaltung in Linux 1367 /* 1368 * context_switch - switch to the new MM and the new 1369 * thread's register state */ 1371 static inline 1372 task_t * context_switch(runqueue_t *rq, task_t *prev, task_t *next) 1373 { 1374 struct mm_struct *mm = next->mm; 1375 struct mm_struct *oldmm = prev->active_mm; if (unlikely(!mm)) { 1378 next->active_mm = oldmm; 1379 atomic_inc(&oldmm->mm_count); 1380 enter_lazy_tlb(oldmm, next); 1381 } else 1382 switch_mm(oldmm, mm, next); if (unlikely(!prev->mm)) { 1385 prev->active_mm = NULL; 1386 WARN_ON(rq->prev_mm); 1387 rq->prev_mm = oldmm; 1388 } /* Here we just switch the register state and the stack. */ 1391 switch_to(prev, next, prev); return prev; 1394 } [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 24

25 Wie werden Prozesse & Ressourcen verwaltet? ² Offene Fragen ª Wenn Prozesse nichts von anderen Prozessen wissen, wie werden dann überhaupt Prozesse angelegt? ª Wie wird zwischen Prozessen umgeschaltet? ª Welches Programm entscheidet das, welches Programm führt das aus? ª Welches Programm entscheidet, welcher Prozess auf welche Ressourcen zugreifen darf? ² Darf jeder Prozess solche Umschaltungen auslösen, Ressourcenzugriffe entscheiden? ª Wenn man sich vertraut und perfekt programmieren kann klar, warum auch nicht? [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 25

26 Betriebssystem als privilegierter Prozess zur Ressourcenverwaltung ² Unterscheidung zwischen zwei Betriebszuständen eines Systems ª Benutzermodus (user mode): einige Befehle gesperrt und einige Register nicht zugreiuar, in der Regel für Benutzerprogramme ª Systemmodus (system/supervisor mode, kernel mode,...) auch privilegierter Zustand: alle Befehle zulässig, alle Register benutzbar, i.d.r. für Betriebssystem alle InformaBon sichtbar! ª ImplemenBert z.b. durch Bit im Prozessorstatuswort ª OperaBonen wie z.b. Prozessverwaltung nur im Systemmodus möglich Kontrollierter Übergang Benutzerprozess1 Benutzermodus Systemmodus (Betriebssystem-Kern) Benutzerprozess2 [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 26

27 Wechsel in Systemmodus (sog. Kerneintri^ ) ² Modusänderung mit einem privilegierten Befehl ª Nutzung: Das Benutzerprogramm kann das Betriebssystem aufrufen (Befehl SVC, trap,...), wodurch der Prozessor in den privilegierten Zustand übergeht ª Dann ausgeführter Code NICHT mehr durch Prozess vorgegeben ª Es ist dann Aufgabe des Betriebssystems, vor der Rückkehr in das Benutzerprogramm den Zustand wieder zurückzusetzen ² Modusänderung durch unerlaubte Vorgänge ª Fehler, z.b. Division durch 0 ² Modusänderung durch eintretende Ausnahmen ª Unterbrechungen lösen Übergang in privilegierten Zustand aus ª Unterbrechung z.b., wenn DMA- Gerät ferbg mit Übertragung ist; Prozess kann entblockiert werden [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 27

28 Übersicht ² Prozesse, Prozesszustände und Prozessumschaltung ² Adressraum ² Threads ² Parallele und nebenläufige Programmiersprachenkonstrukte ² Geräte und Gerätetreiber [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 28

29 Adressraum für Prozesse ² Adressraum eines Prozesses ª DefiniRon: Gesamtheit aller Adressen, auf die der Prozess zugreifen darf ª Einfache IntuiBon: Jeder Prozess besitzt einen Teil Speicher exklusiv ª Zweck: Adressräume mehrerer Prozesse sind gegenseibg geschützt; Prozess kann nur auf eigene Adressen zugreifen Ziel war ja: IsolaRon der Prozesse voneinander! ª Häufig: Trennung von Daten- und Programmadressen ² Möglicherweise unhandlich: Prozesse müssen mit unterschiedlichen Adressen umgehen können ª Bei jedem Start eines Programms andere? Physikalischer Speicher Pro- gramm- Code von A Code B Daten von A Daten B [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 29

30 Adressräume für Prozesse logisch vs. physikalisch ² Eine mögliche Idee: Trenne logischen Adressraum eines Prozesses von physikalischem Adressraum des tatsächlichen Rechners ª Nur logische Adressen dem Prozess bekannt ª Immer gleich! ª KonvenBon: Logische Adressen fortlaufend 0..max nummeriert ª Achtung: Nicht auf allen Systemen vorhanden! ² Abbildung logische Adressen auf physikalischen Speicher nöbg ª Details: siehe Kapitel Speicherverwaltung max 0 Logischer Raum von Prozess A Daten von A Pro- gramm- Code von A Physikalischer Speicher Pro- gramm- Code von A Daten von A [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 30

31 ACHTUNG! OpRon vs. Einzige Möglichkeit ² Trennung zwischen physikalischem und logischem Adressraum ist nur eine ImplemenBerungsOPTION ª Eine populäre OpBon, aber doch nur eine OpBon ² Es gibt Systeme, die nur physikalischen Adressraum benutzen ² Begriff Adressraum eines Prozess bleibt sinnvoll, auch wenn NUR physikalischer Adressraum benutzt wird und KEINE Trennung [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 31

32 Adressraum für mehrere Prozesse ² Bei logischen Adressen: Adressräume mehrerer Prozesse sind gegenseibg geschützt durch logisch/physikalisch Trennung! ª Prozess kann nicht auf Daten eines anderen Prozesses zugreifen ª Kann dies nicht einmal ausdrücken: Z.B. Adresse 5 ist immer im eigenen logischen Adressraum Prozess kann nicht über physikalische Adressen reden max 0 Daten von A Pro- gramm- Code von A Daten B Pro- gramm- Code von A Code B Daten von A Daten B max [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 32 0 Daten B Code B

33 Geteilter Adressraum: Code vs. Daten ² Mehrere Prozesse können dasselbe Programm mit unterschiedlichen Daten ausführen Logischer Raum von Prozess A Physikalischer Speicher Logischer Raum von Prozess B ª Beispiel: Auf einem Rechner wird ein Webbrowser 2x gestartet Privater Bereich Daten von B Privater Bereich ª Mehrfach gleicher Code im Speicher: ineffizient! à Trennung von Code und Daten ª Code nur 1x im Speicher Shared Code ª Daten separat im Speicher ª Teile des Adressraums werden gemeinsam von zwei Prozessen genutzt Shared Code Daten von A Shared Code [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 33

34 Übersicht ² Prozesse, Prozesszustände und Prozessumschaltung ² Adressraum ² Threads ² Parallele und nebenläufige Programmiersprachenkonstrukte ² Geräte und Gerätetreiber [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 34

35 Mehrere Aspekte von Prozessen ² Bisher: Prozess vereint zwei unterschiedliche Aspekte ª Einheit zur Ressourcenbündelung: ein Prozess verfügt über (Möglicherweise logischen) Adressraum Quelltexte und Daten Beschreibende Datenstrukturen wie PCB Weitere Betriebsmipel wie E/A- Geräte, Dateien, Kindprozesse ª Ausführungseinheit/- kontext, der der reale Prozessor zugeteilt wird Ausführungsablauf mit einem oder mehreren Programmen Verzahnte Ausführung mit anderen Prozessen Zustände (bereit, laufend, blockiert, terminiert, ) Priorität ² Was ist, wenn unterschiedliche AkBvitäten eng kooperierend mit gleichen Ressourcen/Daten arbeiten sollen? [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 35

36 Von Prozessen zu Threads ² Idee: Trennen des Ressourcen- und des Ausführungseinheitsaspekts! à Erweiterung des Prozessmodells! ª Solche eng kooperierenden Prozesse werden zu einem einzigen Prozess mit mehreren Ausführungskontexten zusammengefasst Name: AkBvitätsträger, Ausführungsfaden oder Thread ² Damit formal: Prozess vs. Thread ª Prozess: Eigener Adressraum & VerarbeitungsvorschriW Bündelungseinheit ª Beinhaltet mindestens einen Thread ( Leichtgewichtsprozess ) Ausführungseinheit [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 36

37 DefiniRon eines Threads ² Thread: Teil eines Prozesses mit folgenden EigenschaWen ª Ist ein separater Ausführungskontext, ein separater Kontrollfluss dieses Prozesses ª Alle Threads eines Prozesses operieren im selben Adressraum ² Ein Thread enthält einen eigenen Thread- Kontrollblock ª Mit separatem Befehlszähler, eigenem Code- und Datenteil und vollständigem Kontext ª Besitzt keine vollständige Prozesstabelle wie der ursprüngliche Prozess ² Zusammenhang ª Ein konvenboneller Prozess mit nur einem Kontrollfluss besitzt nur einen Thread ª Verschiedene Kontrollflüsse entsprechen mehreren Threads Nebenläufigkeit wird ausgenutzt [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 37

38 Zusammenhang Prozesse und Threads ² Single- Threaded: ein Thread pro Prozess (klassische Prozesse) ª Keine Trennung von Ressourcen- und Ausführungseinheitsbegriff ² MulB- Threaded: mehrere Threads innerhalb eines Prozesses Prozesse Älteres Mac OS Ältere UNIX-Versionen Mehrere Prozesse, aber ein Thread/Prozess Windows NT Solaris, Modernes UNIX, OSX Mehrere Prozesse, mehrere Threads/Prozess MS-DOS Ein Prozess, ein Thread Java run time engine Ein Prozess, mehrere Threads/Prozess Threads [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 38

39 Vorteile mehrerer Threads ² Gemeinsame Nutzung von Daten zwischen verschiedenen AkBvitäten einfach ª Da gleicher Adressraum ª Wäre kompliziert und aufwändig (wenn auch möglich) für mehrere Prozesse (Details siehe Kapitel 6ff) Wechsel zwischen Prozessen bedingen Wechsel der Adressräume! Aufwand wegen Speicherverwaltung ² Wechsel zwischen AkBvitäten als Thread erheblich effizienter ª OR einfacheres, natürlicheres Programmiermodell! ² Durch Verbreitung von MulB- Core Systemen aprakbv! [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 39

40 Beispiel zur Nutzung von Threads ² Entwurfsbeispiel: Webserver! ² Gegeben: Webserver auf einer dedizierten Maschine ª Daten vergangener Anfragen werden in Cache solange auuewahrt, bis der Speicher verbraucht ist ª Älteste Datensätze werden durch neue ausgetauscht Entwerfen Sie einen Webserver! [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 40

41 Threadtypen, Realisierung von Threads ² Grundsätzlich werden Threads aufgeteilt in Realisierung im Benutzeradressraum ª Kernel- Level- Threads (KL- Threads): realisiert im Kernadressraum ª User- Level- Threads (UL- Threads): realisiert im Benutzeradressraum Realisierung im Kernadressraum [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 41

42 Übersicht ² Prozesse, Prozesszustände und Prozessumschaltung ² Adressraum ² Threads ² Parallele und nebenläufige Programmiersprachenkonstrukte ² Geräte und Gerätetreiber [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 42

43 Nebenläufigkeit und Parallelität ² Nebenläufigkeit (concurrency, concurrent execubon) ª Poten4elle Gleichzei4gkeit Vorhandensein von Verarbeitungsströmen, die korrekterweise gleichzeibg ausgeführt werden können Damit eine EigenschaP eines/mehrerer Programme Voraussetzung: kontrollierter Zugang zu gemeinsam genutzten Ressourcen Beispiel: Drucker! gemeinsame Daten! ª Mögliche Realisierung: verzahnte Ausführung (interleaving) auf einem Einprozessorsystem Mehrfach vorhandene Verarbeitungselemente nicht notwendig Eindruck der GleichzeiBgkeit wird erweckt ² Parallelität ª Die OperaBonsströme werden tatsächlich gleichzei4g ausgeführt Mehrfache Verarbeitungselemente, d.h. Prozessoren oder andere unabhängige Architekturelemente, sind zwingend notwendig ª EigenschaP der Ausführung eines nebenläufigen Programms [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 43

44 Ausführung: Nebenläufigkeit und Parallelität ² Nebenläufigkeit = Zuordnung mehrerer Ausführungseinheiten zu mindestens einem Prozessor ª Verzahnte Ausführung (interleaving) ² Parallelität = Zuordnung mehrerer Prozesse (Ausführungseinheiten) zu mindestens zwei Prozessoren ² Nebenläufiges Programm auf Parallelsystem parallele Ausführung ª Parallele Ausführungen sind Teilmenge der nebenläufigen Ausführungen Nebenläufig Prozesse 1 Prozessor Rechenzeit Parallel Prozesse 3 Prozessoren [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 44

45 Nebenläufigkeit & Parallelität in Hardware ² Parallelität findet in unterschiedlichen Ausprägungen auf der Hardwareebene stap ª Mehrere Einheiten innerhalb eines Prozessors InstrukBonspipeline, mehrfache Recheneinheiten, ª Mehrere E/A- und DMA- Kontroller Prozesse und Datentransfers werden nebenläufig/parallel ausgeführt ª Mehrere allgemein einsetzbare Prozessoren Parallele Ausführung von Prozessen [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 45

46 Wie wird Nebenläufigkeit/Parallelität ausgedrückt? ² Problem: Wie kann ein System wissen, welche InstrukBonsströme nebenläufig ausgeführt werden dürfen? ª Korrektheit muss garanbert bleiben Beispiel Drucker! ² Ausgangspunkt: Elementare Kontrollstrukturen in sequenbellen, imperabven Programmiersprachen ª Sequenz, Wiederholung, Verzweigung, Einschub (Prozedur, Unterprogramm) ² Für alle Grundkonstrukte gibt es analoge Konstrukte für Nebenläufigkeit ª Diese werden explizit vom Programmierer vorgegeben [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 46

47 Parallele Anweisungen ² Unabhängige Befehle werden in Blöcke zusammengefasst ² Ausführungsreihenfolge wird explizit als irrelevant gekennzeichnet ª Dem Programm wird InformaBon über SequenBalität entzogen Analogon zu begin/end oder { }: parbegin/parend, cobegin/coend, Beispiel A; parbegin B; C; B A C parend D; D [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 47

48 Parallele Schleifen ² Sind die Schleifendurchläufe unabhängig voneinander, so können sie nebenläufig ausgeführt werden ª Z.B. n Schleifendurchgänge, n/2=anzahl verfügbarer Prozessoren, 2 IteraBonen pro Prozessor iterabv aus, ² Häufige Schlüsselwörter: pardo/parend, doall/endo, Beispiel A; pardo i:=1 to n B(i); pardo j:=1 to i B(1) C(1,1) A B(2) C( ) B(3) C( ) C(i,j); parend D(i); D(1) D(2) D(3) parend E E; [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 48

49 Paralleles Verzweigen ² UNIX- Konzept fork/join (auch fork/wait) ermöglicht Erzeugung einer perfekten Kopie (Child) des aufrufenden Prozesses (Parent) mit folgenden EigenschaWen ª Gleiches Programm ª Gleiche Daten (gleiche Werte in Variablen) ª Gleicher Programmzähler (nach der Kopie) ª Gleicher Eigentümer ª Gleiches aktuelles Verzeichnis ª Gleiche Dateien geöffnet (selbst Schreib-, Lesezeiger ist gemeinsam) ² Häufig: Kind- Prozess startet ein anderes Programm ª Mit exec o.ä. Betriebssystemaufruf ² Zusammenführung der beiden Zweige mit join (oder wait) [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 49

50 Beispiel fork/join ² Unterscheidungsmerkmal ª fork() liefert verschiedene Prozessnummern für Parent (PID des Kindes) / Child (0) Beispielhafter Ablauf von fork/join Parent pid_t p;... p= fork(); if( p == (pid_t)0 ) { /* child */... } else if ( p > (pid_t)0 ) { /* parent */... } else { /* error */... } Child pid_t p;... p= fork(); if( p == (pid_t)0 ) { /* child */... } else if ( p>(pid_t)0 ) { /* parent */... } else { /* error */... } A fork f B join f C end f: D end D A B C [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 50

51 Gemeinsamer Speicher zwischen zwei Prozessen ² Prozesse haben keinen gemeinsamen Adressraum ª Aber: gemeinsamer Speicherbereich kann explizit zwischen zwei Prozessen geteilt/freigegeben/angefordert werden ª Erinnerung: Dies weicht das grundlegende Konzept der Trennung der Speicherbereiche von Prozessen auf! ² Grundlegende OperaBonen (Bsp: Linux/Posix) ª shmget() : Erzeuge oder öffne einen Speicherbereich, der gemeinsam von mehreren Prozessen genutzt werden kann (ähnlich zu Dateien!) ª shmat(): Anbinden ( apach ) eines solchen Speicherbereichs in den normalen Speicherbereich eines Prozesses ª shmdt(): Lösen der Anbindung eines geteilten Speichers [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 51

52 Erzeugen & handhaben von Threads ² Wie kann man innerhalb eines Prozesses mit Threads umgehen? ª Achtung: Es gibt unterschiedliche Realisierungen; Details unterscheiden sich! (Read the Manual!) ª Beispiel hier: POSIX Threads unter Linux; pthread - Bibliothek ² pthread_create(): Erzeugen eines neuen Threads ª WichBgster Parameter: Welche FunkBon soll dieser neue Thread ausführen? ² pthread_exit(): Beenden eines Threads ª Oder die ausgeführte FunkBon ist ferbg ² pthread_join(): Warte auf das Ende eines angegeben Threads ² pthread_self(): IdenBfikator des gerade ausführenden Threads [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 52

53 Thread- Beispiel stabc void * worker_roubne (void *name) { } int i; for (i = 0; i < 5; i++) prin ("%d (ID:%ld) : %s sagt Hallo!\n", i, pthread_self(), (char *) name); pthread_exit ((void *) val++); int main (void) { // Variablen deklarieren for (i = 0; i < MAX_THREADS; i++) { } pthread_create (&th[i], NULL, &worker_roubne, buf) for( i=0; i < MAX_THREADS; i++) pthread_join (th[i], &ret[i]); } Quelle: Linux-Unix Programmierung [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 53

54 Modernes Beispiel: OpenMP ² OpenMP: API zur einfachen Nutzung von mulb- threading auf gemeinsamen Speicher ª Einbepung in unterschiedliche Sprachen: C/C++ & Fortran; in vielen Betriebssystemen verfügbar ª Standardisiert, derzeit OpenMP 3.1 / 4.0 ª Material: hpp://openmp.org, hpps://compubng.llnl.gov/tutorials/openmp/ ² Wesentliche Komponenten ª Anweisungen an einen Compiler ª Laufzeitbibliothek ª Umgebungsvariablen ² Programmiermodell ª Gemeinsamer Speicher mit Threads, expliziter Parallelismus ª Fork/Join Modell, Schachtelung möglich ª Parallele for- Schleifen u.ä. möglich ª Etwas komplexes Konsistenzmodell bzgl. Cache (leider) [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 54

55 OpenMP Compiler- Anweisungen ² Um möglichst sprachneutral zu bleiben werden Anweisungen zur parallelen Ausführung als Compiler- Anweisungen aufgeschrieben ª Nicht als Spracherweiterungen! ² Beispiel C, C++: #pragma- Anweisungen ª Grundform: #pragma omp <Construct> [clause [, clause]*] code block ª Beispiel- Anweisungen #pragma omp parallel führe Anweisungen des code- Blocks in jeweils einzelnem Thread aus #pragma omp parallel for Code- block ist eine for- Schleife, deren einzelne Durchläufe parallelisiert werden ª Clause: Wie soll mit Variablenwerten verfahren werden? shared (Liste von Variablen) von allen Threads gemeinsam private (Liste von Variablen) jeder Thread hat eigene Kopie reducbon (operator: list) Wende RedukBonsfunkBon an [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 55

56 OpenMP: Grundstruktur #include <omp.h> main () { int var1, var2, var3; // Serial code // Beginning of parallel section. Fork a team of threads. // Specify variable scoping #pragma omp parallel private(var1, var2) shared(var3) { // Parallel section executed by all threads All threads join master thread and disband } // Resume serial code } Achtung: gcc ab Version 4.2 nötig! Mit fopenmp übersetzten! Anzahl Threads (z.b.) durch Umgebungsvariable OMP_NUM_THREADS kontrollier [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 56

57 OpenMP Beispiel: VektoraddiRon #include <omp.h> #define CHUNKSIZE 100 #define N 1000 main () { int i, chunk; float a[n], b[n], c[n]; /* Some initializations */ for (i=0; i < N; i++) a[i] = b[i] = i * 1.0; chunk = CHUNKSIZE; #pragma omp parallel for shared(a,b,c,chunk) private(i) schedule(dynamic,chunk) } for (i=0; i < N; i++) c[i] = a[i] + b[i]; Arbeitseinheiten werden in Größe chunk an einzelne Threads zugewiesen [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 57

58 Granularität von Parallelität und Nebenläufigkeit ² Parallelität und Nebenläufigkeit können auf verschiedenen AbstrakBonsebenen realisiert werden ª Prozesse laufen parallel ab ª Parallele Threads innerhalb eines Prozesses ª Einzelne Anweisungen werden parallel ausgeführt ª Einzelne OperaBonen werden in eine Reihe von Teilbefehlen zerlegt und parallel ausgeführt Grobgranulare Parallelität ² Die Länge der parallelen AkBvitäten wird ow mit dem Begriff Granularität charakterisiert Feingranulare Parallelität [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 58

59 Übersicht ² Prozesse, Prozesszustände und Prozessumschaltung ² Adressraum ² Threads ² Parallele und nebenläufige Programmiersprachenkonstrukte ² Geräte und Gerätetreiber [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 59

60 Viele unterschiedliche Geräte ² In realen Systemen: unterschiedliche Geräte mit unterschiedlichen Details ª Unterschiedliche Anbindungen (Systembus, memory- mapped,...) ² Aber mit im wesentlichen ähnlichen EigenschaWen ª Lesen- /Schreiben sequenziell, oder wahlfrei,... ² Soll jeder Anwendungsprogrammierer Details für jedes Gerät lernen? ª Nein! ² Aufgabe für Betriebssystem: Abstrak4on von Details ª Einheitliche Schnipstellen schaffen, z.b. für E/A ª Details: Vorlesung über Betriebssysteme! [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 60

61 Zusammenfassung ² Grundlegende Überlegung: Daten und AkBvität sind getrennt voneinander zu beschreiben und zu verwalten ² Prozesse als Einheit der Verwaltung von Daten und AkBvität ª Threads als AbstrakBon von AkBvitäten, die auf den gleichen Daten arbeiten ² AkBvität kann potenbell oder tatsächlich gleichzeibg geschehen ª Abhängig von vorhandenen Ressourcen, Korrektheit garanberen ª Verschiedene Ausdrucksmipel für mögliche GleichzeiBgkeit ² Für Effizienz: dynamische Zuweisung von Ressourcen zu Nachfragern notwendig ª Z.B. Prozesse, Threads zu Prozessoren [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 61

62 Webserver- Entwurf OpRon 1 ² Realisierung mit einem Prozess, einem Thread ª Endlosschleife zur Annahme von Anfragen ª Die Anfragen werden sequenbell bearbeitet Sind die geforderten Daten im Cache Kurze Antwortzeit Andernfalls wird der Prozess blockiert, bis die Daten von der Festplape gelesen sind Leerlauf und geringe CPU- Auslastung [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 62

63 Webserver- Entwurf OpRon 2 ² Realisierung mit mehreren Threads ª Thread Dispatcher: liest ankommende Anfragen ª Thread Worker: bearbeitet eine einzelne Anfrage ² Ablauf ª Dispatcher empfängt die Anfrage und erstellt/weckt einen Worker ª Worker wechselt sobald möglich in laufend, überprüw Anfrage Daten im Cache Bearbeitung sofort Daten auf Festplape startet LeseoperaBon und versetzt sich in Zustand blockiert. LeseoperaBon beendet Wechsel in Zustand Bereit und der Worker bewirbt sich erneut um die CPU ² Vorteile dieser Lösung ª Keine komplexe Verwaltung wie beim Zustandsautomaten, keine IntegraBon nicht- blockierender LeseoperaBonen ª Hohes Maß an Parallelität zwischen Lese- und Rechenzugriffen [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 63

64 Webserver mit mehreren Threads Code Worker while(true) { wait_for_work(&buf); look_in_cache(&puf, &page); if(page_not_in_cache(&page); read_page_from_disk (&buf,&page); return_page(&page); } Code Dispatcher while(true) { get_next_request(&buf); handoff_work(&buf); } [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 64

65 Webserver- Entwurf OpRon 3 ² Realisierung mit endlichem Zustandsautomaten ª Voraussetzung: nicht- blockierender Festplapenzugriff ª Server nobert den aktuellen Zustand der Anfrage Festplapenzugriff Anfragenkennung in Tabelle eintragen, nicht- blockierenden Lesezugriff starten Cachezugriff Anfrage sofort beantworten ª Bearbeite das nächste Ereignis Ist das eine neue Anfrage Überprüfung der Daten wie beschrieben Festplapendaten ermiple die entsprechende Anfrage in der Tabelle und sende das Ergebnis ² Komplexer, meist schwieriger zu implemenberen, aber ow sehr effizient [KMS] Sommer 2015 Prozesse und Nebenläufigkeit 65