CS2101 Nebenläufige und Verteilte Programme Bachelor of Science (Informatik)

Transkript

1 Prof. Dr. Th. Letschert CS2101 Nebenläufige und Verteilte Programme Bachelor of Science (Informatik) Vorlesung 4 Th Letschert FH Gießen-Friedberg

2 Nebenläufige und verteilte Programme 2

3 : Thread-Pools Motivation: Möglichkeiten und Grenzen von Thread-Pools Szenario einer Thread-Pool-Verwendung Weitgehend unabhängige Aufgaben wollen erledigt sein Jeder Aufgabe wird ein zur Erledigung ein Thread zugewiesen Pool verhindert Überlastung des Systems: Zuweisung von Aufgaben an Threads wird begrenzt manche Aufgaben müssen auf Erledigung erst einmal warten unproblematisch bei unabhängigen Aufgaben Problem Pools sind nicht geeignet wenn die Aufgaben Teil eines Gesamtalgorithmus sind und nur alle oder keine Aufgabe erledigt werden kann Pool muss groß genug sein um alle Threads aktivieren zu können 3

4 : Thread-Pools Motivation: Grenzen von Thread-Pools Beispiel Fibonacci-Zahlen parallel / rekursiv import java.util.concurrent.executor; import java.util.concurrent.executors; public class FibonacciExecutor { private static Executor ex = Executors.newFixedThreadPool( Runtime.getRuntime().availableProcessors()*4); private static class FibTask implements Runnable { private int x; private long result; private boolean available = false; public FibTask(int x) { this.x = x; synchronized long getresult() throws InterruptedException { while (!available) { wait(); return result; private synchronized void setresult(long res) { result = res; available = true; notify(); public void run() { if (x < 2) setresult(1); else { FibTask fiba = new FibTask(x - 1); ex.execute(fiba); FibTask fibb = new FibTask(x - 2); ex.execute(fibb); try { setresult(fiba.getresult() + fibb.getresult()); catch (InterruptedException e) { e.printstacktrace(); 4

5 : Thread-Pools Deadlock bei der Berechnung von fib(6) Pool enthält 8 Threads, alle warten auf das Ergebnis eines Sub-Threads. Das wird nie kommen, denn es müssten weitere Threads gestartet werden, aber der Pool ist ausgeschöpft! 6 PoolThreads warten! können nicht erzeugt werden! 5

6 : Framework nutzen ForkJoin Framework JDK 7 bietet die notwendigen Bibliotheken (OpenJDK/JDK 7, ab Milestone M5, 2009/11/12 (build b76)) oder JDK 6 + jsr166y.jar Projekt mit JRE-7 anlegen 6

7 : Framework nutzen ForkJoin Framework JDK 7 bietet die notwendigen Bibliotheken (OpenJDK/JDK 7, ab Milestone M5, 2009/11/12 (b76)) oder JDK 6 + jsr166y.jar 7

8 : Beispiel RecursiveAction import java.util.concurrent.forkjoinpool; import java.util.concurrent.recursiveaction; public class FibSolver extends RecursiveAction { private static final long serialversionuid = 1L; private int res; private int x; Available Processors: 2 Pool size: Instanzen problemlos in einem Pool der Größe 8 public FibSolver(int x) { this.x = x; int getres() { return protected void compute() { if (x < 2) { res = 1; else { FibSolver fib1 = new FibSolver(x 1); FibSolver fib2 = new FibSolver(x 2); invokeall(fib1, fib2); res = fib1.getres() + fib2.getres(); public static void main(string[] args) { final int threadcount = Runtime.getRuntime().availableProcessors() * 4; System.out.println("Available Processors: "+ Runtime.getRuntime().availableProcessors()); System.out.println("Pool size: " + Runtime.getRuntime().availableProcessors() * 4); ForkJoinPool pool = new ForkJoinPool(threadCount); FibSolver fib = new FibSolver(10); pool.invoke(fib); System.out.println(fib.getRes()); NVP 4 8

9 Concurrency JSR-166 Interest Site: interest/ / JSR-166 Bestandteil des JSR-166 Frameworks von Doug Lea API-Spec: Geeignet für Algorithmen die aus vielen gleichzeitig auszuführenden Teilaktionen bestehen die unabhängig voneinander (parallel) bearbeitet werden können und die keinerlei Synchronisations-Code / blockierende Aktionen enthalten (nicht verboten, aber nicht sinnvoll)) Typische Anwendungen: Parallelverarbeitung Teile-und-Herrsche (divide and conquer) Algorithmen Parallele Algorithmen auf Arrays Axiom: Sprachmittel für nebenläufige Anwendungen sind ungeeignet für parallele Anwendungen, auch wenn die elementaren Konstrukte gleich sind. 9

10 Recursive Action / Task RecursiveAction Basisklasse für ergebnislose parallele Berechnungen mit gegenseitig unabhängigen Sub-Berechnungen gleicher Art Ableitungen implementieren void compute() Sub-Berechnungen werden als Instanzen der Ableitung instanziiert und mit invokeall parallel berechnet ForkJoinTask ForkJoinTask invokeall invokeall RecursiveAction RecursiveAction compute compute RecursiveTask RecursiveTask 10

11 Recursive Action Beispiel public class FibAction extends RecursiveAction { private static final long serialversionuid = 1L; private int res; private int x; public FibAction(int x) { this.x = x; public int getres() { return protected void compute() { if (x < 2) res = 1; else { FibAction fib1 = new FibAction(x 1); FibAction fib2 = new FibAction(x 2); invokeall(fib1, fib2); res = fib1.getres() + fib2.getres(); ForkJoinTask ForkJoinTask invokeall invokeall RecursiveAction RecursiveAction RecursiveTask void compute(): RecursiveTask compute(): void FibAction FibAction void compute(): compute(): void 11

12 Recursive Action / Task RecursiveTask Basisklasse für parallele Berechnungen mit Ergebnis mit gegenseitig unabhängigen Sub-Berechnungen gleicher Art Ableitungen implementieren void compute() Sub-Berechnungen werden als Instanzen der Ableitung instanziiert mit invokeall parallel berechnet und mit join abgholt ForkJoinTask ForkJoinTask invokeall invokeall join join RecursiveAction RecursiveAction RecursiveTask RecursiveTask : V compute() compute() :V 12

13 ForkJoinTask ForkJoinTask invokeall invokeall join join Recursive Task Beispiel 1 : invokeall import java.util.concurrent.forkjoinpool; import java.util.concurrent.recursivetask; public class FibTask extends RecursiveTask<Integer> { private static final long serialversionuid = 1L; private int x; RecursiveAction RecursiveAction public FibTask(int x) { this.x = protected Integer compute() { if (x <= 2) { return 1; else { FibTask fib1 = new FibTask(x 1); FibTask fib2 = new FibTask(x 2); invokeall(fib1, fib2); return fib1.join() + fib2.join(); public static void main(string[] args) { final int threadcount = Runtime.getRuntime().availableProcessors() * 4; RecursiveTask V RecursiveTask : V compute() compute() :V FibTask FibTask void compute(): compute(): void ForkJoinPool pool = new ForkJoinPool(threadCount); FibTask fib = new FibTask(10); pool.invoke(fib); System.out.println(fib.join()); 13

14 Recursive Task Beispiel 2 : fork / join public class FibTaskFJ extends RecursiveTask<Integer> { private static final long serialversionuid = 1L; private int x; public FibTaskFJ(int x) { this.x = protected Integer compute() { if (x <= 2) { return 1; else { V RecursiveAction RecursiveAction FibTask fib1 = new FibTask(x 1); fib1.fork(); // asynchrone Aktivierung FibTask fib2 = new FibTask(x 2); fib2.fork(); // asynchrone Aktivierung fib1.join(); fib2.join(); try { return fib1.get(25, TimeUnit.MILLISECONDS) + fib2.get(25, TimeUnit.MILLISECONDS); catch (InterruptedException e) { catch (ExecutionException e) { catch (TimeoutException e) { return null; Future Future get get ForkJoinTask ForkJoinTask invokeall invokeall fork fork join join RecursiveTask RecursiveTask : V compute() compute() :V V FibTask FibTask void compute(): compute(): void 14

15 Teile-und-Herrsche Algorithmen Rekursion: Ganz allgemeine Lösungsstrategie: Die Lösung des Gesamt-Problems wird auf die Lösung eines oder mehrerer Teilprobleme reduziert. Induktive Algorithmen: Einfache Form der Rekursion: Algorithmus wird über die Struktur einer induktiven Menge definiert Beispiel: Fakultät Induktive Menge natürliche Zahlen: Basis 0, Induktionsschritt n n+1 Berechnung: Basis 1, Induktiver Berechnungs-Schritt fak(n) fak(n-1) Teile-und-Herrsche Algorithmen: Rekursive Algorithmen die nicht (unbedingt) induktiv sind 15

16 Teile-und-Herrsche Algorithmen Beispiel: Sortieren mit Verschmelzen / Mischen (Mergesort) Sortieren durch rekursives Sortieren von teilsequenzen und anschließendes Mischen Mergesort ist kein induktiver Algorithmus Eine sortierte Folge der Länge n+1 wird (bei diesem Verfahren) nicht aus einer sortierten Folge der Länge n-1 konstruiert. 16

17 Teile-und-Herrsche Beispiel Mergesort private static void mergesort(int[] a, int l, int r) { if (l >= r) return; int m = (l + r) / 2; mergesort(a, l, m); mergesort(a, m + 1, r); merge(a, l, m, r); sequentieller Algorithmus private static class MergeSortAction extends RecursiveAction { private static final long serialversionuid = 1L; private int[] a; private int l; private int r; public MergeSortAction(int[] a, int l, int r) { this.a = a; this.l = l; this.r = protected void compute() { if (l >= r) return; int m = (l + r) / 2; MergeSortAction msl = new MergeSortAction(a, l, m); MergeSortAction msr = new MergeSortAction(a, m + 1, r); invokeall(msl, msr); merge(a, l, m, r); paralleler Algorithmus 17

18 Teile-und-Herrsche Algorithmen Beispiel: Rucksack-Problem (knapsack problem) Aus einer Menge von Gegenständen soll eine Auswahl so in ein Behältnis gepackt werden, dass dessen Fassungsvermögen exakt (oder möglichst gut) ausgenutzt wird. Das Rucksack-Problem ist nicht mit einem induktiven Algorithmus lösbar: Aus einer Lösung für das Fassungsvermögen n kann keine Lösung für das Fassungsvermögen n+1 konstruiert werden Aus einer Lösung für eine Kollektion von n Gegenständen kann keine kann keine Lösung für eine Kollektion von n+1 Gegenständen konstruiert werden Rucksack-Problem als Problem über natürlichen Zahlen Gegeben Eine Sequenz s von natürlichen Zahlen (Gegenstände und ihr Gewicht) Ein Zahl K (das Fassungsvermögen) Gesucht Eine Teilsequenz s' von s derart, dass die Summe der Elemente von s' gleich K ist 18

19 Teile-und-Herrsche Algorithmen Beispiel Teile-und-Herrsche Algorithmus für das Rucksack-Problem def knap(s,k): if k = 0 : return [[]] elseif (k!= 0) and (s = []) : return [] elseif (k = s0) : return [[k]] return knap(tail(s),k) + map(x -> [head(s)] + x, s: Sequenz (Liste) von Zahlen k: Fassungsvermögen knap: nimm Zahlen aus s bilde damit eine Folge der Summe gleich k ist head: Listen-Kopf tail: Listen-Rest +: Zusammenfügen von Listen knap(tail(s),k-head(s))) k = 0: eine Lösung, die leere Kollektion s leer, k!= 0 : keine Lösung s = [k, ] : eine Lösung, [k] sonst Ergebnis: Alle Lösungen für den Rest von s plus Bei allen Lösungen für den Rest von s mit einem um das erste Element von s reduziertem Fassungsvermögen wird das erste Element hinzugefügt. Das ist eine ineffiziente Lösung. Die Effizienz kann mit einer Tabellierung der Zwischenergebnisse erheblich verbessert werden. Diese Technik nennt sich dynamische Programmierung. 19

20 Knapsack Algorithmus als RecursiveTask static class KnapSolver extends RecursiveTask<List<List<Integer>>> { private List<Integer> s; private Integer k; public KnapSolver(List<Integer> s, Integer k) { this.s = s; this.k = protected List<List<Integer>> compute() { if (k == 0) { // eine Lösung, die leere liste List<List<Integer>> res = new LinkedList<List<Integer>>(); res.add(new LinkedList<Integer>()); return res; if (k!= 0 && s.isempty()) { // keine Lösung return new LinkedList<List<Integer>>(); if (k == s.get(0)) { // eine Lösung: [k] List<List<Integer>> res = new LinkedList<List<Integer>>(); List<Integer> l = new LinkedList<Integer>(); l.add(k); res.add(l); return res; //knap(tail(s),k) List<Integer> tail_s = new LinkedList<Integer>(); tail_s.addall(s); tail_s.remove(0); //List<List<Integer>> resa = knapa(tail_s, k); KnapSolver ksa = new KnapSolver(tail_s, k); ksa.fork(); //knap(tail(s),k head(s))) KnapSolver ksb = new KnapSolver(tail_s, k s.get(0)); ksb.fork(); ksa.join(); ksb.join(); List<List<Integer>> resa = null; List<List<Integer>> resb = null; try { resa = ksa.get(); resb = ksb.get(); catch (InterruptedException e) { e.printstacktrace(); catch (ExecutionException e) { e.printstacktrace(); // map for(list<integer> l: resb) { l.add(s.get(0)); // + List<List<Integer>> res = new LinkedList<List<Integer>>(); res.addall(resa); res.addall(resb); return res; 20

21 Map-Reduce Algorithmen / Map-Funktion Map-Funktion: Anwenden einer Abbildungs- (Map) -Funktion auf alle Elemente einer Kollektion def knap(s,k): if k == 0 : return [[]] elseif (k!= 0) and (s == []) : return [] map-funktion elseif (k = s0) : return [[k]] return knap(tail(s),k) [ ] m m [ ] knap(tail(s),k-head(s))) m + map(x -> [head(s)] + x, map-funktion im KnapsackAlgorithmus 21

22 Map-Reduce Algorithmen / Map-Funktion Map-Funktion in Java: public interface FunT2T<T> { T apply (T x); public static <T> List<T> map (FunT2T<T> f, List<T> l) { List<T> res = new LinkedList<T>(); for (T x : l) { res.add(f.apply(x)); return res; public static void main(string[] args) { List<Integer> l = Arrays.asList(new Integer[]{1,2,3,4,5,6,7,8,9,0); l = map(new FunT2T<Integer>() public Integer apply(integer x) { return 2*x;, l); for (int i: l) { System.out.print(i+" "); System.out.println(); 22

23 Map-Reduce Algorithmen / Reduce-Funktion Reduce: Reduziere mit einer reduce-funktion eine Kollekion auf ein einziges Element Beispiel Summenbildung: [1, 2, 3, 4,5] wird mit der Funktion '+' zu 15 reduziert public interface FunTxT2T<T> { T apply (T x, T y); public static <T> T reduce (FunTxT2T<T> f, List<T> l, T start) { T res = start; for (T x : l) { res = f.apply(x, res); return res; public static void main(string[] args) { System.out.println( reduce( new FunTxT2T<Integer>() public Integer apply(integer x, Integer y) { return x+y;, Arrays.asList(new Integer[]{1,2,3,4,5), 0)); 15 23

24 Map-Reduce Kombination aus Map- und Reduce-Funktion Map / Reduce: Muster einer Kontrollstruktur Alle Elemente einer Datenstruktur werden mit einer Map-Funktion m transformiert alle (transformierten ) Elemente mit einer Reduce-Funktion r zusammengefasst map reduce m [ ] m [ ] r m 24

25 Map-Reduce Map-Funktionen können parallel abgearbeitet werden Das Map/Reduce Muster wird meist mit verteilten Rechnern verbunden - viele Maschinen sind gleichzeitig mit einer map-funktion beschäftigt Google hält ein Patent auf eine map/reduce-variante - System and method for efficient large-scale data processing Apache Hadoop Map/Reduce-System ähnlich dem von Google patentierten Das Map/Reduce-Muster kann natürlich auch unverteilt auf Multicore-Systemen realisiert werden... mit Hilfe des s (map parallel, reduce sequentiell) 25

26 Map-Reduce : Map parallelisieren private static class Mapper<T> extends RecursiveAction { private static final long serialversionuid = 1L; private List<T> l; private FunT2T<T> f; private int index; public Mapper(FunT2T<T> f, List<T> l, int index) { this.l = l; this.f = f; this.index = protected void compute() { if (index >= l.size()) { return; l.set(index, f.apply(l.get(index))); Mapper<T> mapper = new Mapper<T>(f, l, index+1); mapper.fork(); mapper.join(); public static <T> List<T> map (final FunT2T<T> f, final List<T> l) { ForkJoinPool pool = new ForkJoinPool(2); pool.submit(new Mapper<T>(f, l, 0)); return l; 26

27 - parallel array ParallelArray / Package extra166y ParallelArray Paralleles arbeiten auf Arrays und anderen Datenkollektionen erfordert Java extra166y und jsr166y download : 27

28 - parallel array ParallelArray Beispiel package test; import jsr166y.forkjoinpool; import extra166y.parallelarray; public class PA { private final static int threadcount = Runtime.getRuntime().availableProcessors() * 4; private final static ForkJoinPool pool = new ForkJoinPool(threadCount); static Double[] a = new Double[]{ 0.1, 0.4, 0.1, 0.4, 0.5, 0.6, 0.7, 3.2, 3.3, 3.2, 3.3, 3.4, 3.5, 3.8, 2.3, 2.2, 2.3, 2.2, 2.3, 2.4, 2.9, 1.4, 1.1, 1.4, 1.1, 1.2, 1.3, 1.0, ; public static void main(string[] args) { ParallelArray<Double> pa = ParallelArray.createUsingHandoff(a, pool); pa.sort(); for (double d : a) { System.out.print(d + " "); System.out.println(); 28

29 - parallel array ParallelArray : Filter Filtern: Eine Kollektion kann mit einen Filterausdruck gefiltert werden Beispiel: package test; import jsr166y.*; import extra166y.*; public class PA { static ForkJoinPool pool = new ForkJoinPool(); static Double[] a = new Double[]{ 2.3, 1.2, 0.3, 2.2, 3.3, 4.4, 5.9, ; public static void main(string[] args) { ParallelArray<Double> pa = ParallelArray.createUsingHandoff(a, pool); ParallelArrayWithFilter<Double> fpa = pa.withfilter(new Ops.Predicate<Double>() public boolean op(double x) { return x < 2; ); Ausgabe: sortierte Folge der Werte kleiner 2 for (double d : fpa.all().sort()) { System.out.print(d + " "); System.out.println(); 29

30 - parallel array ParallelArray : Mapping Mapping: Eine Kollektion kann mit einer Map-Operation modifiziert werden Beispiel: package test; import jsr166y.forkjoinpool; import extra166y.parallelarray; import extra166y.parallelarraywithmapping; import extra166y.ops.op; public class PAF { private final static ForkJoinPool pool = new ForkJoinPool(); static Double[] a = new Double[]{ 2.3, 1.2, 0.3, 2.2, 3.3, 4.4, 5.9, 0.1, 0.4, 0.1, 0.4, 0.5, 0.6, 0.7, 3.2, 2.3, 1.2, 0.3, 3.4, 2.5, 1.8, 6.4, 5.1, 4.4, 3.1, 2.2, 1.3, 0.0 ; public static void main(string[] args) { ParallelArray<Double> pa = ParallelArray.createUsingHandoff(a, pool); ParallelArrayWithMapping<Double, Double> mpa = pa. replacewithmapping(new Op<Double, Double>() public Double op(double x) { return x*10; ); Ausgabe: sortierte Folge der 10-fachen Werte for (double d : mpa.all().sort()) { System.out.print(d + " "); System.out.println(); 30

31 - parallel array ParallelArray : Reduktion Reduktion der Kollektion auf einen Wert mit Spezialfunktion max / min / summary (statistische Übersicht) Beispiel: package test; import jsr166y.forkjoinpool; import extra166y.parallelarray; public class PA { private final static ForkJoinPool pool = new ForkJoinPool(); static Double[] a = new Double[]{ ; public static void main(string[] args) { ParallelArray<Double> pa = ParallelArray.createUsingHandoff(a, pool); System.out.println(pa.max()); System.out.println(pa.min()); System.out.println(pa.summary()); 31

32 - parallel array ParallelArray : Reduktion Reduktion der Kollektion auf einen Wert Beispiel: mit Spezialfunktion max / min package test; import jsr166y.forkjoinpool; import extra166y.parallelarray; import extra166y.ops.reducer; public class PA { private final static ForkJoinPool pool = new ForkJoinPool(); static Double[] a = new Double[]{ ; public static void main(string[] args) { ParallelArray<Double> pa = ParallelArray.createUsingHandoff(a, pool); double sum = pa.reduce(new public Double op(double x, Double y) { return x+y;, 0.0); System.out.println(sum); 32

33 - parallel array ParallelArray Filter- / Abbildungs- / Reduktions-Algorthmen können in einem Ausdruck kombiniert werden. Beispiel : finde große Primzahlen in einem Array: public static void main(string[] args) { ParallelArray<Long> pa = ParallelArray.createUsingHandoff(a, pool); System.out.println( pa.withfilter(islarge).withmapping(computefactors ).all().withfilter(isoneelemented ).all() ); islarge: prüft ob die Zahl groß ist computefactors: berechnet die Primfaktoren isoneelemented: test ob die Liste der Primfaktoren genau ein Element hat. 33

34 - parallel array ParallelArray Alle Operationen können kombiniert werden Insgesamt: Map / Filter / Reduce - Framework mit datenparalleler Implementierung 34