Vorlesung 7. Multithreading in Java 5: Die neuen Concurrency APIs

Transkript

1 Vorlesung 7 Multithreading in Java 5: Die neuen Concurrency APIs 1

2 Die neuen Pakete ÜBERSICHT DER VORLESUNG java.util.concurrent Standardimplementierungen oftmals benötigter Hilfsmittel in nebenläufigen Programmen, deren Programmierung sonst oft mühsam oder schwierig ist (Threadpools, Warteschlangen, Zeitgeber, Synchronisierer und nebenläufige Verbundtypen) java.util.concurrent.atomic Ein kleines Paket von Klassen, die das sperrenfreie und somit effiziente Programmieren thread-sicherer Verfahren auf einzelnen Variablen unterstützen java.util.concurrent.locks Schnittstellen und Klassen für differenzierte Sperrenvergabe mittels präzise formulierter Wartebedingungen, die eine Alternative zur Java-nativen Synchronisation mittels Monitoren darstellen c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 2

3 THREADPOOLS - DAS BACKEND EINES SERVERS Ein Server bedient mehrere Clientanfragen zugleich Problem 1: Neuer Thread für jede Anfrage Server verbraucht die meiste Zeit für das Anlegen und Zerstören von Threads Problem 2: Beliebig viele Threads möglich Es kann schnell zur Ressourcenüberlastung kommen (Denial of Service) Server request reply Client Threadpool Ein Threadpool kann beide Probleme lösen Threads wandern nach der Verwendung zurück in den Pool Maschinenspezifische Thread-Obergrenze dient zur Prävention überlastbedingter Systemabstürze c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 3

4 THREADPOOLS IN JAVA 5 In Java 5 implementieren ThreadPools das interface java.util.concurrent ExecutorService { <T> Future submit(callable<t> task);... dessen submit-methode zur asynchronen Verabrbeitung von Aufgaben dient Als Benutzer müssen wir folglich das interface java.util.concurrent Callable<T> { T call( ); implementieren und somit angeben wie das Ergebnis einer solchen Aufgabe errechnet wird Beachte: Callable entspricht dem uns bekannten Runnable Die Rückgabe von submit hat den interface-typ java.util.concurrent Future<T> { T get( );... und ist sofort verfügbar, während das tatsächliche Ergebnis bei Bedarf mittels der Methode get abgefragt werden kann c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 4

5 EXECUTORS: FACTORIES FÜR THREADPOOLS Zur Instantiierung wird die Factory-Klasse Executors verwendet, die folgende Typen bereitstellt FixedThreadPool: Ein Threadpool mit festgelegter Anzahl von Threads CachedThreadPool: dynamischer Pool, dessen Threads auf Anfrage generiert und automatisch wieder gelöscht werden, sobald einzelne Threads länger als 60 Sekunden nicht benötigt werden ScheduledThreadPool: Threadpool dessen Threads nach einem Zeitplan oder periodisch aktiv werden Die Klasse ThreadPoolExecutor kann erweitert werden, um neue Typen von Threadpools anzulegen, die an spezielle Anwendungen angepasst sind Merke: Ein FixedThreadPool ist einfach zu generieren und genügt den Ansprüchen der meisten Anwendungen c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 5

6 BEISPIEL: SERVER MIT THREADPOOL Ausblick: Sockets dienen zur TCP-basieren Kommunikation über Netzwerkverbindungen Mehr dazu: folgende Vorlesungen... class Server { private final ServerSocket socket ; private final ExceutorService threadpool ; public Server (int port, int poolsize ) throws IOException { socket = new ServerSocket ( port ); threadpool = Executors. newfixedthreadpool ( poolsize ); c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 6

7 UNSER THREADPOOL IN AKTION public void serve ( ) { try { for( ; ; ) { threadpool. execute (new Service ( socket. accept ( ))); catch ( IOException ioe ) threadpool. shutdown ( ); class Service implements Runnable { private final Socket socket ; Service ( Socket socket ) { this. socket = socket ; public void run ( ) { /* read and service request */ Zur Terminierung ist ein Aufruf von shutdown erforderlich Ergebnislose Aufgaben werden weiterhin als Runnable spezifiziert c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 7

8 CALLABLES AND FUTURES Das Interface Callable ermöglicht den Zugriff auf ein Ergebnis oder auf eine Exception aus einem anderen Thread Wir implementieren call( ) anstelle von run( ) Ein Callable kann an einen Executor übergeben werden Wir rufen submit( ) anstelle von execute( ) auf Es wird sofort eine Future-Referenz zurückgeliefert Wenn das Ergebnis benötigt wird, rufen wir die get-methode des Future-Objekts auf Solange das Ergebnis berechnet wird, wird der aufrufende Thread blockiert Sobald das Ergebnis vorliegt, wird es zurückgegeben Ähnlich wie Runnable wird Callable von Klassen implementiert, deren Instanzen nebenläufig arbeiten Beachte: Runnable liefert kein Ergebnis und kann keine checked Exception werfen c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 8

9 CODEBEISPIEL: FUTURES IN AKTION class Example implements Callable < String > { public String call ( ) { // do some work and create a result return result ; public static void main ( String [] args ) { ExecutorService es = Executors. newsinglethreadexecutor ( ); Future < String > f = es. submit (new CallableExample ( )); // do some work in parallel try { String callableresult = f. get ( ); catch ( InterruptedException ie ) { /* ignored purposefully */ catch ( ExcecutionException ee ) { /* to be handled... */ newsinglethreadexecutor ist die einfachste Variante ein Callable nebenläufig auszuwerten Eine Exception während der Auswertung wird als ExecutionException weitergereicht c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 9

10 VARIANTEN ZUR GENERIERUNG VON CALLABLE-OBJEKTEN Das Executors-Toolkit stellt statische Factory-Methoden zur automatischen Generierung von Callable-Objekten bereit: <T>callable(Runnable task): entspricht dem übergebenen Runnable und liefert null <T>callable(Runnable task, T result): wie oben, liefert jedoch result Es gibt auch eine Variante zur nebenäufigen Ausfürung privilegierter Aktionen: <T>priviligedCallable(Callable<T> task): Die Aufgabe wird innerhalb des gegenwärtigen Sicherheitskontextes ausgeführt, d.h. Privilegien einer mittels AccessController.doPrivileged(myAction) deklarierten Aktion können an eine nebenäufige Aktivität weitergegeben werden c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 10

11 DIE WAR TESCHLANGENKLASSEN DER CONCURRENCY APIS Mit Außnahme der Klassen PriorityBlockingQueue (mit Prioritäten) und DelayQueue (Verzögerungsprinzip) arbeiten Warteschlangen nach dem FIFO- Prinzip, also first-in first-out Alle Warteschlangen implementieren folgendes interface: public interface Queue <T > extends Collection <T > { boolean offer (T o ); T peek ( ); T poll ( ); T element ( ) throws NoSuchElementException ; T remove ( ) throws NoSuchElementException ; offer reiht (falls möglich) ein neues Element ein, peek (bzw. element) ließt das vorderste Element aus und poll (bzw. remove) entfernt es zugleich Variante BlockingQueue: zusätzlich put & take (blockierend), sowie offer(e o, long timout, TimeUnit u) (überladen) c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 11

12 EINIGE BESONDERE WAR TESCHLANGEN Merke: Am einfachsten läßt sich mittels new ArrayBlockingQueue(size) eine Warteschlange fester Größe anlegen Spezielleren Typen, wie LinkedBlockingQueue oder SynchronousQueue (Synchronisation on-the-fly) haben intuitive Bezeichner und sind analog zu bedienen Elemente einer PriorityBlockingQueue müssen das aus den Collection APIs von Java 2 bekannte Comparable-interface implementieren und sind entsprechend priorisiert Elemente einer DelayQueue können selber eine Zeitspanne angeben, die darüber bestimmt, wann sie zur Auslieferung anstehen und implementieren dazu das Interface: public interface Delayed extends Comparable { long getdelay ( TimeUnit unit ); c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 12

13 NANOSEKUNDENGENAUE ZEITGEBER Viele Methoden der java.util.concurrent Klassen verlangen die Übergabe einer Zeitdauer In Java 5 besteht eine Zeitspanne aus einer Ganzzahl (long) und einer Maßeinheit Mögliche Maßeinheiten sind in der Hilfsklasse TimeUnit definiert: class TimeUnit { public static TimeUnit SECONDS ; public static TimeUnit MICROSECONDS ; public static TimeUnit MILLISECONDS ; public static TimeUnit NANOSECONDS ; public long convert (long duration, TimeUnit unit ); Umrechnung zwischen Maßeinheiten mittels convert. z.b.: TimeUnit.MILLISECONDS.convert(1, TimeUnit.SECONDS); c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 13

14 VERWENDUNG VON SEMAPHOREN Java 5 bietet mit der Klasse Semaphare erstmals eine standardisierte Implementierung zur Ressourcensynchronisation mittels Zählsemaphoren Folgendes Beispiel einer Ressourcenklasse zeigt wie Semaphare zu verwenden sind: class Ressources { private Semaphore available ; private Resource [] resources ; public Resources (int poolsize ) { available = new Semaphore ( poolsize ); public Resource getresource () { try { available. acquire ( ); catch ( InterruptedException ie ) { public void returnresource ( Resource r) { available. release ( ); c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 14

15 RENDEZVOUZ MITTELS EXCHANGERN Exchanger funktionieren wie eine SynchronousQueue, mit dem Unterschied, daß hier beide Partner geben und nehmen! Folgende Beispielklasse tauscht einen Puffer aus, sobald er vollständig befüllt ist: class FillingLoop implements Runnable { public void run () { DataBuffer currentbuffer = initialemptybuffer ; try { while ( currentbuffer!= null) { addtobuffer ( currentbuffer ); if ( currentbuffer. full ()) currentbuffer = exchanger. exchange ( currentbuffer ); catch ( InterruptedException ex) { Der Partnerthread bei diesem Rendezvouz enthält den komplementären Code; er ruft takefrombuffer und empty auf c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 15

16 THE LATCH : EIN RIEGELSCHLOSS MIT ZÄHLER Die await-methode eines mittels new CountDownLatch(n) angelegten Schlosses blockiert solange bis countdown n-mal aufgerufen wurde class Scheduler { void manage ( ) { CountDownLatch signal = new CountDownLatch (N); for (int i = 0; i < N; ++ i) new Thread (new Worker ( signal )). start ( ); dosomethingelse ( ); signal. await ( ); collectresults ( ); class Worker implements Runnable { private final CountDownLatch signal ; Worker ( CountDownLatch signal ) { this. signal = signal ; public void run ( ) { try { dowork ( ); signal. countdown ( ); catch ( InterruptedException ex ) { c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 16

17 JOB-SCHEDULING MIT CYCLICBARRIERS Die await-methode eines mittels new CyclicBarrier(n) angelegten Schlosses blockiert solange bis await n-mal aufgerufen wurde c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 17

18 SYNCHRONISATION VON THREADS IN JAVA 5 Im Gegensatz zum new CountDownLatch wird der Zähler eines new CyclicBarrier nach jedem Auslösen automatisch zurückgesetzt Ein Anwendungsbeispiel folgt in der Übung (morgen) Die sperrenfreie Synchronisation auf atmoren Objekten wurde bereits in der ersten Übung vorgeführt Wir sehen uns im Folgenden die neuen Mittel zur Threadsynchronisation mittels Sperren an c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 18

19 LOCKS IN JAVA 5 Die neuen Klassen in concurrent.locks stellen eine Alternative zu den Monitormethoden der Object-Klasse dar und ermöglichen eine differenziertere Vergabe von Sperren Locks sind etwas komplizierter zu bedienen, aber flexibler als die Monitormethoden der Klasse Object Keine Bindung an die Blockstruktur des Programms, wie bei synchronized Es existiert eine nicht-blockierende Variante des Wartens auf ein Lock-Objekt (polling): boolean trylock( ); bzw. boolean trylock(long time, TimeUnit unit); c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 19

20 DAS INTERFACE LOCK Alle neuen Lock-Klassen (z.b. ReentrantLock implementieren das folgende interface: public interface Lock { void lock ( ); void lockinterruptibly ( ) throws InterruptedException ; boolean trylock ( ); boolean trylock (long time, TimeUnit unit ); void unlock ( ); Condition newcondition ( ); trylock kehrt immer sofort zurück und liefert false, sofern das Lock-Objekt nicht verfügbar ist Conditions stellen eine Alternative zu wait & notify dar c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 20

21 DAS INTERFACE CONDITION Conditions-ermöglichen ein differenzierteres Warten, d.h. die Freigabe eine Locks kann an unterschiedliche Bedingungen geknüpft werden public interface Condition { void await ( ); void awaituninterruptibly ( ); boolean await (long time, TimeUnit unit ); boolean awaitnanos (long nanostimeout ); boolean awaituntil ( Date deadline ); void signal ( ); void signalall( ); Vorsicht : Wie bei der Verwendung von wait und notify, gilt es zu beachten, dass ein Thread zunächst im Besitz eines Locks sein muss, bevor er eine (bedingte) Freigabe bewirken kann Sind signal oder await nicht von entsprechenden lock und unlock-aufrufen umschlossen, so folgt i.a. eine IllegalMonitorStateException c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 21

22 ZUSAMMENFASSUNG Die Concurrency Utilities stellen Zusatzpakete zu den Java-nativen Mechanismen für nebenläufige Programme dar Eine frühere Version der util.concurrent Packages ist bereits seit einigen Jahren als Doug Lea s Concurrency Library verfügbar und wurde mit der Veröffentlichung von Java 5 (als JSR-166) Bestandteil der Standard Java APIs Ziel: Systematische Erweiterung der Sprache - Was die Java 2 Collection APIs für Datenstrukturen getan haben, sollen die Java 5 Concurrency APIs für Nebenläufigkeit tun Viele der Neuerungen ließen sich auch mittels der Java 2 Primitiven wait, notify und synchronized realisieren Standardisierte APIs erleichtern das Verständnis von Programmen und das Rad muß nicht jedesmal neu erfunden werden Die nächste Vorlesung fängt mit dem Networking in Java an c 2005 BY SERGEI GORLATCH UNI MÜNSTER MULTITHREADING & NETWORKING IM JAVA-UMFELD VORLESUNG 7 22