Caching. Hintergründe, Patterns &" Best Practices" für Business Anwendungen

Größe: px

Ab Seite anzeigen:

Download "Caching. Hintergründe, Patterns &" Best Practices" für Business Anwendungen"

Insa Sternberg
vor 8 Jahren
Abrufe

1 Caching Hintergründe, Patterns &" Best Practices" für Business Anwendungen

2 Michael Plöd" Senacor Technologies

3 Business-Anwendung!= Twitter / Facebook & co.

4 " / kæʃ /" bezeichnet in der EDV einen schnellen Puffer-Speicher, der (erneute) Zugriffe auf ein langsames Hintergrundmedium oder aufwändige Neuberechnungen zu vermeiden hilft. Inhalte/Daten, die bereits einmal beschafft/berechnet wurden, verbleiben im, sodass sie bei späterem Bedarf schneller zur Verfügung stehen. Auch können Daten, die vermutlich bald benötigt werden, vorab vom Hintergrundmedium abgerufen und vorerst im bereitgestellt werden." " s können als Hardware- oder Softwarestruktur ausgebildet sein. In ihnen werden Kopien zwischengespeichert. Quelle:

Inhalte/Daten, die bereits einmal beschafft/berechnet wurden, verbleiben im, sodass sie bei späterem Bedarf schneller zur Verfügung stehen.

5 s everywhere!!! NO WAY

6 Viele Enterprise Projekte haben Angst vor Caching

7 .. und setzen Caching deshalb insuffizient ein.

8 Mit dem richtigen Einsatz von Caching können Business-Anwendungen skalierbarer, performanter und günstiger im Betrieb werden.

9 Aufbau und Laufzeit- Verhalten einer typischen Business-Anwendung

10 Web Anwendungsfall Host System X.. Y.. Z DB

11 Host Host-Services werden in der Regel pro Aufruf abgerechnet Geld System X.. Y.. Z Aufrufe von Umsystemen benötigen in der Regel viel Zeit Zeit DB Datenbanken werden häufig aufgerufen Ressourcen

12 Zu teuer! Zu langsam! Schlechter Service! IT-Chef Betreuer Kunde

13 Local, Data Grid, Document Store, JPA First Level, JPA Second Level, Hybrid Arten von Orte für CACHES Datenbank, Heap, HTTP Proxy, Browser, Prozessor, Disk, Off Heap, Persistenz- Framework, Anwendung

14 Wir betrachten primär lokales und verteiltes Caching auf Anwendungs- Ebene mit einem Exkurs in Richtung JPA

15 Was muss ich in Bezug auf Datenkonsistenz beachten? Welchen Einfluss hat das auf meine Infrastruktur? Was soll ich cachen? Welchen soll ich nutzen? Wie führe ich Caching ein? Wo soll ich cachen?

16 Was muss ich in Bezug auf Datenkonsistenz beachten? Welchen Einfluss hat das auf meine Infrastruktur? Was soll ich cachen? Welchen soll ich nutzen? Wie führe ich Caching ein? Wo soll ich cachen?

17 1 Identifiziere geeignete Ebenen für Caching

18 HTTP Caching BeschwerdeManagementRestController Lese Operationen BeschwerdeManagementBusinessService DatenBeschaffungsManager Lese Operationen Host! Commands Umsystem! Commands JPA! DAO Lese Operationen Lese Operationen Lese- und Schreib- Operationen Ebenen

Lese Operationen Host! Commands Umsystem! Commands JPA!

19 2 Bleibe so lange lokal wie möglich

20 Lokal In-Memory JVM

21 Clustered JVM JVM JVM JVM

22 Demo Hazelcast lokal vs verteilt

23 Was muss ich in Bezug auf Datenkonsistenz beachten? Welchen Einfluss hat das auf meine Infrastruktur? Was soll ich cachen? Welchen soll ich nutzen? Wie führe ich Caching ein? Wo soll ich cachen?

24 Ein transaktionaler kostet Performance!

25 Clustered - with sync JVM JVM Invalidation JVM JVM Replication

26 3 Ziehe Invalidation, Replication vor

27 Invalidation

28 Invalidation PUT (Insert) #1 #1 PUT (Insert) PUT (Insert) #1 #1 PUT (Insert)

29 Invalidation #1 #1 #1 #1

30 Invalidation #1 #1 PUT (Update) #1 #1

31 Invalidation PUT (Update) #1

32 Replication

33 Replication PUT (Insert) #1 #1 #1 #1

34 Replication #1 #1 #1 #1

35 Replication #1 #1 PUT (Update) #1 #1

36 Bisher hält jeder potentiell alle Daten und belegt Platz im Heap

37 Big Heap?

38 Was muss ich in Bezug auf Datenkonsistenz beachten? Welchen Einfluss hat das auf meine Infrastruktur? Was soll ich cachen? Welchen soll ich nutzen? Wie führe ich Caching ein? Wo soll ich cachen?

39 4 Vermeide große Heap-Sizes nur für Caching.

40 Grosser Heap 32 GB führt zu langen major GCs Application Data

41 Lange GCs können Cluster destabilisieren JVM JVM JVM JVM

42 Lange GCs können Cluster destabilisieren JVM JVM JVM JVM

43 Lösung: Kleine s? Viele Evictions, wenige Hits, hot data kann nicht entstehen "

44 5 Sehr grosse Datenmenge? Distributed!

45 Distributed s JVM JVM 1 Node 2 JVM JVM Node 3 Node

46 1

47 1 Kunde #23 Kunde #30 Kunde #27 Kunde #32

48 1 Kunde #23 Kunde #30 2 Kunde #27 Kunde #32

49 1 2 Kunde #23 Kunde #30 Kunde #27 Kunde #32 Die Daten werden verteilt und Backups gesichert

50 1 2 Kunde #23 Kunde #30 Kunde #27 Kunde #32 BACKUP #27 BACKUP #32 BACKUP #23 BACKUP #30 Die Daten werden verteilt und Backups gesichert

51 1 2 Kunde #23 Kunde #27 Kunde #32 BACKUP #27 BACKUP #32 BACKUP #30 3 Kunde #30 BACKUP #23

52 1 2 Kunde #23 BACKUP #27 Kunde #27 BACKUP #32 3 Kunde #30 4 Kunde #32 BACKUP #23 BACKUP #30

53 Hazelcast DEMO on Raspberry Pi in Lego

54 8 Raspberry Pis mit je einer Hazelcast Instanz! 1 MacBook Pro mit zwei Hazelcast Instanzen

55 MacBook Pro Lego Cloud Test Programme Raspberry Hazelcast Raspberry Hazelcast Raspberry Hazelcast Raspberry Hazelcast Hazelcast Raspberry Hazelcast Raspberry Hazelcast Hazelcast Raspberry Hazelcast Raspberry Hazelcast Hazelcast Cluster mit beliebig skalierbarer Anzahl an Instanzen

56 Ein verteilter führt zu kleinen Heaps, mehr Kapazität und lässt sich einfach skalieren 2-4 GB Application Data

57 6 Der Operations-Mitarbeiter ist Dein bester Freund!

58 s im Cluster sind komplex

59 Betrieb mit an Board holen!

60 Was muss ich in Bezug auf Datenkonsistenz beachten? Welchen Einfluss hat das auf meine Infrastruktur? Was soll ich cachen? Welchen soll ich nutzen? Wie führe ich Caching ein? Wo soll ich cachen?

61 7 nur geeignete Daten

62 Die besten Kandidaten sind readmostly Daten, die teuer in der Beschaffung sind

63 Will man dennoch schreibintensive Daten im Cluster cachen, dann nur mit dem Modus distributed cache

64 Was muss ich in Bezug auf Datenkonsistenz beachten? Welchen Einfluss hat das auf meine Infrastruktur? Was soll ich cachen? Welchen soll ich nutzen? Wie führe ich Caching ein? Wo soll ich cachen?

65 8 Nutze erprobte - Implementierungen

66 NIEMALS eine eigene Implementierung entwickeln

67 Infinispan, EH, Hazelcast, Couchbase, Memcache, OS, Swarm, Xtreme, Apache DirectMemory CACHE Implementierungen Terracotta, Coherence, Gemfire, onix, WebSphere extreme Scale, Oracle 12c In Memory Database

68 Was muss ich in Bezug auf Datenkonsistenz beachten? Welchen Einfluss hat das auf meine Infrastruktur? Was soll ich cachen? Welchen soll ich nutzen? Wie führe ich Caching ein? Wo soll ich cachen?

69 9 Führe Caching in drei Schritten ein

70 Anwendungs- Optimierung Lokaler Verteilter Performance Boost Performance Slowdown

71 10 Optimiere die Serialisierung von Objekten

72 Demo Proprietäre Serialisierungs-Möglichkeiten

73 Beispiel: Hazelcast Objekte lokal schreiben und lesen GET Time PUT Time Payload Size Serializable 1287 ms 1220 ms 1164 byte Data Serializable 443 ms 408 ms 916 byte Identifier Data Serializable 264 ms 207 ms 882 byte

74 JAVA SERIALIZATION SUCKS for Caching if alternatives are present

75 11 Abstrahiere Deinen Provider

76 Beispiel: Spring <cache:annotation-driven cache-manager="ehmanager"/>!! ! <bean id="ehmanager"! class="org.springframework.cache.ehcache.ehmanager"! p:cachemanager-ref="ehcache"/>!!! <bean id="ehcache"! class="org.springframework.cache.ehcache.ehmanagerfactorybean"!! public Customer retrievecustomer(long customernumber) {!!! }

77 Demo Kundensuche in Call-Center

78 Spring + Wicket User Interface Netzwerk CRM Kundendaten Host! Konten Transaktionen DB Spring Boot Java EE 7 H2 Server

79 12 Lagere heisse Daten möglichst nah an der Anwendung

80 Beispiel: Near JVM 1 Node 4 Node 2 5 Node Node 3 6 Node Node

81 Beispiel: Near JVM 1 Node 4 Node 2 5 Node Node 3 6 Node Node Node

82 Verwende Off-Heap 13 Storage für Instanzen mit mehr wie 4 GB Heap Size

83 THINK BIG

84 Keine Garbage Collection Off Heap Sehr kurze Garbage Collections 30 GB RAM Data JVM 2 GB HEAP Runtime

85 14 JPA: Flush vor Put

86 IMMER entitymanager.flush() VOR Put

87 Identifiziere geeignete Ebenen für Caching Bleibe so lange lokal wie möglich Ziehe Invalidation, Replication vor Vermeide große Heap-Sizes nur für Caching. Sehr grosse Datenmenge? Distributed! Der Operations-Mitarbeiter ist Dein bester Freund! nur geeignete Daten Nutze erprobte -Implementierungen Führe Caching in drei Schritten ein Optimiere die Serialisierung von Objekten Abstrahiere Deinen Provider Lagere heisse Daten möglichst nah an der Anwendung Off-Heap Storage für Instanzen mit mehr wie 4 GB Heap Size 14 JPA: Flush vor Put

88 Fragen? Michael Plöd" Senacor Technologies

Ähnliche Dokumente

Session Beans & Servlet Integration. Ralf Gitzel ralf_gitzel@hotmail.de

Session Beans & Servlet Integration. Ralf Gitzel ralf_gitzel@hotmail.de s & Servlet Integration Ralf Gitzel ralf_gitzel@hotmail.de 1 Themenübersicht Ralf Gitzel ralf_gitzel@hotmail.de 2 Übersicht Motivation Das Interface Stateful und Stateless s Programmierung einer Stateful