Skalieren von SaaS Anwendungen. Patric Boscolo, Developer Evangelist, Microsoft Deutschland GmbH

Größe: px

Ab Seite anzeigen:

Download "Skalieren von SaaS Anwendungen. Patric Boscolo, Developer Evangelist, patbosc@microsoft.com, Microsoft Deutschland GmbH"

Caroline Burgstaller
vor 8 Jahren
Abrufe

2 Skalieren von SaaS Anwendungen Patric Boscolo, Developer Evangelist, Microsoft Deutschland GmbH

3 Windows Azure Cloud Services Developer Resources

4 Windows Azure Windows Azure Services Cloud Services Developer Resources

5 Was ist eine SaaS Anwendung? Twitter VLOG UNIVERSITY #15 Datacenter ab 50 /mtl Hotmail 99 Facebook Video -20% Dashboard

6 Verteilte Anwendung Client Phone Sicher Server Global Connected

9 Everything is failing all the time You are responsible!

10 Was muss ich tun? Was kann der Anbieter für mich tun?

11 Skalierung? Vertikale Skalierung Horizontale Skalierung Horizontale Skalierung Horizontale Skalierung Mehr Ressourcen Mehr Instanzen

13 IDE Unterstützung Visual Studio + Windows Azure SDK Eclipse + Windows Azure SDK für Java Windows Azure SDK für PHP Powershell + node.js Mehr finden Sie unter...

14 Deployment Staging / Production Compute Emulator Project Binaries Service Configuration Service Definition

16 Wie verhält sich meine App unter Last?

17 #1 Production vs. Development

18 MESSEN & SKALIEREN Unit Test Load Test Windows Azure Diagnostics Windows Azure Diagnostics Manager

19 There is no place like Production

20 #2 scale all parts

21 Meine Superawesome Webseite Meine Superawesome Webseite Meine Superawesome Webseite Scale me too!!! ;-) n Webroles 1 Database It s better to have 50 times 1GB db, then a single 50GB db. How to scale a db? Partitioning (Alpha, User, Usage, Date)

22 #3 retry, again and again

23 Transient Conditions Transient Condition Network, Datacenter, Service... Beispiel SQL Azure Error The service is currently busy. Retry the request after 10 seconds. Transient Fault Handling Framework Wiederholen von externen Aufrufen SQL Azure Windows Azure Storage Service Bus 3rd Party Services

24 #4Work Async

25 Client WebApp Frontend Client Request #1 Client Response #1 Synchrone Ausführung Meine Superawesome Webseite Thread Executes Result SQL Azure Middle Tier Storage Client Request #2 Blocking Jeder Thread ist genau für ein Request zuständig Blockiert bei jedem Schritt der Ausführung Gibt erst nach Abschluss der Ausführung (Operationen) das Resultat zurück (Respond & Repeat) Jeder ausstehende Request wird im Thread-Stack gespeichert Thread blockiert die abarbeitung der Threads im Thread-Stack Durch das Anlegen eines weiteren Threads, wird lediglich ein weitere Thread abgearbeitet

26 Client WebApp Frontend Asynchrone Ausführung Client Response Request #1 Client Client Response Request #2 #2 Meine Superawesome Webseite Thread Req 1 Req 2 Response 2 Response Executes 1 Executes SQL Azure Middle Tier Storage Threads arbeiten wann immer Sie bereit sind Die Reihenfolge der Abarbeitung ist zufällig Die Requests werden in der App Datastructure verwaltet Threads blockieren nicht mehr währen der Ausführung von Operationen Threads können mehrere simultane Requests abarbeiten

27 Solution Explorer Team Explorer Microsoft Visual Studio Item1.cs File Edit View Build Debug Team Data Tools Test Analyze Windows Help Debug Any CPU Toolbox Item1.cs Item2.cs Item3.cs void UploadImage(Stream image, CloudBlob destblob) { // Add image to list in SQL Azure AddImageToSQLAzure(destBlob.Uri); } //Upload image to blob storage UploadImageToBlob(image, destblob); async Task UploadImageAsync(Stream image, CloudBlob destblob) { //Add image to list in SQL Azure Task var t1 = AddImageToSQLAzureAsync(destBlob.Uri);

28 Solution Explorer Team Explorer Microsoft Visual Studio Item1.cs File Edit View Build Debug Team Data Tools Test Analyze Windows Help Debug Any CPU Toolbox Item1.cs Item2.cs Item3.cs void uploadimagetoblob(stream image, CloudBlob destblob) { destblob.uploadfromstream(image); } async Task UploadImageToBlobAsync(Stream image, CloudBlob destblob) { // Task.Factory.FromAsync method creates a Task or Task<T> // to represent a Begin/End async invocation await Task.Factory.FromAsync<Stream>(destBlob.BeginUploadFromStream, destblob.enduploadfromstream, image, null); }

29 #5 CDN and Optimization

31 evtl. viele hops oder poor links weniger hops CDN Closest Point of Presence X Blob Storage X Public Container DNS name resolves to closest POP Blob header determines time-to-live at the edge

32 Content Delivery Network (CDN) 24 global verteilt CDNs (99.95% Erreichbarkeit) Einrichten eines CDN via Management Portal Generiert 2 URLs für unterschiedliche Zugriffe Direkter Zugiriff: Zugiff via CDN: CNAME Mappings für CDN URLs CDN für WebApps und Windows Azure Storage CSS, Images,... Smooth streaming verfügbar als CTP

33 Lebenszeit von Inhalten im CDN Per Default wird Content für 72 Std. gehalten Einstellen der TTL via cache control header x-ms-blob-cache-control: public, max-age=<value in seconds> Stunden, Tage, Wochen Längere Lebenszeit reduziert: Kosten, Latenzzeiten, andere Caches Verwendung von Versionierten URLs um Inhalte bei Bedarf zu ändern

34 Versionierte URLs Superawesome WebApp <img src=" net/images/logo net/images/logo png" 22.png" /> CDN logo png logo png logo png logo png Vereinfacht das Rollback / Versionierung Ermöglicht A/B Tests

35 CDN für Web Apps CDN support für Webseiten Normale URL: CDN URL: Cached from: CNAME & HTTPS support Achtung! Die cache control headers müssen angepasst werden um das ASP.net OutputCache Modul zu unterstützen

36 #6 Use Caching

37 Loadbalancer Instance 1 Instance 2 Different States

38 Windows Azure Caching Cache für Daten die über mehrere Instanzen hinweg zur Verfügung stehen sollen. Session State, Shopping Cart,... AppFabric Caching ist ein hosted distributed cache Global Verfügbar Low latency, hosted per subregion ACS unterstützung Vorteile Einfache Administration ASP.net Session State und Output Cache providers Nearcache für aktuelle Daten ohne Serializierungskosten

39 #8 Traffic Manager

40 Windows Azure Traffic Manager Direct users to the service in the closest region with the Windows Azure Traffic Manager foo-us.cloudapp.net Traffic Manager Policies Monitoring foo-europe.cloudapp.net foo-asia.cloudapp.net

41 Tables and Queues CDN Caching ACS Traffic Manager Production vs. Development Scale all Parts Retry (Transient Fault Handling) Work Async

42 Tables and Queues CDN Caching ACS Traffic Manager Production vs. Development Scale all Parts Retry (Transient Fault Handling) Work Async

45 //blogs.msdn.com/hsirtl mailto:

Ähnliche Dokumente

Was ist Windows Azure? (Stand Juni 2012)

Was ist Windows Azure? (Stand Juni 2012) Windows Azure Microsofts Cloud Plattform zu Erstellung, Betrieb und Skalierung eigener Cloud-basierter Anwendungen Cloud Services Laufzeitumgebung, Speicher, Datenbank,