VMware vsphere 5 Funktionen im Detail Dipl.-Ing. Thomas Liske mailto:liske@ibh.de

Transkript

1 VMware vsphere 5 Funktionen im Detail Dipl.-Ing. Thomas Liske mailto:liske@ibh.de IBH IT-Service GmbH Gostritzer Straße 67a Dresden

2 High Availability

3 Übersicht Grundlage: Heartbeat zwischen ESX-Servern: via Netzwerk via Datenspeicher Ausfall ESX-Server: "gemächlicher" Neustart betroffener VMs Fragestellung: Host-Isolation vs. -Ausfall genügend Ressourcen bei Ausfall verfügbar Admission Control (Zugangssteuerung)

4 Host Isolation Response Bei (Upgrade) vsphere < 5 standardmäßig Herunterfahren!

5 Admission Control Reservierung von Kapazität für den Ernstfall: Disable Admission Control i.a. nicht empfohlen häufig nötig für geplante Wartungsarbeiten Specify Failover Hosts dedizierte(r) Hot-Standby ESX-Server Host Failures Cluster Tolerates Percentage of Cluster Resources Reserved

6 Host Failures Cluster Tolerates konservativer Ansatz Funktionsgarantie im HA-Fall Tuning bei heterogenen VM-Reservierungen nötig

7 Percentage of Cluster Resources Reserved ignoriert Ressourcen-Fragementierung keine automatische Anpassung keine Berücksichtigung ungleicher Hosts

8 Networking

9 Virtual Switches Die "Verdrahtung" ESX-NICs und VM-NICs mittels... vsphere Standard Switch individuelle Konfiguration je ESX-Server (Unterstützung durch Host Profiles) unabhängig vom vcenter Ether Channels, aber kein LACP hohe Performance vsphere Distributed Switch zentrales Netzwerk-Management im Cluster vcenter für Management-Aufgaben nötig LACP, ESPAN,... Grundlage für Software Defined Networking (NSX) vsphere Enterprise+ third-party Virtual Switch (Cisco Nexus 1000v) Integration in Cisco Nexus-Welt vsphere Enterprise+

10 Virtual Machine Port Groups zwei Typen von virtuellen Netzwerkports: Virtual Machine Port Groups virtuelles Netzwerk für VMs diverse Parameter (externe Anbindung, Sicherheit etc.) VMkernel Ports Management Fault Tolerance vmotion

11 VMkernel Ports Schnittstellen des Hypervisors: Management Traffic Kommunikation vcenter & vsphere Client Heartbeat für High Availability SSH, SNMP, Syslog,... Fault Tolerance vmotion Replication iscsi, NFS Software HBAs

12 VMkernel Ports Beachten: Mischung von Diensten vermeiden nur ein Default Gateway möglich gleiche Dienste müssen in gleiche Netze

13 NIC Teaming Route based on the original virtual port Gleichverteilung virtueller Netzwerkports beliebige Switches Route based on IP hash Hash-based, benötigt Ether Channel Uplinks auf gleichen Switch oder Switch-Stack Route based on source MAC hash Hash-based ideal für virtuelle Layer 2 Bridges beliebige Switches Use explicit failover order nur ein aktiver Uplink beliebige Switches

14 NIC Failover Erkennung: Link Status only reagiert auf Änderung Link-Status keine Erkennung von Problemen > Layer 1 Beacon Probing reagiert auf Änderung Link-Status ESX sendet Beacon alle 10s sinnvoll ab drei NICs Optionen: Notify Switches sendet Gratuitous ARP-Pakete reduziert Konvergenzzeit (MAC Address Tables) Failback Reaktivierung ausgefallener NICs

15 Spanning Tree Protocol ohne portfast Paketverlust bei Failback für 5s bis 30s interface GigabitEthernet0/7 switchport mode trunk... spanning-tree portfast trunk spanning-tree bpduguard enable

16 Scheduling

17 CPU verfügbare CPU-Takte bekannt hoch dynamischer Verbrauch pro VM effektives statistisches Multiplexing möglich Scheduling Problem ist NP-Vollständig (Mengenzerlegungsproblem) weniger vcpu einfacheres Scheduling

18 Memory Pages VMs haben Hauptspeicher mit fester Größe OS nutzt freien Hauptspeicher für Buffers & Caches Reduzierung Speicherverbrauch durch Ballooning möglich Freigabe "unwichtiger" Speicherseiten VM-internes Swapping Extremfall: Swapping durch Hypervisor keine optimale Swappingentscheidung möglich hohe Zugriffszeiten in VM auf ausgelagerten Speicher katastrophale Performance-Auswirkung nicht am Haupspeicher ESX-Server sparen: kostengünstige & erweiterbare Ressource Ressourcenmangel führt zu katastrophalem Performanceeinbruch

19 Scheduling Reservierung: für VM garantiert verfügbare Ressourcengröße Grenzwert: Begrenzung der verwendbaren Ressourcengröße Konfiguration: der VM präsentierten Ressourcengröße Verfügbar: Gesamtgröße der Ressource auf ESX-Server

20 Distributed Resource Scheduling

21 Konfiguration

22 CPU Lastverteilung: mittlere CPU-Last der letzten 5 min ungünstiges Verhalten bei häufigen kurzen Lastspitzen Ready Time: Daumenregel: 5 % pro vcpu Ursachen für hohe Ready Time trotz geringer Last: NUMA BIOS Power Management

23 Memory Lastverteilung: mittlerer Speicherverbrauch der letzten 5 min + 25 % des inaktiven Speichers Reservierung: unbenutzte Speicherseiten durch andere VMs nutzbar inaktive Speicherseiten exklusiv in Lastsituationen (insbesondere HA) sehr ungünstig Empfehlung: Reservierungen möglichst vermeiden ESX-Server großzügig mit RAM ausstatten PercentIdleMBinMemDemand auf 100 % setzen alle inaktiven Speicherseiten werden von DRS berücksichtigt

24 Beachten (Anti-)Affinitätsregeln konfigurieren: bei Software-Clustern Reduzierung Auswirkung Ausfall ESX-Server (z.b. AD-, DNS-, Terminal-Server,...) leistungsempfindliche VMs zu leistungsstarken Hosts Reservierungen vermeiden Grenzwerte sind Workarounds

25 Worst Case-Rechenbeispiel CPU 2 physische CPU; 4 VMs 100 % CPU Busy: - VM1 VM2 VM3 VM4 Shares: Reservation: 0,0 GHz 1,0 GHz 1,0 GHz 2,0 GHz 4,0 GHz + Contention: 0,25 GHz 0,25 GHz 0,5 GHz 1,0 GHz 2,0 GHz Cycles: 0,25 GHz 1,25 GHz 1,5 GHz 3,0 GHz 6,0 GHz

26 Virtual Machines Anteile Reservierung Grenzwert Objekte im DRS Resource Pools Anteile (erweiterbare) Reservierung (erweiterbarer) Grenzwert Kindknoten: VMs & Resource Pools proportional gewichtete, hierarchische Verteilung erweiterbar: erweiterbare Größe durch Kindknoten

27 Empfehlung Drei-Klassengesellschaft ein Resource Pool pro Klasse (Kritisch, Produktiv, Unkritisch) entsprechende Anteile pro Klasse (Hoch, Mittel, Niedrig)

28 Storage

29 Multipathing Most Recently Used (Standard) ein gleichzeitig aktiver Pfad kein Failback Round-robin (empfohlen) mehrere gleichzeitig aktive Pfade optimale Pfadwahl mit ALUA-fähigem Storage Fixed ein gleichzeitig aktiver Pfad manuelle Konfiguration

30 All Paths Down Bei Ausfall von Speichersystemen: Wie erkennen bzw. unterscheiden von Verbindungsproblemen? hostd auf ESX-Server: impl. VM-Funktionen (Power On/Off, vmotion,...) impl. Scan nach LUN/VMFS Problem bei APD: Worker Thread im hostd wartet ewig auf Disk I/O begrenzte Anzahl von Worker Threads Auswirkung: Verlust Management ESX-Server Störung von nicht betroffenen VMs: Shutdown der VMs von "innen" Power Cycle der betroffenen ESX-Server

31 APD Timeout Lösungen: Permanent Device Loss (SCSI Sense Code) hilft nicht gegen alle Ausfallarten APD Timeout ( vsphere 5.1) maximale Zeitbegrenzung für Disk I/Os bei APD

32 Storage APIs vsphere API for Array Integration (VAAI) 3rd Party Multipathing Atomic Test & Set (ATS) Offloading Block Copying & Block Zeroing kein SCSI-Standard Hersteller Plugin nötig vsphere Enterprise HP Storage: 3PAR, MSA 2040 SAN, P2000 G3, P6300, P6350, P6500, P6550, P7000, P9500, P10000, XP20000, XP24000

33 Storage APIs VMware API for Storage Awareness (VASA) Meta-Daten Storage-System im vcenter abbilden kein SCSI-Standard Hersteller Plugin nötig vsphere Enterprise+ HP Storage: HP Insight Control Storage Module for vcenter 3PAR, MSA 2040 SAN, P2000 G3, P6300, P6350, P6500, P6550, P7000, P9500, P10000, XP20000, XP24000

34 Snapshots Eigenheiten: Copy-On-Write Thin Provisioned Snapshots Integration des Microsoft Volume Shadow Copy Service Snapshot inklusive virtuellem Hardware-Zustand möglich Beachten: 16 MB Chunk Size SCSI-Reservation bei Chunk-Allokation Performanceverschlechterung auf gesamten VMFS Verschlechterung bei VAAI mit ATS gering Snapshot kann auf HDD-Größe + Hauptspeicher anwachsen COW nicht möglich VM friert ein Snapshot-Konsolidierung benötigt freien Platz Orphan Snapshots GUI zeigt kein Snapshot an Snapshot-basierende Backuplösungen: automatisiertes temporäres Thin Provisioning Abgestürzte Backups?

35 Sizing eine/wenige LUNs wenig Verschnitt viele LUNs mehrere I/O-Queues weniger SCSI-Reservations pro LUN Lastverteilung auf Fabrics und Storage Controller Empfehlung: Anzahl LUNs > 2 Anzahl HBA-Ports Storage-Controller Anzahl VMs pro LUN: abhängig vom Workload

36 Monitoring

37 Hersteller Bundles HP ESXi Offline Bundle for VMware vsphere 5.x HP ESXi Utilities Offline Bundle for VMware vsphere 5.x

38 Alarmdefinitionen

39 Alarm Subject: [VMware vcenter - Alarm Snapshot-Größe] Status von Snapshot-Größe wurde von Grau in Rot geändert From: <vcenter@ibh.de> Date: 10/21/ :14 PM To: <liske@ibh.de> Ziel: IBH v-ts-80.ibh Alter Status: Grau Neuer Status: Rot Alarmdefinition: ([Yellow Metric liegt über KB; Red Metric liegt über KB]) Aktuelle Werte für Metrik/Status: Metric Festplatte Overhead aufgrund von Delta-Festplatten-Backings = KB Beschreibung: Alarm 'Snapshot-Größe' auf IBH v-ts-80.ibh wurde von Grau in Rot geändert

40 Zusammenfassung

41 Literatur VMware vsphere 5.5 Documentation Center VMworld2013 VSVC5821 Performance and Capacity Management of DRS Clusters VMware vsphere VMFS Technical Overview and Best Practices