Leistungsaspekte von Linux und Windows Betriebssystemen in Cluster-Dateisystemen (Teil 2)

Transkript

1 Leistungsaspekte von Linux und Windows Betriebssystemen in Cluster-Dateisystemen (Teil 2) Jan Wender, Daniel Kobras science + computing ag IT-Dienstleistungen und Software für anspruchsvolle Rechnernetze Tübingen München Berlin Düsseldorf

2 Windows lokaler I/O-Pfad (Übersicht) Quelle: Seite 2

3 Windows lokaler I/O-Pfad (Details) Quelle: Seite 3

4 Windows lokaler I/O-Pfad (Details)? Quelle: Seite 4

5 Storage-Anbindung über Netzlaufwerke Storage-Anbindung von Windows-Clients an Linux-Server Alternativen: Selten: Dateisysteme mit nativen Windows-Clients (GPFS, XtreemFS, OpenAFS,...) Exotisch: Anbindung über Windows-NFS-Client (nativ: NFSv3, OpenText: NFSv4, CITI: NFSv4.1) Standard: Reexport über CIFS (Samba) High-Performance: Reexport über Clustered CIFS (Samba/CTDB) Seite 5

6 Storage-Anbindung über Netzlaufwerke Storage-Anbindung von Windows-Clients an Linux-Server Alternativen: Selten: Dateisysteme mit nativen Windows-Clients (GPFS, XtreemFS, OpenAFS,...) Exotisch: Anbindung über Windows-NFS-Client (nativ: NFSv3, OpenText: NFSv4, CITI: NFSv4.1) Standard: Reexport über CIFS (Samba) High-Performance: Reexport über Clustered CIFS (Samba/CTDB) Performanceeinflüsse: CIFS-Client (Windows) Samba-Server (Linux) Netzwerk-Stack (Linux/Windows) Seite 6

7 Leistungsdaten CIFS-Client Seite 7 Gibt es überhaupt ein Problem? Welche Leistungsdaten liefert der CIFS-Client? Leistungsüberwachung mit perfmon Indikatorgruppe für CIFS-Verbindungen: Redirector (Redirectordienst) Leistungsindikatoren: offensichtliche Metriken (Durchsatz, IOPS) Hinweise auf problematische I/O-Muster (kleine Pakete, Zufällige Schreib/Lesevorgänge, Verhältnis Cachebytes/Netzwerkbytes) Serverseitige Überlastung (Aktuelle Befehle, aber: ohne Funktion in aktuellen Windows-Versionen) Vollständige Beschreibung unter

8 Leistungsdaten CIFS-Client Seite 8

9 Leistungsdaten Samba-Server Grundsätzlich: Performance-Debugging wie bei anderen Linux- Applikationen auch möglich (siehe Teil 1) Zusätzlich bietet Samba weitere spezifische Ansatzpunkte Samba-Debugausgaben (log level) Identifizieren lang andauernder Operationen über Zeitstempel Debugging kostet Performance, kann Leistungsprofil ändern Samba-eigenes Profiling smbstatus -P/-R (Voraussetzung: --with-profiling-data) Nur globales Profiling, keine Daten pro Freigabe VFS-Module Können global oder pro Freigabe aktiviert werden Mehrere Module kombinierbar Seite 9

10 Leistungsdaten Samba-Server Seite 10 Modul full_audit Protokolliert erfolgreiche und/oder fehlgeschlagene Samba- VFS-Aufrufe T17:18: :00 client smbd_audit: testuser stat ok /home/otheruser T17:18: :00 client smbd_audit: testuser chdir fail (Permission denied) chdir /home/otheruser Modul time_audit Protokolliert Samba-VFS-Aufrufe, die länger als eine konfigurierte Zeitspanne benötigen (time_audit:timeout) [2014/04/02 17:35: , 0] modules/vfs_time_audit.c:42(smb_time_audit_log) WARNING: System call "pread" took unexpectedly long (1.20 seconds) connectpath =./testfile -- Validate that file and storage subsystems are operating normally

11 Leistungsdaten Samba-Server Modul smb_traffic_analyzer Protokolliert Samba- VFS-Aufrufe in Datenbank Analyse über Kommandozeile oder GUI Auswertung auf User, Share, Datei, oder Domäne einschränkbar Auswertung in Echtzeit oder anhand DB-Daten Seite 11

12 SMB-Protokollversionen SMB-Version Windows-Version Samba-Version max protocol Eigenschaften SMB1/CIFS alle alle (NT1) chatty, 64k Blöcke, meist seriell genutzt, *_ANDX-Compounds SMB2 Vista 3.5 stabil: 3.6 (SMB2_02) Parallele Anfragen (Pipelining/Credits), Latenzoptimierungen (Compounds) SMB2.1 7, Server 2008R2 3.6 alle Features: 4.0 (SMB2) Verbessertes Caching (Leases), >64k Blöcke SMB3 (aka 2.2) 8, Server (SMB3) Mehrere Verbindungen pro Laufwerk (Multi-Channel), RDMA (SMBDirect) Seite 12

13 Typische Problemfälle: Oplocks Oplocks für CIFS-Client Erlaubnis für Daten im lokalen Cache Oplock-Break erzwingt Zurückschreiben der Daten Ohne Oplocks synchroner I/O nötig Oplocks für exklusiven Zugriff (Level 1, Batch, Filter) und gemeinsamen Lesezugriff (Level 2) Oplocks beziehen sich auf Dateihandles Oplocks werden nur beim Öffnen der Datei vergeben Mehrfaches Öffnen derselben Datei (selbst innerhalb desselben Prozesses) bricht (exklusive) Oplocks Abhängig von SMB-Protokollversion Konfigurierbar in SMB1, immer aktiv in SMB2 Leases in SMB2.1 ermöglichen mehrfaches Öffnen aus Cache Seite 13

14 Typische Problemfälle: Preallocation Seek+Write hinter Dateiende Windows-Semantik: reserviert Speicherplatz Posix-Semantik: erzeugt Sparse-Datei Samba kann Windows-Semantik emulieren (über kleine Schreibzugriffe innerhalb des Lochs, seit 3.6 auch über fallocate()) Extrem hohe Dateifragmentierung möglich Abhängig von Dateisystem Abhängig von Samba-Version Abhängig von Samba-Konfiguration (strict allocation) Überprüfbar mit filefrag -v Extent-basierte Dateisysteme (ext4, XFS, btrfs,...) vorteilhaft Seite 14

15 Typische Probleme: Serverdurchsatz Serverdurchsatz als Flaschenhals identifiziert Tuningoptionen ausgereizt Viele Clients mit jeweils moderaten Performanceanforderungen an dasselbe Dateisystem Lösung: Verteiltes Dateisystem (Posix-Locks, konsistente Inode- Nummern) Reexport desselben Dateisystems über mehrere Samba-Server Konsistenz über Cluster-Datenbank CTDB Durchsatz skalierbar über zusätzliche Server Lastverteilung über Round-Robin-DNS und dynamisch verteilte, virtuelle IP-Adressen Seite 15

16 science+computing ag Founded in 1989 Offices Tübingen München Düsseldorf Berlin Mitarbeiter 275 Eigentümer Bull S.A. (100%) Umsatz Mio. EUR Seite 16 Portfolio-Auszug IT-Dienstleistungen für komplexe Berechnungsumgebungen Komplettlösungen für Linux- und Windows-basiertes HPC Softwareentwickung und IT-Consulting scvenus Systemverwaltungssoftware zur effizienten Administration homogener und heterogener Computernetze

17 Vielen Dank für Ihre Aufmerksamkeit. Jan Wender, Daniel Kobras science + computing ag Telefon info@science-computing.de