Xen die Kunst der Virtualisierung. bielefeld.de

Transkript

1 Xen die Kunst der Virtualisierung Dr. Carsten Gnörlich bielefeld.de Dr. Carsten Gnörlich Xen / 1

2 Aufbau des Vortrags 1. Ein bißchen Theorie (ca. 30min) 2. Xen Live Demo (ca.?? Murphy ; ) 3. Zusammenfassung (ca. 10 min) Dr. Carsten Gnörlich Xen / 2

3 Das große Bild, Teil 1 Hardware Virtualisierung: Wirt und Gast sind jeweils komplette Betriebssysteme mehrere Gäste (Betriebsysteme) auf einer Hardware Gäste gegeneinander abschotten Applikations Virtualisierung (hier nicht behandelt): auf Programm/Thread Ebene; Beispiel: Java VM Dr. Carsten Gnörlich Xen / 3

4 Stufen der Virtualisierung (1) keine DOS Dr. Carsten Gnörlich Xen / 4

5 Stufen der Virtualisierung (2) keine CPU Zeit Scheduler Speicher virtueller Speicher DOS Unix Dr. Carsten Gnörlich Xen / 5

6 Stufen der Virtualisierung (3) keine CPU Zeit Dateiraum Trennung durch Kernel Features Speicher Prozeßraum Wirt und alle Gäste laufen unter dem gleichen Kernel DOS Unix chroot vserver zones Dr. Carsten Gnörlich Xen / 6

7 Stufen der Virtualisierung (4) keine CPU Zeit Dateiraum Hardware Virtualisierung Speicher Prozeßraum Paravirtualisierung (Software) DOS Unix chroot Xen Kernel vserver zones gleiche Arch., aber unterschiedl. Kernel für Wirt/Gast modifizierter Gast Kernel Dr. Carsten Gnörlich Xen / 7

8 Stufen der Virtualisierung (5) keine CPU Zeit Dateiraum Hardware Virtualisierung Speicher Prozeßraum Paravirt./SW HW basiert DOS Unix chroot Xen Kernel Xen HVM vserver zones unmodifizierter Gastkernel braucht HW Unterstützung in CPU Dr. Carsten Gnörlich Xen / 8

9 Stufen der Virtualisierung (6) keine CPU Zeit Dateiraum Hardware Virtualis. Hardware Speicher Prozeßraum Emulation Paravirt./SW HW bas. DOS Unix chroot Xen Kernel Xen HVM Mac on Linux vserver zones unterschiedliche Architektur für Wirt und Gast Bsp: PPC Mac auf x86 Linux Dr. Carsten Gnörlich Xen / 9

10 Stufen der Virtualisierung (7) keine CPU Zeit Dateiraum Hardware Virtualis. Hardware Speicher Prozeßraum Emulation Paravirt./SW HW bas. DOS Unix chroot Xen Kernel Xen HVM Mac on Linux vserver zones vmware Dr. Carsten Gnörlich Xen / 10

11 Stufen der Virtualisierung (8) zunehmende Performanz (per Thread) keine CPU Zeit Dateiraum Hardware Virtualis. Hardware Speicher Prozeßraum Emulation Paravirt./SW HW bas. DOS Unix chroot Xen Kernel Xen HVM Mac on Linux vserver zones vmware zunehmende Abschottung der Gäste Dr. Carsten Gnörlich Xen / 11

12 Sweet spot zunehmende Performanz (per Thread) keine CPU Zeit Dateiraum Hardware Virtualis. Hardware Speicher Prozeßraum Emulation Paravirt./SW HW bas. DOS Unix chroot Xen Kernel Xen HVM Mac on Linux vserver zones zunehmende Abschottung der Gäste Dr. Carsten Gnörlich Xen / 12

13 Virtualisierung und Paravirtualisierung Dr. Carsten Gnörlich Xen / 13

14 Das große Bild, Teil 2 VM0/Dom0 Device Manager & Control s/w VM1/DomU Unmodified User Software VM2/DomU Unmodified User Software VM3/DomU Unmodified User Software AGP ACPI PCI GuestOS (XenLinux) Back End Native Device Driver GuestOS (XenLinux) Back End Native Device Driver GuestOS (XenLinux) SMP Front End Device Drivers Unmodified GuestOS (WinXP)) Front End Device Drivers VT-x 32/64bit Control IF Safe HW IF Event Channel Virtual CPU Xen Virtual Machine Monitor Virtual MMU Hardware (SMP, MMU, physical memory, Ethernet, SCSI/IDE) Dr. Carsten Gnörlich Quelle: Ian Pratt, xen may.ppt Xen / 14

15 Das große Bild, Teil 2 VM0/Dom0 Device Manager & Control s/w VM1/DomU Unmodified User Software VM2/DomU Unmodified User Software VM3/DomU Unmodified User Software AGP ACPI PCI GuestOS (XenLinux) Back End Native Device Driver GuestOS (XenLinux) Back End Native Device Driver GuestOS (XenLinux) SMP Front End Device Drivers Unmodified GuestOS (WinXP)) Front End Device Drivers VT-x 32/64bit Control IF Safe HW IF Event Channel Virtual CPU Xen Virtual Machine Monitor Virtual MMU Hardware (SMP, MMU, physical memory, Ethernet, SCSI/IDE) Dr. Carsten Gnörlich Quelle: Ian Pratt, xen may.ppt Xen / 15

16 Isolation der virtuellen Maschinen untereinander klassischer Unix Zugriffsschutz Prozeß / Filespaces,... keine ggs. Performance Beeineinträchtigung der DomUs Forkbombe in einer DomU, I/O Trashing,... Heterogene Betriebssysteme / eigene Kernel in den DomUs Dr. Carsten Gnörlich Xen / 16

17 Zugriff auf HW Ressourcen SMP MMU RAM HDD... Hardware Unsicher so gehts nicht! C Library mmap() Anwendung Dr. Carsten Gnörlich Xen / 17

18 Zugriff über Kernel Funktion SMP MMU RAM HDD... Kernel Funktion Kernel kontrolliert HW Zugriff C Library mmap() Anwendung Dr. Carsten Gnörlich Xen / 18

19 Direkte Manipulation verhindern SMP MMU RAM HDD... Kernel Funktion Kernel mode / Supervisor mode Privilegierte Befehle C Library Anwendung mmap() CPU Hardware trennt Privilegien nur unprivilegierte Befehle User mode Dr. Carsten Gnörlich Xen / 19

20 geordnete Eskalation User mode / Kernel mode SMP MMU RAM HDD... Kernel mode / Supervisor mode Kernel Funktion C Library Anwendung mmap() trap n Tabelle... n 0x3ef020 n+1 0x3ef User mode Dr. Carsten Gnörlich Xen / 20

21 Verallgemeinerung auf mehrere BS VM Kernel im Kernel Mode betreiben funktioniert nicht! SMP MMU RAM HDD... Kernel Kernel Kernel mode... Anwendung Anwendung User mode Dr. Carsten Gnörlich Xen / 21

22 Besonderheit x86 Architektur Ring 0 = Kernel Mode Ring 1 Ring 2 Ring 3 = User Mode mit Ausnahme von OS/2 ungenutzt Dr. Carsten Gnörlich Xen / 22

23 Hardwarezugriff über Hypervisor SMP MMU RAM HDD... Hypervisor Ring 0 Kernel Kernel Ring 1... Anwendung Anwendung Ring 3 Dr. Carsten Gnörlich Xen / 23

24 Leistung der Virtualisierung jedem Gast Kernel alleinige Kontrolle über HW vorgaukeln HW geeignet partitionieren und/oder simulieren (ehemals) privilegierte Befehle der Gast Kernel umlenken auf Hypervisor Calls Dr. Carsten Gnörlich Xen / 24

25 Volle Virtualisierung sämtliche HW virtualisieren privilegierte Befehle im Gast per Trap auf Hypervisor umleiten Problem bei x86: einige privilegierte Befehle erzeugen in Ring >0 keinen Fehler Gast Kode dynamisch auswerten und umschreiben (vgl. Dtrace) kostet viel Performance, erlaubt aber unmodifizierte Gast Kernel Beispiel: vmware, Xen HVM Dr. Carsten Gnörlich Xen / 25

26 Paravirtualisierung (1) SMP MMU RAM HDD... lesen keine vollständige Virtualisierung, Beispiel: Page tables (PT) Hypervisor Ring 0 schreiben Gast Kernel Ring 1 eigene PT direkt lesen Schreiben per Hypervisor Anwendung Ring 3 Dr. Carsten Gnörlich Xen / 26

27 Paravirtualisierung (2) SMP MMU RAM HDD... Hypervisor Ring 0 Kernel Teile umschreiben, die privilegierte Befehlen enthalten Gast Kernel Ring 1 wenn möglich innerhalb Ring 1 z.b. viele Exceptions, SW traps Anwendung Ring 3 Dr. Carsten Gnörlich Xen / 27

28 Paravirtualisierung (3) SMP MMU RAM HDD... Hypervisor Ring 0 Kernel Teile umschreiben, die privilegierte Befehlen enthalten Gast Kernel Ring 1 privilegierten Befehl durch hardcoded Hypercall ersetzen Anwendung Ring 3 Dr. Carsten Gnörlich Xen / 28

29 MMU Microbenchmarks Linux (L), Xen (X), VMWare Workstation (V), User mode Linux (U) Quelle: Ian Pratt, xen may.ppt Dr. Carsten Gnörlich Xen / 29

30 Was wird wo virtualisiert? Hypervisor virtualisiert selbst: Speicherverwaltung Scheduling Hypervisor liefert Framework für Interrupts virtuelle Events I/O Hardware nur abstrakte I/O Schicht asynchroner Ringpuffer Dom0: liefert die tatsächlichen I/O Gerätetreiber Dr. Carsten Gnörlich Xen / 30

31 I/O Ringe Quelle: xensosp.pdf Dr. Carsten Gnörlich Xen / 31

32 Praktischer Teil Praktischer Teil mit Xen Hinweis: Hypervisor + Xen Userland nicht kompatibel mit Xen 3.0.x Xen 3.0.x Kernel laufen aber unter Xen Dr. Carsten Gnörlich Xen / 32

33 Xen Dom0 installieren (1) Xen Dom0 ist eine ganz normale Linux Installation plus Xen Tools und Xen Kernel Image Distributionsunabhängige Tarbälle: Debian Pakete: xen linux system xen amd64 xen tools optional, machen das Leben leichter! Dr. Carsten Gnörlich Xen / 33

34 Xen Dom0 installieren (2) 1. Bestehende Linux Installation nehmen oder eine erzeugen 2. Xen Userland und Kernel installieren Tarball: auspacken, cd $(where)/dist,./install.sh Debian: apt get Hypervisor und Xen Kernel in /boot/grub/menu.list eintragen 4. Rebooten 5. xm top zur Kontrolle (als root) Dr. Carsten Gnörlich Xen / 34

35 Grub Konfiguration Normalen Kernel booten: title Debian GNU/Linux... root (hd0,0) kernel /vmlinuz amd64 root=/dev/sda1 ro initrd /initrd.img amd64 Dom0 booten: title Xen Dom0 Debian GNU/Linux... root (hd0,0) kernel /xen amd64.gz module /vmlinuz xen amd64 root=/dev/sda1 ro module /initrd.img xen amd64 Dr. Carsten Gnörlich Xen / 35

36 Xen Userland xm Xen monitor, Kommandozeilen Schnittstelle xend xenstore xenbus verwaltet die virtuellen Domains verwaltet Änderungen in der Live Konfiguration Kommunikation zwischen den virtuellen Domains /etc/xen/* Konfigurationsdateien Dr. Carsten Gnörlich Xen / 36

37 Xen Tools Grundkonfiguration in /etc/xen tools/xen tools.conf bekommen alle neu angelegten DomUs lvm = single image = full size = 2Gb memory = 512Mb swap = 512Mb # Volume group single ; man will LVM benutzen! # Specify sparse vs. full disk images. LVM implies full # Disk image size. # Memory size # Swap size kernel = /boot/vmlinuz xen vserver amd64 initrd = /boot/initrd.img xen vserver amd64 arch=amd64 debootstrap = 1 dist = etch dhcp = 1 passwd = 1 # We want to install a 64bit distro # Bootstrap for our distro (Debian in our case) # Default distribution to install (we want Debian Etch) # DomU is going to boot using DHCP # Change root password during setup Dr. Carsten Gnörlich Xen / 37

38 Grundeinstellung für Netzwerk prüfen in /etc/xen/xend config.sxp: (network script network bridge) #(network script network dummy) alle DomU erhalten Bridge auf erstes Interface der Dom0 Auch komplexere Topologien konfigurierbar: verschiedene DomUs auf verschiedene Interfaces bridgen Dom0 kann zwischen DomU und Außenwelt routen DomU werden über NAT angebunden Dr. Carsten Gnörlich Xen / 38

39 Xen Tools: Neue DomU erzeugen xen create image hostname grag [ ip ] tail f /var/log/xen tools/grag.log führt Debian bootstrap über Netz durch, erzeugt initiale Konfiguration Dr. Carsten Gnörlich Xen / 39

40 Xen Tools: Übersicht xen create image xen delete image xen list images: : Neues Abbild erzeugen : Abbild wieder löschen : Abbilder anzeigen Dr. Carsten Gnörlich Xen / 40

41 bootfähige Konfiguration liegt in /etc/xen vi /etc/xen/grag.cfg für DHCP Boot brauchen wir eine Mac Adresse: vif = [ '' ] Default Bein vif = [ 'mac=00:16:3e:2c:f0:01, bridge=xenbr0' ] Weitere Interfaces zur Verfügung stellen: /etc/xen/scripts/network bridge start vifnum=1 bridge=xenbr1 netdev=eth1 Dr. Carsten Gnörlich Xen / 41

42 DomU booten Erster Boot am besten mit Konsole ( g später weglassen): xm create c grag.cfg Konsole abgeben: Ctrl 5 Konsole holen: xm console grag Dr. Carsten Gnörlich Xen / 42

43 Kontrolle und erste Hilfe xm top # laufende Domains anschauen xm list [ l] # mehr Infos zu laufenden Domains xm shutdown grag xm destroy grag # eine DomU anhalten (= shutdown h) # eine DomU abbrechen (= Stecker ziehen) Dr. Carsten Gnörlich Xen / 43

44 Statische Speicherverwaltung Grundeinstellung: dom0 hat allen freien Speicher domu erhält daraus festes Kontingent beim Erzeugen dynamische Relokation über balloon Treiber möglich Dr. Carsten Gnörlich Xen / 44

45 Dynamische Speicherverwaltung (1) 1. Speicher der dom0 begrenzen: /boot/grub/menu.lst:... kernel... /boot/xen amd64.gz dom0_mem=192m Dr. Carsten Gnörlich Xen / 45

46 Dynamische Speicherverwaltung (2) 2. größere Seitentabellen für DomU Kernel: /etc/xen/grag.cfg:... memory = '512' maxmem = '2048' extra = 'mem=2048m' (ab Xen entbehrlich) DomU startet nach wie vor mit 512M, kann aber auf bis zu 2G vergrößert werden Dr. Carsten Gnörlich Xen / 46

47 Dynamische Speicherverwaltung (3) Speichermenge einer domu verändern: xm mem set grag 376 Speichermenge aus der domu heraus verändern: echo $((700*1024*1024)) >/proc/xen/balloon Dr. Carsten Gnörlich Xen / 47

48 Dynamische Speicherverwaltung Ausblick momentan nur manuelle Relokation in Zukunft paravirtualisierter out of memory Treiber Allerdings: grundsätzlich kein Überbuchen möglich! Dr. Carsten Gnörlich Xen / 48

49 domu anhalten xm pause curtis xm unpause curtis Dr. Carsten Gnörlich Xen / 49

50 domu speichern und starten cd /home/xen/domains/curtis xm save curtis curtis.xen... Maschine rebooten oder was auch immer... xm restore curtis Achtung: TCP timeout bei ssh, X11 screen oder VNC verwenden Dr. Carsten Gnörlich Xen / 50

51 domu migrieren (1) xm migrate curtis dom0.dotsero.techfak.uni bielefeld.de Stolperfalle: vom flipping eth Driver auf copying eth Driver umschalten /etc/xen/curtis.cfg:... extra = 'xennet.rx_copy'... Dr. Carsten Gnörlich Xen / 51

52 domu migrieren (2) Momentan: lokaler Storage wird (noch) nicht übertragen Empfohlen: Root Filesystem per NFS, SAN, iscsi,... Workaround: Dateibasierte Abbilder verwenden dom0 alt> xm save curtis dom0 alt> # per scp Abbild(er) auf neue dom0 übertragen dom0 neu> xm restore curtis Vorsicht: TCP timeout Dr. Carsten Gnörlich Xen / 52

53 HVM Hardware Virtualisierung Benötigt: Vanderpool (Intel, vmx) oder Pacifica (AMD, svm): xm dmesg grep HVM LVM Volume für HD Emulation Iso Abbild des Installations Datenträgers SDL oder VNC für graphische Konsole des Gastes Dr. Carsten Gnörlich Xen / 53

54 HVM Konfiguration /etc/xen/xmexample.hvm entsprechend anpassen, u.a.: kernel = "/usr/lib/xen/boot/hvmloader" builder='hvm' disk=[ 'phy:/dev/stripe/joan disk,ioemu:hda,w', 'file:/home/xen/domains/joan/winxp.iso,hdc:cdrom,r'] boot="d" # Nach Installation auf c setzen sdl=0 vnc=1 vncpasswd + Paßwort in /etc/xen/xend config.sxp eintragen Dr. Carsten Gnörlich Xen / 54

55 HVM Gast booten Booten/Verwalten wie gewohnt: xm create joan Umstellen auf boot='c' nach Installation nicht vergessen! Unterstützte OS: Windows XP,... (Stille, tödliches Schweigen ; )... Dr. Carsten Gnörlich Xen / 55

56 Zusammenarbeit mit Intrusion Detection Intrusion Detection Systeme: erstellen Datenbank mit Prüfsummen aller Dateien/Directories daran werden Einbrüche in das System erkannt Prinzipbedingte Schwachstelle: IDS Binary und Datenbank im überwachten System sichtbar und im schlimmsten Fall manipulierbar Dr. Carsten Gnörlich Xen / 56

57 IDS mit Xen Idee: IDS aus der Dom0 über die DomU Gäste laufen lassen kompromittierte DomU können IDS nicht erkennen/manipulieren Zugriff auf Dateisystem der DomU falscher Ansatz: dom0> mount /dev/stripe/grag disk /mnt Dateisystem ist unter zwei Kerneln gleichzeitg gemountet Dr. Carsten Gnörlich Xen / 57

58 Zugriff auf DomU über LVM Snapshots dom0> lvcreate snapshot L 1G n snap stripe/grag disk dom0> mount /dev/stripe/snap /mnt... Backup, Intrusion Detection auf /mnt laufen lassen... dom0> umount /mnt dom0> lvremove stripe/snap Dr. Carsten Gnörlich Xen / 58

59 Xen in der RBG (1) 4 von 5 Linux Servern (X4100/X4200) haben Xen 1. Mailserver mailin smarthost (4 Kerne) (1 Kern dynamisch, idle) 2./3. Netboot Server NFS/Netboot (1 Kern pinned) Compute (3 Kerne pinned) mailin/smarthost cold spare Dr. Carsten Gnörlich Xen / 59

60 Xen in der RBG (2) 4. Projektserver Projekt DomU vserver: TAK vserver: Fachschaft vserver:... Test DomU 5. Demnächst: SunRay Server 32bit DomU unter 64bit Dom0 geht jetzt Dr. Carsten Gnörlich Xen / 60

61 Zusammenfassung Administrative Vorteile: dom0 als Serviceprozessor Save/Resume und Live Migration Große Maschinen besser auslasten Weniger Hitze/Kosten (Eine große Maschine ersetzt viele kleine) Verschiedene Betriebssysteme auf einer Maschine Dr. Carsten Gnörlich Xen / 61

62 Ausblick Was noch kommen wird bzw. wünschenswert ist: dynamischere Speicherverwaltung (momentaner Workaround: vserver innerhalb einer DomU) Migration von lokalem Storage besseres HVM Dr. Carsten Gnörlich Xen / 62

63 Danke fürs Zuhören! Dr. Carsten Gnörlich Xen / 63

64 Literatur Lösungen für spezielle Probleme (Cut& Paste Suche nach der Fehlermeldung): insbesondere users/ und devel/ Allgemeiner Überblick, Installation: Installation Weiterführende Literatur: xensosp.pdf xen may.ppt Henning Sprang et al: Xen Virtualisierung unter Linux, Open Source Press, 2007 Dr. Carsten Gnörlich Xen / 64