MySQL Replikation, Scale-Out, Master- Master Replikation, Backup

Transkript

1 MySQL Replikation, Scale-Out, Master- Master Replikation, Backup DOAG Regioaltreffen, München 23. März 2011 Oli Sennhauser Senior MySQL Consultant, FromDual GmbH 1

2 Inhalt HA MySQL Solutions Replikation Read Scale-Out scale-out Replication MySQL Replikation set-up for HA Active/passive Master-Master Replikation fail-over MySQL Binary Log Cluster Formate Replication Semi-Synchrone Cluster Replikation Storage-Engine-Replication Backup Methoden Restore SE Replikation mit PBXT 2

3 Über FromDual GmbH Wir bieten an: Neutrale und Hersteller unabhängige Beratung für MySQL Support für MySQL (7 x 24) Remote-DBA / MySQL Betrieb (wir betreiben Ihre MySQL DB!) Schulung und Workshops (DBA, Performance Tuning, Scale- Out, High Availability, MySQL Cluster) Wir sind: Consulting Partner der Open Database Alliance (ODBA.org) Oracle Silber Partner (OPN) 3

4 Zuerst gab's da mal ein Problem: Kosten MySQL Design Physikalische Flaschenhälse Relaxation of Constraints Scale-Up Web-Applikationen typischerweise: r >> w Scale-Out 4

5 Der MySQL Scale-Out Ansatz ro Applikation r t w Master Slave Reporting Slave Backup Slave 1 Slave 2 Slave 3... Load balancer Web-Applikationen typischerweise: r >> w 5

6 Master Slave Replikation Application binlog dump thread Async! master.info IO_ thread relay-log.info binary log writer thread Master bin-log.index Slave SQL_ thread... bin-log.m bin-log.n... relay-log.m relay-log.n 6

7 Erstellen eines Masters Binary Log einschalten und Server ID setzen (erfordert Neutstart): # my.cnf [mysqld] log_bin = binary_log server_id = 42 User mit REPLICATION SLAVE Privileg anlegen: CREATE USER replication@'%' IDENTIFIED BY 'secret'; GRANT REPLICATION SLAVE ON *.* TO replication@'%'; Konsistentes Backup vom Master erstellen: mysqldump all databases { single transaction lockall tables} master data > full_dump.sql MySQL Dokumentation: How to Set Up Replication 7

8 Erstellen eines Slaves Server_id in my.cnf setzen Dem Slave zeigen, wo sein Master sitzt: CHANGE MASTER TO master_host='masterserver', master_port=3306, master_user='replication', master_password='secret' Einspielen des konsistenten Backups vom Master: mysql u root < full_dump.sql Überprüfen ob auf dem Slave alles i.o. ist: SHOW SLAVE STATUS\G Slave starten: START SLAVE; 8

9 Für was kann man Slaves alles brauchen? ro Applikation r t w Master Slave Reporting Slave Backup Slave 1 Slave 2 Slave 3... Load balancer Web-Applikationen typischerweise: r >> w 9

10 Massives Scale-Out M 5 s... S S S S S S S S S S S S S S S S S S S S S S S S S S S S S S S S S S S S... Jetzt können sie auch erahnen wozu die BLACKHOLE SE gebraucht wird

11 Tool zur Verwaltung solcher Setup's Problem: Wenn Master kaputt geht, müssen alle Slaves neu gebaut werden... Aber es gibt Tricks: Tool von Yandex.ru (Petya Kohts): mmmf, multi-master mysql failover

12 Master Master Replikation Applikation VIP M 1 M 2 Slave 1 Slave 2 Slave 3 Slave Backup Vorsicht beim Schreiben auf beide Master Man erhält so NICHT mehr I/O-Durchsatz! 12

13 Tool zur Verwaltung solcher Setup's Ähnliches Problem wie bei Master-Slave Replikation mit zusätzlicher Komplexität durch zirkuläre Replikation Keine Konflikt-Detektion/Auflösung! Achtung: Wir sind asynchron! Tool: Multi-Master Replication Manager for MySQL

14 Binary Log Formate Bis MySQL 5.0 nur Statement Based Replikation (SBR) + Weniger Traffic - Non-determistic Queries! - Mehr Locking (grössere Locks) # at 786 # :55:40 server id end_log_pos 814 Intvar SET INSERT_ID=3/*!*/; # at 814 # :55:40 server id end_log_pos 944 Query thread_id=3 exec_time=0 error_code=0 SET TIMESTAMP= /*!*/; INSERT INTO test VALUES (NULL, 'Statement based replikation', NULL) 14

15 Binary Log Formate Ab MySQL 5.1 auch Row Based Replication (RBR) + All Änderungen können nun repliziert werden. + Weniger Locking / manchmal schneller - Binary Log ist weniger transparent / mehr Traffic Mixed (SBR default, wechselt auf RBR b. Bed.) # at 844 # :57:36 server id end_log_pos 912 Query thread_id=2 exec_time=0 error_code=0 SET TIMESTAMP= /*!*/; BEGIN /*!*/; # at 912 # at 959 # :57:36 server id end_log_pos 959 Table_map: `test`.`test` mapped to number 15 # :57:36 server id end_log_pos 1019 Write_rows: table id 15 flags: STMT_END_F BINLOG 'sk2htrnsiqaalwaaal8daaaaaa8aaaaaaaeabhrlc3qabhrlc3qaawmpbwjaaai= sk2htrdsiqaapaaaapsdaaaaaa8aaaaaaaeaa//4bwaaabvsb3cgymfzzwqgcmvwbglryxrpb26w RydN'/*!*/; mysqlbinlog base64 output=decode rows verbose bin log

16 Semi-Synchrone Replikation Bis 5.1 nur asynchrone Replikation! Ab 5.5 auch semi-synchrone Replikation: binlog dump thread IO_ thread binary log writer thread Master Slave SQL_ thread... bin-log.m bin-log.n... relay-log.m relay-log.n 16

17 Backup Methoden 17

18 Backup Methoden mysqldump Filesystem Kopie / mysqlhotcopy Snapshot mit LVM / btrfs InnoDB Hot Backup (ibbackup/xtrabackup) Backup Replikation Slave 18

19 mysqldump Charakteristik Logisches Backup, hot/on-line, lokal oder remote, konsistent Vorteile Einfach, lokal oder remote, Standard-Backup für MySQL, konsistent, Strukturdump möglich Nachteile Kann falsch gemacht werden, blockiert MyISAM Tabellen fürs Schreiben, nicht geeignet für sehr grosse Datenmengen, Restore-Zeiten! 19

20 Filesystem Kopie / mysqlhotcopy Charakteristik Physisches Backup, hot, local Vorteile Schneller Restore, konsistent Nachteile Nur bedingt für InnoDB geeignet, blockiert Tabellen für Schreibzugriffe. 20

21 Snapshot mit LVM / btrfs Charakteristik Physisches Backup, hot, lokal Vorteile Sehr schnelle Backup Methode, ziemlich schnelles Restore, konsistent Nachteile Benötigt root Rechte, etwas komplizierter und Hardware intensiver, möglicherweise gefährlich mit InnoDB? 21

22 Wie wird ein LVM Snapshopt Backup gemacht? Alle DB files müssen auf dem selben Logical Volume liegen (LV = Partition) Locken der Datenbank Erstellen eines Snapshots des Logical Volumes Unlocken der Datenbank Mounten des Snapshot Logical Volumes InnoDB Recovery testen Backup (tar, compress, tape) der Datenbank Files Löschen des Snapshot Logical Volumes Etwas kompliziert: mylvmsnapshot 22

23 Wie funktionieren LVM Snapshots? LVM device LVM snapshot device copy-on-write 23

24 InnoDB Hot backup (ibbackup, xtrabackup) Charakteristik Physisches Backup, hot/on-line, lokal, konsistent, inkremental Vorteile Schnelles Backup/Restore für InnoDB Nachteile Löst die MyISAM Probleme nicht 24

25 Backup mit OEB/XtraBackup Volles Backup erstellen: xtrabackup backup target dir=... Prepare (~recovery): xtrabackup prepare target dir=... Restore? Einfach MySQL auf den Files wieder starten

26 Backup Replikation Slave Charakteristik Logisches oder physisches backup, hot/on-line, konsitent Vorteile Betrifft Master überhaupt nicht. Beste Methode aus Sicht des Masters. Nachteile Braucht zusätzliche Hardware (oder zumindest Ressourcen) Sicherstellen, dass Slave nicht driftet. Achtung: Wir erstellen ein Backup auf dem Slave:!= Master 26

27 Restore / Recovery 27

28 Restore / Recovery Restore / Recovery besteht aus bis zu 3 verschiedenen Schritten: Restore der Daten oder der Tabellen oder den Files Auto-recovery der transaktionalen SE (InnoDB, PBXT, NDB) Point-in-Time-Recovery (PITR) Schritt 1 und 2 sind klar? Was ist PITR? 28

29 Point-in-Time-Recovery (PITR) Application log_bin = on Application mysqld Application binary log writer thread bin-log.1 bin-log.2... bin-log.n pos/time? full backup 29 t

30 Warum ein Restore getested werden sollte? Restore können sehr sehr lange dauern... Überprüfen Sie Ihre MTTR! Warum dauert der Restore eines logischen Backups so lange? Restore Tabelle, Create Index random I/O So lange Ihr Index in den Cache/Buffer passt ist es OK, aber wehe wenn nicht...! Man kann da etwas drum herum schummeln mit Fast Index Creation im InnoDB Plug-in oder MySQL

31 Justify your restore Production Development Prod Acc Test Dev bck DBA nightly restore Developer 31

32 Storage Engine Replikation mit PBXT MySQL Replikation ist nicht sehr schnell Man kann die Replikation leicht falsch aufsetzen / Fehler machen. Warum so kompliziert über mind. 3 Threads und 2 Files? Die PBXT SE v2.0 implementiert Replikation auf Storage Engine Ebene: 32

33 Overhead der MySQL Replikation 33

34 Architektur der PBXT Replikation 34

35 Overhead der PBXT Replikation 35