SQL on RAC Pirates of the interconnect

Transkript

1 SQL on RAC Pirates of the interconnect Martin Hoermann ORDIX AG, Münster SQL auf RAC 1

2 SQL auf RAC 2

3 The code is the law! Captain Teague, Pirates of the caribbean SQL auf RAC 3

4 Inhalt RAC-Probleme? SQL-Fallbeispiele Sequence Generation Parallel Inserts Parallel Update Full Table Scans Zusammenfassung SQL auf RAC 4

5 SQL auf RAC 5

7 Einführung CRM - Benchmark 2 Stunden elapsed RAC - Problem? > 8 Stunden global cache wait events gc... SQL auf RAC 7

8 Einführung 90 % aller waits auf 2 Tabellen SQL auf RAC 8

9 Einführung 60 % aller gets von 2 SQL 60 % x 90 % x 8 Stunden 4.3 Stunden gc waits (vereinfacht) SQL auf RAC 9

10 Einführung RAC - Problem? Nein Standard SQL-Tuning Logical I/O reduzieren SQL auf RAC 10

11 Be aware of false pirates! SQL auf RAC 11

13 Sequenzen Produktives RAC-System (Telekommunikation) % Total Event Waits Time (s) Ela Time enqueue 244,538 65, db file sequential read 244,836 10, buffer busy global CR 4,782,017 8, global cache cr request 7,121,299 8, latch free 2,923,073 7, elapsed 30 minuten 1096 minuten SQL auf RAC 13

14 Sequenzen % Total Event Waits Time (s) Ela Time enqueue 244,538 65, db file sequential read 244,836 10, buffer busy global CR 4,782,017 8, global cache cr request 7,121,299 8, latch free 2,923,073 7, Avg Wt Wait Eq Requests Waits Time (ms) Time (s) SQ 244, , ,085 TX 102,074 2, JQ 2,803 1, SQL auf RAC 14

15 Sequenzen Erhöhung der Cache-Size löste das Problem. SQL auf RAC 15

16 Sequenzen: Annahme ORDER NOORDER CACHE? NOCACHE SQL auf RAC 16

17 Verhalten Sequenzen Single Instance RAC CREATE SEQUENCE s CACHE 100 ORDER; Sequence created. SELECT s.nextval FROM dual; NEXTVAL = 1 SELECT s.nextval FROM dual; NEXTVAL = 2 CREATE SEQUENCE s; ORA SELECT s.nextval FROM dual; NEXTVAL = 101 NEXTVAL = 3 SQL auf RAC 17

18 Testkonfiguration FOR i IN LOOP SELECT test_rac_seq_seq.nextval INTO v_x FROM dual; END LOOP; SQL auf RAC 18

19 Verhalten Sequenzen Generierte Sequenznummer pro Session pro Sekunde CACHE (100) VMWare on notebook Solaris, 16 CPU per node ORDER NOORDER NOCACHE VMWare on notebook Solaris, 16 CPU per node SQL auf RAC 19

20 Statistiken gv$statistics: gcs / ges messages sent gc cr / current blocks served / received gv$ges_statistics: ges / gcs msgs received SQL auf RAC 20

21 Verhalten Sequenzen ORDER NOORDER CACHE (100) ges messages sent + received gc cr/current blocks send / received NOCACHE 40, ,600 2,800 ges messages sent + received gc cr/current blocks send / received 95, ,000 95, ,000 SQL auf RAC 21

22 RAC - Sequenzen SELECT test_rac_seq_seq.nextval FROM dual; a := next() max{ a, b, c } b := next() c := next() SQL auf RAC 22

23 Verhalten Sequenzen ORDER NOORDER CACHE (100) elapsed time / cpu time in seconds for sequence numbers wait event in seconds NOCACHE 475 / DFS lock handle 87 / 5 63 enq: SQ - contention elapsed time / cpu time in seconds for sequence numbers wait event in seconds 2,195 / 161 3,247 / 179 1,951 2,899 row cache lock row cache lock SQL auf RAC 23

24 Sequenzen wait events Zahlreiche Infos im AWR-Report enqueue enq: SQ - contention row cache lock DFS lock handle SQL auf RAC 24

25 Sequenzen Top 5 CU Blocks Served (RAC) per Segment for DB CU CU Obj. Blocks Owner Tablespace Object Name Type Served %Total BEDB_DBA BEDB_INDX PK_O_STAMMDATENPROFI INDEX 215, SYS SYSTEM SEQ$ TABLE 17, SQL auf RAC 25

27 Parallel Inserts freelist / freelist groups automatic segment space management Was soll wie gemessen werden? SQL auf RAC 27

28 freelists / groups hot blocks freelist segment header data block SQL auf RAC 28

29 freelists / groups segment header freelist groups SQL auf RAC 29

31 ASSM segment header bitmap freelists SQL auf RAC 31

32 ASSM Je Block: block formatted 0-25 % 25-50% 50-75% % full SQL auf RAC 32

34 v$waitstat manuell Vielleicht RAC vielleicht nicht! CLASS bitmap block bitmap index block data block extent map file header block free list save undo block save undo header segment header sort block system undo block system undo header undo block undo header unused 1st level bmb 2nd level bmb 3rd level bmb ASSM SQL auf RAC 34

35 Parallel Inserts Platzverbrauch: freelists vs. bitmap blocks, block usage Verteilung hat Einfluss auf Clustering-Faktor Ggf. trotzdem Contention auf Indizes Ändern der freelist groups aufwendig Insert Test i.d.r. nicht realistisch! Test der Anwendung! SQL auf RAC 35

36 Parallel Inserts N O T E Advantages of Using Locally Managed vs. Dictionary Managed Tablespaces N O T E Automatic Segment Space Managment in RAC Environments SQL auf RAC 36

38 1 Fallbeispiel TAB ID COUNTER Primary Key SQL auf RAC 38

39 Fallbeispiel 1 TAB ID COUNTER COUNTER = COUNTER SQL auf RAC 39

40 Fallbeispiel TAB ID COUNTER Alle Sätze in einem oder wenigen Blöcken SQL auf RAC 40

41 Fallbeispiel SQL auf RAC 41

43 SQL auf RAC 43

45 Parallel Update wait event: gc buffer busy wait Segments by Global Cache Buffer Busy GC GC Tablespace Obj. Buffer Owner Name Object Name Type Busy SCOTT DATA TEST_RAC_UPD TABLE 19, SQL auf RAC 45

48 Parallel Update Schneller aber nicht schnell wait event: latch free / latch: cache buffers chains / buffer busy wait Segments by Buffer Busy Waits Buffer Tablespace Obj. Busy Owner Name Object Name Type Waits SCOTT DATA TEST_RAC_UPD TABLE 28, SQL auf RAC 48

49 Parallel Update PCTFREE = 99, Dummy Spalte CHAR(100)='x' hinzufügen Tabelle reorganisieren Ein Datensatz pro Block SQL auf RAC 49

52 Parallel Update Nur CPU-bound Keine Waits Skalierbare RAC-Lösung SQL auf RAC 52

55 Zusammenfassung Eine Applikation die nicht auf Single Instance Datenbanken skaliert, skaliert nicht auf RAC! Eine Applikation die auf Single Instance Datenbanken skaliert, skaliert wahrscheinlich auf RAC! SQL auf RAC 55

56 Inhalt RAC-Probleme SQL-Fallbeispiele Sequence Generation Parallel Inserts Parallel Update Full Table Scans Zusammenfassung SQL auf RAC 56

57 Testkonfiguration CREATE TABLE... AS SELECT... XCUR SQL auf RAC 57

58 Testkonfiguration SELECT count(*) FROM... gc cr multi block request XCUR SQL auf RAC 58

59 Testkonfiguration SELECT count(*) FROM... gc cr multi block request XCUR CR SCUR SQL auf RAC 59

60 Testkonfiguration XCUR CR SCUR SQL auf RAC 60

61 full table scan interconnect stark ausgelastet db_file_multiblock_read_count reduzieren? weniger I/O pro Sekunde gesamter Aufwand identisch Nein Full Table Scan langsamer SQL auf RAC 61

62 Testkonfiguration CREATE TABLE... AS SELECT... XCUR SQL auf RAC 62

63 Testkonfiguration SELECT /*+ PARALLEL..*/ count(*) FROM... enq: KO - fast object checkpoint XCUR SQL auf RAC 63

64 Testkonfiguration SELECT /*+ PARALLEL..*/ count(*) FROM... dbwr XCUR SQL auf RAC 64

65 Testkonfiguration SELECT /*+ PARALLEL..*/ count(*) FROM... XCUR, not dirty SQL auf RAC 65

66 Testkonfiguration XCUR CR SCUR oraxx direct path read (db_file_multiblock_read_count) SQL auf RAC 66

67 v$bh SELECT inst_id, status, dirty, count(*) FROM gv$bh WHERE objd = ( SELECT object_id FROM user_objects WHERE object_name = 'RAC_TEST_FTS' ) GROUP BY BY inst_id, status, dirty ORDER BY BY inst_id, status; INST_ID STATUS D COUNT(*) scur N 1 1 xcur N cr cr N 4 2 scur N 1 SQL auf RAC 67

68 block shipping block shipping ist im Detail erheblich komplizierter Referenz: SQL auf RAC 68

69 full table scan Wenig Last auf interconnect db_file_multiblock_read_count optimal Seiteneffekte bei Parallel Query beobachten _use_direct_io (nur Tests) SQL auf RAC 69

70 full table scan Optimizer: avg blocks per multiblock I/O (dbms_stats) n-instanzen: nur ein Wert in aux_stats$ db_file_multiblock_read_count: automatisch in 10g R2 db_file_multiblock_read_size = max I/O i.d.r. am schnellsten SQL auf RAC 70

71 Inhalt RAC-Probleme SQL-Fallbeispiele Sequence Generation Parallel Inserts Parallel Update Full Table Scans Zusammenfassung SQL auf RAC 71

72 Zusammenfassung Sequenzen nicht missbrauchen Anzahl Messages Parallel Update Storage Einstellungen Skalierbarkeit Parallel Inserts Seiteneffekte beachten administrativer Aufwand Full Table Scans Ausführungsplan + Datenzugriff optimieren SQL auf RAC 72

73 Conclusion Sequenzen Nicht missbrauchen Anzahl Messages Parallel Update Storage Einstellungen Skalierbarkeit Parallel Inserts Seiteneffekte beachten Administrativer Aufwand Full Table Scans Ausführungsplan + Datenzugriff optimieren SQL auf RAC 73

74 Conclusion Sequences nicht missbrauchen Anzahl Messages Parallel Update Storage Einstellungen Skalierbarkeit Parallel Inserts Seiteneffekte beachten administrativer Aufwand Full Table Scans Ausführungsplan + Datenzugriff optimieren SQL auf RAC 74

75 Conclusion Sequences nicht missbrauchen Anzahl Messages Parallel Update Storage Einstellungen Skalierbarkeit Parallel Inserts Seiteneffekte beachten administrativer Aufwand Full Table Scans Ausführungsplan + Datenzugriff optimieren SQL auf RAC 75

76 Zusammenfassung Nahezu alle RAC-Probleme resultieren vom pinging der Ressourcen über den Interconnect! SQL auf RAC 76

77 Zusammenfassung Ursache für pinging eliminieren logical I/O reduzieren, dies reduziert pinging Application Partitioning Interconnect optimieren: latency / throughput SQL auf RAC 77

78 You're pirates. Hang the code, and hang the rules. They're more like guidelines anyway. Elisabeth, Pirates of the caribbean SQL auf RAC 78

79 Danke für Ihre Aufmerksamkeit! SQL auf RAC 79