DOAG Konferenz 2009 Konrad Häfeli. Infrastructure. Nürnberg

Transkript

1 Oracle Net Übersicht mit Tiefgang DOAG Konferenz 2009 Konrad Häfeli Technology Manager Infrastructure Nürnberg November 2009 Basel Baden Bern Brugg Lausanne Zurich Düsseldorf Frankfurt/M. Freiburg i. Br. Hamburg Munich Stuttgart Vienna

2 Trivadis Facts & Figures Über 540 Mitarbeiter an 13 Standorten im Raum D-A-CH Finanziell unabhängig und nachhaltig profitabel Kennzahlen 2008 Konsolidierter Konzernumsatz: CHF 108 Mio. / EUR 68 Mio. Bei über 650 Dienstleistungskunden in über 1'600 Projekten aktiv Über 150 Service Level Agreements Über 5'000 Schulungsteilnehmer Forschungs- und Entwicklungsbudget: CHF 6.0 Mio. / EUR 3.6 Mio. Oracle Net - Übersicht mit Tiefgang 2

3 Trivadis - das Besondere Kundenindividuelle Lösungskompetenz und Herstellerunabhängigkeit Technologiekompetenz Lösungs- und Integrations-Know-how Begleitung über den gesamten IT-Projekt- Lifecycle bietet fundierte Methodenkenntnisse und eigenentwickelte Vorgehensweisen garantiert wiederholbare Qualität und Realisierungssicherheit hat über 15 Jahre Expertise in Oracle, Microsoft, IBM & Open Source verfügt über ein eigenes Technology Center und setzt auf technologische Exzellenz hat eine breite, branchenübergreifende Kundenbasis und jährlich über 1600 Projekte verbindet technologisches Spezialistenwissen mit dem Verständnis für die Business-Spezifika des Kunden begleitet den gesamten IT-Projekt-Lifecycle mit einem modularen Dienstleistungsportfolio bietet für jeden Reifegrad die passende Dienstleistungs- und Lösungskombination Oracle Net - Übersicht mit Tiefgang 3

4 Agenda Einführung Verfügbarkeit Performance Knowledge transfer is only the beginning. Knowledge application is what counts. New Feature 11gR2 Fazit Oracle Net - Übersicht mit Tiefgang 4

5 Einleitung Oracle Net, Komponente der Oracle Net Services Bindeglied und Entkopplungsschicht (App/DB) Client/Server resp. Three Tier Architektur Lastverteilung (physiche und logische Server) Gute Rückwartskompatibilität Einfache Konfiguration (via Files) Oracle Net - Übersicht mit Tiefgang 5

6 Motivation Oracle Net nicht per Definition spannend MAA Projekt, schweizer Telco Unternehmen HA Infrastruktur HA Applikation? Applikationsverhalten wirkt auf Infrastruktur Oracle Net - Übersicht mit Tiefgang 6

7 MAA Architektur Loc A Appls Loc B Oracle CRS Oracle CRS ssdb1 ssdb2 ssdb3 ssdb4 P: SSS1 P: SSS2 S: SSS1 S: SSS2 SAN Oracle ASM Oracle ASM SAN Database Mirror SSS SSS Database Mirror SSS SSS Oracle Net - Übersicht mit Tiefgang 7

8 Übersicht (1) Client/Server Verbindung was wird benötigt? Physische Lokation des Datenbankservices Verbindungsinformationen/Deskriptor (Protokoll meist TCP) Server Port Service (DESCRIPTION = (ADDRESS = (PROTOCOL = TCP) (HOST = pyrrha01) (PORT = 1521) ) (CONNECT_DATA = (SERVICE_NAME = TECH11.ttc.trivadis.com ) ) ) Oracle Net - Übersicht mit Tiefgang 8

9 Übersicht (2) Aliases für Verbindungsdeskriptoren (Connectstring Alias) TECH11.ttc.trivadis.com = (DESCRIPTION = (ADDRESS = (PROTOCOL=TCP)(HOST=pyrrha01)(PORT=1521)) (CONNECT_DATA = (SERVICE_NAME=TECH11.ttc.trivadis.com )) ) Ablage in einem Repository Naming Methoden (sqlnet.ora) Local Naming Directory Naming Easy Connect Naming External Naming # Name resolution priority NAMES.DIRECTORY_PATH=(tnsnames, hostname) tnsnames.ora File LDAP compliant Directory Server expliziter connect string z.b. NIS (Network Information Service) Oracle Net - Übersicht mit Tiefgang 9

10 Agenda Einführung Verfügbarkeit Performance Knowledge transfer is only the beginning. Knowledge application is what counts. New Feature 11gR2 Fazit Oracle Net - Übersicht mit Tiefgang 10

11 Verfügbarkeit DB-Service Datenbankservice bereitstellen Abdeckung bei Ausfall von Instanz Knoten Lokation Funktionalität Real Application Clusters Dataguard (Standby DB) Maximum Availability Architecture (MAA) Applikatorische Fallback Datenbanken Oracle Net - Übersicht mit Tiefgang 11

12 Verfügbarkeit DB-Zugriff Applikationszugriff auf den (hoch-) verfügbaren Datenbankservice Ziel Fehlerfreier Automatismus Kleine Verzögerungszeit (Eher nicht durchsatzorientiert) Service Administration: exec DBMS_SERVICE.CREATE_SERVICE(service_name => 'TECH11', network_name => 'TECH11'); exec DBMS_SERVICE.START_SERVICE( service_name => 'TECH11'); exec DBMS_SERVICE.STOP_SERVICE( service_name => 'TECH11'); exec DBMS_SERVICE.DELETE_SERVICE (service_name => 'TECH11'); Oracle Net - Übersicht mit Tiefgang 12

13 Failover FAILOVER connect time failover default ON Mehrere Adressen in der ADDRESS_LIST angeben Sequentielles durchgehen (DESCRIPTION = (ADRESS_LIST = (FAILOVER = ON) (LOAD_BALANCE = ON) (ADDRESS = (PROTOCOL=TCP)(HOST=pyrrha01)(PORT=1521)) (ADDRESS = (PROTOCOL=TCP)(HOST=pyrrha02)(PORT=1521)) ) (CONNECT_DATA = (SERVICE_NAME=TECH11.ttc.trivadis.com )) ) Oracle Net - Übersicht mit Tiefgang 13

14 Loadbalancing LOAD_BALANCE Zahlenmässige Verteilung der Verbindungen Random Zugriff auf die Adressen für die Lastverteilung (Clientseite) Mit DESCRIPTION _LIST default ON Kombination versucht random bis eine geht Im Fehlerfall (kein Service) ERROR: ORA-12516: TNS:listener could not find available handler with matching protocol stack Vorsicht: Bei anderem DB Problem ERROR: ORA-00257: archiver error. Connect internal only, until freed. Oracle Net - Übersicht mit Tiefgang 14

15 Loadbalancing (2) Serverseitiges Loadbalancing Definition von REMOTE_LISTENER alter system set remote_listener='(description = (ADDRESS = (PROTOCOL = TCP)(HOST = pyrrha02)(port = 1521)))'; Listener: oracle@pyrrha02:~/ [TECH10] lsnrctl services. Service "TECH11.ttc.trivadis.com" has 1 instance(s). Instance "RAT", status READY, has 1 handler(s) for this service... Handler(s): "DEDICATED" established:0 refused:0 state:ready REMOTE SERVER ADDRESS=(PROTOCOL=TCP)(HOST=pyrrha01.ttc.trivadis.com)(PORT=1521)) Oracle Net - Übersicht mit Tiefgang 15

16 Transparent Application Failover TAF serverseitig mit DB-Service begin DBMS_SERVICE.CREATE_SERVICE( service_name => 'TECH11, network_name => 'TECH11, failover_method => 'BASIC', failover_type => 'SESSION', failover_retries => 180, failover_delay => 1); end; / Nach Crash (Prozess, Instanz, Knoten) Automatischer reconnect auf verfügbaren Service Oracle Net - Übersicht mit Tiefgang 16

17 Fast Application Notification FAN benachrichtig den Client im Failoverfall Vermeidung von Retrys mit TCP Timeout Bei OCI Client mittels Advanced Queuing begin DBMS_SERVICE.MODIFY_SERVICE( service_name => 'TECH11.ttc.trivadis.com', end; / aq_ha_notifications => true); Z.B. Dataguard Broker benachrichtigt beim Rollentausch SYS.REG$ Tabelle beinhalte die nötigen Informationen select SUBSCRIPTION_NAME, LOCATION_NAME from reg$ "SYS"."ALERT_QUE":"HAE_SUB" net8://(address=(protocol=tcp)(host= ) (PORT=21755))?PR=0 Oracle Net - Übersicht mit Tiefgang 17

18 Timeouts (1) Nicht verfügbare IPs in der ADDRESS_LIST ergeben Waits Verbindungsprobleme auf die Instanz ergeben Waits Timeout Spezifikation möglich Sqlnet.ora TCP.CONNECT_TIMEOUT (ab 11gR1, default 60 s) SQLNET.OUTBOUND_CONNECT_TIMEOUT (ab 10gR2, default leer) Verbindungsdeskriptor (ab 11gR2) TRANSPORT_CONNECT_TIMEOUT CONNECT_TIMEOUT Instanztimeout ist ein Superset des Servertimeouts CONNECT_TIMEOUT > TRANSPORT_CONNECT_TIMEOUT Oracle Net - Übersicht mit Tiefgang 18

19 Timeouts (2) TECH_NA.ttc.trivadis.com = (DESCRIPTION = (TRANSPORT_CONNECT_TIMEOUT=25) (CONNECT_TIMEOUT=5) (ADDRESS = (PROTOCOL=TCP)(HOST = )(PORT=1521)) (CONNECT_DATA = (SERVICE_NAME = TECH11.ttc.trivadis.com ) ) ) Relevanz abhängig vom Client (Kommando) time tnsping TECH_NA TNS-12535: TNS:operation timed out real 0m25.050s time sqlplus system/manager@tech_na ORA-12170: TNS:Connect timeout occurred real 0m5.140s Oracle Net - Übersicht mit Tiefgang 19

20 Timeouts (3) Jeder Verbindungsversuch geht wieder sequentiell durch die Liste It adds up Es könnte Sinn machen die VIP Adresse eines Server auf einen überlebenden Knoten zu transferieren Bei Dataguard via FAN des Dataguard Brokers beim Rollentausch Oracle Net - Übersicht mit Tiefgang 20

21 Agenda Einführung Verfügbarkeit Performance Knowledge transfer is only the beginning. Knowledge application is what counts. New Feature 11gR2 Fazit Oracle Net - Übersicht mit Tiefgang 21

22 Tuning Fragen Ist Oracle Net Tuning nötig? Applikations-Datentransferlast, eher nein Redotransport bei Dataguard, meistens relevant Wo können Probleme Auftreten? Physischer Netzwerkanschluss limitiert Bandbreite Physische Effekte Latenzzeiten Default Konfigurationen/Parametrisierungen Wie können diese angegangen werden? White Papers gemäss ML Note OOW 2009: Kant C Patel, Oracle Net Services: Best Practices for Database Performance and Scalability Oracle Net - Übersicht mit Tiefgang 22

23 Physisches Netz Reicht mein 1 Giga Ethernet aus? Faustregel: max. 70% Auslast des Netzwerks als Sicherheit, Division durch 8 für Bit/Byte Umrechnung 90 GB/s Prüfen was maximal an redosize/sec anfällt v$archived_log Welche Distanz kann ich überbrücken? Äussert sich in der RTT (Round Trip Time) Faustregel: 1 ms pro 50km Übertragunsstrecke Genauer mit traceroute [root@pyrrha07 ~]# traceroute traceroute to (..104), 30 hops max, 40 byte packets 1 pandora04.ttc.trivadis.com (..104) ms ms ms Oracle Net - Übersicht mit Tiefgang 23

24 Kritische Punkte anhand Dataguard HW Device queue lengths OS Buffers limits (send and receive) Oracle Buffers (send and receive) Network Bandwidth and Round Trip Time (RTT) Send Data Unit (SDU) Oracle Net - Übersicht mit Tiefgang 24

25 Konfiguration Oracle Net, OS (1) Configuring network device queue sizes For Linux: Interface transmit queue ifconfig eth1 txqueuelen # Recommended for GBit and long RTT Network receive queue (permanently add the values to sysctl.conf) echo > /proc/sys/net/core/netdev_max_backlog echo 1 > /proc/sys/net/ipv4/route/flush Für den Fall des Rollentauschs auf allen Servern setzen tcp_nodelay in sqlnet.ora (default is yes) TCP.NODELAY=YES Oracle Net - Übersicht mit Tiefgang 25

26 Konfiguration Oracle Net, OS (2) Konfiguration I/O Buffer Space (low latency or high bandwidth net) RECV_BUF_SIZE and SEND_BUF_SIZE Set it to at least the bandwidth-delay product (BDP), Oracle recommends 3*BDP 1000*1000*1000 Bit/s * s * 3 =825000Bit = Byte SQLNET.ORA RECV_BUF_SIZE= SEND_BUF_SIZE= LISTENER.ORA LISTENER=(DESCRIPTION=(ADDRESS=(PROTOCOL=tcp) (SEND_BUF_SIZE=115000)(RECV_BUF_SIZE=115000)(HOST=... OS Setting (must be equal or higher than values above) ndd -set /dev/tcp tcp_xmit_hiwat #Solaris ndd -set /dev/tcp tcp_recv_hiwat #Solaris sysctl -w net.core.wmem_max= #Linux (by 10g OUI) sysctl -w net.core.rmem_max= #Linux (by 10g OUI) Oracle Net - Übersicht mit Tiefgang 26

27 Ergebnis Oracle Net, OS (3) Nützt das etwas? Amount of data transferred Network throughput achieved (MBit/s) Prior to tuning 77.2 MB 10.8 Mbps After increasing network socket buffer After adjusting device queue lengths 5.11 GB 731 Mbps 6.55 GB 937 Mbps Tests gemacht mit 60s Laufzeit, Gigabit Netz Source: Oracle Oracle Net - Übersicht mit Tiefgang 27

28 Konfiguration Oracle Net (1) Session Data Unit Oracle empfiehlt 32KB Im Fall von archive destination LOG_ARCHIVE_DEST_2='SERVICE=PHYS_SITE1...' Beinhaltet TNSNAMES.ORA PHYS_SITE1=(DESCRIPTION=(SDU=32768)(ADDRESS=(PROTOCOL=tcp)... Beinhaltet LISTENER.ORA SID_LIST_LISTENER= (SID_LIST=(SID_DESC=(SDU=32768)(SID_NAME=PHYS)... SDU kann auch im SQLNET.ORA gesetzt werden DEFAULT_SDU_SIZE=32767 Oracle Net - Übersicht mit Tiefgang 28

29 Nicht Oracle Net, aber relevant Bis Oracle 10, kein komprimiertes log-shipping Ab 11gR1ist der Transfer der archive logs komprimiert möglich, aber nur für log gap closing edit database 'DG11_SITE1' set property RedoCompression='ENABLE'; edit database 'DG11_SITE2' set property RedoCompression='ENABLE'; Ab 11gR2 ist der Transfer auch für SYNC komprimierbar Redo Kompression ist meist sehr hoch (80-90%) Oracle Net - Übersicht mit Tiefgang 29

30 Nicht jeder Netzwerk delay ist ein Netzwerkproblem.. Primary SQL> select EVENT, TOTAL_WAITS, TOTAL_TIMEOUTS, TIME_WAITED, AVERAGE_WAIT from v$system_event where event like '%LNS%' or event like '%LGWR%' / EVENT TOTAL_WAITS TOTAL_TIMEOUTS TIME_WAITED AVERAGE_WAIT LNS wait on SENDREQ Standby SQL> select EVENT, TOTAL_WAITS, TOTAL_TIMEOUTS, TIME_WAITED, AVERAGE_WAIT from v$system_event where event like '%RFS%' order by 4 / EVENT TOTAL_WAITS TOTAL_TIMEOUTS TIME_WAITED AVERAGE_WAIT RFS write Oracle Net - Übersicht mit Tiefgang 30

31 Log transport via interconnect (1) Logtransport auf einem separaten Netzwerk blue ist der Interfacename des public network blue-i ist der Interfacename des interconnect (für log shipping) Dazu ist ein Listener auf dem blue und blue-i Interface nötig Kann mit zwei Listener gemacht werden (ist nicht nötig) Listener bedient beide Interfaces über denselben Port LISTENER_PROD =... (ADDRESS_LIST= ) (ADDRESS = (PROTOCOL = TCP)(HOST = blue )(PORT = 1526)) Listener bedient beide Interfaces über unterschiedliche Port Bindet den Listener an alle interfaces (inkl. blue-i) LISTENER_PROD = Bindet den Listener nur an... das host Intrface (ADDRESS_LIST= (ADDRESS = (PROTOCOL = TCP)(HOST = blue )(PORT = 1526)(IP=FIRST)) (ADDRESS = (PROTOCOL = TCP)(HOST = blue-i)(port = 9876)(IP=FIRST)) ) Oracle Net - Übersicht mit Tiefgang 31

32 Log transport via interconnect (2) Logtransport auf einem separaten Netzwerk (weiter ) blue ist der Interfacename des public network blue-i ist der Interfacename des interconnect (für log shipping) Setzen des local_listener 1 listener SQL> alter system set local_listener='(address_list= (ADDRESS = (PROTOCOL = TCP)(HOST = blue-i)(port = 1526)))'; 2 listeners (nicht nötig ) SQL> alter system set local_listener='(address_list= (ADDRESS = (PROTOCOL = TCP)(HOST = blue-i)(port = 9876)) (ADDRESS = (PROTOCOL = TCP)(HOST = blue )(PORT = 1526)))'; Angabe des log shipping interfaces als erste Adresse des local_listener, das bringt diese in die Dataguard Broker property LocalListenerAddress LocalListenerAddress = '(ADDRESS= (PROTOCOL=TCP)(HOST=blue-i)(PORT=9876))' Oracle Net - Übersicht mit Tiefgang 32

33 Log transport via interconnect (3) tnsnames.ora Einträge Für Dataguard (via interconnect). Anmerkung: für remote admin, sind zusätzliche erforderlich Für die Applikation (via public interface) PROD_SITE1_DG.trivadistraining.com = (DESCRIPTION = (ADDRESS = (PROTOCOL = TCP)(HOST = yellow-i)(port = 9876)) (CONNECT_DATA =(SERVICE_NAME = PROD_SITE1_DGMGRL.trivadistraining.com))) PROD_SITE2_DG.trivadistraining.com = (DESCRIPTION = (ADDRESS = (PROTOCOL = TCP)(HOST = blue-i)(port = 9876)) (CONNECT_DATA =(SERVICE_NAME = PROD_SITE2_DGMGRL.trivadistraining.com))) PROD.trivadistraining.com = (DESCRIPTION = (FAILOVER=ON)(LOAD_BALANCE=OFF) (ADDRESS_LIST= (ADDRESS = (PROTOCOL = TCP)(HOST = yellow)(port = 1526)) (ADDRESS = (PROTOCOL = TCP)(HOST = blue)(port = 1526)) ) (CONNECT_DATA = (SERVICE_NAME = PROD_RW.trivadistraining.com)) ) Oracle Net - Übersicht mit Tiefgang 33

34 Log Transport NetTimeout Zum Thema Log transport noch ein Timeout Parameter NET_TIMEOUT der log_archive_dest_n definiert das LGWR timeout in Sekunden für die dead server Detektion. Überschreibt das zu hohe TCP timeout Setzen via the NetTimeout property LOG_ARCHIVE_DEST_N der Primary Database wird angepasst DGMGRL> edit database 'PHYS_SITE1' set property 'NetTimeout'='15'; Default ist 180s, was viel zu lange ist für ein commit Kleiner als 5s auch bei Gigabit Interconnect ergibt nicht hervorsehbare Effekte Oracle Net - Übersicht mit Tiefgang 34

35 Agenda Einführung Verfügbarkeit Performance Knowledge transfer is only the beginning. Knowledge application is what counts. New Feature 11gR2 Fazit Oracle Net - Übersicht mit Tiefgang 35

36 IPv6, Oracle Restart Unterstützt Internet Protocol Version 6 (IPv6) Diese adressiert das Problem der auslaufenden IPv4 Adressen Für die Konfiguration von Oracle Net spielt das keine Rolle, wenn der Hostname via DNS korrekt aufgelöst wird (entweder IPv4 oder IPv6) 128 Bit IP Adresse 2001:0DB8:0000:0000:0000:0000:200C:417A Oracle Restart Hochverfügbarkeitsfunktionalität auf Basis srvctl für eine Single- Instanz Umgebung (z.b. für Listener) srvctl add listener -l listener1120 srvctl remove listener -l listener1120 srvctl start listener -l listener1120 srvctl stop listener -l listener1120 Oracle Net - Übersicht mit Tiefgang 36

37 Single Client Access Name (SCAN) Mit einem Namen vom Client aus auf eine Clusterumgebung zugreifen (database cluster alias) sqlplus OLTP.TRIVADIS.COM = (DESCRIPTION = (ADDRESS = (PROTOCOL = TCP) (Host = grid-scan.trivadis.com) (Port = 1521) ) (CONNECT_DATA =(SERVICE_NAME = OLTP.TRIVADIS.COM)) ) Keine Anpassungen wenn im Cluster Knoten hinzugefügt oder weggenommen werden Oracle Net - Übersicht mit Tiefgang 37

38 Cluster Kommunikaion Beispiel mit DNS fork() node-01-vip PMON LISTENER DNS cluster-scan1-vip / cluster-scan2-vip / cluster-scan3-vip / cluster-scan.grid.trivadis.com? node-01-vip Connected cluster-scan1-vip SCAN_LISTENER cluster-scan2-vip SCAN_LISTENER cluster-scan3-vip SCAN_LISTENER sqlplus scott/tiger@cluster-scan.grid.trivadis.com:1521/hr node-02-vip LISTENER node-03-vip LISTENER PMON PMON node-04-vip PMON LISTENER SID.lo ocal_listen ner *.re emote_list tener Oracle Net - Übersicht mit Tiefgang 38

39 Agenda Einführung Verfügbarkeit Performance Knowledge transfer is only the beginning. Knowledge application is what counts. New Feature 11gR2 Fazit Oracle Net - Übersicht mit Tiefgang 39

40 Fazit Oracle Net ist zur Zielerreichung im HA (RAC DG, MAA) Umfeld essentiell Bei nicht optimierten Einstellungen kann nebst der Datenbank Service Verfügbarkeit auch die Datensicherheit leiden, weil aus Performancegründen nicht die nötigen Protection-Levels gesetzt werden können Das Austunen lohnt sich in jedem Fall und ist durch vergleichbar einfache Mittel zu erreichen Schon ab Oracle 10gR2 sind die wichtigen Funktionalitäten vorhanden, mit 11gR1 und R2 sind noch zusätzliche Verbesserungen eingeführt worden. Oracle Net - Übersicht mit Tiefgang 40

41 Trivadis finden Sie auf Ebene 3 Stand Nr. 304 Danke! Konrad Häfeli Technology Manager Infrastructure Trivadis AG konrad.haefeli@trivadis.com Basel Baden Bern Brugg Lausanne Zurich Düsseldorf Frankfurt/M. Freiburg i. Br. Hamburg Munich Stuttgart Vienna