Lower Layer Technologien in Grids

Transkript

1 Lower Layer Technologen n Grds best Systeme GmbH, Unterföhrng Wolfgang Stef stef@best.de Dpl.-Ing. (FH) Senor Systemngeneur Unx Open Systems Day Fall 05 1/23 P

2 Compute Grd vs. Compute Grd Compute Grd vs. Data Grd Grd Interconnects Dstrbuted Flesystems Data Access at Block Level Shared Flesystems Datenvertelung mal ganz anders 2/23 P

3 Compute Grd vs. Compute Grd Ncht überall, wo Grd draufsteht, st auch Grd drn: Oracle 10g st ken Grd. Cluster m HPC snd ken Grd. Bestenfalls snd se Bestandtel enes Grds. Charakterstsch: Nutzung geographsch mehr oder mnder stark vertelter Ressourcen über standardserte Protokolle. Häufg ztertes Bespel: Strom aus der Steckdose. 3/23 P

4 Agenda Compute Grd vs. Compute Grd Compute Grd vs. Data Grd Grd Interconnects Dstrbuted Flesystems Data Access at Block Level Shared Flesystems Datenvertelung mal ganz anders 4/23 P

5 Compute Grd vs. Data Grd Grd bedeutet nchts anderes als Zugrff auf n enem Netz vertelte Ressourcen: Compute Grd: Vertelte Rechenlestung, u. U. auch heterogen, ken Sngle System Image. Data Grd: Vertelte Festplatten bzw. vertelte Daten. Grd sagt noch nchts aus über Protokolle, Betrebssysteme, Anwendungen, zu lösende Probleme. + Bessere Ausnutzung von Ressourcen. + Vertelte Admnstraton. Ncht für jedes Problem geegnet. Overhead für Kommunkaton erforderlch. Vertelte Admnstraton. 5/23 P

6 Compute Grd vs. Compute Grd Compute Grd vs. Data Grd Grd Interconnects Dstrbuted Flesystems Data Access at Block Level Shared Flesystems Datenvertelung mal ganz anders 6/23 P

7 Grd Interconnects Myrnet, Infnband, Scalable Coherent Interface (SCI) etc. snd Cluster Interconnects be HPC-/HA-Clustern. Kene gültgen Grd Interconnects. Auf Layer 2: Ethernet, Token Rng, FDDI, ATM etc. Auf Layer 3: IPv4, IPv6 Standards! 7/23 P

8 Grd Interconnects (cont d) Am gebräuchlchsten st scherlch Ethernet: Aktuell bs 10 GBt/s verfügbar. Praxs zegt: 80% - 90% Nutzbandbrete be GBE. 10 GBt/s derzet noch sehr teuer: Verwendung m Netzwerk-Core und telwese für WAN-Strecken. Noch kaum Serveranbndung, obwohl HW verfügbar. Trunkng st möglch und standardsert (Lnk Aggregaton, IEEE 802.3ad, set 2000). Wetstrecken über Glasfaser möglch, Technk exstert. ATM aufgrund QoS und gerngerer Latenzzeten m WAN besser geegnet. 8/23 P

9 Compute Grd vs. Compute Grd Compute Grd vs. Data Grd Grd Interconnects Dstrbuted Flesystems Data Access at Block Level Shared Flesystems Datenvertelung mal ganz anders 9/23 P

10 Dstrbuted Flesystems Network Fle System (NFS), Andrew Fle System (AFS), Dstrbuted Fle System (DFS), Coda, InterMezzo etc. + verglechswese enfach admnstrerbar (common knowledge) + standardsert und dokumentert + Support n allen gebräuchlchen Betrebssystemen vel Overhead schlägt auf Performance verglechswese langsam Namespace (Mountponts) müssen ggf. nnerhalb des Grds synchronsert werden erhöhter admnstratver Aufwand. + Erweterungen zu Authentfzerung verfügbar (Kerberos u. ä.) + Zugrffschutz mttels Access Control Lsts (ACL) 10/23 P

11 Compute Grd vs. Compute Grd Compute Grd vs. Data Grd Grd Interconnects Dstrbuted Flesystems Data Access at Block Level Shared Flesystems Datenvertelung mal ganz anders 11/23 P

12 Data Access at Block Level Zel: performanter Zugrff auf Daten Derzet aktuelle Protokolle: SCSI, FCP, SCSI, FCIP, FCP. + auf Datentransport optmert + schnell, wel weng Overhead shared access st ncht trval 12/23 P

13 Data Access at Block Level SCSI und FCP SCSI als Bus, lmterte Länge und lmterte Anzahl der Geräte. FCP hat Features ähnlch we Netzwerk (Swtchng, Zonng, WWN-Securty). + Protokolle snd ausgereft und standardsert. + Support n jedem handelsüblchen Betrebssystem on board. Ken concurrent wrte access möglch. Ncht bzw. nur begrenzt routbar ncht WAN-tauglch + Bandbretenerhöhung durch Load Balancng möglch muss von Hardware und Treber unterstützt sen. 13/23 P

14 Data Access at Block Level SCSI, FCIP und FCP zu Grunde legendes Protokoll her we oben: SCSI verpackt n TCP/IP routng-fähg + Kombnerbar mt IPsec/TLS, damt verschlüsselter Kanal. + Zugrff auf Storage über WAN wrd möglch. + Enfache Bandbretenerhöhung durch Lnk Aggregaton (IEEE 802.3ad). + Layer 2 austauschbar. Hohe Latenz IP kennt ken durchgängges QoS. Auch her ken concurrent wrte access. Anfällg gegen allerle bekannte Securty- Probleme aus der TCP/IP-Welt (DoS, Spoofng, Man n the Mddle... ) + Nur en Layer 2 Medum nnerhalb des Grds realserbar. 14/23 P

15 Data Access at Block Level Protokoll-Overhead FCP FC-2 Header FCP Header SCSI Payload CRC FCIP FCIP Header FCP Header SCSI Payload CRC FCP FCP Header FCP Header SCSI Payload CRC SCSI SCSI Header SCSI Payload CRC TCP TCP Header IP IP Header Ethernet Ethernet Header CRC 15/23 P

16 Compute Grd vs. Compute Grd Compute Grd vs. Data Grd Grd Interconnects Dstrbuted Flesystems Data Access at Block Level Shared Flesystems Datenvertelung mal ganz anders 16/23 P

17 Shared Flesystems Grundprnzp 10/100/1000 MBt Ethernet Wndows Lnux Solars host1 host2 host3 mdc FC Fabrc 1/2 GBt Fber Channel Meta Data LUN 17/23 P

18 Shared Flesystems Implementerung Applcaton Userland ufs VFS (Unx) qfs vxfs sanfs ext3 ntfs IFS (Wndows) fat32 fat16 vxfs sanfs Kernel Space Devce Drvers: SCSI / FCP / SCSI etc. 18/23 P

19 Shared Flesystems Produkte ADIC StorNext Flesystem, Sun QFS, Sun PlexFS, IBM Tvol SANergy, IBM GPFS, Oracle Cluster Flesystem, RedHat GFS... + Multple Wrter Funktonaltät + Snapshots, Strpng, Mrrorng etc. m Flesystem möglch. + Heterogenes Umfeld möglch. + Anflanschen von Zusatzfeatures Herarchcal Storage Management großer Enführungsaufwand komplexe Admnstraton u. U. hohe Intalkosten (Lzenzen, Infrastruktur) 19/23 P

20 Compute Grd vs. Compute Grd Compute Grd vs. Data Grd Grd Interconnects Dstrbuted Flesystems Data Access at Block Level Shared Flesystems Datenvertelung mal ganz anders 20/23 P

21 Datenvertelung mal ganz anders ftp, scp, sftp, rsync + scrptngfähg kene Echtzet + enfaches Handlng + für quas jedes Betrebssystem zu haben + heterogenes Umfeld sehr enfach möglch 21/23 P

22 Quellen und weterführende Infos Ulf Troppens, Raner Erkens Spechernetze dpunkt.verlag, Hedelberg, 1. Auflage, 2003 Grd-Computng Artkel n der deutschen Wkpeda, Verson v , 17:02h Grd computng Artkel n der englschen Wkpeda, Verson v , 19:22h The DataGrd Project Vktors Bersts Fundamentals of Grd Computng IBM Redbooks Paper, 2002 Srkumar Venugopal, Rajkumar Buyya, Ramamohanarao Kotagr A Taxonomy of Global Data Grds Unversty of Melbourne, Department of Computer Scence and Software Engneerng, Grd Computng and Dstrbuted Systems Laboratory, Aprl /23 P

23 Danke für Ihre Aufmerksamket. Fragen Wolfgang Stef November /23 P