DISS. ETH NO Cloud-ready scalable and elastic data processing using o -the-shelf databases, replication and virtualization

Transkript

1 DISS. ETH NO Cloud-ready scalable and elastic data processing using o -the-shelf databases, replication and virtualization Athesissubmittedtoattainthedegreeof DOCTOR OF SCIENCES of ETH ZURICH (Dr. sc. ETH Zurich) presented by TUDOR-IOAN SALOMIE Diploma Engineer in Computer Science, Technical University of Cluj-Napoca, Romania born on May 4, 1984 citizen of Romania accepted on the recommendation of Prof. Dr. Gustavo Alonso (ETH Zürich, Switzerland), examiner Prof. Dr. Timothy Roscoe (ETH Zürich, Switzerland), co-examiner Dr. Timothy Harris (Oracle Research Labs, Cambridge, UK), co-examiner 2014

2 Abstract Software-as-a-service and cloud computing have gained much traction in recent years. The tightly coupled hardware infrastructure and software o erings of many cloud vendors such as Amazon, Rackspace, or Windows Azure have allowed a significant number of businesses to adopt a pay-as-you-go model and switch from on-premise to cloud architectures. While many system software solutions can easily benefit from cloud vendor offerings, o -the-shelf relational databases face many challenges, e ectively limiting the migration to cloud of entire application stacks. Given the architectures of o -the-shelf databases, problems arise in terms of performance, scalability, and elasticity. These problems are rooted in di erent places. For example, virtualization technologies, which are the cornerstone of most cloud providers, have a bad reputation for a ecting database performance. Elasticity of cloud deployed applications is reduced as existing database engines can not easily take advantage of migration possibilities in virtualized environments. Static peak resource provisioning for databases dramatically reduces the e ciency and the cost-saving benefits promoted through resource sharing and service consolidation in the cloud. Finally, increasingly common multicore servers also pose substantial challenges to database performance and scalability. Reacting to demands for cloud-ready data processing solutions, many cloudtailored systems have been developed. While these systems try to replace conventional databases, they di er in functionality, consistency levels, support for queries or transactions, and interfaces. On one hand, such di erences are acceptable for certain architectures or newly designed system. On the other hand, there are systems that require the full feature set of relational o -the-shelf databases or for which the redesign of the data processing layer is too expensive. Either way, we argue that e ciently supporting o -the-shelf databases in the cloud is an important problem, which we address in this thesis. Consequently, we present the design, implementation and evaluation of Vela, a system that combines snapshot isolation replication with virtualization in order to provide a flexible solution for running unmodified o -the-shelf databases, that takes advantage of the elasticity and scalability of the cloud. Unlike existing replication-only solutions, our system works well both in the case of large servers and in the case of clusters. It achieves this by treating multicore architectures as a distributed system rather than solely relying on the parallel nature of the hardware. We analyzed the limitations of database engines when running on multicores using existing open-source database engines and showed

3 iv how to deploy several replicated engines within a single multicore machine to achieve better scalability and stability than a single database engine operating on all cores. Unlike virtualization-only solutions, our system provides better performance, enhanced functionality and more flexibility in the deployment. It improves flexibility through an online reconfiguration API which can be manually or automatically used to meet service level agreements. By relying on a novel mechanism, called Application Level Ballooning, Vela can take advantage of fine-grained online reconfiguration of the memory footprint of virtualized databases. Finally, based on the results of evaluating the performance of virtualized databases in di erent setups and under varied workloads we were able to characterize the overheads of virtualization and avoid them through careful engineering and overall system design.

4 Zusammenfassung Software-as-a-Service und Cloud-Computing haben in den letzten Jahren in der Forschung sowie in der Industrie viel Aufmerksamkeit erhalten. Die starke Koppelung von Hardware und Software-Lösungen von Cloud-Anbietern wie Amazon, Rackspace oder Windows Azure ermöglichten Unternehmen das Bezahlen auf einer pay-as-you-go Basis und einen Umstieg von On-Premise-Lösungen zu Cloud- Architekturen. Obwohl viele Systemsoftware-Lösungen durchaus von Cloud-Anbieter profitieren, sind handelsübliche, relationale Datenbanken oft mit Problemen in einer solchen Umgebung konfrontiert, die den vollumfänglichen Umstieg eines Application-Stacks auf die Cloud erschweren. Mit existierenden Datenbankarchitekturen treten vor allem Probleme bezüglich Leistung, Skalierbarkeit und Elastizität auf. Diese Probleme haben unterschiedliche Ursprünge. Zum Beispiel haben Virtualisierungstechnologien, ein Eckpfeiler der meisten Cloud-Anbieter, den Ruf, die Leistung einer Datenbank negativ zu beeinflussen. Elastizität von Applikationen in der Cloud ist durch Virtualisierung begrenzt, weil existierende Datenbankensysteme nur schwer die Vorteile der Migrationsmöglichkeiten in virtualisierten Umgebungen nutzen können. Statisches Belegen von Ressourcen für Spitzenlastzeiten reduziert hingegen die E zienz und Kosteneinsparungen durch Ressourcenteilung und Servicekonsolidierung in der Cloud. Eine weitere Herausforderung für die Performance und Skalierbarkeit von Datenbanken sind Multi-Core Server. Reagierend auf die Forderung nach Cloud-fähigen Datenverarbeitungslösungen wurden viele auf die Cloud zugeschnittene Systeme entwickelt. Diese Systeme versuchen konventionelle Datenbanken zu ersetzen, unterscheiden sich aber in ihrer Funktionalität, ihren Konsistenzgarantien, ihrem Query- oder Transaktionssupport und den Schnittstellen. Auf der einen Seite sind solche Unterschiede akzeptabel für bestimmte Architekturen oder neu entworfene Systeme, auf der anderen Seite gibt es Systeme welche die ganze Palette von Features einer handelsüblichen Datenbank benötigen oder für die ein komplett neuer Entwurf der Datenverarbeitungs-Ebene zu teuer wäre. In beiden Fällen ist die Unterstützung von handelsüblichen Datenbanken in der Cloud ein wichtiges Problem, das wir in dieser Arbeit betrachten. Im Folgenden präsentieren wir das Design, die Implementation und die Evaluation von Vela, ein System das Snapshot-Isolation-Replizierung mit Virtualisierung verbindet um eine flexible Lösung anzubieten, unveränderte, handelsübliche Datenbanken in der Cloud laufen zu lassen mit dem Vorteil der Elastizität und Skalierbarkeit der Cloud.

5 vi Verglichen mit anderen Lösungen die nur Replikation anbieten, funktioniert unser System auch nachweisbar für große Server und Cluster. Dies wird erreicht, indem es Multi-Core Architekturen als ein verteiltes System behandelt, anstatt sich nur auf die parallelen Eigenschaften der Hardware zu verlassen. Wir haben die Einschränkungen verschiedener Datenbanken auf Multi-Core Systemen anhand verschiedener Open-Source Datenbanken analysiert und zeigen, wie man verschiedene, replizierte Datenbanken auf einer einzigen Multi-Core Maschine als System aufsetzt welches bessere Skalierbarkeit und Stabilität aufweisen kann als eine einzige Datenbank die auf allen Cores operiert. Im Gegensatz zu reinen Virtualisierungslösungen liefert unser System bessere Performance, erhöhte Funktionalität und mehr Flexibilität beim Deployment. Es verbessert die Flexibilität durch eine online Rekonfigurations-API die optional manuell oder automatisch gebraucht wird um Service-Level-Agreements einzuhalten. Mit einem neuen Mechanismus, Application Level Ballooning, kann Vela die Vorteile einer fein einstellbaren, online verfügbaren Wiederkonfigurierbarkeit des Speicherbedarfs von virtualisierten Datenbanken nutzen. Basierend auf den Resultaten der Performance Evaluation von virtualisierten Datenbanken in verschiedenen Setups und unter verschiedenen Workloads charakterisieren wir außerdem die Mehraufwände der Virtualisierung und vermeiden diese durch sorgfältige Konstruktion und Design des Systems.