Aufgabenstellung zum Projektseminar Parallele Programmierung im WS 2017/2018

Transkript

1 Aufgabe 1: Atomic Multicast Eine Prozessmenge soll von verschiedenen Sendern Multicast Nachrichten empfangen. Der Empfang soll ohne Angabe eines speziellen Senders erfolgen (Recv From Any) und nach jedem Aufruf eine (vorerst die nächste eintreffende) Multicast Nachricht und deren Senderprozess zurückgeben. Dazu sind Schnittstellenfunktionen (z.b. MC_Send() und MC_Recv()) zu erstellen. Für die transportieren Nutzdaten kann ein einheitliches Format und eine einheitliche Läge, z.b. Text, 256 Zeichen lang angenommen werden. In einem ersten Versuch sollen die Sender parallel und ohne gegenseitige Koordination Multicasts an verschiedene Teilmengen der Senderprozesse senden. Die empfangenen Nachrichten sollen protokolliert werden. Dabei sollen die folgenden Fragestellungen untersucht werden: Wie viele Nachrichten können pro Zeiteinheit vermittelt werden? Wie hoch ist der Anteil der Nachrichten, die von verschiedenen Empfängern in unterschiedlicher Reihenfolge entgegen genommen werden? Wie hoch ist der Anteil der Multicast Nachrichten, die nicht an alle angegebenen Empfänger ausgeliefert wurden? Dazu ist zufälliges Abstürzen der Senderprozesse zu simulieren. Im weiteren Verlauf der Praktikumsarbeit soll die Vermittlung der Multicast Nachrichten durch ein Atomic Broadcast Protokoll (hier adaptiert für Multicast) schrittweise umgesetzt werden. Das Ziel ist, eine einheitliche Reihenfolge der Nachrichten aus Sicht der Senderprozesse zu erhalten. Daneben soll das Verfahren eine Nachrichtenvermittlung an alle adressierten Empfänger forcieren, oder die Nachricht an keinen Empfänger ausliefern. Ein weiterer Versuch soll zeigen, dass sich eine einheitliche Nachrichtenreihenfolge ergibt, ob die Multicast Nachrichten an alle Empfänger oder keinen ausgeliefert werden, wie viele Nachrichten als Atomic Multicast pro Zeiteinheit vermittelt werden können. Perspektivisch soll der geschaffene Atomic Multicast für eine konsistente Prozess oder Datenreplikation genutzt werden. Das System soll auf Unix Prozessen basieren, die auf verschiedenen vernetzten Rechnern ausgeführt werden. Zur Organisation der Prozesse und für Basiskommunikationsfunktionen kann eine vorgefertigte Systemsoftware (bspw. MPI) eingesetzt werden. Programmiersprachen: C, C++, ggf. MPI als Umgebung für Prozessmanagement und Nachrichtenaustausch

2 Aufgabe 2: Parallele Hashtable auf einer GPU Die Parallelität der GPU Verarbeitung soll es ermöglichen, mehrere Schlüssel und Blockreferenzen gleichzeitig der GPU zum Einfügen in eine Hashtable zu übergeben und nach Möglichkeit parallel einzufügen. Die Hashtable soll dabei im GPU Speicher liegen. Die verwalteten Blockreferenzen verbleiben im Hauptspeicher des Rechners. In ähnlicher Weise soll das parallele Suchen der Block Referenzen durch Übergabe mehrerer Schlüssel parallel möglich sein. Operationen: Insert_Table(int *keys, void **values, ); // Paralleles Einfügen von Keys und Zeigern auf Blöcke // in die Hashmap Lookup_Table(int * keys, void **values,, int *found, ); // Paralleler Lookup von Einträgen, // mit Ausgabe der Zeiger auf die // Blöcke Delete_Entries_Table(int keys,..) // Paralleles Löschen von Einträgen Möglicherweise werden weitere Parameter gebraucht, z.b. für die Anzahl einzufügender, aufzusuchender oder zu löschender Einträge. Vorerst soll die Hashtable nur über die Lebenszeit des Host Prozesses existieren. Ein Schreiben der Hashtable Inhalte in den Host Memory und ggf. auf nichtflüchtigen Speicher kann später implementiert werden. In ähnlicher Weise kann ein Laden der Hashtable in den GPU Speicher später hinzugefügt werden. Eine Versuchsreihe soll das Einfügen und Auslesen von Daten mit einer GPU basierten Hashtable im Vergleich zu einer gewöhnlichen CPU basierten Hashtabledokumentieren. Dabei sind die Ausführungszeiten mit und ohne parallele Hashtable zu ermitteln und der Geschwindigkeitsgewinn (sofern erreicht) zu ermitteln. Programmiersprachen: C, C++, CUDA, OpenCL (auf AMD Grafikkarten)

3 Aufgabe 3: Verteilte Hashtable unter MPI, Nachrichtenbasierte Variante Es ist ein verteilter Datenspeicher aufzubauen der Einträge (Key, Value) im Speicheradressraum verschiedener Prozesse ablegt. Der Prozess (gemappt auf einen Rechner), sowie der Ort im jeweiligen Speicher sind durch eine Zuordnung ausgehend vom Key vorzunehmen. Vorgeschlagen wird hierfür eine Hash Funktion, die eine Adresse aus dem Key berechnet, die zu einem Teil für die Auswahl des Prozesses, zu einem anderen Teil zur Auswahl des Speicherplatzes dienen soll. Der Zugriff auf den Datenspeicher soll aus allen Prozessen möglich sein, die sich den Speicherbereich teilen (Prozessgruppe fester Größe, Größe kann für Skalierungsexperimente verändert werden). rc = Insert(key, value); found = Get(key, &value); found = Delete(key); Als Infrastruktur zur Verteilung wird MPI vorgeschlagen. Die Hashtable Aktivitäten sollen idealerweise im Hintergrund durch Threads realisiert werden, unabhängig von den Abläufen zur Anwendungsverarbeitung. Möglicherweise erweisen sich weitere Funktionen zum Zugriff auf Hashtable Einträge als nötig, beispielsweise um eine Kopplung der Nachrichtenbasierten Hashtable mit der Memoy Window basierten vorzunehmen. Zugriff auf Daten ausgehend von allen Prozessen, ohne Platzierung kennen zu müssen Skalierung der Speichergröße über die Kapazität eines Rechners hinaus Parallele Zugriffe ohne zentrale Zugriffsinstanz Eine Einschränkung soll sein, dass der Datenspeicher nur über die Lebenszeit der Prozessgruppe verteilt in den Hauptspeichern existieren soll. Ein Rückschreiben und wiederholtes Laden der Inhalte auf/von nichtflüchtigen/m Speicher kann implementiert werden. Eine Versuchsreihe soll das parallele Einfügen und Auslesen von Daten in die verteilte Hashtable dokumentieren. Dabei soll die Verteilung der Hashtable skaliert werden, sowie auch die Anzahl der zugreifenden Prozesse. Programmiersprachen: C, C++, MPI, MPI Threads

4 Aufgabe 4: Verteilte Hashtable unter MPI, Memory Window mit einseitigen Operationen Es ist ein verteilter Datenspeicher aufzubauen der Einträge (Key, Value) im Speicheradressraum verschiedener Prozesse ablegt. Der Prozess (gemappt auf einen Rechner), sowie der Ort im jeweiligen Speicher sind durch eine Zuordnung ausgehend vom Key vorzunehmen. Vorgeschlagen wird hierfür eine Hash Funktion, die eine Adresse aus dem Key berechnet, die zu einem Teil für die Auswahl des Prozesses, zu einem anderen Teil zur Auswahl des Speicherplatzes dienen soll. Der Zugriff auf den Datenspeicher soll aus allen Prozessen möglich sein, die sich den Speicherbereich teilen (Prozessgruppe fester Größe, Größe kann für Skalierungsexperimente verändert werden). rc = Insert(key, value); found = Get(key, &value); found = Delete(key); Als Infrastruktur ist MPI zu benutzen, das auch ein gemeinsam benutzbares Speicherfenster bereitstellt, auf das mit den Operationen Put und Get (anstelle von direkten Speicherzugriffen) zugegriffen werden kann. Für Überlauf Speicher kann ggf. die Nutzung von konventionellem Speicher unter Mitwirkung eines nachrichtenbasierten Systems vorgesehen werden. Zugriff auf Daten ausgehend von allen Prozessen, ohne Platzierung kennen zu müssen Skalierung der Speichergröße über die Kapazität eines Rechners hinaus Parallele Zugriffe ohne zentrale Zugriffsinstanz Anfänglich kann eine Einschränkung gelten, dass der Datenspeicher nur über die Lebenszeit der Prozessgruppe verteilt in den Hauptspeichern existieren soll. Ein Rückschreiben und wiederholtes Laden der Inhalte auf/von nichtflüchtigen/m Speicher kann implementiert werden. Eine Versuchsreihe soll das parallele Einfügen und Auslesen von Daten in die verteilte dokumentieren. Dabei soll die Verteilung der Hashtable, sowie die die Anzahl zugreifender Prozesse skaliert werden. Programmiersprachen: C, C++, MPI, MPI Onesided Operations

5 Aufgabe 5: Spread Code (1 aus N) für verteilte In Memory Datenspeicherung Es ist eine Datei Schnittstelle für das Schreiben und Lesen von Daten bereitzustellen. Die Böcke werden nach einem 1 aus N Code umkodiert (z.b. Codeworte 1000, 0100, 0010, 0001) und bitweise verteilt gespeichert und komprimiert. Die Speicherung soll primär im Memory verteilter Prozesse erfolgen und kann später mit Zugriffen auf das Dateisystem erweitert werden. h =spreadcode_fopen(filename, mode, distrib_pattern); n=spreadcode_fwrite(buffer, len,n,h); n=spreadcode_fread(buffer, len,n,h); spreadcode_fclose(h); Als Infrastruktur zur Verteilung wird MPI vorgeschlagen. Machbarkeitsstudie Leistungsmessung, Lese und Schreibrate bei unterschiedlichem Verteilungsgrad Dokumentation des Speicheroverheads (Vorhersage: sehr gering) Programmiersprachen: C, C++, MPI