Einführung in die Programmiersprache C

Transkript

1 Einführung in die Programmiersprache C 6 Cache-freundliche Programmierung (1) Alexander Sczyrba Robert Homann Georg Sauthoff Universität Bielefeld, Technische Fakultät

2 Quadratische Matrizen Musterlösung für letzte Übung online Zugriffsmakros und -funktionen jeweils mit direkter Indexberechnung bzw. Iliffe-Vektoren (Implementierung über CPPFLAGS im Makefile wählbar)

3 Prinzip (asymmetrische Matrix, dim = 4): Zugriff per Iliffe-Vektor double *entries; /* Ein Pointer auf Speicher- */ /* bereich mit double-werten */ double **iv; /* Ein Pointer auf Speicherbereich */ /* mit Pointern auf double */ entries = malloc(sizeof(double) * dim * dim); iv = malloc(sizeof(double *) * dim); iv entries

4 Prinzip (asymmetrische Matrix, dim = 4): Zugriff per Iliffe-Vektor double *entries; /* Ein Pointer auf Speicher- */ /* bereich mit double-werten */ double **iv; /* Ein Pointer auf Speicherbereich */ /* mit Pointern auf double */ entries = malloc(sizeof(double) * dim * dim); iv = malloc(sizeof(double *) * dim); iv[0] = entries; iv[1] = entries + dim; iv[2] = entries + dim + dim; iv[3] = entries + dim + dim + dim; iv entries

5 Zugriff per Iliffe-Vektor double *entries; double **iv; iv entries Zugriff: iv[y][x] = 1.23

6 Zugriff per Iliffe-Vektor double *entries; double **iv; iv entries y = 1 Zugriff: iv[y][x] = 1.23 Denn: iv[y] == *(iv + y) /* Pointer auf double */

7 Zugriff per Iliffe-Vektor double *entries; double **iv; iv entries y = 1, x = 2 Zugriff: iv[y][x] = 1.23 Denn: iv[y] == *(iv + y) /* Pointer auf double */ iv[y][x] == (*(iv + y))[x] == *( (*(iv + y)) + x)

8 Aufbau der Speicherhierarchie Speicher eines Computers nach Zugriffsgeschwindigkeit geordnet: 1 Register 2 CPU-Cache 3 RAM 4 Festplatte etc.

9 Zahlen Für einen aktuellen Rechner nicht ganz unrealistische Zahlen für einen durchschnittlichen Speicherzugriff: Beispiel Art CPU-Zyklen Register 1 L1-Cache 3 L2-Cache 14 RAM 240

10 Zahlen Für einen aktuellen Rechner nicht ganz unrealistische Zahlen für einen durchschnittlichen Speicherzugriff: Beispiel Art CPU-Zyklen Register 1 L1-Cache 3 L2-Cache 14 RAM 240 wenn z.b. Ersetzung von 1000 Hauptspeicherzugriffen durch CPU-Cache-Zugriffe erreicht wird 94% Laufzeitverbesserung in dem Bereich

11 Motivation Warum Beschäftigung mit Cache-optimierter Implementierung von Algorithmen?

12 Motivation Warum Beschäftigung mit Cache-optimierter Implementierung von Algorithmen? Performance!

13 Motivation Warum Beschäftigung mit Cache-optimierter Implementierung von Algorithmen? Performance! Literatur Drepper, What every programmer should know about memory (

14 Eigenschaften CPU-Cache ist transparent CPU kann benachbarte Speicherbereiche asynchron in die Cache laden CPU kann verteilte Zugriffe beschleunigen CPU kann Instuktionen und Dekodierung in der Cache ablegen

15 Eigenschaften CPU-Cache ist transparent CPU kann benachbarte Speicherbereiche asynchron in die Cache laden CPU kann verteilte Zugriffe beschleunigen CPU kann Instuktionen und Dekodierung in der Cache ablegen Problem: Cache-Größe Arbeitspeicher-Größe

16 Aufbau Hierarchische Unterteilung des Cache-Speichers Unterteilung in Cache für Daten und Code Unterteilung der Cache in Blöcke (Cache-Lines) (64 Byte üblich) Speichertransfers vom Hauptspeicher à 64 Byte üblicherweise effizient

17 gegen Instruktions-Cache Code-Bloat JIT-Compiler, virtuelle Maschinen gegen die Sprungvorhersage arbeiten gegen Daten-Cache aufgeblasene Objekte Garbage-Collection gegen Cache-Lines arbeiten Anti-Cache-Strategien

18 Beispiel Matrix-Multiplikation als laufendes Beispiel. Übung Implementiere die Matrix-Multiplikation für double-matrizen. Verwende die Matrix-Zugriffsmakros aus der letzten Übung. Messe die Zeit für die Multiplikation zweier Matrizen. 1 Wie sieht das Zugriffsmuster auf die beteiligten Speicherbereiche aus? 2 Werden die gefüllten Cache-Lines ausgenutzt? 3 Wie kann man die Implementierung verbesseren?