Profiling unter Linux

Transkript

1 Profiling unter Linux Von langsam nach schnell Hynek Schlawack 3. Februar 2010

2 Ich 2004 Praktika bei u.a. Netopsystem AG (jetzt NOS Micro Ltd.) seit 2004 mit Unterbrechungen bei Variomedia AG 2006 Diplomarbeit über Analyse & Optimierung...Anhänger von effektiver Software C-Fanboy

3 Fragestellung 1. Warum ist meine Software langsam? 2....und was kann ich dagegen tun?

4 Was macht Software langsam? Nachlässigkeit Übereifrigkeit Schlechte Kommunikation Schachteln(Schachteln(Schachteln()))

5 Ultimatives Beispiel für Nachlässigkeit for (int i = 0; i < 42; i++) v[i] += atoi(str);

6 Beispiele für Übereifrigkeit Mega-APIs XML für alles Feature creep Hammer-Nagel-Syndrom Voreilige Optimierung

7 Speicher ist billig, mehr Code ist okay!!!1! Nein CPU-Caches Speicherbus

8 Wer sagt das!? Alan Cox (Linux) via Andi Kleen (dito) am Linux Kongress 2006 Speicherzugriff von heute == Festplattenzugriff von gestern.

9 Zahlen! mul statt shift 5 Ticks Branch falsch vorrausgesagt 10 Ticks Cache Miss 250 Ticks Quelle:

10 Aber, aber...optimierung ist doch was Gutes? Donald Knuth (TAoCP/TeX!) / C. A. R. Hoare (Quicksort!) Premature optimization is the root of all evil.

11 Schön! Und wo kommt Profiling ins Spiel? Daniel J. Bernstein (qmail, djbdns) Profile. Don t speculate.

12 Spekulation möglich über... Notwendigkeit Ist dieser Code schuld? Wirksamkeit Ist der Code nun wirklich schneller?

13 Spekulative Optimierung int foo(int x) { return x * 2; } int bar(int x) { return x << 1; } $ gcc -O3 t.c -o t.o -c

14 Spekulative Optimierung $ objdump -d t.o <foo>: 0: 55 push %ebp 1: 89 e5 mov %esp,%ebp 3: 8b mov 0x8(%ebp),%eax 6: 5d pop %ebp 7: 01 c0 add %eax,%eax 9: c3 ret [...] <bar>: 10: 55 push %ebp 11: 89 e5 mov %esp,%ebp 13: 8b mov 0x8(%ebp),%eax 16: 5d pop %ebp 17: 01 c0 add %eax,%eax 19: c3 ret Compiler besser in Low-Level-Annahmen!

15 Spekulative Optimierung void copy1(char *dest, char *source, unsigned int length) { for (int i = 0; i < length; i++) dest[i] = source[i] ; } void copy2(char *dest, char *source, unsigned int length) { while (length--) *dest++ = *source++; } copy1() ist schneller! Besser: Absicht vermitteln!

16 Profiling ermöglicht......die Untersuchung wo ein Programm seine Zeit verbringt...das Finden von Flaschenhälsen Notwendigkeit!...das Überprüfen der Auswirkungen von Änderungen Wirksamkeit!

17 Super!

18 Ansätze Manuell messen time()/clock()/gettimeofday() rdtsc Sampling gprof OProfile Instrumentation Callgrind (Java/Skriptsprachen)

19 Manuelles Messen am präzisesten am umständlichsten Bottlenecks müssen von Hand gefunden werden

20 clock()/time()/gettimeofday() ISO C Genauigkeit abhängig von libc reicht für Ad-Hoc-Messungen

21 RDTSC Read Time Stamp Counter Ticks seit letztem Reset Taktrate für Zeit notwendig Unportabel Portable Implementierung:

22 unsigned long long rdtsc(void) { unsigned int a, d; asm volatile ("rdtsc" : "=d" (d), "=a" (a)); } return ((unsigned long long) d << 32) \ ((unsigned long long) a);

23 Beispiel für RDTSC: Welche Funktion ist schneller? void measure(void (*func)(char *, char *, unsigned int)) { char *src, *dst; long long a, b; src = malloc(512); dst = malloc(512); func(dst, src, 512); a = rdtsc(); func(dst, src, 512); b = rdtsc(); printf("%d\n", b-a); free(src); free(dst); }

24 Beispiel für RDTSC: Welche Funktion ist schneller? int main(void) { measure(copy1); measure(copy2); } $ gcc t.c -O3 -std=c99 $./a.out pwn3d!

25 Manuelles Messen Ideal zum Vergleich von zwei Implementierungen Tickszählen aber nur bei hochfrequentieren Lowlevel-Funktionen sinnvoll! Big Picture nicht vergessen!

26 gprof GNU-Projekt (binutils) Sampling produziert Callgraphen

27 gprof Ungenau: nur ca. 100 Samples/sek! benötigt Compileroptionen Bonus: Thread FUBAR

28 Ulrich Drepper (glibc) anno 2002 gprof is uselss in today world (Typo und Oettinger-Englisch beibehalten)

29 Kernelerweiterung Sampling nutzt CPU-Features

30 kann Kernelcode und Interrupts profilen einstellbare Granularität benötigt root-zugriff

31 Wird über Daemonprozess opcontrol bedient Überwacht Counter, untersucht in definierten Abständen alle Prozesse Anschließend Analyse mittels opreport möglich

32 - Beispielaufruf $ opcontrol --reset $ opcontrol --setup --callgraph=42 \ --event=cpu_clk_unhalted: :0:1:1 $ opcontrol --start $./programm $ opcontrol --shutdown

33 - Beispielausgabe $ opreport --demangle=smart --symbols./pingpong_neon CPU: Athlon, speed MHz (estimated) Counted CPU_CLK_UNHALTED events (Cycles outside of halt state) \ with a unit mask of 0x00 (No unit mask) count samples % image name symbol name pingpong_neon progress_engine pingpong_neon NEON_Put pingpong_neon internal_send [...]

34 Callgraphen auch möglich Ideal zum Gesamtüberblick über größere Systeme Hat kaum Einfluss aufs vermessende System

35 Callgrind Virtuelle Maschine durch Valgrind Einheit: VM-Befehle (Ucode) Kann Cachenutzung messen Liefert präzise Callgraphen und Callcounter

36 Callgrind ==20660== Events : Ir Dr Dw I1mr D1mr D1mw I2mr D2mr D2mw ==20660== Collected : ==20660== ==20660== I refs: 741,317 ==20660== I1 misses: 2,713 ==20660== L2i misses: 1,913 ==20660== I1 miss rate: 0.36% ==20660== L2i miss rate: 0.25% ==20660== ==20660== D refs: 407,118 (249,914 rd + 157,204 wr) ==20660== D1 misses: 4,297 ( 3,706 rd wr) ==20660== L2d misses: 2,343 ( 1,907 rd wr) ==20660== D1 miss rate: 1.0% ( 1.4% + 0.3% ) ==20660== L2d miss rate: 0.5% ( 0.7% + 0.2% ) ==20660== ==20660== L2 refs: 7,010 ( 6,419 rd wr) ==20660== L2 misses: 4,256 ( 3,820 rd wr) ==20660== L2 miss rate: 0.3% ( 0.3% + 0.2% )

37 KCachegrind

38 KCachegrind

39 Fazit Allheilmittel gibt es nicht! gprof ist nutzlos Bester zeitlicher Überblick: OProfile Beste Callgraphen/-counter: Callgrind Genauste Messung: CPU-Tick-Counter Kombinieren!

40 Ich habe meinen Bottleneck, was nun? Algorithmus/Datenstrukturen Compiler-Features ausreizen Inlining/Loop-Unrolling Assembler (Vektorisierung)

41 Algorithmen/Datenstrukturen Bubblesort Mergesort Sortiert einfügen Arrays Listen Bäume Worst Case Common Case hinterfragen

42 Compilerfeatures ausreizen Optimierungsoptionen: -O1/2/3/s, -march=arch, -ffast-math Branchprediction mit builtin_expect(expr, RESULT) Automatisch BP: -fprofile-generate/-fprofile-use

43 Inlining/Loop-Unrolling Sprünge minimieren Nur wenn man weiß, was man tut! Schmankerl: Duff s Device

44 Duff s Device void copy3(char *to, char *from, unsigned long count) { long n = (count + 7) / 8; switch (count % 8) { case 0: do { *to++ = *from++; case 7: *to++ = *from++; case 6: *to++ = *from++; case 5: *to++ = *from++; case 4: *to++ = *from++; case 3: *to++ = *from++; } case 2: case 1: } *to++ = *from++; *to++ = *from++; } while(--n > 0);

45 Zusammenfassung Profile. Don t speculate. Richtige Werkzeug fürs richtige Profiling Versucht nicht zu clever zu sein