Seminar - Paralleles Rechnen auf Grafikkarten

Transkript

1 Seminar - Paralleles Rechnen auf Grafikkarten Seminarvortrag: Übersicht über die Programmierung von Grafikkarten Marcus Schaber Betreuer: J. Kunkel, O. Mordvinova Marcus Schaber 1/33

2 Gliederung Allgemeine Programmierung Parallelität, Einschränkungen, Vorteile Grafikpipeline Programmierbare Einheiten, Hardwarefunktionalität Programmiersprachen Übersicht und Vergleich, Datenstrukturen, Programmieransätze Shader Shader Standards Beispiele Aus Bereich Grafik Marcus Schaber 2/33

3 Programmierung Einschränkungen Anpassung an Hardware Kernels und Streams müssen erstellt werden. Daten als Vertizes, Erstellung geeigneter Fragmente notwendig. Rahmenprogramm Programme können nicht direkt von der GPU ausgeführt werden. Stream und Kernel werden von der CPU erstellt und auf die Grafikkarte gebracht Marcus Schaber 3/33

4 Programmierung Parallelität Sequentielle Sprachen Keine spezielle Syntax für parallele Programmierung. Einzelne shader sind sequentielle Programme. Parallelität wird durch gleichzeitiges ausführen eines Shaders auf unterschiedlichen Daten erreicht Hardwareunterstützung Verwaltung der Threads wird von Hardware unterstützt Marcus Schaber 4/33

5 Programmierung Typische Aufgaben Geeignet: Datenparallele Probleme Gleiche/ähnliche Operationen auf vielen Daten ausführen, wenig Kommunikation zwischen Elementen notwendig Arithmetische Dichte: Anzahl Rechenoperationen / Lese- und Schreibzugiffe Klassisch: Grafik Viele unabhängige Daten: Vertizes, Fragmente/Pixel Operationen: gleicher shader für jedes Vertex/Fragment Z.B. Auflösung 800x600 = Pixel, keine Kommunikation untereinander maximale Arithmetische Dichte Marcus Schaber 5/33

6 Programmierung Typische Aufgaben GPGPU GPGPU: Z.B. Gleichungssystem lösen Bearbeiten einer Zeile kann parallel ausgeführt werden, dann ist Schreibzugriff notwendig Allgemein Gitter-Methoden (aus der Numerik) Repräsentation des Gitters durch Textur Nutzung von Texturen generell praktisch Lesen/Schreiben in Textur wird von Grafikkarte unterstützt. Das Ausgabeziel des Renderers kann auch eine Textur sein Marcus Schaber 6/33

7 Die Grafikpipeline Schwierig passende Grafik zu finden Unified Shader machen die Aufteilung der programmierbaren Stufen überflüssig Marcus Schaber 7/33

8 Die Grafikpipeline Marcus Schaber 8/33

9 Grafikpipeline Programmierbare Einheiten 3 Programmierbare Pipelinestufen: Vertex processing Operiert auf Vertizes im Stream Primitive processing Erstellt für jedes eingehende Primitiv weitere neue Fragment processing Operiert auf Fragmenten aus dem Rasterizer Marcus Schaber 9/33

10 Grafikpipeline Programmierbare Einheiten Für die Programmierung ist diese Sichtweise nützlich Marcus Schaber 10/33

11 Programmiersprachen Übersicht High-Level für Grafik: CG (NIVIDIA), HLSL (DirectX), GLSL (OpenGL), RenderMan (Pixar) High-Level für GPGPU: CUDA (NVIDIA), Brook Marcus Schaber 11/33

12 Programmiersprachen Entwicklung Marcus Schaber 12/33

13 Programmiersprachen Datentypen Datentypen Skalare, Vektoren, Matrizen und arrays. Meist float, int, bool. Sampler für Texturen. Erstellung eigener Typen möglich. ( struct ) float4 vec = {0,0,0,0}; float4x4 matrix; Sampler2D texsampler; struct VS_in { float4 Pos : POSITION; float4 normal : NORMAL; float4 texcoord : TEXCOORD0; } Marcus Schaber 13/33

14 Programmiersprachen Funktionen und Kontrollstrukturen // eine Funktion im GPU Programm float4 calccolor(float3 normal, float3 direction, float4 color) { float4 res = dot(direction, normal) * color; return res; } float3 directions[numlights]; // werden vor Ausführung... float4 colors[numlights]; //...des shaders gesetzt // fragment shader float4 PS { float4 color = {0,0,0,0}; for (int i = 0; i<numlights; i++) { color += calccolor(normal, directions[i], colors[i]); } return color; } Marcus Schaber 14/33

15 Programmiersprachen Einbindung in Hochsprachen Spracherweiterung: Erweiterung einer vorhandenen Sprache, wie C. Spezieller Compiler notwendig. Eigenständige Sprache: Kompilieren unabhängig möglich. Aufruf durch CPU-Programm. Einbindung meist in der Form (vereinfacht): Programm kompilieren Programm laden Programm verwenden Marcus Schaber 15/33

16 Programmiersprachen Brook Erweiterung von C Stream und Kernel als Sprachelemente Sprachunterstützung für Reduktionen mit Schlüsselwort reduce Restriktionen bei Standard C. Bestimmte Schlüsselwörter, Bibliotheksaufrufe eingeschränkt, Pointer eingeschränkt, keine Rekursion Marcus Schaber 16/33

17 Stream: float a<> [3] [2]; float b<300,200>; Programmiersprachen Brook Beispiel // stream aus 3x2 float arrays // legt Anzahl der Elemente im stream fest Kernel: void kernel foo (float a<>,out float b<>,float p) { b = a + p; } // a ist input-stream, b output-stream, p konstanter Parameter. Der Kernel wird für jedes Element im Stream ausgeführt. Kernelaufruf wie bei einer normalen C Funktion Marcus Schaber 17/33

18 Programmiersprachen Brook Beispiel Reduktion: Summenbildung float a<> [3] [2]; void kernel sum (float a<>,reduce float result) { result += a; } Restriktionen beim Kernel Keine Pointer und Adressoperatoren keine Funktionspointer Keine Bibliotheksaufrufe (malloc, printf,...) Keine Zugriffe auf globalen Speicher Marcus Schaber 18/33

19 Programmiersprachen CG C for Graphics Eigenständige Sprache Vertex, Fragment und Geometrie Programme Syntax sehr ähnlich wie C Unabhängig von Graphik-API Compiler erstellt shader für DirectX oder OpenGL Marcus Schaber 19/33

20 Programmiersprachen CG Beispiel Einbindung: CGprogram program = cgcreateprogramfromfile( context, CG_SOURCE, filename, profile, "main", NULL); cgglloadprogram(program); cgglbindprogram(myvertexprogram); cgglenableprofile(cgprofile profile); //Programm wird jetzt beim Rendern benutzt cggldisableprofile(cgprofile profile); Marcus Schaber 20/33

21 Programmiersprachen CUDA Compute Unified Device Architecture Erweiterung von C++ Nutzbar ab NVIDIA Grafikkarten der GeForce 8 Serie und Quadro FX 5600 Für Wissenschaftliche Berechnungen gedacht Marcus Schaber 21/33

22 Programmiersprachen CUDA Grafikkarte kann allgemeiner genutzt werden Speicherzugriff: cudamalloc( (void **)&host_data, DATA_SZ ) cudamemcpy(device_data, host_data, DATA_SZ, cudamemcpyhosttodevice Syntax für parallele Programmierung vorhanden Kernelaufruf: scalarprodgpu<<<128, 256>>>(d_C, d_a, d_b, VECTOR_N, ELEMENT_N); Marcus Schaber 22/33

23 Programmiersprachen CUDA Marcus Schaber 23/33

24 Programmiersprachen GLSL OpenGL Shading Language Eigenständige Sprache Für Vertex und Fragment Programme Teil des OpenGL Standards Marcus Schaber 24/33

25 Programmiersprachen HLSL High Level Shader Language Eigenständige Sprache Teil von DirectX Vertex, Fragment und Geometrie Programme Syntax sehr ähnlich wie C Marcus Schaber 25/33

26 Programmiersprachen HLSL Effect-System Eine gemeinsame Umgebung für Shader, Variablen, Konstanten, Funktionen und Datentypen. Einstellungen des Renderes können in techniques beschrieben werden. technique10 Render { pass P0 { SetVertexShader( CompileShader( vs_4_0, VS() ) ); SetGeometryShader( CompileShader( gs_4_0, GS() ) ); SetPixelShader( CompileShader( ps_4_0, PS() ) ); SetBlendState( NoBlending, float4( 0.0f, 0.0f, 0.0f, 0.0f ), 0xFFFFFFFF ); SetDepthStencilState( EnableDepth, 0 ); } } Marcus Schaber 26/33

27 Shader Standard wird durch DirectX vorgegeben ATI und NVIDIA arbeiten mit Microsoft zusammen. Mit jeder neuen Shader-Version werden neue Anforderungen an die Hardware gestellt. Pixel-Shader Vertex-Shader _A 2_B 2.x Bemerkungen für 3dfx Rampage vorgesehen, kam jedoch nie auf den Markt kleinster gemeinsamer Nenner für alle DirectX-8-Grafikchips 3DLabs-Grafikchips P9 und P10 Nvidia-GeForce-4-Ti-Serie, Matrox Parhelia und SiS Mirage 2 Radeon-8000-Serie und XGI-Volari-V3-Serie kleinster gemeinsamer Nenner für alle DirectX-9-Grafikchips Nvidia-GeForce-FX-Serie ATI Radeon X7xx und X8xx gemeinsamer Nenner für modernere DirectX-9-Grafikchips Unified Shader Model Marcus Schaber 27/33

28 Shader Shader Standards Vertex Instructions Pixel Instructions Vertex Constants Pixel Constants Vertex Temps Pixel Temps Vertex Inputs Pixel Inputs Render Targets Vertex Textures Pixel Textures 2D Texture Size Shader 1.x Shader 2.0 Shader 3.0 Shader x x x x Marcus Schaber 28/33

29 Shader Vertex shader Beispiel // Eingabe Vetex-Stream struct VS_INPUT { float3 Pos : POSITION; float3 Norm : NORMAL; float2 Tex : TEXCOORD0; }; // Vertex-shader PS_INPUT VS( VS_INPUT input ) { PS_INPUT output = (PS_INPUT)0; output.pos = mul( float4(input.pos,1), World ); // Objekt-Koordinaten zu Welt-Koodrinaten // Vertizes verschieben output.pos.x += sin( output.pos.y*0.1f + Time ) * Waviness; output.pos = mul( output.pos, View ); output.pos = mul( output.pos, Projection ); output.norm = mul( input.norm, World ); output.tex = input.tex; // Kameraperspektive // Projektion auf Ebene // Vertex-Normale zu Weltkoordinaten // Texturkoordinaten durchreichen } return output; Marcus Schaber 29/33

30 Shader Pixel shader Beispiel struct PS_INPUT { float4 Pos : SV_POSITION; float3 Norm : TEXCOORD0; float2 Tex : TEXCOORD1; float3 ViewR : TEXCOORD2; }; float4 PS( PS_INPUT input) : SV_Target { float flighting = saturate( dot( input.norm, vlightdir ) ); // environment map Texturwert lesen float4 creflect = g_txenvmap.sample( samlinearclamp, input.viewr ); // Texturwert lesen float4 cdiffuse = g_txdiffuse.sample( samlinear, input.tex ) * flighting; // beide Texturwerte addieren float4 ctotal = cdiffuse + creflect; } return ctotal; Marcus Schaber 30/33

31 Shader Geometrie shader Beispiel float Explode; // wird vom Hauptprogramm gegeben // Eingabestream in den Geometrie-shader struct GSPS_INPUT { float4 Pos : SV_POSITION; float3 Norm : TEXCOORD0; float2 Tex : TEXCOORD1; }; // Geometrie-shader void GS( triangle GSPS_INPUT input[3], inout TriangleStream<GSPS_INPUT> TriStream ) { GSPS_INPUT output; for( int i=0; i<3; i++ ) { // Werte für neues Vertex festlegen output.pos = input[i].pos + float4(explode, 0.0, 0.0, 0.0) * 10; output.pos = mul( output.pos, View ); output.pos = mul( output.pos, Projection ); output.norm = input[i].norm; output.tex = input[i].tex; TriStream.Append( output ); // neues Vertex in den Stream einfügen } } Marcus Schaber 31/33

32 Abschluss Fragen? Marcus Schaber 32/33

33 Quellen Artikel von Julian wikipedia GPU Gems 2 Microsoft DirectX SDK Brook Spec v0.2; Ian Buck; October 31, 2003 NVIDIA CUDA SDK Samples Marcus Schaber 33/33