Fakultät Informatik Institut für Technische Informatik NETWORK ON CHIP. Architekturen, Herausforderungen, Lösungen. Thomas Frank

Transkript

1 Fakultät Informatik Institut für Technische Informatik NETWORK ON CHIP Architekturen, Herausforderungen, Lösungen Thomas Frank Dresden,

2 Inhalt 1. Einleitung 2. Architektur 3. NoC Bespiele 4. Zusammenfassung TU Dresden, Network on Chip Folie 2 von 30

3 1. Einleitung TU Dresden, Network on Chip Folie 3 von 30

4 Bedeutung Network On Chip: Unterscheidung zw. globaler und lokaler Kommunikation in System On Chip (SoC) globale Kommunikation auf SoC Vereinheitlichung aktueller Trends statt Alternative Untermenge von SoC TU Dresden, Network on Chip Folie 4 von 30

5 Herausforderungen Paradigmenwechsel früher: heute: - Rechnen teuer/langsam - Kommunikation günstig(verdrahtung) - Rechnen wird günstiger (Moore s Law) - Kommunikation stößt an physikalische Grenzen(Latenz, Energieverbrauch) Trend zum kommunikationsorientierten Design TU Dresden, Network on Chip Folie 5 von 30

6 Relative Leitungsverzögerungszeit TU Dresden, Network on Chip Folie 6 von 30 [1]

7 Probleme Leitungen Synchronisation Produktivität - Drahtwiderstand(pro Fläche) steigt mit sinkendem Durchmesser - Kapazität ändert sich wenig - Länge globaler Verbindungen sinkt nur langsam - Problem, je kleiner Struktur und je größer Chipfläche - Realisierung GALS-Systeme(global asynchron lokal synchron) - Design-Zyklus möglichst kurz - Problemaufteilung: separat entwickelte Kerne mit standardisierter Kommunikationsschnittstelle leicht verbinden TU Dresden, Network on Chip Folie 7 von 30

8 Beispiele für Kommunikationsstrukturen [1] TU Dresden, Network on Chip Folie 8 von 30

9 Kommunikationsstrukturen Punkt-zu-Punkt: Bus: - schnellste, einfachste Lösung - Anzahl Verbindungen steigt exponentiell mit Anzahl der Kerne - einfache Modellierung, gut erforscht - bei vielen Kernen: wird schnell zum Flaschenhals - Crossbar ist eher eine Zwischenlösung Für maximale Flexibilität ist ein globale, gegliederte und skalierbare Kommunikationsstruktur nötig. Netzwerk TU Dresden, Network on Chip Folie 9 von 30

10 2. Architektur TU Dresden, Network on Chip Folie 10 von 30

11 NoC Beispiel TU Dresden, Network on Chip Folie 11 von 30 [1]

12 NoC Komponenten Netzwerk Adapter: Router Verbindungen: - implementieren Schnittstelle zu den Kernen - entkoppeln Berechnung von Kommunikation - implementieren die Verbindungsstrategie - leiten Daten entsprechend weiter - Verbinden die Knoten - können mehrere physikalische oder logische Verbindungen enthalten TU Dresden, Network on Chip Folie 12 von 30

13 Systemkomposition Eigenschaften Granularität Clustering Rekonfigurierbarkeit [1] TU Dresden, Network on Chip Folie 13 von 30

14 Netzwerkabstraktion [1] Flits(flow control units): atomare Einheiten eines Datenpakets/-flusses Phits(physical units): kleinstes übertragbares Datenpaket haben meistens die gleiche Bedeutung TU Dresden, Network on Chip Folie 14 von 30

15 Netzwerk Adapter Sockets: OCP / VCI NA Dienste: Entkoppelungsgrad: hoch / niedrig [1] TU Dresden, Network on Chip Folie 15 von 30

16 Netzwerk - Reguläre Topologie [1] Netz: Baum: gute Auslastung gute Ausnutzung der Verkehrslokalität TU Dresden, Network on Chip Folie 16 von 30

17 Netzwerk - Irreguläre Topologie Mischungen verschieden Topologien Fläche und Energieverbrauch skalieren nicht linear basieren generell auf dem Konzept Clustering [1] TU Dresden, Network on Chip Folie 17 von 30

18 Netzwerk - Protokoll Übertragungseigenschaften paketorientiert / Datenstrom verbidungsorientiert / verbindungslos deterministisch / adaptiv Wegfindung: minimal / nicht minimal Datenverlust / Datenverzögerung Entscheidungsfindung: zentral / dezentral TU Dresden, Network on Chip Folie 18 von 30

19 Netzwerk - Protokoll [1] TU Dresden, Network on Chip Folie 19 von 30

20 Routingstrategien Strategie Store-and-Forward Wormhole Virtual-Cut-Through Ressourcenbelegung bei Verstopfung Verbindung mit beiden dazugehörigen Knoten alle Knoten und Verbindungen, auf die das Paket verteilt ist lokalen Knoten TU Dresden, Network on Chip Folie 20 von 30

21 Netzwerk - Flusskontrolle Virtual Channels physikalische Verbindung in logische Verbindungen aufteilen + Deadlocks verhindern + Leitungsausnutzung + Performance + ermöglicht Quality of Service zusätzlicher Flächen- und Energieverbrauch, sowieso erhöhte Latenz Puffer speichern Input am Router nimmt Hauptteil der Fläche des Routers ein + können ruckartigen Datenverkehr abfangen verzögern Verstopfung Anzahl minimierbar mit statistischen Wissen über Datenverkehr (ohne Performanceverlust) pufferlose Architekturen auch möglich (meist bei circuit switched) TU Dresden, Network on Chip Folie 21 von 30

22 Netzwerk - Flusskontrolle [1] TU Dresden, Network on Chip Folie 22 von 30

23 Netzwerk - Quality of Service bestimmter Dienst für Kern bereitgestellt, z.b.: niedriger Latenz hoher Durchsatz geringer Energieverbrauch hohe Signalqualität (wenig Jitter) Dienst wird ausgehandelt 2 Klassen: best-effort (BE): keine Garantien garantierter Service (GS) GS/BE-Hybride auch Teil von Forschungen TU Dresden, Network on Chip Folie 23 von 30

24 Netzwerk - Verbindungsebene Synchronisation: Implementation: Zuverlässigkeit: Kodierung: - GALS (global asynchron lokal synchron) - Verbindungssegmentation mit Repeater-Puffer - Pipelining (mehr Durchsatz) - übersprechen von Leitungen Fehlererkennung/-korrektur - Fabrikationsfehler Selbsttestmechanismen - Reduzierung Energieverbrauch (Negationsbit) - Fehleranfälligkeit (Paritätsbit) TU Dresden, Network on Chip Folie 24 von 30

25 3. NoC Bespiele TU Dresden, Network on Chip Folie 25 von 30

26 xpipes xpipes Compiler: Generiert NoC Elemente von parametrisierbaren Blöcken (SystemC) Wormhole-Routing mit eigenem Protokoll street sign Pipeling zur Leitungssegmentierung CRC-Dekodierer arbeiten parallel mit den Routern [3]

27 Memory Centric NoC 10 RISC Prozessoren (200Mhz) Netzwerk getaktet auf 400Mhz 8 dual port Speicher 4 Channel Controller für Crossbar-Switches hierarchische Sternarchitektur mesochrones Netzwerk (Phase nicht synchron) Einsatz: optische Mustererkennung Zitat der Entwickler: Fancy Network Concepts are not necessary TU Dresden, Network on Chip Folie 27 von 30 [4]

28 Weitere NoC - Architekturen Æthereal NoC QNoC SPIN NoC TU Dresden, Network on Chip Folie 28 von 30

29 4. Zusammenfassung Versuch der Separation von Berechnung und Kommunikation viel Forschung bzgl. Hardwarearchitekturprobleme vorhanden effiziente integrierte Lösung fr Modellierung, Design und Entwicklung fehlt viel Forschung noch offen im Bereich Fläche-,Leistungs und -Energieeffizienz TU Dresden, Network on Chip Folie 29 von 30

30 Quellen [1] T. Bjerregaard, S. Mahadevan, A Survey of Resarch and Practices of Network-on-Chip, ACM Comput. Surv., vol. 38, Mar [2] Ankur Agarwal, Cyril Iskander, Ravi Shankar, Survey of Network on Chip (NoC) Architectures & Contributions, Journ. of Enig., Comp. and Archit., Volume 3, Issue 1, 2009 [3] Antonio Pullini et al., NoC Design and Implementation in 65nm Technology, Network-On-Chip Symposium 2007 [4] Donghyun Kim et al., Solutions for Real Chip Implementation Issues of NoC and Their Application to Memory-Centric Networks-on-Chip, Network-On-Chip Symposium 2007 TU Dresden, Network on Chip Folie 30 von 30