EMES: Eigenschaften mobiler und eingebetteter Systeme. Weiche Echtzeit. Dr. Felix Salfner, Dr. Siegmar Sommer Wintersemester 2010/2011

Transkript

1 EMES: Eigenschaften mobiler und eingebetteter Systeme Weiche Echtzeit Dr. Felix Salfner, Dr. Siegmar Sommer Wintersemester 2010/2011

2 Wiederholung - Resultat/Wert-Funktion Wert Wert Zeit Zeit Deadline Deadline "harte" Echtzeit Wert "weiche" Echtzeit Wert Zeit Zeit Deadline Deadline Echtzeitsysteme sind Computersysteme, bei denen der Nutzen eines Resultates nicht nur vom Resultat abhängt, sondern auch vom Zeitpunkt der Auslieferung des Resultats. 1 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

3 Soft Realtime Doing hard Realtime is hard... 2 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

4 Soft Realtime Doing hard Realtime is hard but doing soft Realtime is much harder! 3 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

5 Soft-Realtime-Anwendungen Multimedia-Applikationen fehlende Frames reduzieren Qualität, sind aber keine Katastrophe Geschäftsprozesse (Banken, Börsen, Online-Handel) zu spät kommende Daten können kostspielige Folgen haben, aber keine Katastrope In Überlastsituationen sind längere Antwortzeiten akzeptabel Telekommunikation Anrufton kann in Einzelfällen verspätet kommen Abbruch einer Verbindung ist in gewissen Grenzen akzeptabel 4 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

6 Performancemaße Durchschnittswerte sind im Gegensatz zu harten Echtzeitsystemen als Maß akzeptabel Verteilungsfunktionen definieren Qualität des Ergebnisses Statistische Betrachtungen statt Garantien Ziel: Möglichst hoher Anteil eingehaltener Deadlines Problem: Schon bei recht kleinen Problemen NP-vollständig 5 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

7 Jitter Ungenaues Einhalten von Deadlines (oder Verpassen) führt zu erhöhtem Jitter Multimediaanwendungen: Jitter ist störender als geringfügig inkorrekte Geschwindigkeit Jitter senkt die Qualität Geschäftsprozesse: Jitter stört im allgemeinen Fall nicht Jitter kann stören, wenn dadurch die Anwendungslogik verletzt wird Telekommunikation Bei Verarbeitung von audiovisuellen Daten: wie Multimedia Beim Schalten von Verbindungen: Jitter stört weniger als abgebrochene Prozesse 6 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

8 Quality of Service (QoS) QoS ist die Fähigkeit eines Systems, Anforderungen an den gelieferten Service zu erfüllen Parameter: Jitter eingehaltene Deadlines Vorhersagbarkeit Bandbreite Durchsatz End-to-End Parameter Klar: Ein hartes Echtzeitsystem liefert (in den meisten Fällen) den besten QoS Aber: Harte Echtzeitsysteme sind teuer, denn... 7 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

9 Kosten harter Echtzeitsysteme Hoher Ressorcenbedarf durch Auslegung für Worst-Case-Szenarien WCET-Analysen mit (notwendigen) pessimistischen Einschätzungen Beschränkung erlaubter Programmiermethoden Hohe Kosten durch Ressourcenüberdimensionierung (s.o.) Validierungsverfahren, Zertifizierungen, Nachweise unflexible Architekturen (im Fall nachträglicher Erweiterungen) spezielle Hardware spezielle Programmierumgebungen (hoher Entwicklungsaufwand) Idee: Bei weicher Echtzeit wird vieles davon nicht benötigt! 8 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

10 Soft Realtime auf COTS-Systemen I COTS: Commercial off-the-shelf Vorteile: Durch Massenmarkt billige Hardware Durch Massenmarkt statistische Daten vorhanden (Zuverlässigkeit) Betriebssysteme ebenfalls off-the-shelf Keine oder kaum Abhängigkeiten von speziellen Herstellern aber: Zuverlässigkeit ist nicht vergleichbar mit harten Echtzeitsystemen Betriebssysteme sind auf best effort optimiert, nicht auf zeitliche Vorhersagbarkeit Kein vollständiges Wissen über Abläufe im System 9 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

11 Soft Realtime auf COTS-Systemen II Harte Echtzeit nicht oder nur mit grossem Aufwand erreichbar (aber auch nicht nötig für Soft Realtime Systeme) Kompromisse sind erforderlich dedizierte Systeme mit eingeschränkter Funktion erhöhen Wissen über Systemabläufe Einfachere Hardware und/oder Systemsoftware erhöhen Wissen über Systemabläufe zwischen Performance und Quality of Service zwischen Vorhersagbarkeit und Funktionalität Klare Trennung ist erforderlich zwischen Echtzeit -Prozessen und übrigen Abläufen auf dem System 10 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

12 Idee: Erweiterung des OS-Scheduler Nieh and Lam 1997: SMART Scheduler for Multimedia And Real-Time Erweiterung / Ersatz des SunOS 2.5 Schedulers Basiert auf einer importance (abgeleitet von priorities und weighted fair queueing) und einer urgency (angelehnt an EDF) Verwendung eines RT-Betriebssystem, verpasste Deadlines werden in Kauf genommen Zusammenfassender Artikel: Nieh, J. & Lam, M. S., A SMART scheduler for multimedia applications. ACM Transactions on Computer Systems, 2(21), pp EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

13 Idee: Benutzung von OS-Prioritäten (Fast) jedes Betriebssystem arbeitet mit verschiedenen Prioritätsebenen und Prioritäts-Scheduling Diese Prioritäten können benutzt werden, wenn man Mechanismen wie Aging und Priority-Boosts abschaltet (fixed priority scheduling) Scheduling obliegt OS-Scheduler Probleme: Betriebssysteminterne Prozesse hoher Priorität können stören Abbildung auf Prioritäten ist nicht einfach, da Bereich begrenzt ist (muß oberhalb aller anderen Prioritäten liegen) Implementation des OS-Schedulers nicht immer bekannt Systeminterne Abläufe sind nicht immer bekannt 12 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

14 Idee v2: Benutzung eines Scheduling Servers Benutzung der Prioritäten des Betriebssystems als Grundlage Nutzung der beiden höchsten Prioritätsebenen für die Implementation eines Echtzeit-Schedulers für die Verwaltung der zeitkritischen Tasks Scheduling der Echtzeit-Tasks obliegt Scheduling Server Funktion: Scheduling Server läuft periodisch auf höchster Priorität Manipuliert Prioritäten der anderen Prozesse so, daß zweite Prioritätsstufe für Echtzeit-Tasks benutzt wird Idee wurde im Rahmen von weichen Echtzeitsystemen auf Basis von COTS-Systemen mehrfach parallel entwickelt, u.a. durch Dr. Andreas Polze am Institut für Informatik der HU 13 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

15 HU Scheduling Server Funktion priority 31 Scheduling Server kernel tasks interactive tasks realtime tasks time 14 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

16 Scheduling Server Vorteile Keine Modifikationen am Betriebssystem erforderlich Keine Kenntnis des Source-Codes erforderlich Scheduling Server kann intern beliebige Prioritäten benutzen Scheduling Server kann intern beliebige Schedulingverfahren implementieren System bleibt (mit reduzierter Leistung) für Nicht-Echtzeit-Aufgaben benutzbar Leistung für Echtzeit-Tasks weitgehend konstant 15 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

17 Scheduling Server Nachteile Abläufe im Betriebssystemkern sind nicht vollständig bekannt, damit unvorhersehbare Einflüsse möglich Benutzung von Systemaufrufen kann unvorhersehbare Auswirkungen auf das zeitliche Verhalten haben Scheduling Server kann Systemprozesse behindern (z.b. grafische Oberflächen) Für harte Echtzeit nicht geeignet 16 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

18 Scheduling Server Implementationen Auf folgenden Plattformen wurde die Idee des Scheduling Servers implementiert und untersucht (u.a.): Mach (NeXTStep 3.3) Solaris rtlinux 0.x LynxOS 3.0 Windows NT Voraussetzungen: Fixed Priority Scheduling, Möglichkeit, Scheduling- Politiken umzuschalten, Möglichkeit, Prioritäten umzuschalten 17 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

19 Scheduling Server NeXTStep Scheduling Server - main loop thread_t mutex_t condition_t th_id; th_list_lock; new_th_reg; while(1) { mutex_lock( th_list_lock ); while ((th_id = next_edf( thread_list )) == THREAD_NULL) condition_wait( new_th_reg, th_list_lock ); } /* set scheduling policy and quantum, resume thread */ thread_policy(th_id, POLICY_FIXEDPRI, time_rt); thread_priority(th_id, real_time_prio, FALSE); thread_resume( th_id ); /* handoff scheduling, real-time thread runs until its quantum expires */ thread_switch(th_id, SWITCH_OPTION_DEPRESS, 0); thread_suspend( th_id ); mutex_unlock( th_list_lock ); /* give rest of the system a chance, invoke Mach scheduler */ thread_switch(thread_null, SWITCH_OPTION_WAIT, time_os); J.R./ A.P. 11/97 18 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

20 "-.! /'('0*&!*012+)'1)30'! Scheduling Server Windows / Solaris =/$%# '/.2$&/"'# %)4+# )# 4+,># '&-&.),# ),(%&$+($2,+?# /".># $%+# /*+,)$&"3# '>'$+-# 1+*+"1+1# *),$'#1&00+,<#8%+#0/../6&"3#*&($2,+#'%/6'#$%+#3+"+,).#(/"(+*$@# # # # # # # # # # (/"$,/..+,# )**.&()$&/"# (.&+"$#$%,+)1# (/"$,/.# -+'')3+'# *&(A'# 1&'*)$(%+,# )**.&()$&/"# '(%+12.&"3# '+,4+,##$%,+)1 '%),+1#.&'$# /0#(.&+"$# $)'A'# 4+530'!"-.6!7*8+1!*012+)'1)30'8!,9!)2'!:;<<!*(=!<><<!+$%&'$'()*)+,(8! 8%+#(/"$,/..+,#)**.&()$&/"#&'#$%+#0,/"$B+"1#0/,#$%+#2'+,#$/#(/"0&32,+#$%+#'(%+12.&"3#'+,4+,# '+$$&"3'<#C$#$%+#-/-+"$#0/2,#$>*+'#/0#(/"$,/.#-+'')3+'#),+#1+0&"+1#@# 19 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

21 Scheduling Server Windows / Solaris %%%%%%"/:7UA-L:;@4.#VW.<71,'.B&7.6DT.;7>%&'U&'&+D8C!!!!!""!#$%&!'()!*+#!%&+,-% %%%%%%D;7.-K-:7:</4L.<7:A;1M4A<N8C% %%%%/<7&;0.=%J%O.7'.=718C% %%%%:P%1/<7&;0.=%JJ%QR8%9% %%%%%%!E65+:6:;@2A@17:6.-2A@>%4A@&;0.=8C%%%%%%%%%%%%%%%%% %%%%%%4A@&;0.=%J%SC% %%%%%%2./T.K-:7:</4L.<7:A;1M4A<N8C%%%%%%%%%%%%%%%%%%%%% %%%%%%/<7&;0.=%J%O.7'.=718C% %%%%%%!"#$%&'%&#()*+,,-#.%"+/0&,#1+2#34/"567.$%'2",,8)039:;<=3>=<$?3@<)0A!!BCD %%%%%%!"#;.%"+/$%&'%&#(-#.%"+/0&,#1+2#34/"567.;.%"+/8D)039:;<=3>=<$?3@BCD %%%%%%""!-.-/+*0!&1)+$0!'()!&1+!*+2&!-&+/! %%%%%%:P%1LE*5.;0+,-./017,-./02:*7X/<7&;0.=YZ,+,-./08%JJ%QR8%<A;7:;E.C% %%%%[%!!!!""!-$3+!$4&.$5!3$5.+-!$*0!')++!$44+--!&(!&1)+$06%-&!$))$7! %%%%/<7?/;04.%J%7,-./02:*7X/<7&;0.=YZ,+,-./0C% %%%%/<7?:@,),/*.%J%7,-./02:*7X/<7&;0.=YZ,:@,),/*.C% %%%%/<72AB),/*.%J%7,-./02:*7X/<7&;0.=YZ4AB),/*.C% %%%%2./T.K-:7:</4L.<7:A;1M4A<N8C% %%%%:P%1?",EF";.%"+/-+2#=+4/*"B%JJ%QR8%9%% %%%%%%D;7.-K-:7:</4L.<7:A;1M4A<N8C%%%%%%%%%%""!+))()8!&1)+$0!0(+-*9&!+2%-&% %%%%%%7,-./02:*7X/<7&;0.=YZ,+,-./0%J%'\22C%%""!#+!4(*&%*.+8!&)7%*:!*+2&!&1)+$0% %%%%[% %%%%.4*.%%9% %%%%%%K#\'+FL+($+C%%%%%%%%%%%%%%%%%%%%%%%%%%""!-&$)&!&%,%*:!5(:! %%%%%%!*""G-+2#=&H.$.+,"BC%%%%%%%%%%%%%%%%%%""!-.-/+*0!--!'()!1%:1;/+)%(0% %%%%%%""!--!#$<+-!./8!-&(/!4(.*&+)!=!-.-/+*0!45%+*&!&1)+$0! %%%%%%K#\'+FD'!C% %%%%%%7:6.-2A@X4A@&;0.=]]Y%J%I11FF:;7GHI81<AE;7F*88C% %%%%%%7:6.-2A@X4A@&;0.=]]Y%J%I11FF:;7GHI81<AE;7F.88C% %%%%%%:P%1!E,G"4/;.%"+/-+2#=+4/*"B%JJ%QR8%%9% %%%%%%%%D;7.-K-:7:</4L.<7:A;1M4A<N8C%%%%%%%%%%""!&1)+$0!0(+-*9&!+2%-&!$*7,()+% %%%%%%%%7,-./02:*7X/<7&;0.=YZ,+,-./0%J%'\22C% %%%%%%%%2./T.K-:7:</4L.<7:A;1M4A<N8C%!!!!!!!!""!&1)+$0!.-+0!1%-!1%:1!/1$-+!&%,+!8!-(!#+!5+$3+!!!!!!!!!!""!&1+!5(#!/1$-+!&%,+!&(!&1+!)+-&!('!&1+!-7-&+,!!!!!!! %%%%%%[% %%%%%%K#\'+FL+($+C%%%%%%%%%%%%%%%%%%%%%%%%%%""!-&$)&!&%,%*:!5(:% %%%%%%!*""G-+2#0'I$.+,"BC%%%%%%%%%%%%%%%%%%%""!-.-/+*0!--!'()!5(#;/+)%(0% %%%%%%K#\'+FD'!C%%%%%%%%%%%%%%%%%%%%%%%%%%%%""!--!#$<+-!./8!-&(/!4(.*&+)% %%%%%%7:6.-2A@X4A@&;0.=]]Y%J%I11FF:;7GHI81<AE;7F*88C% %%%%%%7:6.-2A@X4A@&;0.=]]Y%J%I11FF:;7GHI81<AE;7F.88C% %%%%%%D;7.-K-:7:</4L.<7:A;1M4A<N8C%%%%%%%%%%%%""!*+4+--$)7!(*!5((/!-&$)&% %%%%[% %%[% % %%!E65+:6:;@2A@17:6.-2A@>%4A@&;0.=8C%%%%%%%%%%% %%2./T.K-:7:</4L.<7:A;1M4A<N8C% %%-.7E-;%SC% 20 [% EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK 5)678&!"#9":!;*<&8%2!=840!-.//!)0%1&0&'232)4'!

22 Scheduling Server Analyse Interessante Probleme: Wie stabil ist die Leistung, die einer Echtzeit-Task zur Verfügung steht? Wie hoch ist der Overhead des Scheduling Servers? Welchen Einfluß haben Non-RT-Lasten im Hintergrund? Welchen Einfluß haben I/O-Prozesse? Messung der Rechenleistung: Linpack / SciMark 21 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

23 Metriken Gesamtleistung G, kontrollierte Leistung L i, unkontrollierte Leistung L e Programm wird unter Kontrolle mit Anteil p der CPU ausgeführt, ohne Overhead gilt L i = pg und L e = (1 p)g Interner Overhead für die kontrollierte Applikation: O i = 1 L i pg Externer Overhead für die unkontrollierten Applikationen: O e = 1 L e (1 p)g Negativer Overhead bedeutet Überbuchung 22 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

24 client task s performance (MFLOPS) remaining system s performance (MFLOPS) Scheduling Server Overhead System: NeXTStep 3.3 remaining system s performance 23 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

25 Scheduling Server Stabilität ohne Last System: NeXTStep EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

26 MFLOPS Scheduling Server Stabilität mit Last System: NeXTStep EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

27 MFLOPS Scheduling Server Stabilität mit I/O-Last System: NeXTStep EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

28 computing power Scheduling Server Stabilität System: rtlinux 0.x 27 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

29 Scheduling Server Stabilität System: $ SunOS /0-71,+20 2,1--30/.1.63, / ! :*;5'!"#<=!%&'()'*+!3/!1)'!>%>>!!"#$34&6)&,$4221'/)&/#'$/"#$,#&'1)#3$5&21#'@$ 84. >02C*(D@!/3(!1)'!*66520*1234! E4+'(!@3@@!0341( <;>=0 >##<&:>)&;(* :;()%;<<$=0 >##<&:>)&;( *+!*66520*1234@ , , )2?)!6)*@'!A!53B!6)*@'! F2?E('!"#G=!>02C*(D!;'40)7*(D!E4+'(!>%>>!0341(35! 84 $!"#$2#*/$&A4'$)#*#)'$/+$/"#$2+?#)$6)&("$&-3$'"+?'$/"#$,#&'1)#3$)#'12/'$+*$/"#$.+-/)+22#3$ &((24.&/4+->$!"#$ )46"/$ &A4'$ )#*#)'$ /+$ /"#$ 1((#)$ 6)&("$ &-3$ 34'(2&B'$ /"#$ '1,,&)4C#3$ 28 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK %#-.",&)0$ )#'12/'$ +*$ /"#$ 2+&3$ &((24.&/4+-'>$!"#$ '(&.#$ %#/?##-$ /"#$ 6)&("'$.&-$ %#$

30 Anwendung auf eine Multimedia-Anwendung I Multimedia-Anwendungen haben weiche Echtzeit-Anforderungen Verletzung dieser Anforderungen führt zu verminderter oder inakzeptabler Qualität Beispiel: MPEG-Player auf unbelastetem System benutzbar Belastung des Systems führt zu reduzierter verfügbarer Rechenleistung: unakzeptables Resultat Scheduling Server sorgt für garantierte Rechenzeit für MPEG-Player Problem: Window-Server wird benutzt (Systemdienst) 29 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

31 Anwendung auf eine Multimedia-Anwendung II MPEG-player average frame distance with increasing load t in ms processes 5 processes 10 processes no Scheduling Server 10/30 high/low prio phase 30 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

32 Scheduling Server Erfahrungen Alle Teile einer zeitkritischen Anwendung müssen unter Kontrolle des Scheduling Servers laufen Benutzung von Systemdiensten vermeiden, die auch von anderen Prozessen benutzt werden Synchronisation in einer Applikation muß mit Scheduling Server abgestimmt werden Parameter des Scheduling Servers (Scheduling-Periode und High/Low- Verhältnis) bestimmen Vorhersagbarkeit sehr und müssen an Applikation angepaßt werden 31 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

33 Streaming Kontinuierliche Übertragung von Datenströmen Verschiedene Klassen: Stored audio/video, live audio/video, interactive audio/video Streaming vs. progressives Herunterladen Verwendung von UDP-basierten Soft-RT Protokollen (keine automatische Flusskontrolle) Herausforderungen: Variierende Datenrate, Verzögerungen, Paketverlust 32 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK

34 Streaming Protokolle Real-Time Transport Protocol (RTP) - Sequenznummern, Timestamps, keine Garantien Real-Time Control Protocol (RTCP) - Regelmässiger Austausch von Statistiken (Anzahl gesendeter Pakete, Paketverlust, Jitter,...) Real-time Streaming Protocol (RTSP) - Session-Verwaltung für Video-Streaming, verwendet RTP Session Description Protocol (SDP) - Beschreibt Initialisierungsparameter (Codec, Datenrate, Dauer,...), von RTSP verwendet 33 EMES: Eigenschaften mobiler und eingebetteter Systeme c ROK