to be competent under the terms of DIN EN ISO/ IEC 17025:2005 to carry out calibrations in the following fields:

Transkript

1 esz AG calibration & metrology Max- Planck-Str. 16, Eichenau has been attested by the Deutsche Akkreditierungsstelle DAkkS (german accreditation body, entrusted according to Section 8 subsection 1 AkkStelleG in connection with Section 1 subsection 1 AkkstelleGBV, signatory to the Multilateral Agreements of EA, ILAC and IAF for Mutual Recognition) for their Accreditation to be competent under the terms of DIN EN ISO/ IEC 17025:2005 to carry out calibrations in the following fields: Electrical Quantities: DC and low frequency quantities: DC and AC voltage *) DC an AC current *) High voltage quantities DC and AC resistance *) Electrical power *) Charge Inductance an capacitance Time and frequency: Time interval *) Frequency and revolution speed *) Thermodynamic quantities: Temperature quantities Resistance thermometers Thermocouples and thermoelements Direct displaying thermometers Temperature indicators and simulators *) Humidity quantities Instruments for relative humidity *) also onsite calibrations Electrical high frequency quantities: HF-voltage *) HF-current *) HF-impedance (reflection factor) *) HF-power *) HF-attenuation Pulse measurements Oscilloscope quantities *) Rise time *) Bandwidth *) Optical quantities: Radiometric measurements Dimensional quantities: Length: Gauge blocks Length measurement equipment Mechanical quantities: Pressure *) Flow quantities: Gas flow The accreditation 1 has been undersigned by the Head of the DAkkS Metrology Division Dr. Michael Wolf and shall only apply in connection with the schedule of accreditation of with the accreditation number D-K and is valid until lt comprises the cover sheet the reverse side of the cover sheet and the following annex with a total of 31 pages. 1 This document is a translation. The valid version is the original german accreditation certificate.

2 Deutsche Akkreditierungsstelle GmbH Anlage zur Akkreditierungsurkunde D-K nach DIN EN ISO/IEC 17025:2005 Gültigkeitsdauer: Ausstellungsdatum: Urkundeninhaber: esz AG calibration & metrology Max-Planck-Straße 16, Eichenau Leiter: Dipl.-Ing. (Univ.) Philip M. Fleischmann Stellvertreter: Dr.-Ing. Marius Meres Dipl.-Ing. (FH) Kai-Uwe Krienetzki Reinhard Biller Dipl.-Ing. (FH) Bertram Krotz Wilhelm Sandmeier Dipl.-Phys. (Univ.) Andreas C. Böck Dipl.-Phys. (Univ.) Marc B. Renz Akkreditiert als Kalibrierlaboratorium seit: Kalibrierungen in den Bereichen: Elektrische Messgrößen Hochfrequenz- und Strahlungsmessgrößen Gleichstrom- und Niederfrequenzmessgrößen Hochfrequenzmessgrößen - Gleich- und Wechselspannung *) - HF-Spannung - Gleich- und Wechselstromstärke *) - HF-Stromstärke - Hochspannungsmessgrößen - HF-Impedanz (Reflexionsfaktor) - Gleich- und Wechselstromwiderstand *) - HF-Leistung *) - Ladung - HF-Dämpfung - Elektrische Leistung *) - Pulsförmige Messgrößen - Induktivität und Kapazität - Oszilloskopmessgrößen *) Zeit und Frequenz - Anstiegszeit *) - Zeitintervall *) - Bandbreite *) - Frequenz und Drehzahl *) Optische Messgrößen Thermodynamische Messgrößen - Radiometrie Temperaturmessgrößen Dimensionelle Messgrößen - Widerstandsthermometer Länge - Thermopaare, Thermoelemente - Parallelendmaße - direktanzeigende Thermometer - Längenmessmittel - Temperaturanzeigegeräte und -simulatoren Mechanische Messgrößen Feuchtemessgrößen - Druck *) - Messgeräte für relative Feuchte Durchflussmessgrößen - Durchfluss von Gasen *) auch Vor-Ort-Kalibrierung

3 Permanentes Laboratorium Gleichspannung 0 V 200 mv AC / DC-Josephson-Normal 14 nv Kalibrierung von > 200 mv 2 V 0,10 µv Spannungsquellen > 2 V 10 V 0,16 µv 0 mv < 200 mv 12 nv Kalibrierung der 200 mv < 2 V 40 nv Nichtlinearität von 2 V 10 V 0,25 µv Voltmetern 0 mv < 2 V 0,12 µv Kalibrierung der Abweichung von 2 V 10 V 0,27 µv Voltmetern Wechselspannung 2 mv 10 mv 10 Hz; 12,5 Hz U + 0,11 µv U: Messwert Quellen 20 Hz; 25 Hz; 30 Hz; 37,5 Hz; Kalibrierung von 40 Hz; 75 Hz; 80 Hz; 125 Hz; U + 23 nv Spannungsquellen mit 312,5 Hz; 375 Hz dem Josephson- 48 Hz; 60 Hz; 62,5 Hz U + 0,11 µv Voltmeter 625 Hz; 937,5 Hz; 1 khz U + 0,13 µv > 10 mv 60 mv 10 Hz; 12,5 Hz U + 0,19 µv 20 Hz; 25 Hz; 30 Hz; 37,5 Hz; 40 Hz; 75 Hz; 80 Hz; 125 Hz; 312,5 Hz; 375 Hz 8, U + 0,16 µv 48 Hz; 60 Hz; 62,5 Hz U + 0,16 µv 625 Hz; 937,5 Hz; 1 khz 9, U + 0,16 µv > 60 mv 7,2 V 10 Hz; 12,5 Hz U + 0,14 µv 20 Hz; 25 Hz; 30 Hz; 37,5 Hz; 40 Hz; 75 Hz; 80 Hz; 125 Hz; 312,5 Hz; 375 Hz 2, U + 0,16 µv 48 Hz; 60 Hz; 62,5 Hz 4, U + 0,14 µv 625 Hz; 937,5 Hz; 1 khz 1, U + 0,16 µv Messgeräte 2 mv 7,2 V 10 Hz; 12,5 Hz U + 0,79 µv U: Messwert Gleichspannung Festwerte 20 Hz; 25 Hz; 30 Hz; 37,5 Hz; 40 Hz; 48 Hz; 60 Hz; 62,5 Hz ; 75 Hz; 80 Hz; 125 Hz; 312,5 Hz; 375 Hz; 625 Hz; 937,5 Hz; 1 khz U + 1,4 µv Kalibrierung von Spannungsmessgeräten in Subsitution mit dem AC-Josephson-Voltmeter Der Einfluss der Lastimpedanz ist zu berücksichtigen 1 V 1, U U: Messwert 1,018 V 1, U 10 V 1, U Bereiche 0 mv 2,2 V U + 0,3 µv > 2,2 V 22 V U > 22 V 1100 V U im Leerlauf (andere Anpassungen erhöhen die Messunsicherheit) Hochspannung 1 kv 10 kv U > 10 kv 20 kv 3, U > 20 kv 30 kv 4, U > 30 kv 40 kv 4, U nur Quellen Gültigkeitsdauer: Ausstellungsdatum: Seite 2 von 31

4 Gleichstromstärke 0 pa 25 fa Leerlauf 0 pa 20 pa 1, I + 0,025 pa I: Messwert > 20 pa 200 pa 0, I + 0,025 pa Festwerte oder > 200 pa 2 na 0, I + 0,05 pa interpolierte Werte > 2 na < 100 na I + 0,5 pa Fluke 5700A, 100 na 20 µa I + 5 pa Keithley 263 oder > 20 µa 200 ma I Fluke 5725A > 200 ma 2,2 A I > 2,2 A 11 A I > 10 A 20 A 0, I > 20 A 100 A 0, I > 100 A 150 A 0, I > 150 A 200 A 0, I Gleichstromstärke 0 A 50 A 1 N Wicklungen I + 6 na Gesamtunsicherheit U Stromzangen > 50 A 550 A I > 550 A 1000 A 0, I abhängig von der rel. Unsicherheit W(I in) der Kalibrierstromstärke und dem Beitrag W DUT des Messobjekts: 2 2 U = W ( I ) + W I Gleichstromstärke 0,2 µa < 2 µa an R N 1 GΩ I Gesamtunsicherheit U Ersatzableitstrom I EA 2 µa < 20 µa 0, I abhängig von der rel. 20 µa 200 ma 0, I Unsicherheit W R des Kalibrierwiderstands R N: U = W R I EA Ladung Q 20 pc 200 pc 0, Q + 0,025 pc rechteckförmige > 200 pc 2 nc 0, Q + 0,05 pc > 2 nc 11 C Q + 0,5 pc in DUT Stromimpulse 1 s, Dauer t und Anstiegszeiten t A 10 µs als Produkt Q = I t; Gesamtunsicherheit errechnet aus der rel. Unsicherheit W(I in) der Kalibrierstromstärke Gleichstrom- 0 Ω 0,5 mω 2-Draht Kurzschluss widerstand 0 Ω 2,3 µω 4-Draht Festwerte 1 Ω; 1,9 Ω R R: Messwert 10 Ω R Fluke 5700A 19 Ω R 100 Ω; 190 Ω; 1 kω; 1,9 kω; 10 kω; 19 kω; 100 kω; 190 kω R R 1 MΩ; 1,9 MΩ R 10 MΩ; 19 MΩ R 100 MΩ R 1 Ω; 1 kω R Fluke kω R Gültigkeitsdauer: Ausstellungsdatum: Seite 3 von 31

5 Gleichstrom- 1 GΩ; 10 GΩ Messspannung 1000 V 0, R Festwiderstände oder widerstand 100 GΩ 0, R Dekade Festwerte 1 TΩ; 10 TΩ 1, R Bereiche 50 µω < 100 µω 0, R Konstantstromverfahren 100 µω 1 mω R + 16 nω > 1 mω 10 mω R > 10 mω 100 mω R > 100 mω 2 kω R + 1,5 µω > 2 kω 200 kω R > 200 kω 1,1 MΩ R > 1,1 MΩ 11 MΩ R > 11 MΩ 200 MΩ R > 200 MΩ 2 GΩ 0, R > 2 GΩ 20 GΩ Messspannung 1000 V R > 20 GΩ 200 GΩ R > 200 GΩ 500 GΩ R > 500 GΩ 20 TΩ R U I + UU R als 2 2 mit Starkstromshunt, Referenzshunt oder Fluke 5700A als Stromquelle und HP 3458A. U I ist die relative Unsicherheit der Kalibrierstromstärke. U U ist die relative Unsicherheit der gemessenen Spannung am Widerstand oder Verhältnismethode. Wechselstrom- 100 µω 2 mω 45 Hz 1 khz 0, R + 0,14 µω R: Messwert widerstand > 2 mω 10 kω 0, R Konstantstromverfahren 100 µω 2 mω > 1 khz 5 khz 0, R + 0,11 µω ; Gesamtunsicherheit U > 2 mω 2 kω 0, R abhängig von der rel. > 2 kω 10 kω 0, R Unsicherheit W(I) der 100 µω 20 mω > 5 khz 10 khz R Kalibrierstromstärke und > 20 mω 10 kω R dem Beitrag W(U) des Spannungsabfalls: U = 2 2 W ( I ) + W ( U ) I 1 kω 10 kω 40 Hz 1 khz 0, R HP 4284A > 1 khz 10 khz 3, R > 1 kω 100 kω 40 Hz 100 Hz 0, R > 100 Hz 1 khz 1, R > 100 kω 1,6 MΩ 40 Hz 100 Hz 4, R Wechselspannung Festwerte 2 mv 10 mv 100 mv 1 V 4 V; 6 V; 8 V; 10 V; 13 V; 15 V; 18 V; 20 V 10 Hz; 20 Hz; 40 Hz; 1 khz; 10 khz; 20 khz 50 khz ; 100 khz; 200 khz; 500 khz; 1 MHz 1, U U: Messwert direkt oder substituiert 6, U Fluke 5700A 10 Hz; 20 Hz; 40 Hz; 1 khz; 10 khz; 20 khz; 50 khz; 0, U 100 khz; 200 khz 500 khz 1, U 1 MHz 2, U 10 Hz; 20 Hz; 40 Hz; 1 khz; 10 khz; 20 khz; 50 khz U 100 khz; 200 khz 0, U 500 khz 0, U 1 MHz 2, U 10 Hz; 20 Hz U 40 Hz; 1 khz; 10 khz; 20 khz; 50 khz; 70 khz U 100 khz; 200 khz U 500 khz 0, U 1 MHz 0, U 1 khz U Gültigkeitsdauer: Ausstellungsdatum: Seite 4 von 31

6 Wechselspannung 10 Hz; 20 Hz; 40 Hz U Festwerte 10 khz; 20 khz; 50 khz; 70 khz U 10 V 100 khz; 200 khz U 500 khz 0, U 1 MHz 1, U 10 Hz; 20 Hz U 100 V 40 Hz; 1 khz; 10 khz; 20 khz U 50 khz; 70 khz U 100 khz U V; 1000 V 50 Hz; 500 Hz; 1 khz U 500 V; 750 V; 1000 V 40 Hz; 500 Hz; 1 khz; 10 khz; 20 khz U Fluke 5700A / 5725A 50 khz 0, U 500 V; 750 V 70 khz 0, U 100 khz 1, U 1000 V 30 khz 0, U 2 mv 10 Hz; 20 Hz 0, U U: Messwert 40 Hz; 400 Hz; 1 khz; 10 khz; 0, U 20 khz; 50 khz; 100 khz Fluke 5790A im Direct 200 khz; 500 khz 0, U Mode 1 MHz 0, U 10 mv; 20 mv 10 Hz; 20 Hz 0, U 40 Hz; 400 Hz; 1 khz; 10 khz; 20 khz; 50 khz; 100 khz U 200 khz 0, U 500 khz 0, U 1 MHz 0, U 60 mv 10 Hz U 20 Hz; 40 Hz U 400 Hz; 1 khz; 10 khz; 20 khz U 50 khz; 100 khz U 200 khz U 500 khz 0, U 1 MHz 0, U 100 mv; 200 mv 10 Hz; 20 Hz; 40 Hz; 400 Hz; 1 khz; 10 khz; 20 khz; 50 khz U 100 khz U 200 khz U 500 khz 0, U 1 MHz 0, U 0,6 V 10 Hz; 20 Hz; 40 Hz U 400 Hz; 1 khz; 10 khz; 20 khz; 50 khz U 100 khz U 200 khz U 500 khz 0, U 1 MHz 0, U 1 V; 2 V 10 Hz U 20 Hz; 40 Hz; 400 Hz; 1 khz; 10 khz; 20 khz; 50 khz U 100 khz U 200 khz U 500 khz 0, U 1 MHz 0, U 4 V 1 khz; 10 khz U 100 khz U Gültigkeitsdauer: Ausstellungsdatum: Seite 5 von 31

7 Wechselspannung 6 V; 10 V; 20 V 10 Hz U Festwerte 20 Hz; 40 Hz; 400 Hz; 1 khz; 10 khz U 20 khz; 50 khz; 100 khz U 200 khz U 500 khz 0, U 1 MHz 0, U 8 V; 12 V; 15 V; 19 V 1 khz; 10 khz U 100 khz U 60 V 10 Hz; 20 Hz; 40 Hz; 400 Hz; 1 khz; 10 khz U 20 khz; 50 khz U 100 khz U 100 V 10 Hz; 20 Hz U 40 Hz; 400 Hz; 1 khz; 10 khz U 20 khz; 50 khz U 100 khz U 200 V 10 Hz; 20 Hz U 40 Hz; 400 Hz; 1 khz U 10 khz U 20 khz; 50 khz U 100 khz U 700 V; 1000 V 10 Hz U 20 Hz; 40 Hz; 55 Hz U 400 Hz; 1 khz; 10 khz U 20 khz; 50 khz U 100 khz U Wechselspannung 10 Hz < 40 Hz 1, U Korrekturwert- Festwerte 2 mv 40 Hz 20 khz 1, U interpolation Frequenzbereiche > 20 khz 1 MHz 6, U 10 Hz 40 Hz 0, U > 40 Hz 20 khz 0, U 10 mv > 20 khz 100 khz 0, U > 100 khz 200 khz 0, U > 200 khz 500 khz 1,3 10 U 3 > 500 khz 1 MHz 2, U 10 Hz 40 Hz U > 40 Hz 50 khz U 100 mv > 50 khz 100 khz 0, U > 100 khz 200 khz 0, U > 200 khz 500 khz 0,66 10 U 3 > 500 khz 1 MHz 2, U 10 Hz < 40 Hz U 40 Hz 20 khz U 1 V > 20 khz 100 khz U > 100 khz 200 khz U > 200 khz 500 khz 0,20 10 U 3 > 500 khz 1 MHz 0, U 10 Hz < 40 Hz U 40 Hz 20 khz U 10 V > 20 khz 100 khz U > 100 khz 200 khz U > 200 khz 500 khz 0,56 10 U 3 > 500 khz 1 MHz 1, U Gültigkeitsdauer: Ausstellungsdatum: Seite 6 von 31

8 Wechselspannung 10 Hz < 40 Hz U Festwerte 40 Hz 20 khz U 100 V Frequenzbereiche > 20 khz 70 khz U > 70 khz 100 khz U 700 V; 1000 V 45 Hz 1 khz U 500 V; 750 V; 1000 V 40 Hz 20 khz U Fluke 5700A / 5725A mit > 20 khz 50 khz 0, U bekannter 500 V; 750 V > 50 khz 70 khz 0, U Nominalkorrektion > 70 khz 100 khz 1, U 1000 V > 20 khz 30 khz 0, U Wechselspannung 100 µv < 1 mv 10 Hz < 20 Hz 0, U + 4 µv Bereiche 20 Hz < 40 Hz U + 4 µv 40 Hz 20 khz U + 4 µv > 20 khz 50 khz 0, U + 4 µv > 50 khz 100 khz 0, U + 5 µv > 100 khz 300 khz 0, U + 10 µv > 300 khz 500 khz 1, U + 20 µv > 500 khz 1 MHz 2, U + 20 µv 1 mv < 2,2 mv 10 Hz < 40 Hz 0, U + 3,5 µv 40 Hz 1 khz 0, U + 1,3 µv > 1 khz 20 khz 0, U + 1,3 µv > 20 khz 50 khz 1, U + 1,3 µv > 50 khz 100 khz 0, U + 5 µv > 100 khz 300 khz 0, U + 10 µv > 300 khz 500 khz 1, U + 20 µv > 500 khz 1 MHz 2, U + 20 µv 2 mv 11 mv 10 Hz < 40 Hz 0, U + 4 µv Fluke 8508A 40 Hz 1 khz 0, U + 1,3 µv HP 3458A > 1 khz 20 khz 0, U + 1,3 µv > 20 khz 50 khz 0, U + 4 µv Fluke 5720A > 50 khz 100 khz 0, U + 5 µv > 100 khz 300 khz 0, U + 10 µv > 300 khz 500 khz 1, U + 20 µv > 500 khz 1 MHz 2, U + 20 µv > 11 mv 22 mv 10 Hz < 40 Hz U + 4,6 µv HP 3458A 40 Hz 1 khz U + 2,3 µv > 1 khz 20 khz 0, U + 2,3 µv > 20 khz 50 khz 0, U + 4 µv Fluke 5720A > 50 khz 100 khz 0, U + 5 µv > 100 khz 300 khz 0, U + 10 µv > 300 khz 500 khz 1, U + 20 µv > 500 khz 1 MHz 2, U + 20 µv > 22 mv 50 mv 10 Hz < 40 Hz U + 4,6 µv HP 3458A 40 Hz 1 khz U + 2,3 µv > 1 khz 20 khz 0, U + 2,3 µv > 20 khz 50 khz 0, U + 4 µv Fluke 5720A > 50 khz 100 khz 0, U + 17 µv > 100 khz 300 khz 0, U + 20 µv > 300 khz 500 khz 1, U + 25 µv Gültigkeitsdauer: Ausstellungsdatum: Seite 7 von 31

9 Wechselspannung Bereiche > 22 mv 50 mv > 500 khz 1 MHz 2, U + 45 µv Fluke 5720A > 50 mv 110 mv 10 Hz < 40 Hz U + 4,6 µv HP 3458A 40 Hz 1 khz U + 2,3 µv > 1 khz 10 khz 0, U + 2,3 µv > 10 khz 20 khz U + 7 µv Fluke 5720A > 20 khz 50 khz 0, U + 4 µv > 50 khz 100 khz 0, U + 17 µv Fluke 5720A > 100 khz 300 khz 0, U + 20 µv > 300 khz 500 khz 1, U + 25 µv > 500 khz 1 MHz 2, U + 45 µv > 110 mv 220 mv 10 Hz < 40 Hz 0, U + 4 µv Fluke 5720A 40 Hz 20 khz U + 7 µv > 20 khz 50 khz 0, U + 4 µv > 50 khz 100 khz 0, U + 17 µv > 100 khz 300 khz 0, U + 20 µv > 300 khz 500 khz 1, U + 25 µv > 500 khz 1 MHz 2, U + 45 µv > 200 mv 2 V 10 Hz < 40 Hz 0, U + 20 µv Fluke 8508A 40 Hz 20 khz U + 8 µv Fluke 5720A > 20 khz 50 khz U + 10 µv > 50 khz 100 khz 0, U + 30 µv > 100 khz 300 khz 0, U + 80 µv > 300 khz 500 khz 0, U + 0,2 mv > 500 khz 1 MHz 1, U + 0,3 mv > 2 V 20 V 10 Hz < 40 Hz 0, U + 0,2 mv Fluke 8508A 40 Hz 20 khz U + 50 µv Fluke 5720A > 20 khz 50 khz U + 0,1 mv > 50 khz 100 khz U + 0,2 mv > 100 khz 300 khz 0, U + 0,6 mv > 300 khz 500 khz 0, U + 2 mv > 500 khz 1 MHz 1, U + 3,2 mv > 20 V 220 V 10 Hz < 40 Hz 0, U + 1,9 mv Fluke 8508A 40 Hz 20 khz U + 0,6 mv Fluke 5720A > 20 khz 50 khz U + 1 mv > 50 khz 100 khz 0, U + 2,5 mv > 220 V 1000 V 10 Hz < 40 Hz 0, U Fluke 8508A 40 Hz 10 khz 0, U > 10 khz 30 khz 1, U 2 / V - 0, U + 84 mv > 30 khz 100 khz 2, Volt-Hertz-Produkt U < > 220 V 1100 V 15 Hz < 50 Hz 0, U + 16 µv Fluke 5720A > 220 V 1100 V 50 Hz 1 khz U + 3,5 mv 500 V 1100 V 40 Hz 20 khz U Fluke 5720A / 5725A 500 V 750 V > 20 khz 50 khz 0, U Wechselspannung 1 kv 5 kv 45 Hz 65 Hz 5, U U: Messwert Hochspannung > 5 kv 30 kv nur Quellen Wechselspannung 5 mv < 200 mv 1 Hz 1 khz U + 8,5 µv Abtastverfahren Rechteckspannung > 1 khz 10 khz 0, U + 6,9 µv 200 mv 20 V 1 Hz 1 khz U + 8,5 µv > 1 khz 10 khz 0, U U: Spannung Spitze-Spitze in 1 MΩ; 10 MΩ oder 50 Ω > 20 V 200 V 1 Hz 1 khz U + 24 µv > 1 khz 10 khz 0, U Gültigkeitsdauer: Ausstellungsdatum: Seite 8 von 31

10 Wechselspannung 5 mv 5 V DC 10 MHz U + 0,2 µv U: Messwert Amplituden- > 10 MHz 100 MHz U + 0,5 µv Oszilloskop als Normal parameter > 100 MHz 300 MHz U + 0,4 µv in 50 Ω ; Spitze, Min, Max > 300 MHz 1 GHz U BNC-Eingang 5 mv 50 V DC 2 khz U + 0,7 µv in 1 MΩ > 2 khz 10 MHz U + 0,7 µv BNC-Eingang > 10 MHz 200 MHz U + 0,3 µv Wechselstromstärke 10 Hz; 20 Hz I I: Messwert Festwerte 40 Hz; 500 Hz; 1 khz I Fluke 5700A 100 µa; 200 µa 5 khz 0, I 10 khz 0, I 10 Hz; 40 Hz; 500 Hz; 1 khz I 0,5 ma; 1 ma; 2 ma 5 khz I 10 khz 0, I 10 Hz; 20 Hz; 40 Hz; I 5 ma; 10 ma; 20 ma 500 Hz; 1 khz I 5 khz I 10 khz 0, I 10 Hz; 20 Hz I 6 50 ma; 100 ma; 200 ma 40 Hz; 500 Hz; 1 khz I 5 khz I 10 khz 0, I 20 Hz; 40 Hz; 500 Hz; 1 khz I 6 0,5 A; 1 A; 2 A 5 khz 0, I 10 khz 3, I 40 Hz; 500 Hz; 1 khz 0, I Fluke 5725A 3 A; 5 A; 10 A 5 khz 0, I 10 khz 3, I Wechselstromstärke 20 Hz 1 khz 0, I I: Messwert Festwerte 100 µa; 200 µa > 1 khz 5 khz 0, I Fluke 5700A Frequenzbereiche > 5 khz 10 khz 0, I mit Korrekturwertinterpolation 20 Hz 1 khz 0, I 0,5 ma; 1 ma; 2 ma; 5 ma; 10 ma; > 1 khz 5 khz 0, I 20 ma; 50 ma; 100 ma; 200 ma > 5 khz 10 khz 0, I 20 Hz 1 khz 0, I 0,5 A; 1 A; 2 A > 1 khz 5 khz 0, I > 5 khz 10 khz 3, I Wechselstromstärke Bereiche 0,1 µa 220 µa 10 Hz 20 Hz 0, I + 16 na Fluke 5720A > 20 Hz < 40 Hz 0, I + 10 na Artefaktabgleich 40 Hz 1 khz 0, I + 8 na > 1 khz 5 khz 0, I + 12 na > 5 khz 10 khz 0, I + 64 na > 220 µa 2,2 ma 10 Hz 20 Hz 0, I + 40 na > 20 Hz < 40 Hz 0, I + 35 na 40 Hz 1 khz 0, I + 35 na > 1 khz 5 khz 0, I + 0,11 µa > 5 khz 10 khz 0, I + 0,64 µa > 2,2 ma 22 ma 10 Hz 20 Hz 0, I + 0,4 µa > 20 Hz < 40 Hz 0, I + 0,35 µa 40 Hz 1 khz 0, I + 0,35 µa > 1 khz 5 khz 0, I + 0,53 µa > 5 khz 10 khz 1, I + 4,9 µa Gültigkeitsdauer: Ausstellungsdatum: Seite 9 von 31

11 Wechselstromstärke Bereiche > 22 ma 220 ma 10 Hz 20 Hz 0, I + 4 µa Fluke 5720A > 20 Hz < 40 Hz 0, I + 3,5 µa Artefaktabgleich 40 Hz 1 khz 0, I + 2,5 µa > 1 khz 5 khz 0, I + 1,1 µa > 5 khz 10 khz 0, I + 9,6 µa > 220 ma 2,2 A 10 Hz < 20 Hz 0, I + 0,20 ma Fluke 8508A 20 Hz 1 khz 0, I + 35 µa > 1 khz 5 khz 0, I + 47 µa > 5 khz 10 khz 2, I + 1,8 ma Wechselstromstärke > 2,2 A 11 A 10 Hz < 40 Hz 1, I + 1,8 ma Fluke 5725A Bereiche 40 Hz 1 khz 0, I > 1 khz 5 khz 1, I > 5 khz 10 khz 2, I + 1,8 ma Fluke 8508A > 11 A 20 A 10 Hz 1 khz 1, I + 1,8 ma Fluke 8508A > 1 khz 5 khz 1, I + 1,6 ma nur messen > 5 khz 10 khz 2, I + 1,8 ma 1 A 20 A 40 Hz 2 khz 0, I über Shunt 1 A 20 A 45 Hz 65 Hz 0, I induktionsarmer Shunt > 20 A 50 A 45 Hz 65 Hz 0, I Stromzangen 50 µa 550 A 10 Hz < 20 Hz 0, I + 10 na 1 N Wicklungen 20 Hz 1 khz 0, I + 10 na Gesamtunsicherheit > 1 khz 5 khz abhängig von der rel. 1, I Unsicherheit W(I in) der > 5 khz 10 khz 3, I Kalibrierstromstärke und > 550 A 1000 A 20 Hz 2 khz 0, I + 10 na dem Beitrag W DUT des Messobjekts. Gleichstromleistung 33 mv < 330 mv P: Messwert 109 µw < 10,9 mw 3,3 ma < 33 ma 0, P PF: Leistungsfaktor 1,09 mw < 0,109 W 33 ma < 0,33 A 0, P (kapazitiv oder induktiv) Wechselstrom Wirkleistung Festwerte 10,9 mw < 0,726 W 0,33 A 2,2 A 0, P 72,6 mw 3,63 W > 2,2 A 11 A 0, P 1,09 mw 33,7 W 330 mv 1020 V 3,3 ma < 33 ma 0, P 10,9 mw 336,6 W 33 ma < 0,33 A 0, P 109 mw 2,244 kw 0,33 A 2,2 A 0, P 0,726 W 11,22 kw 2,2 A 11 A 0, P 45 Hz 65 Hz, 220 V; 1 A 220 W PF = 1 0, P 198 W PF = 0,9 0, P 110 W PF = 0,5 0, P 22 W PF = 0,1 0, P 11 W PF = 0,05 1, P 1,5 W; 6 W 45 Hz 65 Hz, 0, P 15 W 50 V oder 200 V, 0, P 60 W; 100 W; 400 W; 500 W 30 ma; 0,3 A; 2 A; oder 10 A 0, P 2000 W PF = 1 0, P Gültigkeitsdauer: Ausstellungsdatum: Seite 10 von 31

12 Gleichstromleistung 33 mv 330 mv bei Zangenabgriff 109 µw < 0,65 W 3,3 ma < 2 A 0, P 1,09 mw < 6,54 W 33 ma < 20 A 0, P 10,9 mw < 43,6 W 0,33 A 132 A 0, P 72,6 mw 3,63 W > 2,2 A 660 A 0, P 1,09 mw 2 kw 330 mv 1020 V 3,3 ma < 2 A 0, P 10,9 mw 20 kw 33 ma < 20 A 0, P 109 mw 135 kw 0,33 A 132 A 0, P P: Messwert 1 60 Wicklungen Die Unsicherheit U DUT des Messobjekts im Streufeld des stromdurchflossenen Leiters ist zu berücksichtigen. 0,726 W 673 kw > 2,2 A 660 A 0, P Wechselstromwirkleistung bei Zangenabgriff 0,33 W 218 kw 45 Hz 65 Hz 33 V 330 V 10 ma 660 A Leistungsfaktor PF = 1 0, P Wechselstromwirk- 1,5 W; 6 W 0, P P: Messwert leistung 15 W 45 Hz; 50 Hz; 60 Hz 0, P 50 V oder 200 V Festwerte 60 W; 110 W; 440 W; 500 W 0, P 33 ma; 0,3 A; 2,2 A oder 11 A 2000 W 0, P Leistungsfaktor 0,1 < 0, Fluke 5500A 0,4 < 0,8 45 Hz 65 Hz 2, ,8 1 1, Leistungsfaktor Festwerte 0; 0,1; 0,2; 0,3; 0,4; 0,5; 0,6; 0,8; 1 53 Hz 1 A; 90 V 0, Leistungsfaktor Hz 65 Hz 0, Bereiche 33 V 330 V 330 ma 2,2 A Kapazität 0 pf 0,2 pf Leerlauf Kapazität Frequenzbereiche 1 pf 10 pf 1 khz 4, C C: Messwert 10 khz 0, C direkte Messung oder Substitution an 1 khz C GR 1403 / 1404 / khz; 100 khz C oder baugleich 1 MHz 0, C 100 pf 1 khz C 1 nf 1 khz C 100 khz 0, C 100 Hz 0,21 10 C 3 10 nf 1 khz 0, C 10 khz 0, C 100 nf 100 Hz; 1 khz; 10 khz 0, C 100 Hz; 1 khz 0, C 1 µf 10 khz 0, C 400 Hz 1 khz 4, C C: Messwert 1 pf > 1 khz 10 khz 0, C direkte Messung oder Substitution an 400 Hz 1 khz C GR 1403 / 1404 / pf > 1 khz 100 khz C oder baugleich > 100 khz 1 MHz 0, C 1 nf 400 Hz 100 khz 0, C 10 nf 40 Hz 10 khz 0, C 100 nf 40 Hz 1 khz 0, C > 1 khz 10 khz 0, C Gültigkeitsdauer: Ausstellungsdatum: Seite 11 von 31

13 Kapazität Frequenzbereiche 1 µf 40 Hz 1 khz 0, C > 1 khz 10 khz 0, C Kapazität 10 pf < 100 pf 400 Hz < 1 khz 1, C + 0,19 pf C: Messwert Bereiche 1 khz 10 khz 0, C + 0,03 pf 100 pf 1 nf 40 Hz 400 Hz 0, C + 2,1 pf > 400 Hz 1 khz 0, C + 0,24 pf > 1 khz 10 khz 0, C + 0,03 pf > 1 nf 100 nf 40 Hz 400 Hz 0, C + 2,1 pf > 400 Hz 1 khz 0, C + 0,24 pf > 1 khz 10 khz 0, C + 0,34 pf > 100 nf 1 µf 40 Hz 400 Hz 0, C + 39 pf > 400 Hz 1 khz 0, C > 1 khz 10 khz 1, C > 1 µf 10 µf 40 Hz 400 Hz 1, C > 400 Hz 1 khz 1, C > 1 khz 10 khz 5, C direkte Messung an HP 4284A oder Kalibrierung gegen eingemessenes Normal Induktivität 0 µh 0,03 µh Kurzschluss 100 µh 100 Hz 1 khz 0, L L: Messwert 0, L 10 khz 0, L 1 mh; 10 mh 100 Hz 0, L 1 khz 0, L 10 khz 0, L 100 mh 100 Hz; 1 khz 0, L 10 khz 0, L 1 H 100 Hz; 1 khz 0, L direkte Messung oder Substitution an GR 1482 oder baugleich Induktivität 100 µh 40 Hz < 400 Hz 1, L L: Messwert Frequenzbereiche 400 Hz < 1 khz 1, L 1 khz 10 khz 0, L 1 mh 40 Hz < 1 khz 0, L 1 khz 10 khz 0, L 10 mh 40 Hz 1 khz 0, L > 1 khz 10 khz 1, L 100 mh 40 Hz 1 khz 0, L > 1 khz 10 khz L 1 H 40 Hz 1 khz 4, L direkte Messung oder Substitution an GR 1482 oder baugleich Induktivität 10 µh < 100 µh > 1 khz 10 khz 0, L + 0,1 µh an HP 4284A Messgeräte 100 µh < 1 mh 400 Hz 1 khz 1,5 µh eingemessenes Normal Bereiche > 1 khz 10 khz 0, L + 0,1 µh 1 mh 100 mh 40 Hz 400 Hz 1, L + 13 µh > 400 Hz 1 khz 0, L + 0,57 µh > 1 khz 10 khz 0, L > 100 mh 1 H 40 Hz 400 Hz 1, L > 400 Hz 1 khz 0, L Induktivität 10 µh < 100 µh > 1 khz 10 khz 0, L + 0,11 µh Direktmessung Normale 100 µh < 1 mh 400 Hz 1 khz 0, L + 1,4 µh HP 4284A Bereiche > 1 khz 10 khz 0, L + 0,11 µh 1 mh 100 mh 40 Hz 400 Hz 0, L + 14 µh > 400 Hz 1 khz 0, L + 1,4 µh > 1 khz 10 khz 0, L > 100 mh 1 H 40 Hz 400 Hz 0, L > 400 Hz 1 khz 0, L Gültigkeitsdauer: Ausstellungsdatum: Seite 12 von 31

14 Wechselspannung harmonische Oberwellen Quellen Wechselstromstärke harmonische Oberwellen Quellen Wechselspannung harmonische Oberwellen Messgeräte Wechselstromstärke harmonische Oberwellen Messgeräte 2,2 V 220 V zur 40. Oberwelle 0, U n U n: Spannung der n-ten Harmonischen oder > 220 V 700 V zur 40. Oberwelle 0, U n Grundwelle U eff < 1 kv; Sampling mit HP 3458A und Substitution an Fluke 57xxA Grundwelle 45 Hz 65 Hz I n: Stromstärke der n-ten Harmonischen 0,1 A 16 A 0,15 A 20 A, I eff 0, I n I eff: Effektivwertgrenzen Harmonische zur 40. Oberwelle des verzerrten Signals, 0,05 A 0,8 A 0,15 A 1 A, I eff 0, I n Messung mit Shunt und 0,3 A 1,2 A > 1 A < 1,5 A, I Sampling mit HP 3458A eff 0, I n + 0,32 ma und Substitution an 0,3 A 4 A 1,5 A < 5 A, I eff 0, I n + 0,17 ma Fluke 57xxA 1 A 8 A 5 A 10 A, I eff 0, I n 2 A 15 A > 10 A 20 A, I eff 0, I n + 1,9 ma Grundwelle 45 Hz 65 Hz Messung mit Fluke 6100A 8 V 110 V 8 V 78 V, I eff 0, U U n: Spannung der n-ten > 110 V 700 V 110 V 1 kv, I eff 0, U Harmonischen Harmonische zur 40. Oberwelle U eff: Effektivwertgrenzen des verzerrten Signals 0 V 4,8 V 1 V 16 V, U eff 0, U n+ 1 mv 0 V 23 V 2,3 V 78 V, U eff 0, U n+ 2 mv 0 V 50 V 11 V 168 V, U eff 0, U n+ 4,4 mv 0 V 100 V 23 V 336 V, U eff 0, U n+ 12 mv 0 V 302 V 70 V 1 kv, U eff 0, U n+ 33 mv Grundwelle 45 Hz 65 Hz Messung mit Fluke 0,05 A 16 A 0,05 A 20 A, I eff 0, I Harmonische zur 40. Oberwelle 0 A 0,075 A 0,01 A 0,25 A, I eff 0, I n + 5,8 µa 0 A 0,15 A 0,05 A 0,5 A, I eff 0, I n + 12 µa 0 A 0,3 A 0,1 A 1 A, I eff 0, I n + 24 µa 0 A 0,6 A 0,2 A 2 A, I eff 0, I n + 46 µa 0 A 1,5 A 0,5 A 5 A, I eff 0, I n + 0,12 ma 6100A I n: Stromstärke der n-ten Harmonischen I eff: Effektivwertgrenzen des verzerrten Signals 0 A 3 A 1 A 10 A, I eff 0, I n + 0,24 ma 0 A 6 A 2 A 20 A, I eff 1, I n + 0,71 ma Flicker Werte bei ΔU/U Quellen ausgedrückt in ΔU/U, Modulationstiefe 0,4 % 3,2 % 1, % rechteckförmiger Flicker, ΔU/U Sampling mit HP 3458A Frequenz 8,3 mhz 40 Hz 0, f EN :2010 Messgeräte Werte bei ΔU/U Modulationstiefe ausgedrückt in ΔU/U 0,4 % 3,2 % 0,025 % ΔU/U Fluke 6100A Frequenz 8,3 mhz 40 Hz 1, f P st-wert nur P st = 1 0,25 % Wechselspannung 0 % 30 % 45 Hz 5 khz 0, k + 0,012 % Werte ausgedrückt in Klirrfaktor k > 5 khz 30 khz 0, k + 0,012 % %-Klirren Zeit und Frequenz Phasendifferenzzeitmessungen Frequenz 1 MHz 10 MHz mit Messzeiten > 1 h 8, f f: Messwert in Schritten von 1 MHz Gültigkeitsdauer: Ausstellungsdatum: Seite 13 von 31

15 Messung und 0,1 Hz < 2,7 GHz digitale Messung auf 0, f + U TF U TF: Triggerunsicherheit Synthese 2,7 GHz 40 GHz Zählbasis / Synthese f + U TF + 1 Hz Zeitintervall 0 ns 10 s Δt + 2 ns + U TF Δt: Messwert Gangabweichung 0 s/d 100 s/d 0 ns 100 s 0, Δt + 29 ps Elektronische oder mechanische Uhren 1, ( 0,12 s/d) mit Oszilloskope Agilent Drehzahl 0,02 s s 1 mit Lichtimpulsgeber 3, f 1 s s 1 mit Stroboskop s -1 Oszilloskope U: Messwert vertikal 1 mv 5 V 1, U + 12 µv 50 Ω DC 10 khz 5 mv 200 V 1 MΩ Oszilloskop 25 ps 40 s 0, T + 0,1 ps T: Messwert horizontal Bandbreite 20 khz 100 MHz 0,2 V 3 V f T-Abgriff 40 Hz 550 MHz f f: Messwert > 550 MHz 1,1 GHz 0,1 V 3 V f Wavetek 9500 > 1,1 GHz 4 GHz f > 4 GHz 6 GHz f > 6 GHz 18 GHz 0,1 V 2 V f R&S NRV-Z51/Z55 > 18 GHz 40 GHz f R&S NRV-Z55 Anstiegszeit 30 ps 45 ps 0,1 V 3 V 5 ps Fluke 9500/9550 > 45 ps 1 ms T + 3 ps 70 ps 85 ps T errechnet aus der > 85 ps 310 ps 0,1 V 3 V T 3 db Bandbreite > 310 ps 650 ps T T: Messwert > 650 ps 1 ms T Frequenz f über externen Zeitbasis 10 MHz DSO 0, f Generator Pulsmessgrößen Anstiegszeit (z.b. Oszilloskopkalibrator) Burst-Generator Ausgangsspannung Spitzenwert U s Anstiegszeit und Impulsdauer T r Burstdauer und Burstperiode T 15 ps 10 ns 0,1 V 40 V in 50 Ω Tektronix T + 3 ps CSA8000/80E01 ext. Triggersignal erforderlich 160 ps 10 ms 0,1 V 2 V in 50 Ω T + 30 ps Agilent V 4 kv EN : U s unter 50 Ω oder 1 kω Last 3 ns 1 μs T r 10 μs 1 s EN : T Impulsfrequenz f 100 Hz 500 khz f ESD-Generator Anstiegszeit t r der Spitzenstromstärke 300 ps 3 ns EN :2009 ISO 10605: % t r + 40 ps Entladestromstärke I 0,1 A 35 A 6 % I Stoßspannungsgenerator Stirnzeit t r,us der Leerlaufspannung Stirnzeit t r,is der Kurzschlussstromstärke 15 ns 100 ms 3 % t r,us + 1 ns 100 ns 100 ms 3 % t r,is + 2 ns Gültigkeitsdauer: Ausstellungsdatum: Seite 14 von 31

16 Rückenhalbwertszeit t H der Kurvenform 0,5 µs 100 ms 5 % t H Scheitelwert der Leerlaufspannung U S Scheitelwert der Kurzschlussstromstärke I S 0,1 kv 7 kv 2,5 % U S 10 A 10 ka 3,5 % I S HF-Leistung 100 pw < 10 nw DC 2 GHz P Γ L 0,07 Eingangsleistung > 2 GHz 4 GHz P und > 4 GHz 12 GHz P Kalibrierungsfaktor > 12 GHz 18 GHz P von HF-Leistungs- 10 nw < 1 µw DC 50 MHz P Messgeräten > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 100 nw < 10 µw DC 50 MHz P > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 1 µw < 0,1 mw DC 50 MHz P > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P DC < f < 2 GHz Γ L 0,1 2 GHz f < 4 GHz Γ L 0,11 4 GHz f < 12 GHz Γ L 0,13 12 GHz f < 18 GHz R&S NRVC mit (kaskadiertem) Dämpfungsglied **) Erläuterung: siehe letzte Seite 0,1 µw 0,1 mw DC > 50 MHz > 4 GHz > 12 GHz > 26,5 GHz > 32 GHz 50 MHz 4 GHz 12 GHz 26,5 GHz 32 GHz 40 GHz P P P P P P Γ L 0,07 DC < f < 4 GHz Γ L 0,09 4 GHz f < 12 GHz Γ L 0,11 12 GHz f < 26,5 GHz Γ L 0,13 26,5 GHz f < 40 GHz NRV- Z15 ***) 0,1 µw 0,1 mw DC > 50 MHz > 4 GHz > 12 GHz > 26,5 GHz > 32 GHz 50 MHz 4 GHz 12 GHz 26,5 GHz 32 GHz 40 GHz P P P P P P Γ L 0,07 DC < f < 4 GHz Γ L 0,09 4 GHz f < 12 GHz Γ L 0,11 12 GHz f < 26,5 GHz Γ L 0,13 26,5 GHz f < 40 GHz R&S NRV- Z55 mit Dämpfungsglied ***) Gültigkeitsdauer: Ausstellungsdatum: Seite 15 von 31

17 HF-Leistung Eingangsleistung und Kalibrierungsfaktor von HF-Leistungs- Messgeräten 0,1 mw 80 mw DC > 50 MHz > 2 GHz > 4 GHz > 12 GHz 0,1 mw 80 mw DC > 50 MHz > 4 GHz > 12 GHz > 26,5 GHz > 32 GHz 50 MHz 2 GHz 4 GHz 12 GHz 18 GHz 50 MHz 4 GHz 12 GHz 26,5 GHz 32 GHz 40 GHz P P P P P P P P P P P Γ L,DUT 0,07 DC < f < 2 GHz Γ L,DUT 0,10 2 GHz < f 4 GHz Γ L,DUT 0,13 4 GHz < f 18 GHz R&S NRV-Z51 **) R&S NRVC **) Γ L 0,07 DC < f < 4 GHz Γ L 0,09 4 GHz f < 12 GHz Γ L 0,11 12 GHz f < 26,5 GHz Γ L 0,13 10 fw < 1 pw DC 50 MHz P Γ L 0,07 > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 1 pw < 100 pw DC 50 MHz P > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 100 pw < 10 nw DC 50 MHz P > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 10 nw < 1 µw DC 50 MHz P > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 100 nw < 10 µw DC 50 MHz P > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 1 µw < 0,1 mw DC 50 MHz P > 50 MHz 2 GHz P > 2 GHz 4 GHz P > 4 GHz 12 GHz P > 12 GHz 18 GHz P 26,5 GHz f < 40 GHz R&S NRV- Z55 ***) DC < f < 2 GHz Γ L 0,1 2 GHz f < 4 GHz Γ L 0,11 4 GHz f < 12 GHz Γ L 0,13 12 GHz f < 18 GHz R&S NRV-Z51 **) mit (kaskadiertem) Dämpfungsglied **) Erläuterung: siehe letzte Seite Gültigkeitsdauer: Ausstellungsdatum: Seite 16 von 31

18 HF-Leistung Ausgangsleistung und Kalibrierungsfaktor von HF-Quellen (G) 0,1 pw < 10 pw 50 MHz P Γ G 0,1 100 khz 2 GHz P f 2 GHz > 2 GHz 3 GHz P Γ G 0,2 2 GHz f < 12 GHz 10 pw < 1 nw 50 MHz P Γ G 0,3 100 khz 2 GHz P 12 GHz f < 18 GHz > 2 GHz 3 GHz P selektives Messsystem 1 nw 80 mw 50 MHz P Agilent N5531S-518 **) 100 khz 2 GHz P Erläuterung: siehe letzte > 2 GHz 4 GHz P Seite > 4 GHz 12 GHz P > 12 GHz 18 GHz P 0,1 pw < 10 pw 50 MHz P Γ G 0,1 100 khz 3 GHz P f 2 GHz 10 pw < 1 nw 50 MHz P Γ G 0,2 2 GHz f < 12 GHz 100 khz 3 GHz P Γ G 0,3 1 nw 80 mw 50 MHz P 4 GHz f < 26,5 GHz 100 khz 4 GHz P Agilent N5531S-526 > 4 GHz 12 GHz P ***) > 12 GHz 26,5 GHz P 1 mw 50 MHz P Substitution 0,1 µw < 0,1 mw 10 MHz > 50 MHz > 2 GHz > 4 GHz > 12 GHz 0,1 µw < 0,1 mw 10 MHz > 50 MHz > 4 GHz > 12 GHz > 26,5 GHz > 32 GHz 0,1 mw < 80 mw DC > 50 MHz > 2 GHz > 4 GHz > 12 GHz 0,1 mw < 80 mw DC > 50 MHz > 4 GHz > 12 GHz > 26,5 GHz > 32 GHz 50 MHz 2 GHz 4 GHz 12 GHz 18 GHz 50 MHz 4 GHz 12GHz 26,5 GHz 32 GHz 40 GHz 50 MHz 2 GHz 4 GHz 12 GHz 18 GHz 50 MHz 4 GHz 12 GHz 26,5 GHz 32 GHz 40 GHz P P P P P P P P P P P P P P P P P P P P P P Γ G 0,1 f 2 GHz Γ G 0,2 2 GHz f < 12 GHz Γ G 0,3 12 GHz f < 18 GHz R&S NRV- Z1 **) Γ G 0,1 f 2 GHz Γ G 0,2 2 GHz f < 12 GHz Γ G 0,3 12 GHz f < 40 GHz NRV- Z15 ***) Γ G 0,1 f 2 GHz Γ G 0,2 2 GHz f < 12 GHz Γ G 0,3 12 GHz f < 18 GHz R&S NRV- Z51 **) Γ G 0,1 f 2 GHz Γ G 0,2 2 GHz f < 12 GHz Γ G 0,3 12 GHz f < 40 GHz R&S NRV- Z55 ***) Gültigkeitsdauer: Ausstellungsdatum: Seite 17 von 31

19 HF-Leistung Ausgangsleistung und Kalibrierungsfaktor von HF-Quellen (G) HF-Spannung U HF Quellen mit HF- Spannungsanzeige bezüglich 50 Ω HF-Spannung U HF Messgeräte und Empfänger mit HF- Spannungsanzeige bezüglich 50 Ω HF-Leistung Rauschanzeige von Empfängern 10 mw < 1 W DC > 50 MHz > 2 GHz > 4 GHz > 12 GHz Gültigkeitsdauer: Ausstellungsdatum: Seite 18 von MHz 2 GHz 4 GHz 12 GHz 18 GHz P P P P P 1 W < 1000 W DC 3 GHz P > 80 mw 1 kw DC > 150 MHz > 500 MHz > 1 GHz 150 MHz 500 MHz 1 GHz 2 GHz P P P P Γ G 0,1 f 2 GHz Γ G 0,2 2 GHz f < 12 GHz Γ G 0,3 12 GHz f < 18 GHz R&S NRV- Z51 **) mit (kaskadiertem) Dämpfungsglied Erläuterung: siehe letzte Seite R&S NRV- Z1 in Kombination mit Dämpfungsglied **) Γ G 0,1, f 2 GHz W(P) ist die relative Unsicherheit der gemessenen W ( P) Leistung an Z 0 = 50 Ω W ( U HF ) = 2,2 µv 220 µv DC 3 GHz 2 **) 220 µv 7 V DC 18 GHz 2,2 µv 220 µv DC 3 GHz ***) 2,2 mv 2 V DC 40 GHz ( P ) W W U HF ) = 2 ( inc 0,7 µv 2 V DC 18 GHz **) 2,2 mv 2 V DC 40 GHz ***) DC 40 GHz Signalpegeldifferenz 0 dbc 100 dbc 100 Hz 100 Hz Bandbreite Filter Formfaktor > 1:1 > 5:1 > 10:1 Umschaltabweichung Anzeigelinearität Eingangsabschwächer oder ZF-Verstärker 0 db > 30 db > 60 db > 80 db > 100 db 0 db > 30 db > 60 db > 80 db > 100 db 0 db > 30 db > 60 db 26,5 GHz 40 GHz W(P inc) ist die relative Unsicherheit der eingestrahlten Leistung bezüglich Z 0 = 50 Ω 1,6 db Leistungen > -170 db (1 mw) bezogen auf 1 Hz Bandbreite 1,3 db 2,7 db SNR 12 db 1 Hz 10 MHz 0,5 % Signal zu Rausch- Abstand SNR 70 db 5:1 3 % Signal zu Rausch 10:1 6 % Abstand SNR 15 db 20:1 12 % 30 db 60 db 80 db 100 db 110 db 30 db 60 db 80 db 100 db 110 db 30 db 60 db 80 db 0,02 db 100 khz 500 MHz 0,06 db 0,07 db 0,09 db 0,1 db 0,2 db 100 khz 500 MHz 0,06 db 0,07 db 0,09 db 0,1 db 0,2 db 100 khz 500 MHz 0,04 db 0,06 db 0,08 db SNR 50 db Γ L,DUT 0,05 f 500 MHz Vergleich mit externem Stufenabschwächer Γ L,DUT 0,05 f 500 MHz stufenweiser Anzeigevergleich SNR 50 db, Empfängerlinearität

20 HF-Verstärkung Verstärker 0 db 70 db DC > 100 MHz > 2 GHz > 4 GHz 0 db 70 db DC > 100 MHz > 4 GHz > 26,5 GHz 100 MHz 2 GHz 4 GHz 18 GHz 100 MHz 4 GHz 26,5 GHz 40 GHz 0,19 db 0,26 db 0,3 db 0,5 db 0,21 db 0,3 db 0,6 db 0,7 db < (0,01 db + 0,005 db/10 db) BNC-Konnektor max. 2 GHz N-Konnektor und BNC- Konnektor, 50 Ω, andere Konnektoren erhöhen die Messunsicherheit 2,92 mm kompatibler Konnektor, 50 Ω, andere Konnektoren erhöhen die Messunsicherheit HF-Stromstärke 100 µa 50 ma 40 Hz 10 MHz I Tektronix Stromzangen > 10 MHz 30 MHz I I: Messwert > 30 MHz 65 MHz f² I f: Frequenz in MHz Nicht-Linearität von HF- Leistungsmessgeräten 10 nw 1 W 50 MHz 5, (0,024 db) R&S NRVC-B2 60 db max. HF-Reflexionsfaktor khz < 45 MHz 0,0045 Γ ²+ 0,005 N-Konnektor 50 Ω, Betrag Γ 45 MHz 6 GHz 0,004 Γ ²+ 0,005 andere Konnektoren > 6 GHz 10 GHz 0,003 Γ ²+ 0,008 erhöhen die > 10 GHz 18 GHz 0,007 Γ ²+ 0,012 Messunsicherheit 10 MHz 10 GHz 0,007 Γ ²+ 0,009 2,92 mm-konnektor > 10 GHz 18 GHz 0,009 Γ ²+ 0,014 > 18 GHz 26,5 GHz 0,010 Γ ²+ 0,019 > 26,5 GHz 40 GHz 0,006 Γ ²+ 0,03 Phasenwinkel khz 6 GHz N-Konnektor 50 Ω, jedoch nicht kleiner als U ( Γ ) 180 1,3 U ( ϕ) = arcsin > 6 GHz 18 GHz Γ π jedoch nicht kleiner als 2 10 MHz 40 GHz 2,92 mm-konnektor, jedoch nicht kleiner als 5 HF-Dämpfung Dämpfungsglieder 0 db 30 db 100 khz 10 GHz > 10 GHz 18 GHz > 18 GHz 26,5 GHz > 26,5 GHz 40 GHz > 30 db 60 db 100 khz 10 GHz > 10 GHz 18 GHz > 18 GHz 26,5 GHz > 26,5 GHz 40 GHz > 60 db 70 db 100 khz 500 MHz > 500 MHz 3 GHz > 70 db 80 db 100 khz 500 MHz > 500 MHz 3 GHz 0,03 db 0,05 db 0,09 db 0,10 db 0,001 db/db L 0,02 db + 0,001 db/db L 0,10 db + 0,001 db/db L 0,11 db + 0,001 db/db L 0,07 db 0,10 db 0,08 db 0,2 db L ist die gemessene Dämpfung, ****) Γ DUT 0,01 f 500 MHz Γ L,DUT 0, MHz < f 10 GHz Γ L,DUT 0,08 10 GHz < f 18 GHz Γ L,DUT 0,1 18 GHz < f 40 GHz Γ L,DUT 0,01 f 500 MHz Γ L,DUT 0, MHz < f 3 GHz > 80 db 100 db 100 khz 500 MHz > 500 MHz 3 GHz 0,1 db 0,3 db Gültigkeitsdauer: Ausstellungsdatum: Seite 19 von 31

21 optische Strahlungsleistung faseroptische Leistungsmessgeräte Nichtlinearität faseroptischer Strahlungsempfänger Dämpfung oder Verstärkung faseroptischer Komponenten 1 µw ( 30 db (1mW)) 10 nw ( 50 db (1 mw)) 0,1 nw ( 70 db (1 mw)) 0,32 nw (-65 db (1 mw)) 3,2 nw ( 55 db (1 mw)) 0,5 mw ( 3 db (1mW)) 160 µw ( 8 db (1 mw)) < 0,32 nw (-65 db (1 mw)) < 3,2 nw (-55 db (1 mw)) 0,5 µw (-3 db (1 mw)) Wellenlänge: 1310 nm, 1550 nm 1,3 % 850 nm 2,2 % 654 nm 2,2 % Wellenlänge: 850 nm, 1310 nm, 1550 nm 0 db 50 db Wellenlänge: 850 nm, 1310 nm, 1550 nm, > 50 db 60 db Referenzleistung: ca. 0,5 mw 1, (0,008 db) (0,085 db) 7, (0,031 db) 6, (0,026 db) 6, (0,026 db) 7, (0,031 db) > 60 db 70 db (0,085 db) faseroptische Quellen 350 nm < 700 nm 0,5 nm Zentralwellenlänge λ 700 nm < 1250 nm 2,5 pm 1250 nm 1700 nm 2 pm Konnektor FC, ST, SC, SMA, HMS-10 oder adaptierbar Additionsmethode Vergleichsmethode Temperaturanzeigegeräte und - simulatoren -199 C; 0 C 2 mk Temperaturskalen nach 237 C 5 mk DIN EN 60751: C 200 C 5 mk Pt100 > 200 C 650 C 10 mk > 650 C 800 C 15 mk Pt C 0 C 10 mk > 0 C 300 C 15 mk > 300 C 700 C 25 mk > 700 C 800 C 30 mk Pt C 100 C 5 mk > 100 C 300 C 10 mk > 300 C 550 C 15 mk > 550 C 800 C 20 mk Pt C 50 C 5 mk DAkkS-DKD-R 5-5:2010 > 50 C 350 C 10 mk > 350 C 550 C 15 mk > 550 C 800 C 20 mk Nichtedelmetall- Temperaturskalen nach thermoelemente -200 C 1000 C 0,03 K DIN EN : 1995 Typ K > 1000 C 1350 C 0,03 K ohne Vergleichsstellen- Typ J -200 C < -100 C 0,03 K kompensation -100 C 600 C 0,02 K > 600 C 1000 C 0,03 K > 1000 C 1100 C 0,04 K Typ T -200 C < -100 C 0,04 K -100 C 400 C 0,02 K Typ E -200 C 700 C 0,02 K > 700 C 1000 C 0,03 K Typ N -200 C < -100 C 0,06 K -100 C 900 C 0,03 K > 900 C 1200 C 0,04 K > 1200 C 1300 C 0,05 K Gültigkeitsdauer: Ausstellungsdatum: Seite 20 von 31

22 Edelmetallthermoelemente Typ R, S 0 C 100 C 0,2 K > 100 C 1700 C 0,1 K Typ B 400 C 600 C 0,2 K > 600 C 1800 C 0,1 K mit Vergleichsstellen C 1500 C An Typ-K DAkkS-DKD-R 5-5:2010 kompensation Ausgleichsleitung. Andere Ausgleichsleitungen erhöhen die Messunsicherheit. U TC: Unsicherheit der Thermoelementtemperatur ohne Vergleichsstellenkompensation Widerstands- 0,01 C Wassertripelpunkt 15 mk Vergleich mit kalibrierten thermometer, -80 C < -40 C 45 mk Normalwiderstandsthermometern Ethanolbad direkt anzeigende -40 C < 0 C 25 mk Widerstandsthermometer > 100 C 180 C 25 mk 0 C 100 C 20 mk T: Messwert Silikonbäder > 180 C 200 C 35 mk > 200 C 300 C 0,023 % T + 5 mk > 300 C 400 C 80 mk Metallblockkalibrator 0,070 % T + 0,30 K Vergleich mit kalibrierten > 400 C 650 C Thermoelementen T: Messwert Nichtedelmetall C -35 C 0,12 % T + 0,13 K thermoelemente und Ethanolbad Vergleich mit kalibrierten -35 C < 0 C 0,12 % T + 0,09 K direktanzeigende Normalwiderstandsthermometern 0 C 35 C 0,09 K Thermoelementthermometer T: Messwert Silikonölbäder > 35 C 300 C 0,10 % T + 0,07 K > 300 C 400 C 0,10 % T + 0,07 K Metallblockkalibrator > 400 C 650 C 0,12 % T + 0,27 K Vergleich mit kalibrierten > 650 C 1200 C Keramikblockkalibrator 0,38 % T Thermoelementen T: Messwert Edelmetall - 0 C 35 C 0,21 K Vergleich mit kalibrierten Silikonäöbäder thermoelemente und > 35 C 300 C 0,03 % T + 0,20 K Normalwiderstandsthermometern direktanzeigende > 300 C 400 C Thermoelementthermometer > 400 C 650 C 0,11 % T + 0,19 K 0,03 % T + 0,20 K Metallblockkalibrator T: Messwert Vergleich mit kalibrierten > 650 C 1200 C Keramikblockkalibrator 0,38 % T Thermoelementen T: Messwert Umgebungstemperatur Vergleich mit Taupunktspiegel im Klimaschrank Taupunkttemperatur 2 C 29 C 0,4 K 20 C 30 C; 0 C 29 C Taupunkttemperatur 2 C 0,2 K im Klimagenerator Gültigkeitsdauer: Ausstellungsdatum: Seite 21 von 31

23 relative Luftfeuchte 20 % 40 % 20 C 30 C 1,5 % Messunsicherheit aus- > 40 % 60 % 2,0 % gedrückt in rel. Feuchte > 60 % 80 % 2,5 % Vergleich mit Tauspiegel > 80 % 90 % 3,0 % im Klimaschrank 20 % 40 % 0,7 % im Klimagenerator > 40 % 60 % 1,0 % > 60 % 90 % 1,5 % 22 % 40 % Umgebungstemperatur 23 C 0,9 % Erweiterte Messkammer > 40 % 60 % 1,3 % im Klimagenerator > 60 % 90 % 1,7 % Volumendurchfluss 5 ml/min 50 L/min Volumeter als Normal 0,3 % Q + 0,002 ml/min Q: Messwert von strömenden Gasen 10 ml/min 200 ml/min Laminar Flow Elemente 0,5 % Q + 0,02 ml/min Durchflussmessgeräte > 0,2 L/min 3,2 L/min als Normal 0,5 % Q + 0,32 ml/min oder -regler > 3,2 L/min 40 L/min 0,5 % Q + 4 ml/min mit einer Anzeige des Durchflusses oder mit > 40 L/min 620 L/min 0,5 % Q + 0,06 L/min einer elektronischen Schnittstelle zur Messwertübertragung Absolutdruck p abs Absolutdruck p abs Negativer und positiver Überdruck p e 0,05 bar 2 bar p abs, jedoch nicht kleiner als 60 µbar > 2 bar 20 bar p abs, jedoch nicht kleiner als 0,60 mbar > 20 bar 201 bar 0, p abs, jedoch nicht kleiner als 30 mbar 1 bar; 0, p abs, jedoch nicht 2 bar 701 bar kleiner als 1,0 mbar -1 bar > 0 bar 0 bar 1 bar DIN EN 837 Teil 1-3: 1997 DKD-R 6-1: 2014 EURAMET cg-17 Version 2.0 0,17 mbar 0,17 mbar Kalibriermedium: trockene Luft (rel. Feuchte < 10 %) Messbereiche bezogen auf trockene Luft bei 0 C; 1013,25 mbar Druckmedium: Gas Kalibriermethode: p abs = p e + p amb Die Messunsicherheit des Barometers ist noch zu berücksichtigen. Druckmedium: Öl Referenzwert (p abs = p amb) Die Messunsicherheit des Barometers ist noch zu berücksichtigen. Kalibriermethode: p abs = p e + p amb Druckmedium: Gas positiver Überdruck p e > 1 bar 19 bar > 19 bar 200 bar 0 bar;1 bar 700 bar p e, jedoch nicht kleiner als 0,60 mbar 0, p e, jedoch nicht kleiner als 30 mbar 0, p e, jedoch nicht kleiner als 1,0 mbar Druckmedium: Öl Referenzwert (p e = 0 bar) Gültigkeitsdauer: Ausstellungsdatum: Seite 22 von 31

24 Länge Messschieber für Außen-, Innen- und Tiefenmaße Bügelmessschrauben Messuhren Parallelendmaße aus Stahl nach DIN EN ISO 3650: mm 500 mm 0 mm 300 mm DAkkS-DKD-R 4-3 Blatt 9.1: 2010 DAkkS-DKD-R 4-3 Blatt 10.1: 2010 DAkkS-DKD-R 4-3 Blatt 11.1: 100 mm ,5 mm 100 mm DAkkS-DKD-R 4-3 Blatt 3.1: 2010 Messung der Abweichung des Mittenmaßes l c vom Nennmaß l n durch Unterschiedsmessung Messung der Abweichungen f o und f u vom Mittenmaß durch 5-Punkte- Unterschiedsmessung Für die kleinsten Messunsicherheiten sind die Anschiebbarkeit und Anschubmerkmale beider Messflächen des es mit einer geeigneten Planglasplatte zu prüfen. 30 µm l l: gemessene Länge 3 µm l 3 µm l Für das Mittenmaß: 0,1 µm + 0, l Für die Abweichungen f o und f u vom Mittenmaß: 0,08 µm 300 mm = Endwert des Messbereiches in waagerechter Lage l: gemessene Länge l: die Länge des Maßes in den Nennmaßen der Normale Messflächenqualität entsprechend den Festlegungen im QMH bzw. in den Arbeitsanweisungen Gültigkeitsdauer: Ausstellungsdatum: Seite 23 von 31

25 Vor-Ort-Kalibrierung Gleichspannung 0 V 0,6 µv Kurzschlussbrücke 0 V 220 mv U + 0,6 µv U: Messwert > 220 mv 2,2 V U + 1 µv > 2,2 V 11 V U + 3,5 µv > 11 V 22 V U + 6,5 µv > 22 V 220 V U + 80 µv > 220 V 1100 V U + 0,5 mv Gleichstromstärke 0 A 46 pa Leerlauf 0 A 1,1 µa I + 46 pa I: Messwert > 1,1 µa 11 µa I pa mit HP 3458A > 11 µa 110 µa I + 0,9 na > 110 µa 1,1 ma I + 6 na > 1,1 ma 11 ma I + 58 na > 11 ma 110 ma I + 0,6 µa > 110 ma 220 ma I + 0,8 µa I 2 /A > 110 ma 1 A I + 0,8 µa Fluke 5700A I 2 /A > 1 A 2,2 A über Shunt I + 25 µa > 1 A 20 A 0, I Stromzangen 0 A 50 A 1 N Wicklungen 0, I + 6 na I: Messwert Gesamtunsicherheit U abhängig von der rel. Unsicherheit W(I in) der Kalibrierstromstärke und dem Beitrag W DUT des Messobjekts > 50 A 1000 A 0, I Gleichstromstärke 0,2 µa < 2 µa an R N 1 GΩ I Gesamtunsicherheit U Ersatzableitstrom I EA 2 µa < 20 µa 0, I 20 µa 200 ma 0, I Gleichstromwiderstand abhängig von der rel. Unsicherheit W R des Kalibrierwiderstands R N: U = W R I EA 0 Ω 0,5 mω 2-Draht Kurzschluss 0 Ω 2,3 µω 4-Draht 500 µω 4,5 mω Konstantstromverfahren 0, R + 0,18 µω R: Messwert > 4,5 mω 2 Ω 0, R + 3 µω 0 Ω 11 Ω R + 58 µω > 11 Ω 110 Ω R + 0,6 mω > 110 Ω 1,1 kω R + 0,6 mω > 1,1 kω 11 kω R + 5,8 mω > 11 kω 110 kω R + 58 mω > 110 kω 1,1 MΩ R + 2 Ω > 1,1 MΩ 11 MΩ R + 0,1 kω > 11 MΩ 110 MΩ 0, R + 1 kω > 110 MΩ 1,1 GΩ R + 10 kω Konstantstromverfahren: Shunt, Fluke 5700A oder Fluke 5520A als Stromquelle und HP 3458A zur Messung des Spannungsabfalls, berechnet aus der Wurzel der Quadratsumme von W I und W U; W I ist die relative Unsicherheit der Kalibrierstromstärke W U ist die relative Unsicherheit der gemessenen Spannung am Widerstand Gültigkeitsdauer: Ausstellungsdatum: Seite 24 von 31

26 Festwerte 1 Ω; 1,9 Ω R Fluke 5700A 10 Ω; 19 Ω R 100 Ω; 190 Ω R 1 kω; 1,9 kω; 10 kω; 19 kω; 100 kω; 190 kω R R 1 MΩ; 1,9 MΩ R 10 MΩ; 19 MΩ R 100 MΩ 0, R Wechselstromwiderstand Wechselspannung Bereiche 10 mω 100 mω 45 Hz 65 Hz 1, R R: Messwert > 100 mω 1 kω 0, R > 1 kω 100 kω 1, R > 100 kω 1,6 MΩ 6, R 100 µv 22 mv 10 Hz < 20 Hz 0, U + 5 µv U: Messwert 20 Hz < 40 Hz 0, U + 5 µv 40 Hz 20 khz U + 5 µv > 20 khz 50 khz 0, U + 5 µv > 50 khz 100 khz 0, U + 7 µv > 100 khz 300 khz 1, U + 13 µv > 300 khz 500 khz 1, U + 25 µv > 500 khz 1 MHz 3, U + 25 µv > 22 mv 220 mv 10 Hz < 20 Hz 0, U + 13 µv 20 Hz < 40 Hz 0, U + 8 µv 40 Hz 20 khz U + 8 µv > 20 khz 50 khz 0, U + 8 µv > 50 khz 100 khz 0, U + 25 µv > 100 khz 300 khz 1, U + 25 µv > 300 khz 500 khz 1, U + 35 µv > 500 khz 1 MHz 3, U + 80 µv > 220 mv 2,2 V 10 Hz < 20 Hz 0, U + 80 µv 20 Hz < 40 Hz 0, U + 25 µv 40 Hz 20 khz U + 6 µv > 20 khz 50 khz 0, U + 16 µv > 50 khz 100 khz 0, U + 70 µv > 100 khz 300 khz 0, U + 0,13 mv > 300 khz 500 khz 0, U + 0,35 mv > 500 khz 1 MHz 1, U + 0,85 mv > 2,2 V 22 V 10 Hz < 20 Hz 0, U + 0,8 mv 20 Hz < 40 Hz 0, U + 0,25 µv 40 Hz 20 khz U + 60 µv > 20 khz 50 khz 0, U + 0,16 mv > 50 khz 100 khz 0, U + 0,35 mv > 100 khz 300 khz 0, U + 1,5 mv > 300 khz 500 khz 1, U + 4,3 mv > 500 khz 1 MHz 2, U + 8,5 mv > 22 V 220 V 10 Hz < 20 Hz 0, U + 8,0 mv 20 Hz < 40 Hz 0, U + 2,5 mv 40 Hz 20 khz U + 0,8 mv > 20 khz 50 khz 0, U + 3,5 mv > 50 khz 100 khz 0, U + 8 mv > 220 V 1100 V 15 Hz 50 Hz 0, U + 16 µv > 220 V 1100 V > 50 Hz 1 khz U + 3,5 mv Gültigkeitsdauer: Ausstellungsdatum: Seite 25 von 31