Hartmut Ernst. Grundlagen und Konzepte der Informatik

Transkript

1 Hartmut Ernst Grundlagen und Konzepte der Informatik

2 Die Reihe,.Lehrbuch, orientiert an den Lehrinhalten des Studiums an Fachhochschulen und Universitäten, bietet didaktisch gut ausgearbeitetes Know-how nach dem StatEH>f-the-Art des Faches für Studenten und Dozenten gleichermaßen. Unter anderem sind erschienen: Neui'ONIIe Netze und Fuzzy-sy.teme von D. auck, F. Klawonn und R. Kruse Interaktive Systeme on Chri tian tary Evolutionire Alprfthmen von Volker Nissen Stochaatlk von Gerhard Hübner Alprlthmlache Uneare Alpbra von Herbert Möller Neuronale Netze von Andreas Scherer ObJektorientiertes Pluc and Play on Andreas olymosl Rechnerve~ndun,. Strukturen von Bernhard Schürmann Rechnerarchitektur on Paul Herrmann Termeraetzunpayateme on Reinhard Bündgen Konstruktion dlcftaler Systeme on Fritz Mayer-Lindenberg Von Pascal zu AsHmbler von Peter Kammerer Theorie der Medizinlachen Informatik von Hans-Jürgen Seelo SPSS for Wlndowa von Wolf-Michael Kähler SMALLTALK von Peter P. Bothner und Wolf-Michael Kähler PASCAL von Doug Cooper und Michael Clancy Propammleren mit ja VA von Andreas Solymo i und 11 e ehrniedecke Bausteinbasierte Software von Günther Bauer Anwendunporientierte Wlrtachaftalnformatlk von Paul Alpar, Helnz Lothar Grob, Peter Weimann und Robert Wint r Orundlapn und Konzepte der Informatik von Hartmut Ernst

3 Hartmut Ernst Grundlagen und Konzepte der Informatik Eine Einführung in die Informatik ausgehend von den fundamentalen Grundlagen ~ Springer Fachmedien Wiesbaden GmbH

4 Die Deutsche Bibliothek - CIP-Einheitsaufnahme Ein Titeldatensatz für diese Publikation ist bei Der Deutschen Bibliothek erhältlich. Alle Rechte vorbehalten Springer Fachmedien Wiesbaden 2000 Ursprünglich erschienen bei Friedr. Vieweg & Sohn Verlagsgesellschaft mbh, Braunschweig/Wiesbaden 2000 Das Werk einschließlich aller seiner Teile ist urheberrechtiich geschützt. Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlags unzulässig und strafbar. Das gilt insbesondere für VervielfäItigungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Höchste inhaltliche und technische Qualität unserer Produkte ist unser Ziel. Bei der Produktion und Auslieferung unserer Bücher wollen wir die Umwelt schonen: Dieses Buch ist auf säurefreiem und chlorfrei gebleichtem Papier gedruckt. Die Einschweißfolie besteht aus Polyäthylen und damit aus organischen Grundstoffen, die weder bei der Herstellung noch bei der Verbrennung Schadstoffe freisetzen. Konzeption und Layout des Umschlags: Ulrike Weigel, ISBN ISBN (ebook) DOI /

5 Inhaltsverzeichnis V Inhaltsverzeichnis 1 Einführung Was ist eigentlich Informatik? Zur Geschichte der Informatik Frühe Zähl- und Rechensysteme Die Entwicklung von Rechenmaschinen Die Computer-Generationen Prinzipieller Aufbau von digitalen Rechenanlagen Das EVA-Prinzip Zentraleinheit und Busstruktur System-Komponenten Zahlensysteme und binäre Arithmetik Darstellung von Zahlen Umwandlung von Zahlen in verschiedene Darstellungssysteme Binäre Arithmetik 21 2 Nachricht, Information und Codierung Abgrenzung der Begriffe Nachricht und Information Biologische Aspekte Sinnesorgane Datenverarbeitung im Gehirn Der genetische Code Diskretisierung von Nachrichten Rasterung Quantelung Wahrscheinlichkeit und Kombinatorik Die relative Häufigkeit Die mathematische Wahrscheinlichkeit Totale Wahrscheinlichkeit und Bayes-Formel Statistische Kenngrößen Fakultät und Binomialkoeffizienten Kombinatorik Information und Wahrscheinlichkeit Der Informationsgehalt einer Nachricht Die Entropie einer Nachricht Zusammenhang mit der physikalischen Entropie Wortlänge und Redundanz Definition des Begriffs Codierung Die mittlere Wortlänge Die Code-Redundanz Beispiele für Codes Code-Erzeugung Code-Bäume Der Huffman-Aigorithmus Der Fano-Aigorithmus Code-Sicherung 71

6 VI Inhaltsverzeichnis Die Hamming-Distanz m-aus-n-codes Codes mit Paritäts-Bits Fehlertolerante Codes Lineare Codes Datenkompression Vorbemerkungen und statistische Datenkompression Lauflängen-Codierung Differenz-Codierung Arithmetische Codierung Der LZW-Aigorithmus Datenreduktion durch unitäre Transformationen Verschlüsselung Vorbemerkungen Substitutions-Chiffren Produkt-Chiffren und Enigma Der Data Encryption Standard (DES) Public-Key Verschlüsselung Schaltalgebra und digitale Grundschaltungen Aussagenlogik Der Wahrheitswert von Aussagen Verknüpfungen von Aussagen Die Axiome der Aussagenlogik Boole'sche Algebra Der Boole'sche Verband Schaltfunktionen Das Boole'sche Normaltorrn-Theorem Schaltnetze Logische Gatter Beispiele für Schaltnetze Schaltwerke und digitale Grundschaltungen Verzögerung und Rückkopplung Addierwerke Flip-Flops Analog- und Hybridrechner Grundkonzepte und Anwendungsgebiete Komponenten von Analogrechnern Rechnerarchitekturen und Betriebssysteme Grundprinzipien und Klassifikationen Ordnungsschemata Die Klassifikation nach Flynn Die Von-Neumann-Architektur Hardware-Struktur Operationsprinzip Betriebssysteme Grundfunktionen von Betriebssystemen Klassifizierung von Betriebssystemen 161

7 Inhaltsverzeichnis VII MS-DOS als Beispiel für ein einfaches Betriebssystem Das Multitasking-Konzept MS-Windows Unix 4.4 Parallel-Strukturen Motivation Verbindungsstrukturen Multitasking und Parallelverarbeitung Vektorrechner und Pipelines Feldrechner Betriebssysteme für Parallel-Rechner 5 Maschinenorientierte Programmiersprachen 5.1 Die interne Organisation eines Mikroprozessors Maschinensprache und Assemblersprache Der Aufbau einer CPU am Beispiel des M Der Stapelspeicher Das Status-Register User-Mode und Supervisor-Mode Funktions-Code Asynchrone Bussteuerung Synchrone Bussteuerung Unterbrechungen (lnterrupts) Direct Memory Access (OMA) Starten, Halten und Busfehler 5.2 Befehlsformate und Befehlsausführung Befehlsformate Befehlsausführung 5.3 Adressierungsarten Prinzipielle Adressierungsmöglichkeiten Die Adressierungsarten des M Der Befehlssatz des M Datenübertragungsbefehle Arithmetische Operationen Schiebe- und Rotierbefehle Bit-Manipulationsbefehle BCD-Arithmetik Logische Befehle Steuerbefehle Programmbeispiele 6 Höhere Programmiersprachen 6.1 Zur Struktur höherer Programmiersprachen Überblick über einige höhere Programmiersprachen Die Ebenen des Informationsbegriffs in der Sprache Systeme und Strukturen 6.2 Methoden der Syntaxbeschreibung Die Backus-Naur-Form Syntax-Graphen

8 VIII Inhaltsverzeichnis Eine einfache Sprache als Beispiel: c Eine moderne Programmiersprache: C Einführung Überblick über den Aufbau eines C-Programms Datentypen Operatoren und Ausdrücke Anweisungen Funktionen Speicherklassen und Module Ein/Ausgabe-Funktionen Verarbeitung von Zeichenketten Das Zeigerkonzept in C Die objektorientierte Erweiterung von C: c Das Konzept der objektorientierten Programmierung Einfache Spracherweiterungen Klassen und Objekte Vererbung Polymorphismus und Überladen Methodik der Software-Entwicklung und DV-Organisation Stufen der Software-Entwicklung Was ist eigentlich Software? Qualitätsmerkmale von Software Systemanalyse und Systemspezifikation Algorithmen-Entwurf Programmierung Programm-Test Dokumentation nstallation Software-Entwicklung als iterativer und evolutiver Prozess Hilfsmittel für den Entwurf von Algorithmen Pseudo-Code Ablauf- oder Flussdiagramme Struktogramme nach Nassi-Shneiderman Entscheidungstabellen Datenverarbeitungs-Organisation Definition des Begriffs Organisation Organisation und Systemtheorie Die Einbindung der DV in die betriebliche Organisation Organisation von DV-Projekten in Projektgruppen Der Ablauf von DV-Projekten Planung und Kontrolle der Organisationsarbeit Aufgaben und Aufbau von Rechenzentren Geschichtliche Entwicklung von Rechenzentren Aufgaben und Arten von Rechenzentren Verteilung der Aufgaben in Rechenzentren Planung und Einrichtung von Rechenzentren Datenschutz und Datensicherheit 354

9 Inhaltsverzeichnis IX Datenschutz Datensicherheit Automatentheorie und formale Sprachen Grundbegriffe der Automatentheorie Definition von Automaten Darstellung von Automaten Der akzeptierte Sprachschatz eines Automaten Beispiele für Automaten Halbgruppen Die freie Halbgruppe Die induzierte Halbgruppe Kellerautomaten Turing-Maschinen Definition von Turing-Maschinen Beispiele für Turing-Maschinen Realisierung einer Turing-Maschine als C-Programm Einführung in die Theorie der formalen Sprachen Definition von formalen Sprachen Die Chomsky-Hierarchie Das Pumping-Theorem Die Analyse von Wörtern Compiler Einführung Beispiel: Simulation eines Taschenrechners Algorithmen Berechenbarkeil Eine erste Begriffsklärung Entscheidungsproblem und Church-Turing-These Das Halteproblem Primitiv rekursive Funktionen ~-rekursive Funktionen und die Ackermann-Funktion Die bb-funktion Komplexität Einführung Polynomiale und exponentielle Algorithmen NP-Vollständigkeit Optimierung von Algorithmen Minimierung der Anzahl von Operationen Teile und Herrsche Näherungsweise Problemlösung durch Greedy-Strategien Genetische Algorithmen Evolutionsstrategien Beispiel für einen genetischen Algorithmus Probabilistische Algorithmen Zufallszahlen Monte-Cario-Methoden Probabilistischer Primzahltest 453

10 X Inhaltsverzeichnis Der heuristische Ansatz Rekursion Definition und einfache Beispiele Rekursive Programmierung und Iteration Backtracking Datenstrukturen Einfache Datenstrukturen Einfache Datentypen Lineare strukturierte homogene Datentypen Verbunde Sequentielle Datenstrukturen Sequenzen und Files Strings und Texte Verkettete lineare Listen Stapel und Schlangen Sequentielle Speicherorganisation Suchverfahren Einfache Suchverfahren Gestreute Speicherung (Hashing) Direkte Sortierverfahren Vorbemerkungen Sortieren durch direktes Einfügen Sortieren durch direktes Auswählen Sortieren durch direktes Austauschen (Bubble-Sort) Höhere Sortierverfahren Sheii-Sort Quick-Sort Eine generische Sortiertunktion Vergleich der Sortierverfahren Sortieren externer Files Direktes Mischen Natürliches Mischen n-weg-mischen Bäume Definitionen Operationen auf Binärbäumen Ausgleichen von Bäumen und AVL-Bäume Heaps und Heap-Sort Vielwegbäume Graphen Definitionen und einführende Beispiele Adjazenzmatrix und Erreichbarkeitsmatrix Verkettete Speicherung von Graphen Suchen, Einfügen und Löschen Durchsuchen von Graphen Halbordnung und topologisches Sortieren Minimal spannende Bäume 654

11 Inhaltsverzeichnis XI Union-Find-Algorithmen 11 Kommunikations- und Informationstechnik 11.1 Informationsübertragung und Datenkommunikation Einführung Technische Grundlagen der Datenübertragung Strukturen und Operationsprinzipien von Netzen Das OSI-Schichtenmodell der Datenkommunikation Beispiele für Schnittstellen und Netze Lokale Rechnernetze 11.2 Datenbanken Einführung und Definitionen Relationale Datenbanken Die Datenbanksprache SQL 11.3 Multimedia-Anwendungen Einführung und Definitionen Licht und Farbe Die Bearbeitung digitaler Bilder Die Einbindung von Komponenten in ein Dokument 11.4 Das Internet Überblick über das Internet Die Seitenbeschreibungssprache HTML JavaScript 11.5 Die Programmiersprache Java Einführung Aufbau einer Java-Applikation Klassen Ein/Ausgabe-Funktionen Applets Threads Literaturverzeichnis Sachwertverzeichnis

12 XII Vorwort Vorwort Wer sich heute eingehender mit Informatik beschäftigt, sei es als Student oder als Praktiker im Beruf, dem ist die Frage nach der Standortbestimmung seines Fachgebiets vertraut: Was ist eigentlich Informatik? Es gibt wenige Arbeitsfelder, die so interdisziplinär angelegt sind wie gerade die Informatik. Wer beispielsweise ein Lehrbuch über Wirtschaftsinformatik zur Hand nimmt (im Literaturverzeichnis sind einige genannt), wird ganz erhebliche Unterschiede in Auswahl und Darstellung des Stoffes im Vergleich mit diesem Buch bemerken. Ebenso wird der Datenbank-Profi oder der mehr an der Hardware orientierte Entwickler manches Detail vermissen. Dennoch, die grundlegenden Konzepte und Fundamente sind für die verschiedenen Richtungen dieselben. Es wurde daher mit diesem Buch der Versuch unternommen, einen möglichst umfassenden Überblick und Einblick in die wesentlichen Grundlagen und Konzepte der Informatik zu vermitteln. Dabei ging es nicht nur um die Darstellung von Sachverhalten, sondern auch darum, Zusammenhänge verständlich zu machen und zu vertiefen, die über den im Grundstudium gebotenen Stoff hinausgehen. Auch sollte der Zugang zu weiterführenden Büchern und zur Original-Literatur erleichtert werden. Als roter Faden zieht sich die Betonung des algorithmischen Ansatzes durch dieses Buch, denn nach Ansicht des Autors sind gerade Algorithmen und deren effiziente Implementierung in Soft- und Hardware das zentrale Thema der Informatik. Die Stoffauswahl ist außerdem an Themen orientiert, die über längere Zeit relevant bleiben dürften. Daher wird auf Produkte und kommerzielle Software-Pakete kaum eingegangen, so wichtig und aktuell diese aus Anwendersieht auch sein mögen. Dennoch versteht sich dieses Lehrbuch durchaus als anwendungsorientiert, wenn auch nicht im üblichen Sinne der angewandten Informatik; vielmehr wurde der Autor von der Überzeugung geleitet, dass Innovationen nur der leisten kann, der kreativ auf der Basis von.first principles" zu denken gelernt hat. Der Stellenwert der Theorie auch für den Praktiker wird damit betont. Von dem breiten Spektrum, das unter dem Sammelbegriff ",nformatik" subsumiert wird, sieht der praxisorientierte lnformatikanwender aus der Distanz in erster Linie die anwendungsbetonte Informatik, die Lösungen für konkrete Probleme verkauft: computer-aided anything. Für ein tiefergehendes Verständnis genügt diese Beschränkung aber mit Sicherheit nicht. Auf der anderen Seite erfordert die hier angestrebte Orientierung an der Praxis nicht, dass jeder Satz im mathematischen Sinne streng bewiesen werden muss. Es ist ja gerade der überbetonte Formalismus mancher Theorie, der auf den Praktiker abschreckend wirkt. Für den Theorie-Nutzer genügt es oft, die Formulierung eines Satzes zu verstehen, seinen Anwendungsbereich und seine Grenzen zu begreifen sowie Einsicht in seine Gültigkeit zu erhalten, wozu an Stelle eines Beweises auch ein erhellendes Beispiel dienen mag. Der Autor hofft jedenfalls, mit dem hier gewählten Ansatz eine Lücke zu füllen und Studenten wie Praktikern ein nützliches Werk an die Hand gegeben zu haben. Zur Erleichterung des Einstiegs in die Lektüre, werden im Folgenden die Themen der elf Kapitel kurz charakterisiert.

13 Vorwort XIII ln Kapitel 1 wird nach einer geschichtlichen Einführung und einem kleinen Überblick über den prinzipiellen Aufbau von Rechnern die binäre Arithmetik behandelt. Kapitel 2 beschäftigt sich ausführlich mit den begrifflichen und mathematischen Konzepten der für die Informatik fundamentalen Begriffe Nachricht, lnfonnation und Codierung. Jeder, der sich ernsthaft mit der Informatik befasst, sollte mit diesen Grundlagen gut vertraut sein, da dies das Verständnis der folgenden Kapitel erleichtern wird. Da Information und Wahrscheinlichkeit in enger Beziehung zueinander stehen, werden auch die erforderlichen mathematischen Methoden erläutert. Im wichtigsten Teil dieses Kapitels geht es dann um Entropie, Redundanz, Code Erzeugung und Code-Sicherung. Anschließend wird auf zwei in der Praxis zunehmend an Bedeutung gewinnende Aspekte der Codierungstheorie eingegangen, nämlich auf Methoden zur Datenkompression und zur Verschlüsselung. Dazu gehört auch eine detaillierte Erläuterung der wichtigsten Algorithmen. Der Stoff umfasst und vertieft den Inhalt entsprechender Grundvorlesungen. Kapitel 3 befasst sich mit den Grundlagen der Computer-Hardware. Nach einer knappen Einführung in die Aussagenlogik und die Boole'sche Algebra werden Schaltnetze und Schaltwerke erläutert. Am Schluss des Kapitels steht eine kurze Erklärung der Funktionsweise von Analogrechnern. ln Kapitel 4 werden zwei Schwerpunkte gesetzt, nämlich Rechnerarchitekturen und Betriebssysteme. Zunächst werden die üblichen Klassifikationsschemata eingeführt. Es folgt eine Erläuterung der für die Mehrzahl der Rechner maßgeblichen Von Neumann-Architektur sowie eine Einführung in die Konzepte der Parallelverarbeitung. Zu dem wichtigen Thema Betriebssysteme wird hier die Grundlage zum Verständnis weiterführender Literatur gelegt. Kapitel 5 ist einem oft vernachlässigten Thema gewidmet: den maschinenorientierten Programmiersprachen und der internen Organisation von Mikroprozessoren. Einerseits ist die Kenntnis der internen Abläufe bei der Ausführung von Maschinenbefehlen wesentlich für ein vertieftes Verständnis von höheren Programmiersprachen und Compilern. Andererseits ist der Befehlssatz des hier als Beispiel gewählten M68000 Mikroprozessors ein guter Einstieg in die praktisch sehr bedeutsame Assembler-Programmierung von Mikrocontrollern, die millionenfach in eingebetteten Systemen vom Fotoapparat bis zur Waschmaschine zum Einsatz kommen. Kapitel 6 behandelt dann höhere Programmiersprachen. Hier geht es zunächst um die prinzipielle Struktur von Hochsprachen sowie um die wichtigsten Methoden zur Beschreibung der Syntax von Programmiersprachen, nämlich die Backus-Naur-Fonn und Syntaxgraphen. Es schließt sich ein knapper und einigermaßen vollständiger Überblick über die Grundlagen der weit verbreiteten Programmiersprache C an, der aber keineswegs ein speziell diesem Thema gewidmetes Lehrbuch ersetzen kann. Besonderer Wert wird auf das Zeigerkonzept gelegt, das in Kapitel nochmals vertieft wird. Die Beschreibung der umfangreichen C-Funktions-Bibliothek beschränkt sich dagegen auf einige Beispiele. Den letzten Abschnitt bildet eine kurze Einführung in das objektorientierte Paradigma am Beispiel von c++, das in Kapitel 11.5 im Zusammenhang mit Java nochmals aufgegriffen wird.

14 XIV Vorwort Kapitel 7 gibt einen einfach gehaltenen Überblick über die Methodik der Software Entwicklung (Software-Engineering) und Datenverarbeitungs-Organisation. Es handelt sich in weiten Teilen eher um eine Hinführung zum Thema, da ein detailliertes Eingehen auf komplexe Entwurfs-Methoden und -Werkzeuge den Rahmen dieses Buches sprengen würde. Kapitel 7 enthält auch einen Abschnitt über die Themen Datenschutz und Datensicherheit, wobei der Schwerpunkt auf dem Bundesdatenschutzgesetz liegt. Kapitel 8 beschäftigt sich mit der Automatentheorie und der Theorie der formalen Sprachen, die in der theoretischen Informatik als Grundlage von Programmiersprachen und Compilern einen wichtigen Platz einnehmen. Auch das Konzept der Turing-Maschine, die als algebraische Beschreibung eines Computers aufgefasst werden kann, wird ausführlich erklärt. Dabei wird mehr Wert auf eine verständliche Darstellung der grundlegenden Konzepte gelegt als auf mathematische Strenge. Am Ende des Kapitels wird kurz auf Compiler eingegangen, allerdings ohne dieses Thema zu vertiefen. Kapitel 9 baut unmittelbar auf Kapitel 8 auf. Zunächst werden die Begriffe Berechenbarkeif und Komplexität erklärt und die Grenzen des mit Computern überhaupt Machbaren aufgezeigt. Es schließen sich Abschnitte über das Optimieren von Algorithmen und über näherungsweise Lösungsverfahren an, wobei unter anderem auch genetische und probabilistische Algorithmen erläutert werden. Kapitel 8 und 9 entsprechen zusammen einem Grundkurs in theoretischer Informatik an Fachhochschulen. Kapitel 10 ist das umfangreichste Kapitel dieses Buchs. Es ist dem weiten Feld der Datenstrukturen gewidmet sowie den Algorithmen, die auf diesen Strukturen arbeiten. Nach einer Einführung in einfache Datenstrukturen wie Texte, Felder und Verbunde werden lineare Listen, Bäume und Graphen behandelt. Dabei geht es immer auch um die damit verbundenen Operationen, insbesondere Suchen und Sortieren. Durch zahlreiche in C geschriebene Beispielprogramme wird die praktische Anwendbarkeit dieses Buches erhöht. Kapitel 10 deckt den Stoff einschlägiger Vorlesungen in höheren Semestern ab. Den Abschluss bildet Kapitel 11. Unter dem Titel Kommunikations- und Informationstechnik sind hier einige recht unterschiedliche Themen zusammengefasst. Den Anfang bildet eine Einführung in die Technik der Informationsübertragung und Kommunikation in Daten- und Rechnernetzen, wozu auch die Erläuterung des OSI Schichtenmodells gehört. Es schließt sich ein kurzer Überblick über Datenbank Konzepte an, mit einem Fokus auf relationale Datenbanken. Breiterer Raum ist der Multimedia-Technik gewidmet, insbesondere der Bearbeitung von Bildern, die ja in der Regel den Hauptbestandteil multimedialer Dokumente ausmachen. Im letzten Abschnitt werden die Grundlagen des Internet und der dafür wesentlichen Werkzeuge HTML und insbesondere Java vorgestellt. Ein Buch schreibt man nicht alleine; etliche Freunde und Kollegen haben mir dabei mit wertvollen Anregungen geholfen. Besonders wichtig war mir die Unterstützung meiner Familie. Dafür möchte ich mich herzlich bedanken. Rosenheim, 1999 Hartmut Ernst