Einführung in die Informationstheorie - Henze, Ernst (Vieweg+Teubner Verlag, 1967)
Die intuitiven Gründe fUr die Wahl eines logarithmischen Ma 1. Ziele der Informationstheorie Bes sind z. B. folgende: 1. Ein logarithmisches MaB ist in der Ingenieurpraxis nütz Die Informationstheorie ist -mathematisch gesehen -einer licher. Beispielsweise hat eine Relaisgruppe die doppelte der neuesten Zweige der wahrscheinlichkeitstheorie. Seit dem Anzahl möglicher Stellungen bei Hinzunahme eines weiteren Erscheinen der ~rsten fundamentalen Arbeit von C 1 a u d e E. ~elais. Das logarithmische MaB addiert log 2, speziell Shannon (BellSyst. T.l. 27(1948), 379"423,623-656) ~log 2 = 1 zu dem vorhandenen Wert der Möglichkeiten. hat die Informationstheorie immer mehr die Aufmerksamkeit der Mathematiker auf sich gezogen und es sind -neben einer 2. Mathematisch sind manche der Grenzbetrachtungen leich Fülle von Arbeiten, die Anwendungen betreffen und die vor ter, als in einem direkt proportionalen o.ä. MaB. nehmlich von Ingenieuren geschrieben wurden -eine groBe Historisch hat sich der Gebrauch des Logarithmus zur Basis 2 Zahl rein mathematischer Arbeiten auf diesem Gebiet erschie entwickelt, man spricht bei der Messung der Information dann nen. Die grundlegendsten sind am SchluB der Arbeit zitiert vom 'binary digit' = 'bit' • Es ist ferner eine Anzahl von Lehrbüchern zu diesem Thema' Ein Nachrichtenübertragungssystem ft wieder im allgemeinsten erschienen z. B. : Sinne verstanden _ besteht schematisch aus mehreren Teilen 1. Brillouin, L.: Science and Information Theory, wobei aber die Trennung in die einzelnen Teile z. T" will- ' New York 1956. kürlich ist. 2. Feinstein, A.: Foundation of Information Theory, New York 1958