Optimierungsmethoden: Einführung in die klassischen, naturanalogen und neuronalen Optimierungen
Gespeichert in:
1. Verfasser: | |
---|---|
Format: | Buch |
Sprache: | German |
Veröffentlicht: |
Wiesbaden
Springer Fachmedien Wiesbaden GmbH
2023
Springer Vieweg 2023 |
Ausgabe: | 1. Auflage 2023 |
Schlagworte: | |
Online-Zugang: | Inhaltstext http://www.springer.com/ Inhaltsverzeichnis Inhaltsverzeichnis |
Beschreibung: | XXII, 408 Seiten Illustrationen, Diagramme 23.5 cm x 15.5 cm |
ISBN: | 9783658398545 365839854X |
Internformat
MARC
LEADER | 00000nam a22000008c 4500 | ||
---|---|---|---|
001 | BV049569433 | ||
003 | DE-604 | ||
005 | 20240315 | ||
007 | t | ||
008 | 240214s2023 gw a||| |||| 00||| ger d | ||
015 | |a 22,N42 |2 dnb | ||
016 | 7 | |a 1270357999 |2 DE-101 | |
020 | |a 9783658398545 |c Festeinband : circa EUR 49.99 (DE), circa EUR 51.39 (AT), circa CHF 55.50 (freier Preis), circa EUR 46.72 |9 978-3-658-39854-5 | ||
020 | |a 365839854X |9 3-658-39854-X | ||
024 | 3 | |a 9783658398545 | |
028 | 5 | 2 | |a Bestellnummer: 978-3-658-39854-5 |
028 | 5 | 2 | |a Bestellnummer: 89214346 |
035 | |a (OCoLC)1348180062 | ||
035 | |a (DE-599)DNB1270357999 | ||
040 | |a DE-604 |b ger |e rda | ||
041 | 0 | |a ger | |
044 | |a gw |c XA-DE-HE | ||
049 | |a DE-739 | ||
084 | |a SK 870 |0 (DE-625)143265: |2 rvk | ||
084 | |8 1\p |a 004 |2 23sdnb | ||
100 | 1 | |a Hollstein, Ralf |e Verfasser |0 (DE-588)1299947263 |4 aut | |
245 | 1 | 0 | |a Optimierungsmethoden |b Einführung in die klassischen, naturanalogen und neuronalen Optimierungen |c Ralf Hollstein |
250 | |a 1. Auflage 2023 | ||
263 | |a 202303 | ||
264 | 1 | |a Wiesbaden |b Springer Fachmedien Wiesbaden GmbH |c 2023 | |
264 | 1 | |b Springer Vieweg |c 2023 | |
300 | |a XXII, 408 Seiten |b Illustrationen, Diagramme |c 23.5 cm x 15.5 cm | ||
336 | |b txt |2 rdacontent | ||
337 | |b n |2 rdamedia | ||
338 | |b nc |2 rdacarrier | ||
650 | 0 | 7 | |a Optimierung |0 (DE-588)4043664-0 |2 gnd |9 rswk-swf |
653 | |a Optimierung | ||
653 | |a Optimierungsmethoden | ||
653 | |a evolutionäre Algorithmen | ||
653 | |a Machine Learning | ||
653 | |a schwarmintelligente Methoden | ||
653 | |a naturanaloge Optimierungsmethoden | ||
653 | |a Künstliche Intelligenz | ||
653 | |a Neuronale Netze | ||
653 | |a Reinforcement Learning | ||
653 | |a Pointer Networks | ||
653 | |a kombinatorische Optimierung | ||
653 | |a Optimierungsprobleme | ||
689 | 0 | 0 | |a Optimierung |0 (DE-588)4043664-0 |D s |
689 | 0 | |5 DE-604 | |
710 | 2 | |a Springer Fachmedien Wiesbaden |0 (DE-588)1043386068 |4 pbl | |
776 | 0 | 8 | |i Erscheint auch als |n Online-Ausgabe |z 9783658398552 |
856 | 4 | 2 | |m X:MVB |q text/html |u http://deposit.dnb.de/cgi-bin/dokserv?id=c540e2271b754c9f96ba3c69d7b7d979&prov=M&dok_var=1&dok_ext=htm |3 Inhaltstext |
856 | 4 | 2 | |m X:MVB |u http://www.springer.com/ |
856 | 4 | 2 | |m DNB Datenaustausch |q application/pdf |u http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000001&line_number=0001&func_code=DB_RECORDS&service_type=MEDIA |3 Inhaltsverzeichnis |
856 | 4 | 2 | |m Digitalisierung UB Passau - ADAM Catalogue Enrichment |q application/pdf |u http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000003&line_number=0002&func_code=DB_RECORDS&service_type=MEDIA |3 Inhaltsverzeichnis |
999 | |a oai:aleph.bib-bvb.de:BVB01-034914665 | ||
883 | 1 | |8 1\p |a vlb |d 20221015 |q DE-101 |u https://d-nb.info/provenance/plan#vlb |
Datensatz im Suchindex
_version_ | 1804186426455097344 |
---|---|
adam_text | TEIL
I
OPTIMIERUNGSPROBLEME
1
EINFUEHRUNG
............................................................................................
3
1.1
OPTIMIERUNGSPROBLEME
IN
DER
REALEN
WELT
.................................
3
1.2
GRUNDBEGRIFFE
DER
OPTIMIERUNG
.................................................
5
1.2.1
GLOBALES
UND
LOKALES
OPTIMUM
.................................
5
1.2.2
UMWANDLUNG EINES
MAXIMIERUNGSPROBLEMS
IN
EIN
MINIMIERUNGSPROBLEM
UND
UMGEKEHRT
............
5
1.2.3
NOTATIONEN
.................................................................
6
1.2.4
SUPREMUM
UND
INFIMUM
...........................................
6
1.2.5
KONTINUIERLICHE,
DISKRETE
UND
KOMBINATORISCHE
OPTIMIERUNG
..............................................................
7
2
KONTINUIERLICHE
OPTIMIERUNGSPROBLEME
.............................................
9
2.1
GRAPH
EINER
FUNKTION
..................................................................
9
2.2
OPTIMIERUNGEN
MIT
NEBENBEDINGUNGEN
......................................
10
2.3
ANWENDUNGSBEISPIELE
................................................................
11
2.4
UNIMODALE
UND
MULTIMODALE
FUNKTIONEN
..................................
14
2.5
KONVEXE
UND
KONKAVE
FUNKTIONEN
..............................................
14
2.6
EXTREMA
KONVEXER
UND
KONKAVER
FUNKTIONEN
..............................
15
3
KOMBINATORISCHE
OPTIMIERUNGSPROBLEME
.........................................
17
3.1
EINFUEHRENDE
BEISPIELE
................................................................
17
3.1.1
PROBLEM
DES
HANDLUNGSREISENDEN
.............................
18
3.1.2
RUCKSACKPROBLEM
.......................................................
19
3.2
LOESUNGSPRAESENTATIONEN
................................................................
20
3.2.1
KOMBINATORIK
.............................................................
21
3.2.2
GRAPHEN
.....................................................................
23
3.3
GRAPHENPROBLEME
........................................................................
27
3.3.1
KNOTENUEBERDECKUNGSPROBLEM
...................................
28
3.3.2
MAXIMALES
CLIQUENPROBLEM
.......................................
29
3.3.3
STABILITAETSPROBLEM
.....................................................
30
XI
XII
INHALTSVERZEICHNIS
3.3.4
ZUSAMMENHANG
ZWISCHEN
STABILITAETS-,
KNOTENUEBERDECKUNGS
UND
MAXIMALEM
CLIQUENPROBLEM
........................................................
32
3.3.5
GRAPHEN-FAERBUNGSPROBLEM
.......................................
33
3.3.6
MAX-CUT-PROBLEM
.....................................................
35
3.4
VEHICLE-ROUTING-PROBLEME
.........................................................
37
3.4.1
EINFUEHRENDES
BEISPIEL
...............................................
37
3.4.2
GRUNDVERSION
DES
VRP
...............................................
39
3.4.3
VARIANTEN
DES
VRP
.....................................................
40
3.5
SCHEDULING-PROBLEME
..................................................................
41
3.5.1
EINFUEHRENDES
BEISPIEL
...............................................
42
3.5.2
GRUNDVERSION
DES
SCHEDULING-PROBLEMS
...................
42
,
3.5.3
KLASSIFIKATION
VON
SCHEDULING-PROBLEMEN
................
44
3.5.4
BEISPIELE
VON
SCHEDULING-PROBLEMEN
.......................
44
3.6
ZUSCHNITTPROBLEME
UND
PACKUNGSPROBLEME
...............................
45
3.6.1
DIMENSION
VON
ZUSCHNITT
UND
PACKUNGSPROBLEMEN
..................................................
45
3.6.2
BIN-PACKING-PROBLEM
.................................................
46
3.6.3
EINDIMENSIONALE
........................................................
46
3.6.4
ZWEIDIMENSIONAL
C&P-PROBLEME
.............................
47
3.6.5
DREIDIMENSIONALE
C&P-PROBLEME
.............................
49
LITERATUR
..................................................................................................
50
4
LINEARE
OPTIMIERUNGSPROBLEME
.........................................................
51
4.1
EINFUEHRUNGSBEISPIEL
(PRODUKTIONSPROBLEM)
...............................
51
4.2
STANDARDFORM EINES
LINEAREN
OPTIMIERUNGSPROBLEMS
.................
52
4.3
ANWENDUNGSBEISPIEL
(TRANSPORTPROBLEM)
.................................
53
4.4
GANZZAHLIGE
LINEARE
OPTIMIERUNGSPROBLEME
.............................
54
5
MULTIKRITERIELLE
OPTIMIERUNGSPROBLEME
.............................................
57
5.1
DEFINITIONEN
...............................................................................
57
5.2
MULTIKRITERIELLES
OPTIMIERUNGSPROBLEM
IN
DER
GRUNDVERSION
............................................................................
58
5.3
EINFUEHRENDES
BEISPIEL
...............................................................
59
5.4
PARETO-DOMINANZ
.......................................................................
60
TEIL
II
KLASSISCHE
OPTIMIERUNGSMETHODEN
6
ANALYTISCHE
METHODEN
........................................................................
65
6.1
GRUNDBEGRIFFE
DER
ANALYSIS
.......................................................
66
6.1.1
DEFINITIONEN
................................................................
66
6.2
DER
SATZ
VOM
MAXIMUM
UND
MINIMUM
...................................
67
6.3
ABLEITUNG
EINER
FUNKTION
...........................................................
68
6.3.1
SEKANTEN
UND
TANGENTENSTEIGUNG
.............................
68
6.3.2
ABLEITUNG
EINER
FUNKTION
...........................................
69
6.3.3
BEISPIELE
VON
ABLEITUNGEN
UND
ABLEITUNGSREGELN
...
69
INHALTSVERZEICHNIS
XIII
6.4
EXTREMWERTBESTIMMUNG FUER
FUNKTIONEN
MIT
EINER
VARIABLEN.
..
70
6.5
EXTREMWERTBESTIMMUNG FUER
FUNKTIONEN
MIT
ZWEI
VARIABLEN
...
72
6.5.1
PARTIELLE
ABLEITUNGEN
.................................................
72
6.5.2
NOTWENDIGE
BEDINGUNG
FUER
EIN
EXTREMUM
...............
73
6.5.3
HINREICHENDE
BEDINGUNG
FUER
LOKALE
EXTREMA
.............
76
6.6
LAGRANGE-METHODE
.....................................................................
78
6.6.1
GRADIENT
EINER
FUNKTION
.............................................
78
6.6.2
RICHTUNGSABLEITUNG.....................................................
79
6.6.3
HOEHENLINIE
................................................................
80
6.6.4
EIGENSCHAFTEN
DES
GRADIENTEN
...................................
81
6.6.5
LAGRANGE-FUNKTION
.....................................................
81
6.6.6
LANGRANGE-METHODE
...................................................
83
6.6.7
ANWENDUNGSBEISPIEL
.................................................
83
6.6.8
LAGRANGE-METHODE
FUER
FUNKTIONEN
MIT
MEHR
ALS
ZWEI
VARIABLEN
.........................................................
84
6.7
GRADIENTENVERFAHREN
...................................................................
84
6.7.1
ABLAUF
DES
GRADIENTENABSTIEGSVERFAHRENS
.................
85
6.7.2
SCHRITTWEITENBESTIMMUNG...........................................
86
6.7.3
GRADIENTENVERFAHREN
ZUR
BESTIMMUNG
LOKALER
MAXIMA
........................................................
87
7
METHODEN
ZUR
LOESUNG
KOMBINATORISCHER
OPTIMIERUNGSPROBLEME
........................................................................
89
7.1
ENUMERATIONSMETHODE
..............................................................
90
7.2
BRANCH-AND-BOUND-VERFAHREN
...................................................
91
7.2.1
DIE
METHODE
DES
BRANCH-AND-BOUND-VERFAHRENS
...
91
7.2.2
BRANCH-AND-BOUND-VERFAHREN
FUER
DAS
TSP
...............
92
7.3
DYNAMISCHE
PROGRAMMIERUNG
...................................................
93
7.4
GREEDY-ALGORITHMUS
.................................................................
97
7.4.1
GREEDY-ALGORITHMUS
FUER
DAS
MUENZWECHSEL-PROBLEM..............................................
97
7.4.2
GREEDY-ALGORITHMUS
FUER
EIN
RUCKSACKPROBLEM
.........
98
7.4.3
DIJKSTRA-ALGORITHMUS
.................................................
99
7.5
EINFACHE
LOKALE
SUCHE
...............................................................
102
7.5.1
NACHBARSCHAFT
EINER
LOESUNG
.......................................
102
7.5.2
METHODE
DER
EINFACHEN
LOKALEN
SUCHE
.......................
103
7.6
TABU-SUCHE.................................................................................
106
7.6.1
EINFUEHRENDES
BEISPIEL
(RUCKSACKPROBLEM)
...............
106
7.6.2
GRUNDVERSION
DER
TABU-SUCHE
...................................
108
7.6.3
VARIANTEN
DER
TABU-SUCHE
.........................................
109
LITERATUR
..................................................................................................
109
8
LINEARE
OPTIMIERUNG
..........................................................................
111
8.1
GRAPHISCHE
METHODE
.................................................................
111
8.2
SIMPLEXMETHODE
.......................................................................
114
8.2.1
STANDARD-MAXIMIERUNGSPROBLEM
..............................
114
XIV
INHALTSVERZEICHNIS
8.2.2
SCHLUPFVARIABLE
........................................................
115
8.2.3
AUSTAUSCHVERFAHREN
..................................................
115
8.2.4
STRATEGIE
DER
SIMPLEXMETHODE
..................................
117
9
MULTIKRITERIELLE
OPTIMIERUNGSVERFAHREN
............................................
121
9.1
METHODE
DER
GEWICHTETEN
SUMME
.............................................
121
9.2
DIE
.........................................................
123
9.3
PARETO-OPTIMIERUNG
MITHILFE
NATURANALOGER
OPTIMIERUNGSVERFAHREN
............................................................
124
10
KOMPLEXITAET
UND
HEURISTISCHE/METAHEURISTISCHE
VERFAHREN
............
125
10.1
KOMPLEXITAET
................................................................................
125
10.1.1
O-NOTATION
.................................................................
126
R
10.1.2
BEISPIEL
(SUCHE
IN
EINER
SORTIERTEN
LISTE)
....................
126
10.1.3
KOMPLEXITAET
VON
PROBLEMEN
..................
127
10.1.4
POLYNOMIELLE
ALGORITHMEN
.........................................
128
10.1.5
ENTSCHEIDUNGSPROBLEME
.............................................
128
10.1.6
KOMPLEXITAETSKLASSEN
P UND
NP
.................................
129
10.1.7
POLYNOMIELLE
REDUZIERBARKEIT
...................................
129
10.1.8
KOMPLEXITAETSKLASSE
NP-VOLLSTAENDIG
...........................
131
10.1.9
NP-SCHWERE
OPTIMIERUNGSPROBLEME
.........................
131
10.2
HEURISTISCHES
VERFAHREN
.............................................................
132
10.3
METAHEURISTISCHE
VERFAHREN
.......................................................
133
10.4
EXPLOITATION
UND
EXPLORATION
.....................................................
133
10.5
NO
FREE
LUNCH
THEOREM
...........................................................
134
LITERATUR
..................................................................................................
134
TEIL
III
NATURANALOGE
OPTIMIERUNGEN
11
PHYSIKBASIERENDE
ALGORITHMEN
...........................................................
137
11.1
SIMULATED
ANNEALING
................................................................
137
11.1.1
ABKUEHLUNGSPROZESS
BEIM
ERHAERTEN
EINER
METALLSCHMELZE
........................................................
138
11.1.2
SIMULATED-ANNEALING-ALGORITHMUS
..........................
139
11.2
THRESHOLD-ACCEPTING-ALGORITHMUS
...........................................
142
11.3
SINTFLUT-ALGORITHMUS
.................................................................
144
11.4
POPULATIONBASIERENDE
ALGORITHMEN
...........................................
145
LITERATUR
..................................................................................................
146
12
EVOLUTIONAERE
ALGORITHMEN
...................................................................
147
12.1
BIOLOGISCHE
EVOLUTION
...............................................................
147
12.2
GENETISCHE
ALGORITHMEN
.............................................................
149
12.2.1
GRUNDVERSION
DER
GENETISCHEN
ALGORITHMEN
............
149
12.3
VARIANTEN
DER
GENETISCHEN
ALGORITHMEN
.....................................
155
12.3.1
VARIANTEN
VON
SELEKTIONSVERFAHREN
..........................
155
12.3.2
VARIANTEN
VON
REKOMBINATIONEN
..............................
158
12.3.3
VARIANTEN
VON
MUTATIONEN
........................................
159
INHALTSVERZEICHNIS
XV
12.3.4
VARIANTEN
DER
ERSETZUNG
(REPLACEMENT)
......................
160
12.4
PERMUTATIONSCODIERUNG
.................................................................
161
12.4.1
REKOMBINATION
FUER
PERMUTATIONEN
..............................
162
12.4.2
MUTATIONEN
FUER
PERMUTATIONEN
....................................
164
12.4.3
BEISPIEL:
N-DAMEN-PROBLEM
........................................
165
12.5
ANWENDUNGEN
GENETISCHER
ALGORITHMEN
...................................
166
12.5.1
OPTIMIERUNG
KONTINUIERLICHER
FUNKTIONEN
MITGA
......................................................................
166
12.5.2
MULTIKRITERIELLE
OPTIMIERUNG
MIT
GA
.........................
170
12.6
EVOLUTIONSSTRATEGIEN
...................................................................
173
12.6.1
DER
GRUNDALGORITHMUS
DER
EVOLUTIONSSTRATEGIE
..........
174
12.6.2
INITIALISIERUNG
.............................................................
175
12.6.3
REKOMBINATION
...........................................................
175
12.6.4
MUTATIONEN
.................................................................
176
12.6.5
SELEKTION
.....................................................................
183
12.6.6
ABBRUCH
.....................................................................
183
LITERATUR
..................................................................................................
184
13
PARTIKELSCHWARMALGORITHMEN
............................................................
185
13.1
SCH
WARM
VERHALTEN
.....................................................................
185
13.2
BOIDS
.........................................................................................
186
13.3
GRUNDVERSION
DES
PARTIKELSCHWARMALGORITHMUS
.......................
187
13.3.1
EINFUEHRENDES
BEISPIEL
...............................................
188
13.3.2
GRUNDVERSION
DES
PSO-ALGORITHMUS
.........................
188
13.3.3
ABLAUF
DER
GRUNDVERSION
DES
PSO
.............................
190
13.4
VARIANTEN
DES
PSO-ALGORITHMUS
...............................................
191
13.4.1
MASSNAHMEN
BEIM
VERLASSEN
DES
SUCHRAUMES
...........
191
13.4.2
NACHBARSCHAFTS-TOPOLOGIEN
.......................................
192
13.4.3
TRAEGHEITSPARAMETER
.....................................................
194
13.4.4
KONTRAKTIONSFAKTOR
.....................................................
195
13.4.5
TABELLE
DER
WICHTIGSTEN
PARAMETER
DES
PSO-VERFAHRENS
........................................................
196
13.5
ANWENDUNGSBEISPIEL
(DIAGNOSTIK)
............................................
196
13.6
DISKRETE
PARTIKELSCHWARMOPTIMIERUNGEN
...................................
196
13.6.1
BINAERES
PSO-VERFAHREN
............................................
197
13.6.2
DPSO-VERFAHREN
......................................................
199
13.7
MULTIKRITERIELLE
PARTIKELSCHWARMOPTIMIERUNG
..........................
201
LITERATUR
..................................................................................................
207
14
AMEISENALGORITHMEN
...........................................................................
209
14.1
AMEISEN
IN
DER
NATUR
................................................................
209
14.2
GRUNDPRINZIP
DES
AMEISENALGORITHMUS
....................................
210
14.3
DIE
GRUNDVERSION
DES
AMEISENALGORITHMUS
............................
213
14.4
DER
ALGORITHMUS
AS
..................................................................
214
14.5
UNTERSCHIED
ZWISCHEN
REALEN
UND
KUENSTLICHEN
AMEISEN
..........
216
14.6
VARIANTEN
DES
AMEISENALGORITHMUS
AS
....................................
217
XVI
INHALTSVERZEICHNIS
14.6.1
ELITIST
AS
(EAS)
..........................................................
217
14.6.2
RANK
BASED
AS
(ASRANK)
............................................
218
14.6.3
MAX-MIN
ANT-SYSTEM
(MMAS)
..............................
218
14.6.4
ANT
COLONY
SYSTEM
(ACS)
..........................................
219
14.7
PARAMETERWERTE
FUER
ACO-ALGORITHMEN
....................................
220
14.8
ANWENDUNGEN
..........................................................................
220
14.8.1
RUCKSACKPROBLEM
.......................................................
220
14.8.2
GENERALISED
ASSIGNMENT
PROBLEM
.............................
221
14.8.3
ROUTING
IN
NETZWERKEN
.............................................
223
14.8.4
SHORTEST
COMMON
SUPERSEQUENCE
PROBLEM
...............
225
LITERATUR
..................................................................................................
230
15
BIENENALGORITHMEN
..............................................................................
231
15.1
BIENEN
IN
DER
NATUR
..................................................................
231
15.1.1
BIENENVOLK
.................................................................
231
15.1.2
FUTTERSUCHE
DER
BIENEN
...............................................
232
15.2
DER
BA-ALGORITHMUS
................................................................
234
15.2.1
DIE
GRUNDVERSION
DES
BA-ALGORITHMUS
.....................
234
15.2.2
ANALOGIE
ZWISCHEN
NATUERLICHEN
UND
KUENSTLICHEN
BIENEN
......................................................................
235
15.2.3
LOKALE
UND
GLOBALE
SUCHE
.........................................
236
15.2.4
ANWENDUNGSBEISPIEL
.................................................
237
15.3
DER
ABC-ALGORITHMUS
..............................................................
239
LITERATUR
..................................................................................................
241
16
FLEDERMAUSALGORITHMEN
......................................................................
243
16.1
FLEDERMAEUSE
IN
DER
NATUR
..........................................................
243
16.2
GRUNDVERSION
DES
BAT-ALGORITHMUS
........................................
244
16.2.1
PARAMETER
DES
BAT-ALGORITHMUS
..............................
244
16.2.2
BAT-ALGORITHMUS
IN
DER
GRUNDVERSION
....................
245
16.2.3
ANALOGIE
ZWISCHEN
NATUERLICHEN
UND
KUENSTLICHEN
FLEDERMAEUSEN
............................................................
247
16.2.4
BAT-ALGORITHMUS
FUER
DAS
PROBLEM
DES
HANDLUNGSREISENDEN
..................................................
248
16.3
BINAERER
BAT-ALGORITHMUS
........................................................
250
16.4
MULTIKRITERIELLER
B
AT-ALGORTHMUS
............................................
251
LITERATUR
..................................................................................................
252
17
KUENSTLICHE
IMMUNSYSTEME
..................................................................
253
17.1
NATUERLICHES
IMMUNSYSTEM
........................................................
253
17.1.1
ANGEBORENES
UND
ERWORBENES
IMMUNSYSTEM
...........
254
17.1.2
AFFINITAET
.....................................................................
255
17.2
POSITIVE
UND
NEGATIVE
SELEKTION
................................................
256
17.2.1
THYMUSMODELL
...........................................................
257
17.2.2
KUENSTLICHE
POSITIVE
UND
NEGATIVE
SELEKTION
...............
257
INHALTSVERZEICHNIS
XVII
17.3
KLONALER
SELEKTIONS-ALGORITHMUS
............................................
260
17.3.1
KLONALE
SELEKTIONSTHEORIE
.........................................
260
17.3.2
CLONALG
FUER
MUSTERERKENNUNG
.............................
262
17.3.3
CLONALG
FUER
OPTIMIERUNG
.....................................
266
17.4
IMMUNER-NETZWERK
ALGORITHMUS
.................................................
270
17.4.1
DIE
JERNESCHE
NETZWERKTHEORIE
.................................
270
17.4.2
DER
AINET
ALGORITHMUS
.............................................
271
17.4.3
ANWENDUNG
(CLUSTERANALYSE)
.....................................
273
17.4.4
DER
OPT-AINET
-ALGORITHMUS
.......................................
274
LITERATUR
..................................................................................................
277
18
UEBERSICHT:
NATURANALOGE
OPTIMIERUNGEN
..........................................
279
18.1
NATURANALOGE
OPTIMIERUNGEN
IN
DIESEM
BUCH
..........................
279
18.2
UEBERSICHT
WEITERER
NATURANALOGER
OPTIMIERUNGSMETHODEN
....
280
LITERATUR
..................................................................................................
281
TEIL
IV
NEURONALE
KOMBINATORISCHE
OPTIMIERUNG
19
NEURONALE
NETZE
...................................................................................
285
19.1
NATUERLICHES
NEURONALES
NETZ
.....................................................
285
19.2
DAS
KUENSTLICHE
NEURON
...............................................................
286
19.3
TYPEN
VON
AKTIVIERUNGSFUNKTIONEN
...........................................
288
19.4
DAS
PERZEPTRON
...........................................................................
288
19.5
DELTAREGEL
...................................................................................
290
19.6
DAS
MEHRSCHICHTIGE
PERZEPTRON
.................................................
291
19.7
KLASSIFIKATION
.............................................................................
293
19.8
DEEP
LEARNING
...........................................................................
294
19.9
BACKPROPAGATION
.......................................................................
294
19.10
VARIANTEN
DER
GRADIENTENVERFAHREN
...........................................
298
19.11
ABLAUF
DES
BACKPROPAGATION-LERNALGORITHMUS
.........................
298
19.12
REGRESSION
................................................................................
300
19.13
UNDER
UND
OVERFITTUNG
.............................................................
301
19.14
FUNKTIONSAPPROXIMATION
..........................................................
302
19.15
OPTIMIERUNG
VON
KNN
MIT
NATURANALOGEN
OPTIMIERUNGSMETHODEN
............................................................
304
19.16
NETZTOPOLOGIEN
..........................................................................
307
19.17
LERNEN
MIT
KUENSTLICHEN
NEURONALEN
NETZEN
...............................
307
LITERATUR
..................................................................................................
308
20
SELBSTORGANISIERENDE
KARTEN
..............................................................
309
20.1
KOHONEN-KARTE
..........................................................................
309
20.2
EINFUEHRENDES
BEISPIEL
(SOM-ALGORITHMUS)
.............................
310
20.3
SOM-LERNALGORITHMUS
..............................................................
311
20.4
KLASSIFIZIERUNG
VON
DATEN
MIT
SOM
.........................................
314
20.5
LOESUNG
DES
TSP
MIT
DER
SOM-METHODE
..................................
315
LITERATUR
..................................................................................................
316
XVIII
INHALTSVERZEICHNIS
21
................................................................................................................
317
21.1
DEFINITION
EINES
HOPFIELD-NETZES
...............................................
317
21.2
AKTUALISIERUNG
IN
HOPFIELD-NETZEN
...........................................
318
21.3
ENERGIEFUNKTION
.........................................................................
319
21.4
SPEICHERN
VON
MUSTERN
.............................................................
320
21.5
WIEDERHERSTELLUNG
EINES
MUSTERS
...............................................
322
21.6
HOPFIELD
ALGORITHMUS
MIT
DEM
SIMULATED
ANNEALING-VERFAHREN
................................................................
323
21.7
ANWENDUNGEN
AUF
OPTIMIERUNGSPROBLEME
...............................
324
LITERATUR
...................................................................................................
328
22
REINFORCEMENT
LEARNING......................................................................
331
22.1
EINFUEHRUNG
.................................................................................
331
22.2
MENACE
.......................................................................................
332
22.3
FORMALE
BESCHREIBUNG
VON
RL
.................................................
333
22.4
MARKOVSCHE
ENTSCHEIDUNGPROZESSE
...........................................
335
22.5
RETURN
.........................................................................................
336
22.6
POLICY
.........................................................................................
337
22.7
STATE-VALUE-FUNKTION
.................................................................
338
22.7.1
DEFINITION
DER
STATE-VALUE-FUNKTION
........................
338
22.7.2
BEISPIEL
DER
STATE-VALUE-FUNKTION
.............................
338
22.8
ACTION-VALUE-FUNKTION
.............................................................
339
22.9
OPTIMALE
POLICIES
UND
OPTIMALE
VALUE-FUNKTIONEN
...................
340
22.10
Q-LEARNING
.................................................................................
340
22.11
DQN-ALGORITHMUS
.....................................................................
343
22.12
REINFORCE-ALGORITHMUS
.......................................................
346
22.12.1
POLICY
GRADIENT
THEOREM
..........................................
346
22.12.2
REINFORCE
ALGORITHMUS
.......................................
347
22.12.3
BEISPIEL
(VIER
GEWINNT)
.............................................
348
22.12.4
REINFORCE
MIT
BASELINE
.......................................
349
LITERATUR
...................................................................................................
350
23
OPTIMIERUNGSMETHODEN
IN
DEEP
LEARNING
.........................................
351
23.1
PROBLEM
DER
VERSCHWINDENDEN
UND
EXPLODIERENDEN
GRADIENTEN
................................................................................
351
23.2
GRADIENT
CLIPPING
.......................................................................
352
23.3
MOMENTUM-OPTIMIERUNG
...........................................................
352
23.4
EXPONENTIELL
GLEITENDER
DURCHSCHNITT
.......................................
354
23.5
RMSPROP-OPTIMIERUNG
.............................................................
354
23.6
ADAM-OPTIMIERUNG
...................................................................
355
LITERATUR
...................................................................................................
356
24
NEURONALE
OPTIMIERUNG
MIT
DEM
POINTER-NETZWERK
.........................
357
24.1
REKURRENTE
NEURONALE
NETZE
......................................................
357
24.2
EINFUEHRENDE
BEISPIELE
VON
RNN
...............................................
358
24.3
MATHEMATISCHE
BESCHREIBUNG
DES
RNN
..................................
359
INHALTSVERZEICHNIS
XIX
24.4
BACKPROPAGATION
THROUGH
TIME
...............................................
360
24.5
360
24.6
SEQ2SEQ
.....................................................................................
362
24.7
SOFTMAX-FUNKTION
.....................................................................
362
24.8
363
24.9
STOCHASTISCHE
POLICY
FUER
DAS
TSP
...............................................
365
24.10
POINTER-NETZWERK
.......................................................................
366
24.11
TRAINIERBARE
ZIELFUNKTION
FUER
DAS
TSP
.......................................
367
24.12
BASELINE
....................................................................................
369
24.13
REINFORCE-ALGORITHMUS
FUER
DAS
TSP
...................................
369
24.14
VARIANTEN
DER
REINFORCE-METHODE
FUER
OPTIMIERUNGSPROBLEME
............................................................
370
LITERATUR
..................................................................................................
371
25
NEURONALE
OPTIMIERUNG
MIT
TRANSFORMER
.........................................
373
25.1
TRANSFORMER
..............................................................................
373
25.1.1
ENCODER
....................................................................
373
25.1.2
DECODER
....................................................................
379
25.2
GREEDY
ROLLOUT
BASELINE
..........................................................
382
25.3
REINFORCE
MIT
GREEDY
ROLLOUT
BASELINE
.............................
383
25.4
TESTPHASE
..................................................................................
384
LITERATUR
..................................................................................................
384
26
OPTIMIERUNG
MIT GRAPHISCHEN
NEURONALEN
NETZEN
.............................
385
26.1
GRAPHISCHE
NEURONALE
NETZE
....................................................
385
26.2
GRAPHENEINBETTUNG
....................................................................
387
26.3
S2V-EINBETTUNG
........................................................................
387
26.4
TSP
ALS
MARKOVSCHER
ENTSCHEIDUNGSPROZESS
............................
388
26.5
PARAMETRISIERUNG
DER
ACTION-VALUE-FUNKTION
...........................
389
26.6
S2V-DQN-ALGORITHMUS
FUER
TSP
...............................................
390
26.7
TESTPHASE
..................................................................................
391
26.8
WEITERE
OPTIMIERUNGSVERFAHREN
MIT
GNN
................................
392
LITERATUR
..................................................................................................
392
27
PROGRAMMBIBLIOTHEKEN
FUER
MACHINE
LEARNING
................................
393
27.1
PROGRAMMBIBLIOTHEK
TENSORFLOW
..............................................
393
27.2
WEITERE
PROGRAMMBIBLIOTHEKEN
................................................
394
LITERATUR
........................................................................................................
397
STICHWORTVERZEICHNIS
....................................................................................
403
|
adam_txt |
TEIL
I
OPTIMIERUNGSPROBLEME
1
EINFUEHRUNG
.
3
1.1
OPTIMIERUNGSPROBLEME
IN
DER
REALEN
WELT
.
3
1.2
GRUNDBEGRIFFE
DER
OPTIMIERUNG
.
5
1.2.1
GLOBALES
UND
LOKALES
OPTIMUM
.
5
1.2.2
UMWANDLUNG EINES
MAXIMIERUNGSPROBLEMS
IN
EIN
MINIMIERUNGSPROBLEM
UND
UMGEKEHRT
.
5
1.2.3
NOTATIONEN
.
6
1.2.4
SUPREMUM
UND
INFIMUM
.
6
1.2.5
KONTINUIERLICHE,
DISKRETE
UND
KOMBINATORISCHE
OPTIMIERUNG
.
7
2
KONTINUIERLICHE
OPTIMIERUNGSPROBLEME
.
9
2.1
GRAPH
EINER
FUNKTION
.
9
2.2
OPTIMIERUNGEN
MIT
NEBENBEDINGUNGEN
.
10
2.3
ANWENDUNGSBEISPIELE
.
11
2.4
UNIMODALE
UND
MULTIMODALE
FUNKTIONEN
.
14
2.5
KONVEXE
UND
KONKAVE
FUNKTIONEN
.
14
2.6
EXTREMA
KONVEXER
UND
KONKAVER
FUNKTIONEN
.
15
3
KOMBINATORISCHE
OPTIMIERUNGSPROBLEME
.
17
3.1
EINFUEHRENDE
BEISPIELE
.
17
3.1.1
PROBLEM
DES
HANDLUNGSREISENDEN
.
18
3.1.2
RUCKSACKPROBLEM
.
19
3.2
LOESUNGSPRAESENTATIONEN
.
20
3.2.1
KOMBINATORIK
.
21
3.2.2
GRAPHEN
.
23
3.3
GRAPHENPROBLEME
.
27
3.3.1
KNOTENUEBERDECKUNGSPROBLEM
.
28
3.3.2
MAXIMALES
CLIQUENPROBLEM
.
29
3.3.3
STABILITAETSPROBLEM
.
30
XI
XII
INHALTSVERZEICHNIS
3.3.4
ZUSAMMENHANG
ZWISCHEN
STABILITAETS-,
KNOTENUEBERDECKUNGS
UND
MAXIMALEM
CLIQUENPROBLEM
.
32
3.3.5
GRAPHEN-FAERBUNGSPROBLEM
.
33
3.3.6
MAX-CUT-PROBLEM
.
35
3.4
VEHICLE-ROUTING-PROBLEME
.
37
3.4.1
EINFUEHRENDES
BEISPIEL
.
37
3.4.2
GRUNDVERSION
DES
VRP
.
39
3.4.3
VARIANTEN
DES
VRP
.
40
3.5
SCHEDULING-PROBLEME
.
41
3.5.1
EINFUEHRENDES
BEISPIEL
.
42
3.5.2
GRUNDVERSION
DES
SCHEDULING-PROBLEMS
.
42
,
3.5.3
KLASSIFIKATION
VON
SCHEDULING-PROBLEMEN
.
44
3.5.4
BEISPIELE
VON
SCHEDULING-PROBLEMEN
.
44
3.6
ZUSCHNITTPROBLEME
UND
PACKUNGSPROBLEME
.
45
3.6.1
DIMENSION
VON
ZUSCHNITT
UND
PACKUNGSPROBLEMEN
.
45
3.6.2
BIN-PACKING-PROBLEM
.
46
3.6.3
EINDIMENSIONALE
.
46
3.6.4
ZWEIDIMENSIONAL
C&P-PROBLEME
.
47
3.6.5
DREIDIMENSIONALE
C&P-PROBLEME
.
49
LITERATUR
.
50
4
LINEARE
OPTIMIERUNGSPROBLEME
.
51
4.1
EINFUEHRUNGSBEISPIEL
(PRODUKTIONSPROBLEM)
.
51
4.2
STANDARDFORM EINES
LINEAREN
OPTIMIERUNGSPROBLEMS
.
52
4.3
ANWENDUNGSBEISPIEL
(TRANSPORTPROBLEM)
.
53
4.4
GANZZAHLIGE
LINEARE
OPTIMIERUNGSPROBLEME
.
54
5
MULTIKRITERIELLE
OPTIMIERUNGSPROBLEME
.
57
5.1
DEFINITIONEN
.
57
5.2
MULTIKRITERIELLES
OPTIMIERUNGSPROBLEM
IN
DER
GRUNDVERSION
.
58
5.3
EINFUEHRENDES
BEISPIEL
.
59
5.4
PARETO-DOMINANZ
.
60
TEIL
II
KLASSISCHE
OPTIMIERUNGSMETHODEN
6
ANALYTISCHE
METHODEN
.
65
6.1
GRUNDBEGRIFFE
DER
ANALYSIS
.
66
6.1.1
DEFINITIONEN
.
66
6.2
DER
SATZ
VOM
MAXIMUM
UND
MINIMUM
.
67
6.3
ABLEITUNG
EINER
FUNKTION
.
68
6.3.1
SEKANTEN
UND
TANGENTENSTEIGUNG
.
68
6.3.2
ABLEITUNG
EINER
FUNKTION
.
69
6.3.3
BEISPIELE
VON
ABLEITUNGEN
UND
ABLEITUNGSREGELN
.
69
INHALTSVERZEICHNIS
XIII
6.4
EXTREMWERTBESTIMMUNG FUER
FUNKTIONEN
MIT
EINER
VARIABLEN.
.
70
6.5
EXTREMWERTBESTIMMUNG FUER
FUNKTIONEN
MIT
ZWEI
VARIABLEN
.
72
6.5.1
PARTIELLE
ABLEITUNGEN
.
72
6.5.2
NOTWENDIGE
BEDINGUNG
FUER
EIN
EXTREMUM
.
73
6.5.3
HINREICHENDE
BEDINGUNG
FUER
LOKALE
EXTREMA
.
76
6.6
LAGRANGE-METHODE
.
78
6.6.1
GRADIENT
EINER
FUNKTION
.
78
6.6.2
RICHTUNGSABLEITUNG.
79
6.6.3
HOEHENLINIE
.
80
6.6.4
EIGENSCHAFTEN
DES
GRADIENTEN
.
81
6.6.5
LAGRANGE-FUNKTION
.
81
6.6.6
LANGRANGE-METHODE
.
83
6.6.7
ANWENDUNGSBEISPIEL
.
83
6.6.8
LAGRANGE-METHODE
FUER
FUNKTIONEN
MIT
MEHR
ALS
ZWEI
VARIABLEN
.
84
6.7
GRADIENTENVERFAHREN
.
84
6.7.1
ABLAUF
DES
GRADIENTENABSTIEGSVERFAHRENS
.
85
6.7.2
SCHRITTWEITENBESTIMMUNG.
86
6.7.3
GRADIENTENVERFAHREN
ZUR
BESTIMMUNG
LOKALER
MAXIMA
.
87
7
METHODEN
ZUR
LOESUNG
KOMBINATORISCHER
OPTIMIERUNGSPROBLEME
.
89
7.1
ENUMERATIONSMETHODE
.
90
7.2
BRANCH-AND-BOUND-VERFAHREN
.
91
7.2.1
DIE
METHODE
DES
BRANCH-AND-BOUND-VERFAHRENS
.
91
7.2.2
BRANCH-AND-BOUND-VERFAHREN
FUER
DAS
TSP
.
92
7.3
DYNAMISCHE
PROGRAMMIERUNG
.
93
7.4
GREEDY-ALGORITHMUS
.
97
7.4.1
GREEDY-ALGORITHMUS
FUER
DAS
MUENZWECHSEL-PROBLEM.
97
7.4.2
GREEDY-ALGORITHMUS
FUER
EIN
RUCKSACKPROBLEM
.
98
7.4.3
DIJKSTRA-ALGORITHMUS
.
99
7.5
EINFACHE
LOKALE
SUCHE
.
102
7.5.1
NACHBARSCHAFT
EINER
LOESUNG
.
102
7.5.2
METHODE
DER
EINFACHEN
LOKALEN
SUCHE
.
103
7.6
TABU-SUCHE.
106
7.6.1
EINFUEHRENDES
BEISPIEL
(RUCKSACKPROBLEM)
.
106
7.6.2
GRUNDVERSION
DER
TABU-SUCHE
.
108
7.6.3
VARIANTEN
DER
TABU-SUCHE
.
109
LITERATUR
.
109
8
LINEARE
OPTIMIERUNG
.
111
8.1
GRAPHISCHE
METHODE
.
111
8.2
SIMPLEXMETHODE
.
114
8.2.1
STANDARD-MAXIMIERUNGSPROBLEM
.
114
XIV
INHALTSVERZEICHNIS
8.2.2
SCHLUPFVARIABLE
.
115
8.2.3
AUSTAUSCHVERFAHREN
.
115
8.2.4
STRATEGIE
DER
SIMPLEXMETHODE
.
117
9
MULTIKRITERIELLE
OPTIMIERUNGSVERFAHREN
.
121
9.1
METHODE
DER
GEWICHTETEN
SUMME
.
121
9.2
DIE
.
123
9.3
PARETO-OPTIMIERUNG
MITHILFE
NATURANALOGER
OPTIMIERUNGSVERFAHREN
.
124
10
KOMPLEXITAET
UND
HEURISTISCHE/METAHEURISTISCHE
VERFAHREN
.
125
10.1
KOMPLEXITAET
.
125
10.1.1
O-NOTATION
.
126
R
10.1.2
BEISPIEL
(SUCHE
IN
EINER
SORTIERTEN
LISTE)
.
126
10.1.3
KOMPLEXITAET
VON
PROBLEMEN
.
127
10.1.4
POLYNOMIELLE
ALGORITHMEN
.
128
10.1.5
ENTSCHEIDUNGSPROBLEME
.
128
10.1.6
KOMPLEXITAETSKLASSEN
P UND
NP
.
129
10.1.7
POLYNOMIELLE
REDUZIERBARKEIT
.
129
10.1.8
KOMPLEXITAETSKLASSE
NP-VOLLSTAENDIG
.
131
10.1.9
NP-SCHWERE
OPTIMIERUNGSPROBLEME
.
131
10.2
HEURISTISCHES
VERFAHREN
.
132
10.3
METAHEURISTISCHE
VERFAHREN
.
133
10.4
EXPLOITATION
UND
EXPLORATION
.
133
10.5
NO
FREE
LUNCH
THEOREM
.
134
LITERATUR
.
134
TEIL
III
NATURANALOGE
OPTIMIERUNGEN
11
PHYSIKBASIERENDE
ALGORITHMEN
.
137
11.1
SIMULATED
ANNEALING
.
137
11.1.1
ABKUEHLUNGSPROZESS
BEIM
ERHAERTEN
EINER
METALLSCHMELZE
.
138
11.1.2
SIMULATED-ANNEALING-ALGORITHMUS
.
139
11.2
THRESHOLD-ACCEPTING-ALGORITHMUS
.
142
11.3
SINTFLUT-ALGORITHMUS
.
144
11.4
POPULATIONBASIERENDE
ALGORITHMEN
.
145
LITERATUR
.
146
12
EVOLUTIONAERE
ALGORITHMEN
.
147
12.1
BIOLOGISCHE
EVOLUTION
.
147
12.2
GENETISCHE
ALGORITHMEN
.
149
12.2.1
GRUNDVERSION
DER
GENETISCHEN
ALGORITHMEN
.
149
12.3
VARIANTEN
DER
GENETISCHEN
ALGORITHMEN
.
155
12.3.1
VARIANTEN
VON
SELEKTIONSVERFAHREN
.
155
12.3.2
VARIANTEN
VON
REKOMBINATIONEN
.
158
12.3.3
VARIANTEN
VON
MUTATIONEN
.
159
INHALTSVERZEICHNIS
XV
12.3.4
VARIANTEN
DER
ERSETZUNG
(REPLACEMENT)
.
160
12.4
PERMUTATIONSCODIERUNG
.
161
12.4.1
REKOMBINATION
FUER
PERMUTATIONEN
.
162
12.4.2
MUTATIONEN
FUER
PERMUTATIONEN
.
164
12.4.3
BEISPIEL:
N-DAMEN-PROBLEM
.
165
12.5
ANWENDUNGEN
GENETISCHER
ALGORITHMEN
.
166
12.5.1
OPTIMIERUNG
KONTINUIERLICHER
FUNKTIONEN
MITGA
.
166
12.5.2
MULTIKRITERIELLE
OPTIMIERUNG
MIT
GA
.
170
12.6
EVOLUTIONSSTRATEGIEN
.
173
12.6.1
DER
GRUNDALGORITHMUS
DER
EVOLUTIONSSTRATEGIE
.
174
12.6.2
INITIALISIERUNG
.
175
12.6.3
REKOMBINATION
.
175
12.6.4
MUTATIONEN
.
176
12.6.5
SELEKTION
.
183
12.6.6
ABBRUCH
.
183
LITERATUR
.
184
13
PARTIKELSCHWARMALGORITHMEN
.
185
13.1
SCH
WARM
VERHALTEN
.
185
13.2
BOIDS
.
186
13.3
GRUNDVERSION
DES
PARTIKELSCHWARMALGORITHMUS
.
187
13.3.1
EINFUEHRENDES
BEISPIEL
.
188
13.3.2
GRUNDVERSION
DES
PSO-ALGORITHMUS
.
188
13.3.3
ABLAUF
DER
GRUNDVERSION
DES
PSO
.
190
13.4
VARIANTEN
DES
PSO-ALGORITHMUS
.
191
13.4.1
MASSNAHMEN
BEIM
VERLASSEN
DES
SUCHRAUMES
.
191
13.4.2
NACHBARSCHAFTS-TOPOLOGIEN
.
192
13.4.3
TRAEGHEITSPARAMETER
.
194
13.4.4
KONTRAKTIONSFAKTOR
.
195
13.4.5
TABELLE
DER
WICHTIGSTEN
PARAMETER
DES
PSO-VERFAHRENS
.
196
13.5
ANWENDUNGSBEISPIEL
(DIAGNOSTIK)
.
196
13.6
DISKRETE
PARTIKELSCHWARMOPTIMIERUNGEN
.
196
13.6.1
BINAERES
PSO-VERFAHREN
.
197
13.6.2
DPSO-VERFAHREN
.
199
13.7
MULTIKRITERIELLE
PARTIKELSCHWARMOPTIMIERUNG
.
201
LITERATUR
.
207
14
AMEISENALGORITHMEN
.
209
14.1
AMEISEN
IN
DER
NATUR
.
209
14.2
GRUNDPRINZIP
DES
AMEISENALGORITHMUS
.
210
14.3
DIE
GRUNDVERSION
DES
AMEISENALGORITHMUS
.
213
14.4
DER
ALGORITHMUS
AS
.
214
14.5
UNTERSCHIED
ZWISCHEN
REALEN
UND
KUENSTLICHEN
AMEISEN
.
216
14.6
VARIANTEN
DES
AMEISENALGORITHMUS
AS
.
217
XVI
INHALTSVERZEICHNIS
14.6.1
ELITIST
AS
(EAS)
.
217
14.6.2
RANK
BASED
AS
(ASRANK)
.
218
14.6.3
MAX-MIN
ANT-SYSTEM
(MMAS)
.
218
14.6.4
ANT
COLONY
SYSTEM
(ACS)
.
219
14.7
PARAMETERWERTE
FUER
ACO-ALGORITHMEN
.
220
14.8
ANWENDUNGEN
.
220
14.8.1
RUCKSACKPROBLEM
.
220
14.8.2
GENERALISED
ASSIGNMENT
PROBLEM
.
221
14.8.3
ROUTING
IN
NETZWERKEN
.
223
14.8.4
SHORTEST
COMMON
SUPERSEQUENCE
PROBLEM
.
225
LITERATUR
.
230
15
BIENENALGORITHMEN
.
231
15.1
BIENEN
IN
DER
NATUR
.
231
15.1.1
BIENENVOLK
.
231
15.1.2
FUTTERSUCHE
DER
BIENEN
.
232
15.2
DER
BA-ALGORITHMUS
.
234
15.2.1
DIE
GRUNDVERSION
DES
BA-ALGORITHMUS
.
234
15.2.2
ANALOGIE
ZWISCHEN
NATUERLICHEN
UND
KUENSTLICHEN
BIENEN
.
235
15.2.3
LOKALE
UND
GLOBALE
SUCHE
.
236
15.2.4
ANWENDUNGSBEISPIEL
.
237
15.3
DER
ABC-ALGORITHMUS
.
239
LITERATUR
.
241
16
FLEDERMAUSALGORITHMEN
.
243
16.1
FLEDERMAEUSE
IN
DER
NATUR
.
243
16.2
GRUNDVERSION
DES
BAT-ALGORITHMUS
.
244
16.2.1
PARAMETER
DES
BAT-ALGORITHMUS
.
244
16.2.2
BAT-ALGORITHMUS
IN
DER
GRUNDVERSION
.
245
16.2.3
ANALOGIE
ZWISCHEN
NATUERLICHEN
UND
KUENSTLICHEN
FLEDERMAEUSEN
.
247
16.2.4
BAT-ALGORITHMUS
FUER
DAS
PROBLEM
DES
HANDLUNGSREISENDEN
.
248
16.3
BINAERER
BAT-ALGORITHMUS
.
250
16.4
MULTIKRITERIELLER
B
AT-ALGORTHMUS
.
251
LITERATUR
.
252
17
KUENSTLICHE
IMMUNSYSTEME
.
253
17.1
NATUERLICHES
IMMUNSYSTEM
.
253
17.1.1
ANGEBORENES
UND
ERWORBENES
IMMUNSYSTEM
.
254
17.1.2
AFFINITAET
.
255
17.2
POSITIVE
UND
NEGATIVE
SELEKTION
.
256
17.2.1
THYMUSMODELL
.
257
17.2.2
KUENSTLICHE
POSITIVE
UND
NEGATIVE
SELEKTION
.
257
INHALTSVERZEICHNIS
XVII
17.3
KLONALER
SELEKTIONS-ALGORITHMUS
.
260
17.3.1
KLONALE
SELEKTIONSTHEORIE
.
260
17.3.2
CLONALG
FUER
MUSTERERKENNUNG
.
262
17.3.3
CLONALG
FUER
OPTIMIERUNG
.
266
17.4
IMMUNER-NETZWERK
ALGORITHMUS
.
270
17.4.1
DIE
JERNESCHE
NETZWERKTHEORIE
.
270
17.4.2
DER
AINET
ALGORITHMUS
.
271
17.4.3
ANWENDUNG
(CLUSTERANALYSE)
.
273
17.4.4
DER
OPT-AINET
-ALGORITHMUS
.
274
LITERATUR
.
277
18
UEBERSICHT:
NATURANALOGE
OPTIMIERUNGEN
.
279
18.1
NATURANALOGE
OPTIMIERUNGEN
IN
DIESEM
BUCH
.
279
18.2
UEBERSICHT
WEITERER
NATURANALOGER
OPTIMIERUNGSMETHODEN
.
280
LITERATUR
.
281
TEIL
IV
NEURONALE
KOMBINATORISCHE
OPTIMIERUNG
19
NEURONALE
NETZE
.
285
19.1
NATUERLICHES
NEURONALES
NETZ
.
285
19.2
DAS
KUENSTLICHE
NEURON
.
286
19.3
TYPEN
VON
AKTIVIERUNGSFUNKTIONEN
.
288
19.4
DAS
PERZEPTRON
.
288
19.5
DELTAREGEL
.
290
19.6
DAS
MEHRSCHICHTIGE
PERZEPTRON
.
291
19.7
KLASSIFIKATION
.
293
19.8
DEEP
LEARNING
.
294
19.9
BACKPROPAGATION
.
294
19.10
VARIANTEN
DER
GRADIENTENVERFAHREN
.
298
19.11
ABLAUF
DES
BACKPROPAGATION-LERNALGORITHMUS
.
298
19.12
REGRESSION
.
300
19.13
UNDER
UND
OVERFITTUNG
.
301
19.14
FUNKTIONSAPPROXIMATION
.
302
19.15
OPTIMIERUNG
VON
KNN
MIT
NATURANALOGEN
OPTIMIERUNGSMETHODEN
.
304
19.16
NETZTOPOLOGIEN
.
307
19.17
LERNEN
MIT
KUENSTLICHEN
NEURONALEN
NETZEN
.
307
LITERATUR
.
308
20
SELBSTORGANISIERENDE
KARTEN
.
309
20.1
KOHONEN-KARTE
.
309
20.2
EINFUEHRENDES
BEISPIEL
(SOM-ALGORITHMUS)
.
310
20.3
SOM-LERNALGORITHMUS
.
311
20.4
KLASSIFIZIERUNG
VON
DATEN
MIT
SOM
.
314
20.5
LOESUNG
DES
TSP
MIT
DER
SOM-METHODE
.
315
LITERATUR
.
316
XVIII
INHALTSVERZEICHNIS
21
.
317
21.1
DEFINITION
EINES
HOPFIELD-NETZES
.
317
21.2
AKTUALISIERUNG
IN
HOPFIELD-NETZEN
.
318
21.3
ENERGIEFUNKTION
.
319
21.4
SPEICHERN
VON
MUSTERN
.
320
21.5
WIEDERHERSTELLUNG
EINES
MUSTERS
.
322
21.6
HOPFIELD
ALGORITHMUS
MIT
DEM
SIMULATED
ANNEALING-VERFAHREN
.
323
21.7
ANWENDUNGEN
AUF
OPTIMIERUNGSPROBLEME
.
324
LITERATUR
.
328
22
REINFORCEMENT
LEARNING.
331
22.1
EINFUEHRUNG
.
331
22.2
MENACE
.
332
22.3
FORMALE
BESCHREIBUNG
VON
RL
.
333
22.4
MARKOVSCHE
ENTSCHEIDUNGPROZESSE
.
335
22.5
RETURN
.
336
22.6
POLICY
.
337
22.7
STATE-VALUE-FUNKTION
.
338
22.7.1
DEFINITION
DER
STATE-VALUE-FUNKTION
.
338
22.7.2
BEISPIEL
DER
STATE-VALUE-FUNKTION
.
338
22.8
ACTION-VALUE-FUNKTION
.
339
22.9
OPTIMALE
POLICIES
UND
OPTIMALE
VALUE-FUNKTIONEN
.
340
22.10
Q-LEARNING
.
340
22.11
DQN-ALGORITHMUS
.
343
22.12
REINFORCE-ALGORITHMUS
.
346
22.12.1
POLICY
GRADIENT
THEOREM
.
346
22.12.2
REINFORCE
ALGORITHMUS
.
347
22.12.3
BEISPIEL
(VIER
GEWINNT)
.
348
22.12.4
REINFORCE
MIT
BASELINE
.
349
LITERATUR
.
350
23
OPTIMIERUNGSMETHODEN
IN
DEEP
LEARNING
.
351
23.1
PROBLEM
DER
VERSCHWINDENDEN
UND
EXPLODIERENDEN
GRADIENTEN
.
351
23.2
GRADIENT
CLIPPING
.
352
23.3
MOMENTUM-OPTIMIERUNG
.
352
23.4
EXPONENTIELL
GLEITENDER
DURCHSCHNITT
.
354
23.5
RMSPROP-OPTIMIERUNG
.
354
23.6
ADAM-OPTIMIERUNG
.
355
LITERATUR
.
356
24
NEURONALE
OPTIMIERUNG
MIT
DEM
POINTER-NETZWERK
.
357
24.1
REKURRENTE
NEURONALE
NETZE
.
357
24.2
EINFUEHRENDE
BEISPIELE
VON
RNN
.
358
24.3
MATHEMATISCHE
BESCHREIBUNG
DES
RNN
.
359
INHALTSVERZEICHNIS
XIX
24.4
BACKPROPAGATION
THROUGH
TIME
.
360
24.5
360
24.6
SEQ2SEQ
.
362
24.7
SOFTMAX-FUNKTION
.
362
24.8
363
24.9
STOCHASTISCHE
POLICY
FUER
DAS
TSP
.
365
24.10
POINTER-NETZWERK
.
366
24.11
TRAINIERBARE
ZIELFUNKTION
FUER
DAS
TSP
.
367
24.12
BASELINE
.
369
24.13
REINFORCE-ALGORITHMUS
FUER
DAS
TSP
.
369
24.14
VARIANTEN
DER
REINFORCE-METHODE
FUER
OPTIMIERUNGSPROBLEME
.
370
LITERATUR
.
371
25
NEURONALE
OPTIMIERUNG
MIT
TRANSFORMER
.
373
25.1
TRANSFORMER
.
373
25.1.1
ENCODER
.
373
25.1.2
DECODER
.
379
25.2
GREEDY
ROLLOUT
BASELINE
.
382
25.3
REINFORCE
MIT
GREEDY
ROLLOUT
BASELINE
.
383
25.4
TESTPHASE
.
384
LITERATUR
.
384
26
OPTIMIERUNG
MIT GRAPHISCHEN
NEURONALEN
NETZEN
.
385
26.1
GRAPHISCHE
NEURONALE
NETZE
.
385
26.2
GRAPHENEINBETTUNG
.
387
26.3
S2V-EINBETTUNG
.
387
26.4
TSP
ALS
MARKOVSCHER
ENTSCHEIDUNGSPROZESS
.
388
26.5
PARAMETRISIERUNG
DER
ACTION-VALUE-FUNKTION
.
389
26.6
S2V-DQN-ALGORITHMUS
FUER
TSP
.
390
26.7
TESTPHASE
.
391
26.8
WEITERE
OPTIMIERUNGSVERFAHREN
MIT
GNN
.
392
LITERATUR
.
392
27
PROGRAMMBIBLIOTHEKEN
FUER
MACHINE
LEARNING
.
393
27.1
PROGRAMMBIBLIOTHEK
TENSORFLOW
.
393
27.2
WEITERE
PROGRAMMBIBLIOTHEKEN
.
394
LITERATUR
.
397
STICHWORTVERZEICHNIS
.
403
Inhaltsverzeichnis Teil I 1 Optimierungsprobleme Einführung. 1.1 1.2 2 Kontinuierliche Optimierungsprobleme. 2.1 2.2 2.3 2.4 2.5 2.6 3 Optimierungsprobleme in der realen Welt. GrundbegriffederOptimierung. 1.2.1 Globales und lokales Optimum. 1.2.2 Umwandlung eines Maximierungsproblems in ein Minimierungsproblem und umgekehrt. 1.2.3 Notationen. 1.2.4 Supremum und Infimum. 1.2.5 Kontinuierliche, diskrete und kombinatorische Optimierung. Graph einer Funktion. Optimierungen mit Nebenbedingungen. Anwendungsbeispiele. Unimodale und multimodale Funktionen. Konvexe und konkave Funktionen. Extrema konvexer und konkaver Funktionen. Kombinatorische Optimierungsprobleme. 3.1 Einführende Beispiele. 3.2 3.3 3.1.1 Problem des Handlungsreisenden. 3.1.2
Rucksackproblem. Lösungspräsentationen. 3.2.1 Kombinatorik. 3.2.2 Graphen. Graphenprobleme. 3.3.1 Knotenüberdeckungsproblem. 3.3.2 Maximales Cliquenproblem. 3.3.3 Stabilitätsproblem. 3 3 5 5 5 6 6 7 9 9 10 11 14 14 15 17 17 18 19 20 21 23 27 28 29 30 XI
Inhaltsverzeichnis XII Zusammenhang zwischenStabilitäts-, Knotenüberdeckungs- und maximalem Cliquenproblem. 3.3.5 Graphen-Färbungsproblem. 3.3.6 Max-Cut-Problem. 3.4 Vehicle-Routing-Probleme. 3.4.1 Einführendes Beispiel. 3.4.2 Grundversion des VRP. 3.4.3 Varianten des VRP. 3.5 Scheduling-Probleme. 3.5.1 Einführendes Beispiel. 3.5.2 Grundversion des Scheduling-Problems. 3.5.3 Klassifikation von Scheduling-Problemen. 3.5.4 Beispiele von Scheduling-Problemen . !. 3.6 Zuschnittprobleme und Packungsprobleme. 3.6.1 Dimension von Zuschnitt- und Packungsproblemen. 3.6.2 Bin-Packing-Problem. 3.6.3 Eindimensionale C P-Probleme. 3.6.4 Zweidimensional C P-Probleme. 3.6.5 Dreidimensionale C P-Probleme. Literatur. 3.3.4 4 Lineare
Optimierungsprobleme. 4.1 Einführungsbeispiel (Produktionsproblem). 4.2 Standardform eines linearen Optimierungsproblems. 4.3 Anwendungsbeispiel (Transportproblem). 4.4 5 Multikriterielle Optimierungsprobleme. 5.1 Definitionen. 5.2 Multikriterielles Optimierungsproblem in der Grundversion. 5.3 Einführendes Beispiel. 5.4 Pareto-Dominanz. Teil II 6 Ganzzahlige lineare Optimierungsprobleme. 45 46 46 47 49 50 51 51 52 53 54 57 57 58 59 60 Klassische Optimierungsmethoden Analytische Methoden. 6.1 Grundbegriffe der Analysis. 6.2 6.3 32 33 35 37 37 39 40 41 42 42 44 44 45 6.1.1 Definitionen. Der Satz vom Maximum und Minimum. Ableitung einer Funktion. 6.3.1 Sekanten-und Tangentensteigung. 6.3.2 Ableitung einer Funktion. 6.3.3 Beispiele von
Ableitungen und Ableitungsregeln . . 65 66 66 67 68 68 69 69
Inhaltsverzeichnis 6.4 6.5 6.6 6.7 7 Extremwertbestimmung für Funktionen mit einer Variablen. . Extremwertbestimmung für Funktionen mit zwei Variablen. 6.5.1 Partielle Ableitungen. 6.5.2 Notwendige Bedingung für ein Extremum. 6.5.3 Hinreichende Bedingung für lokale Extrema. Lagrange-Methode. 78 6.6.1 Gradient einer Funktion. 6.6.2 Richtungsableitung. 6.6.3 Höhenlinie. 6.6.4 Eigenschaften des Gradienten. 6.6.5 Lagrange-Funktion. 6.6.6 Langrange-Methode. 6.6.7 Anwendungsbeispiel. 6.6.8 Lagrange-Methode für Funktionen mit mehr als zwei Variablen. Gradientenverfahren. 84 6.7.1 Ablauf des Gradientenabstiegsverfahrens. 6.7.2 Schrittweitenbestimmung . 6.7.3 Gradientenverfahren zur Bestimmung lokaler Maxima. Methoden zur Lösung kombinatorischer Optimierungsprobleme.
Enumerationsmethode. Branch-and-Bound-Verfahren. 7.2.1 Die Methode des Branch-and-Bound-Verfahrens . 7.2.2 Branch-and-Bound-Verfahren für das TSP. 7.3 Dynamische Programmierung. 7.4 Greedy-Algorithmus. 7.4.1 Greedy-Algorithmus für das Münzwechsel-Problem. 7.4.2 Greedy-Algorithmus für ein Rucksackproblem. 7.4.3 Dijkstra-Algorithmus. 7.5 Einfache lokale Suche. 7.5.1 Nachbarschaft einer Lösung. 7.5.2 Methode der einfachen lokalen Suche. 7.6 Tabu-Suche. 7.6.1 Einführendes Beispiel (Rucksackproblem). 7.6.2 Grundversion der Tabu-Suche. 7.6.3 Varianten der Tabu-Suche. Literatur. 7.1 7.2 8 Lineare Optimierung. 8.1 Graphische Methode. 8.2 Simplexmethode.
8.2.1 Standard-Maximierungsproblem. ХШ 70 72 72 73 76 78 79 80 81 81 83 83 84 85 86 87 89 90 91 91 92 93 97 97 98 99 102 102 103 106 106 108 109 109 111 111 114 114
Inhaltsverzeichnis XIV Schlupfvariable. Austauschverfahren. Strategie der Simplexmethode. 115 115 117 Multikriterielle Optimierungsverfahren. 9.1 Methode der gewichteten Summe. 9.2 Die e-Constraint-Methode. 9.3 Pareto-Optimierung mithilfe naturanaloger Optimierungsverfahren. 121 121 123 124 10 Komplexität und heuristische/metaheuristische Verfahren. 10.1 Komplexität. 10.1.1 O-Notation. 10.1.2 Beispiel (Suche in einer sortierten Liste). 10.1.3 Komplexität von Problemen. f. 10.1.4 Polynomielle Algorithmen. i. 10.1.5 Entscheidungsprobleme. 10.1.6 Komplexitätsklassen P und NP. 10.1.7 Polynomielle Reduzierbarkeit. 10.1.8 Komplexitätsklasse NP-vollständig. 10.1.9 NP-schwere Optimierungsprobleme. 10.2 Heuristisches Verfahren. 10.3
Metaheuristische Verfahren. 10.4 Exploitation und Exploration. 10.5 No Free Lunch Theorem. Literatur. 125 125 126 126 127 128 128 129 129 131 131 132 133 133 134 134 8.2.2 8.2.3 8.2.4 9 Teil III Naturanaloge Optimierungen 11 Physikbasierende Algorithmen. 11.1 Simulated Annealing. 11.1.1 Abkühlungsprozess beim Erhärten einer Metallschmelze. 138 11.1.2 Simulated-Annealing-Algorithmus. 11.2 Threshold-Accepting-Algorithmus. 11.3 Sintflut-Algorithmus. 11.4 Populationbasierende Algorithmen. Literatur. 137 137 12 Evolutionäre Algorithmen. 12.1 Biologische Evolution. 12.2 Genetische Algorithmen. 12.2.1 Grundversion der genetischen Algorithmen. 12.3
Varianten der genetischen Algorithmen. 12.3.1 Varianten von Selektionsverfahren . 12.3.2 Varianten von Rekombinationen. 12.3.3 Varianten von Mutationen. 147 147 149 149 155 155 158 159 139 142 144 145 146
Inhaltsverzeichnis 12.3.4 Varianten der Ersetzung (Replacement). Permutationscodierung. 12.4.1 Rekombination für Permutationen. 12.4.2 Mutationen für Permutationen. . 12.4.3 Beispiel: n-Damen-Problem. 12.5 Anwendungen genetischer Algorithmen. 12.5.1 Optimierung kontinuierlicher Funktionen mit GA. 12.5.2 Multikriterielle Optimierung mit GA. . 12.6 Evolutionsstrategien. 12.6.1 Der Grundalgorithmus der Evolutionsstrategie. 12.6.2 Initialisierung. 12.6.3 Rekombination. 12.6.4 Mutationen. 12.6.5 Selektion. 12.6.6 Abbruch. Literatur. 12.4 13 Partikelschwarmalgorithmen. 13.1 Schwarmverhalten. 13.2 Boids. 13.3 14 XV 160 161 162 164 165 166 166 170 173 174 175 175 176 183 183 184 185 185 186 187
188 188 190 191 191 192 194 195 Grundversion des Partikelschwarmalgorithmus . . 13.3.1 Einführendes Beispiel. 13.3.2 Grundversion des PSO-Algorithmus . . 13.3.3 Ablauf der Grundversion des PSO. . . 13.4 Varianten des PSO-Algorithmus. 13.4.1 Maßnahmen beim Verlassen des Suchraumes. 13.4.2 Nachbarschafts-Topologien . 13.4.3 Trägheitsparameter. 13.4.4 Kontraktionsfaktor. 13.4.5 Tabelle der wichtigsten Parameter des PSO-Verfahrens. 196 13.5 Anwendungsbeispiel (Diagnostik). 13.6 Diskrete Partikelschwarmoptimierungen. 13.6.1 Binäres PSO-Verfahren. 13.6.2 DPSO-Verfahren. 13.7 Multikriterielle Partikelschwarmoptimierung. Literatur. 196 196 197 199 201 207 Ameisenalgorithmen. 14.1 Ameisen in der Natur. 14.2 Grundprinzip des Ameisenalgorithmus. 14.3 Die Grundversion des
Ameisenalgorithmus. 14.4 Der Algorithmus AS. 14.5 Unterschied zwischen realen und künstlichen Ameisen. 14.6 Varianten des Ameisenalgorithmus AS. 209 209 210 213 214 216 217
Inhaltsverzeichnis XVI 15 14.6.1 Elitist AS (EAS). 14.6.2 Rank based AS (ASrank). 14.6.3 MAX-MIN Ant-System (MMAS). 14.6.4 Ant Colony System (ACS). 14.7 Parameterwerte für ACO-Algorithmen. 14.8 Anwendungen. 14.8.1 Rucksackproblem. 14.8.2 Generalised Assignment Problem. 14.8.3 Routing in Netzwerken. 14.8.4 Shortest Common Supersequence Problem. Literatur. 217 218 218 219 220 220 220 221 223 225 230 Bienenalgorithmen. 231 231 231 232 234 234 Bienen in der Natur. 15.1.1 Bienenvolk. (. 15.1.2 Futtersuche der Bienen. 15.2 Der BA-Algorithmus. 15.2.1 Die Grundversion des BA-Algorithmus. 15.2.2 Analogie zwischen natürlichen und künstlichen Bienen. 15.2.3 Lokale und globale
Suche. 15.2.4 Anwendungsbeispiel. 15.3 Der ABC-Algorithmus. Literatur. 15.1 16 Fledermausalgorithmen. 16.1 16.2 Fledermäuse in der Natur. Grundversion des BAT-Algorithmus. 16.2.1 Parameter des BAT-Algorithmus. 16.2.2 BAT-Algorithmus in der Grundversion. 16.2.3 Analogie zwischen natürlichen und künstlichen Fledermäusen. 16.2.4 BAT-Algorithmus für das Problem des Handlungsreisenden . 16.3 Binärer BAT-Algorithmus. 16.4 Multikriterieller BAT-Algorthmus. Literatur. 17 Künstliche Immunsysteme. 17.1 Natürliches Immunsystem. 17.2 17.1.1 Angeborenes und erworbenes Immunsystem. 17.1.2 Affinität. Positive und negative
Selektion. 17.2.1 Thymusmodell. 17.2.2 Künstliche positive und negative Selektion. 235 236 237 239 241 243 243 244 244 245 247 248 250 251 252 253 253 254 255 256 257 257
Inhaltsverzeichnis XVII 17.3 Klonaler Selektions-Algorithmus. 17.3.1 Klonale Selektionstheorie. 17.3.2 CLONALG für Mustererkennung. 17.3.3 CLONALG für Optimierung. 17.4 Immuner-Netzwerk-Algorithmus. 17.4.1 Die Jernesche Netzwerktheorie. 17.4.2 Der aiNet-Algorithmus. 17.4.3 Anwendung (Clusteranalyse). 17.4.4 Der opt-aiNet-Algorithmus . Literatur. 260 260 262 266 270 270 271 273 274 277 Übersicht: Naturanaloge Optimierungen. 18.1 Naturanaloge Optimierungen in diesem Buch. 18.2 Übersicht weiterer naturanaloger Optimierungsmethoden . Literatur. 279 279 280 281 18 Teil IV Neuronale kombinatorische Optimierung 19 Neuronale Netze. 19.1 Natürliches neuronales Netz. Das künstliche Neuron. Typen von Aktivierungsfunktionen. Das
Perzeptron. Deltaregel. Das mehrschichtige Perzeptron. Klassifikation. Deep Learning. Backpropagation. Varianten der Gradientenverfahren . Ablauf des Backpropagation-Lernalgorithmus . Regression. Under-und Overfittung. Funktionsapproximation. Optimierung von KNN mit naturanalogen Optimierungsmethoden. 19.16 Netztopologien. 19.17 Lernen mit künstlichen neuronalen Netzen. Literatur. 19.2 19.3 19.4 19.5 19.6 19.7 19.8 19.9 19.10 19.11 19.12 19.13 19.14 19.15 20 Selbstorganisierende Karten. 20.1 Kohonen-
Karte. 20.2 Einführendes Beispiel (SOM-Algorithmus). 20.3 SOM-Lernalgorithmus. 20.4 Klassifizierung von Daten mit SOM. 20.5 Lösung des TSP mit der SOM-Methode. Literatur. 285 285 286 288 288 290 291 293 294 294 298 298 300 301 302 304 307 307 308 309 309 310 311 314 315 316
χνιπ Inhaltsverzeichnis . . 21.1 Definition eines Hopfield-Netzes. 21.2 Aktualisierung in Hopfield-Netzen. 21.3 Energiefunktion. 21.4 Speichern von Mustern. 21.5 Wiederherstellung eines Musters. 21.6 Hopfield-Algorithmus mit dem SimulatedAnnealing-Verfahren . 21.7 Anwendungen auf Optimierungsprobleme . Literatur. 317 317 318 319 320 322 Reinforcement Learning. 22.1 Einführung. 22.2 Menace. 22.3 Formale Beschreibung von RL. 22.4 Markovsche Entscheidungprozesse. 22.5 Return. 22.6 Policy. 22.7 State-Value-
Funktion. 22.7.1 Definition der State-Value-Funktion. 22.7.2 Beispiel der State-Value-Funktion. 22.8 Action-Value-Funktion. 22.9 Optimale Policies und optimale Value-Funktionen. 22.10 Q-Learning. 22.11 DQN-Algorithmus. 22.12 REINFORCE-Algorithmus. 22.12.1 Policy Gradient Theorem. 22.12.2 REINFORCE Algorithmus. 22.12.3 Beispiel (Vier Gewinnt). 22.12.4 REINFORCE mit Baseline. Literatur. 331 331 332 333 335 336 337 338 338 338 339 340 340 343 346 346 347 348 349 350 23 Optimierungsmethoden in Deep Learning. 23.1 Problem der verschwindenden und explodierenden Gradienten. 23.2 Gradient Clipping. 351 21 22 23.3 Momentum-Optimierung . 23.4 Exponentiell gleitender
Durchschnitt. 23.5 RMSProp-Optimierung. 23.6 Adam-Optimierung. Literatur. 24 Neuronale Optimierung mit dem Pointer-Netzwerk. 24.1 Rekurrente neuronale Netze. 24.2 24.3 Einführende Beispiele von RNN. Mathematische Beschreibung des RNN. 323 324 328 351 352 352 354 354 355 356 357 357 358 359
Inhaltsverzeichnis Backpropagation Through Time. LSTM-Zellen. Seq2seq. 24.7 Softmax-Funktion. 24.8 Attention-Mechanismus. 24.9 Stochastische Policy für das TSP. 24.10 Pointer-Netzwerk. 24.11 Trainierbare Zielfunktion für das TSP. 24.12 Baseline. 24.13 REINFORCE-Algorithmus für das TSP. 24.14 Varianten der REINFORCE-Methode für Optimierungsprobleme. Literatur. 24.4 24.5 24.6 XIX 360 360 362 362 363 365 366 367 369 369 370 371 Transformer. 25.1.1 Encoder. 25.1.2 Decoder. 25.2 Greedy Rollout Baseline. 25.3 REINFORCE mit Greedy Rollout Baseline.
25.4 Testphase. Literatur. 373 373 373 379 382 383 384 384 Optimierung mit graphischen neuronalen Netzen. 26.1 Graphische neuronale Netze. 26.2 Grapheneinbettung . 26.3 S2V-Einbettung. 26.4 TSP als Markovscher Entscheidungsprozess. 26.5 Parametrisierung der Action-Value-Funktion . 26.6 S2V-DQN-Algorithmus für TSP. 26.7 Testphase. 26.8 Weitere Optimierungsverfahren mit GNN. Literatur. 385 385 387 387 388 389 390 391 392 392 Programmbibliotheken für Machine Learning. Programmbibliothek . . Weitere Programmbibliotheken. 393 393 394 Literatur. 397
Stichwortverzeichnis. 403 25 Neuronale Optimierung mit Transformer . 25.1 26 27 27.1 27.2 |
any_adam_object | 1 |
any_adam_object_boolean | 1 |
author | Hollstein, Ralf |
author_GND | (DE-588)1299947263 |
author_facet | Hollstein, Ralf |
author_role | aut |
author_sort | Hollstein, Ralf |
author_variant | r h rh |
building | Verbundindex |
bvnumber | BV049569433 |
classification_rvk | SK 870 |
ctrlnum | (OCoLC)1348180062 (DE-599)DNB1270357999 |
discipline | Mathematik |
discipline_str_mv | Mathematik |
edition | 1. Auflage 2023 |
format | Book |
fullrecord | <?xml version="1.0" encoding="UTF-8"?><collection xmlns="http://www.loc.gov/MARC21/slim"><record><leader>02918nam a22006618c 4500</leader><controlfield tag="001">BV049569433</controlfield><controlfield tag="003">DE-604</controlfield><controlfield tag="005">20240315 </controlfield><controlfield tag="007">t</controlfield><controlfield tag="008">240214s2023 gw a||| |||| 00||| ger d</controlfield><datafield tag="015" ind1=" " ind2=" "><subfield code="a">22,N42</subfield><subfield code="2">dnb</subfield></datafield><datafield tag="016" ind1="7" ind2=" "><subfield code="a">1270357999</subfield><subfield code="2">DE-101</subfield></datafield><datafield tag="020" ind1=" " ind2=" "><subfield code="a">9783658398545</subfield><subfield code="c">Festeinband : circa EUR 49.99 (DE), circa EUR 51.39 (AT), circa CHF 55.50 (freier Preis), circa EUR 46.72</subfield><subfield code="9">978-3-658-39854-5</subfield></datafield><datafield tag="020" ind1=" " ind2=" "><subfield code="a">365839854X</subfield><subfield code="9">3-658-39854-X</subfield></datafield><datafield tag="024" ind1="3" ind2=" "><subfield code="a">9783658398545</subfield></datafield><datafield tag="028" ind1="5" ind2="2"><subfield code="a">Bestellnummer: 978-3-658-39854-5</subfield></datafield><datafield tag="028" ind1="5" ind2="2"><subfield code="a">Bestellnummer: 89214346</subfield></datafield><datafield tag="035" ind1=" " ind2=" "><subfield code="a">(OCoLC)1348180062</subfield></datafield><datafield tag="035" ind1=" " ind2=" "><subfield code="a">(DE-599)DNB1270357999</subfield></datafield><datafield tag="040" ind1=" " ind2=" "><subfield code="a">DE-604</subfield><subfield code="b">ger</subfield><subfield code="e">rda</subfield></datafield><datafield tag="041" ind1="0" ind2=" "><subfield code="a">ger</subfield></datafield><datafield tag="044" ind1=" " ind2=" "><subfield code="a">gw</subfield><subfield code="c">XA-DE-HE</subfield></datafield><datafield tag="049" ind1=" " ind2=" "><subfield code="a">DE-739</subfield></datafield><datafield tag="084" ind1=" " ind2=" "><subfield code="a">SK 870</subfield><subfield code="0">(DE-625)143265:</subfield><subfield code="2">rvk</subfield></datafield><datafield tag="084" ind1=" " ind2=" "><subfield code="8">1\p</subfield><subfield code="a">004</subfield><subfield code="2">23sdnb</subfield></datafield><datafield tag="100" ind1="1" ind2=" "><subfield code="a">Hollstein, Ralf</subfield><subfield code="e">Verfasser</subfield><subfield code="0">(DE-588)1299947263</subfield><subfield code="4">aut</subfield></datafield><datafield tag="245" ind1="1" ind2="0"><subfield code="a">Optimierungsmethoden</subfield><subfield code="b">Einführung in die klassischen, naturanalogen und neuronalen Optimierungen</subfield><subfield code="c">Ralf Hollstein</subfield></datafield><datafield tag="250" ind1=" " ind2=" "><subfield code="a">1. Auflage 2023</subfield></datafield><datafield tag="263" ind1=" " ind2=" "><subfield code="a">202303</subfield></datafield><datafield tag="264" ind1=" " ind2="1"><subfield code="a">Wiesbaden</subfield><subfield code="b">Springer Fachmedien Wiesbaden GmbH</subfield><subfield code="c">2023</subfield></datafield><datafield tag="264" ind1=" " ind2="1"><subfield code="b">Springer Vieweg</subfield><subfield code="c">2023</subfield></datafield><datafield tag="300" ind1=" " ind2=" "><subfield code="a">XXII, 408 Seiten</subfield><subfield code="b">Illustrationen, Diagramme</subfield><subfield code="c">23.5 cm x 15.5 cm</subfield></datafield><datafield tag="336" ind1=" " ind2=" "><subfield code="b">txt</subfield><subfield code="2">rdacontent</subfield></datafield><datafield tag="337" ind1=" " ind2=" "><subfield code="b">n</subfield><subfield code="2">rdamedia</subfield></datafield><datafield tag="338" ind1=" " ind2=" "><subfield code="b">nc</subfield><subfield code="2">rdacarrier</subfield></datafield><datafield tag="650" ind1="0" ind2="7"><subfield code="a">Optimierung</subfield><subfield code="0">(DE-588)4043664-0</subfield><subfield code="2">gnd</subfield><subfield code="9">rswk-swf</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Optimierung</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Optimierungsmethoden</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">evolutionäre Algorithmen</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Machine Learning</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">schwarmintelligente Methoden</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">naturanaloge Optimierungsmethoden</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Künstliche Intelligenz</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Neuronale Netze</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Reinforcement Learning</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Pointer Networks</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">kombinatorische Optimierung</subfield></datafield><datafield tag="653" ind1=" " ind2=" "><subfield code="a">Optimierungsprobleme</subfield></datafield><datafield tag="689" ind1="0" ind2="0"><subfield code="a">Optimierung</subfield><subfield code="0">(DE-588)4043664-0</subfield><subfield code="D">s</subfield></datafield><datafield tag="689" ind1="0" ind2=" "><subfield code="5">DE-604</subfield></datafield><datafield tag="710" ind1="2" ind2=" "><subfield code="a">Springer Fachmedien Wiesbaden</subfield><subfield code="0">(DE-588)1043386068</subfield><subfield code="4">pbl</subfield></datafield><datafield tag="776" ind1="0" ind2="8"><subfield code="i">Erscheint auch als</subfield><subfield code="n">Online-Ausgabe</subfield><subfield code="z">9783658398552</subfield></datafield><datafield tag="856" ind1="4" ind2="2"><subfield code="m">X:MVB</subfield><subfield code="q">text/html</subfield><subfield code="u">http://deposit.dnb.de/cgi-bin/dokserv?id=c540e2271b754c9f96ba3c69d7b7d979&prov=M&dok_var=1&dok_ext=htm</subfield><subfield code="3">Inhaltstext</subfield></datafield><datafield tag="856" ind1="4" ind2="2"><subfield code="m">X:MVB</subfield><subfield code="u">http://www.springer.com/</subfield></datafield><datafield tag="856" ind1="4" ind2="2"><subfield code="m">DNB Datenaustausch</subfield><subfield code="q">application/pdf</subfield><subfield code="u">http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000001&line_number=0001&func_code=DB_RECORDS&service_type=MEDIA</subfield><subfield code="3">Inhaltsverzeichnis</subfield></datafield><datafield tag="856" ind1="4" ind2="2"><subfield code="m">Digitalisierung UB Passau - ADAM Catalogue Enrichment</subfield><subfield code="q">application/pdf</subfield><subfield code="u">http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000003&line_number=0002&func_code=DB_RECORDS&service_type=MEDIA</subfield><subfield code="3">Inhaltsverzeichnis</subfield></datafield><datafield tag="999" ind1=" " ind2=" "><subfield code="a">oai:aleph.bib-bvb.de:BVB01-034914665</subfield></datafield><datafield tag="883" ind1="1" ind2=" "><subfield code="8">1\p</subfield><subfield code="a">vlb</subfield><subfield code="d">20221015</subfield><subfield code="q">DE-101</subfield><subfield code="u">https://d-nb.info/provenance/plan#vlb</subfield></datafield></record></collection> |
id | DE-604.BV049569433 |
illustrated | Illustrated |
index_date | 2024-07-03T23:30:11Z |
indexdate | 2024-07-10T10:10:56Z |
institution | BVB |
institution_GND | (DE-588)1043386068 |
isbn | 9783658398545 365839854X |
language | German |
oai_aleph_id | oai:aleph.bib-bvb.de:BVB01-034914665 |
oclc_num | 1348180062 |
open_access_boolean | |
owner | DE-739 |
owner_facet | DE-739 |
physical | XXII, 408 Seiten Illustrationen, Diagramme 23.5 cm x 15.5 cm |
publishDate | 2023 |
publishDateSearch | 2023 |
publishDateSort | 2023 |
publisher | Springer Fachmedien Wiesbaden GmbH Springer Vieweg |
record_format | marc |
spelling | Hollstein, Ralf Verfasser (DE-588)1299947263 aut Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen Ralf Hollstein 1. Auflage 2023 202303 Wiesbaden Springer Fachmedien Wiesbaden GmbH 2023 Springer Vieweg 2023 XXII, 408 Seiten Illustrationen, Diagramme 23.5 cm x 15.5 cm txt rdacontent n rdamedia nc rdacarrier Optimierung (DE-588)4043664-0 gnd rswk-swf Optimierung Optimierungsmethoden evolutionäre Algorithmen Machine Learning schwarmintelligente Methoden naturanaloge Optimierungsmethoden Künstliche Intelligenz Neuronale Netze Reinforcement Learning Pointer Networks kombinatorische Optimierung Optimierungsprobleme Optimierung (DE-588)4043664-0 s DE-604 Springer Fachmedien Wiesbaden (DE-588)1043386068 pbl Erscheint auch als Online-Ausgabe 9783658398552 X:MVB text/html http://deposit.dnb.de/cgi-bin/dokserv?id=c540e2271b754c9f96ba3c69d7b7d979&prov=M&dok_var=1&dok_ext=htm Inhaltstext X:MVB http://www.springer.com/ DNB Datenaustausch application/pdf http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000001&line_number=0001&func_code=DB_RECORDS&service_type=MEDIA Inhaltsverzeichnis Digitalisierung UB Passau - ADAM Catalogue Enrichment application/pdf http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000003&line_number=0002&func_code=DB_RECORDS&service_type=MEDIA Inhaltsverzeichnis 1\p vlb 20221015 DE-101 https://d-nb.info/provenance/plan#vlb |
spellingShingle | Hollstein, Ralf Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen Optimierung (DE-588)4043664-0 gnd |
subject_GND | (DE-588)4043664-0 |
title | Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen |
title_auth | Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen |
title_exact_search | Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen |
title_exact_search_txtP | Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen |
title_full | Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen Ralf Hollstein |
title_fullStr | Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen Ralf Hollstein |
title_full_unstemmed | Optimierungsmethoden Einführung in die klassischen, naturanalogen und neuronalen Optimierungen Ralf Hollstein |
title_short | Optimierungsmethoden |
title_sort | optimierungsmethoden einfuhrung in die klassischen naturanalogen und neuronalen optimierungen |
title_sub | Einführung in die klassischen, naturanalogen und neuronalen Optimierungen |
topic | Optimierung (DE-588)4043664-0 gnd |
topic_facet | Optimierung |
url | http://deposit.dnb.de/cgi-bin/dokserv?id=c540e2271b754c9f96ba3c69d7b7d979&prov=M&dok_var=1&dok_ext=htm http://www.springer.com/ http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000001&line_number=0001&func_code=DB_RECORDS&service_type=MEDIA http://bvbr.bib-bvb.de:8991/F?func=service&doc_library=BVB01&local_base=BVB01&doc_number=034914665&sequence=000003&line_number=0002&func_code=DB_RECORDS&service_type=MEDIA |
work_keys_str_mv | AT hollsteinralf optimierungsmethodeneinfuhrungindieklassischennaturanalogenundneuronalenoptimierungen AT springerfachmedienwiesbaden optimierungsmethodeneinfuhrungindieklassischennaturanalogenundneuronalenoptimierungen |