Gabriella Kókai: Computational Intelligence Lehrstuhl für Informatik 2

Transkript

1 Ameiseolonien Ant Systeme für TSP AS Variationen Min-Max Ant System Ant Colony System (ACS) ACS Variationen Fast Ant System Ant Colony Optimization Meta Heuristic- ACO Anwendung in der Bioinformati

2 Dorigo M. and G. Di Caro (1999). The Ant Colony Optimization Meta-Heuristic. In D. Corne, M. Dorigo and F. Glover, editors, New Ideas in Optimization, McGraw- Hill, M. Dorigo and L. M. Gambardella. Ant colonies for the traveling salesman problem. BioSystems, 43:73 81, M. Dorigo and L. M. Gambardella. Ant Colony System: A cooperative learning approach to the traveling salesman problem. IEEE Transactions on Evolutionary Computation, 1(1):53 66, G. Di Caro and M. Dorigo. Mobile agents for adaptive routing. In H. El-Rewini, editor, Proceedings of the 31st International Conference on System Sciences (HICSS- 31), pages IEEE Computer Society Press, Los Alamitos, CA, M. Dorigo, V. Maniezzo, and A. Colorni. The Ant System: An autocatalytic optimizing process. Technical Report Revised, Dipartimento di Elettronica,Politecnico di Milano, Italy, L. M. Gambardella, ` E. D. Taillard, and M. Dorigo. Ant colonies for the quadratic assignment problem. Journal of the Operational Research Society,50(2): , V. Maniezzo and A. Colorni. The Ant System applied to the quadratic assignment problem. IEEE Transactions on Data and Knowledge Engineering, 11(5): , Gambardella L. M., E. Taillard and M. Dorigo (1999). Ant Colonies for the Quadratic Assignment Problem. Journal of the Operational Research Society, 50: Swarm Intelligence, From Natural to Artificial Systems, E.Bonabeau, M.Dorigo, G.Theraulaz, Santa Fe, Duft der Daten, Der Spiegel, November 13, 2000 Swarm smarts, Scientific American, March 2000

3 Idee: Reale Ameisen: Experiment von Goss et.al mit argentinischen Ameisen Künstliche Ameisen: Ant Systeme- AS Dorigo 1992 Ant Colony Systeme ACS Dorigo und Gambardella 1997 Ant Colony Optimization Meta-Heuristi ACO Dorigo und DiCaro 1999 Biologische Analogie: Verhalten von Ameisen bei der Futtersuche Bei noch unbeannten Umgebung verfolgen einzelne Ameisen zufällig ausgewählte Wege um das Nest Die Ameisen hinterlassen eine chemische Substanz (Pheromon), welches durch anderen wahrgenommen werden ann. Stößt die Ameise auf eine Futterquelle so hinterlässt sie auf dem Rücweg zum Nest eine Pheromonspur, deren Stäre z.t. von der Quantität und Qualität der Futterquelle abhängig ist.

4 Die Pheromonspur wird durch andere Ameisen wahrgenommen, womit diese ebenfalls zur Futterquelle geleitet werden und sich die Intensität der Spur verstärt. Gelegte Pheromonspuren verflüchtigen sich mit der Zeit und die Intensität von Spuren auf urzen Weg zum Futter wächst schneller als auf langen Wegen. Der implizite Koordinationsmechanismus ermöglicht es dem Ameisenvol ürzeste Wege zum Futter zu finden Futter Nest

5 Kürzeste Pfade: Wie die Ameisen ürzesten Weg von Futter zum Nest bei Vorhanden eines Hindernisses finden Übertragung des Prinzips auf ombinatorische Optimierungsproblemen: Eine Ameisenolonie besitzt eine festgelegte Anzahl an Ameisen Jede Ameise (Agent/Prozess) sucht eine Lösung, einen Zustand im Suchraums Die Bewegung der Ameisen im Suchraum geschieht durch die problemabhängigen Wahl einer Nachbarschaftslösung. Die Entscheidung welche Lösung gewählt wird, hängt von: Problemabhängiges heuristisches Wissen Wiren bislang abgelegten Pheromone Die Evaporierung der Pheromone verhindert, dass sich die Ameisen zu schnell auf den gleichen Teil des Suchraums onzentrieren

6 Mathematische Formulierung: Bewertung eines Schrittes vom Pun i zum Punt j Ameisenentscheidungstabelle A a (t) : a ( t) = α, β α [ τ ( t) ] [ η ( t) ] : die β und Pheromonwe rt i = N(i) τ ( t) : der Pheromonwe rt des Weges von i zu j im Zeitpunt t η ( t) : der heuristischen errechneten Weg für diesen Schritt N i j N Menge alle Nachbarschaftslösungen von i i : Kontrollparameter für das relative Gewicht von heuristischen Wahrscheinlicheit, dass eine Ameise für den Weg von i nach j N i in der t-ten Iteration entscheidet: p ( t) = N i l N a ( t) i a ( t) il : Menge der Nachbarschaftlösungen von Punt den die Ameise noch nicht besucht hat i,

7 Atualisierung der Werte der Pheromonspuren: τ ( t + 1) = ρτ ( t) + τ ( t) τ ( t) : Zuwachs an Pheromonwerten durch die Ameisen im letzten Schritt : ρ : Persistenzoeffizien t der Pheromone 1- ρ : Evaporationsoeffizi ent der Pheromone m = 1 τ ( t) Algorithmus Ameisenolonie() { Erzeuge eine Population von Ameisen t=0 So lange ein Abbruchriterium erreicht ist Für alle Ameisen: Berechne-nächsten-Schnitt(t) Pass die Pheromonwerte durch Evaporation an Für alle Ameisen, die einen Endzustand erreicht haben: erzeuge neue Ameisen mit einem Startzustand t=t+1 }

8 Berechne-nächste-Schritt(Schritt t) { } Bestimme alle Nachbarschaftslösungen Berechne den heuristischen Wert eines Schrittes von der atuellen Lösung zu einer neuen Lösung Berechne die Entscheidungstabelle und Übergangswahrscheinlicheiten Bestimme damit die nächste Lösung l N i und bewege dich dorthin Atualisiere den Pheromonwert auf dem Pfad von i nach l Nimm l in die Liste der bereits besuchten Lösungen N i j N i

9 Ameisen onstruieren Touren Kanten mit höheren Pheromon-Konzentration werden mit höhere Wahrscheinlicheit gewählt. r Jede Ameise hinterlegt Pheromonspuren nachdem Tour omplett ist Hinterlegte Pheromonmenge ist umgeehrt proportional zur Länge der Tour der Ameise Duftspur verflüchtigt sich mit der Zeit s v τ ( s, v) τ ( s, u) τ ( s, r) τ ( s, t) u t Ameisen sind Tour-Konstrutoren: Jede Ameise erzeugt eine Tour Wahrscheinlicheit für Ameise von Stadt r nach s zu gehen p (r,s) = u J (r) α β τ(r,s) η(r,s) α τ(r,u) η(r,u) 0, sonst wenn s J (r) τ:pheromon-konzentration (r,s) = 1/d(r,s): Heuristische Information J (r) : Menge der noch nicht besuchte Städte β

10 Pheromon-Update-Regel: τ ( r, s) = ρ τ ( r, s) + τ ( r, s) = 1 1 wenn (r,s) T τ ( r, s) = L 0, sonst T L : Tour von Ameise ρ : Perzistenz der Pheromon m : Länge der Tour von Ameise! " # " $ % & ' ( ) * + 1 [] A B 2 [] [] C 3 [] D E 4 [] d AB =100;d BC = 60 ;d DE =150 5

11 ! " # " $ % & ' ( ) + [A] A [B] B 1 [C] 2 3 C [D] [E] 4 D 5 E! " # " $ % & ' ( ) + [A] 1 α β [ τ ( r, s)] [ η ( r, s)] A α p ( t ) = [ τ ( r, u )] [ η ( r, u )] u J ( r ) 0 β wenn B sonst j J ( r ) [A] C 1 [A] [A,D] D 1 E

12 ! " # " $ % & ' ( ) + 5 [E,A] A [B,C] B 3 [C,B] 2 C [A,D] [D,E] 1 D 4 E! " # " $ % & ' ( ) + 4 [D,E,A] A [A,D,C] B 5 [E,A,B] 1 C [B,C,D] [C,B,E] D 2 3 E

13 ! " # " $ % & ' ( ) + [B,C,D,A] A B [D,E,A,B] 2 [E,A,B,C] 4 5 C [C,B,E,D] [A,DCE] D 3 1 E! " # " $ % & ' ( ) + [C,B,E,D,A] [A,D,C,E,B] 3 A [D,E,A,B,C] B 1 4 C [E,A,B,C,D] [B,C,D,A,E] D 5 E 2

14 ! " # " $ % & ' ( ) + [A,D,C,E,B] 1 [B,C,D,A,E] 2 [C,B,E,D,A] L 1 =300 τ ( r, s ) = 1 L wenn 0 sonst L 2 =450 L 3 =260 3 total τ [D,E,A,B,C] A,B = τ A,B + τ A,B + τ A,B + τ A,B + 4 L 4 =280 ( r, s ) T τ 5 A,B [E,A,B,C,D] 5 L 5 =420! " # " $ % & ' ( ) + Ende den ersten Durchlauf Speichere den besten Tour (Sequenze und Länge) Alle Ameisen sterben Neu Ameisen sind geboren

15 t = 0; NC = 0; (t)=c for =0 Place the m ants on the n nodes Initialize p ( t) = l N i 0 Update tabu (s) α [ τ ( t)] [ η ] α [ τ ( t)] [ η ] il β il β if j N i otherwise Tabu list management Choose the city j to move to. Use probability Move -th ant to town j. Insert town j in tabu (s) Compute the length L of every ant Update the shortest tour found τ i, Q ) L if( i, j j = 0 For every = edge (i,j) Compute τ ( t + n) = ρτ ( t) + τ For :=1 to m do : tour described by tabu otherwise τ = τ + τ Set t = t + n; NC=NC+1; =0 Yes NC<NC max && not stagn. No End p ( t) = 0 p ( t) t = 0; NC = 0; (t)=c for =0 α [ τ ( t)] [ η ] i l N Place the m ants on the n nodes α [ τ ( t)] [ η ] = l N i 0 il Update tabu (s) il α [ τ ( t)] [ η ] α [ τ ( t)] [ η ] il β il β β β if j N if j N i otherwise i Initialize Tabu list management Choose the city j to move to. Use probability otherwise Move -th ant to town j. Insert town j in tabu (s) τ i, j Q = L 0 τ i, j Compute the length L of every ant Update the shortest tour found τ ( t + n) = ρτ ( t) + τ For every = edge (i,j) Compute τ ( t + n) = ρτ ( t) + τ For :=1 to m do Q ) tour described by tabu = L if( i, j 0 otherwise if (i, j τ :) = τ + tour τ described by tabu Set t = t + n; NC=NC+1; =0 otherwise Yes NC<NC max && not stagn. No End

16 Results for a 30 cities instance (10 runs, one hour) best average std.deviation ACO Tabu-search Sim. Annealing Results for larger instances (25000 constructed tours, best tour documented) ACO Gen.Alg. Evol.Prog. Sim.Ann. 50 cities cities cities Probleme:! Bei zu schnellen Anstieg der Pheromonspuren erfolgt frühzeitige Stagnation (Festhängen in einer der ersten, meist schlechten Lösungen)! Zu langsamer Anstieg von Pheromonspuren: Prodution zufällig streuender Lösungen.! Bis zu 50 Städten optimale oder sehr gute Lösungen, jedoch sind die Laufzeit des Algorithmus relativ hoch

17 Varianten:! Rang-basierten: Sortiere Lösungen S 1, S m nach Zielwert (beste zuerst) Vermehre nur Pheromonspuren von Komponenten der ersten w-1 besten Lösungen sowie von Komponenten der global besten Lösung τ w e = ρτ e + 1 : ( a= 1 w a) τ + wτ a e B e S B M M AS: M ax-m in-algorithmus Schneller auf vielversprechende Regionen zu onzentrieren: Für die Atualisierung der Pheromonspuren nur noch eine Ameise verwendet wird Global-beste: Die die bisher beste Rundreise gefunden hat Iteration-beste: die mit der beste Lösung der atuellen Iteration Einschränungen für die mögliche Werte der Pheromonstäre [ τ,τ min max ] aber jede Kante eine feste minimale Wahrscheinlicheit hat für Rundreise ausgewählt zu werden Theoretisch maximal mögliche Wert: τ max = Q /((1 ρ) L global beste) τ min wird um einen onstanten Fator leiner als τ max gewählt Hybrides Verfahren: Loale Suche wird verwendet um die Performanz der Algorithmus zu steigern: Ameisen werden benutzt, um günstige Ausganglösungen für die loale Suche zu generieren

18 M M AS Algorithmus procedure Max-Min Ant System 1. Initialisiere Pheromonspuren und Parameter 2. While (Abbruchriterium nicht erfüllt) do for :=1 to m do onstruiere Lösung für Ameise end for Verbessere Lösungen mit loaler Suche, Atualisierung der Pheromone, τ τ τ τ 3. Return beste gefundene Lösung max min Anwendung an TSP des M M AS Beschleunigung der Lösungsonstrution: loale Suche (3-opt) aus Kandidatenmenge, die für jede Stadt ihre 20 nächste Nachbarn erhalten Möglich: Ameise wählt die nächste Stadt immer nur aus dieser Menge Nicht möglich: die Stadt mit maximalen Wert für τ η Schnellere Durchführung der Atualisierung der Pheromonspuren: Es sind insgesamt n 2 Kanten also n 2 Pheromonstären Hier werden mittels Evaporation nur die Pheromonstären der Kanten innerhalb der Kandidatenmengen atualisiert

19 Experimentelle Ergebnisse des M M AS Vergleich mit iterierten loalen Suche (ILS) mit Lin-Kernighan- Suchverfahren: das beste existierende Approximationsalgorithmus für symmetrische TSP aber sehr implementierungsaufwendig M M AS: 25 Ameisen die alle nach jeder Iteration eine loale Suche anwenden. Die Parameterwerte: Rechner: UltraSpracII 167MHz α = 1, β = 1 und τ = τ / 2n min max Instanz ILS MMAS time/iterat d , lin ,00 600, pcb , , att , , ,30 13, rat ,90 4, pcb d , , Instanzen: Anzahl der Städte Angegeben: Mittlere Lösungsgüte für jeweils 25 versuche und deren Standardabweichung Letzte Spalte: Maximal erlaubte Laufzeit und mittlere Anzahl der Iterationen für M M AS

20 Ameiseolonien Ant Systeme für TSP AS Variationen Min-Max Ant System Ant Colony System (ACS) ACS Variationen Fast Ant System Ant Colony Optimization Meta Heuristic- ACO Anwendung in der Bioinformati Anwendungen in Embedded Systemen Ameisenolonie-Systeme Vermehrung von Pheromonspuren nur bei Komponenten bester Lösungen: τ = ( 1 ρ) τ ( t) + τ ( t) best wobei die beste Ameise, die des atuellen Durchlaufs oder die global beste sein ann Pseudo-zufällige Auswahlregel: Mit Wahrscheinlicheit q 0 nehme Element in Lösung auf, welches maximiert: τu e e mit Wahrscheinlicheit 1- q 0 mache übliche Schritt (Auswahl nächsten Elements mit zu τu proportionaler e e Wahrscheinlicheit)

21 Procedure ACS-TSP Initialisierung Repeat Jede Ameise wird in einem Startnoten positioniert Repeat Foreach Ameise Do Ameise wendet Zustandsübergansregel an Ameise wendet loale Update-Regel an endfor until Lösung omplett Globale Update-Regel wird angewendet until Ende-riterium Zufällige Übergangsregel: arg max { τ(r,u) η(r,u) } wenn q q s = S sonst 0 α β u J (r) 0 q: Zufallsvariable gleichverteilt in [0,1] q : Explorationsparameter S: Zufallsvariable nach p (r,s) aus AS

22 Loal Lernregel τ ( r, s) = (1 ρ) τ ( r, s) + ρ τ ( r, s) τ ( r, s) = γ max τ ( r, s) = τ τ ( r, s) = 0 0 z J ( s) τ ( s, z) ρ : Parameter 0 ( 0,1] γ : Q Learning Parameter τ : Initialer Pheromonlevel [ 0,1) Global Lernregel: τ ( r, s) = (1 α) τ ( r, s) + α τ ( r, s) 1 wenn (r,s) T τ (r,s) = Lbest 0,sonst T : Tour von besten Ameise L best best : Länge der besten Tour α: Verflüchtigung der Pheromon best

23 Parameter: Einfluss der heuristischen Information β = 2 Exploration q 0 = 0.9 Pheromon-Evaporation τ 0 = 1/( n Lnn) Initialer Pheromonwert α = ρ = 0.1 L nn Länge der Lösung des Nearest-Neighbor-Heuristi Anzahl der Ameisen m=10 FANT: Von Taillard und Gambardella,1997 Nur eine Amiese Loale Suche nach Konstrution einer Lösung Pheromone verflüchtigen sich nicht Pheromon-Update: τ τ + r τ + r * τ τ : τ gb : r, r*: 1, wenn (i, j) Element der atuellen Lösung ist 1, wenn (i, j) Element der besten Lösung ist Parameter gb

24 ACO+Meta-Heuristi: Von Dorigo und DiCaro 1999 Verallgemeinerung des ACS Framewor erlaubt Integration von loaler Suche Anwendung Disrete Optimierungsprobleme mit bestimmten Eigenschaften Problemdarstellung als Graph, Wahl einer Lösungsomponente wird durch Kante im Graph dargestellt Voraussetzungen:! Endliche menge C von Komponenten C = { c1, c2, ", cn}! Endliche Menge L von möglichen Verbindungen/Übergängen zwischen den Elementen von C, L = { l ( i, j) C C}, C n! Für jedes l LVerbindungsosten J ( l, t) möglicherweise zeitabhängig! Eine Endliche Menge von Nebenbedingungen Ω( L, C, t) 2

25 Weitere Voraussetzungen: Die Zustände des Problems ausgedrüct als Sequenzen s = c i, c j, c über Elementen von C, S sei die Menge aller möglichen Sequenzen und S* die Menge der gültigen Sequenzen bezüglich Ω( L, C, t) Eine Nachbarschaftsstrutur, d.h. s 1 und s 2 sind Nachbarn, wenn s1 =, c und s =, c S, c,c C und I c2 L c1, Eine Lösung x S * mit einer Kostenfuntion f(x,l,t) abhängig von der Kosten I der Lösung! " Aufgabe: # Pfad im Graphen G=(C,L) " Beispiel TSP: # C: Menge der Städte/Knoten # L: Menge der Verbindungen/Kanten # Verbindungsosten J ( l, t) = d # Ω( L, C, t) : Jede Stadt darf nur einmal besucht werden # Die Zustände des Problems: Städtefolge s = c i, c j, $ # Lösung x S *: gültige Tour # Kostenfuntion f(x,l,t): Tourlänge c

26 " Gedächtnis M: Jede Ameise hat ein Gedächtnis Wichtig für Erzeugung gültiger Lösungen Verwendet zur Evaluation einer Lösung Benötigt zum Rücverfolgen des Pfades " Routing-tabelle A: Gewichtet Kanten im Graph durch Kombination der Pheromononzentration und der heuristischen Information Benötigt zur Berechnung der Zustandübergangswahrscheinlicheiten procedure ACO; begin repeat schedule antsgenerationandactivity(); pheromonevaporation(); daemonactions(); end schedule until Ende-Kriterium end; procedure antsgenerationandactivity; begin repeat schedulecreationnewant(); newactiveant(); until noresource(); end procedure newactiveant; begin initialzeant(); M = updateantmemory(); repeat A= readlocalantroutingtable(); P= computetransitionprobabilites(a,m, Ω); nextstate= applyant DecisionPolicy(P, Ω); movetonextstate(nextstate); if (onlinestepbysteppheromonupdate()) depositpheromononvisitedarc(); updateantroutingtable(); end if M= updateinternalstate(); until currentstate == targetstate; if (onlinedelayedpheromoneupdate()) foreach arc in x do depositepheromoneonvisitarc(); updateantroutingtable(); end foreach; endif; end ;

27 Alena Shmygelsa, Rosalía Aguirre-Hernández & Holger H. Hoos : An Ant Colony Optimization Algorithm for the 2D HP Protein Folding Problem Protein: Im menschlichen Körper gibt es über eine Million verschiedener Proteine Sequenz von Aminosäuren Es gibt 20 verschiedene Aminosäure Die Funtionalität des Proteins wird von seinm Strutur bestimmt: Primärstrutur = Aminosäuresequenz Seundärstrutur = ergibt sich aus der regelmäßigen Wasserstoffbrücen- Wechselwirungen zwischen Peptidbindungen Ein relative einfaches Model: Hydrophob-Polar-Model: Aminosäure werden als hydrophob oder polar lassifiziert Ziel: Minimiere freie Energie durch Falten der Kette in 2D-Struture, so dass die Anzahl von H-H Kontate maximalisiert wird.! " # $ % # & '( ) # *+ ". / /. -,, Dill, 1985: Das HP-Model bewahrt die wichtige biologische Informationen der Gestalt. Crescenzi et al. and Berger/Leighton, 1998: das Problem is NP hard Shmygelsa/Hoss, 2003: ACO -

28 Proteinfaltung in the 2D-HP-model (Dill) Gegeben eine Sequenzen von Aminosäuren s 1 s n wo s { 0,1}, d.h. hydrophobic/polar i Bestimme die Strutur eines Proteins d.h. die Koordinaten in einem 2D-rechtecförmigen Gitter, so dass - Einträgen von Nachbarnsequenzen sind in Nachbarnpositionen - Jeder Position wird nur einmal besetzt - Die Anzahl of 1-1 Kontaten in der 2D-Struture ist maximalisiert Elitismus Pheromone ist mit der Faltungsrichtung der Positionen verbunden Heuristische Information zeigt wieviel neu HH-Kontaten geformt werden Einfache Suchalgorithmus wurde verwendet Bactracing-Mechanismus geht ½ der Entfernung zum Anfangspunt Komponenten: loalen struturellen Motiven i-d (n-2 wenn n die Länge des Proteins ist) Teillösung: Teilmenge der loalen struturellen Motiven (3*(n-2) verschiedene) Mögliche Teillösung: Sequenz von aufeinander folgenden Motiven ohne Überlappung der Aminosäuren in dem 2D-Gitter Lösung: Endgültige Faltung Dämon-Ation: init pheromone i-d =const for each tuple i-d; repeat for all ants i: construct_solution(i); for the best ants i: optimize_solution(i); for the best ants i: global_pheromone_update(i); for all pheromones i-d: evaporate: i-d =(1- ) i-d ; Loale Optimierung

29 construct_solution(i); init s = { }; while s is not a solution: position j choose a local structural motif j-d with probability proportional to - 0 if the position is already occupied or the sequence gets trapped - proportional to j-d j-d expand s by the chosen motif; optimize_solution(i); perform a fixed number of feasible and improving substitutions of local structural motifs at random zeigt die Anzahl der 1-1-Kontaten in diesem Motive Ausführbareit global_pheromone_update(i); for all local structural motifs in a solution: j-d := j-d + number of 1-1 contacts in the solution / const; Beste publizierte Ergebnisse mit verschiedenen Größen length GA EMC MSOE PERM ACO GA: Genetischer Algorithmus EMC: Evolutionärer Algorithmus Monte Carlo Methode MSOE: Monte Carlo + overlapping conformations PERM: iterierte heuristische Methode

30 traditioneller Ansatz: Domain-spezifisches Wissen notwendig, Training und Erfahrung des Designers -> nicht zufrieden stellend - Schaltreis-Repräsentation: n x m Matrix - Funtional-Fitness: Übereinstimmungsanzahl mit der Wahrscheinlicheitstafel des Schaltreises - Objective-Fitness: Qualitätsmermal einer Lösung aus der zu optimierenden Eigenschaften (z.b. Fläche, Verzögerung, Anzahl der Gates, Energieverbrauch...) - Ziele der Optimierung: Anzahl der Gates nicht ausreichend -> Kostenfuntion M N O P Q R S T U V W X V Y TU TZ [ \R V ] ^ _ [ \Z ` a R T S R V / / - ' ( (. " Functional fitness: = * + (, ) & " ' %! " (! " # $ % $ = Objective fitness: 9:7; = < 2 E D F E C D Overall Fitness Calculation: A G B = H B B + 1 H A B L Beispiel: eine Funtion J K I J K I J K I = + +

31 ACO- Design von digitalen Schaltreisen Modifizierter ACO Algorithmus For MAXITER Anzahl der Iterationen do Fülle die Matrix ACO Algorithmus Ameisen Ativität Pheromone Update Entferne unfit cells End For Gib den besten Pfad zurüc End Algorithmus M N O P Q R S T U V W X V Y TU TZ [ \R V ] ^ _ [ \Z ` a R T S R V!!! α β " τ η = # α β $ τ η Traversieren ist stochastischer Prozess: Heuristic value η hängt von Entfernung der Zellen ab: Pheromonaddition: τ = λ τ = τ + τ χ = + 1 η = Pheromonverdunstung: ρ τ = 1 ρ 01 τ

32 ! " +-. ) ( +- ) ' $ +- ( $ ' & % & = # / $ 0 α β *, τ +, η ) ' $ +, ( α & τ % & η χ Erfahrungswerte: α=1 β=2 ρ=0.1 Ameisenzahl = 10*Inputgrösse Anzahl der Generationen = 10 Maximale Iterationszahl = 2000 (4 input Schaltreise), 3000 (5 input Schaltreise) Grösse der Matrix = (2 * Inputgrösse) x (2 * Inputgrösse) β! " 1

33 ! " # $ %

34 Problem name Traveling salesman Authors Dorigo, Maniezzo & Colorni Gamberdella & Dorigo Algorithm name AS Ant-Q Year Dorigo & Gamberdella ACS &ACS 3 opt 1996 Stutzle & Hoos MMAS 1997 Quadratic assignment Bullnheimer, Hartl & Strauss Cordon, et al. Maniezzo, Colorni & Dorigo AS ran BWAS AS-QAP Gamberdella, Taillard & Dorigo HAS-QAP 1997 Stutzle & Hoos MMAS-QAP 1998 Scheduling problems Maniezzo Maniezzo & Colorni Colorni, Dorigo & Maniezzo ANTS-QAP AS-QAP AS-JSP Stutzle AS-SMTTP 1999 Barer et al ACS-SMTTP 1999 Vehicle routing den Besten, Stutzle & Dorigo Merle, Middenderf & Schmec Bullnheimer, Hartl & Strauss Gamberdella, Taillard & Agazzi ACS-SMTWTP ACO-RCPS AS-VRP HAS-VRP Problemname Authoren Name des Algorithmus Jahr Connection-oriented Schoonderwood et al. ABC 1996 networ routing White, Pagure & Oppacher Di Caro & Dorigo Bonabeau et al. ASGA AntNet-FS ABC-smart ants Connection-less Di Caro & Dorigo AntNet & AntNet-FA 1997 networ routing Subramanian, Druschel & Chen Regular ants 1997 Heusse et al. CAF 1998 van der Put & Rethrantz ABC-bacward 1998 Sequential ordering Gamberdella& Dorigo HAS-SOP 1997 Graph coloring Costa & Hertz ANTCOL 1997 Shortest common supersequence Michel & Middendorf AS_SCS 1998

35 Problemname Authoren Name des Algorithmus Jahr Frequency assignment Maniezzo & Carbonaro ANTS-FAP 1998 Generalized assignment Ramalhinho Lourenco & Serra MMAS-GAP 1998 Multiple napsac Leguizamon & Michalewicz AS-MKP 1999 Optical networs routing Navarro Varela & Sinclair ACO-VWP 1999 Redundancy allocation Liang & Smith ACO-RAP 1999 Constraint satisfaction Solnon Ant-P-solver 2000 AS: Verhalten von Ameisen bei der Futtersuche Ameisen hinterlassen Pheromonspur Pfade mit hoher Pheromon-Konzentration werden bevorzugt Die Ameisen lösen olletiv Das Problem des ürzesten Pfades durch Indirete Kommuniation

36 Max-Min-Ameisesystemen: Beschräne die Pheromonwert auf ein vorgegebenes Intervall. Idee Von Stützle und Hoos 1997 Unterschiede zu AS: Nur beste Ameise (global beste oder Iterationsbeste darf Pheromonspuren atualisieren Pheromonwerte werden auf ein Intervall [ τ,τ min max ] festgelet Pheromonwerte werden mit τ max initialisiert Verwendung von loaler Suche τ e