Übersichtstabelle: Lernregeln

Tabelle 1: Tabellarische Darstellung der Kernkonzepte, Eigenschaften sowie Vor- und Nachteile der Lernregeln: Hebb-Regel, Delta-Regel, Backpropagation und Competitive learning.
Hebb-Regel Delta-Regel Backpropagation Competitive Learning
Kernkozept Gleichzeitige Aktivierung Vergleich: gewünscht vs. beobachtet; Gradientenverfahren Backward-pass; Gradientenverfahren "The winner takes it all."
Art der Lernregel Als supervised, unsupervised und reinforcement learning möglich Supervised learning Supervised learning Unsupervised learning
Biologische Plausibilität? Teilweise Eher nicht Eher nicht Teilweise
Netztypen, die auf diese Lernregel zurückgreifen (u.a.) Pattern Associator; Auto Associator Pattern Associator; Auto Associator Simple Recurrent Networks, Jordan Netze Kompetitive Netze; konzeptuell auch in Kohonennetzen
Vorteile Einfachheit, biologische Plausibilität Einfachheit, relativ leicht zu implementieren Auch bei Netzen mit Hidden-Units einsetzbar; größere Mächtigkeit im Ver-gleich zur Delta-Regel Unsupervised learning; biologische Plausibilität
Nachteile In der "klassischen" Form: Überlaufen der Werte der Gewichte und geringe Mächtigkeit des Systems Nicht bei Netzen mit Hidden-Units einsetz-bar; fragwürdige bio-logische Plausibilität; geringe Mächtigkeit des Systems Fragwürdige biologische Plausibilität; lokale Minima Einzelne Output-Unit kann alle Inputmuster "an sich reißen" --> keine Kategorisierung mehr