Neuronale Netze
Eine Einführung
  • Grundlagen
  • Lernregeln
  • Netztypen
  • Eigenschaften
  • Anwendungen
  • Sonstiges
  • Hebb-Regel
  • Delta-Regel
  • Backpropagation
  • Competitive Learning
  • Zusammenfassung
    LernregelnLayout elementDelta-Regel
    Seite 12/63
    Hebb-RegelHebb-Regel
      EinleitungEinleitung

    Delta-Regel

    Grundlage der Delta-Regel

    Die Delta-Regel beruht auf einem Vergleich zwischen dem gewünschten und dem tatsächlich beobachteten Output einer Outputunit i. Als Formel kann dieser Vergleich wie folgt dargestellt werden: Delta = ai(gewünscht) - ai(beobachtet)

    Man kann drei Möglichkeiten unterscheiden:

    • Die beobachtete Aktivität ist zu niedrig. Um die Aktivität zu steigern werden die Gewichte zwischen den sendenden und der empfangenden Unit erhöht, sofern von den sendenden Einheiten ein positiver Input ausgeht. Die Gewichte zu den sendenden Units mit negativem Input werden hingegen gesenkt.
    • Die beobachtete Aktivität ist zu groß. Da die Aktivität hier reduziert werden soll, schwächt man alle Verbindungen bei denen der Input positiv ist und stärkt diejenigen Verbindungen mit negativem Input.
    • Die beobachtete und gewünschte Aktivität sind gleich groß (= gewünschtes Resultat). In diesem Fall erfolgen keinerlei Veränderungen.

    Formel: Delta-Regel

    Diese drei Möglichkeiten sind in der Formel zur Delta-Regel enthalten: Delta wij = Lernparameter Delta i aj

    Dieser Term stellt außerdem sicher, dass die Größe der Gewichtsveränderung proportional zur Größe des Fehlers ist. Zudem werden durch die Multiplikation mit aj diejenigen Gewichte zu den sendenden Units stärker verändert, die einen größeren Einfluss auf den Fehlerterm ausüben. Der Lernparameter Lernparameter wird vor der Trainingsphase festgelegt und gibt an, wie stark die Gewichtsveränderung pro Lerndurchgang ausfallen soll.

    Hebb-RegelHebb-Regel
      EinleitungEinleitung

    Anregungen, Fragen und Fehler an: Mailadresse: 'mail at neuronalesnetz.de'

    • Impressum
    • Druckversion
    • Sachverzeichnis
    • Links