Advertisement

Beschleunigtes Lernen durch adaptive Regelung der Lernrate bei back-propagation in feed-forward Netzen

  • R. Salomon
Conference paper
Part of the Informatik-Fachberichte book series (INFORMATIK, volume 252)

Zusammenfassung

Dieser Artikel beschäftigt sich mit back-propagation, einem Lernverfahren für Neuronale Netze. Es wird gezeigt, wie sich durch das Einführen von Testzyklen erstens eine starke Beschleunigung der Konvergenzgeschwindigkeit ergibt, und zweitens aufwendige Experimente, die zum Einstellen lernrelevanter Parameter dienen, entfallen können.

Preview

Unable to display preview. Download preview PDF.

Unable to display preview. Download preview PDF.

Literatur

  1. [Fah89]
    Scott E. Fahlmann. Faster—learning variations on back—propagation: An empirical study. In David Touretzky, Geoffrey Hinton, and Terrence Sejnowski, editors, Proceedings of the 1988 Connectionist Models Summer School, pages 38–51, San Mateo, CA, 1989. Morgan Kaufmann Publishers.Google Scholar
  2. [Jac88]
    Robert A. Jacobs. Increased rates of convergence through learning rate adaption. Neural Networks, 1: 295–307, 1988.Google Scholar
  3. [KSV87]
    Alan H. Kramer and A. Sangiovanni-Vincentelli. Efficient parallel learning algorithms for neural networks. IEEE Computer, 1987.Google Scholar
  4. [LW89]
    Kevin J. Lang and Michael J. Witbrock. Learning to tell two spirals apart. In David Touretzky, Geoffrey Hinton, and Terrence Sejnowski, editors, Proceedings of the 1988 Connectionist Models Summer School, pages 56–59, San Mateo, CA, 1989. Morgan Kaufmann Publishers.Google Scholar
  5. RS88] D. R. Rush and J. M. Salas. Improving the learning rate of backpropagation with the gradient reuse algorithm. In IEEE International Conference on Neural Networks,pages I-441, San Diego, CA, 1988. The Institute of Electrical and Electronic Engineers, Inc., IEEE San Diego Section and IEEE TAB Neural Network Committee.Google Scholar
  6. [Sa189]
    Ralf Salomon. Adaptiv geregelte Lernrate bei Back-propagation. Technical Report 89–24, Technische Universität Berlin, 1989. Forschungsberichte des Fachbereichs Informatik.Google Scholar

Copyright information

© Springer-Verlag Berlin Heidelberg 1990

Authors and Affiliations

  • R. Salomon
    • 1
  1. 1.Institut für Angewandte Informatik, FG Informatik in Natur- und IngenieurwissenschaftenTechnische Universität BerlinBerlin 12Deutschland

Personalised recommendations