Start Was ist KI? KI-Anwendungen Computer Weltregionen Forschung Entwicklung

.
..
..
..
.

Recht
Aktuelles
Statistik
Militärisches
Robotik
Publikationen
Lexikon

pfeilJürgen Schmidhuber über Neuronalen Netzen

Jürgen Schmidhuber ist ein Pionier auf dem Gebiet der Künstlichen Intelligenz, bekannt für seine Arbeiten zu rekurrenten Neuronalen Netzen und Deep Learning.
Er hat zahlreiche Veröffentlichungen zu AGI und den Schritten zu ihrer Entwicklung verfasst.

Jürgen Schmidhuber ist ein deutscher Informatiker; er arbeitet vor allem im Bereich Künstliche Intelligenz und deren Spezialgebiet der Neuronalen Netzwerke.

Seit 1995 ist er wissenschaftlicher Direktor bei IDSIA, einem Schweizer Forschungsinstitut für KI.

Bekannte internationale Medien bezeichneten ihn als „Vater fortgeschrittener KI“, „Papa“ berühmter KI-Produkte, „Vater der modernen KI“ und „Paten der KI“.

Studium

Jürgen Schmidhuber studierte ab 1983 Informatik und Mathematik an der Technischen Universität München, an der er 1987 sein Diplom erwarb und 1991 bei Wilfried Brauer in Informatik promoviert wurde.

Das Thema war: Dynamische Neuronale Netze und das fundamentale raumzeitliche Lernproblem.

Dynamische Neuronale Netze und insbesondere fast weight programmers, welche er 1991 vorschlug, enthalten Kernideen der heutigen Transformer-Architektur.

Als Post-Doktorand war er 1991/92 an der University of Colorado, Boulder.

Im Jahre 1993 habilitierte sich Schmidhuber an der TU München (Net Architectures, Objective Functions, and Chain Rule).

Lehre

Er war Oberassistent und ab 1995 Privatdozent an der TU München, bevor er 1995 wissenschaftlicher Direktor von IDSIA in Lugano wurde.

Von 2003 bis 2021 war er Professor an der Scuola universitaria professionale della Svizzera italiana in Manno, von 2009 bis 2024 ordentlicher Professor an der Università della Svizzera italiana (USI), wo er immer noch außerordentlicher Professor ist.

Er war zudem 2004 bis 2009 als außerordentlicher Professor Leiter des Labors für kognitive Robotik an der TU München.

Seit Oktober 2021 arbeitet er als Direktor der KI-Initiative an der saudischen KAUST-Universität.

Weiterhin ist er Mitgründer und Chefwissenschaftler der Firma NNAISENSE, deren Präsident er von 2014 bis 2017 war.

Seine Erkenntnissen wurden in der KI-Forschung von Google angewandt, zum Beispiel auf das Go-Spiel (AlphaGo bei Deep Mind).

Einer der Gründer von Google DeepMind studierte bei Schmidhuber in Lugano. Die RNN wurden insbesondere durch eine Idee von Schmidhubers Diplomanden an der TU München Sepp Hochreiter (Professor in Linz) 1991 verbessert, der Implementierung von Long short-term memory (LSTM) im Neuronalen Netz, was diesem ermöglichte, weiter beim Lernen in die Vergangenheit zurückzublicken.

Schmidhuber bezeichnet seine RNN mit LSTM als Deep Learning Netzwerke. Seine möglicherweise ambitionierteste Arbeit ist die Gödelmaschine (2003) zur Lösung beliebiger formalisierbarer Probleme.

Mit Hilfe eines asymptotisch optimalen Theorembeweisers überschreibt die Gödelmaschine beliebige Teile ihrer Software (samt dem Theorembeweiser), sobald sie einen Beweis gefunden hat, dass dies ihre zukünftige Leistung verbessern wird.

Die Gödelmaschine ist dabei ein theoretisches Konstrukt, keine real funktionierende Ingenieurs-Leistung.

Schmidhuber publizierte auch Arbeiten zur Menge der möglichen berechenbaren Universen. Sein „Großer Programmierer“ implementiert Konrad Zuses Hypothese (1967) der digitalen Physik, gegen die bis heute keine physikalische Evidenz vorliegt.

1997 wies Schmidhuber darauf hin, dass das einfachste Programm alle Universen berechnet, nicht nur unseres. Ein Beitrag aus dem Jahre 2000 analysierte weiterhin die Menge aller Universen mit limit-berechenbaren Wahrscheinlichkeiten sowie die Grenzen formaler Beschreibbarkeit.

Diese Arbeiten führten ihn zu Verallgemeinerungen der Kolmogorov-Komplexität K(x) einer Bitkette x. K(x) ist die Länge des kürzesten Programms, das x berechnet und hält.

Schmidhubers nicht-haltende, doch konvergierende Programme stellen noch kürzere, nämlich die kürzestmöglichen formalen Beschreibungen dar. Sie führen zu nicht-abzählbaren, doch limesberechenbaren Wahrscheinlichkeitsmaßen und zu sogenannten Super-Omegas, bei denen es sich um Verallgemeinerungen von Gregory Chaitins „Zahl aller mathematischen Weisheit“ Omega handelt.

All dies hat Konsequenzen für das Problem der optimalen induktiven Inferenz, d. h., der optimalen Zukunftsvorhersage aus bisher beobachteten Daten.

Auszeichnungen

Schmidhuber erhielt mit seinen neuronalen Netzwerken ab 2009 verschiedene Preise in visuellen Mustererkennungswettbewerben für Maschinenlernen und Künstliche Intelligenz.

  • 2013 erhielt Schmidhuber den Helmholtz Award der International Neural Networks Society,
  • 2016 den IEEE CIS Neural Networks Pioneer Award für „bahnbrechende Beiträge zum Deep Learning und zu neuronalen Netzen“. Sein Labor erhielt 2016 den NVIDIA Pioneers of AI Research Award.
Jürgen

Jürgen Schmidhuber. Foto. Wikipedia.

.

Schriften von Jürgen Schmidhuber (Auswahl)

Veröffentlichungen

Jürgen Schmidhuber veröffentlichte zahlreiche wissenschaftliche Artikel in folgenden Themenbereichen:

  • Maschinelles Lernen,
  • neuronale Netze,
  • Kolmogorow-Komplexität,
  • Digitale Physik,
  • Robotik,
  • Kaum Komplexe Kunst
  • und Theorie der Schönheit.

Die in seiner Arbeitsgruppe entwickelten rekurrenten Neuronalen Netze (RNN) lernen in effizienter Weise früher unlernbare Aufgaben wie die Erkennung gewisser kontextsensitiver Sprachen, Robotersteuerung in partiell sichtbaren Umgebungen, Musikkomposition, Aspekte der Sprachverarbeitung und das Erkennen von Handschriften.


Mit Sepp Hochreiter: Long short-term memory, Neural Computation, Band 9, 1997, S. 1735–1780

Mit F. A. Gers, F. Cummins: Learning to forget: Continual prediction with LSTM, Neural Computation, Band 12, 2000, S. 2451–2471

Mit A. Graves, S. Fernández, F. Gomez: Connectionist temporal classification: labelling unsegmented sequence data with recurrent neural networks, Proceedings of the 23rd International Conference on Machine Learning, 2006, S. 369–376

Mit D. Ciregan, U. Meier, J. Masci: Multi-column deep neural network for traffic sign classification, Neural Networks, Band 32, 2012, S. 333–338

Mit D. Ciregan, U. Meier: Multi-column deep neural networks for image classification, IEEE Conference on computer vision and pattern recognition, 2012, S. 3642–3649

Deep learning in neural networks: An overview. In: Neural Networks. 61, 2015, S. 85, arxiv:1404.7828 [cs.NE].

Mit K. Greff, R. K. Srivastava, J. Koutnik, B. R. Steunebrink: LSTM: A search space odyssey, IEEE Transactions on neural networks and learning systems, Band 28, 2016, S. 2222–2232

Filmische Dokumentationen: 3sat Kulturzeit: Interview mit Jürgen Schmidhuber,

2016. Vortrag von Jürgen Schmidhuber: Künstliche Intelligenz wird alles ändern.

2016 Juergen Schmidhuber: Godel Machines, Meta-Learning, and LSTMs | Lex Fridman Podcast #11 auf YouTube, 23. Dezember 2018.

Und...

Roman Leipold: Wie ein Blitz in der Weltgeschichte (KI-Serie, Teil 3). Chip, 2016, Nr. 4 (PDF).

Ruth Fulterer: Der unbequeme Vater der künstlichen Intelligenz wohnt in der Schweiz. NZZ online, 20. Februar 2021.

Intelligente Roboter werden vom Leben fasziniert sein. In: FAZ.net. 1. Dezember 2015, abgerufen am 29. April 2017.

Richard David Precht im Gespräch mit Prof. Jürgen Schmidhuber: Künstliche Intelligenz - Herrschaft der Maschinen? In: ZDFmediathek. 20. Oktober 2019.

.

.

Als Konsequenz aus der aus seiner Sicht unabwendbar fortschreitenden Automatisierung und dem damit einhergehenden Wegfall von Erwerbsarbeitsplätzen sieht Schmidhuber die Notwendigkeit eines bedingungslosen Grundeinkommens:

„Roboterbesitzer werden Steuern zahlen müssen, um die Mitglieder unserer Gesellschaft zu ernähren, die keine existenziell notwendigen Jobs mehr ausüben. Wer dies nicht bis zu einem gewissen Grad unterstützt, beschwört geradezu die Revolution Mensch gegen Maschine herauf.“ (Jürgen Schmidhuber: Wir müssen Roboter erziehen wie Kinder. Interview durch Vinzenz Greiner, 15. Januar 2017.)

·

(•) Die KI-Forschung (ab den 1950er)

Programmierer / Informatiker

(•) Alan Turing, "Vater der KI"

(•) Joseph Weizenbaum

(•) Arthur L. Samuel

(•) Marvin Minsky (1927–2016), KI-Forscher

(•) Allen Newell, KI-Pionier

(•) John McCarthy, Miterfinder der KI

(•) Herbert Simon, Verhaltensforscher, KI-Pionier

(•) Yann LeCun – Vorreiter einer intelligenten Zukunft

(•) Wolfgang Wahlster: Pionier der deutschen KI-Forschung

(•) Ray Kurzweil über KI

(•) Demis Hassabis und DeepMind

(•) Jürgen Schmidhuber

(•) Nick Bostrom

(•) Yoshua Bengio forscht Deep Learning

(•) Ben Goertzel über AGI

(•) Sepp Hochreiter forscht Deep Learning

(•) Oren Etzioni erforscht die KI

(•) Hannah Fry und ihre Auseinandersetzung mit KI

Grundsätzliches

(•) Die Geschichte der KI

(•) Technische Grundlagen der KI

(•) Das Internet

(•) Die Smartphones


(•) Yuval Harari: Vordenker der KI

 

Dr. Paulo Heitlinger

Autor, Vortragender, Fachlicher Ansprechpartner

Web-site, das E-Book, die Newsletter und die Vorträge werden mit Hilfe von KI-Lösungen erstellt.

© 2025 | Copyright by Paulo Heitlinger

Impressum | Kontakt | Autor | E-Book | Vorträge | Other languages