Jürgen Schmidhuber ist
ein deutscher Informatiker; er arbeitet vor allem im Bereich Künstliche
Intelligenz und deren Spezialgebiet der Neuronalen Netzwerke.
Seit 1995 ist er wissenschaftlicher Direktor bei
IDSIA, einem Schweizer Forschungsinstitut für KI.
Bekannte internationale Medien bezeichneten ihn als
Vater fortgeschrittener KI, Papa berühmter
KI-Produkte, Vater der modernen KI und Paten der
KI.
Studium
Jürgen Schmidhuber studierte ab 1983 Informatik und
Mathematik an der Technischen Universität München, an der er 1987
sein Diplom erwarb und 1991 bei Wilfried Brauer in Informatik promoviert wurde.
Das Thema war: Dynamische Neuronale Netze und das
fundamentale raumzeitliche Lernproblem.
Dynamische Neuronale Netze und insbesondere fast weight
programmers, welche er 1991 vorschlug, enthalten Kernideen der heutigen
Transformer-Architektur.
Als Post-Doktorand war er 1991/92 an der University of
Colorado, Boulder.
Im Jahre 1993 habilitierte sich Schmidhuber an der TU
München (Net Architectures, Objective Functions, and Chain Rule).
Lehre
Er war Oberassistent und ab 1995 Privatdozent an der TU
München, bevor er 1995 wissenschaftlicher Direktor von IDSIA in
Lugano wurde.
Von 2003 bis 2021 war er Professor an der Scuola
universitaria professionale della Svizzera italiana in Manno, von 2009 bis
2024 ordentlicher Professor an der Università della Svizzera
italiana (USI), wo er immer noch außerordentlicher Professor ist.
Er war zudem 2004 bis 2009 als außerordentlicher
Professor Leiter des Labors für kognitive Robotik an der TU
München.
Seit Oktober 2021 arbeitet er als Direktor der
KI-Initiative an der saudischen KAUST-Universität.
Weiterhin ist er Mitgründer und Chefwissenschaftler
der Firma NNAISENSE, deren Präsident er von 2014 bis 2017 war.
Seine Erkenntnissen wurden
in der KI-Forschung von Google angewandt, zum Beispiel auf das Go-Spiel
(AlphaGo bei Deep Mind).
Einer der Gründer von Google DeepMind studierte bei
Schmidhuber in Lugano. Die RNN wurden insbesondere durch eine Idee von
Schmidhubers Diplomanden an der TU München Sepp Hochreiter (Professor in
Linz) 1991 verbessert, der Implementierung von Long short-term memory
(LSTM) im Neuronalen Netz, was diesem ermöglichte, weiter beim Lernen in
die Vergangenheit zurückzublicken.
Schmidhuber bezeichnet seine RNN mit LSTM als Deep
Learning Netzwerke. Seine möglicherweise ambitionierteste Arbeit ist die
Gödelmaschine (2003) zur Lösung beliebiger formalisierbarer Probleme.
Mit Hilfe eines asymptotisch optimalen Theorembeweisers
überschreibt die Gödelmaschine beliebige Teile ihrer Software (samt
dem Theorembeweiser), sobald sie einen Beweis gefunden hat, dass dies ihre
zukünftige Leistung verbessern wird.
Die Gödelmaschine ist dabei ein theoretisches
Konstrukt, keine real funktionierende Ingenieurs-Leistung.
Schmidhuber publizierte auch Arbeiten zur Menge der
möglichen berechenbaren Universen. Sein Großer
Programmierer implementiert Konrad Zuses Hypothese (1967) der digitalen
Physik, gegen die bis heute keine physikalische Evidenz vorliegt.
1997 wies Schmidhuber darauf hin, dass das einfachste
Programm alle Universen berechnet, nicht nur unseres. Ein Beitrag aus dem Jahre
2000 analysierte weiterhin die Menge aller Universen mit limit-berechenbaren
Wahrscheinlichkeiten sowie die Grenzen formaler Beschreibbarkeit.
Diese Arbeiten führten ihn zu Verallgemeinerungen der
Kolmogorov-Komplexität K(x) einer Bitkette x. K(x) ist die Länge des
kürzesten Programms, das x berechnet und hält.
Schmidhubers nicht-haltende, doch konvergierende Programme
stellen noch kürzere, nämlich die kürzestmöglichen formalen
Beschreibungen dar. Sie führen zu nicht-abzählbaren, doch
limesberechenbaren Wahrscheinlichkeitsmaßen und zu sogenannten
Super-Omegas, bei denen es sich um Verallgemeinerungen von Gregory Chaitins
Zahl aller mathematischen Weisheit Omega handelt.
All dies hat Konsequenzen für das Problem der
optimalen induktiven Inferenz, d. h., der optimalen Zukunftsvorhersage aus
bisher beobachteten Daten.
Auszeichnungen
Schmidhuber erhielt mit seinen neuronalen Netzwerken ab
2009 verschiedene Preise in visuellen Mustererkennungswettbewerben für
Maschinenlernen und Künstliche Intelligenz.
- 2013 erhielt Schmidhuber den Helmholtz Award der
International Neural Networks Society,
- 2016 den IEEE CIS Neural Networks Pioneer Award
für bahnbrechende Beiträge zum Deep Learning und zu neuronalen
Netzen. Sein Labor erhielt 2016 den NVIDIA Pioneers of AI Research Award.
|
Jürgen
Schmidhuber. Foto. Wikipedia.
.
Schriften
von Jürgen Schmidhuber (Auswahl) |
Veröffentlichungen
Jürgen Schmidhuber veröffentlichte
zahlreiche wissenschaftliche Artikel in folgenden Themenbereichen:
- Maschinelles Lernen,
- neuronale Netze,
- Kolmogorow-Komplexität,
- Digitale Physik,
- Robotik,
- Kaum Komplexe Kunst
- und Theorie der Schönheit.
Die in seiner Arbeitsgruppe entwickelten
rekurrenten Neuronalen Netze (RNN) lernen in effizienter Weise
früher unlernbare Aufgaben wie die Erkennung gewisser kontextsensitiver
Sprachen, Robotersteuerung in partiell sichtbaren Umgebungen, Musikkomposition,
Aspekte der Sprachverarbeitung und das Erkennen von Handschriften.
Mit Sepp Hochreiter: Long short-term memory, Neural
Computation, Band 9, 1997, S. 17351780
Mit F. A. Gers, F. Cummins: Learning to forget:
Continual prediction with LSTM, Neural Computation, Band 12, 2000, S.
24512471
Mit A. Graves, S. Fernández, F. Gomez:
Connectionist temporal classification: labelling unsegmented sequence data with
recurrent neural networks, Proceedings of the 23rd International Conference on
Machine Learning, 2006, S. 369376
Mit D. Ciregan, U. Meier, J. Masci: Multi-column
deep neural network for traffic sign classification, Neural Networks, Band 32,
2012, S. 333338
Mit D. Ciregan, U. Meier: Multi-column deep neural
networks for image classification, IEEE Conference on computer vision and
pattern recognition, 2012, S. 36423649
Deep learning in neural networks: An overview. In:
Neural Networks. 61, 2015, S. 85, arxiv:1404.7828 [cs.NE].
Mit K. Greff, R. K. Srivastava, J. Koutnik, B. R.
Steunebrink: LSTM: A search space odyssey, IEEE Transactions on neural networks
and learning systems, Band 28, 2016, S. 22222232
Filmische Dokumentationen: 3sat Kulturzeit:
Interview mit Jürgen Schmidhuber,
2016. Vortrag von Jürgen Schmidhuber:
Künstliche Intelligenz wird alles ändern.
2016 Juergen Schmidhuber: Godel Machines,
Meta-Learning, and LSTMs | Lex Fridman Podcast #11 auf YouTube,
23. Dezember 2018.
Und...
Roman Leipold: Wie ein Blitz in der Weltgeschichte
(KI-Serie, Teil 3). Chip, 2016, Nr. 4 (PDF).
Ruth Fulterer: Der unbequeme Vater der
künstlichen Intelligenz wohnt in der Schweiz. NZZ online, 20. Februar
2021.
Intelligente Roboter werden vom Leben fasziniert
sein. In: FAZ.net. 1. Dezember 2015, abgerufen am 29. April 2017.
Richard David Precht im Gespräch mit Prof.
Jürgen Schmidhuber: Künstliche Intelligenz - Herrschaft der
Maschinen? In: ZDFmediathek. 20. Oktober 2019.
. |
.
Als Konsequenz aus der aus seiner Sicht unabwendbar
fortschreitenden Automatisierung und dem damit einhergehenden Wegfall von
Erwerbsarbeitsplätzen sieht Schmidhuber die Notwendigkeit eines
bedingungslosen Grundeinkommens:
Roboterbesitzer werden Steuern zahlen müssen,
um die Mitglieder unserer Gesellschaft zu ernähren, die keine existenziell
notwendigen Jobs mehr ausüben. Wer dies nicht bis zu einem gewissen Grad
unterstützt, beschwört geradezu die Revolution Mensch gegen Maschine
herauf. (Jürgen Schmidhuber: Wir müssen Roboter erziehen wie
Kinder. Interview durch Vinzenz Greiner, 15. Januar 2017.)
· |