Wie lernen Maschinen?

Lernende Maschinen faszinieren mich unglaublich. Die Tatsache, dass eine Maschine binnen Tagen selbstständig etwas lernen kann, wofür ein Mensch zum Teil ein halbes Leben braucht, finde ich faszinierend. Doch wie haben Menschen es geschafft, lernende Maschinen zu erschaffen und wie funktionieren diese? Zu meiner großen Freude beschäftigt sich der Autor

Henning Beck: Das neue Lernen heißt verstehen

mit genau dieser Frage, und ich freue mich nun sehr darauf, seine Antwort mit Dir zu teilen.

Das Problem des katastrophalen Vergessens

Beim Lernen gibt es eine Herausforderung, der sich sowohl Mensch als auch Maschine stellen müssen: Die Speicherkapazität für Informationen ist begrenzt. Würde eine Maschine alle neuen Informationen, die sie erhält, einfach speichern, würde sie irgendwann an den Punkt kommen, an dem der Speicher voll ist. Ab jetzt kann sie entweder keine neuen Informationen mehr aufnehmen oder sie beginnt die alten Informationen zu überspeichern. Das bedeutet, jede noch so wertvolle alte Information würde einfach durch eine neu hereinkommende Information ersetzt. Im Moment der Überspeicherns würde ein katastrophales Vergessen einsetzen, weil wertvolle Informationen verloren gehen, nur weil sie alt sind.

Um dieses Problem zu lösen, suchten die Wissenschaftler, die sich mit der Entwicklung des maschinellen Lernens beschäftigten, nach Lösungen, die die Natur anwendet, um dieses Problem zu umgehen.

Wie verhindert der Mensch das katastrophale Vergessen?

Ähnlich wie ein Computer hat auch das menschliche Gehirn nicht unendlich viel Speicherplatz. Dennoch sind wir in der Lage, uns an Dinge zu erinnern, die wir in der Kindheit erlebt haben. Allerdings können sich die wenigsten Menschen daran erinnern, was sie in den letzten 30 Tagen alles gegessen haben. Die Frage lautet also: Wie entscheidet das menschliche Gehirn, welche Informationen es dauerhaft speichert und welche nicht? Um diese Frage zu beantworten, schauen wir uns im Folgenden das menschliche Gehirn etwas genauer an:

Das menschliche Gehirn verfügt über zwei Speichersysteme:

1. den schnellen Hippocampus und
2. das langsame Nervennetzwerk im Großhirn.

Der Hippocampus ist in der Lage, alle neuen Informationen sofort aufzunehmen. Er funktioniert ähnlich wie der Arbeitsspeicher eines Computers, er speichert alle Informationen, die gerade bearbeitet werden. Er speichert (fast) alles, was wir am Tag erleben. Dank des Hippocampus können wir uns in der Regel gut daran erinnern, was wir in den vergangenen 24 Stunden getan haben.

Das Nervensystem im Großhirn ist so etwas wie die Festplatte unseres Gehirns. Bei einem Computer muss der Nutzer einen Speichern Knopf betätigen, um Informationen aus dem Arbeitsspeicher dauerhaft auf der Festplatte zu speichern. Auf den ersten Blick hat unser Gehirn keinen Speichern Knopf. Wir sind also nicht in der Lage zu entscheiden, welche Informationen aus dem Hippocampus im Nervensystem des Großhirns abgespeichert werden.

Welche Informationen wir aus dem Hippocampus in das Großhirn übernehmen, entscheidet unser Gehirn im wahrsten Sinne des Wortes im Schlaf. Während wir schlafen spielt unser Hippocampus die Informationen des Tages immer wieder ab. Das Netzwerksystem in unserem Großhirn schaut sich diese Informationen an und entscheidet sich, ob und welche dieser Informationen dauerhaft im Langzeitgedächtnis gespeichert werden.

Das schnelle Speichersystem (der Hippocampus) trainiert also jede Nacht unser langsames Speichersystem (das Nervennetzwerk im Großhirn).

Lernende Maschinen schlafen nicht, oder?

Die Wissenschaftler nahmen bei der Konstruktion von lernenden Maschinen das menschliche Gehirn als Vorbild und erschufen Maschinen mit zwei Speichersystemen. Dank dieser zwei Speichersysteme sind diese Maschinen inzwischen in der Lage, schneller und besser zu lernen als Menschen. Um dies zu beweisen, brachten Wissenschaftler den lernenden Maschinen das Spielen bei. 2016 gelang es einer solchen Maschine das erste Mal, den Meister im Go-Spielen (ein Schachähnliches Spiel) zu schlagen.

Der Vorteil einer Maschine liegt darin, dass ihr nicht langweilig wird, wenn sie immer und immer wieder das gleiche Spiel spielt. Zudem kann si ein Spiel viel schneller spielen als ein Mensch und braucht keinen zeitraubenden Schlaf, um Informationen vom digitalen Hippocampus in das digitale Nervennetzwerk im Großhirn zu übertragen.

Für die lernende Maschine war es also keine große Herausforderung, binnen 3 Tagen 5 Millionen Mal das Spiel Go zu spielen. Zum Vergleich: Menschliche Spieler brauchen bei Turnieren für eine Runde zwischen 10 Minuten und 8 Stunden. Das Absolvieren von 5 Millionen Go Runden hätte einen menschlichen Spieler ohne Schlafen, Essen und Co. zwischen 34 und 1.666 Tage gekostet. Nach jeder absolvierten Runde analysierte die Maschine das Spielergebnis und speicherte die wichtigsten Erkenntnisse im Langzeitspeicher ab.

UPDATE 18.07.2022: @UrianWill hat mich auf twitter gerade auf meinen Rechenfehler hingewiesen

„Da ist aber ein HEFTIGER Fehler drin. 5 000 000p × 10m/p ÷ 60m/h ÷ 24h/d ≈ 34 722d Also knapp 1 000 mal so hoch, wie angegeben und ungefähr 95 Jahre. Bei 8h kommt analog raus: 5 000 000p × 8h/p ÷ 24h/d ≈ 1 666 666d also knapp 4 563 Jahre“

Nach 3 Tagen war die selbstlernende Maschine in der Lage, alle Go-Programme zu schlagen, die jemals von einem Menschen programmiert wurden.

Die Grenzen der lernenden Maschinen

„In einer Welt aus unendlichem Datenmaterial und unendlicher Rechenpower können solche Computersysteme alles lernen.“ schreibt unser Autor, S. 33.

Allerdings gibt es dabei zwei wichtige Einschränkungen. Damit ein Computersystem das schafft, müssen Spielregeln und Spielbedingungen immer gleich bleiben. In einer Welt, in der sich die Regeln und Bedingungen ständig ändern ist der Mensch der Maschine noch immer überlegen.

Fazit

Maschinen lernen aktuell also ähnlich wie Menschen. An dieser Stelle frage ich mich, ob es in der Natur noch andere Lernsysteme gibt, mit deren Hilfe wir Maschinen das Lernen beibringen können. Was wäre, wenn lernende Maschinen wie Ameisen, Bienen, Kraken, Wale oder Krähen lernen würden?