LERNLEITFADEN · ETWA 12 MIN LESEZEIT

Maschinelles Lernen

Normale Programme folgen Regeln, die ein Mensch geschrieben hat. Maschinelles Lernen dreht das um: Sie liefern Beispiele mit den Antworten, und der Computer findet die Regeln selbst.

KLASSISCHE PROGRAMMIERUNG
Regeln+Daten→Antworten
Ein Programmierer schreibt die Regeln: „Enthält eine E-Mail GEWINN und ist der Absender unbekannt, als Spam markieren.“
MASCHINELLES LERNEN
Daten+Antworten→Regeln
Sie zeigen ihm 100.000 E-Mails, die schon als Spam oder Nicht-Spam markiert sind, und es findet heraus, welche Muster Spam vorhersagen.

Was maschinelles Lernen ist, kurz gesagt

Maschinelles Lernen ist ein Teilgebiet der künstlichen Intelligenz, in dem Computer Muster aus Daten lernen, statt explizite Regeln zu bekommen. Ein Modell wird an Beispielen trainiert, an ungesehenen Beispielen gemessen und dann für Vorhersagen zu neuen Fällen genutzt.

Arthur Samuel, der den Begriff 1959 prägte, beschrieb es als die Fähigkeit von Computern, zu lernen, ohne explizit programmiert zu werden. Das meiste, was heute KI genannt wird, ist maschinelles Lernen.

Begriff geprägt
1959, Arthur Samuel (IBM)
Braucht
Daten, ein Modell und eine Möglichkeit, den Fehler zu messen
Hauptarten
Überwacht, unüberwacht, bestärkend
Größte Falle
Überanpassung: auswendig lernen statt lernen
KERNKONZEPT · TRAINING

Trainieren Sie ein Bestanden/Durchgefallen-Modell von Hand

Zwanzig Schüler: gelernte Stunden und ob sie bestanden haben. Ziehen Sie die Linie, um die Regel „ab so vielen Stunden: bestanden“ festzulegen. Training heißt, die Linie mit den wenigsten Fehlern zu finden.

3,0 hVORHERSAGE DURCHGEFALLENVORHERSAGE BESTANDEN
0 hgelernte Stunden10 h
bestandendurchgefallenfalsch vorhergesagt
GENAUIGKEIT75%
RICHTIG15
FALSCH BESTANDEN5
VERPASSTE BESTANDENE0
Genau das ist Training, nur automatisch: viele Einstellungen ausprobieren, Fehler messen, die beste behalten. Echte Modelle passen Millionen Zahlen statt einer an.
DIE GRÖSSTE FALLE

Komplexer ist nicht immer klüger

Ein Modell wird an Daten beurteilt, die es nicht gesehen hat. Erhöhen Sie die Komplexität: Der Trainingsfehler sinkt weiter, doch der Testfehler sinkt und steigt dann wieder, wenn das Modell beginnt, Rauschen auswendig zu lernen.

12345678910
Genau richtig
TRAININGSFEHLER11%
TESTFEHLER14%
Der optimale Punkt: geringer Testfehler. Das Modell hat das Muster gelernt, ohne Rauschen auswendig zu lernen.
Beispielhafte Fehler für ein typisches Modell. Lila: Fehler auf den Trainingsdaten. Rosa: Fehler auf zurückgehaltenen Testdaten.
ARTEN DES LERNENS

Wer liefert die Antworten?

Überwacht learningDas Modell lernt aus gelabelten Beispielen, Eingaben mit richtigen Antworten, und sagt dann Antworten für neue Eingaben vorher. Das Bestanden/Durchgefallen-Modell oben ist überwacht.Eingesetzt für:Spamfilter, Immobilienpreis-Vorhersage, Diagnose aus Scans
TYPISCHE METHODEN
Lineare und logistische RegressionEntscheidungsbäume und Random ForestsNeuronale Netze
IN DER PRAXIS

Von Daten zum eingesetzten Modell

Der Großteil der Arbeit ist nicht der Algorithmus. Gehen Sie es durch.
Daten sammelnBeispiele sammeln, die die reale Situation abbilden, der das Modell begegnen wird.Achtung:Daten, in denen ganze Gruppen von Menschen oder Fällen fehlen.
WO ES LÄUFT
Spam und BetrugEmpfehlungenMedizinische BildgebungSprachePrognosenFahrassistenz

Noch schwierig

Verzerrte DatenSpiegeln Trainingsdaten frühere Ungerechtigkeit wider, lernt das Modell sie mit. Daten und Ergebnisse zu prüfen, ist unerlässlich.
DatenhungerViele Methoden brauchen riesige gelabelte Datensätze, die teuer sind und Datenschutzfragen aufwerfen.
InterpretierbarkeitKomplexe Modelle erklären selten, warum sie eine Entscheidung trafen.
VerteilungsverschiebungAuf gestrigen Daten trainierte Modelle können still versagen, wenn sich die Welt ändert.

Wie es dazu kam

1943Künstliche Neuronen.McCulloch und Pitts beschrieben ein mathematisches Modell des Neurons.
1958Das Perzeptron.Frank Rosenblatt baute eine Maschine, die lernte, einfache Bilder zu klassifizieren.
1959Der Begriff.Arthur Samuel prägte „machine learning“ für sein sich selbst verbesserndes Dame-Programm.
1986Backpropagation.Rumelhart, Hinton und Williams machten die Methode populär, mit der neuronale Netze bis heute trainiert werden.
2012Deep Learning kommt.AlexNet, auf GPUs trainiert, gewann die ImageNet-Challenge mit großem Vorsprung.
2017Transformer.Die Architektur hinter den heutigen großen Sprachmodellen.
LESELISTE
Pattern Recognition and Machine Learning· Christopher Bishop2006
The Hundred-Page Machine Learning Book· Andriy Burkov2019
Hands-On Machine Learning· Aurélien Géron2017
Deep Learning· Goodfellow, Bengio & Courville2016

Modelle finden Muster. Sie auch.

Mustererkennung steht im Zentrum unseres vollständigen IQ-Tests: 60 Fragen in vier Bereichen, etwa 30 Minuten.

Vollständigen IQ-Test machen