Überwachtes Lernen einfach erklärt

Ein Beispiel besteht aus Merkmalen und einem Label. Merkmale sind die Eingabewerte, aus denen das Modell seine Vorhersage berechnet. Das Label ist der bekannte Zielwert, den es vorhersagen soll. Ein Beispiel mit Merkmalen und bekanntem Label heißt gelabelt.

Beim Training, also beim Lernen, vergleicht das Verfahren seine Vorhersagen mit den bekannten Labels. Die Abweichungen helfen ihm, den Zusammenhang zwischen Merkmalen und Zielwerten anzupassen. Viele Lernverfahren wiederholen solche Anpassungen schrittweise. Bei einer späteren Vorhersage erhält das Modell die Merkmale; das gesuchte Label ist dabei noch unbekannt.

Bei der Klassifikation ist das Ziel eine Kategorie, also eine vorgegebene Gruppe. Bei der Regression ist das Ziel eine zahlenmäßig bestimmte Größe, etwa eine Dauer oder Masse. Entscheidend ist die Bedeutung des Labels. Eine Kategorie bleibt eine Kategorie, wenn du sie als Zahlencode speicherst. Auch messbare Eingaben machen eine Aufgabe nicht zur Regression: Der Aufgabentyp richtet sich nach dem Ziel.

Holdout bedeutet hier Zurückhalten: Du teilst die gelabelten Beispiele vor dem Lernen in getrennte Datenteile auf. Im hier beschriebenen Vorgehen gibt es Trainingsdaten, Validierungsdaten und Testdaten. Kein Beispiel darf in mehreren Teilen vorkommen.

Mit den Trainingsdaten lernt das Modell. Mit den Validierungsdaten vergleichst du nach dem Training verschiedene Einstellungen und wählst eine davon aus. Einstellungen sind Vorgaben dafür, wie das Lernen abläuft. Die Testdaten bleiben bis zur abschließenden Bewertung ungenutzt. Beim Bewerten erhält das Modell die Merkmale. Seine Vorhersagen vergleichst du anschließend mit den zurückgehaltenen Labels.

Wenn du nach Testresultaten Einstellungen auswählst, beeinflussen die Testdaten deine Auswahl. Der anschließende Testwert ist dann keine unabhängige Abschlussbewertung mehr. Verborgene Labels während der Vorhersage und getrennte Trainingsbeispiele verhindern dieses Problem nicht. Auch häufige Entscheidungen anhand derselben Validierungsdaten können die Auswahl zu stark auf diese Daten ausrichten. Für eine neue unabhängige Bewertung können deshalb frische Prüfdaten nötig sein.

Validierungs- und Testdaten müssen ausreichend viele Beispiele enthalten und zur vorgesehenen Anwendung passen. Sie sollen die wichtigen Bedingungen der Trainingsdaten und der späteren Anwendung abdecken. Ein kleiner, einseitiger Datenteil liefert unsichere Ergebnisse. Eine feste Dreiteilung lässt weniger Daten zum Lernen übrig; das Ergebnis kann zudem von der gewählten Aufteilung abhängen.

Generalisierung bedeutet Verallgemeinerung: Ein Modell soll passende Vorhersagen für bisher ungesehene Beispiele liefern. Gemeint sind neue Daten aus der vorgesehenen Anwendung. Eine gute Leistung auf bekannten Trainingsbeispielen reicht dafür nicht aus.

Überanpassung, auch Overfitting genannt, entsteht, wenn ein Modell Besonderheiten der Trainingsdaten zu stark übernimmt und dadurch schlechter auf neue, passende Daten überträgt. Ein Modell könnte etwa bekannte Labels wiedergeben, ohne brauchbare Zusammenhänge für neue Beispiele zu lernen. Mehr Lernschritte mit denselben Trainingsdaten belegen deshalb keine bessere Verallgemeinerung.

Sehr gute Trainingsleistung bei deutlich schlechterer Leistung auf unabhängigen, passenden Prüfdaten ist ein Warnsignal für Überanpassung. Unabhängig bedeutet hier: Die Prüfdaten wurden weder zum Lernen noch zur Auswahl von Einstellungen verwendet. Gute Vorhersagen auf solchen Daten liefern Hinweise auf Verallgemeinerung, aber keine Garantie für jede spätere Situation.

Der Leistungsabstand allein beweist keine Überanpassung. Prüfe auch die Zusammensetzung und den Umfang der Prüfdaten. Schlechte Ergebnisse können zum Beispiel mit Bedingungen zusammenhängen, die von der vorgesehenen Anwendung abweichen. Soll ein Modell Bilder bei Tageslicht verarbeiten, beurteilen dunkle Nachtbilder dieses Ziel nicht passend.

Bestimme zuerst das Vorhersageziel: Was soll das Modell für ein neues Beispiel ausgeben? Lege dann Merkmale fest, die zum Zeitpunkt der Vorhersage verfügbar sind. Sammle passende Beispiele mit zuverlässig bekannten Labels. Das gesuchte Label darf bei der späteren Vorhersage nicht als Eingabemerkmal vorausgesetzt werden.

Entscheide anhand des Labels zwischen Klassifikation und Regression. Plane dann die Trennung in Trainings-, Validierungs- und Testdaten. Alle Teile müssen zum Ziel passen und genügend Beispiele enthalten. Zufälliges Verteilen eignet sich nicht pauschal für jede Sammlung: Zusammengehörige Beispiele können Informationen zwischen den Teilen übertragen. Wenn du neue Gegenstände prüfen willst, bleiben mehrere Fotos desselben Gegenstands deshalb zusammen in einem Datenteil. Wähle Testbilder auch nicht nach einer besonderen Bildqualität aus, wenn die Anwendung unterschiedliche Bildqualitäten umfasst.

Bei Vorhersagen für spätere Zeitpunkte muss die Trennung die zeitliche Reihenfolge berücksichtigen. Ein möglicher Plan nutzt frühere Beispiele zum Lernen, danach liegende zur Auswahl und noch spätere zum abschließenden Test. Zukünftige Informationen dürfen dabei nicht in das Lernen einfließen.

Trainiere mit den Trainingsdaten und wähle Einstellungen anhand der Validierungsdaten. Prüfe das ausgewählte Modell zum Schluss mit den Testdaten: Gib ihm deren Merkmale und vergleiche die Vorhersagen mit den bekannten Labels. Bei Kategorien kannst du richtige und falsche Zuordnungen zählen. Bei Messgrößen kannst du die Abstände zwischen Vorhersagen und bekannten Werten betrachten. Beide Auswertungen beschreiben die geprüften Daten; sie garantieren keine fehlerfreien späteren Vorhersagen.