Konzept-Guide

MLOps (Betrieb von ML-Modellen)

Ein Modell, das in deinem Notebook prima läuft, trifft in Produktion auf ganz neue Probleme. Du musst es exakt nachbauen können, neue Versionen sicher einspielen und merken, wenn sich die Welt ändert und die Leistung nachlässt. MLOps ist die Praxis, die diese ganze Arbeit rund um Bau und Betrieb von ML-Modellen in ein System bringt. Wir gehen vom ML-Lebenszyklus bis zum Betrieb von LLM-Diensten.

01

Mit dem Deployment ist es nicht vorbei

Ein ML-Modell ist keine Software, die du einmal baust und dann vergisst. Du sammelst Daten, trainierst, evaluierst und bringst das Modell in Produktion – und danach beobachtest du weiter, wie es sich schlägt, und trainierst es mit neuen Daten neu, immer wieder. Die Szene unten zeigt diesen Kreislauf. Wähl mal eine Phase aus.

Phase
Bereitstellen
Das Modell in Produktion bringen

Der ML-Lebenszyklus: Das Neutrainieren am Ende führt zurück zur Datenvorbereitung

Bereitstellen: Das Modell in Produktion bringen. Um die hellblauen Phasen (Bereitstellen, Überwachen, Neu trainieren) kümmert sich MLOps besonders.

Bei normaler Software gilt: Ändert sich der Code nicht, ändert sich auch das Verhalten nicht. Genau hier stolpern viele: Bei einem ML-Modell ändert sich die Leistung, sobald sich die eingehenden Daten ändern – selbst wenn der Code exakt gleich bleibt. Deshalb versionierst und überwachst du nicht nur den Code, sondern auch die Daten und das Modell. MLOps nimmt DevOps, also die Praxis, die Softwareentwicklung und Betrieb verbindet, und erweitert sie fürs maschinelle Lernen.

Forschung zu echten ML-Systemen hat gezeigt: Der Code, der das Modell tatsächlich trainiert, ist nur ein kleiner Teil des Ganzen. Die Arbeit drumherum – Daten sammeln und prüfen, Features bauen, deployen, überwachen – ist viel größer. MLOps automatisiert und protokolliert diese Arbeit, damit weniger Fehler durch Handarbeit entstehen.

ReifegradSo sieht es aus
ManuellJemand trainiert von Hand im Notebook und gibt eine Modelldatei weiter. Schwer nachzubauen
Pipeline-AutomatisierungEine Pipeline läuft von den Daten bis zur Registrierung und trainiert bei neuen Daten automatisch neu
CI/CD-AutomatisierungAuch Tests und Deployment des Pipeline-Codes selbst sind automatisiert

Steht in der Frage … → wähle das

  • “Ein wiederkehrender Kreislauf: Daten → Training → Evaluierung → Deployment → Monitoring → Neutraining”ML-Lebenszyklus
  • “Bau und Betrieb von ML-Modellen automatisieren und standardisieren”MLOps
  • “Ändert sich der Code nicht, bleibt auch die Modellleistung gleich”Falsch – die Leistung ändert sich mit den Daten
  • “Code, Daten und Modelle gemeinsam versionieren”Reproduzierbarkeit in MLOps

Der erste Schritt: Handarbeit in eine Pipeline verwandeln, die jedes Mal dieselben Schritte in derselben Reihenfolge ausführt.

02

Pipelines und Reproduzierbarkeit

Eine Trainings-Pipeline führt Datenprüfung, Feature-Erstellung, Training, Evaluierung und Modellregistrierung automatisch in fester Reihenfolge aus. Sie startet, wenn sich neue Daten angesammelt haben, oder nach Zeitplan. Der Evaluierungsschritt hat eine Qualitätsschwelle, und ein Modell, das sie verfehlt, kommt nicht weiter. Bring das Modell in der Szene unten doch mal unter die Schwelle.

Daten prüfen
Bestanden
Features bauen
Bestanden
Trainieren
Bestanden
Evaluieren
Bestanden
Registrieren
Bestanden

Eine Trainings-Pipeline, die automatisch läuft, sobald neue Daten ankommen

Alle Schritte liefen automatisch durch, und das neue Modell ist registriert. Weil niemand etwas von Hand macht, laufen jedes Mal dieselben Schritte in derselben Reihenfolge – und du kannst genau dieses Modell später exakt nachbauen.

Experiment-Tracking

Jeder Trainingslauf speichert Daten, Codeversion, Hyperparameter und die erreichten Kennzahlen, damit du Läufe vergleichen kannst.

Metadaten und Lineage

Zeigen lückenlos, aus welchen Daten und welchen Schritten ein Modell entstanden ist.

Modell-Registry

Hält Modellversionen, Evaluierungsergebnisse und Freigabestatus (Staging, Produktion) an einem Ort und ermöglicht ein Rollback.

Datenvalidierung

Findet vor dem Training automatisch fehlende Werte, Werte außerhalb des gültigen Bereichs und Spalten, deren Format sich geändert hat.

Reproduzierbarkeit heißt: „Kann ich das Modell vom letzten Mal exakt nachbauen?“ Wenn du dieselbe Datenversion, denselben Code und dieselben Einstellungen festhältst, findest du die Ursache, wenn etwas kaputtgeht, und kannst zurückrollen.

Steht in der Frage … → wähle das

  • “Führt Training, Evaluierung und Deployment automatisch nacheinander aus”ML-Pipeline (Orchestrierung)
  • “Protokolliert und vergleicht Hyperparameter und Kennzahlen jedes Laufs”Experiment-Tracking
  • “Verfolgt, aus welchen Daten ein Modell stammt”Metadaten und Lineage
  • “Verwaltet Modellversionen und Freigabestatus, ermöglicht Rollback”Modell-Registry
  • “Verhindert, dass ein Modell unter der Schwelle automatisch deployt wird”Qualitäts-Gate im Evaluierungsschritt

Jetzt geht das registrierte Modell in den echten Dienst. Dafür gibt es mehr als einen Weg.

Anzeige

03

Deployment: wann vorhersagen und wie Modelle tauschen

Zuerst gibt es zwei Arten, Vorhersagen bereitzustellen – je nachdem, wann du sie machst. Batch-Inferenz sagt nach Zeitplan für eine große Datenmenge auf einmal vorher und speichert die Ergebnisse. Echtzeit-Inferenz (online) sagt in dem Moment vorher, in dem eine Anfrage eintrifft, und schickt die Antwort sofort zurück. Außerdem gibt es Edge-Inferenz, bei der die Vorhersage direkt auf dem Gerät läuft.

ArtPasst gut fürEigenschaften
Batch-InferenzJede Nacht das Kündigungsrisiko aller Kunden berechnenGünstig und einfach. Ergebnisse bleiben bis zum nächsten Lauf gleich
Echtzeit-InferenzBetrugserkennung beim Bezahlen, Empfehlungen in der SucheMuss schnell antworten. Der Endpunkt läuft dauerhaft und skaliert hoch und runter
Edge-InferenzHandykamera, Maschinen in der FabrikSchnell und ohne Netz. Das Modell muss klein sein

Wenn du auf ein neues Modell umsteigst, verteilst du das Risiko meist, statt alles auf einmal umzustellen. Probier in der Szene unten jede Rollout-Methode aus.

Methode
Von v2 beantwortet
2 / 20
Rollback
Nur 10 % betroffen; Anteil zurück auf 0 setzen

Wege, ein neues Modell v2 auszurollen (grün = Anfragen, die v2 beantwortet hat)

Nur 10 % der Anfragen gehen an v2. Du beobachtest, wie es läuft, und erhöhst den Anteil Schritt für Schritt, wenn alles passt. Geht etwas schief, trifft es nur wenige Nutzer.

Egal welche Methode: Du prüfst mit echten Kennzahlen, ob das neue Modell wirklich besser ist als das alte. A/B-Tests aus dem Guide zu Evaluierungsmetriken sind genau dafür da. Frühere Versionen behältst du in der Registry, damit du jederzeit zurückrollen kannst.

Steht in der Frage … → wähle das

  • “Sagt nach Zeitplan für große Datenmengen vorher”Batch-Inferenz
  • “Sagt für jede Anfrage sofort und mit geringer Latenz vorher”Echtzeit-Inferenz (online), Endpunkt
  • “Schickt einen Teil des Traffics an das neue Modell und erhöht ihn schrittweise”Canary-Deployment
  • “Das neue Modell bekommt Kopien der Anfragen und sagt nur vorher; Nutzer sehen seine Ausgabe nie”Shadow-Deployment
  • “Zwei Umgebungen, Traffic auf einen Schlag umgestellt, sofortiges Rollback”Blue/Green-Deployment

Ist das Modell deployt, kannst du dich nicht einfach zurücklehnen. Die Welt, die das Modell sieht, verändert sich ständig.

Nur mit Pro

Bis hierhin ist der Guide kostenlos

Die übrigen 5 Kapitel sind für Pro-Abonnenten freigeschaltet. Jedes bringt weitere 3D-Grafiken und „Steht in der Frage …“-Hinweise, und im letzten Kapitel prüfst du dein Wissen selbst.

  1. 04Monitoring und Drift
  2. 05Neutraining
  3. 06Training-Serving-Skew und Feature Store
  4. 07LLMOps
  5. 08Den passenden Ansatz wählen

PasslyExam

Du kennst jetzt das Konzept. Teste es an Prüfungsfragen

PasslyExam bietet eigene Übungsfragen, Erklärungen und vollständige Probeprüfungen, die sich am offiziellen Prüfungsleitfaden jeder Zertifizierung orientieren. Die Erklärungen zeigen, warum die richtige Antwort stimmt und warum ähnlich klingende Optionen falsch sind. Registriere dich und übe jeden Tag kostenlos.