Selbstevolvierende KI: 4 Methoden für kontinuierliches Lernen 2026

Im März 2026 sagte Anthropic-CEO Dario Amodei in einem Interview einen Satz, der mich tagelang beschäftigt hat: „Continual Learning wird 2026 gelöst sein.”

Klingt kühn. Kurz darauf prognostizierte Google DeepMind 2026 als „Jahr des Continual Learning”, und Elon Musk rief direkt: „Die Singularität ist da.”

Ehrlich gesagt wirkte das zunächst nach Marketing. Als ich aber sah, dass MiniMax’ M2.7 intern über 100 autonome Optimierungszyklen lief und die Performance um 30 % stieg, wurde mir klar – das könnte ernst werden.

In diesem Artikel geht es um selbstevolvierende KI: Was das bedeutet, warum heutige LLMs noch nicht „beim Einsatz lernen” können und welche Ansätze 2026 zählen. Ich skizziere drei etablierte Continual-Learning-Methoden, erkläre die Selbstdestillation SDFT von MIT und ETH Zürich (Anfang 2026) und schaue am Fall MiniMax M2.7, wie ein Modell sich selbst upgraden kann.

Warum LLMs „beim Einsatz lernen” müssen

Eine Frage beschäftigt mich schon lange: Warum ist ChatGPT nach zwei Jahren Nutzung noch dasselbe ChatGPT?

Es wird nicht klüger, nur weil Sie mehr fragen oder öfter interagieren. Nach jedem Gespräch ist alles zurückgesetzt. Beim nächsten Mal: wieder Werkseinstellung.

Menschen funktionieren anders. Code schreiben, Projekte machen, Fehler reflektieren – Erfahrung sammelt sich. Mein Code von vor drei Jahren und heute: sichtbarer Unterschied. LLMs haben das nicht – ihre internen Parameter sind eingefroren, nach dem Training fixiert.

Dwarkesh Patel formulierte es treffend: „LLMs werden nicht mit der Zeit besser wie Menschen.” Ihr Wissensstand endet am Trainingsdatum. Neues lernen? Retraining oder Fine-Tuning.

Fine-Tuning hat eine große Falle: katastrophales Vergessen.

IBM vergleicht Continual Learning beim Skateboard-Lernen mit dem Radfahren: Neue Fähigkeit, alte bleibt. Das menschliche Gehirn schafft das.

Neuronale Netze nicht.

Beim Fine-Tuning mit neuen Daten passt sich das Modell der neuen Verteilung an – auf Kosten des alten Wissens. Extrembeispiel: Koalas erkennen nur Blätter an Bäumen als Futter. Legen Sie Blätter auf den Boden, verhungern sie vielleicht – das gelernte Muster ist zu starr.

Modelle haben es schwerer. Python-3.12-Neuerungen lernen, Python-3.8-Grundlagen vergessen – in der Praxis fatal: Produkt iteration, Codebase-Updates – Sie wollen nicht, dass jedes neue Framework altes Wissen löscht.

LLMs sind heute statisch – wie eine Enzyklopädie: reich, aber nicht aktualisierbar. Gebraucht wird Dynamik – wie ein erfahrener Kollege, der Ihr Projekt, Ihre Gewohnheiten, Ihren Stack kennt.

Darum geht es bei Continual Learning.

Drei technische Schulen des Continual Learning

Die Forschung läuft seit Jahren. Grob drei Richtungen – mit einer vereinfachenden Metapher:

Replay-Methode: Neues lernen, Altes wiederholen.

Vultr - Hochleistungs-NVMe-Cloud-Server mit 32 Standorten weltweit, Docker per Klick

Preise ansehen →Anzeige

Am naheliegendsten: Beim Lernen alte Samples mittrainieren – wie vor der Prüfung neues Kapitel plus alte Fehler.

Konkret: Teilmenge alter Aufgaben speichern und mit neuen Daten mischen. Nachteil: enormer Speicher- und Memory-Bedarf. Bei Trainingsdaten im Hundert-GB-Bereich oft zu teuer.

Regularization-Methode: Schutz für wichtige Parameter.

Die Idee: Nicht alle Parameter sind gleich wichtig. Beim neuen Task die für alte Tasks kritischen Parameter „sperren”.

Bekanntestes Beispiel: EWC (Elastic Weight Consolidation), PNAS 2017. Wichtigkeit jedes Parameters für alte Tasks schätzen, Updates für wichtige Parameter begrenzen.

Metapher: Englisch-Grammatik ist verfestigt, Französisch stört sie wenig. Wortschatz noch im Aufbau – Französisch kann englische Wörter verdrängen. EWC findet die „verfestigten” Parameter und schützt sie.

Architecture-Methode: Eigenes Modul pro Aufgabe.

Wenn gemeinsame Parameter stören: getrennte Module. Neuer Task → neues Modul, alte unberührt.

LoRA (Low-Rank Adaptation) ist typisch: Backbone eingefroren, kleiner Low-Rank-Adapter trainiert. Pro Task ein Adapter, Wechsel per Adapter-Switch.

Nature-Forschung bestätigt: dynamisch wachsende Architekturen reduzieren Vergessen stark. Problem: mehr Tasks → mehr Module → größeres Modell → höhere Inferenzkosten.

Keine perfekte Lösung: Replay ist schwer, Regularization findet selten ideale Gewichte, Architecture bläht auf. Jahre Akademie, wenig Industrie-Reife.

Bis MIT und ETH Zürich 2026 einen neuen Ansatz vorschlugen: Das Modell unterrichtet sich selbst.

SDFT – Selbstdestillation: Das Modell als eigener Lehrer

Im Januar 2026 veröffentlichten MIT und ETH Zürich „Self-Distillation Enables Continual Learning”.

Der Kern: keine externen Daten, kein zweites Modell – nur das Modell selbst.

Schritt 1: ICL erzeugt Selbst-Lehrer-Signale.

LLMs haben In-Context Learning (ICL) – wenige Beispiele, Muster nachahmen. SDFT nutzt das: Das Modell erzeugt eigene „Antworten” und nutzt sie als Trainingsdaten.

Metapher: Code-Kommentare im eigenen Stil lernen, ohne Datensatz. Modell schreibt Kommentare, die werden „Ground Truth”, dann trainiert es sich darauf.

Klingt zirkulär? Entscheidend ist:

Schritt 2: On-policy-Lernen, kein Verteilungs-Mismatch.

Klassisches SFT (Supervised Fine-Tuning): Trainingsdaten ≠ tatsächliche Modellausgabe. Modell in „eigener” Stil, Daten in „Experten”-Stil – erzwungenes Nachahmen kann Fähigkeiten zerstören.

SDFT ist on-policy: Modell generiert, trainiert auf eigenen Outputs – Verteilung passt. „Sich selbst unterrichten”, ohne fremden Stil und ohne Vergessen.

Die Zahlen: 14B-Parameter-Modell, SDFT schlägt klassisches SFT um 7 Prozentpunkte. Sequenzielles Lernen mehrerer Skills (Mathe, Code, kreatives Schreiben) – Akkumulation ohne Rückschritt.

"Self-Distillation Enables Continual Learning"

Unterschied zu früheren Ansätzen: nicht extern (Replay), nicht manuelle Constraints (Regularization), nicht Modul-Isolation (Architecture) – Iteration auf der eigenen Output-Verteilung.

Interessant: Lernen, das sich selbst nicht schadet. Wie Lesen – nicht altes Wissen verdrängen, sondern reflektieren und verinnerlichen.

SDFT ist nicht perfekt. Bei sehr komplexen Task-Sequenzen schwächer, On-policy-Training rechenintensiv. Aber eine Richtung: Continual Learning ohne externe Ressourcen – das Modell als eigener Lehrer.

🔥 Verschwende keine Monate für ungenutzte Produkte! Teste deine SaaS-Nutzenversprechen mit Adsterra bei kleinem Budget →

Jetzt testen →Anzeige

LangChains dreistufiges Evolutions-Framework

Im April 2026 veröffentlichte LangChain „Continual Learning for AI Agents” – ein praxisnahes Framework in drei Ebenen.

Continual Learning wird nicht nur auf Gewichte reduziert, sondern systemisch gedacht.

Ebene 1: Model Layer – Gewichte aktualisieren.

Direkt: SFT, RLHF, DPO auf Parametern. Wie „Chip im Gehirn tauschen”.

Problem: selten, teuer. Nicht nach jeder gelösten Aufgabe retrainieren. In der Praxis eher Versions-Sprints – alle paar Monate oder seltener.

Ebene 2: Harness Layer – Framework-Code aktualisieren.

Besonders spannend: Code um das Modell – Tool-Aufrufe, Fehlerbehandlung, Planung, Prompt-Templates.

LangChains „Meta-Harness”: Der Agent ändert eigenen Harness-Code. Scheitert ein Tool-Flow wiederholt, analysiert er, passt Logik an – nächstes Mal kein gleicher Fehler.

Praktischer als Gewichts-Updates: Code ändert sich schnell, günstig, Kernfähigkeiten bleiben. Sie ändern die Nutzung, nicht das Gehirn.

OpenClaws „Dreaming”-Mechanismus: Im Hintergrund Memories konsolidieren, Verhalten optimieren – wie Nacht-Review des Tages.

Ebene 3: Context Layer – Gedächtnis aktualisieren.

Am verständlichsten: Dialog, Projektdokumente, Präferenzen, Task-Logs.

Bei Deep Agents oft gestuft: User-Memory, Org-Memory, globales Wissen.

Kurzfassung: Traces sind der Kern aller Updates.

Traces = vollständige Laufprotokolle – Input, Output, Tool-Calls, Fehler, Feedback. Material für Context, Basis für Harness-Optimierung, Datenquelle für Model Layer.

Das Framework macht Continual Learning zur Systemfrage. Evolution täglich über Harness und Context – nicht nur beim Modell-Release.

Für Entwickler oft wichtiger als reine Gewichts-Updates: Selbstevolution über den gesamten Agent-Lebenszyklus, nicht nur in der Trainingsphase.

Praxis: Wie MiniMax M2.7 „an der eigenen Evolution mitwirkt”

Theorie genug – ein realer Fall.

MiniMax veröffentlichte im März 2026 M2.7. Im Pitch: „tief in die eigene Evolution eingebunden” – kein leeres Marketing. Über 100 Optimierungszyklen, autonom.

Vier Schritte pro Zyklus:

1. Fehler analysieren.

Tasks laufen lassen, Fehlschläge sammeln, Ursachen klären: Prompt? Tool-Call? Code-Logik?

2. Änderungen planen.

KiloClaw - Managed OpenClaw für Unternehmen: AI-Agent-Orchestrierung und smartes Modell-Routing

Jetzt starten →Anzeige

Aus der Analyse Verbesserungen ableiten – z. B. strengere Parameter-Validierung beim Tool-Call oder Fehlerbehandlung: erst X, dann Y.

3. Code ändern.

Nicht Modellgewichte – Harness-Code: Tool-Logik, Error-Handling.

4. Evaluieren.

Benchmark laufen lassen. Hilft es → behalten. Nicht → Rollback.

Über 100 Zyklen. Ergebnis: +30 % auf internen Evals.

Externe Benchmarks:

• SWE-Pro: 56,22 %. Reale GitHub-Issues – nahe an Claude Opus (Opus-4.6 ~55 %).
• MLE Bench Lite: 66,6 % Medaillenrate im Schnitt. Kaggle-ähnliche ML-Engineering-Tasks – hinter nur Opus-4.6.

Besonders: die Rolle des Menschen. MiniMax-Forscher greifen bei Schlüsselentscheidungen ein – behalten oder Rollback, grobe Richtung. Analyse, Planung, Code, Eval: das Modell.

Anders als „Mensch codet → Modell testet → Mensch fixt”. Nicht nur passiver Executor, sondern aktiver Teilnehmer: Probleme finden, Lösungen vorschlagen, Wirkung prüfen.

MiniMax nennt es den ersten Fall, in dem ein Modell „tief an der eigenen Evolution mitwirkt”.

Beim Lesen: Aufbruch und Skepsis. Continual Learning mit echten Zahlen. Aber Zuverlässigkeit? „Driftet” das Modell? Wie viel der 100 Zyklen war Fortschritt vs. Trial-and-Error?

Details nicht vollständig öffentlich. Aber M2.7 zeigt: Selbstevolution ist kein Paper-only – es läuft und liefert Ergebnisse.

Fazit

Seit Jahresbeginn 2026 boomt Continual Learning. DeepMind: „Jahr des Continual Learning”. Anthropic: „2026 gelöst”. MiniMax: M2.7-Daten.

Ich behaupte nicht, dass es morgen überall Standard ist – SDFT noch Forschung, M2.7-Details teils undokumentiert. Die Richtung ist klar: Modelle dürfen nicht ewig statische Werkseinstellung bleiben; sie müssen beim Einsatz lernen.

Für Entwickler: nicht nur auf Gewichts-Updates starren. LangChains drei Ebenen – starten Sie mit Harness und Context: Tool-Logik und Gedächtnis kontinuierlich verbessern. Günstig, schnell, ohne Retraining.

Spannend ist die Verkettung: Verhalten im Harness optimieren, Erfahrung im Context sammeln, irgendwann Gewichts-Update aus diesen Daten – neuer Zyklus.

So sollte Selbstevolution aussehen: nicht alle paar Monate ein Big-Bang-Release, sondern täglicher Fortschritt.

Interesse vertiefen? SDFT-Paper (arXiv 2601.19897), LangChain-Blog zum Drei-Ebenen-Framework, MiniMax zu weiteren M2.7-Details. Continual Learning entwickelt sich schnell – 2026 wird ein Schlüsseljahr.