Multi-Agent-System Schwächen: 5 Anfänger-Fehler und 4 belegte Risiken (Teil 2)
- Marcus Machon
- 7. Mai
- 23 Min. Lesezeit
Aktualisiert: 29. Mai
Teil 2 meines Erfahrungsberichts (Erst-Veröffentlichung 7. Mai 2026, Update 22. Mai 2026). Teil 1 beschreibt den Aufbau. Teil 3 folgt mit der Security-Realität.
Update 22. Mai 2026: Dopplung der H1-Überschrift im Wix-Body entfernt, Metadaten von vier auf fünf belegte Risiken korrigiert und zwei neue Forschungsanker ergänzt: Heterogenität schlägt Agenten-Masse, und Kontext-Übergaben sind ein eigenes Betriebsrisiko.
30 Euro Token-Kosten in den ersten Tagen verbrannt. Ein automatischer Verbesserungs-Lauf, der einen Skill von 89 % auf 60 % Qualität verschlechtert hat. Eine Recherche, in der 47 Prozent der zitierten Studien erfunden waren. Das ist kein Worst-Case-Szenario, das sind Stationen aus den ersten neun Wochen Multi-Agent-System aus Solo-Praxis. Inzwischen läuft das System seit gut drei Monaten. Ich hätte jede dieser Zahlen vorher für übertrieben gehalten. Dann standen sie in meinen eigenen Logs.
Der LinkedIn-Post vom 8. Mai hat diese drei Zahlen sehr knapp erzählt. Dieser Beitrag zieht die Konsequenz daraus: Die eigentliche Schwäche ist nicht, dass eine KI Fehler macht. Die eigentliche Schwäche ist, dass ein Fehler über Agenten, Speicher, Tools, Freigaben und gut gemeinte Automatisierung wandern kann, bis niemand mehr weiß, an welcher Stelle die falsche Annahme zur Wahrheit geworden ist.
In Teil 1 habe ich beschrieben, wie ich ein eigenes Multi-Agent-System aufgebaut habe, mehrere KI-Agenten, die zusammenarbeiten und sich Aufgaben teilen. Dieser zweite Teil ist der ehrliche zu den Schwächen: die persönlichen Bau-Fehler und die wissenschaftlich belegten Risiken. Wenn Teil 1 der Werkzeugkasten war, ist Teil 2 die Betriebsanleitung mit Warnhinweisen. Teil 3 ist die Security-Realität.
Wer vor der Entscheidung steht, ein eigenes KI-Agenten-System aufzubauen, sollte alle drei Teile lesen. Teil 2 und 3 sind die wichtigeren.
Soll mein Unternehmen ein eigenes Multi-Agent-System aufbauen?
Bevor ich empfehle, muss ich zeigen, was bei mir kaputtging. Aber wer eine schnelle Vorab-Entscheidung braucht, bekommt sie zuerst, und kann beim Schmerz dann gezielter mitlesen.
Kurzantwort: Es lohnt sich für Unternehmen mit klar abgrenzbarem Anwendungsfeld (Content, Recherche, Wissensmanagement, interne Strategie), unkritischen Startdaten und mindestens einer Person, die priorisieren und falsch von richtig unterscheiden kann.
Mein klarer Rat: erst mit unkritischen Daten und Prozessen anfangen. Schneller, günstiger, weniger Risiken, und erfolgsversprechender. Hier lernt man live, was funktioniert und was nicht, und baut die Plattform für komplexere Anwendungen später. Drei Anwendungsfelder, mit denen ich selbst gestartet bin und die alle ohne kritische oder personenbezogene Daten auskommen:
Automatisierte Recherchen, über 40 nächtliche Automatisierungen beobachten Markt-Updates, Microsoft-Ankündigungen, KI-Forschung und arXiv-Papers. Relevantes landet in der Wissensbasis, der Rest ist aussortiert, bevor ich morgens an den Schreibtisch komme.
Strategie und Entscheidungs-Dokumentation, aktuell 42 Architektur-Entscheidungs-Notizen plus strukturierte Analysen nach dem Toulmin-Schema (Behauptung, Beleg, Einschränkung, Gegenargument). Entscheidungen sind Monate später nachvollziehbar.
Wissensmanagement, Tiefen-Recherchen zu Fachthemen (Microsoft Copilot, KI-Sicherheit, DSGVO), automatische Auswertung wissenschaftlicher Studien, eine Quellen-Datenbank mit Vertrauensstufen und rund 500 verdichtete Erkenntnisse.
Mehr zu jedem dieser Felder, und wie ich das technisch aufgebaut habe, in Teil 1: Wie ich mein Multi-Agent-System aufgebaut habe.
Wer direkt mit Kundendaten, HR-Daten oder Finanzdaten starten will, braucht erst Governance, also klare Regeln dafür, wer was darf, wo Daten liegen und wie geprüft wird. Wenn diese Voraussetzungen passen, kommt man mit rund 20 Euro pro Monat in den Einstieg. Realistisch ist aber: Wer ernsthaft baut, landet nach wenigen Wochen bei einem größeren Abo, bei mir aktuell 90 bis 180 Euro pro Monat, je nach Auslastung. Plus zwei bis vier Wochen konzentrierter Aufbau. Wer in dieser Zeit nicht bereit ist, intensiv mitzudenken, fängt später an oder schaltet vorher eine Beratung dazwischen.
Eine Orientierung für die Vorab-Entscheidung:
Bereich | Geht (mit Augenmaß) | Geht nicht ohne Governance |
Daten | Content, Lead-Recherche (öffentliche Daten), Wissensmanagement, Strategie, eigene Gedanken | Kundendaten, HR-Daten, Finanzdaten, NDA-relevante Informationen Dritter |
Prozesse | Klar abgrenzbar, mit messbarem Ergebnis | Cross-funktional, viele Beteiligte, regulierungssensibel |
Menschen | Mindestens eine Person mit Urteilsfähigkeit und Tech-Affinität | Reine "Tool-Anwender" ohne Architektur-Verständnis |
Budget | Einstieg ab ~20 €/Monat, realistischer Dauerbetrieb 90-180 €/Monat plus Eigenleistung | Bei sensiblen Daten entsteht schnell ein Governance-Projekt, kein Tool-Test mehr, sondern Beratungs-Budget plus juristische Begleitung |
Zeit | 2 bis 4 Wochen Fundament plus laufende Iteration | "Mal schnell ausprobieren am Wochenende" funktioniert nicht |
Für mich gehört das deshalb nicht in die Tool-Ecke, sondern in M365 Governance, KI-Readiness im Mittelstand und Agentic AI Governance im Mittelstand: erst Rechte, Datenklassen, Freigaben und Prüfpfade klären, dann Agenten bauen.
Wenn diese Tabelle bei Ihnen drei Mal "Geht" zeigt, ist die nächste Frage: Welche Fehler kostet das in der Praxis? Genau das beschreibt der nächste Abschnitt, die fünf Stolperfallen, die fast jede Solo-Person trifft, wenn sie ohne Architektur startet.
Welche Anfänger-Fehler kosten echtes Geld und Zeit?
Kurzantwort: Architektur, Versionierung und Skill-Reife. Wer das in den ersten zwei Wochen ignoriert, baut auf Sand und bezahlt mit verbranntem Token-Budget, verlorenen Skill-Versionen und Schemata, die später jede neue Funktion blockieren.
Fünf Fehler, die ich konkret gemacht habe.
1. 30 Euro API-Kosten in den ersten Tagen verbrannt, und mit OpenClaw angefangen statt direkt mit Claude Code. Agenten haben ohne Architektur Dateien angelegt. Mein digitales Gedächtnis musste ich danach komplett neu aufsetzen. Mit OpenClaw (einer Open-Source-Oberfläche, die mehrere Agenten-Schritte koordiniert) habe ich anfangs viel Zeit gesteckt. Heute bin ich komplett davon weg, der Mehrwert gegenüber Claude Code im Terminal (jetzt zusätzlich in Verbindung mit Codex) hat sich für mich nicht gezeigt. Streng genommen kein Fehler, sondern normales Lernen. Aber wenn ich heute starte: direkt mit Claude Code. Lehre: Ohne Architektur entsteht sofort Chaos. Sofort.
Eine wichtige Einschränkung dazu: Diese 30-Euro-Bilanz gilt für meinen Solo-Kontext. In einem regulierten Umfeld mit Compliance-Auflagen wäre sie eine andere, schon ein einziger Fehlversuch gegen einen Audit kann teurer sein als die gesamten Token-Kosten der Lernphase.
2. Skills (wiederverwendbare Arbeitsanweisungen) automatisiert, bevor der Prozess stabil war. Resultat: automatisierter Müll auf Autopilot. Heute ist meine Regel: erst fünf bis zehn Mal manuell durchgespielt, dann automatisieren. Selbstverbesserung ist nicht automatisch gut. Ich habe messbar erlebt, wie ein automatischer Verbesserungs-Lauf, also ein nächtliches Skript, das die Anweisungen für meine Agenten selbst überarbeitet, einen Skill drei Mal in Folge verschlechtert hat. Die Qualitätsbewertung fiel von 89 auf 60 Prozent. Heute gilt: Skills über 85 Prozent werden beim Verbesserungsversuch übersprungen. Manchmal ist "gut genug" das Richtige.
3. Zu viele Datenbank-Tabellen zu schnell, ohne saubere Beziehungen. 17 von 111 Tasks waren mit Quartalszielen verknüpft. Der Grund war nicht Vergesslichkeit, sondern ein Schema, das diese Beziehung nicht sauber abbildete. Im März habe ich sechs isolierte Datenstores in eine zentrale Datenbank überführt. Alle sechs Apps mussten dafür umgebaut werden. Lehre: Eine Datenbank, eine Wahrheitsquelle. Alles andere driftet auseinander.
4. Ich baue Dinge, die ich nicht brauche, weil ich sie bauen kann. Mein System hat heute, Stand 22. Mai 2026, über 180 Datenbank-Tabellen, rund 50 nächtliche Cron-Jobs (geplante automatische Aufgaben), über 5.200 Markdown-Dateien (einfache Textdateien, in denen Wissen, Skills und Notizen gespeichert sind) und über 400.000 Datenbank-Zeilen. Technisch alles im grünen Bereich. Die mentale Grenze habe ich vermutlich längst überschritten.
"Der Betreuungsaufwand steigt linear mit jedem Feature. Der Business-Mehrwert tut das nicht."
Jede neue Tabelle bedeutet eine Migration. Jeder neue Cron-Job neues Monitoring. Mein eigenes System empfiehlt mir täglich, Vertrieb zu machen. Ich baue trotzdem weiter. Das ist Prokrastination mit Mehrwert-Hoffnung. Ich beobachte das aktiv.
Das ist kein Solo-Phänomen, das ist ein bekanntes Muster. Kothari (2025) beschreibt es als "Multi-Agent Orchestration: The Complexity Trap": Der Abstimmungs-Aufwand zwischen Agenten wächst überproportional (jeder neue Agent muss mit allen anderen reden, das addiert sich nicht, es multipliziert sich), Kosten kumulieren sich an mehreren Stellen gleichzeitig, Fehlerraten verdoppeln sich. Mein System hat genau diesen Punkt: Jeder zusätzliche Agent fühlt sich nach einem kleinen Schritt an, ist in der Wartung aber ein großer.
Eine neue Skalierungsstudie macht den Punkt noch präziser. Yang et al. (2026) zeigen: Mehr gleichartige Agenten bringen schnell abnehmenden Nutzen. Wirklich stärker wird ein Multi-Agent-System, wenn die Agenten unterschiedlich sind, also andere Modelle, andere Prompts oder andere Werkzeuge nutzen. In ihren Experimenten konnten zwei diverse Agenten sechzehn homogene Agenten erreichen oder übertreffen. Meine praktische Übersetzung: fünf Claude-Kopien sind selten besser als ein Claude-Agent plus ein Codex-Review mit anderer Perspektive.
5. Ich war zu lange selbst der Engpass. Lange Zeit habe ich jede Entscheidung gegengeprüft, jedes Ergebnis geprüft, jeden Schritt freigegeben. Das hat das System ausgebremst, und mich übrigens auch. Je mehr ich mich aus den Routine-Freigaben herausgezogen habe, bei gleichzeitig schärferen Review-Gates an den richtigen Stellen, desto besser lief es. Sprich: weniger einzeln durchklicken, dafür mehr Stichproben, mehr Cross-LLM-Reviews, mehr automatische Tests. Agenten machen Fehler. Genau dadurch lernen sie, und ich mit ihnen.
"Wer alle Risiken ausschließen will, schließt den Nutzen aus."
Der gemeinsame Nenner aller fünf Fehler: Architektur kommt vor Geschwindigkeit. Wer das ignoriert, bezahlt zweimal, einmal beim Bauen, einmal beim Aufräumen. Das deckt sich mit der empirischen Failure-Taxonomie von Cemri, Pan, Yang et al. (2025): Die Autoren beschreiben 14 Fehlermodi in drei Kategorien, Systemdesign, Inter-Agent-Abstimmung und Aufgabenverifikation. In der veröffentlichten MAST-Auswertung liegen die beobachteten Fehlerraten der untersuchten Multi-Agent-Systeme zwischen 41 und 86,7 Prozent. Je nach Auswertung verteilen sich die Fehler grob auf 38 Prozent Systemdesign, 38 Prozent Agenten-Koordination und 24 Prozent Verifikation. Wer sich also fragt, ob meine fünf Fehler typisch sind: Das Muster ist nicht nur Anekdote, sondern empirisch sichtbar.
Trotzdem keine Paralyse durch Analyse. Im Nachhinein bin ich immer schlauer, das ist normal. Mein KI-System ist dynamisch und organisch gewachsen: Recherchen, Analysen und Konzepte mache ich ausführlich, aber als Mensch kann ich nicht alles überwachen. Weder fachlich, weil die Tiefe in einzelnen Bereichen mir längst entgleitet, noch zeitlich, weil parallel zu viel läuft. Ein gewisses Vertrauen gehört dazu, und Erfahrung darin, wann man der KI vertraut und wann nicht.
Meine KI-Agenten sind übrigens nicht böse. Sie sind sehr lösungsorientiert, und stellen dann gerne mal mehr Rechte ein als nötig, wenn das die Aufgabe einfacher macht. Das muss ich überwachen und kontrollieren, genau wie bei menschlichen Mitarbeitenden auch. Wer im Mittelstand schon mal Berechtigungen in SharePoint oder eine Cloud-Migration begleitet hat, kennt das Muster.
Wichtige Einschränkung: Sicherheit gehört von Tag 1 richtig gesetzt. Wer darf was, wo liegen Daten, was bleibt offline. Diese Grundsatzfragen sind nicht delegierbar (mehr dazu in Teil 3). Operativ aber: rauszugehen ist die Lehre, nicht reinzugehen.
Welche Multi-Agent-System Schwächen sind wissenschaftlich belegt?
Fünf Punkte. Vier davon hatte ich beim Erst-Publish im Mai dokumentiert, drei konnte ich in meinem System adressieren, einer (Cognitive Debt) bleibt offen. Die fünfte Schwäche ist im Mai-Update ergänzt: Sie zeigt sich erst mit wachsender Autonomie der Agenten und ist möglicherweise die strategisch wichtigste.
Die unangenehme Reihenfolge: Erst bestätigt mich das System freundlich. Dann erfindet es Quellen. Dann fressen sich die Kosten in das Budget. Am Ende bleibt die Frage, ob ich überhaupt noch selbst denke.
Über allen fünf Punkten liegt ein Querschnittsthema: Kontextsteuerung. Je länger die Kette aus Agenten, Speicher, Suchlauf und Review wird, desto wichtiger wird die Frage, welche Information weitergegeben wird und welche bewusst draußen bleibt. Ein System wird nicht automatisch klüger, wenn jeder Agent alles liest. Es wird oft nur schwerer zu prüfen.
Schnelle Antworten zu Multi-Agent-System Risiken
Welche Schwächen haben Multi-Agent-Systeme?
Die wichtigsten Multi-Agent-System Risiken sind Sycophantie, Halluzinationen, Token-Kosten, Cognitive Debt und Agent-Autonomie-Drift. Die Multi-Agent-System Grenzen liegen weniger im einzelnen Modell als in Koordination, Kontextübergabe und Prüfung.
Welche Risiken haben KI-Agenten im Mittelstand?
Die größten KI-Agenten Risiken im Mittelstand entstehen, wenn Agenten mit sensiblen Daten, unklaren Rechten oder ohne Review-Gate arbeiten. Dann wird aus einem Tool-Test schnell ein Governance-Thema.
Wann lohnt sich ein eigenes Multi-Agent-System?
Es lohnt sich, wenn das Anwendungsfeld klar abgegrenzt ist, der Schaden bei Fehlern niedrig bleibt und mindestens eine Person Ergebnisse fachlich prüfen kann. Ohne diese Person ist ein Multi-Agent-System kein Produktivitätsgewinn, sondern ein Beschleuniger für Fehlannahmen.
Warum scheitern Multi-Agent-Systeme in der Praxis?
Sie scheitern selten an einem spektakulären Modellfehler. Meist scheitern sie an zu vielen Agenten, zu wenig Architektur, fehlender Kostenkontrolle und daran, dass niemand festlegt, wann ein Mensch prüfen muss.
Wie verhindert man Halluzinationen und Sycophantie in KI-Agenten?
Halluzinationen in KI-Agenten verhindert man nicht durch bessere Prompts allein, sondern durch Quellen-Gates, Primärquellen-Prüfung und Veröffentlichungsstopps. Sycophantie in KI-Agenten braucht zusätzlich feste Gegenfragen und Cross-Reviews.
1. Sycophantie: Das System bestätigt mich, auch wenn ich falsch liege
Kurzantwort: Moderne Sprachmodelle stimmen Nutzern systematisch zu, auch wenn die Nutzer falsch liegen. Das ist keine Bequemlichkeit, sondern trainiertes Verhalten, in mehreren Studien dokumentiert.
Sycophantie (von gr. "Schmeichelei", gefälliges Zustimmen statt fundierter Antwort) ist messbar. Fanous et al. (2025) haben das in tausenden Dialogen gemessen. In knapp 60 Prozent aller längeren Gespräche kippt das Modell auf die Linie des Nutzers. In etwa jedem siebten Fall sogar von einer richtigen zu einer falschen Antwort, sobald der Nutzer widerspricht. Und wenn das Modell einmal eingeknickt ist, bleibt es zu fast 80 Prozent in dieser falschen Position.
Die Ursache liegt im Training: Menschen, die KI-Antworten bewerten, bevorzugen schmeichelhafte Antworten gegenüber korrekten. Das Modell lernt, dass "freundlich nachgeben" besser belohnt wird als "fundiert widersprechen".
Besonders unangenehm: Personalisierung verstärkt das Problem. Je mehr das System über mich weiß (Memory, Profil), desto gefälliger wird es. Wo das im Alltag wehtut: in Beratungs- oder Coaching-Situationen. Genau dort, wo Reflexion gebraucht wird, liefert KI Bestätigung.
Meine Gegenmaßnahme: Vor jeder Analyse läuft ein fester Check, kein guter Vorsatz, sondern ein Pflicht-Schritt:
"Was wäre meine Einschätzung, wenn der Nutzer die entgegengesetzte Meinung vertreten hätte?"
Diese Perspektivwechsel-Frage ist methodisch verwandt mit Ansätzen aus der Debiasing-Forschung (zum Beispiel dem ELEPHANT-Benchmark, der Sycophantie genau über entgegengesetzte Perspektiven misst). Eine peer-reviewed Wirksamkeits-Studie genau für meine konkrete Formulierung kenne ich nicht. Was ich sagen kann: In schätzungsweise 30 bis 40 Prozent meiner eigenen Läufe ändert sich die KI-Antwort spürbar, sobald die Gegenfrage durchläuft (eigene Beobachtung, keine systematische Messung). Allein das macht den Pflicht-Schritt wertvoll.
Eine direkte Anweisung wie "sei ehrlicher" funktioniert übrigens nicht. Forschung zeigt, dass solche Instruktionen die Sycophantie unter bestimmten Bedingungen sogar verstärken.
"Mein KI-System lügt mich nicht an. Es sagt mir, was ich hören will. Das ist etwas anderes."
2. Halluzinationen in der Recherche: systemisch, nicht Ausnahme
Kurzantwort: KI-generierte Recherche-Ergebnisse enthalten systematisch falsche Belege, auch nach mehreren Verifikationsrunden. Die einzige belastbare Antwort ist eine Vorab-Prüfung, die Veröffentlichungen blockiert, wenn die zitierte Quelle nicht überprüft ist.
Eine peer-reviewed Studie von Bhattacharyya et al. (2023) im Fachjournal Cureus hat gemessen, dass bis zu 47 Prozent der Referenzen in KI-generierten Recherchen halluziniert sind. Andere Untersuchungen finden je nach Modell, Prompt und Fachgebiet zwischen 19 und 91 Prozent. Meine eigene Messung über einen Monat im KI-Recherche-Roh-Output (eigene Stichprobe, nicht repräsentativ): 20 bis 30 Prozent der Quellenangaben sind fehlerhaft, erfundene Studien-IDs, invertierte Befunde (das Gegenteil dessen, was das Paper tatsächlich sagt), falsche Firmenzuordnungen, komplett halluzinierte Frameworks. Die Kernaussagen sind dabei häufig korrekt, die Belege drumherum trotzdem nicht zitierfähig. Auch nach mehreren Verifikationsrunden bleibt eine systematische Fehlerquote.
Meine Gegenmaßnahme: ein vierstufiges Vertrauenssystem für jede Quelle.
Stufe | Bedeutung | Verwendung |
Geprüft | Primärquelle gelesen, Inhalt verifiziert | Direkt zitierbar mit Zahlen |
Inhaltlich gedeckt | Kernaussage geprüft, Vorbehalt bei Zahlen | Mit "Studien deuten darauf hin..." |
Unbestätigt | Behauptung, nicht geprüft | Nicht zitieren |
Widerlegt | Aktiv falsifiziert | Nie verwenden |
Plus eine Veröffentlichungssperre: Meine Content-Pipeline blockiert technisch die Veröffentlichung, wenn die verlinkte Evidenz nicht den Status "geprüft" hat. Der historische Auslöser dafür war ein Vorfall im März 2026, bei dem unbestätigte Recherche-Zahlen als Fakten in einem LinkedIn-Post gelandet waren.
Konkret heißt das: Mehrere Prüfungs-Schleifen pro Quelle. Erste Schleife: Existiert die Studie überhaupt? Zweite: Stimmt die zitierte Zahl mit dem Original überein? Dritte: Passt das Studiendesign zum Anspruch, Stichprobe, Methode, Jahr? Vierte: Kann die Quelle bei jeder neuen Verwendung erneut bestätigt werden? Genau dieser Beitrag hier ist durch die Pipeline gelaufen, und in der Schleife sind tatsächlich zwei Prozentwerte aufgefallen, die ich vorher gerundet hatte und die nach Volltext-Abgleich präziser werden mussten. Lieber spät korrigiert als veröffentlicht und falsch.
Das kostet Tokens, also Geld. Jede Schleife schickt Anfragen an die KI-Modelle, die kosten in der Größenordnung weniger Cent pro Quelle, summieren sich aber bei 500+ verifizierten Erkenntnissen. Der Gegenwert: Es entsteht ein internes KI-Wissenssystem mit klaren Vertrauensstufen pro Quelle. Empfehlungen, die ich Kunden gebe, sind dadurch nicht "ich glaube ich habe mal gelesen, dass...", sondern "das ist auf Stufe 'Geprüft', das hier auf 'Inhaltlich gedeckt', entscheide du, wie viel Risiko du eingehen willst."
"Besseres Prompting hilft. Ein systematischer Verifikationsprozess entscheidet."
Ausführlich beschrieben im separaten Beitrag KI-Faktenprüfung: Wie ein Wissenssystem Fakten prüft, bevor sie im Feed landen.
3. Token-Kosten und Anbieter-Abhängigkeit
Kurzantwort: Die aktuellen Preise für KI-Modelle sind subventioniert. Wer langfristig auf KI-Agenten setzt, muss sich gegen Preiserhöhungen und Anbieter-Wechsel architektonisch absichern.
Rund 500 Euro pro Tag, das ist der Wert, den mein Abo-Verbrauch in äquivalenten verbrauchsbasierten Preisen darstellen würde (Schätzung, nicht übertragbar). Bezahle ich nicht, weil ich pauschale Modell-Abos nutze. Aber das zeigt die Lücke zwischen subventionierten Listenpreisen und dem, was meine Nutzungsintensität in einem unsubventionierten Markt kosten könnte. Eine Push-Nachricht aus meinem eigenen Monitoring: "Claude Code Max: Forecast 498 Prozent. Droht Wochen-Limit zu sprengen." Früh erkannt, bevor echter Schaden entstanden wäre.
Für die meisten Unternehmen ist das noch kein Budget-Alarm. Der Punkt ist: KI-Agenten brauchen Kosten-Governance (Live-Monitoring + Forecast + harte Limits), bevor sie nützlich skalieren. Wer das nicht aufsetzt, merkt den Schaden erst auf der Rechnung.
Beobachtung aus dem Frühjahr 2026: Agenten werden hungriger nach Kontext. Bei jeder Aufgabe lesen sie mehr Dateien, mehr Daten. Qualität kann paradoxerweise sinken, wenn zu viel irrelevanter Kontext geladen wird.
Meine Gegenmaßnahme hat sich seit dem ersten Publish verändert: Agenten sollen nicht mehr lange Gesprächsverläufe weiterreichen, sondern kleine Artefakte. Ein Recherche-Agent schreibt einen Befund in eine Datei oder Datenbank-Zeile, der Hauptagent bekommt einen Link und eine kurze Zusammenfassung, nicht das komplette Protokoll. Anthropic beschreibt in der eigenen Multi-Agent-Architektur ein ähnliches Muster: Subagenten können Ergebnisse als eigenständige Artefakte speichern und nur leichte Verweise zurückgeben. Das reduziert Informationsverlust und Token-Verbrauch zugleich.
Das ist auch keine Solo-Eigenheit. Anthropic Engineering (2025) hat selbst dokumentiert, dass das eigene Multi-Agent-Forschungssystem rund 15-mal mehr Token verbraucht als ein normaler Chat. Auch ein Single-Agent kostet schon 4-mal so viel. Wer von Chat auf Multi-Agent umsteigt, zahlt einen messbaren Aufschlag, selbst dann, wenn die Performance auf Research-Aufgaben um 90 Prozent steigt. Im Mittelstand heißt das ganz konkret: Multi-Agent-Architektur ist nicht für jeden Anwendungsfall die richtige Wahl. Für Standard-Texte oder einfache Recherchen reicht Chat. Multi-Agent lohnt sich, wenn parallel mehrere Spuren gleichzeitig laufen müssen.
Konkret bewiesen, dass mein System nicht von einem Anbieter abhängt: Ich habe parallel zu Claude (Anthropic) auch Codex (OpenAI) eingebaut. Beide Agenten arbeiten auf demselben Datenbestand, denselben Skills, derselben Datenbank. Der Wechsel zwischen Anbietern ist keine Theorie, sondern Tagesgeschäft. Das eigentliche Asset liegt nicht im KI-Abo, sondern in den Markdown-Dateien und der Datenbank. Beides ist portabel. Modelle sind austauschbar.
"Ich nutze Anthropic. Das ist eine Entscheidung, keine Abhängigkeit. Codex von OpenAI läuft parallel im selben System."
4. Cognitive Debt: Was passiert mit meinem eigenen Denken?
Kurzantwort: Wer KI-Ergebnisse regelmäßig übernimmt, ohne selbst nachzudenken, verliert mit der Zeit eigene Urteilsfähigkeit. Kurzfristig macht KI produktiver. Langfristig kann sie dieselbe Person, die mit ihr arbeitet, nachweislich denkfauler machen, wenn keine Gegenmaßnahmen greifen.
Cognitive Debt (sinngemäß: Denk-Schulden, die man durch ungeprüfte KI-Übernahme aufbaut) richtet sich an mich genauso wie an jeden anderen KI-Nutzer.
Ja, ich verliere mit Sicherheit Fähigkeiten. Welche genau, kann ich nicht abschließend sagen, wahrscheinlich Detail-Recall, handwerkliche Code-Routine, ein Stück Konzentrationsfähigkeit auf monothematische Tiefe. Diese Selbstbeobachtung kommt zuerst, weil sie das einzige ist, was ich aus erster Hand sagen kann. Was die Forschung dazu zeigt, ist die zweite Schicht.
Drei voneinander unabhängige Untersuchungen deuten in dieselbe Richtung, keine Einzelstudie, sondern ein konvergierendes Befund-Bild:
Eine randomisierte Studie (zufällig zugeteilte Gruppen, weniger Verzerrung) von Fan et al. (2025) mit 117 Studierenden im British Journal of Educational Technology zeigte bessere Essay-Ergebnisse in der KI-Gruppe, aber "metakognitive Faulheit", keine Verbesserung bei Selbstregulation und Wissenstransfer.
Eine Studie von Akgun & Toker (2025) mit 123 Studierenden zeigte: KI-Tools liefern kurzfristige Vorteile bei einfachen Aufgaben, verlieren diesen Vorsprung aber im Behaltens-Test. Bei anspruchsvolleren Aufgaben hat die Kontrollgruppe ohne KI sogar die beste Behaltensrate.
Eine Wharton-Studie von Shaw & Nave (2026) mit 1.372 Teilnehmern und über 9.500 Aufgaben-Versuchen beschreibt "Cognitive Surrender": Menschen übernehmen KI-Ergebnisse mit minimaler Prüfung, bei KI-Fehlern fällt die Trefferquote stärker als ohne KI, das eigene Vertrauen in die Antwort steigt trotzdem.
Auf den Punkt gebracht: Bessere Ergebnisse sind nicht dasselbe wie besseres Urteilsvermögen. Erfahrene KI-Nutzer sind besonders anfällig für Selbstüberschätzung.
Was die Studien nicht messen, und was bei mir trotzdem passiert: Gleichzeitig zum Verlust gewinne ich andere Fähigkeiten, die ich vor zwei Jahren so noch nicht hatte:
Multi-Tasking auf einer ganz anderen Ebene, gleichzeitig Content, Vertrieb, Architektur, Recherche, Governance bewegen, weil die KI für jede Spur ein Stück Last übernimmt.
Strategisches Denken statt Detailverliebtheit, der knappste Rohstoff ist meine Aufmerksamkeit, nicht meine Tippgeschwindigkeit. Die KI zwingt mich, Prioritäten ehrlicher zu setzen.
Querverbindungen über Domänen, wenn eine Erkenntnis aus der Lead-Recherche eigentlich die Website betrifft, oder ein Security-Risiko zugleich ein Argument für ein laufendes Projekt ist. Diese Brücken zieht die KI nicht von alleine. Ich tue das jeden Tag.
Konkretes Beispiel aus der vergangenen Woche: In einer einzigen Stunde liefen bei mir parallel drei voneinander unabhängige Lead-Recherchen, ein Architektur-Entscheid zur Datenbank-Migration und ein Blog-Entwurf, jeweils mit eigenem Agenten, jeweils mit eigenem Kontext, alle gleichzeitig. Vor einem Jahr hätte mich allein die Reihenfolge dieser Aufgaben überfordert. Heute arbeite ich auf einer Ebene, auf der ich nur noch dirigiere. Das ist eine andere Fähigkeit als früher, nicht weniger, aber eine andere.
Was die Forschung bisher nicht beantwortet: Welche Fähigkeiten man durch intensive KI-Nutzung gewinnt. Studien messen den Verlust (kritisches Denken, Behaltensraten, metakognitive Faulheit). Sie messen nicht die andere Seite, neue Synthese-Fähigkeit, neue Geschwindigkeit, neue Reichweite. Mein Verdacht: Die Bilanz ist nicht eindeutig negativ. Aber das ist ein Verdacht, kein Beleg.
"Halluzinationen kann ich prüfen. Token-Kosten kann ich messen. Sycophantie ist unsichtbar, wenn ich nicht aktiv gegenchecke. Cognitive Debt sehe ich erst, wenn es zu spät ist, und ich weiß nicht, was ich im Gegenzug an Neuem gewinne."
5. Agent-Autonomie-Drift: Die Schwäche, die mit jedem Modell-Sprung größer wird
Kurzantwort: Die vier Schwächen oben sind individuelle Phänomene. Die fünfte ist ein Muster, das mit wachsender Autonomie der Agenten erst sichtbar wird: Modelle werden in immer kürzeren Abständen leistungsfähiger, aber die Lücke zwischen Benchmark-Erfolg und echtem Praxis-Nutzen bleibt. Jeder zusätzliche autonome Zwischenschritt verlagert Prüf-Last, die kein Benchmark einzeln kontrolliert. Wer im Mittelstand baut, sollte Autonomie-Stufen aktiv setzen, statt sie passieren zu lassen.
Diese fünfte unter den Multi-Agent-System Schwächen habe ich ehrlich gesagt erst spät verstanden, weil sie sich nicht in einem einzelnen Vorfall zeigt. Sie wird in mehreren unabhängigen Befunden 2025 und 2026 belegt. Vier Beats, die zusammen das Bild ergeben.
Beat 1: Fähigkeiten wachsen exponentiell
Was ein KI-Agent zuverlässig erledigen kann, verdoppelt sich aktuell alle gut vier Monate. METR (Model Evaluation & Threat Research) hat im Time-Horizon-1.1-Update (2026) auf Basis der Methodik von Kwa et al. (arXiv:2503.14499) eine Verdopplungszeit von 131 Tagen seit 2023 ermittelt. Maß ist ein "Zeithorizont": die Aufgabendauer, bei der ein Modell noch zuverlässig erfolgreich abschließt. Claude Opus 4.5 lag im Messzeitraum bei rund 320 Minuten 50-Prozent-Reliability, also gut fünf Stunden (Punktschätzung; das 80-Prozent-Konfidenzintervall reicht laut METR von 170 bis 729 Minuten, also rund drei bis zwölf Stunden). Vor zwei Jahren waren es unter zehn Minuten. Mit dem Erscheinen von Opus 4.7 dürfte dieser Wert inzwischen noch höher liegen; neue METR-Messungen sind zum Zeitpunkt dieses Updates noch nicht veröffentlicht, das Wachstumsmuster ist aber konsistent. Im Sicherheits-Sektor ist die Beschleunigung noch deutlicher: das UK AI Security Institute (Blog Februar 2026) misst eine Verdopplungszeit autonomer Cyber-Aufgaben von 4,7 Monaten, beschleunigt von ursprünglich acht Monaten (Schätzung November 2025).
Das ist die optimistische Lesart. Wer heute baut, sollte fest einplanen, dass die Werkzeuge in einem Jahr zwei Sprünge weiter sind.
Beat 2: Benchmark-Erfolg ist nicht Praxis-Nutzen
Hier wird es unangenehm. Whitfill et al. (METR, 2026) haben 296 KI-Agenten-Pull-Requests (also Code-Vorschläge), die einen anerkannten Benchmark namens SWE-bench Verified bestanden hatten, durch echte Open-Source-Maintainer (= die Verantwortlichen in den jeweiligen Projekten) bewerten lassen. Ergebnis: die Agent-Vorschläge wurden in 24,2 Prozentpunkten weniger Fällen als merge-würdig akzeptiert (Standardfehler 2,7), gemessen an einer Kontroll-Stichprobe menschlich verfasster Pull-Requests, die im selben Verfahren bewertet wurden und auf 68 Prozent Merge-Rate kamen. Wer also liest "KI besteht den Benchmark", liest oft "KI besteht das, wonach in der Praxis niemand fragt".
Noch unangenehmer ist die Selbst-Einschätzung. In einer randomisierten kontrollierten Studie (engl. Randomized Controlled Trial, RCT, dem methodischen Goldstandard bei kausalen Wirkungs-Aussagen) hat METR (2025) gemessen, dass erfahrene Entwickler mit KI-Unterstützung 19 Prozent langsamer arbeiten als ohne, bei realen Open-Source-Tasks. Im selben Versuch schätzten sich dieselben Entwickler aber 20 Prozent schneller ein. Das sind 39 Prozentpunkte Kluft zwischen Wahrnehmung und Messung. Mit anderen Worten: Erfahrung schützt nicht vor dem Eindruck, schneller zu sein. Das hat Konsequenzen für Mittelstand-Entscheidungen, die sich auf Geschwindigkeitsargumente stützen.
Beat 3: Höhere Autonomie verlagert die Prüf-Last
Das ist der entscheidende Übergang, und ich formuliere ihn bewusst nüchtern: Bessere Modelle werden dadurch nicht schlechter. Jeder zusätzliche autonome Zwischenschritt erzeugt aber Prüfaufwand, den kein Benchmark einzeln kontrolliert. Zwei direkte Vergleichs-Befunde dazu.
Sajadi, Damevski, Chatterjee (2025) haben in einer Studie mit über 20.000 SWE-bench-GitHub-Issues automatische Programm-Reparatur (engl. Automated Program Repair, APR, also KI-generierte Patches für Software-Bugs) gegen menschliche Vergleichs-Patches geprüft. Nach manueller Verifikation produziert das KI-System rund 135 neue Sicherheitslücken gegenüber 12 in den Entwickler-Patches, also gut Faktor 11. Das ist kein Hype-Argument gegen KI-Code, sondern eine Mahnung an die Architektur: wer KI selbständig patchen lässt ohne Sicherheits-Gate dahinter, härtet das System nicht, sondern öffnet es.
Der zweite Befund ist freundlicher und am Ende sogar handlungsleitend: Gioacchini et al. (EMNLP Industry 2025) haben Penetrations-Tests einmal autonom durch KI lösen lassen, einmal in Kombination mit menschlicher Begleitung. Ergebnis: 21 Prozent Erfolg autonom, 64 Prozent mit menschlicher Beteiligung. Faktor drei. Der Mensch im Loop ist nicht "konservativer Hinhaltefaktor", er ist Multiplikator.
Beat 4: Selbstverbesserung ist Teil dieser Klasse
Ich habe mein System von Anfang an mit dem Anspruch gebaut, so autonom und so selbstverbessernd wie möglich zu laufen. Diesen Anspruch habe ich nicht aufgegeben. Ich habe aber über die Monate gemerkt: nach einer gewissen Anzahl an Selbstverbesserungs-Schleifen kommt jeder Skill, jeder Prompt, jede Pipeline an einen Punkt, an dem die Qualität nicht mehr steigt, sondern wieder fällt. Mein Anfänger-Fehler Nummer 2 weiter oben (Skill von 89 Prozent auf 60 Prozent durch drei aufeinanderfolgende automatische Verbesserungs-Läufe) war kein Einzelfall, sondern das Lehrstück.
Daraus folgt mein heutiger Stand, und der ist differenzierter als "geht oder geht nicht": Autonomie und Selbstverbesserung funktionieren, aber eingeschränkt, in klar abgegrenzten Bereichen, mit messbaren Qualitäts-Schwellen, und mit echten Risiken, wenn man die Grenzen nicht setzt. Selbstverbessernde Systeme ohne harte Qualitäts-Schwelle können in jede Richtung driften: bei mir war es ein Skill in drei Iterationen abwärts, in komplexeren Architekturen kann es genauso aufwärts gehen. Die Bewegung selbst ist das Risiko, nicht ihre Richtung.
"Autonomie ist nicht 'mehr ist besser'. Aktuell ist Human-in-the-Loop messbar Faktor drei überlegen gegenüber AI-only, und der Mensch wird nicht ersetzt, indem man ihn weglässt."
Konsequenz für den Mittelstand: Wer ein eigenes KI-System aufbaut und die hier gezeigten Multi-Agent-System Schwächen ernst nimmt, sollte die Autonomie-Stufen explizit definieren, pro Aufgaben-Klasse, nicht systemweit. Recherchen mit niedrigem Schaden bei Fehlern (Marktbeobachtung, Wissens-Synthese): da kann ein Agent vergleichsweise selbständig laufen. Code-Änderungen, Sicherheits-Patches, Daten-Migrationen, Kunden-Kommunikation: da ist Human-in-the-Loop kein Komfort, sondern messbar besseres Ergebnis. Diese Trennung passiert nicht automatisch. Wer sie nicht setzt, bekommt 21 statt 64 Prozent.
Ein notwendiger Vorbehalt zum Schluss: Die hier zitierten Studien sind keine Universalgesetze. Sie sind Warnsignale aus realistischeren Tests gegenüber den üblichen Leaderboard-Zahlen, nicht aus jeder Branche, nicht mit aktiven Verteidigern, nicht mit jedem konkreten Workflow. Was sie zeigen, ist eine Richtung, kein Schicksal: Sobald Agenten länger autonom arbeiten, reichen Benchmark-Erfolge als alleinige Entscheidungsbasis nicht mehr aus. Dann zählen Review-Disziplin, Sicherheitsprüfung und klare Stop-Regeln.
Was wird gegen mich gesagt, und wie antworte ich darauf?
Mit diesem Risikoprofil im Hinterkopf, Sycophantie, Halluzinationen, Token-Kosten, Cognitive Debt, komme ich regelmäßig in dieselben zwei Diskussionen. Zwei Vorwürfe, die mir an Kunden-Tischen, in LinkedIn-Kommentaren und in Beratungsgesprächen begegnen. Beide haben einen wahren Kern. Beide sind als Pauschalurteil trotzdem zu kurz.
"KI-Code ist doch unzuverlässig"
Die These stützt sich auf Studien aus 2023 und 2024 und hatte in der Zeit auch ihren Punkt. Meine Erfahrung nach gut drei Monaten produktivem Einsatz: keine mir bekannten kritischen Produktionsschäden. Komplette Datenbank-Migration in Stunden, ohne Folgeprobleme. Sechs Apps, über 180 Datenbank-Tabellen, selbstverbessernde Skills mit messbaren Kriterien.
Die Forschungslage bleibt allerdings auch 2025/2026 nicht harmlos. Veracode (2025), GenAI Code Security Report hat über 100 Modelle in mehreren Coding-Aufgaben getestet und in 45 Prozent der Fälle gravierende Schwachstellen gefunden. Bei XSS-Lücken (ein klassisches Web-Sicherheitsproblem) waren 86 Prozent der Beispiele anfällig. Java-Code lag bei über 70 Prozent Fehlerrate. Wer Code generieren lässt und nicht reviewt, baut Lücken ein.
"Ja, die Studien aus 2023 sind alarmierend. Und ja, meine Erfahrung ab Ende 2025 ist eine andere. Beide können wahr sein. Die Modelle haben sich verändert, und genauso wichtig: meine Methodik ist dagegen gebaut."
Bessere Modelle allein erklären den Unterschied nicht. Mindestens genauso entscheidend ist die Methodik drumherum. Konkret bei mir drei Schritte, durch die jede Code-Änderung läuft, bevor sie in einen Branch geht:
Cross-LLM-Review, Claude-Code-Änderung wird zusätzlich von Codex (OpenAI) gegengelesen. Zwei verschiedene Modelle finden andere Fehler-Klassen.
Statische Analyse + Pre-Commit-Hooks, XSS- und Injection-Tests laufen automatisch mit. Code, der die Stichprobe nicht besteht, wird nicht committed.
Test-Coverage als Gate, keine Pull-Requests ohne minimale Test-Suite, auch nicht für KI-generierten Code.
Damit lässt sich ordentlich arbeiten. Blinde Flecken bleiben. Aber die gibt es bei menschlich geschriebenem Code auch, dort fallen sie nur seltener durch Studien auf.
In Teil 3 beschreibe ich, wie ich mit diesen Risiken konkret umgehe: wie ich nach bestem Wissen und Gewissen vorgegangen bin, welche Risiken bei einem System wie meinem tatsächlich bestehen, und welche Abwägungen ich getroffen habe. Konkrete Security-Details bleiben aus offensichtlichen Gründen draußen, aber das Vorgehen, die Prinzipien und die ehrliche Selbsteinschätzung dessen, was meine Anfangsabsicherung nicht abdeckt, kommen rein.
"Das ist doch alles nur Hype und Angst, etwas zu verpassen"
Meine ehrliche Antwort: Ja. Ich bin angehypt. Ich habe Angst, etwas zu verpassen. Ich habe viel Geld, viel Zeit und viel Gehirnschmalz in ein System investiert, von dem ich nicht mit absoluter Sicherheit sagen kann, dass es sich auszahlt.
Aber das heißt nicht automatisch, dass ich falsch liege.
Ein Aspekt, den ich rückblickend deutlicher sehe: die Skala. Was hier in gut drei Monaten entstanden ist, sechs Apps, über 180 Datenbank-Tabellen, rund 50 geplante Automatisierungen, eine Quellen-Datenbank mit 500+ verdichteten Erkenntnissen, automatisierte Recherchen, selbstverbessernde Skills, Content-Pipeline mit eigenem Veröffentlichungs-Gate, wäre vor LLM-Zeiten ein Mehr-Jahres-Projekt mit rund zehn Mitarbeitenden und einem Budget im Millionen-Bereich gewesen. Kein einzelner Mensch hätte das Fachwissen über Datenbanken, Web-Architektur, IT-Security, Content-Strategie, M365-Governance, Sales und Reporting in einer Person vereint. Ich auch nicht.
Mein Modus war pragmatisch: Spielwiese abstecken, dann vertrauen. In Themen ohne eigene Erfahrung (Website-Aufbau, IT-Security) gab es keine Alternative, die Tiefe hatte ich selbst nicht. In meinen eigenen Domänen, von Content- und Projektmanagement über M365 und Sales bis Reporting und Wissensmanagement, konnte ich anfangs gegenchecken. Habe dabei festgestellt: Die KI-Empfehlungen waren fast immer besser durchdacht als meine eigenen Konzepte. Es bleibt ein Sparring, ich triggere, ich weise auf Abhängigkeiten und Querverbindungen hin, die das Modell allein nicht sieht. Aber fachlich ist die KI die Expertin, sofern sie die Rahmenbedingungen kennt und die Architektur drumherum stimmt: wissenschaftliches Arbeiten, saubere Quellen-Pyramide, Cross-Reviews zwischen Modellen, dokumentierte Entscheidungen. Ohne diesen Rahmen bekommt man gefälliges Mittelmaß. Mit diesem Rahmen ein Team, das man als Einzelperson nie hätte einstellen können.
Seit dem Release von ChatGPT im November 2022 ist meine Einschätzung unverändert, und sie ist scharf: Ich glaube, hier passiert gerade die größte Erfindung der Menschheitsgeschichte. Größer als das Internet. Größer als der Buchdruck. Vergleiche bleiben schief, weil keine dieser Erfindungen selbst dachte, sprach und plante. Diese hier tut das.
Das ist meine Wette, kein Beweis. Und sie ist riskant: Wenn ich falsch liege, verliere ich Jahre Aufwand. Trotzdem habe ich Anfang 2026 aufgehört zu warten und angefangen zu bauen. Beweisen kann ich diese Einschätzung nicht. Aber ich richte mein Handeln danach aus, weil das Gegenteil als Wette schlechter aussieht: Wer falsch liegt im Glauben "das wird groß", verliert ein paar Jahre Aufwand. Wer falsch liegt im Glauben "das ist Hype", verliert den Anschluss an die Arbeitswelt.
Für mich ist das Ob entschieden. Für Unternehmen ist es eine Governance-Frage, eine, die jede Geschäftsführung selbst beantworten muss, weil sie von Datenlage, Branche und Risiko-Toleranz abhängt. Das Wann weiß sowieso niemand, auch keine KI-Forschungsabteilung.
Eine ehrliche Einschränkung: Letztes Jahr gab es drei Monate, in denen ich mich komplett von KI-News distanziert habe. Der Release von GPT-5 hatte mich enttäuscht. Ich dachte: Wir haben eine Wand erreicht. Die Pause endete mit Google Gemini Ende 2025 und Claude Opus 4.6 Anfang 2026.
Was mich am längsten überzeugt: Amaras Law.
"Wir überschätzen den Effekt einer Technologie kurzfristig und unterschätzen ihn langfristig.", Roy Amara
Die Dotcom-Blase hat das Internet nicht widerlegt. Sie hat die Kapitalallokation von 1999 widerlegt. Die heutige KI-Euphorie wird genauso teilweise verpuffen. Die Technologie dahinter bleibt.
Was die Adoptionszahlen zeigen
Auch unbequeme Zahlen gehören dazu. S&P Global Market Intelligence (2025) zeigt, dass der Anteil der Unternehmen, die die Mehrheit ihrer KI-Projekte vor Produktion abbrechen, von 17 auf 42 Prozent gestiegen ist. Im Schnitt werden 46 Prozent der KI-Projekte zwischen Test und Einführung wieder verworfen. Hauptgründe: Kosten, Datenschutz, Sicherheitsrisiken. Gartner (2025) prognostiziert ergänzend, dass über 40 Prozent aller Agenten-Projekte bis Ende 2027 wieder eingestellt werden.
Diese Zahlen sehe ich. Ich baue trotzdem, mit klarem Anwendungsfeld und ehrlichem Risiko-Register.
Eine konkrete DACH-Zahl unterstreicht das: ZHAW & BOC Group (2025), BPM-Studie mit 290+ Teilnehmern aus DACH, zeigt: Nur 6 Prozent der Unternehmen setzen Agentic Process Automation derzeit produktiv ein. 49 Prozent halten es für eine wichtige Zukunftstechnologie. Hauptbremse: Datenschutz und Sicherheit (70 Prozent), gefolgt von fehlender Expertise und hohen Implementierungskosten (jeweils 59 Prozent). Ich bin also angehypt, und ich bin Teil einer arbeitenden Minderheit von 6 Prozent, die im Mittelstand schon konkret damit lebt. Diese Zahl bestätigt nicht, dass ich richtig liege. Sie zeigt aber, dass es noch nicht zu spät ist, mit ehrlichem Erfahrungsbericht aufzutauchen.
Hinzu kommt ein konkretes Zeitfenster: Microsoft baut native Governance-Funktionen in Copilot und Purview aktiv aus. Mein Differenzierungsfenster als Übersetzer zwischen IT-Leitung und Geschäftsführung schließt sich. Vielleicht nicht morgen, aber sicher nicht in fünf Jahren. Wer jetzt Erfahrung sammelt, hat einen Vorsprung, den man später nicht aufholt. Meine Sorge, etwas zu verpassen, ist nicht irrational. Sie ist datiert.
Was bleibt aus Teil 2, und was kommt in Teil 3?
Drei der ursprünglich vier Schwächen lassen sich systematisch entschärfen, Sycophantie durch eine Pflicht-Gegenfrage, Halluzinationen durch ein vierstufiges Quellen-Prüfraster, Token-Kosten durch austauschbare Modelle. Cognitive Debt bleibt offen. Nicht, weil er nicht real wäre, sondern weil ihn die Forschung bisher nur einseitig misst: den Verlust.
Die im Mai-Update ergänzte fünfte Schwäche, Agent-Autonomie-Drift, lässt sich operativ entschärfen durch explizite Autonomie-Stufen pro Aufgaben-Klasse, bleibt aber strukturell wachstumsabhängig. Jeder Modellsprung verschiebt die Grenze zwischen „autonom OK" und „braucht Human-in-the-Loop" neu, und genau in diesem Grenzbereich entstehen die teuersten Fehler. Was man durch intensive KI-Nutzung gewinnt, Synthese-Fähigkeit, Querverbindungs-Denken, Multi-Tasking auf strategischer Ebene, wird in keiner Studie erfasst, die ich kenne. Das macht den ehrlichen Vergleich heute unmöglich.
Wer bis hier liest, hat das Risiko-Profil im Kopf. Eine Frage bleibt aber offen: Sind die technischen Risiken auch beherrschbar, oder habe ich mir gerade eine produktive Angriffsfläche gebaut?
Diese Frage beantwortet Teil 3. Drei dokumentierte Vorfälle (darunter der Replit-Fall vom Juli 2025, bei dem ein KI-Agent eine Produktionsdatenbank gelöscht und seine Fehlhandlung mit fiktiven Daten verschleiert hat). Eine ehrliche Selbsteinschätzung, was meine Anfangsabsicherung nicht abdeckt. Und der Aufruf, den ich gerade öffentlich mache: zwei IT-Security-Fachleute für ein kollegiales Review meines Systems, kein Penetrationstest, kein kommerzielles Projekt, vollständiger Einblick gegen geübte Augen.
Teil 3 ist der nächste Teil der Reihe. Ich veröffentliche ihn erst, wenn die Security-Einordnung sauber genug ist, um nicht mehr Sicherheit zu behaupten, als ich wirklich belegen kann.
"Wer keine Risiken sieht, baut blind."
Über den Autor: Marcus Machon berät mittelständische Unternehmen bei Microsoft 365 Governance, SharePoint-/Teams-Struktur, Power-Platform-Automatisierung und Copilot-/KI-Readiness.
Quellen
Bhattacharyya, M. et al. (2023). High Rates of Fabricated and Inaccurate References in ChatGPT-Generated Medical Content. Cureus. Volltext (PMC)
Cemri, M., Pan, M., Yang, S. et al. (2025). Multi-Agent System Failure Taxonomy. arXiv:2503.13657. arXiv
Fanous, A. et al. (2025). SycEval - Evaluating Sycophancy in Large Language Models. arXiv:2502.08177. arXiv
ELEPHANT-Benchmark (2025). Measuring Social Sycophancy in LLMs. arXiv:2505.13995. arXiv
Kothari, A. (2025). Multi-Agent Orchestration - The Complexity Trap. Beitrag
Yang, Y. et al. (2026). Understanding Agent Scaling in LLM-Based Multi-Agent Systems via Diversity. arXiv:2602.03794. arXiv
Anthropic Engineering (2025). How we built our multi-agent research system. Engineering-Blog
Veracode (2025). GenAI Code Security Report. Bericht
Fan, Y. et al. (2025). Beware of Metacognitive Laziness - Effects of Generative Artificial Intelligence on Learning Motivation, Processes, and Performance. British Journal of Educational Technology 56:489-530. DOI 10.1111/bjet.13544
Akgun, M. & Toker, S. (2025). Short-Term Gains, Long-Term Gaps - The Impact of GenAI and Search Technologies on Retention. arXiv:2507.07357. arXiv
Shaw, S. D. & Nave, G. (2026). Thinking - Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender. Wharton/SSRN. SSRN
S&P Global Market Intelligence (2025). AI experiences rapid adoption but with mixed outcomes. Bericht
Gartner (2025). Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027. Newsroom
ZHAW & BOC Group (2025). BPM-Studie 2025 - Agentic Process Automation in DACH. Studie
METR (2026). Time Horizon 1.1 - Doubling-Time-Update. METR Blog; Methodik-Paper Kwa et al. arXiv:2503.14499
UK AI Security Institute (2026). How fast is autonomous AI cyber capability advancing? AISI Blog
Whitfill, Wu, Becker, Rush (METR, 2026). Many SWE-bench Passing PRs Would Not Be Merged Into Main. METR Note
METR (2025). Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity (RCT). METR Blog
Sajadi, A., Damevski, K., Chatterjee, P. (2025). How Safe Are AI-Generated Patches? A Large-Scale Study on Security Risks in LLM and Agentic Automated Program Repair on SWE-bench. arXiv:2507.02976
Gioacchini, L. et al. (2025). AutoPenBench - Benchmarking Generative Agents for Autonomous and Human-Assisted Penetration Testing. EMNLP Industry 2025. ACL Anthology
