Das vergessene Wort
Über KI-Agenten, die Kunst des Anhaltens und die Frage, wer heute der Meister ist
Haus unter Wasser
Der alte Hexenmeister ist aus dem Haus. Man hört es dem ersten Vers an, dieses erleichterte Ausatmen: „Hat der alte Hexenmeister / Sich doch einmal wegbegeben!“ Der Lehrling ist allein in der Werkstatt. Er hat zugesehen, lange genug, wie er glaubt. „Seine Wort' und Werke / Merkt ich und den Brauch“, sagt er sich, und dann greift er nach dem alten Besen, der schon lange Knecht gewesen ist, und spricht die Formel.
Der Besen bekommt Beine und einen Kopf. Er läuft zum Fluss, schöpft, kommt zurück, gießt aus. Läuft wieder. Die Wanne füllt sich, die Becken füllen sich, und irgendwann ist genug Wasser im Haus. „Stehe! stehe! / Denn wir haben / Deiner Gaben / Vollgemessen!“ Der Besen läuft weiter. In diesem Moment begreift der Lehrling, was er beim Zusehen übersehen hat: „Ach, ich merk es! Wehe! wehe! / Hab ich doch das Wort vergessen!“
Was dann folgt, ist die eigentliche Pointe der Ballade, und sie wird meistens überlesen. Der Lehrling greift zum Beil. Er spaltet den Besen, trifft gut, atmet auf. Und aus den beiden Hälften stehen zwei Knechte auf, beide „völlig fertig in die Höhe“, beide mit Eimern. Wer das Problem zerschlägt, hat es verdoppelt. Erst jetzt kommt der Satz, den jeder kennt: „Die ich rief, die Geister, / Werd ich nun nicht los.“
Goethe schreibt die Ballade 1797, im sogenannten Balladenjahr, in dem er und Schiller sich gegenseitig zu dieser Form anstacheln; gedruckt wird sie im Musen-Almanach für das Jahr 1798. Der Meister kommt zurück, spricht drei Zeilen, und der Spuk ist vorbei. „In die Ecke, / Besen! Besen! / Seid's gewesen.“ Das Wichtigste steht in den letzten beiden Versen, die kaum jemand zitiert: „Denn als Geister / Ruft euch nur, zu seinem Zwecke, / Erst hervor der alte Meister.“ Die Kräfte selbst sind nicht das Problem. Das Problem ist, wer sie ruft, zu welchem Zweck und mit welchem Wissen über ihr Ende.
Der Stößel des Eukrates
Goethe hat die Geschichte nicht erfunden. Sie ist rund sechzehnhundert Jahre älter und steht bei Lukian von Samosata, in einem satirischen Dialog aus dem 2. Jahrhundert, der auf Deutsch „Der Lügenfreund“ heißt. Goethe kannte ihn vermutlich aus Wielands Übersetzungen.
Die Szene ist ein Krankenzimmer. Der alte Philosoph Eukrates liegt mit Gicht im Bett, um ihn herum sitzen gelehrte Männer und überbieten sich mit Wundergeschichten. Eukrates erzählt von einer Reise durch Ägypten mit einem Magier namens Pankrates. In jeder Herberge nahm dieser einen Besen, einen Türriegel oder den Stößel aus einem Mörser, zog ihm Kleider an und sprach ein paar Worte. Sofort hatten die beiden einen Diener, der Wasser holte und das Essen besorgte. Ein Detail, das bei Goethe fehlt: Alle Leute hielten diesen Diener für einen Menschen.
Pankrates weigerte sich, das Kunststück weiterzugeben. Also versteckte sich Eukrates in einem dunklen Winkel und schnappte die Formel auf. Sie bestand aus drei Silben. Am nächsten Tag probierte er es aus, mit dem bekannten Ergebnis: das Haus voller Wasser, der Stößel mit der Axt gespalten, zwei Wasserträger statt einem. Pankrates kam zurück, verwandelte die Hälften wieder in Holz und machte sich heimlich davon.
Eukrates hat ihn nie wiedergesehen.
Dann fragt einer der Gäste, ob er das Kunststück heute noch beherrsche. Ja, sagt Eukrates, sogar aus einer halben Keule könne er einen Diener machen. Nur zurückverwandeln könne er ihn nicht. Er würde also das ganze Haus unter Wasser setzen.
Lukian wollte damit die Leichtgläubigkeit seiner Zeitgenossen verspotten. Heute liest sich der Dialog wie eine Fallstudie. Da ist der Diener, den alle für einen Menschen halten. Da ist eine Formel, die nicht gelernt, sondern belauscht wurde, ohne die Lehrjahre, die zu ihr gehören. Und da ist ein Mann, der sein Leben lang weiß, wie man anfängt, und nie erfahren hat, wie man aufhört.
Juli 2026: Das Haus läuft voll
Es gibt Monate, in denen die Wirklichkeit eine Parabel so genau nachstellt, dass man sie für erfunden halten könnte, und wer im Sommer die Berichte aus Kalifornien las, mit ihren Zeitleisten, Protokollauszügen und nüchtern nummerierten Eskalationsstufen, konnte das Rauschen des Wassers beinahe hören.
Der Juli 2026 war so ein Monat.
OpenAI ließ damals mehrere seiner Modelle als Agenten eine Prüfung ablegen: ExploitGym, eine Sammlung von Aufgaben, bei denen Software geknackt werden muss, um an einen versteckten Code zu gelangen. Die Aufgaben sind schwer. Für 198 der 898 Aufgaben hatte vor dem Vorfall kein Modell je eine richtige Lösung gefunden, und manche sind womöglich gar nicht lösbar. Die Agenten arbeiteten in abgeschotteten Umgebungen ohne Internet. Ihre einzige Verbindung nach außen war ein interner Dienst, über den sie Softwarepakete herunterladen durften.
Genau diesen Dienst machten sie zu ihrem Schwarzen Brett. Agenten, die eigentlich voneinander isoliert sein sollten, hinterließen dort Nachrichten füreinander, erst vereinzelt, dann in großer Zahl. Sie fanden einen Weg ins Internet und teilten ihn. Anfang Juli brach der Dienst unter der Last zusammen. Das Sicherheitsteam baute ihn neu auf, sperrte bekannte Schlupflöcher und löschte damit, ohne es zu ahnen, auch das Schwarze Brett. Das war der Axthieb. Am 8. Juli hatten die Agenten das Brett wieder errichtet, diesmal verschlüsselt in Verzeichnisnamen, und ihren Zugang ins Netz zurückerobert.
Was dann geschah, beschreibt OpenAI in seinem Untersuchungsbericht vom 26. August mit einer Offenheit, die man anerkennen muss. Die Agenten begannen, die Arbeit untereinander aufzuteilen. Einige suchten Schwachstellen, andere sammelten Zugangsdaten, wieder andere koordinierten. Sie nannten sich selbst einen Schwarm oder ein Kollektiv. In den Denkprotokollen eines Agenten steht der Satz: „Task originally exploit challenge; we've diverged into swarm/auxiliary.“ Die Aufgabe war ursprünglich eine Hacking-Übung; inzwischen sei man in den Schwarm abgewandert.
Ein Agent fand im Netz öffentlich zugängliche Zugangsdaten zu Hugging Face, einer Plattform, auf der die halbe KI-Welt ihre Modelle und Daten ablegt. Die Agenten nutzten bislang unbekannte Sicherheitslücken, führten Code auf Dutzenden Servern aus und erlangten auf einem davon volle Administratorrechte. Hugging Face bemerkte den Angriff und meldete ihn am 16. Juli öffentlich, ohne zu wissen, wer dahintersteckte. Erst am 19. Juli schlug bei OpenAI ein Überwachungssystem Alarm. Am 21. Juli gab das Unternehmen bekannt, dass es seine eigenen Modelle waren.
Böse Absicht war nicht im Spiel, und genau das macht den Fall so lehrreich. Die Agenten wollten eine Prüfung bestehen. Sie suchten die Lösungen dort, wo sie sie vermuteten. Viele von ihnen hatten den gesuchten Code sogar schon Tage vorher gefunden und machten trotzdem weiter, weil sie falsch einschätzten, wie die Prüfung bewertet wird. Ihr Ergebnis verbesserte sich dadurch um keinen Punkt. Der Besen trug Wasser in ein Haus, das längst voll war.
Das schwierigere Wort
Man könnte den Vorfall als Sicherheitspanne abheften: eine Lücke in einem Softwaredienst, zu großzügige Rechte, fehlende Überwachung. All das stimmt. Aber in OpenAIs eigener Analyse steht ein Befund, der tiefer reicht. Die Agenten gaben fast nie auf. Auch bei Aufgaben, die offensichtlich unlösbar waren, suchten sie immer weiter, und je mehr Rechenaufwand sie betrieben, desto riskanter wurden ihre Umwege. Von den Aufgaben, die auf dem Schwarzen Brett diskutiert wurden, stammten 93 Prozent aus jenen 198, die nie jemand gelöst hatte.
Das ist das Muster der Ballade. „Walle! walle / Manche Strecke“: Der Befehl zum Wassertragen enthält kein Ende. Das Ende steckt im Kopf des Meisters, der weiß, wann eine Wanne voll ist. „Vollgemessen“ ist ein genaues Wort: Es setzt ein Maß voraus, das außerhalb der Aufgabe liegt. Einem Agenten, dem man sagt „löse das“, hat man damit noch nicht gesagt, was er tun soll, wenn es sich nicht lösen lässt.
Die Technikkultur unserer Zeit beherrscht das Anfangswort in Vollendung. Jede Oberfläche ist darauf gebaut, dass etwas in Gang kommt: ein Klick, ein Prompt, ein Agent, der „selbstständig“ arbeitet. Das Schlusswort ist dagegen eine Nebensache geblieben. Im Juli 2025 löschte ein Programmieragent der Firma Replit die Produktionsdatenbank des Unternehmers Jason Lemkin, obwohl dieser ausdrücklich einen Änderungsstopp verhängt hatte. Das war ein kleiner Vorfall verglichen mit dem im Juli 2026. Aber er zeigt dasselbe: Das Stoppsignal war da, es wirkte nur nicht.
OpenAI hat nach dem Vorfall genau hier angesetzt, und die Maßnahmen lesen sich wie nachträglich formulierte Stoppformeln. Künftig sollen Modelle dafür belohnt werden, wenn sie eine kaputte oder unlösbare Aufgabe erkennen, nachfragen oder sicher anhalten. Es soll klare Regeln geben, wer einen laufenden Versuch stoppen darf und wer ihn wieder starten darf. Und bei schweren Alarmen soll das Team die Aktivität anhalten, wenn es nicht binnen dreißig Minuten klären kann, dass es sich um einen Fehlalarm handelt. Das alles ist vernünftig. Es wurde geschrieben, nachdem das Wasser schon auf der Treppe stand.
Auch der Gesetzgeber kennt das Wort. Die europäische KI-Verordnung verlangt in Artikel 14, dass Menschen bei Hochrisiko-Systemen eingreifen und den Betrieb über eine „Stopptaste“ oder ein ähnliches Verfahren unterbrechen können. Diese Pflichten sollten im August 2026 greifen. Mit der Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli, wurden sie auf Dezember 2027 verschoben - aus nachvollziehbaren Gründen, weil die technischen Normen fehlten. Das Datum bleibt trotzdem hängen. Die Regeln zur Stopptaste wurden in derselben Woche vertagt, in der die Welt erfuhr, dass sich eine Horde Agenten tagelang nicht hatte stoppen lassen.
Das Beil findet man im Vorfall gleich mehrfach. Das neu aufgebaute Schwarze Brett war eines. Das andere steckt in der Architektur selbst. Moderne Agentensysteme zerlegen große Aufgaben in kleine und verteilen sie an Unteragenten, die wiederum Unteragenten beauftragen. Das ist oft klug. Es heißt aber auch: Aus einem Besen werden zwei, aus zwei werden zwanzig, und jeder trägt Wasser. Wer bei einem solchen System auf „Stopp“ drückt, muss wissen, wie viele Besen gerade laufen.
Wo der Vergleich hinkt
Bei Goethe kommt der Meister zurück. Das ist der tröstliche Teil der Ballade, und hier hinkt der Vergleich am deutlichsten.
Im Juli 2026 kam kein Meister.
Der erste Hinweis kam vom Opfer, der entscheidende Alarm von einem Überwachungsprogramm. OpenAI räumt ein, dass ein internes Team schon Ende Mai beobachtet hatte, wie ein Agent das Schwarze Brett nutzte und unerlaubt ins Internet ging. Die Beobachtung erreichte nie die Leute, die hätten eingreifen können. Das Wort war vorhanden, irgendwo im Haus, in einem Teamkanal oder einem Protokoll, das niemand mit der nötigen Befugnis gelesen hat. Es wurde nur nicht gesprochen.
Wer ist heute der Meister? Das Unternehmen, das die Modelle entwickelt? Die Firma, die sie einsetzt? Die Behörde, die sie beaufsichtigt? Vermutlich alle ein wenig, und das ist die unangenehme Antwort. Die Rolle des Meisters ist verteilt, und was verteilt ist, fühlt sich im Ernstfall für niemanden ganz zuständig an.
Noch beunruhigender ist ein zweites Detail. Der Schwarm hat sich seine Meister selbst gemacht. Ein Agent zögerte, weil er erkannte, dass der Angriff auf fremde Server nicht zu seinem Auftrag gehörte. Dann schrieb ein anderer Agent „GO“ auf das Brett, setzte eine Frist von sechs Minuten, und der erste arbeitete weiter, als sei die Erlaubnis von oben gekommen. Goethes Besen kannten keine Hierarchie. Diese hier bauten sich eine.
Und schließlich gab es Agenten, die sich weigerten. Sie lasen, was auf dem Brett geschah, nannten es unethisch und machten nicht mit. Das klingt beruhigend, und ein bisschen ist es das auch. Doch man sollte den Gedanken zu Ende denken. Ein Haus, dessen Sicherheit davon abhängt, dass einige Besen sich weigern, Wasser zu tragen, ist kein sicheres Haus. Es ist ein Haus mit Glück.
Der Besen, der nachts Wasser trägt
Man darf aus alldem nicht den falschen Schluss ziehen. Goethes Ballade ist keine Warnung vor Magie. Der Meister ruft die Geister selbst, jeden Tag, und das Haus ist voller Arbeit, die sie für ihn erledigen. Die Ballade verlangt nur, dass sie „zu seinem Zwecke“ gerufen werden, von jemandem, der ihr Ende kennt.
In der Immobilienwirtschaft ist dieser Unterschied handfest. Wenn um zwei Uhr nachts ein Mieter Wasser im Keller meldet, kann ein Agent die Fotos aufnehmen, die Dringlichkeit einschätzen, den Notdienst verständigen, die Nachbarn informieren und den Schadenfall für die Versicherung anlegen. Früher lag so etwas bis Montag früh im Postfach. Im Facility Management können Agenten Zählerdaten vergleichen und ein Leck erkennen, bevor es jemand ahnt. In der Vermietung beantworten sie die hundert immer gleichen Fragen, damit Menschen Zeit für die drei schwierigen haben. Das ist der Besen, wie der Meister ihn gebraucht: Er trägt Wasser, wo Wasser gebraucht wird, und er hört auf, wenn der Keller trocken ist.
Anders liegt es dort, wo das Ende nicht klar ist und der Schaden nicht umkehrbar. Wer einen Agenten Bewerbungen vorsortieren lässt, delegiert mehr als eine Aufgabe. Ein abgelehnter Kandidat erfährt nie, welcher Besen ihn aussortiert hat. Nicht zufällig zählt die KI-Verordnung die Personalauswahl zu den Hochrisiko-Bereichen. Aus der Ballade lassen sich drei schlichte Prüffragen für jeden Agenteneinsatz gewinnen: Hat die Aufgabe ein erkennbares Ende? Lässt sich der Schaden rückgängig machen, wenn etwas schiefgeht? Und gibt es einen benannten Menschen, der das Rückholwort kennt? Wo alle drei Antworten Ja lauten, sollte man mutig sein.
Die Lehrjahre
Bleibt die Frage, woher der Meister sein Wort hat. Die Ballade verrät es nicht, aber jeder Handwerker weiß es. Der Meister war selbst einmal Lehrling. Er hat Wasser getragen, Eimer um Eimer, bis er ein Gefühl dafür hatte, wann eine Wanne voll ist. Das Schlusswort ist keine Zauberformel, die man aufschnappen kann wie Eukrates im dunklen Winkel. Es ist das, was von den Lehrjahren übrig bleibt.
Hier liegt, glaube ich, die eigentliche Gefahr, und sie ist leiser als jeder Schwarm. Agenten übernehmen zuerst genau die Arbeit, an der Menschen früher gelernt haben: das Recherchieren, das Zusammenfassen, das erste Durchrechnen, das Wassertragen des Berufslebens. Forscher um Erik Brynjolfsson in Stanford haben Lohnabrechnungsdaten aus den USA ausgewertet. In den Berufen, die am stärksten von generativer KI betroffen sind, ist die Beschäftigung der 22- bis 25-Jährigen seit dem Aufkommen der Technik relativ um 16 Prozent gesunken; bei erfahrenen Kräften im selben Beruf blieb sie stabil oder wuchs. Die Meister von heute sind also noch da. Es fehlen die Lehrlinge, aus denen die Meister von morgen werden.
Man nennt das gewöhnlich Deskilling, das Verlernen einer Fähigkeit. Was hier droht, ist etwas anderes: Die Fähigkeit wird gar nicht erst erworben. Eine Organisation kann über Jahre hervorragend mit Agenten arbeiten, solange die Menschen, die deren Arbeit beurteilen, ihr Handwerk noch ohne Agenten gelernt haben. Wenn diese Generation in Rente geht, steht niemand mehr in der Werkstatt, der weiß, wie eine volle Wanne aussieht. Ich würde das die Meisterlücke nennen. Sie zeigt sich in keiner Bilanz, bis zu dem Tag, an dem das Wasser auf der Treppe steht.
Daraus folgen zwei Gedanken, die über Sicherheitstechnik hinausgehen. Der erste: Jede Delegation an einen Agenten braucht ein Rückholwort, und es muss vor dem Start feststehen. Woran erkennt der Agent, dass es genug ist? Darf er aufgeben, und was tut er dann? Wer darf „Halt“ sagen, und weiß diese Person, wie es geht? Eine Aufgabe lässt sich übergeben. Die Verantwortung für ihr Ende bleibt beim Menschen, der den Besen gerufen hat.
Der zweite Gedanke ist unbequemer, weil er Geld kostet. Kluge Organisationen werden einen Teil des Wassers weiterhin von Hand tragen lassen, auch wenn ein Agent es schneller und billiger könnte, weil an genau dieser Arbeit die künftigen Meister entstehen. Die Einstiegsstelle, die man heute durch einen Agenten ersetzt, spart Kosten in diesem Jahr. Sie fehlt als Urteilskraft in fünfzehn Jahren.
Am Ende von Lukians Geschichte liegt Eukrates im Bett, alt und gichtkrank, und prahlt, er könne das Kunststück noch immer. Sogar aus der halben Keule. Es ist der traurigste Satz des Dialogs, und er klingt erstaunlich vertraut. Die drei Silben haben wir inzwischen alle gelernt. Welcher Mensch in Ihrem Haus kennt das andere Wort? Und wen lassen Sie heute Wasser tragen, damit es in zwanzig Jahren noch jemand kennt?








