Einen KI-Workflow erstellst du, indem du einen Ablauf in feste Schritte zerlegst, nur einzelne Schritte einer KI überlässt und für jeden Schritt festlegst, was hineingeht, was herauskommt und wer prüft. Die Reihenfolge der Schritte bestimmst du, nicht die KI. Du zeichnest den Ablauf zuerst auf Papier, schreibst die Anweisung an die KI als Vorlage, verlangst ein festes Ausgabeformat und testest mit schwierigen Fällen. Das Werkzeug wählst du erst am Schluss.
Welcher Ablauf sich überhaupt lohnt und welche Schritte KI brauchen, klärst du vorher; wie das geht, steht unter Prozesse mit KI optimieren. Hier geht es um den nächsten Schritt: diesen einen Ablauf zu bauen.
Für den ganzen Artikel gilt: Er ist ein Überblick und keine Rechtsberatung. Rechtliche Fragen zu deinem Workflow klärst du mit deiner Rechtsberatung oder der Person, die bei dir für Datenschutz zuständig ist.
Was ein KI-Workflow ist und was ein KI-Agent
Eine brauchbare Unterscheidung beschreibt der KI-Anbieter Anthropic in seinem Leitfaden „Building effective agents“ vom Dezember 2024: Bei Workflows werden Sprachmodelle und Werkzeuge über vorab festgelegte Programmpfade gesteuert. Agenten dagegen steuern ihren Ablauf und den Einsatz von Werkzeugen selbst und behalten die Kontrolle darüber, wie sie eine Aufgabe erledigen.
Eine verwandte Abgrenzung zieht OpenAI in seinem praktischen Leitfaden zum Bau von Agenten. Ein Workflow ist dort die Abfolge von Schritten, die ausgeführt werden müssen, um das Ziel der Nutzenden zu erreichen; diese Abfolge kann auch ein Agent ausführen. Anwendungen, die ein Sprachmodell einbinden, es aber nicht über den Ablauf bestimmen lassen, etwa ein Programm, das die Stimmung von Texten einordnet, zählen laut OpenAI nicht als Agenten.
Für dich heißt das: In einem KI-Workflow ist der Weg fest. Ein Agent entscheidet selbst, was als Nächstes kommt.
Die Bausteine eines KI-Workflows
Jeder KI-Workflow besteht aus denselben Teilen. Was du nicht festlegst, entscheidet im Alltag der Zufall.
- Auslöser: Was startet den Ablauf? Eine neue E-Mail, ein Formular, eine Datei in einem Ordner oder ein Klick.
- Eingabe: Welche Daten bekommt der Workflow, und welche ausdrücklich nicht?
- Schritte: die feste Reihenfolge, jeder Schritt mit einem Verb.
- KI-Schritt mit Anweisung: der Schritt, den die KI erledigt, mit einer schriftlichen Anweisung, die jedes Mal gleich ist.
- Regeln und Prüfungen: feste Kontrollen vor und nach dem KI-Schritt, etwa ob alle Pflichtangaben da sind oder ob das Ergebnis in eine erlaubte Kategorie fällt.
- Freigabe: wo ein Mensch zustimmt, bevor etwas nach außen geht oder Daten verändert werden.
- Ausgabe: was am Ende herauskommt und wo es landet.
- Ablage und Protokoll: was aufbewahrt wird, damit du später nachvollziehen kannst, was passiert ist. Zeigt das Protokoll, wer im Team was freigegeben hat, braucht es in Österreich unter Umständen die Zustimmung des Betriebsrats nach § 96a Arbeitsverfassungsgesetz; mehr dazu für Österreich und Deutschland unter KI-Richtlinie im Unternehmen.
- Fehlerweg: was geschieht, wenn eine Prüfung scheitert, die KI unsicher ist oder ein Dienst nicht antwortet; meist geht der Fall dann an eine bestimmte Person.
Geht es in deinem Workflow um Entscheidungen über Menschen, gehört an die Freigabe immer ein Mensch; die rechtlichen Gründe dafür nennt der Beitrag zur Prozessoptimierung.
KI-Workflow erstellen: erst auf Papier zeichnen
Bevor du ein Programm öffnest, zeichne den Ablauf auf ein Blatt Papier. Dort siehst du schnell, wo ein Fehlerweg nirgendwo endet oder ein Schritt keinen Zuständigen hat. Nehmen wir an, Anfragen über dein Kontaktformular sollen künftig vorsortiert werden. Der Workflow könnte dann so aussehen:
- Auslöser: Eine neue Anfrage kommt über das Formular herein.
- Regel: Sind Name, Kontaktweg und Nachricht ausgefüllt? Wenn nicht, geht der Fall direkt an den Fehlerweg.
- KI-Schritt: Die KI ordnet das Anliegen einer von wenigen festen Kategorien zu und zieht die wichtigsten Angaben heraus.
- Regel: Ist die Kategorie eine der erlaubten? Sind alle Felder gefüllt?
- Mensch: Die zuständige Person sieht die Einordnung und entscheidet, wie es weitergeht.
- Ausgabe und Ablage: Die Anfrage landet mit Kategorie in der Aufgabenliste, das Ergebnis der KI wird mitgespeichert.
- Fehlerweg: Jede unklare Anfrage geht ohne Umweg an eine feste Person.
Brauchst du mehrere KI-Schritte hintereinander, nennt Anthropic das „Prompt Chaining“: Jeder KI-Aufruf verarbeitet das Ergebnis des vorherigen, und an jedem Zwischenschritt lassen sich programmierte Prüfungen einbauen, ob der Ablauf noch auf Kurs ist. Das eignet sich laut dem Leitfaden für Aufgaben, die sich sauber in feste Teilaufgaben zerlegen lassen.
Die KI-Anweisung als Vorlage schreiben
Die Anweisung an die KI, oft Prompt genannt, schreibst du in einem Workflow einmal als Vorlage: Der feste Teil bleibt gleich, nur die Eingabe wechselt. Die folgenden Punkte stammen großteils aus den Hinweisen von Anthropic zum Schreiben von Prompts. Diese Dokumentation ist für Anthropics eigene Claude-Modelle geschrieben; ich übernehme, was sich allgemein übertragen lässt. Sechs Teile gehören hinein:
- Rolle: in einem Satz, wofür die KI hier zuständig ist. Eine Rollenangabe richtet Verhalten und Ton auf den Einsatzzweck aus; schon ein einziger Satz macht einen Unterschied.
- Aufgabe mit Zweck: was genau zu tun ist und warum. Stell dir das Modell wie einen brillanten, aber neuen Mitarbeiter vor, dem der Zusammenhang zu deinen Gepflogenheiten und Abläufen fehlt. Wo Reihenfolge oder Vollständigkeit der Arbeitsschritte zählen, gehören sie als nummerierte Liste oder Aufzählung hinein.
- Eingabe, klar abgegrenzt: Die Nachricht steht zwischen eindeutigen Markierungen. Die Anthropic-Dokumentation empfiehlt dafür XML-Tags, also Kennzeichnungen, die Anweisungen, Kontext, Beispiele und Eingaben trennen und so Missverständnisse verringern. Ein Schutz gegen versteckte Anweisungen in fremden Texten sind sie nicht; warum, zeigt der Beitrag KI-Anwendungsfälle.
- Format: welche Felder in welcher Form zurückkommen sollen (mehr dazu im nächsten Abschnitt).
- Beispiele: drei bis fünf, die dem echten Einsatz nahekommen, sich genug unterscheiden und auch Grenzfälle abdecken.
- Was bei Unsicherheit zu tun ist: Erlaube der KI ausdrücklich, „unklar“ zu melden, statt zu raten. Das kann falsche Angaben stark verringern.
OpenAI rät in seinem Leitfaden, auch wenn es dort um Agenten geht, Anweisungen aus vorhandenen Unterlagen wie Arbeitsanweisungen oder Richtlinien abzuleiten und dabei auch festzulegen, wie es weitergeht, wenn Angaben fehlen.
So kann der feste Teil einer solchen Vorlage für das Beispiel oben aussehen:
Rolle: Du sortierst Anfragen aus dem Kontaktformular eines Unternehmens vor.
Aufgabe: Ordne die Anfrage genau einer Kategorie zu: Angebot, Termin, Reklamation, Bewerbung, Sonstiges. Damit landet sie gleich bei der richtigen Person.
Eingabe: der Text zwischen ANFRAGE-BEGINN und ANFRAGE-ENDE.
Format: Kategorie, Name, gewünschter Termin falls genannt, sicher ja oder nein, Begründung in einem Satz.
Unsicherheit: Passt keine Kategorie eindeutig, schreib bei „sicher“ ein Nein und rate nicht.
Beispiele: drei bis fünf echte, unkenntlich gemachte Anfragen mit der richtigen Antwort.
Feste Ausgabeformate statt freiem Text
Freier Text ist für den nächsten Schritt im Workflow schwer zu verarbeiten. Lass die KI deshalb feste Felder zurückgeben: eine Kategorie aus einer vorgegebenen Liste, ein Datum in festem Format, ein Feld „sicher: ja oder nein“.
Feste Felder lassen sich außerdem mit einfachen Regeln prüfen. Das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) und die französische Cybersicherheitsbehörde ANSSI empfehlen in ihren englischsprachigen Gestaltungsgrundsätzen für LLM-basierte Systeme (Stand August 2025): Soll eine Anwendung mit Sprachmodell Systemressourcen verwalten, sollte sie die beabsichtigte Aktion in eine formalisierte Ausgabe umwandeln, die sich mit Regeln überprüfen lässt. Das macht das Verhalten laut BSI und ANSSI besser erklärbar und erleichtert die Fehlersuche; besonders in kritischen Fällen muss die nutzende Person zustimmen.
Manche Anbieter haben dafür eigene Funktionen. Anthropic etwa beschreibt in seiner Dokumentation zu „Structured outputs“ für seine Modelle, dass sie ohne solche Vorgaben fehlerhaft aufgebaute Antworten liefern oder Pflichtfelder auslassen können. Mit der Funktion folgen die Antworten in aller Regel einem vorgegebenen Schema. Ausnahmen wie abgebrochene Antworten nennt die Dokumentation selbst. Ein richtig aufgebautes Feld ist aber noch kein richtig ausgefülltes. Das BSI rät in seinem Papier „Generative KI-Modelle“ (Version 2.0, Januar 2025), Ausgaben bei potenziell kritischen Auswirkungen zu prüfen, besonders wenn sie nach außen gehen oder bei Sprachmodellen in andere Anwendungen einfließen.
Welche Werkzeuge einen KI-Workflow tragen können
Erst jetzt kommt das Werkzeug. Grob gibt es vier Arten:
- Ein Chat-Assistent mit gespeicherter Vorlage: Ein Mensch fügt die Eingabe ein und überträgt das Ergebnis. Gut zum Ausprobieren, aber jeder Durchlauf ist Handarbeit.
- KI-Funktionen in Software, die du schon nutzt: etwa im Postfach oder im Fachprogramm. Der Workflow bleibt dort, wo dein Team arbeitet, ist aber an diese Software gebunden.
- Automatisierungsplattformen: Dienste, die Programme verbinden und ein KI-Modell als einen Schritt unter mehreren aufrufen.
- Eine eigene Programmierung: Der Ablauf wird eigens gebaut und nutzt das Sprachmodell über eine Programmierschnittstelle. Am flexibelsten, aber jemand muss ihn pflegen.
Ich rate, mit der einfachsten Art anzufangen, die alle Bausteine deiner Zeichnung abbildet, besonders Fehlerweg und Freigabe. Um die Anbindung an deine Systeme und um Zugriffsrechte geht es im Beitrag KI-Implementierung.
Den Workflow testen, bevor er echte Arbeit übernimmt
Vor dem Feilen an Anweisungen braucht es laut dem Überblick zum Prompt Engineering aus derselben Anthropic-Dokumentation klare Erfolgskriterien und eine Möglichkeit, sie zu testen. Schreib deshalb zu jedem Testfall vorher auf, welches Ergebnis richtig wäre.
Vergiss dabei die Grenzfälle nicht: Die Anthropic-Anleitung zum Entwickeln von Tests rät, Tests am echten Aufkommen auszurichten und Grenzfälle einzubeziehen, und nennt als Beispiele fehlende oder unpassende Eingaben, zu lange Eingaben und mehrdeutige Fälle, bei denen sich selbst Menschen schwer einig würden. Für einen Workflow kommen dazu:
- eine Nachricht mit zwei Anliegen auf einmal,
- eine Eingabe, in der eine Pflichtangabe fehlt,
- ein Text, der gar nicht zum Workflow gehört,
- ein Fall, bei dem der Fehlerweg greifen muss.
Prüfe nicht nur das Ergebnis der KI, sondern den ganzen Weg: Springen die Regeln an, und kommt der unklare Fall bei der richtigen Person an? Eine neue Fassung der Vorlage ersetzt die alte erst, wenn sie dieselben Fälle mindestens genauso gut löst. Ab wann eine Lösung als abgenommen gilt und wie du einen Pilot auswertest, findest du im Beitrag KI-Implementierung.
Den Workflow dokumentieren und versionieren
Ein Workflow, den nur eine Person versteht, wird beim ersten Urlaub zum Problem. Halte auf einer Seite fest:
- Zweck und Zuständigkeit: wofür der Workflow da ist und wer ihn verantwortet.
- Die Zeichnung: Auslöser, Schritte, Regeln, Freigabe, Ausgabe und Fehlerweg.
- Die Vorlage: mit Namen, Versionsnummer, Datum und dem Grund der letzten Änderung, damit du weißt, mit welcher Fassung ein Ergebnis entstanden ist.
- Das Werkzeug: welches Programm und welches KI-Modell im Einsatz sind.
- Die Testsammlung: die Fälle, die erwarteten Ergebnisse und das Ergebnis des letzten Laufs.
Ändere immer nur eine Sache auf einmal, vergib dafür eine neue Versionsnummer und heb die alte Fassung auf, damit du zurückkannst.
Wann du keinen Agenten brauchst
Anthropic empfiehlt im Leitfaden „Building effective agents“, die einfachste mögliche Lösung zu suchen und nur bei Bedarf komplexer zu werden; das kann heißen, gar kein agentisches System zu bauen, und dazu zählt er auch Workflows. Oft reicht laut Leitfaden ein einzelner, gut vorbereiteter KI-Aufruf. Braucht es mehr, bieten Workflows Vorhersehbarkeit und Beständigkeit für klar umrissene Aufgaben. Agenten eignen sich dagegen für offene Probleme, bei denen sich die Zahl der Schritte nicht vorhersagen und kein fester Weg vorgeben lässt; ihre Eigenständigkeit bringt höhere Kosten und das Risiko, dass sich Fehler aufschaukeln.
BSI und ANSSI schreiben in ihren Gestaltungsgrundsätzen, dass für einfache Aufgaben vorab festgelegte Workflows und direkter Code oft effizienter sind als Agenten und den Entwicklern die volle Kontrolle ohne unnötige Komplexität lassen. Einen vollständig autonomen Betrieb solcher Systeme ohne menschliche Aufsicht empfehlen die beiden Behörden nicht.
Meine Faustregel: Wenn du den Ablauf auf ein Blatt zeichnen kannst, brauchst du einen Workflow, keinen Agenten. OpenAI nennt dafür eigene Prüffragen: Geht es um vielschichtige Entscheidungen, schwer pflegbare Regelwerke oder viele unstrukturierte Daten? Wenn nicht, kann laut OpenAI eine feste, vorhersehbare Lösung genügen.
Dein nächster Schritt
Du hast die Zeichnung vor dir und bist unsicher, an welcher Stelle eine KI hilft? Das klärst du im KI-Audit: Ich sehe mir deine Abläufe an, und du bekommst Verbesserungen und einen 30-Tage-Fahrplan. Den Umfang findest du unter Leistungen. Das KI-Audit kannst du direkt anfragen: Schreib mir, welchen Ablauf du gezeichnet hast und wo du nicht weiterkommst. Kann jemand aus deinem Team den fertigen Workflow nach Monaten noch in fünf Minuten erklären, hast du ihn gut gebaut.
