Glossar
Glossar: KI-Agenten, Workflows und EU AI Act
Fachbegriffe rund um KI-Agenten, Freigaben und den EU AI Act. Jeder Eintrag erklärt die Bedeutung und zeigt, worauf es im Betrieb ankommt.
Aktualisiert 18. Oktober 2026
Agentic AI (agentische KI)
Agentic AI bezeichnet KI-Systeme, die nicht nur Text erzeugen, sondern auf ein Ziel hin selbst Schritte planen, Werkzeuge aufrufen und in Systemen handeln.
Im Unternehmen arbeitet ein solches System innerhalb festgelegter Grenzen: Es liest einen Vorgang, ruft Informationen aus ERP oder CRM ab, bereitet eine Entscheidung vor und speichert das Ergebnis. Eine benannte Person verantwortet den Ablauf.
KI-Agent, Chatbot und Copilot im VergleichKI-Agent
Ein KI-Agent ist eine Software, die mit einem Sprachmodell Eingaben versteht, über die nächsten Schritte entscheidet und dafür Werkzeuge nutzt, etwa eine Suche im Artikelstamm oder das Anlegen eines Angebotsentwurfs.
Für den Einsatz im Betrieb muss feststehen, in welchen Systemen der Agent arbeitet, welche Zugriffe er erhält und wer seine Ergebnisse prüft.
Beispiele für KI-Agenten in der IndustrieAgentischer Workflow
Ein agentischer Workflow ist ein Geschäftsablauf, in dem ein oder mehrere KI-Agenten feste Schritte übernehmen, während Regeln, Freigaben und das führende System den Rahmen setzen.
Ein typischer Ablauf umfasst Eingang, Informationsabruf, Vorschlag, Freigabe und Speicherung im Zielsystem. Eindeutige Prüfungen übernehmen feste Regeln. Der Agent liest unstrukturierte Inhalte und bereitet Vorschläge vor.
Vier Workflows Schritt für SchrittAudit-Trail (Prüfprotokoll)
Ein Audit-Trail ist die lückenlose Aufzeichnung je Fall: Eingabe, verwendete Quellen, Ergebnis des Agenten, Freigabe und Änderungen durch Menschen.
Das Protokoll macht nachvollziehbar, auf welcher Grundlage ein Angebot, eine Gutschrift oder eine Buchung entstanden ist. Aufbewahrung und Zugriffsrechte müssen zu den rechtlichen und betrieblichen Anforderungen passen.
Basiswert
Der Basiswert beschreibt einen Ablauf vor dem Agenten: Fallzahl, Bearbeitungszeit je Fall, Fehler- und Nacharbeitsquote, Durchlaufzeit.
Die Ausgangswerte ermöglichen den Vergleich nach der Einführung. Ermitteln Sie sie möglichst aus Systemdaten über zwölf Monate und einer Zeitmessung an repräsentativen Fällen.
Zum KI-ROI-RechnerBetreiber und Anbieter (EU AI Act)
Der EU AI Act unterscheidet den Anbieter, der ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3), vom Betreiber, der es in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 4).
Wer ein eingekauftes System im eigenen Ablauf einsetzt, ist Betreiber. Wer einen Agenten für sich bauen lässt und unter eigenem Namen in Betrieb nimmt, auch nur für den eigenen Gebrauch (Art. 3 Nr. 11), ist zugleich Anbieter. Die Einstufung gehört in die Hände Ihrer Compliance.
Zum AI-Act-CheckDunkelverarbeitung
Dunkelverarbeitung heißt, dass ein Fall ohne menschlichen Eingriff vom Eingang bis zur Buchung läuft; die Dunkelverarbeitungsquote ist der Anteil dieser Fälle.
Automatische Verarbeitung wird erst freigegeben, wenn die Ergebnisse im Schattenbetrieb die vereinbarten Qualitätskriterien für die jeweilige Fallkategorie erfüllen. Abweichungen gehen weiterhin an das zuständige Team.
Dokumentenverarbeitung mit KI-AgentenEskalation
Eskalation regelt, was ein Agent tut, wenn er unsicher ist, ein Fall außerhalb seines Auftrags liegt oder eine Eingabe feindselig wirkt.
Eine Eskalationsregel benennt die zuständige Person, den Übergabegrund und die mitzuliefernden Informationen. Zusätzlich muss feststehen, wie und in welcher Zeit auf den manuellen Ablauf zurückgestellt werden kann.
Führendes System
Das führende System ist die Anwendung, deren Daten für einen Vorgang verbindlich sind, etwa das ERP für Aufträge und Preise oder das Ticketsystem für Serviceanfragen.
Legen Sie vor der Umsetzung fest, wo Ergebnisse verbindlich gespeichert werden und welche Änderungen der Agent vornehmen darf. Im ERP kann sein Schreibrecht beispielsweise auf Angebotsentwürfe begrenzt sein.
Guardrails
Guardrails sind technische Schranken um ein Sprachmodell, die Eingaben und Ausgaben prüfen, etwa auf unerlaubte Inhalte, fehlende Quellen oder Werte außerhalb von Grenzen.
Sie sind ein Teil des Kontrollrahmens, nicht der ganze. Geschäftsregeln wie Rabattuntergrenzen gehören als harte Regel in den Workflow, nicht als Bitte in den Prompt.
Halluzination
Eine Halluzination ist eine plausibel klingende, aber falsche Aussage eines Sprachmodells, etwa eine erfundene Artikelnummer oder Vertragsklausel.
Quellenangaben, der Abgleich mit verlässlichen Systemdaten und menschliche Prüfungen helfen, solche Fehler zu erkennen. Ein flüssig formulierter Text allein ist kein Nachweis seiner Richtigkeit.
Human in the Loop
Human in the Loop bedeutet, dass ein Mensch jedes Ergebnis eines KI-Systems prüft und freigibt, bevor es wirkt. Bei Human on the Loop überwacht er laufend und greift bei Bedarf ein; bei Human out of the Loop läuft der Fall ohne ihn.
Die Form der Aufsicht wird je Fallkategorie festgelegt und erst nach belegten Testergebnissen geändert. Art. 14 des EU AI Act regelt die menschliche Aufsicht bei Hochrisiko-Systemen. Auch in anderen Workflows können Freigaben sinnvoll sein.
Human in the Loop im DetailIntelligente Dokumentenverarbeitung (IDP)
Intelligente Dokumentenverarbeitung erkennt Dokumenttypen, liest relevante Angaben aus und prüft sie beispielsweise anhand von Bestellungen oder Stammdaten.
OCR macht Schrift maschinenlesbar. Intelligente Dokumentenverarbeitung ergänzt die Zuordnung, Prüfung und Weitergabe der erkannten Daten. Auch unterschiedliche Layouts können verarbeitet werden; ihre Zuverlässigkeit muss anhand echter Dokumente geprüft werden.
Dokumentenverarbeitung mit KI-AgentenKonfidenzschwelle
Die Konfidenzschwelle legt fest, ab welchem geschätzten Sicherheitswert eine Zuordnung oder ein Ergebnis weiterverarbeitet werden darf. Unterhalb dieser Grenze prüft ein Mensch den Fall.
Schwellenwerte werden je Fallkategorie anhand von Testfällen festgelegt und im Schattenbetrieb überprüft. Der Kontrollrahmen regelt, wer sie ändern darf. Jede Änderung wird dokumentiert.
Kontrollrahmen
Der Kontrollrahmen fasst je Workflow fünf Dinge zusammen: Berechtigungen, Schwellenwerte, Prüfpunkte, Protokollierung und Eskalation.
Er dokumentiert die Regeln für den Betrieb und dient IT, Compliance, Datenschutz und gegebenenfalls Betriebsrat als gemeinsame Prüfgrundlage. Die darin vereinbarten Grenzen müssen technisch umgesetzt werden.
Governance im WorkflowLarge Language Model (LLM)
Ein Large Language Model ist ein Sprachmodell, das auf großen Textmengen trainiert wurde und Text versteht und erzeugt; es ist der Baustein, auf dem Chatbots, Copilots und Agenten aufsetzen.
Für Unternehmen zählt weniger das Modell als seine Umgebung: wo es läuft, welche Daten es sieht, wer Modellversionen wechselt und gegen welches Testset jede Änderung geprüft wird.
Model Context Protocol (MCP)
Das Model Context Protocol ist ein offener Standard, über den KI-Anwendungen Werkzeuge und Datenquellen in einheitlicher Form ansprechen; Anthropic hat ihn im November 2024 vorgestellt.
MCP vereinheitlicht die technische Anbindung. Welche Daten und Aktionen ein Agent nutzen darf, muss für jede Schnittstelle gesondert festgelegt und abgesichert werden.
Prompt Injection
Prompt Injection ist ein Angriff, bei dem Anweisungen in Eingaben versteckt werden, etwa in einer E-Mail oder einem PDF, damit ein Sprachmodell sie statt seiner eigentlichen Aufgabe befolgt.
Solche Angriffe können Agenten zu falschen Aktionen oder zur Preisgabe von Daten verleiten. Begrenzte Rechte, getrennte Verarbeitung externer Inhalte und Freigaben für kritische Aktionen verringern das Risiko. Sie beseitigen es nicht vollständig.
RAG (Retrieval-Augmented Generation)
Retrieval-Augmented Generation bedeutet, dass ein Sprachmodell vor der Antwort passende Dokumente oder Datensätze abruft und seine Antwort darauf stützt.
In Service und Angebotswesen ist RAG der Weg, Handbücher, frühere Fälle und Preislisten einzubeziehen. Qualität entsteht dabei weniger im Modell als in der Pflege der Quellen und darin, dass jeder Entwurf sie nennt.
Schattenbetrieb
Im Schattenbetrieb erstellt der Agent Vorschläge zu echten Vorgängen, während Ihr Team sie weiterhin wie bisher bearbeitet. Beide Ergebnisse werden je Fallkategorie verglichen.
Die Abnahmekriterien stehen vor dem Test fest. Der dokumentierte Vergleich zeigt, für welche Aufgaben die Ergebnisse ausreichen und wo weitere Tests oder Anpassungen nötig sind.
Die ersten 90 TageWorkflow-Verantwortliche
Die oder der Workflow-Verantwortliche ist die Person im Fachbereich, die am Ergebnis des Workflows gemessen wird, etwa die Leitung des Service Desks oder des Angebotswesens.
Diese Person legt Ziele fest, prüft die Ergebnisse und entscheidet gemeinsam mit den zuständigen Risikoverantwortlichen, welche Aufgaben der Agent übernehmen darf.
Rollen und Verantwortung im Betrieb