KI-Richtlinie im Unternehmen: Muster mit Regeln für KI-Agenten

Eine KI-Richtlinie legt fest, welche KI-Werkzeuge Beschäftigte wofür nutzen dürfen, welche Daten nie hineingehören, wer Ergebnisse prüft und wer wofür verantwortlich ist. Ein Muster für eine KI-Richtlinie im Unternehmen braucht dafür acht Abschnitte und, sobald KI-Agenten in Systemen handeln, einen neunten mit eigenen Regeln.

Ein Chatwerkzeug liefert einen Entwurf, den ein Mensch liest, bevor er ihn verwendet. Ein KI-Agent dagegen liest eine Reklamation aus dem Postfach, holt Auftragsdaten aus dem ERP und legt dort einen Gutschriftentwurf an, und bei ihm entscheiden Berechtigungen und Prüfpunkte, was geschieht, nicht die Sorgfalt einer einzelnen Person.

Halten Sie die Richtlinie so kurz, dass Beschäftigte sie in der Einführungsschulung vollständig durchgehen. Was sich häufig ändert, etwa die Liste zugelassener Werkzeuge, gehört in ein Verzeichnis, das die IT pflegt und auf das die Richtlinie verweist.

Nein, ein Gesetz, das ein Dokument mit dem Namen KI-Richtlinie vorschreibt, gibt es nicht. Mehrere Pflichten lassen sich ohne schriftliche Regeln aber kaum nachweisbar erfüllen, und die Richtlinie ist der Ort, an dem sie zusammenkommen. Diese Einordnung ist keine Rechtsberatung; die Bewertung für Ihr Unternehmen liegt bei Datenschutz, Compliance oder Ihrer Rechtsberatung.

Art. 4 der KI-Verordnung verlangt seit dem 2. Februar 2025 von Anbietern und Betreibern, Maßnahmen zur KI-Kompetenz ihres Personals und der in ihrem Auftrag tätigen Personen zu ergreifen. Seit der Änderung durch die Verordnung (EU) 2026/1744 müssen sie dabei kein bestimmtes Kompetenzniveau garantieren, und einen eigenen Bußgeldtatbestand dafür enthalten weder Art. 99 der Verordnung noch das deutsche KI-MIG.

Die Bundesnetzagentur ist nach dem KI-MIG seit dem 29. Juli 2026 grundsätzlich die zuständige Marktüberwachungsbehörde. Nach ihren Hinweisen gilt die Pflicht unabhängig von Branche und Unternehmensgröße, auch beim Einsatz allgemeiner Chatbots, während Zertifikate, standardisierte Schulungen und ein KI-Beauftragter nicht vorgeschrieben sind. Sie empfiehlt, die Maßnahmen zu dokumentieren, und hält fest, dass mangelnde KI-Kompetenz als Verletzung der Sorgfaltspflicht gelten kann, besonders wenn dadurch ein Schaden entsteht.

Seit dem 2. August 2026 gelten zudem die Transparenzpflichten nach Art. 50. Wer als Betreiber mit KI Deepfakes erzeugt oder Texte veröffentlicht, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert sind. Für solche Texte entfällt die Pflicht, wenn sie menschlich geprüft oder redaktionell kontrolliert wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Vier weitere Regelwerke machen eine schriftliche Richtlinie sinnvoll, auch ohne ausdrückliche Pflicht.

Das Muster besteht aus acht Abschnitten, die Sie mit Ihren Rollen, Werkzeugen und Fristen füllen; Angaben in eckigen Klammern ersetzen Sie durch die zuständige Stelle in Ihrem Unternehmen.

Am sorgfältigsten sollten Sie den dritten Abschnitt zu den Datenklassen formulieren. Ein Werkzeug lässt sich austauschen, eine eingegebene Konstruktionszeichnung oder Preisliste dagegen nicht zurückholen, wenn der Anbieter Eingaben speichert oder zum Training nutzt. Deshalb prüft die IT genau diese beiden Punkte, bevor sie ein Werkzeug für vertrauliche Daten freigibt.

Hat Ihr Unternehmen bereits ein Schema zur Informationsklassifizierung, etwa aus dem Informationssicherheitsmanagement, übernehmen Sie dessen Klassen, statt neue einzuführen. Beschäftigte lernen dann keine zweite Logik, und die IT ordnet jedes Werkzeug einmal der höchsten Klasse zu, für die es freigegeben ist.

KI-Agenten brauchen einen eigenen Abschnitt, weil sie nicht nur Text erzeugen, sondern mit Schreibrechten in ERP, CRM, Ticketsystem oder DMS handeln. Regeln für die Eingabe in ein Chatfenster greifen dort nicht, denn der Agent arbeitet, ohne dass jemand jeden Schritt sieht; was er darf, entscheiden Berechtigungen und Prüfpunkte.

Zwei Risiken begründen die Regeln 9.2 und 9.5. Ein Agent, der E-Mails oder PDFs liest, kann darin versteckten Anweisungen folgen (Prompt Injection), und Schreibrechte nur im Entwurfsstatus begrenzen den Schaden, den eine solche Eingabe anrichten kann. Ein Modellwechsel des Anbieters wiederum kann das Verhalten über tausende Fälle verschieben, ohne dass sich im Workflow etwas geändert hat; ein Testset vor jedem Release macht diese Verschiebung sichtbar.

Abschnitt 9 legt nicht die Details je Workflow fest, sondern die Bedingungen, unter denen ein Agent überhaupt in Betrieb gehen darf. Die Details stehen im Kontrollrahmen des einzelnen Workflows, den der Beitrag Governance im Workflow beschreibt, und die Rollen dahinter im Betriebsmodell für KI im Betrieb. Begriffe wie Kontrollrahmen, Schattenbetrieb und Konfidenzschwelle definiert das Glossar zu KI-Agenten.

Die Richtlinie regelt, was Menschen dürfen und müssen, und der Kontrollrahmen regelt, was ein bestimmter Agent in einem bestimmten Workflow darf. Die Richtlinie verlangt, dass es für jeden Agenten einen Kontrollrahmen gibt, und benennt, wer ihn freigibt; den Inhalt legt der Workflow fest.

Die Richtlinie bestimmt zum Beispiel, dass ein Agent nur im Entwurfsstatus schreibt, bis der Schattenbetrieb die Abnahmekriterien erfüllt. Der Kontrollrahmen der Reklamationsbearbeitung bestimmt dann, dass der Agent Gutschriftentwürfe im ERP anlegen darf, dass Fälle über dem Schwellenwert an das Qualitätsmanagement gehen und dass Ablehnungen nie ohne die Sachbearbeitung hinausgehen.

Getrennt bleiben beide, weil eine Richtlinie einmal im Jahr überarbeitet und, wo vorhanden, mit dem Betriebsrat abgestimmt wird, während sich ein Kontrollrahmen mit jedem neuen Schwellenwert und jeder Modellversion ändert. Stünden die Details in der Richtlinie, müsste jede Kalibrierung durch dieselbe Abstimmung.

Das Workflow Assessment bestimmt für die Top-Kandidaten unter anderem Risikoklasse und Verantwortliche und legt im Umsetzungsplan die Kontrollpunkte des ersten Workflows fest. Eine erste Einordnung nach der KI-Verordnung gibt vorab der AI-Act-Check.

Wo ein Betriebsrat besteht, führen Sie die Richtlinie gemeinsam mit ihm ein. Nach § 87 Abs. 1 Nr. 6 BetrVG bestimmt er bei technischen Einrichtungen mit, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen, und das Bundesarbeitsgericht lässt dafür genügen, dass eine Einrichtung objektiv geeignet ist (Beschluss vom 13. Dezember 2016, 1 ABR 7/15). Ein KI-Werkzeug, das Eingaben einem Nutzerkonto zuordnet, erhebt Informationen dieser Art.

Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen nach § 80 Abs. 3 BetrVG als erforderlich. Planen Sie dafür Zeit ein und legen Sie Werkzeugverzeichnis, Datenklassen und Agentenregeln gemeinsam vor dem ersten Go-live vor, damit nicht jedes Werkzeug einzeln verhandelt wird; ob eine solche Rahmenregelung im Einzelfall genügt, klärt Ihre arbeitsrechtliche Beratung.

Für die Schulung nach Art. 4 nennt die Bundesnetzagentur drei Grundsteine, nämlich den Bedarf zu ermitteln, Maßnahmen zu gestalten und sie zu dokumentieren, zu evaluieren und aufzufrischen. Zur Dokumentation gehören nach ihren Hinweisen Art, inhaltlicher und zeitlicher Umfang der Maßnahmen und die teilnehmenden Personen.

Für Beschäftigte zählen bei der Einführung drei Dinge, nämlich welche Werkzeuge sie ab wann nutzen dürfen, was nie hineingehört und an wen sie sich bei einem Vorfall wenden; diese drei Punkte gehören auf die erste Seite der Richtlinie und in die Einführungsschulung. Die Richtlinie selbst überprüfen Sie mindestens einmal im Jahr und nach jeder Änderung von Recht oder Werkzeugen.