KI Agenten im Unternehmen: Einsatzfelder, Grenzen und Haftung

Über KI Agenten wird viel geschrieben, oft mit großen Versprechen. Für Geschäftsführer kleiner Betriebe stellt sich eine nüchterne Frage: Wo hilft ein Agent? Wo reicht eine einfache Automatisierung? Was muss ich kontrollieren? Dieser Beitrag beantwortet diese Fragen. Er trennt klar zwischen rechtlich Feststehendem und organisatorischer Empfehlung und nennt keine Zahlen ohne Beleg.

Dieser Beitrag erklärt den Rechtsstand und ersetzt keine Rechtsberatung. Stand: 13.10.2026. Die Rechtsaussagen stützen sich auf die unten verlinkten Quellen.

Was ist ein KI Agent und was unterscheidet ihn von einer Automatisierung?

Eine klassische Automatisierung folgt einem festen Ablauf: Wenn ein Ereignis eintritt, passiert Schritt eins, dann Schritt zwei, dann Schritt drei. Jede Abzweigung ist vorher festgelegt. Das ist verlässlich und gut prüfbar, aber starr. Mehr zum Prinzip im Glossar unter Workflow.

Ein KI Agent arbeitet anders. Er bekommt ein Ziel und wählt die nötigen Schritte selbst, zum Beispiel bei der Aufgabe „Beantworte diese Anfrage mit einem Entwurf“. Dafür nutzt er ein Sprachmodell (LLM) und Werkzeuge: Er liest den Posteingang, sucht in Ihrer Kundenverwaltung, prüft den Kalender und formuliert einen Vorschlag. Welche Schritte er in welcher Reihenfolge geht, entscheidet das Modell von Fall zu Fall.

Ein Chatbot beantwortet Fragen im Gespräch, ein Agent handelt zusätzlich. Die Grenze ist fließend. Sobald ein Chatbot auf Ihre Systeme zugreifen und dort etwas auslösen darf, übernimmt er die Rolle eines Agenten.

Die Tabelle ist eine allgemeine Einordnung und keine Messung. Wo der Ablauf immer gleich ist, ist die feste Automatisierung meist die bessere Wahl: Sie ist günstiger im Betrieb, leichter zu prüfen und macht keine überraschenden Fehler. Ein Agent lohnt sich dort, wo der Ablauf von Fall zu Fall verschieden ist und Text, Unterlagen oder Entscheidungen eine Rolle spielen.

Wo setzen Unternehmen KI Agenten sinnvoll ein?

Wir nennen hier mögliche Einsatzfelder und keine Kundenfälle. Es gibt Beispiele aus dem Markt, aber wir belegen sie hier nicht mit Quellen und führen sie deshalb nicht auf. Die folgenden Felder sind Ideen, die sich aus der Art der Aufgabe ergeben.

In jeder Zeile gilt dasselbe Prinzip: Der Agent bereitet vor, ein Mensch entscheidet. Welche weiteren Einsatzfelder im Betrieb heute verlässlich laufen und welche noch nicht, beschreibt der Beitrag KI Use Cases. Antworten aus Ihren eigenen Unterlagen liefert ein System, das auf Ihre Dokumente zugreift. Das erklärt der Beitrag zum RAG System. Nimmt ein Agent Anrufe an, finden Sie die Einzelheiten im Beitrag zum KI Telefonassistenten.

Wann reicht eine Automatisierung statt eines Agenten?

Die Entscheidung lässt sich mit vier Fragen vorbereiten. Je mehr Antworten auf „Ja“ lauten, desto eher reicht eine feste Automatisierung.

• Läuft der Vorgang jedes Mal nach demselben Schema ab?
• Liegen die Eingaben als strukturierte Daten vor, etwa als Formular oder Datei mit festen Feldern?
• Lässt sich jede Ausnahme vorab als Regel beschreiben?
• Wäre ein Fehler schwer zu erkennen, wenn er einmal auftritt?

Bei der letzten Frage ist ein „Ja“ ein Argument für die feste Automatisierung, weil sie ihre Fehler an benennbaren Stellen macht. Ein Agent kommt erst dann infrage, wenn Eingaben wechseln, Texte gelesen werden müssen oder Ausnahmen nicht vorhersehbar sind. Auch dann beginnen Sie am besten mit einem Teilschritt des Ablaufs und erweitern erst, wenn er sich bewährt hat. Wie sich Handarbeit zwischen Programmen sinnvoll ersetzen lässt, zeigt der Beitrag zu Automatisierung im Mittelstand.

Wo liegen die Grenzen?

Ein Sprachmodell kann Fehler machen und Dinge erfinden. Diese Fehler fallen nicht immer auf, weil das Ergebnis sprachlich überzeugend wirkt. Bei einem Agenten kommt hinzu, dass ein Fehler in einem frühen Schritt alle folgenden Schritte beeinflusst. Drei Grenzen sind für den Betrieb besonders wichtig:

• Fehler: Ein Agent liefert nicht jedes Mal dasselbe Ergebnis. Das Verhalten lässt sich testen, aber nicht vollständig vorhersagen.
• Kosten: Jeder Schritt, den ein Agent geht, verbraucht Rechenleistung des Sprachmodells. Die laufenden Kosten hängen von der Nutzung ab und lassen sich schlechter planen als bei einer festen Automatisierung.
• Kontrolle: Je mehr ein Agent selbstständig tun darf, desto wichtiger werden Rechte, Freigaben und ein Protokoll, das jeden Schritt festhält.

Rechenbeispiel: Warum Freigabe zählt

Das Beispiel ist eine Annahme, keine Messung. Es soll zeigen, wie sich eine kleine Fehlerquote auswirkt.

Rechnung: 50 Vorgänge mal 2 Prozent ergeben 1 fehlerhaften Vorgang pro Tag. Über 220 Arbeitstage sind das 220 Fehler im Jahr. Mit einer Freigabe durch einen Menschen fallen diese Fehler vor dem Versand auf. Ohne Freigabe erreichen sie Kunden, Lieferanten oder Ihre Buchhaltung. Setzen Sie Ihre eigenen Werte ein, die Logik bleibt gleich.

Wer trägt die Verantwortung, wenn ein KI Agent einen Fehler macht?

Haftung ist eine Rechtsfrage des Einzelfalls. Dieser Beitrag nennt keine Haftungsquote und keine Rechtsfolge, weil sich dazu keine allgemeine Aussage belegen lässt. Was sich belegen lässt, sind einzelne Regeln, die Verantwortung zuweisen oder Haftung ordnen und die Sie beim Einsatz eines Agenten kennen sollten:

• Auftragsverarbeitung: Verarbeitet ein Dienstleister personenbezogene Daten in Ihrem Auftrag, braucht es nach Artikel 28 Absatz 3 DSGVO einen Vertrag. Der Auftragsverarbeiter handelt nur auf Ihre dokumentierte Weisung. Sie dürfen nach Artikel 28 Absatz 1 nur mit Auftragsverarbeitern arbeiten, die hinreichend Garantien bieten.
• Automatisierte Entscheidungen: Nach Artikel 22 Absatz 1 DSGVO haben Betroffene das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Ein Agent, der allein über Verträge, Ablehnungen oder Ähnliches entscheidet, ist deshalb heikel.
• KI-Kompetenz: Anbieter und Betreiber von KI-Systemen sollen nach Artikel 4 der KI-Verordnung Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu unterstützen.
• Produkthaftung: Die EU-Produkthaftungsrichtlinie (EU) 2024/2853 gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Software zählt ausdrücklich als Produkt, auch KI-Systeme. Ersatzfähig sind nach der Richtlinie unter anderem Tod und Körperverletzung, Datenverlust bei nicht beruflich genutzten Daten sowie Sachschäden mit Ausnahme von Sachen, die ausschließlich beruflich genutzt werden. Reine Betriebs- und Vermögensschäden eines Unternehmens sind damit nicht der Kern dieser Richtlinie. In Deutschland liegt ein Gesetzentwurf der Bundesregierung zur Modernisierung des Produkthaftungsrechts vor (Bundestagsdrucksache 21/4297, Stand der Drucksache 02/2026). Ob der Bundestag ihn seither verabschiedet hat, haben wir nicht geprüft.

Praktisch folgt daraus: Behandeln Sie einen Agenten wie einen neuen Mitarbeiter, der mitarbeitet, aber nicht allein unterschreibt. Alles, was nach außen geht, gibt ein Mensch frei. Für die Frage, wer im Schadensfall einsteht, sprechen Sie mit rechtlicher Beratung und mit Ihrem Versicherer.

Was verlangen KI-Verordnung und Datenschutz?

Beide Regelwerke können für denselben Agenten gleichzeitig gelten. Die wichtigsten Punkte lauten in Kürze so:

• Artikel 4 der KI-Verordnung (KI-Kompetenz) gilt seit dem 2. Februar 2025 und steht seit dem 27. Juli 2026 in neuer Fassung. Einzelheiten stehen im Beitrag zur KI-Verordnung und Schulungspflicht.
• Artikel 50 der KI-Verordnung gilt seit dem 2. August 2026. Wenn ein Agent direkt mit Personen interagiert, müssen sie nach Absatz 1 informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist offensichtlich. Der Beitrag zum KI Telefonassistenten erklärt das am Beispiel des Anrufs.
• Für Hochrisiko-Systeme nach Anhang III gelten die Regeln der KI-Verordnung ab dem 2. Dezember 2027. Ob ein bestimmter Einsatz dazugehört, hängt vom Anwendungsbereich ab und ist im Einzelfall zu klären.
• Verarbeitet der Agent personenbezogene Daten, gelten Rechtsgrundlage, Auftragsverarbeitung und Transparenz der DSGVO. Bei voraussichtlich hohem Risiko ist vorab eine Datenschutz-Folgenabschätzung durchzuführen (Artikel 35). Ob ein einzelner KI-Einsatz darunter fällt, ist eine Frage des Einzelfalls. Mehr dazu im Beitrag KI und Datenschutz.

Bei Konfektor Systeme werden KI-Vorhaben zu Beginn schriftlich nach der KI-Verordnung eingeordnet. Wir schließen je Projekt einen Auftragsverarbeitungsvertrag (AVV) und stimmen uns mit Ihnen ab, bevor ein Dienst außerhalb der EU zum Einsatz kommt. Als Werkzeug für die Abläufe setzen wir n8n ein.

Wie führen Sie einen KI Agenten sicher ein?

Mit sechs Regeln starten Sie vorsichtig und behalten die Kontrolle:

1. Klein anfangen: Wählen Sie eine Aufgabe, bei der ein Fehler wenig Schaden anrichtet, zum Beispiel Entwürfe für interne Zwecke.
2. Erst lesen, dann schreiben: Ein Agent darf zuerst nur Daten ansehen. Schreibende Rechte kommen später und einzeln.
3. Freigabe durch einen Menschen: Alles, was Ihren Betrieb verlässt, geht erst nach Prüfung hinaus. Das ist der Grundsatz: Die KI entwirft, ein Mensch gibt frei.
4. Protokoll führen: Jeder Schritt des Agenten wird festgehalten, damit Sie bei Fehlern nachvollziehen können, was passiert ist.
5. Rechte begrenzen: Der Agent bekommt nur die Zugriffe für seine Aufgabe und nicht mehr.
6. Notfallschalter vorsehen: Eine Person kann den Agenten jederzeit anhalten.

Wenn Sie wissen möchten, ob ein KI Agent für einen Ihrer Abläufe sinnvoll ist, besprechen wir das im Kennenlerngespräch. Dort klären wir, welcher Ablauf am meisten Zeit kostet und ob eine feste Automatisierung reicht. Mehr zu unserem Angebot finden Sie unter KI Automatisierung. Den ersten Schritt machen Sie hier: Kennenlerngespräch vereinbaren.