KI-Agenten übernehmen mittlerweile in vielen Unternehmen echte Aufgaben: Sie beantworten Kundenanfragen, erstellen Angebote oder steuern ganze Workflows durch. Und je selbstständiger diese Systeme arbeiten, desto öfter höre ich bei meinen Kunden eine Frage: Wer haftet eigentlich, wenn der KI-Agent einen Fehler macht? Berechtigte Frage — und keine rein juristische Spitzfindigkeit. Sie entscheidet am Ende, wie sicher du KI in deinem Betrieb überhaupt einsetzen kannst.
Was sind KI-Agenten eigentlich?
Ein KI-Agent ist ein Softwaresystem, das eigenständig Entscheidungen trifft und Aufgaben ausführt — ohne dass jemand jeden einzelnen Schritt gegenprüft. Anders als ein klassischer Chatbot, der nur auf Fragen antwortet, kann ein Agent proaktiv handeln: Termine buchen, E-Mails verschicken, Daten zwischen Systemen abgleichen.
Typische Einsatzgebiete für KI-Agenten im Unternehmen:
- Kundenservice über Telefon oder Chat
- Terminplanung und Angebotserstellung
- Datenverarbeitung zwischen verschiedenen Tools
- Marketing-Automatisierung, etwa bei Social-Media-Postings
Wo genau die Grenze zwischen einem einfachen Chatbot und einem echten KI-Agenten liegt, habe ich hier ausführlicher aufgeschrieben: Chatbot vs. KI-Assistent. Wie schnell das Thema an Fahrt aufnimmt, zeigt eine Zahl: Im März 2026 setzten bereits 41 Prozent der Unternehmen ab 20 Beschäftigten aktiv KI ein — ein Jahr zuvor waren es erst 17 Prozent. Die Haftungsfrage wird also nicht kleiner, sondern für immer mehr Betriebe akut.
Warum die Haftungsfrage bei KI-Agenten so knifflig ist
Unser Haftungsrecht geht klassisch davon aus, dass ein Mensch eine Entscheidung trifft — und dafür geradesteht. Bei KI-Agenten verschwimmt genau diese Zuordnung. Ein Algorithmus entscheidet auf Basis von Trainingsdaten, die oft von Dritten stammen. Niemand im Unternehmen hat den konkreten Fehler im klassischen Sinne “verursacht”.
Dazu kommt die sogenannte Black-Box-Problematik: KI-Systeme sind nicht immer vollständig nachvollziehbar. Im Nachhinein festzustellen, warum genau eine Fehlentscheidung getroffen wurde, ist manchmal richtig mühsam. Genau das macht KI-Haftung aktuell zu einem der kniffligsten Themen im Wirtschaftsrecht.
Fehlerquellen bei KI-Agenten im Überblick
Nicht jeder Fehler hat dieselbe Ursache — und genau das ist für die Haftungsfrage entscheidend:
- Trainingsdatenfehler: Die KI wurde mit unvollständigen oder verzerrten Daten trainiert
- Konfigurationsfehler: Das Unternehmen hat den Agenten falsch eingerichtet
- Systemische Grenzen: Die KI stößt an technische Grenzen und trifft eine falsche Entscheidung
- Nutzungsfehler: Mitarbeiter setzen den Agenten außerhalb seines vorgesehenen Zwecks ein
Die aktuelle Rechtslage in Deutschland
Ein eigenständiges “KI-Haftungsgesetz” gibt es in Deutschland noch nicht. Stattdessen greifen bestehende Regelungen aus dem Zivilrecht — vor allem das Produkthaftungsgesetz und die allgemeinen Regeln zur Vertrags- und Deliktshaftung. Die EU arbeitet an einer Anpassung der Produkthaftungsrichtlinie speziell für KI-Systeme: Sie ist bereits in Kraft, muss aber bis Dezember 2026 in nationales Recht umgesetzt werden. Ab dann haben Geschädigte gegenüber KI-Herstellern eine deutlich stärkere Position.
Wichtig zu wissen: Nicht die KI selbst haftet, sondern immer eine natürliche oder juristische Person. Das kann der Softwareanbieter sein, das einsetzende Unternehmen — oder in seltenen Fällen der Nutzer, der die KI falsch bedient hat. Der Bitkom beschäftigt sich intensiv mit den rechtlichen Rahmenbedingungen für KI in Unternehmen und liefert regelmäßig aktuelle Einschätzungen zur Gesetzgebung.
Wer haftet wann? Die Übersicht
| Fehlerursache | Wer haftet typischerweise? | Rechtliche Grundlage |
|---|---|---|
| Fehlkonfiguration durch dein Team | Dein Unternehmen (Betreiberhaftung) | § 278 BGB analog, Vertragsrecht |
| Produktmangel im KI-System selbst | Softwareanbieter | Produkthaftungsgesetz / neue EU-Produkthaftungsrichtlinie |
| Fehlerhafte Trainingsdaten eines Drittanbieters | Meist Anbieter, teils gemeinsame Haftung | Vertragsklauseln, Produkthaftung |
| Zweckentfremdete Nutzung durch Mitarbeitende | Dein Unternehmen | Deliktsrecht, Organisationspflichten |
| Fehlende menschliche Kontrolle bei sensiblen Entscheidungen | Dein Unternehmen (Aufsichtspflicht) | EU AI Act, Transparenz- und Aufsichtspflichten |
Wann haftet das Unternehmen selbst?
Als Unternehmer trägst du in der Regel die Hauptverantwortung, wenn du einen KI-Agenten in deinem Betrieb einsetzt. Besonders dann, wenn du das System unzureichend überwacht, falsch konfiguriert oder für Zwecke genutzt hast, für die es nicht gedacht war. Hier greift die sogenannte Betreiberhaftung: Wer eine Technologie einsetzt, steht auch für ihre Folgen ein.
Ein Beispiel aus der Praxis: Setzt du einen KI-Telefonassistent ein, der einem Kunden eine falsche Auskunft gibt und dadurch ein Schaden entsteht, kann dein Unternehmen grundsätzlich in der Haftung stehen. Selbst dann, wenn der Fehler technisch von der KI “verursacht” wurde.
Wann haftet der Softwareanbieter?
Anders sieht es aus, wenn der Fehler auf einen Mangel im System selbst zurückgeht — etwa einen Programmierfehler oder eine fehlerhafte Grundkonfiguration durch den Anbieter. Hier greift das Produkthaftungsgesetz, das Hersteller für fehlerhafte Produkte in die Pflicht nimmt. Der Nachweis eines solchen Produktfehlers ist allerdings oft schwierig, weil KI-Systeme komplex und teils intransparent arbeiten.
Eine Studie von McKinsey zeigt: Genau deshalb zögern viele Unternehmen, KI-Systeme vollständig autonom arbeiten zu lassen — die Unsicherheit über Haftungsfragen bremst die Skalierung. Umso wichtiger ist eine klare vertragliche Regelung mit deinem Technologiepartner. Kein Grund zur Panik, aber definitiv ein Punkt, den du vorher klären solltest — nicht erst, wenn’s brennt.
Wie du dich als Unternehmer rechtlich absicherst
Auch wenn die Gesetzeslage noch nicht komplett ausgereift ist: Du kannst schon heute konkrete Schritte gehen, um dein Haftungsrisiko klein zu halten.
1. Verträge mit klaren Haftungsklauseln
Setzt du einen KI-Agenten über einen externen Anbieter ein, sollte der Vertrag klar regeln, wer bei welchem Fehlertyp haftet. Achte besonders auf Klauseln zu Verfügbarkeit, Datenqualität und Verantwortlichkeiten bei Fehlkonfigurationen.
2. Menschliche Kontrolle einbauen
Ein bewährtes Prinzip: das sogenannte Human-in-the-loop-Modell. Kritische Entscheidungen bereitet die KI vor, ein Mensch gibt final den Segen. Das reduziert nicht nur das Haftungsrisiko, sondern erhöht meistens auch die Qualität der Entscheidungen.
3. Dokumentation und Nachvollziehbarkeit
Je besser du dokumentierst, wie ein KI-Agent konfiguriert wurde und welche Entscheidungen er getroffen hat, desto leichter lässt sich im Streitfall nachweisen, wo der Fehler entstanden ist. Das schützt dich sowohl gegenüber Kunden als auch gegenüber Anbietern.
4. Regelmäßige Überprüfung der Systeme
KI-Systeme sind kein “einmal einrichten und vergessen”-Werkzeug. Regelmäßige Checks helfen, Fehler früh zu erkennen — bevor daraus ein echter Schaden wird. Das gilt besonders für Systeme im direkten Kundenkontakt, etwa im Rahmen von Workflow-Automatisierung. Auch wenn du gerade über eine neue Website mit KI-Funktionen nachdenkst, lohnt es sich, Haftungsfragen von Anfang an mitzuplanen statt sie nachträglich zu lösen.
5. Versicherungsschutz prüfen
Immer mehr Versicherer bieten spezielle Cyber- und Technologiehaftpflichtversicherungen an, die auch KI-bezogene Schäden abdecken. Lohnt sich, mit deinem Versicherer gezielt zu klären, ob und wie KI-Agenten im Bestandsschutz enthalten sind. Kostet eine E-Mail, spart im Zweifel viel Ärger.
Die geplante EU-Regulierung: Was kommt auf Unternehmen zu?
Mit dem EU AI Act hat die Europäische Union das erste umfassende Regelwerk für Künstliche Intelligenz verabschiedet. Es klassifiziert KI-Systeme nach Risikostufen und stellt an Hochrisiko-Anwendungen deutlich strengere Anforderungen. Seit dem 2. August 2026 gelten zusätzlich die Transparenzpflichten aus Artikel 50 vollständig — Kunden müssen eindeutig erkennen können, dass sie mit einer KI und nicht mit einem Menschen sprechen. Details zur Umsetzung und den Fristen findest du auf der offiziellen Seite der Europäischen Kommission.
Für die meisten kleinen und mittleren Unternehmen, die KI-Agenten für Kundenservice oder interne Prozesse nutzen, fallen die Anwendungen meist in die Kategorie “begrenztes Risiko”. Trotzdem gelten Transparenzpflichten. Auch das Fraunhofer-Institut veröffentlicht regelmäßig Leitfäden zur praktischen Umsetzung solcher Vorgaben in Unternehmen.
Praxisbeispiel: KI-Agent im Kundenservice
Stell dir vor: Dein Unternehmen setzt einen Web-Assistenten ein, der Kundenanfragen zu Lieferzeiten beantwortet. Der Agent nennt versehentlich eine falsche Lieferzeit, der Kunde verlässt sich darauf und macht dadurch einen wirtschaftlichen Schaden.
In so einem Fall wird zuerst geprüft: Liegt die falsche Information an einer fehlerhaften Datenbasis — dein Fehler, weil zum Beispiel dein Warenwirtschaftssystem falsch angebunden war — oder an einem technischen Mangel des Agenten selbst, für den der Anbieter geradestehen muss? Genau diese Unterscheidung entscheidet, wer am Ende zahlt. Ähnliche Grauzonen tauchen übrigens auch bei KI-gestützter Content-Erstellung auf, etwa wenn ein Agent eigenständig Werbetexte oder Bilder veröffentlicht.
Mein Tipp aus der Praxis: Bevor ein solcher Agent live geht, lohnt sich ein kurzer Realitätscheck mit echten Beispielfällen — nicht nur ein Testlauf im stillen Kämmerlein. Wer weiß, wo die Grenzen seines Systems liegen, muss sich um die Haftungsfrage im Ernstfall deutlich weniger Sorgen machen. Kein Hexenwerk, nur ein bisschen Vorarbeit.
Häufige Fragen zur KI-Haftung
Muss ich als kleines Unternehmen den EU AI Act überhaupt beachten? Ja, grundsätzlich gilt der EU AI Act auch für kleine Unternehmen — unabhängig von der Mitarbeiterzahl. Wer KI-Systeme nur nutzt statt selbst zu entwickeln, hat aber deutlich weniger Pflichten als Anbieter von Hochrisiko-Systemen. Für die meisten Anwendungsfälle im Kundenservice reichen die Transparenzpflichten aus Artikel 50.
Reicht meine normale Betriebshaftpflicht für KI-Fehler aus? Nicht automatisch. Viele klassische Betriebshaftpflichtversicherungen schließen Vermögensschäden durch Software explizit aus oder decken sie nur eingeschränkt ab. Ein Blick in die Police lohnt sich — im Zweifel ergänzt eine Cyber- oder Technologiehaftpflichtversicherung die Lücke.
Haftet der KI-Anbieter automatisch, wenn sein System falsch antwortet? Nein. Der Anbieter haftet nur, wenn nachweislich ein Produktmangel vorliegt — also ein Fehler im System selbst, nicht in deiner Konfiguration oder Nutzung. Diese Abgrenzung ist in der Praxis oft der strittigste Punkt.
Ab wann gilt die neue EU-Produkthaftungsrichtlinie für KI-Systeme? Die Richtlinie ist bereits in Kraft, muss aber bis Dezember 2026 in deutsches Recht umgesetzt werden. Ab diesem Zeitpunkt haben Geschädigte gegenüber Herstellern fehlerhafter KI-Systeme bessere Möglichkeiten, Schadensersatz durchzusetzen.
Was, wenn ich gar nicht wusste, dass mein Dienstleister KI einsetzt? Unwissenheit schützt hier nicht zuverlässig vor Haftung. Als Betreiber bist du grundsätzlich in der Pflicht zu wissen, welche Systeme in deinem Namen agieren. Frag aktiv bei deinen Dienstleistern nach, wo KI im Einsatz ist — das ist einfacher, als es im Schadensfall aufzuklären.
Unsicher, wie es um dein Unternehmen steht?
Bevor du einen KI-Agenten live schaltest, lohnt sich ein nüchterner Blick auf die eigene Ausgangslage: Welche Systeme laufen bereits, wo bist du exponiert, wo lohnt sich technische und vertragliche Nachbesserung? Ein kostenloser Website-Audit zeigt dir, wie gut deine digitale Infrastruktur für den Einsatz von KI-Agenten vorbereitet ist. Und wenn du konkrete Fragen zu deinem Fall hast: Nimm einfach Kontakt auf — meistens klärt sich in einem kurzen Gespräch mehr als in tausend Paragrafen.
