KI im Unternehmen: Neuer Bitkom-Leitfaden zeigt, wie sich Risiken erkennen und absichern lassen

 

Künstliche Intelligenz ist in deutschen Unternehmen auf dem Vormarsch. Doch mit ihrem Einsatz wachsen auch die Anforderungen an Sicherheit, Haftung und Risikomanagement. Ein neuer Bitkom-Leitfaden zeigt, wie Unternehmen KI-Risiken systematisch bewerten, Verantwortlichkeiten klären und mögliche Schäden absichern können. Im Fokus stehen auch die besonderen Herausforderungen durch autonome KI-Agenten.

KI wird zum festen Bestandteil unternehmerischer Prozesse

Ob automatisierter Kundenservice, intelligente Datenanalyse oder KI-gestützte Entscheidungen: Künstliche Intelligenz verändert zunehmend die Arbeitsweise deutscher Unternehmen. Bereits 57 Prozent der Unternehmen in Deutschland nutzen KI. 2025 waren es noch 36 Prozent, zwei Jahre zuvor lediglich 20 Prozent.

Mit der zunehmenden Verbreitung entstehen jedoch neue Herausforderungen. Was passiert, wenn KI falsche Entscheidungen trifft, sensible Daten preisgibt oder durch fehlerhafte Ergebnisse wirtschaftliche Schäden verursacht? Wer trägt die Verantwortung, wenn autonome KI-Agenten eigenständig Prozesse ausführen? Und welche dieser Risiken lassen sich versichern?

Mit dem neuen Leitfaden „Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern“ bietet Bitkom eine Orientierung für den Umgang mit diesen Fragen. Die Publikation zeigt, wie Unternehmen KI-bezogene Risiken identifizieren, bewerten und durch geeignete Maßnahmen begrenzen können.

KI schafft nicht nur neue Risiken – sie verstärkt bestehende

Eine zentrale Erkenntnis des Leitfadens: Künstliche Intelligenz führt nicht zwangsläufig zu völlig neuen Schadensarten. Vielmehr kann sie bereits bekannte Risiken erheblich verstärken.

Fehlerhafte Informationen, unzureichende Datenqualität oder falsche Entscheidungen können sich durch automatisierte Prozesse besonders schnell verbreiten. Während menschliche Fehler häufig auf einzelne Vorgänge begrenzt bleiben, lassen sich fehlerhafte KI-Ergebnisse innerhalb kürzester Zeit vielfach reproduzieren.

Besonders relevant sind sogenannte Halluzinationen, bei denen KI-Systeme überzeugend klingende, aber sachlich falsche Informationen erzeugen. Werden solche Ergebnisse ungeprüft in Geschäftsprozesse übernommen, können daraus wirtschaftliche oder rechtliche Folgen entstehen.

Der Leitfaden unterscheidet deshalb verschiedene Risikobereiche: Schäden am eigenen Unternehmen, Schäden gegenüber Dritten sowie Governance-, Compliance- und Reputationsrisiken.

Autonome KI-Agenten stellen Unternehmen vor neue Herausforderungen

Besondere Aufmerksamkeit widmet der Leitfaden der zunehmenden Verbreitung agentischer KI-Systeme. Anders als klassische KI-Anwendungen, die vor allem Informationen analysieren oder Inhalte generieren, können KI-Agenten eigenständig mehrstufige Aufgaben ausführen, auf Systeme zugreifen und Aktionen auslösen.

Damit verändert sich auch die Risikobewertung. Entscheidend ist nicht mehr allein, ob ein KI-System korrekte Ergebnisse liefert, sondern auch, welche Handlungen es selbstständig durchführen darf.

Unternehmen müssen deshalb klare Grenzen für den Einsatz solcher Systeme definieren. Dazu gehören geregelte Zugriffsrechte, Freigabeprozesse, die Dokumentation automatisierter Entscheidungen und Möglichkeiten für menschliche Eingriffe.

Insbesondere bei geschäftskritischen Anwendungen ist es wichtig, dass KI-Agenten nicht unkontrolliert auf sensible Daten, externe Systeme oder operative Prozesse zugreifen können.

Wer haftet, wenn Künstliche Intelligenz Fehler macht?

Mit dem Einsatz von KI rücken auch Haftungsfragen stärker in den Mittelpunkt. Dabei kann es sowohl um Schäden am eigenen Unternehmen als auch um Schäden bei Kunden, Geschäftspartnern oder anderen Dritten gehen.

Der Bitkom-Leitfaden erläutert, wie sich solche Schäden rechtlich und versicherungstechnisch einordnen lassen. Bestehende Haftungsregelungen und Versicherungsprodukte können bestimmte KI-bedingte Schäden bereits erfassen. Allerdings hängt der konkrete Versicherungsschutz vom Schadenbild, der Ursache und den jeweiligen Vertragsbedingungen ab.

Besonders herausfordernd sind reine Vermögensschäden, die ohne Personen- oder Sachschaden entstehen, sowie die Zuordnung von Verantwortlichkeiten in komplexen KI-Wertschöpfungsketten.

Für Unternehmen bedeutet das: Wer KI in zentrale Geschäftsprozesse integriert, sollte frühzeitig prüfen, welche Schäden entstehen können, wer dafür verantwortlich ist und ob bestehende Versicherungen ausreichenden Schutz bieten.

KI-Governance wird zur Managementaufgabe

Ein verantwortungsvoller KI-Einsatz erfordert mehr als technische Sicherheitsmaßnahmen. Entscheidend sind klare organisatorische Strukturen und verbindliche Regeln.

Der Leitfaden empfiehlt, KI-Risiken in bestehende Prozesse für Risikomanagement, Compliance, Datenschutz und Informationssicherheit einzubinden. Dazu gehören insbesondere eindeutige Verantwortlichkeiten, dokumentierte Anwendungsfälle und regelmäßige Kontrollen.

Auch der EU AI Act spielt dabei eine wichtige Rolle. Er sieht abhängig vom jeweiligen Einsatzbereich und Risikoniveau unterschiedliche Anforderungen an KI-Systeme vor. Unternehmen müssen deshalb prüfen, welche rechtlichen Verpflichtungen für ihre Anwendungen gelten.

Darüber hinaus kommt der Qualifizierung von Mitarbeitenden eine zentrale Bedeutung zu. Wer KI-Systeme einsetzt, muss ihre Möglichkeiten, Grenzen und Risiken verstehen und Ergebnisse kritisch bewerten können.

Von der KI-Strategie zum verantwortungsvollen Einsatz

Der Leitfaden macht deutlich: Die erfolgreiche Integration von Künstlicher Intelligenz hängt nicht allein von der Leistungsfähigkeit der eingesetzten Technologie ab. Ebenso wichtig sind ein strukturiertes Risikomanagement, klare Verantwortlichkeiten und wirksame Kontrollmechanismen.

Für Unternehmen stellt sich damit zunehmend die Frage, wie sie KI-Anwendungen nicht nur erfolgreich einführen, sondern auch langfristig sicher und skalierbar betreiben können.

Genau an dieser Schnittstelle zwischen technologischer Innovation und praktischer Umsetzung setzt auch die TRANSFORM 2027 an. Am 17. und 18. März 2027 in der STATION Berlin stehen unter anderem Künstliche Intelligenz & Agenten, Cybersecurity & Resilienz sowie digitale Prozesse und Geschäftsmodelle im Mittelpunkt.

Unter dem Motto „Making Transformation work.“ zeigt die TRANSFORM, wie Unternehmen digitale Technologien erfolgreich in die Praxis überführen können.

Zum Bitkom-Leitfaden „Verantwortungsvoller KI-Einsatz“ (PDF)

Mehr zur TRANSFORM 2027 erfahren


 

Q&A: Die wichtigsten Fragen zum verantwortungsvollen KI-Einsatz

Welche Risiken entstehen beim Einsatz von KI in Unternehmen?

Zu den wichtigsten Risiken gehören fehlerhafte Entscheidungen, falsche oder verzerrte Ergebnisse, Datenschutz- und Sicherheitsvorfälle sowie wirtschaftliche Schäden durch automatisierte Prozesse. Hinzu kommen mögliche Haftungsfragen, regulatorische Verstöße und Reputationsschäden. Besonders kritisch wird es, wenn KI-Systeme ohne ausreichende Kontrolle in geschäftskritische Abläufe eingebunden werden.

Wer haftet, wenn eine KI einen Fehler macht?

Die Haftung hängt unter anderem davon ab, wer das KI-System entwickelt, bereitgestellt oder eingesetzt hat und wodurch der Schaden entstanden ist. Je nach Einzelfall können Hersteller, Anbieter oder nutzende Unternehmen verantwortlich sein. Auch beim Einsatz autonomer KI-Agenten entfällt die rechtliche Verantwortung nicht automatisch. Deshalb sind klare Zuständigkeiten und eine nachvollziehbare Dokumentation wichtig.

Was bedeutet KI-Governance?

KI-Governance umfasst die Regeln, Verantwortlichkeiten und Kontrollmechanismen, mit denen Unternehmen den Einsatz Künstlicher Intelligenz steuern. Dazu gehören beispielsweise interne KI-Richtlinien, Risikobewertungen, Freigabeprozesse, Dokumentationspflichten und die regelmäßige Überprüfung eingesetzter Systeme. Ziel ist ein sicherer, rechtskonformer und verantwortungsvoller KI-Einsatz.

Welche besonderen Risiken entstehen durch KI-Agenten?

KI-Agenten können eigenständig Aufgaben ausführen, Daten abrufen und Aktionen in anderen Systemen auslösen. Dadurch können Fehler unmittelbare Auswirkungen auf Geschäftsprozesse haben. Zu den Risiken gehören unerwünschte Aktionen, unberechtigte Zugriffe, fehlerhafte Prozessausführungen und schwer nachvollziehbare Entscheidungsketten. Unternehmen sollten deshalb Handlungsspielräume begrenzen, Zugriffsrechte kontrollieren und menschliche Freigaben für kritische Aktionen vorsehen.

Was ist der Unterschied zwischen KI-Sicherheit und Cybersicherheit?

Cybersicherheit schützt IT-Systeme, Netzwerke und Daten vor Angriffen und unberechtigten Zugriffen. KI-Sicherheit geht darüber hinaus und betrachtet auch Risiken, die aus dem Verhalten und den Ergebnissen von KI-Systemen entstehen. Dazu zählen beispielsweise Halluzinationen, fehlerhafte Entscheidungen, unerwartete Systemreaktionen oder die unkontrollierte Ausführung von Aufgaben durch KI-Agenten.

Was müssen Unternehmen beim EU AI Act beachten?

Der EU AI Act verfolgt einen risikobasierten Ansatz. Welche Anforderungen gelten, hängt unter anderem vom Einsatzbereich, dem Risikoniveau und der Rolle des Unternehmens als Anbieter oder Betreiber ab. Für bestimmte Hochrisiko-Anwendungen gelten besonders umfangreiche Vorgaben. Aber auch andere KI-Systeme können beispielsweise Transparenzpflichten unterliegen. Unternehmen sollten ihre KI-Anwendungen deshalb systematisch erfassen und rechtlich einordnen.

Können Unternehmen Schäden durch KI versichern?

Bestimmte KI-bedingte Schäden können bereits durch bestehende Versicherungen abgedeckt sein, etwa im Rahmen von Haftpflicht-, Cyber- oder anderen Unternehmensversicherungen. Ob tatsächlich Versicherungsschutz besteht, hängt jedoch vom konkreten Schaden und den Vertragsbedingungen ab. Insbesondere reine Vermögensschäden, Governance-Risiken und komplexe KI-Anwendungen können besondere Herausforderungen darstellen.

Welche Maßnahmen helfen, KI-Risiken im Unternehmen zu reduzieren?

Ein wirksames KI-Risikomanagement beginnt mit einer Übersicht aller eingesetzten KI-Anwendungen. Unternehmen sollten anschließend Risiken bewerten, Verantwortlichkeiten festlegen, verbindliche Nutzungsregeln definieren und technische sowie organisatorische Kontrollen einführen. Dazu gehören auch regelmäßige Überprüfungen, Mitarbeiterschulungen und klare Prozesse für den Umgang mit Fehlern oder Sicherheitsvorfällen.

Wann sollten Menschen in KI-Entscheidungen eingreifen können?

Menschliche Kontrolle ist besonders wichtig, wenn KI-Entscheidungen erhebliche rechtliche, wirtschaftliche oder persönliche Folgen haben können. Dazu zählen beispielsweise sensible Personalentscheidungen, sicherheitskritische Prozesse oder finanzielle Transaktionen. Je nach Anwendung und rechtlicher Einstufung können menschliche Aufsicht und Eingriffsmöglichkeiten auch verpflichtend sein.

Wie gelingt der verantwortungsvolle Einsatz von KI im Unternehmen?

Unternehmen sollten KI nicht ausschließlich als technologische Innovation betrachten, sondern als Bestandteil ihrer Unternehmensstrategie und ihres Risikomanagements. Entscheidend sind klar definierte Einsatzbereiche, geeignete Sicherheitsmaßnahmen, geschulte Mitarbeitende und eine regelmäßige Bewertung der Ergebnisse. So lassen sich Innovationspotenziale nutzen, ohne Risiken und Verantwortlichkeiten aus dem Blick zu verlieren.

Teilen