Solange eine KI nur antwortet, fängt ein Mensch den falschen Satz ab. Sobald sie handelt, ist diese Kontrolle weg. Aus dem Fehler wird ein Schaden, und der steht in den Büchern.
In der KONTAKTBESCHLEUNIGER-LIVE-Folge war Dr. jur. Magnus Bergmann zu Gast, Anwalt für KI-Haftung, Berufsrecht und Datenschutz. Seine erste Antwort hat mich sofort gepackt.
Ein Schaden setzt eine Rechtsverletzung voraus. Und die entsteht nicht, wenn die Maschine irrt. Sie entsteht, wenn ein Unternehmen ein System einsetzt, ohne die Hausaufgaben erledigt zu haben, die die Rechtsordnung erwartet.
Sein Bild dafür: ein Wollpullover, aus dem jemand einen Faden zieht. Der Faden wird immer länger.
Woran ein Unternehmer merkt, dass er die Linie überschritten hat? Spätestens, wenn Post kommt. Vom Anwalt, vom Verbraucherschutz, von der Wettbewerbszentrale. Oder früher, an einer Frage nachts um drei. Kontrolliere ich noch die Kommunikationsverläufe in meiner Organisation, oder kontrollieren sie mich?
Dann kam der Teil, der viele überraschen wird. Bis etwa zweieinhalbtausend Euro regulieren Versicherer nach seiner Erfahrung ohne Diskussion. Stichwort Bagatellschaden. Oberhalb dieser Grenze passiert etwas anderes. Der Sachbearbeiter zieht die Akte und arbeitet sich bis zum Vertragsbeginn zurück.
Dort liegt der Fragebogen aus der Anbahnung. Damals wurde überall angekreuzt, dass nichts vorliegt. Findet der Sachbearbeiter heute unrichtige oder unvollständige Angaben von damals, macht er vom Leistungsverweigerungsrecht Gebrauch. Jahrelang Beiträge gezahlt, im Ernstfall trotzdem nichts.
Seit Anfang des Jahres werden Sachbearbeiter gezielt geschult. Sie fragen, welche technischen Einrichtungen im Betrieb laufen, welche Risiken der Entscheider bedacht hat und welche Maßnahmen er dagegen getroffen hat.
Wo KI unter der Hand läuft, lautet die ehrliche Antwort auf beide Fragen: an nichts. Genau da beginnt der Haftungsfall.
Wer seinen Mitarbeitern die privaten KI-Zugänge bezahlt, damit sie Erfahrung sammeln, hat die Nutzung mit Wissen und Wollen ermöglicht. Danach schuldet er Auskunft darüber, welche personenbezogenen Daten hochgeladen wurden und wie sie gelöscht werden.
Bergmann hat einen Fall aus seiner Praxis geschildert. Ein gekündigter Mitarbeiter klagt und verlangt genau diese Auskunft. Berechtigungskonzept, Löschkonzept, für alles, was Kollegen in die Maschine geladen haben. Der Arbeitgeber kann nichts davon darlegen. Was hochgeladen ist, ist zerlegt und nicht zurückholbar.
Seine Antwort auf die Frage, wie man das verhindert, hat mich am meisten interessiert. Sie hat zwei Teile.
Erstens die Leitplanken. Im Grundzustand darf eine KI nichts. Erlaubt wird sie über einen sauber ausgearbeiteten Systemprompt und über klar definierte Anwendungsfälle. Alles außerhalb davon entsteht gar nicht erst. Bergmann nennt das Verbotsprinzip mit Erlaubnisvorbehalt, übertragen aus dem Datenschutz.
Zweitens die Menschen. Mit KI darf nur arbeiten, wer in der Sache auch ohne KI souverän ist. Wer sich mithilfe der Maschine größere Schuhe anzieht, als ihm passen, überschreitet die Grenze zur Haftung.
Das trifft einen Punkt, an dem ich seit Monaten arbeite. Ein Wissenssystem im Unternehmen ersetzt keinen Experten. Es sichert, was der Experte weiß, und macht es prüfbar. Wer das umdreht und die Maschine das Wissen liefern lässt, hat kein Werkzeug im Haus, sondern ein Risiko.
Seine Lösung nennt er Governance-Prozess. Drei Bedingungen hat er dabei ausdrücklich genannt. Er darf nicht nur auf dem Papier stehen. Er muss technisch abgesichert sein. Und er muss auditiert sein.
Sein einziger Rat zum Mitnehmen war ungewöhnlich konkret. Nicht warten, bis der Schaden da ist, und dann die Versicherung ansprechen. Sondern vorher eine verbindliche Auskunft einholen, so wie man es aus dem Steuerrecht von der Finanzverwaltung kennt.
Wenn Sie gerade nicht sicher sagen können, welche Daten in Ihrem Haus in welche KI-Systeme fließen, ist das der Punkt, an dem sich ein Gespräch lohnt. Zwanzig Minuten reichen, um zu klären, ob Sie eine Regel brauchen oder einen Nachweis. Meistens fehlt beides.
Beide Wege dazu, das kostenlose Strategiegespräch und das 90-Minuten-Sparring, finden Sie auf einer Seite: KI-Risiko absichern statt abwarten.