Stell dir vor, morgen klingelt der Prüfer. Er will drei Dinge sehen: die Regeln, nach denen dein Team KI nutzt. Den Nachweis, dass jemand die Ergebnisse prüft. Und eine Dokumentation, die auch ein neuer Mitarbeiter versteht. Darüber habe ich mit Dietmar Faude gesprochen, Datenschützer und Geschäftsführer der SIDAPRON GmbH. Er berät Technikunternehmen und Großhandel.
Dietmar erlebt bei seinen Kunden, wie KI sich einschleicht. Durch Mitarbeiter, die schneller arbeiten wollen. Durch eine Geschäftsleitung, die auf das Werkzeug hofft, das endlich alle Themen löst. Sein Bild dafür ist das Schweizer Taschenmesser. Es kann viel, und wer es einfach aufklappt, schneidet sich.
Der erste Fehler ist KI ohne Regeln. Dietmar merkt das in den ersten Gesprächen. Er fragt die Mitarbeiter, wie sie arbeiten. Wenn ähnliche Aufgaben mit ganz verschiedenen KI-Werkzeugen erledigt werden, fehlen die Regeln oder niemand hält sich daran.
Ein Fall aus seiner Praxis: Ein Entwickler bei einem IT-Dienstleister gab eine eigene Schnittstelle in eine öffentliche KI. Wenige Wochen später bot der Hersteller eine ähnliche Lösung an. Abgeflossen war Firmen-Know-how, ganz ohne einen einzigen personenbezogenen Datensatz. Mit ihm ging künftiger Umsatz.
Dietmar Faude: "Ein ganz schlechter Ansatz ist, die KI dafür verantwortlich zu machen." Verantwortlich ist, wer den Prozess im Unternehmen einsetzt.
Der zweite Fehler ist die fehlende Prüfung. Eine KI liefert die Antwort, die sie für die wahrscheinlichste hält. Je fachlicher die Frage und je öffentlicher die Quellen, desto genauer muss jemand nachsehen, bevor das Ergebnis rausgeht.
Der übliche Einwand lautet: Dafür haben wir keine Zeit. Dietmar rechnet anders. Wer 100 Serviceberichte von der KI auswerten lässt, spart bei der Aufbereitung fünf bis sechs Arbeitsstunden. Zehn Minuten Prüfung sind dagegen wenig.
Wer die Prüfzeit gegen null rechnet, hat die falsche Bezugsgröße. Rechne sie gegen die Stunden, die die KI vorher gespart hat.
Am Freitagabend klickt man bei der zehnten Rückfrage des Agenten einfach Ja. Zuschauen fühlt sich dann wie Kontrolle an. Die Kontrolle muss vorher in der Architektur stehen.
Der dritte Fehler ist die fehlende Dokumentation. Wer KI im Unternehmen einsetzt, muss seit Anfang 2025 seine Mitarbeiter schulen. Dazu gehören KI-Richtlinien: welche Aufgaben mit welchem System erledigt werden, wie geprüft wird, was nicht passieren darf. Für IT und Geschäftsführung kommen die Verfahrensverzeichnisse dazu, mit Dienstleistern, Aufträgen und Übergaben zwischen Prozessen.
Dietmar will diese Verzeichnisse regelmäßig gegen die Praxis geprüft sehen. Einmal erstellt und in die Schublade gelegt, helfen sie keinem, auch nicht in der digitalen Schublade eines Dokumentenmanagementsystems.
Warum die Dokumentation so oft fehlt, erklärt er mit einer Pendelbewegung. Früher hat Projektmanagement alles zerlegt, mit hohen Kosten und langen Laufzeiten. Heute legen viele einfach los und staunen dann über die Risiken. Etwa über den Kunden, der nicht mehr bestellt, weil er gemerkt hat, dass seine Daten unsicher verarbeitet werden.
Eine Regel, die nur in einem Kopf liegt, kann weder ein neuer Mitarbeiter lesen noch eine KI. Ein Prüfer auch nicht.
Und wenn es schon brennt? Dann hilft Schadensbegrenzung, sagt Dietmar. Wer abwiegelt und alles für Rechtsquatsch hält, riskiert empfindliche Strafen. Wer die Ursache ernst nimmt, Maßnahmen ergreift und Kontrolle zulässt, kommt unter normalen Umständen glimpflich davon.
Sein Rat an Geschäftsführungen: nicht überstürzt handeln. Die Mitarbeiter fragen, wo der Schuh drückt. Und sich Fachleute für KI, Datenschutz und IT-Sicherheit holen, statt das Wissen im Internet zusammenzusuchen. Kommt der Prüfer schon nächste Woche, sollte wenigstens klar sein, welche Dokumentation es überhaupt gibt.
Genau hier setze ich mit KBS-BRAIN an. Regeln, Entscheidungen und ihre Gründe stehen an einem Ort, mit Datum. Dann findet sie der neue Mitarbeiter, die KI arbeitet damit, und der Prüfer bekommt etwas vorgelegt.
Nimm die eine KI-Regel, die bei euch heute nur mündlich gilt. In 20 Minuten gehen wir sie gemeinsam durch. Danach weißt du, wo sie aufgeschrieben gehört, damit du sie dem Prüfer zeigen kannst.