KI in regulierte Systeme bringen

Die meisten KI-Demos scheitern beim ersten Kontakt mit einer Compliance-Prüfung. Das Modell funktioniert in der Demo; das Deployment drumherum nicht. Audit-Trails fehlen, Prompts sind nicht versioniert, Datenresidenz ist ein Nachgedanke, und es gibt keine Antwort auf die eine Frage, die jeder Prüfer stellt: Was hat das System entschieden — und warum?

KI in ein reguliertes Umfeld zu bringen — Gesundheitswesen, Finanzen, Recht — ist keine schwierigere Variante eines Chatbots. Es ist eine andere Aufgabe. Das Modell macht vielleicht 20 % aus. Die anderen 80 % sind das unspektakuläre Engineering, das einer sorgfältigen Organisation erlaubt, die Sache tatsächlich vor Nutzende zu stellen.

Die Antworten von Anfang an einplanen

Compliance lässt sich nicht nachträglich an ein fertiges KI-Feature schrauben. Die Eigenschaften, die einen Prüfer interessieren, müssen früh getroffene Architekturentscheidungen sein:

• Versionierte, konfigurationsgetriebene Prompts. Prompts sind Teil des Systemverhaltens. Sie gehören in Versionskontrolle und Konfiguration, nicht hartcodiert in eine Funktion — damit Sie sie prüfen, vergleichen und zurückrollen können wie jede andere Änderung.
• Ein Audit-Trail für jede Entscheidung. Jede KI-Interaktion sollte einen Datensatz schreiben: Eingabe, Prompt-Version, Modellausgabe und was danach geschah. Wenn jemand fragt, warum das System vor sechs Wochen etwas getan hat, brauchen Sie eine echte Antwort.
• Mandantentrennung auf Datenbankebene. In mandantenfähigen Healthcare- oder Fintech-Produkten ist eine nur im Anwendungscode erzwungene Trennung ein Bug, der darauf wartet, Daten zwischen Kunden zu leaken. Erzwingen Sie sie im Datenlayer.
• Eine klare Grenze zwischen Vorschlagen und Entscheiden. Das sicherste Muster in regulierten Umgebungen ist KI, die vorschlägt, und ein Mensch, der freigibt. Machen Sie diese Grenze im Produkt explizit, nicht implizit in guten Absichten.

Evaluation ist nicht optional

Eine Demo beweist, dass das Modell einmal erfolgreich sein kann. Produktion verlangt zu wissen, wie oft es scheitert — und wie schlimm. Vor jedem Release bauen wir ein Evaluationsset aus echten Fällen und messen dagegen, damit „die KI ist besser geworden” eine Zahl ist und kein Gefühl. Nach dem Launch fängt dieselbe Harness Regressionen ab, wenn sich Modell oder Prompt ändern.

Guardrails sind Teil des Produkts

Eingaben werden validiert. Ausgaben werden vor der Anzeige gegen Regeln geprüft. Sensible Aktionen werden gesperrt. Nichts davon ist aufregend, und genau das ist der Unterschied zwischen einem KI-Feature, das ein Security-Review übersteht, und einem, das nach dem ersten Vorfall still abgeschaltet wird.

Die unspektakuläre Version ist die, die ausgeliefert wird

Über cleveres Prompting zu schreiben wäre unterhaltsamer. Aber die Projekte, die in regulierten Branchen in Produktion gehen, gewinnen nicht durch Cleverness — sondern durch die Disziplin rund um das Modell: Review, Audit, Isolation, Evaluation und ein Mensch im Prozess, wo es zählt.

Weniger glamourös als die Demo. Und die einzige Version, die ausgeliefert wird.