BaFin-konformer KI-Einsatz: Was erklärbare Modelle wirklich bedeuten

"Das Modell hat den Kreditantrag abgelehnt." Warum? "Das Modell hat so entschieden." Das reicht nicht. Nicht für den Kunden. Nicht für die interne Revision. Und nicht für die BaFin.

Erklärbare KI — Explainable AI — ist im Finanzsektor keine Präferenz. Es ist eine regulatorische Anforderung.

Was BaFin und MaRisk verlangen

Die BaFin hat in mehreren Publikationen klargestellt: KI-Modelle, die in Entscheidungsprozessen eingesetzt werden, müssen nachvollziehbar sein. Das gilt insbesondere für:

• Kreditentscheidungen: Warum wurde ein Antrag abgelehnt? Welche Faktoren haben die Entscheidung beeinflusst?

• Risikobewertungen: Wie wird das Kreditrisiko eines Kunden berechnet? Welche Variablen fließen ein?

• Compliance-Entscheidungen: Warum wurde eine Transaktion als verdächtig eingestuft?

MaRisk AT 7.2 fordert, dass IT-Systeme dokumentiert, geprüft und nachvollziehbar sein müssen. Ein KI-Modell, dessen Entscheidungsweg nicht rekonstruiert werden kann, erfüllt diese Anforderung nicht.

Black-Box-Modelle vs. erklärbare Modelle

Was eine Black Box ist

Ein neuronales Netz mit Millionen Parametern nimmt Eingabedaten entgegen und liefert ein Ergebnis. Der Weg dazwischen ist mathematisch exakt, aber für Menschen nicht interpretierbar. Man kann sagen, dass das Modell zu 78 % eine Kreditablehnung empfiehlt. Man kann nicht sagen, warum.

Für Bilderkennung oder Sprachverarbeitung ist das akzeptabel. Für regulierte Finanzentscheidungen nicht.

Was ein erklärbares Modell ist

Ein erklärbares Modell liefert nicht nur ein Ergebnis, sondern auch den Entscheidungsweg. Es zeigt:

Feature-Gewichtung: Welche Eingabevariablen haben die Entscheidung am stärksten beeinflusst? Bei einer Kreditablehnung könnte das sein: "Einkommensverhältnis zur Kreditrate (45 % Gewichtung), bestehende Verbindlichkeiten (30 %), Beschäftigungsdauer (15 %), Wohnort-Risikoscore (10 %)."

Entscheidungspfad: Wie ist das Modell zum Ergebnis gekommen? Bei einem Entscheidungsbaum lässt sich der exakte Pfad nachvollziehen: "Einkommen unter Schwelle A - Verbindlichkeiten über Schwelle B - Ablehnung."

Kontrafaktische Erklärung: Was hätte sich ändern müssen, damit die Entscheidung anders ausgefallen wäre? "Der Antrag wäre genehmigt worden, wenn die bestehenden Verbindlichkeiten um 15 % niedriger gewesen wären."

Modelltypen und ihre Erklärbarkeit

Der Kompromiss

Komplexere Modelle sind oft präziser. Ein neuronales Netz erkennt subtilere Muster als ein Entscheidungsbaum. Aber Präzision nützt nichts, wenn das Modell nicht auditiert werden kann.

Der pragmatische Ansatz: erklärbare Modelle für Entscheidungen, die Kunden betreffen oder regulatorisch relevant sind. Komplexere Modelle für interne Analysen, bei denen keine Einzelentscheidung begründet werden muss.

Was "auditierbar" in der Praxis heißt

Erklärbarkeit allein reicht nicht. Die Erklärung muss dokumentiert, reproduzierbar und prüfbar sein.

Dokumentation

Jede Modellentscheidung wird protokolliert: Eingabedaten, Modellversion, Ergebnis, Feature-Gewichtungen. Die interne Revision kann jede Entscheidung der letzten Jahre nachvollziehen.

Reproduzierbarkeit

Dieselben Eingabedaten müssen dieselbe Entscheidung liefern. Das klingt selbstverständlich, ist es bei manchen Modellarchitekturen aber nicht. Stochastische Elemente im Modell müssen eliminiert oder dokumentiert werden.

Bias-Prüfung

Diskriminiert das Modell? Werden Kreditanträge aus bestimmten Postleitzahlen systematisch abgelehnt? Gibt es Alters- oder Geschlechtereffekte? Erklärbare Modelle machen diese Analyse möglich, weil die Feature-Gewichtungen transparent sind.

Die BaFin erwartet, dass Institute solche Prüfungen regelmäßig durchführen. Ein Black-Box-Modell kann nicht auf Bias geprüft werden, weil die Entscheidungslogik unsichtbar ist.

Scorecards und KI: kein Widerspruch

Viele Institute arbeiten mit statischen Scorecards für Kreditentscheidungen. Feste Punktwerte für Einkommen, Alter, Beschäftigungsdauer, Wohnort. Einfach, nachvollziehbar, seit Jahrzehnten bewährt.

KI ersetzt Scorecards nicht. KI verbessert sie. Ein erklärbares Modell kann Feature-Gewichtungen vorschlagen, die auf aktuellen Daten basieren — nicht auf Annahmen von vor zehn Jahren. Der Mensch entscheidet, ob die vorgeschlagene Gewichtung übernommen wird.

So bleiben Scorecards erklärbar und aktuell. Kein Widerspruch. Eine Weiterentwicklung.

Nächster Schritt

Lassen Sie uns in 30 Minuten prüfen, wo KI in Ihrem Finanzunternehmen den größten Hebel hat — regulatorisch sicher, unverbindlich und kostenfrei.

Gespräch vereinbaren →