KI-Forensik als Schlüssel zur Compliance-Entlastung: Wie Schweizer Finanzinstitute KI-Transparenz steigern können

KI-Forensik als Schlüssel zur Compliance-Entlastung

Compliance-Kosten in Schweizer Finanzinstituten steigen seit Jahren überproportional. Die wachsende Komplexität der regulatorischen Anforderungen, kombiniert mit dem beschleunigten Einsatz von KI-Systemen in Kreditvergabe, Risikoklassifikation und Portfoliosteuerung, erzeugt einen strukturellen Widerspruch: Mehr KI bedeutet zunächst mehr Undurchsichtigkeit, genau dann, wenn Aufsichtsbehörden mehr Transparenz fordern. KI-Forensik ist der Ansatz, der diese Spannung aufzulösen versucht. Die Technologie analysiert KI-Modelle von innen, macht Entscheidungsfaktoren sichtbar und identifiziert unzulässige Muster, bevor sie zu regulatorischen Problemen werden.

Rund 43 Prozent der Finanzdienstleister weltweit testen heute KI-Forensik-Tools, um dem regulatorischen Stillstand zu entkommen, der entsteht, wenn ein KI-System zwar gute Ergebnisse liefert, aber nicht erklären kann, warum. Für den Schweizer Finanzplatz ist das eine unmittelbare Herausforderung.

Technologische Grundlage der KI-Forensik

KI-Forensik kombiniert Machine-Learning-Techniken mit forensischen Analysemethoden. Die Kernfrage ist stets dieselbe: Auf welche Eingabevariablen reagiert ein Modell besonders stark, und sind diese Faktoren im Licht geltender Vorschriften zulässig? Ein Kreditvergabemodell, das ausgezeichnete Vorhersagegenauigkeit bei gleichzeitig statistisch auffälliger Korrelation mit Merkmalen wie Wohnort, Herkunft oder Geschlecht aufweist, verstösst gegen das Schweizer Gleichstellungsrecht und die FINMA-Anforderungen an diskriminierungsfreie Kreditvergabe.

Technisch basieren KI-Forensik-Lösungen auf Explainability-Engines. Open-Source-Bibliotheken wie SHAP (SHapley Additive Explanations) oder LIME (Local Interpretable Model-agnostic Explanations) zerlegen KI-Entscheidungen in verständliche Faktoren und quantifizieren den Beitrag jeder Eingabevariable zum Modellergebnis. Sie bieten den Vorteil hoher Transparenz, zeigen aber bei komplexen Deep-Learning-Architekturen Präzisionsgrenzen. Proprietäre Tools wie TruEra oder Fiddler AI bieten umfangreichere Analyse-Dashboards, sind aber erheblich teurer.

Die Kostenspanne ist breit: Open-Source-Lösungen liegen meist unter 5 000 Franken jährlich, Enterprise-Lösungen reichen bis 150 000 Franken. Für kleinere Institute und Treuhändereien sind modulare Einstiegsprodukte, die gezielt einzelne Modelle oder Entscheidungsbereiche prüfen, eine verhältnismässige Option.

FINMA-Anforderungen und die Explainability-Pflicht

Die FINMA verlangt, dass KI-gestützte Entscheidungen, die rechtlich erhebliche Konsequenzen haben, für Betroffene nachvollziehbar und anfechtbar sein müssen. Das ist im Kontext der Kreditvergabe direkt anwendbar: Ein Kreditantragsteller, dessen Gesuch durch ein KI-System abgelehnt wurde, hat ein Recht auf eine nachvollziehbare Begründung. Ein Institut, das diese Begründung nicht liefern kann, weil das Modell eine Black Box ist, verstösst damit gegen die regulatorischen Vorgaben.

Das nDSG verstärkt diese Anforderung. Automatisierte Entscheidungen über Personen, die deren Rechte oder Pflichten erheblich betreffen, unterliegen einer ausdrücklichen Informationspflicht. Finanzinstitute, die KI-Systeme in der Kundenbewertung einsetzen, müssen in der Lage sein, die massgeblichen Entscheidungsfaktoren darzulegen.

Gegenüber dem EU-AI-Act, der für hochrisikante KI-Anwendungen im Finanzbereich strenge Voraussetzungen an Dokumentation und Prüfung knüpft, ist die Schweizer Rechtslage zurückhaltender, aber die Richtung ist dieselbe. Der Unterschied liegt in der Zeitlinie und der Detailtiefe der Vorgaben, nicht in der grundsätzlichen Anforderungslogik.

Einsatzbereiche in der Schweizer Finanzpraxis

Für Treuhänder ist KI-Forensik besonders relevant, wenn sie KI-gestützte Tools in der Vermögensberatung oder Anlagesteuerung einsetzen. Ein ESG-Scoring-Modell, das Anlageempfehlungen für Stiftungen oder Erbengemeinschaften generiert, muss nachweislich auf den angegebenen Nachhaltigkeitskriterien beruhen und nicht auf anderen, nicht offengelegten Faktoren. KI-Forensik-Tools können diesen Nachweis erbringen und gleichzeitig Modell-Drift erkennen: Veränderungen im Entscheidungsverhalten, die durch neue Trainingsdaten entstehen und nicht beabsichtigt waren.

KMU-Finanzleiter, die KI-Systeme in der Buchhaltungsautomatisierung oder Kreditverwaltung einsetzen, stehen vor einer praktischen Herausforderung: 78 Prozent der Schweizer KMU verfügen nach Branchenschätzungen über kein eigenes KI-Compliance-Team. Für diese Zielgruppe bieten spezialisierte Startups modulare Lösungen, die gezielt einzelne Anwendungsfälle abdecken und eine niedrige Implementierungshürde haben.

Finanzberater sollten intern eine KI-Compliance-Checkliste etablieren, die für jeden eingesetzten Algorithmus dokumentiert, welche Ausgaben manuell validiert wurden und welche nicht. Die FINMA hat in Pilotprojekten empfohlen, mindestens zehn Prozent der durch KI getroffenen Entscheidungen jährlich durch unabhängige Dritte prüfen zu lassen. Wer diesen Prozess frühzeitig institutionalisiert, ist bei einer Aufsichtsprüfung besser aufgestellt und reduziert das Risiko nachträglicher Korrekturen, die erheblich teurer sind als präventive Dokumentation.

---

Quelle: PYMNTS AI — Dieser Artikel wurde automatisch mit KI erstellt und basiert auf der oben verlinkten Originalquelle. Er wurde nicht individuell redaktionell geprüft. Keine Finanzberatung.