Singapurs Finanzaufsicht Monetary Authority of Singapore (MAS) hat erstmals Leitlinien zum KI-Risikomanagement für Finanzinstitute veröffentlicht. Darin warnt sie, dass die komplexe und probabilistische Natur von KI zu unerwartetem oder verzerrtem Verhalten führen kann. Bei generativer und agentenbasierter KI sieht die Behörde diese Risiken nochmals verstärkt.
Vor dem Einsatz in der Produktion soll deshalb jeder KI-Anwendungsfall einschließlich der zugrunde liegenden Systeme und Modelle von einer unabhängigen, nicht an der Entwicklung beteiligten Stelle geprüft werden. Zusätzlich fordert die MAS technische und cybersicherheitsbezogene Prüfungen, damit KI kontrolliert und sicher in die Produktionsumgebung gelangt.
Die Verantwortung bleibt nach den Leitlinien beim Finanzinstitut, auch wenn ein externer Anbieter die KI bereitstellt. Unternehmen sollen die Eignung und Sicherheit von Drittanbieter-Systemen bewerten, ausreichende Nachweise einholen und bei Lücken kompensierende Kontrollen einführen. Reichen die Risiken nicht mehr ins eigene Risikoportfolio, soll die Nutzung eingeschränkt, ausgesetzt oder ersetzt werden.
Nach dem Start verlangt die Aufsicht eine laufende Überwachung auf Modellalterung, Leistungsabfall und Daten- oder Modell-Drift. Finanzinstitute sollen außerdem ein vollständiges Inventar ihrer KI-Nutzung führen und für risikoreiche Anwendungen Ausweichlösungen wie alternative Systeme oder manuelle Prozesse bereithalten. Damit wird KI-Governance von einer Entwicklungsfrage zu einer dauerhaften Betriebs- und Compliance-Aufgabe.