BSP gibt Richtlinien für den Einsatz von Künstlicher Intelligenz in Banken und E-Wallets
Die Bangko Sentral ng Pilipinas (BSP) hat freiwillige Richtlinien für den Einsatz von Künstlicher Intelligenz (KI) in Banken, E-Wallet-Betreibern und anderen überwachten Finanzinstituten veröffentlicht. Die Richtlinien, die durch Memorandum Nr. M-2026-031 erlassen wurden, legen die Mindestanforderungen der BSP für den verantwortungsvollen Einsatz von KI fest. Sie sind jedoch nicht bindend, sodass Finanzinstitute ermutigt, aber nicht verpflichtet sind, sie zu übernehmen.
KI ist bereits Teil der täglichen finanziellen Transaktionen der Filipinos, oft unbemerkt. Finanzinstitute nutzen KI, um Zahlungs- und Ausgabenmuster zu analysieren, die Wahrscheinlichkeit der Rückzahlung eines Kredits zu schätzen, die Identität eines Kunden während eines Online-Antrags zu verifizieren, Finanzprodukte zu empfehlen, mögliche Betrügereien zu erkennen und über Chatbots auf Anfragen zu reagieren.
In einer Umfrage der BSP aus dem Jahr 2024 gaben 21 von 48 befragten Finanzinstituten, also 44 Prozent, an, dass sie bereits mindestens ein KI-System eingesetzt haben. 60 Prozent der Institute planten, KI oder maschinelles Lernen in ihre Technologieroadmaps aufzunehmen. Die häufigsten Anwendungen umfassten die Überwachung von Betrug und Geldwäsche, elektronische Know-Your-Customer-Prüfungen, Kreditrisikobewertungen, personalisierte Produktempfehlungen und generative KI-Tools.
Einige Institute haben öffentlich bekannt gegeben, wie sie die Technologie nutzen. GCash nutzt KI und maschinelles Lernen, um Betrug, Geldwäscherisiken und unbefugten Zugang zu erkennen. Die E-Wallet analysiert auch Transaktionsmuster und andere Signale, um festzustellen, ob bestimmte Dienstleistungen für einen Nutzer geeignet oder verfügbar sind. UnionBank verwendet KI in kundenspezifischen Chatbots und unterstützt Mitarbeiter bei Entscheidungen, die ein Konto betreffen. Zudem nutzt das Institut KI und maschinelles Lernen für die Echtzeit-Betrugserkennung.
Die BSP hat fünf Governance-Prinzipien eingeführt, die durch das Akronym STARS zusammengefasst werden: Nachhaltigkeit, Transparenz, Verantwortlichkeit, Verantwortung und Sicherheit. BSP-Vizegouverneurin Lyn Javier betonte, dass diese Prinzipien den Finanzinstituten helfen sollen, zu innovieren und gleichzeitig unbeabsichtigte Folgen des Technologieeinsatzes zu mindern. Die BSP möchte, dass die Finanzinstitute von KI profitieren, insbesondere um ihre Kunden zu bedienen, und dabei von sich entwickelnden globalen Standards geleitet werden.
Ein wichtiges Prinzip ist, dass Kunden benachrichtigt werden müssen, wenn KI-Ausgaben in einem Produkt oder Prozess verwendet werden. Institute sollten auch relevante Einschränkungen offenlegen, insbesondere wenn ein KI-Ergebnis missverstanden oder missbraucht werden könnte. Nutzer sollten in der Lage sein, zu hinterfragen, wie ein Ergebnis erzeugt wurde und warum eine Empfehlung gemacht wurde, anstatt blind auf die Technologie zu vertrauen.
Banken und E-Wallets müssen menschliche Überwachung beibehalten. Während KI Vorhersagen oder Empfehlungen liefern kann, bleiben Menschen letztlich für die daraus resultierenden Entscheidungen verantwortlich. Die BSP betonte, dass die Ausgabe von KI-Systemen die menschliche Verantwortung nicht ersetzen oder mindern sollte. Finanzinstitute müssen Sicherheitsvorkehrungen einrichten, klare Verantwortlichkeiten für KI-Systeme zuweisen und deren Ergebnisse auf Fehler und ungerechte Ergebnisse überwachen.
Die BSP erkennt an, dass KI-Systeme Vorurteile perpetuieren können, was zu ungerechten Praktiken und dem Ausschluss von Personen vom Zugang zu Finanzprodukten und -dienstleistungen führen kann. Dieses Risiko kann auftreten, wenn ein KI-Modell mit unvollständigen, ungenauen oder unrepräsentativen Informationen trainiert wird. Ein solches System könnte bestimmte Gruppen, einschließlich einkommensschwacher Kreditnehmer, Minderheiten, gefährdeter Verbraucher oder Menschen mit begrenztem Zugang zu formellen Finanzdienstleistungen, benachteiligen.