Risiko kostspieliger Fehler durch veraltete Daten bei KI-Systemen

Unternehmen, die künstliche Intelligenz (KI) für Finanztransaktionen wie Zahlungen, Kreditgenehmigungen oder andere geschäftliche Abläufe einsetzen, laufen Gefahr, teure Fehler zu begehen, wenn die Systeme auf veralteten oder fragmentierten Daten basieren. Dies erklärte Predee Kajonpai, Senior Solution Architect bei TiDB, am Mittwoch während des AI Vision Forum Manila.

Laut Kajonpai steigen die Risiken insbesondere dann, wenn Unternehmen den Schritt von rein konversationellen Chatbots hin zu autonomen KI-Agenten vollziehen, die eigenständig geschäftliche Transaktionen ausführen können. Während eine falsche Antwort eines Chatbots meist unproblematisch sei, da man die Frage einfach wiederholen könne, könnten autonome Systeme bei fehlerhaften oder nicht synchronisierten Informationen falsche Finanzentscheidungen treffen oder Transaktionen mehrfach ausführen. Er warnte davor, dass Halluzinationen oder Fehler bei der Kreditgenehmigung oder bei Zahlungen schwerwiegende Folgen haben können.

Ein konkretes Beispiel für dieses Problem ist eine hypothetische Rückerstattung: Sollte ein KI-Agent eine Rückzahlung einleiten und das System währenddessen unterbrochen werden, könnte der Agent aufgrund veralteter Daten nicht erkennen, dass die erste Zahlung bereits abgeschlossen war. Wenn das System auf Basis veralteter Informationen neu startet, würde der Agent die Rückerstattung ein zweites Mal ausführen, was zu einer doppelten Auszahlung führt.

Eine der zentralen Hürden bei der Einführung von Unternehmens-KI sei die anhaltende Abhängigkeit von Dateninfrastrukturen, die keine Informationen in Echtzeit liefern. Informationen, die in getrennten Systemen gespeichert sind, sind oft nicht synchronisiert, wenn KI-Agenten Transaktionen ausführen. Dies erhöht das Risiko von Fehlern oder wiederholten Vorgängen massiv. Unternehmen müssten diese Probleme im Datenmanagement lösen, bevor sie KI-Agenten für Finanztransaktionen oder andere Operationen einsetzen, die präzise und aktuelle Informationen erfordern.

Kajonpai verwies zudem auf Schätzungen, wonach bis zu 95 % der KI-Initiativen in Unternehmen den Weg in die volle Produktion nicht schaffen. Das bedeute, dass man zwar 100 % des Geldes investiert, aber nur etwa 5 % der Projekte tatsächlich produktiv genutzt werden können. Zudem wurde eine Prognose angeführt, wonach bis zum Jahr 2027 etwa 40 % der KI-Projekte abgebrochen werden könnten. Das Technologieunternehmen Gartner hatte zuvor prognostiziert, dass mehr als 40 % der Projekte im Bereich der agentischen KI bis Ende 2027 aufgrund steigender Kosten, unklarer Geschäftswerte oder unzureichender Risikokontrollen eingestellt werden könnten.

Um diesen Herausforderungen zu begegnen, plädierte Kajonpai für den Einsatz vereinheitlichter Datenplattformen. Diese seien in der Lage, Transaktionen und Analysen in Echtzeit zu verarbeiten, wodurch die Notwendigkeit verringert werde, Informationen zwischen verschiedenen Systemen zu kopieren. Ein solches einheitliches System könne helfen, konsistente Datensätze zu führen und doppelte Handlungen durch KI-Agenten zu vermeiden. Er betonte, dass der Betrieb von KI-Agenten auf einer einzigen Plattform duplizierte Aktionen eliminiert, was bereits nachgewiesen worden sei. Das Unternehmen TiDB bietet hierfür Datenbanktechnologien an, die speziell auf die Verarbeitung von Transaktionen, Echtzeit-Analysen und KI-Anwendungen ausgelegt sind.