Richter warnt vor Gefahren durch Künstliche Intelligenz in der Justiz

Am 12. Oktober warnte der stellvertretende Richter am Obersten Gerichtshof der Philippinen, Marvic Leonen, in einer Vorlesung an der University of the Philippines College of Law in Diliman, Quezon City, vor den Risiken durch den Einsatz von Künstlicher Intelligenz (KI) in der Rechtsprechung. Er erklärte, dass KI vergangene Ungerechtigkeiten verfestigen könne, indem Systeme bestehende Vorurteile in historischen Daten reproduzieren und die individuellen Umstände einzelner Fälle vernachlässigen.

Ein Beispiel dafür ist die statistische Betrachtung der hohen Anzahl an Beschuldigten aus armen Verhältnissen, die zu dem falschen Schluss führen könnte, Armut sei der Haupttreiber für kriminelles Verhalten. Leonen betonte, dass eine vergangene Ungerechtigkeit niemals als Autorität oder Rechtfertigung dienen dürfe. Zwar kann KI Muster erkennen und Häufigkeiten berechnen, sie kann jedoch die Realität hinter den Daten nicht erklären.

Ein weiteres Problem sei der Verlust menschlicher Nuancen bei der Datenverarbeitung. Wichtige Details menschlicher Erfahrungen können verloren gehen, wenn Informationen in Trainingsdaten umgewandelt werden. So können Pausen oder emotionale Regungen wie Weinen durch Sprach-zu-Text-Anwendungen nicht erfasst werden, was die tatsächliche Realität der Erfahrung verschleiert. Richter müssen daher stets den einzelnen Menschen betrachten und dürfen Entscheidungen nicht allein auf statistische Muster oder Gruppenzugehörigkeiten stützen. KI kann Gerichte unterstützen, darf Richter jedoch niemals ersetzen.