TU Wien: Niedrigster Wert soll bei Rückfallrisiko gelten

Ob Häftlinge nach der Entlassung erneut straffällig werden, hängt von vielen Faktoren ab. Sowohl menschliche Experten als auch Machine-Learning-Modelle versuchen, dieses Risiko einzuschätzen. Kommen dabei mehrere gleichwertige Rechenmodelle zu verschiedenen Ergebnissen, sollte stets der niedrigste Wert für die betroffene Person gelten – das fordern Ashwin Singh von der TU Wien und Carlos Castillo von der Universitat Pompeu Fabra.

Die beiden Forscher analysierten ein System zur Rückfallprognose, das seit über 15 Jahren in katalanischen Gefängnissen im Einsatz ist. Ihre Ergebnisse präsentierten sie kürzlich auf der neunten AAAI/ACM-Konferenz zu KI, Ethik und Gesellschaft.

Gleiche Präzision, andere Einstufung

In vielen Strafvollzugssystemen kommen ML-Modelle zum Einsatz, um Fachleute bei der Risikoeinschätzung zu unterstützen. Dabei handelt es sich meist um einfache lineare Punktesysteme, nicht um komplexe generative KI. Sie verknüpfen Informationen über die Vergangenheit einer Person – etwa Vorstrafen – mit Faktoren, die sich während der Haft verändern können, beispielsweise dem Bildungsniveau.

Die Prognose bleibt jedoch unsicher, da die Daten nur messbare Merkmale erfassen. Lebenswege von Personen mit ähnlichen Merkmalen können stark voneinander abweichen. Deshalb können mehrere Modelle bei derselben Person zu unterschiedlichen Ergebnissen kommen, obwohl sie gleich präzise sind und dieselben Merkmale berücksichtigen.

„Es wäre schwer zu rechtfertigen, warum eine Person einen höheren Risikowert erhält, nur weil per Zufall eines von mehreren gleich guten Modellen ausgewählt wurde“, sagt Singh. „Unsere Richtlinie klärt diese Unklarheit zugunsten der betroffenen Person.“

Über 17.500 Fälle ausgewertet

Das Team untersuchte das System RisCanvi, das seit 2009 in Katalonien verwendet wird. In Kooperation mit Forschenden aus dem katalanischen Justizdepartment übersetzten die Wissenschaftler komplexe rechtliche Regeln in einen Algorithmus. Damit konnten sie systematisch feststellen, ob eine Person nach der Entlassung im rechtlichen Sinn rückfällig geworden war. Das Team sammelte Daten zu mehr als 17.500 Haftentlassungen. Daraus entwickelte es einfache lineare Modelle, deren Ergebnisse sich leicht erklären lassen (interpretierbare Modelle). Ihre Vorhersagen sind treffsicherer als zuvor. Zudem machen sie bei verschiedenen Gruppen ähnlich häufig Fehler. Verglichen wurden etwa Männer mit Frauen und Menschen mit spanischer Staatsangehörigkeit mit Menschen ohne.
Die Forscher bauten außerdem eine technische Sicherung ein. Sie sorgt dafür, dass der Risikowert sinkt, wenn jemand in der Haft sichtbar Fortschritte bei der Rehabilitation macht. „Ein Bewertungssystem sollte positive Veränderungen auch tatsächlich als solche abbilden“, betont Singh.

Letzte Entscheidung liegt beim Menschen

Eine Risikobewertung kann nicht sicher sagen, ob jemand wieder straffällig wird. Sie nennt nur eine Wahrscheinlichkeit. Fachleute nutzen diese als Hilfe für ihre eigene Einschätzung. In Katalonien gibt es während der Haft zwei Bewertungen: eine vom Algorithmus und eine von Menschen. Wie in den meisten anderen europäischen Ländern vergleicht man beide miteinander. Am Ende entscheidet aber immer ein Mensch.
„Es ist aber sinnvoll, beide Einschätzungen heranzuziehen“, betont Singh. „Gerade weil die Daten stark rauschen, muss die Verantwortung für die Entscheidungsfindung letztendlich bei menschlichen Expert_innen liegen.“
Wenn es um die Bedingungen in der Haft oder eine vorzeitige Entlassung geht, müssen mehrere Interessen gegeneinander abgewogen werden. Dazu gehören der Schutz der Öffentlichkeit und die persönliche Lage der inhaftierten Person. Auch ihre Entwicklung in der Haft zählt, ebenso das Ziel einer erfolgreichen Rehabilitation. Dazu kommen Faktoren wie die Auslastung der Gefängnisse.

Einfache Regel ohne Genauigkeitsverlust

Die Modelle nutzten teils verschiedene Kriterien. Trotzdem kamen sie meist zum gleichen Ergebnis. Wenn die Ergebnisse doch nicht übereinstimmten, galt eine einfache Regel: Bei jedem Häftling zählt der niedrigste Risikowert. Das Forschungsteam fand heraus, dass die Vorhersagen insgesamt dadurch kein bisschen schlechter werden.
„Die Unsicherheit bei der Auswahl des Modells sollte nicht zulasten der betroffenen Person gehen“, sagt Singh. Durch die Regel hängt das Ergebnis weniger von einem einzigen Modell ab. Das ist wichtig, denn Inhaftierte können schwer beweisen, dass das Risikobewertungssystem sie benachteiligt.
Die Studie zeigt: Bei Hochrisikoanwendungen im Sinne des AI Acts (EU-Gesetz über Künstliche Intelligenz) zählen nicht nur Genauigkeit und ähnliche Fehlerquoten. Auch die Stabilität der einzelnen Risikobewertungen ist wichtig.

Quelle: https://www.tuwien.at/tu-wien/aktuelles/news/news/im-zweifel-fuer-das-geringere-risiko