Der Algorithmus, von dem Kalifornien behauptete, er existiere nicht
What the CSRA does is build a profile from fixed personal data and compress it into a single number. The report describes the system analyzing “static” factors, including age, gender and criminal history, to “assign a risk level from 1 (Low) to 5 (High Risk Violence).” Two of those inputs, age and gender, are traits a person never chose and cannot alter. The state feeds them into an algorithm and lets the output shape decisions about supervision and freedom.
California frames the scoring as good housekeeping. “By identifying high-risk individuals, the CDCR can focus its limited rehabilitation resources where they are needed most to have the maximum positive impact on public safety,” the report suggests. The framing skips past who absorbs the cost when the number gets a person wrong, which is the person assigned the higher score.
Das CSRA erstellt ein Profil aus festen personenbezogenen Daten und fasst dieses in einer einzigen Zahl zusammen. Der Bericht beschreibt, wie das System „statische“ Faktoren wie Alter, Geschlecht und Vorstrafen analysiert, um „eine Risikostufe von 1 (gering) bis 5 (hohes Gewaltrisiko) zuzuweisen“. Zwei dieser Eingabewerte – Alter und Geschlecht – sind Merkmale, die eine Person sich nicht ausgesucht hat und nicht ändern kann. Der Staat speist diese Daten in einen Algorithmus ein und lässt das Ergebnis Entscheidungen über Überwachung und Freiheit bestimmen.
Kalifornien stellt die Bewertung als sinnvolle Verwaltungsmaßnahme dar. „Durch die Identifizierung von Personen mit hohem Risiko kann das CDCR seine begrenzten Resozialisierungsressourcen dort einsetzen, wo sie am dringendsten benötigt werden, um die öffentliche Sicherheit bestmöglich zu gewährleisten“, heißt es in dem Bericht. Dabei wird jedoch außer Acht gelassen, wer die Kosten trägt, wenn die Zahl eine Person falsch einstuft – nämlich die Person, der die höhere Punktzahl zugewiesen wurde.