Algorithmen könnten dabei helfen, gerichtliche Entscheidungen zu verbessern

Ein neues Dokument in der Vierteljährliches Journal of Economics stellt fest, dass die Ersetzung einiger gerichtlicher Entscheidungsfunktionen durch Algorithmen die Ergebnisse für Angeklagte verbessern könnte, indem einige systemische Vorurteile der Richter beseitigt werden.

Entscheidungsträger treffen Folgeentscheidungen auf der Grundlage von Vorhersagen unbekannter Ergebnisse. Insbesondere Richter entscheiden darüber, ob den Angeklagten eine Freilassung auf Kaution gewährt oder die für schuldig befundenen Personen verurteilt werden. Unternehmen nutzen mittlerweile zunehmend auf maschinellem Lernen basierende Modelle, um Entscheidungen mit hohem Risiko zu treffen.

Dem Einsatz solcher Lernmodelle liegen verschiedene Annahmen über menschliches Verhalten zugrunde, die sich in Produktempfehlungen auf Amazon, Spam-Filterung von E-Mails und vorausschauenden Textnachrichten auf dem Telefon widerspiegeln.

Hier entwickelten die Forscher einen statistischen Test einer dieser Verhaltenshypothesen, der darauf abzielte, ob Entscheidungsträger systematische Vorhersagefehler machen, und entwickelten Methoden, um abzuschätzen, wie systematisch ihre Vorhersagen verzerrt sind.

Bei der Analyse des Vorverfahrenssystems von New York City zeigen Untersuchungen, dass ein erheblicher Teil der Richter systematische Fehler bei der Vorhersage des Risikos eines Fehlverhaltens vor dem Verfahren macht, wenn sie die Merkmale des Angeklagten wie Rasse, Alter und früheres Verhalten berücksichtigen.

Für die hier durchgeführte Untersuchung wurden Informationen von New Yorker Richtern verwendet, die quasi zufällig Team-definierten Fällen im zugewiesenen Gerichtssaal zugewiesen werden. In der Studie wurde untersucht, ob die Freilassungsentscheidungen von Richtern (unter anderem) zutreffende Annahmen über das Risiko widerspiegeln, dass ein Angeklagter nicht zur Verhandlung erscheint. Die Studie basierte auf Informationen zu 1.460.462 Fällen in New York City, von denen 758.027 Fälle vor der Verhandlung freigegeben wurden.

In dem hier vorgestellten Artikel wurde ein statistischer Test zur Bestimmung, ob ein Entscheidungsträger systematische Vorhersagefehler macht, abgeleitet und Methoden zur Schätzung der systematischen Verzerrung der Vorhersagen des Entscheidungsträgers bereitgestellt. Der Artikel analysiert die Entscheidungen von New Yorker Richtern zur Freilassung vor Gericht und schätzt, dass mindestens 20 Prozent der Richter angesichts der Merkmale des Angeklagten systematische Fehler bei der Vorhersage des Risikos eines Fehlverhaltens des Angeklagten machen. Motiviert durch diese Analyse schätzte der Forscher hier die Auswirkungen des Ersatzes von Richtern durch algorithmische Entscheidungsregeln ab.

Die Zeitung stellte fest, dass die Entscheidungen von mindestens 32 Prozent der New Yorker Richter nicht mit der tatsächlichen Fähigkeit der Angeklagten, eine bestimmte Kaution zu hinterlegen, und dem tatsächlichen Risiko, dass sie nicht zur Verhandlung erscheinen, vereinbar sind.

Die hier durchgeführte Untersuchung zeigt, dass der mittlere Richter bei Berücksichtigung der Rasse und des Alters der Angeklagten bei etwa 30 Prozent der ihm zugewiesenen Angeklagten systematische Vorhersagefehler macht. Betrachtet man sowohl die Rasse der Angeklagten als auch die Frage, ob dem Angeklagten ein Verbrechen vorgeworfen wird, macht der mittlere Richter systematische Prognosefehler bei etwa 24 % der ihm zugewiesenen Angeklagten.

Während das Papier feststellt, dass die Ersetzung von Richtern durch eine algorithmische Entscheidungsregel mehrdeutige Auswirkungen hat, die vom Ziel des politischen Entscheidungsträgers abhängen (ist das gewünschte Ergebnis, dass mehr Angeklagte zum Prozess erscheinen, oder eines, bei dem weniger Angeklagte im Gefängnis auf ihren Prozess warten?), Es scheint, dass die Ersetzung von Richtern durch eine algorithmische Entscheidungsregel zu einer Verbesserung der Prozessergebnisse um bis zu 20 % führen würde, gemessen an der Rate der Nichterscheinen unter freigelassenen Angeklagten und der Rate der Untersuchungshaft.

„Die Auswirkungen des Ersetzens menschlicher Entscheidungsträger durch Algorithmen hängen vom Kompromiss zwischen dem Menschen ab, der auf der Grundlage der beobachtbaren Informationen, die dem Algorithmus zur Verfügung stehen, systematische Vorhersagefehler macht, und dem Menschen, der nützliche private Informationen beobachtet“, sagte der Hauptautor des Papiers, Ashesh. Rambachan.

„Der ökonometrische Rahmen dieser Arbeit ermöglicht es empirischen Forschern, direkte Beweise für diese konkurrierenden Kräfte zu liefern.“