Kategorie: Linkempfehlung

Der schweizerischen Rundfunk bringt heute eine Reportage über die Nutzung von DyRiaS zur Einstufung von Gefährder*innen. Darin auch die Ergebnisse einer bisher unveröffentlichten Studie die zeigt, dass die Software viel zu viele Personen als potentiell hochgefährlich einstuft.

Studienautor Andreas Frei untersuchte darin 60 Männer, die während den Jahren 2000 bis 2012 psychiatrisch begutachtet worden waren. 39 von ihnen attestierte Dyrias im Nachhinein ein hohes Gewaltrisiko ab Stufe «4». Von diesen hatten letztendlich nur elf ein schweres Gewaltdelikt begangen – 28 Prozent. Das bedeutet: Zwei Drittel von denen, die Dyrias als hochgefährlich bezeichnete, schritten nie zur Tat.

Anders als die Software zu Berechnung des Rückfallrisikos die in den USA bei Gericht eingesetzt wird, „entscheidet“ DyRiaS auf Basis der Antworten von Fachpersonal über die zu beurteilende Person.

zum Blog passender Artikel bei Heise.

In den USA wird seit Jahren Software eingesetzt, die anhand verschiedener Faktoren das Rückfallrisiko von Angeklagten berechnen soll. Die funktioniert aber gar nicht so gut und bewertet vor allem Afroamerikaner systematisch zu schlecht.

In einem ausführlichen Artikel widmete sich Ende Mai David Brown dem Nutzen der tatsächlich angewendeten Epedemievorhersagen, wie sie im vergangenen Jahr während der Ebole-Krise genutzt wurden.

In aller Kürze kann man festhalten, dass insbesondere die Modelle zur Vorhersage der Ausbreitung von Ebola falsch lagen, und alles viel zu schwarz gesehen haben. Da will man natürlich draus gelernt und in Zukunft – vor allem mit noch mehr Daten – besser werden. Es wird, also nicht die eine Datenquelle sein, wie die hier besprochenen CDR, sein, die die Berechnungen leitet, sondern, eher im Sinne der sehr komplexen Klimamodellrechnungen, wird versucht möglichst viele Faktoren mit einzuberechnen.

“It really set off alarm bells.”
(Richard Hattchet von der Biomedical Advanced Research and Development Authority, zitiert nach David Brown )

Trotzdem wird der Einsatz der Modelle von einigen Beteiligten als Positiv gewertet. Interessanterweise aber eben weil sie dramatische Zahlen lieferten. Deren Effekt war dann nicht unbedingt bessere Planbarkeit, sondern dass die Notwendigkeit überhaupt zu Handeln, stieg.

 

Der Spiegel hat in seiner aktuellen Ausgabe (10/2015) einen Bericht über PRECOBS und andere predictive policing Techniken die hier im Blog auch schon besprochen wurden. Das Thema ist kurz wieder aktuell, weil auch auf dem europäischen Polizeikongress viel darüber gesprochen wurde. Das es sich auch um einen Hype handelt, zeigt sich daran, dass immer wieder die selben Beispiele aufgezählt werden und es die Info gibt, dass große Unternehmen viel Geld in Softwareentwicklung investieren.

Lesen Sie weiter

Beim NDR, wo sie regelmäßig über die SCHUFA und Adressehändler_innen berichten, wurden Details aus einer Präsentation veröffentlicht in der die SCHUFA darlegt welche Daten wie häufig bei der Score-Berechnung zur Kreditwürdigkeit mit einfließen.  Da die SCHUFA scheinbar nur zu 9% der Leute was negatives sagen kann, werden häufiger andere Kriterien herangezogen. Und die sind klassisch konservativ: das Alter von Datensätzen (also wie lange ein Konto besteht und wie oft sich die Adresse ändert) ist das Attribut, das am häufigsten in die Berechnung einfließt. Leider weiß auch der Leak nichts über die Bewertung dieses Attributs. Liest die SCHUFA häufige Umzüge eher als „flexible und Karriereorientiert“ oder als „potentielle Mietnomanden“? Deutet ein Bankwechsel und viele Konten auf „reich und preisbewusst bei Finanzdienstleistungen“ hin oder auf „interssiert sich für Geldwäsche“?

Lesen Sie weiter

Copyright © 2021 Anekdoten aus der berechneten Zukunft

Theme von Anders Norén↑ ↑