Kategorie: Sicherheit

Immer mehr Städte in den USA verbieten aktuell die Nutzung von Facial Recognition, beziehungsweise gibt es Initiativen dagegen.

Im Zuge dessen hat nun auch die Kalifornische Kleinstadt Santa Cruz ein Verbot beschlossen. Das besondere: Das Verbot umfasst nicht nur Gesichtserkennungssoftware sondern auch predictive policing.

Warum mich das nach längere Zeit mal wieder zum posten veranlasst? Santa Cruz war eine der Modellstädte für predictive policing und Vorzeigestadt für predpol. In einem meiner ersten Posts war es auch das Beispiel aus dem Tagesschau-Bericht zum Thema. Das ausgerechnet Santa Cruz, wo die Nutzung von Predpol scheinbar schon 2017 eingestellt wurde, jetzt ganz Abschied von so invasiven und viel kritisierten Techniken nimmt verdeutlicht vielleicht das Zeitenwende für die Polizeiarbeit (zumindest in den USA) ansteht.

In der Antwort auf eine kleine Anfrage der FDP überrascht das Inneministerium mich mit der Skepsis und Zurückhaltung gegenüber Predictive Policing, die man aus der Politik sonst gerade eher nicht hört.

So heißt es z.B. im Bezug auf die mageren Ergebnisse der Wirksamkeitsstudie in Baden-Würtemberg:

Der Bundesregierung sind die Ergebnisse des Evaluationsberichts bekannt. Diese decken sich tendenziell mit den bisher vorliegenden Erkenntnissen.

Darüber hinaus lernt man vor allem, dass die Bundesregierung die Tests in den Ländern beobachtet und man sich austauscht aber momentan weder eine Vereinheitlichung noch Bundesinitiativen zu dem Thema geplant ins.

Diese Zurückhaltung hat einerseits damit zu tun, das dass solche Software vor allem gegen Wohnungseinbrüche eingesetzt werde, wofür die Bundesbehörden nicht zuständig sind. Allerdings bleibt unklar was genau das Innenministerium unter „Predictive Policing“ versteht, denn der Einsatz von RADAR ist ja druchaus geplant, wird aber nicht erwähnt.

Andererseits macht die Skepsis durchaus Sinn. Eines der ersten Details aus der Kriminalstatistik 2017 ist etwa, dass die Anzahl der Einbrüche Bundesweit um 23% zurückgegangen sind. Mit der handvoll Pilotstudien zu Predictive Policing hat das sicher nichts zu tun.

Noch mehr überrascht hat mich allerdings eine Stellungnahme der Gewerkschaft der Polizei, die sich im Handelsblatt ebenfalls sehr zurückhaltend äußert. Kann aber natürlich auch sein, dass die Skepsis eher interessensgeleitet ist und inspiriert von den aktuellen Debatten über Jobs die durch die Digitalisierung überflüssig werden könnten..

Der schweizerischen Rundfunk bringt heute eine Reportage über die Nutzung von DyRiaS zur Einstufung von Gefährder*innen. Darin auch die Ergebnisse einer bisher unveröffentlichten Studie die zeigt, dass die Software viel zu viele Personen als potentiell hochgefährlich einstuft.

Studienautor Andreas Frei untersuchte darin 60 Männer, die während den Jahren 2000 bis 2012 psychiatrisch begutachtet worden waren. 39 von ihnen attestierte Dyrias im Nachhinein ein hohes Gewaltrisiko ab Stufe «4». Von diesen hatten letztendlich nur elf ein schweres Gewaltdelikt begangen – 28 Prozent. Das bedeutet: Zwei Drittel von denen, die Dyrias als hochgefährlich bezeichnete, schritten nie zur Tat.

Anders als die Software zu Berechnung des Rückfallrisikos die in den USA bei Gericht eingesetzt wird, „entscheidet“ DyRiaS auf Basis der Antworten von Fachpersonal über die zu beurteilende Person.

Risikoberechnung bei Wiederholungstäter*innen

4. April 2018 / / Ein Kommentar

Auf Wired.com fand ich einen interessanter Beitrag zu einer Studie über eine, in den USA, genutzte Software zur Berechnung des Rückfallrisikos von Straftäter*innen. Doe Software wird von Gerichten eingesetzt und Richter*innen nutzen Sie als Informationsquelle, wenn sie Entscheiden ob jemand auf Kaution frei kommen kann, oder eine Strafe zur Bewährung ausgesetzt wird. Die Studie zeigt, dass Laien in etwa genauso gute Einschätzungen liefern wie der Algorithmus.

Weiterlesen

Evaluation von Precobs in Baden-Würtemberg

28. September 2017 / / Ein Kommentar

Viele Bundesländer haben in den vergangenen Jahren Pilotstudien zu Predictive Policing angekündigt, aber bisher hat man nur wenig darüber erfahren. Für Baden-Württemberg, wo PRECOBS getestet wurde, ist jetzt die erste, wissenschaftliche Begleitstudie erschienen, die Einbruchsmuster erkennen und „vorhersagen“ soll.

Dabei zeigt sich, was sich schon in Zürich angedeutet hat: Der Einfluss der Software auf die absoluten Einbruchszahlen ist gering, es funktioniert, wenn überhaupt, nur in Städten und die Datenqualität ist wichtig, produziert aber auch mehr Arbeit.

Weiterlesen

RADAR und DyRiAS – wie gefährlich sind Gefährder

7. Februar 2017 / / Ein Kommentar

Nach dem LKW-Anschlag auf einen Weihnachtsmarkt in Berlin wurde viel über präventive Maßnahmen gesprochen, um solche solche Attentate in Zukunft zu verhindern. Insbesondere Personen, die den Sicherheitsbehörden bereits als Gefährder bekannt sind, sollen in Zukunft stärker überwacht werden. Der Gefährder-Begriff ist (absichtlich) unscharf und erlaubt die Überwachung von Personen bei denen man vermutet, dass sie (weitere) Straftaten begehen könnten. Die Ungenauigkeit in der Definition hängt natürlich mit der Ungenauigkeit zusammen, was man für die Zukunft vermuten kann, und ist damit ein perfektes Spielfeld für predictive policing. RADAR heißt die Software, die das dazu BKA in Zukunft einsetzen will.

Weiterlesen

Predpol unterstützt diskriminierende Polizeiarbeit

16. Oktober 2016 / / Keine Kommentare

Das die predictive policing Software PredPol nicht besonders gut funktioniert wussten wir ja schon. Nun hat die Human Rights Data Analysis Group Predpol unter die Lupe genommen und den Algorithmus exemplarisch auf Drogendelikte und Verhaftungen in Oakland angewendet. Die Ergebnisse sind in einer kurzen Studie veröffentlicht worden und zeigen: Predpol übernimmt die gleichen rassistischen Tendenzen wie die „reguläre“ Polizeiarbeit. Es sagt Drogenkriminalität auch überwiegend in Gegenden mit schwarzer Bevölkerung vorher, dabei zeigen andere Zahlen, dass der Anteil von Drogenkonsumten_innen dort gar keinen besondere Signifikanz hat.

Weiterlesen

Nach drei Jahren hat die 70.000 Einwohner_innen Stadt Mipitas in Kalifornien ihren Vertrag mit Predpol aufgelöst. Als Grund wir unter anderem angeführt, dass sich ein Programm in einer Stadt dieser Größe nicht lohne und die internen Prozesse ausreichend genau seien.

„It was our experience that we often did not have sufficient staff to post officers at PredPol-identified locations and still remain responsive to priority calls for service,“ Pangelinan said.

He added his police force discovered that within Milpitas‘ approximately 14 square miles the „existing internal processes of tracking crime and identifying potential areas of exposure were often more accurate than results received from PredPol.“ (Zitiert von govtech.com, 14.07.2016)

Wie auch in anderen Städten war die Anzahl der Straften nach Einführung von Predpol erst rückläufig, dann normalisierten sich die Zahlen aber. Insgesamt rechtfertige der Effekt die Kosten aber nicht.

Wie auch in den meisten anderen Städten bestätigt sich scheinbar auch für München die wie wenig Nachhaltig Precobs sich auf die Rückgänge bei den Einbrüchen auswirkt.

Manchmal muss man unumstößliche Wahrheiten in die Tonne treten, weil sie umstößlich geworden sind und gestoßen werden müssen. Man nehme die Super-Vorhersagesoftware Precobs, deren Einsatz in München dazu führte, dass 2015 in den von Precobs überwachten Gebieten 25 bis 30 Prozent weniger Einbrüche passierten. Fantastisch? Nun sind die Halbjahreszahlen von 2016 da und im aktuellen gedruckten Behördenspiegel beklagt ein Polizeigewerkschaftler das satte Plus von 30 Prozent bei den Einbrüchen in München. Hat man im Vertrauen auf das „Predictive Policing“ die Belegschaft reduziert? Ist die Software wirkungslos geworden? Macht nichts, der Folgeauftrag, die Software zu optimieren, ist so gut wie sicher. Die prinzipielle Wirksamkeit ist ja „bewiesen“. (heise online vom 10.07.2016)

Copyright © 2024 Anekdoten aus der berechneten Zukunft

Theme von Anders Norén — ↑ ↑