In diesem Beitrag geht es um Intrado Beware, ein System, dass von Sicherheitsbehörden genutzt werden kann um für eine Person eine Threat Score oder Risk Index berechnet. Das System trifft zwar keine Vorhersagen, sondern ist eher ein Tool zu Datenaggregation, dennoch wird es als Predictive Policing beworben. Und letztendlich ist ein Score auch eine Aussagen darüber wie sich eine Person in Gegenwart und Zukunft verhalten wird.
Threat Score
Intrado Beware existiert eigentlich schon seit 2012, wird aber gerade in Fresno intensiv getestet. Das Tool wird genutzt, um, bei Eingang eines Notrufs, den Polizist*innen, die dorthin auf den Weg sind, Informationen über die potentiell dort drohende Gefahr zu geben.
Dazu werden Daten über die Bewohner*innen der Adresse gesammelt und zu einem personalisierten, drei-stufigen „Threat Score“ zusammen geführt.
[…] the Beware algorithm […] assigns a score and “threat rating” to a person — green, yellow or red. It sends that rating to a requesting officer.
For example, working off a home address, Beware can send an officer basic information about who lives there, their cell phone numbers, whether they have past convictions and the cars registered to the address.[…] “any [social media] comments that could be construed as offensive,” all contribute to the threat score […].
Viele der Informationen, die herangezogen werden, sind, vor allem in den USA, unproblematisch oder stammen aus Polizeidatenbanken. Dazu gehören vorherige Straftaten, Adressen oder Telefonnummern. Besonders ist dagegen die zuletzt genannte Nutzung von Social Media Postings, die auch am meisten Kritik hervorruft. Vor allem, weil sie viel zu ungenau ist.
Im einen Fernsehbeitrag wird das folgende Beipspiel genannt.
In der schriftlichen Variante des Beitrags wird das Beispiel einer Frau deren Risk Index Anstieg, nachdem sie über ein Spiel getwittert hat, dass das Wort „Rage“ enthielt. Sentiment Analyse wie sie nicht sein sollte. Als weitere Beispiel für ein Fehlurteil zitiert die Washington Post einen Lokalpolitiker aus Fresno, dessen Adresse mit „gelb“ bewertet wird. Die Polizei vermutet, dass ein vorheriger Bewohner Einfluss auf diesen Wert haben könnte.
Interessant wäre es zu erfahren wie das System mit dem nicht-Vorhandensein von Daten umgeht. Oder ob die Anzahl der Tweets insgesamt in ein Verhältnis gesetzt wird zu denen den anderen Daten.
Nutzung auf eigene Gefahr
Das System läuft auf den Servern des Anbieters und den Zugang können die Polizeistationen für 36.000 $ im Jahr mieten. Fresno testet das System für 18 Monate umsonst (was vermutlich heißt, dass sie vor allem PR betreiben).
Nach der Bereitstellung müssen die Verantwortlichen selbst Einstellungen vornehmen, die die Kategorisierung beeinflussen. Das heißt in einige Städten landet man schneller in der roten „gefährlich“ Kategorie als in anderen.
[…] Intrado merely provides the tool — leaving individual police departments to craft specific standards for what information is available and relevant in a threat score. Local departments can fine-tune their own data collection, but then threat thresholds could vary by locale, making oversight nearly impossible.Reuters
Anders als die predictive policing Software nimmt sich Beware also in der Bewertung der Ergebnisse noch stärker zurück, so dass, zumindest theoretisch, die Verantwortung für Fehlinterpretationen wieder vollständig bei den Nutzer*innen liegt. So entzieht sich Intrade der Verantwortung die sie als Entwickler*innen eigentlich haben und stellen sich auf den altbekannten (und verkürzten) Standpunkt, die Technik sei neutral und die Nutzung mache den Unterschied.
Tatsächlich entscheiden aber natürlich die Entwickler*innen welche Daten überhaupt in der Datenbank landen (können). Auch wenn behauptet wird, dies sei eine technische Entscheidung, hat es Einfluss auf die entstehenden Scores. Und nicht zuletzt bleiben die Daten, durch das Mietmodell, vollständig unter der Kontrolle von Intrado.
Schreibe einen Kommentar