Anekdoten aus der berechneten Zukunft

Browser-Based Scoring

FinTech ist ja so’n Ding gerade. Bei Banken und insbesondere im Kreditwesen wird zwar schon seit den 60er mit Daten und Profilen gearbeitet, die Zukunft vorhersagen wollten1, aber in den letzten Jahren hat das Digitalisierungs-Business hier nochmal einen Zahn zugelegt. Dazu passt eine Studie die vor einigen Wochen erschienen ist die getestet hat  inwiefern Informationen aus dem Browser, bzw. Daten die beim Registrieren in einem Online Shop anfallen, benutzen werden können, um zu berechnen ob Kund*innen ihren Einkauf pünktlich bezahlen werden oder nicht.

Lesen Sie weiter

  1. siehe z.B. Martin Schmitt „Der informationelle Mensch“ in Profile: Interdisziplinäre Beiträge []

Heise.de fasst in einem längeren Artikel das Ende des Hypes um IBM’s AI „Watson“ zusammen.  Vor einigen Jahren hatte das System mit einem Sieg beim Spiel „Jeopardy“ beeindruckt und wurde von IBM seitdem als Wunderwaffe, unter anderem in der Krebstherapie, vermarktet. Wie so oft kann die Realität mit dem Hype nicht mithalten und viele Krankenhäuser haben entweder die Pilotphasen nicht verlängert oder sind später ausgestiegen als sich gezeigt hat, dass die Vorschläge nicht besser waren als die humanoider Kollegen.

Auch scheint die Datenlage ein Problem zu sein. Einerseits scheint die Datenbasis einen Bias zu haben:

Deutsche Krebsmediziner verweisen auf das zusätzliche Problem, dass das System jahrelang mit Daten aus einem US-amerikanischen Krankenhaus für Wohlhabende trainiert worden sei und darauf zugeschnittene Lösungen vorschlage, die nicht immer für den Rest der Welt passten.

Andererseits ist auch die kontinuierliche Pflege der KI mit einem Aufwand verbunden und „die menschlichen Trainer der KI kämen häufig gar nicht nach, die sich rasch ändernden Behandlungsmethoden einzuspeisen.“

Während Watson damit auf’s Abstellgleis gerät zeigt ein Blick in die Heise Meldungen der letzten Wochen, dass die Nutzung von KI in der Diagnose und Therapie noch lange nicht an ihre ende gekommen ist.

15.06.2018: KI: Spricht bald ein Pflege-Avatar mit pflegebedürftigen Menschen?
12.07.2017: Neuronales Netz erkennt Herzinfarkte so gut wie erfahrene Kardiologen
14.08.2018: Deepmind: Künstliche Intelligenz erkennt Augenkrankheiten

Die Berichte sind allerdings wesentlich differenzierter und die Anwendungsgebiete wesentlich spezieller als was für Watson versprochen wurde.

In der Antwort auf eine kleine Anfrage der FDP überrascht das Inneministerium mich mit der Skepsis und Zurückhaltung gegenüber Predictive Policing, die man aus der Politik sonst gerade eher nicht hört.

So heißt es z.B. im Bezug auf die mageren Ergebnisse der Wirksamkeitsstudie in Baden-Würtemberg:

Der Bundesregierung sind die Ergebnisse des Evaluationsberichts bekannt. Diese decken sich tendenziell mit den bisher vorliegenden Erkenntnissen.

Darüber hinaus lernt man vor allem, dass die Bundesregierung die Tests in den Ländern beobachtet und man sich austauscht aber momentan weder eine Vereinheitlichung noch Bundesinitiativen zu dem Thema geplant ins.

Diese Zurückhaltung hat einerseits damit zu tun, das dass solche Software vor allem gegen Wohnungseinbrüche eingesetzt werde, wofür die Bundesbehörden nicht zuständig sind. Allerdings bleibt unklar was genau das Innenministerium unter „Predictive Policing“ versteht, denn der Einsatz von RADAR ist ja druchaus geplant, wird aber nicht erwähnt.

Andererseits macht die Skepsis durchaus Sinn. Eines der ersten Details aus der Kriminalstatistik 2017 ist etwa, dass die Anzahl der Einbrüche Bundesweit um 23% zurückgegangen sind. Mit der handvoll Pilotstudien zu Predictive Policing hat das sicher nichts zu tun.

Noch mehr überrascht hat mich allerdings eine Stellungnahme der Gewerkschaft der Polizei, die sich im Handelsblatt ebenfalls sehr zurückhaltend äußert. Kann aber natürlich auch sein, dass die Skepsis eher interessensgeleitet ist und inspiriert von den aktuellen Debatten über Jobs die durch die Digitalisierung überflüssig werden könnten..

Der schweizerischen Rundfunk bringt heute eine Reportage über die Nutzung von DyRiaS zur Einstufung von Gefährder*innen. Darin auch die Ergebnisse einer bisher unveröffentlichten Studie die zeigt, dass die Software viel zu viele Personen als potentiell hochgefährlich einstuft.

Studienautor Andreas Frei untersuchte darin 60 Männer, die während den Jahren 2000 bis 2012 psychiatrisch begutachtet worden waren. 39 von ihnen attestierte Dyrias im Nachhinein ein hohes Gewaltrisiko ab Stufe «4». Von diesen hatten letztendlich nur elf ein schweres Gewaltdelikt begangen – 28 Prozent. Das bedeutet: Zwei Drittel von denen, die Dyrias als hochgefährlich bezeichnete, schritten nie zur Tat.

Anders als die Software zu Berechnung des Rückfallrisikos die in den USA bei Gericht eingesetzt wird, „entscheidet“ DyRiaS auf Basis der Antworten von Fachpersonal über die zu beurteilende Person.

Risikoberechnung bei Wiederholungstäter*innen

Auf Wired.com fand ich einen interessanter Beitrag zu einer Studie über eine, in den USA, genutzte Software zur Berechnung des Rückfallrisikos von Straftäter*innen. Doe Software wird von Gerichten eingesetzt und Richter*innen nutzen Sie als Informationsquelle, wenn sie Entscheiden ob jemand auf Kaution frei kommen kann, oder eine Strafe zur Bewährung ausgesetzt wird. Die Studie zeigt, dass Laien in etwa genauso gute Einschätzungen liefern wie der Algorithmus.

Lesen Sie weiter

Es gibt jetzt ein Plugin, dass einem Einblicke in Daten geben soll, die Firmen wie Camebridge Analytica aus Facebook Profile berechnen. Die Technik basiert auf dem nun schon etwas älteren Arbeiten zu Facebook Likes und „Big Five“ Persönlichkeitsmerkmalen.

Das Plugin gibt es für Chrome und Firefox unter DataSelfie.it.

 

Evaluation von Precobs in Baden-Würtemberg

Viele Bundesländer haben in den vergangenen Jahren Pilotstudien zu Predictive Policing angekündigt, aber bisher hat man nur wenig darüber erfahren. Für Baden-Württemberg, wo PRECOBS getestet wurde, ist jetzt die erste, wissenschaftliche Begleitstudie erschienen, die Einbruchsmuster erkennen und „vorhersagen“ soll.

Dabei zeigt sich, was sich schon in Zürich angedeutet hat: Der Einfluss der Software auf die absoluten Einbruchszahlen ist gering, es funktioniert, wenn überhaupt, nur in Städten und die Datenqualität ist wichtig, produziert aber auch mehr Arbeit.

Lesen Sie weiter

Wie es scheint arbeitet man beim Taxi-Dienst Uber weiter an der Optimierung von Dynamic Pricing. Schon seit längerem bestimmen dort Angebot und Nachfrage in Echtzeit über die Preise mit darüber wieviel man für eine Strecke bezahlen muss (bzw. dafür bekommt). Uber will mit „surge pricing“ zu Stoßzeiten mehr von den crowdgesourcten Fahrer_innen auf die Straße locken. Kund_innen müssen höhere Preise bezahlen, wenn auch viele andere unterwegs sind, und die Fahrer_innen werden dann auch besser entlohnt, um ihnen einen Anreiz zu bieten.
Wie es scheint hat sich das Unternehmen, dass für seinen aggresiv-expansiv-kapitalistischen Kurs bekannt ist, noch mehr dem BWL Modell der Gesellschaft verschrieben und verlangt jetzt Preise abhängig davon welches Profil sie jemandem zugewiesen haben.
Lesen Sie weiter

Trump vs Microtargeting 2:0

Während des Wahlkampfes in den USA war hier im Blog schon kurz über Microtargeting berichtet worden. Trotz allerlei Microtargeting, Apps und Big Data Analysen lag Cruz hinter Donald Trump. Die Firma, die damals das Microtargeting für die Kampagne von Ted Cruz organisiert hat war Cambridge Analytica. Nachdem Trump, für viele unerwartet, eine Mehrheit im Wahlkollegium erhalten hat, wurde in den amerikanischen Medien viel über Microtargeting gesprochen.

Lesen Sie weiter

RADAR und DyRiAS – wie gefährlich sind Gefährder

Nach dem LKW-Anschlag auf einen Weihnachtsmarkt in Berlin wurde viel über präventive Maßnahmen gesprochen, um solche solche Attentate in Zukunft zu verhindern. Insbesondere Personen, die den Sicherheitsbehörden bereits als Gefährder bekannt sind, sollen in Zukunft stärker überwacht werden. Der Gefährder-Begriff ist (absichtlich) unscharf und erlaubt die Überwachung von Personen bei denen man vermutet, dass sie (weitere) Straftaten begehen könnten. Die Ungenauigkeit in der Definition hängt natürlich mit der Ungenauigkeit zusammen, was man für die Zukunft vermuten kann, und ist damit ein perfektes Spielfeld für predictive policing. RADAR heißt die Software, die das dazu BKA in Zukunft einsetzen will.

Lesen Sie weiter

« Ältere Beiträge

Copyright © 2018 Anekdoten aus der berechneten Zukunft

Theme von Anders Norén↑ ↑