News: Uber-Algorithmus soll gefährliche Fahrer identifizieren

Stand:

Bei der Fahrt durch ein Beförderungsunternehmen spielen das Sicherheitsempfinden der Passagiere und die Vertrauenswürdigkeit des Fahrers eine große Rolle. Wie unter anderem der Guardian berichtet, hat der Fahrtendienstleister Uber seit Gründungstagen mit Sicherheitsproblemen zu kämpfen. [1]

Ein Autofahrer von der Rückbank eines Autos aus fotografiert
Off

Das soll nun anders werden. Laut Berichten des Onlinemagazins The Intercept hat das Unternehmen seit 2019 verschiedene Patente angemeldet, die darauf hindeuten, dass die Fahrerinnen und Fahrer zukünftig mithilfe von Algorithmen überwacht werden sollen. Ähnlich wie bei automatisierten Versicherungsmodellen oder vorausschauender Polizeiarbeit ("Predictive Policing") wird dann mit Hilfe von Algorithmen und Wahrscheinlichkeitsmodellen entschieden, ob einzelne Fahrerinnen oder Fahrer ein Sicherheitsrisiko darstellen. [2] 

Das Smartphone der Lenkenden wird dabei zur wichtigen Informationsquelle. Eines der zum Patent angemeldeten Systeme verfolgt zum Beispiel via Handy die Kopf- und Augenbewegungen. Ein weiterer Algorithmus beobachtet Geschwindigkeitsüberschreitungen, Unfälle oder riskante Manöver. Auch Kameras sollen zum Einsatz kommen, um zu bestimmen wie abgelenkt die Fahrerin oder der Fahrer ist. Diese Informationen werden dann mit den Nutzererfahrungen zusammengeführt, um festzulegen, wie vertrauenswürdig die Person am Steuer eines Uber-Fahrzeugs ist.

Darüber hinaus fließen das Verhalten in den sozialen Netzwerken, frühere Versicherungsfälle, öffentliche Polizeiakten, psychometrische Tests oder ein starker Akzent in die Sicherheitsbewertung mit ein. Auch die Tatsache, ob eine Fahrerin oder ein Fahrer tagsüber oder nachts arbeitet, kann das Sicherheitsprofil verändern. Die Anzahl der bereits durchgeführten Fahrten ebenso. 

Experten kritisieren die Vorgehensweise von Uber. Algorithmen, die menschliches Verhalten vorhersagen, haben sich in der Vergangenheit immer wieder als fehlerhaft und diskriminierend erwiesen (https://www.deutschlandfunkkultur.de/algorithmen-im-us-justizsystem-schicksalsmaschinen.3720.de.html?dram:article_id=385478).  Jeremy Gillula, Datenschutzingenieur bei Google, beschreibt den Ansatz von Uber im Magazin The Intercept als „äußerst bedenklich“. [4]

Liegt der Algorithmus falsch, können die Konsequenzen drastisch sein. Wird eine Fahrerin oder ein Fahrer zu Unrecht als unsicher eingestuft, verliert sie oder er im schlimmsten Fall den Job. Wie der Algorithmus zu seinem Ergebnis kommt, wird für die Betroffenen nicht nachzuvollziehen sein. Uber sagt aus, dass bislang keines der zum Patent angemeldeten Systeme zum Einsatz kommt


[1] https://www.theguardian.com/technology/2019/dec/05/uber-sexual-assault-report-safety-lyft

[2] https://theintercept.com/2021/10/30/uber-patent-driver-risk-algorithms/

[3] https://www.deutschlandfunkkultur.de/algorithmen-im-us-justizsystem-schicksalsmaschinen.3720.de.html?dram:article_id=385478

[4] https://theintercept.com/2021/10/30/uber-patent-driver-risk-algorithms/