@ Artem Podrez von Pexels
Automatisierte Entscheidungssysteme sind zu einem festen Bestandteil der Wirtschaft geworden. Viele verschiedene Branchen nutzen Algorithmen, um Entscheidungen zu automatisieren und effizienter zu gestalten. Eine Branche existiert in erster Linie aufgrund von Algorithmen: digitale Plattformen, die Arbeit vermitteln. Dazu gehören Plattformen, die Fahrdienste, Essenslieferungen, Dienstleistungen für zu Hause oder Onlinearbeit anbieten. Viele Kernfunktionen digitaler Arbeitsplattformen basieren auf Algorithmen. Ohne Algorithmen müssten alle Entscheidungen von Menschen getroffen werden, was die Skalierbarkeit von Plattformen stark einschränken würde.
Aber was genau sind Algorithmen, wie werden sie eingesetzt, welche Folgen hat algorithmisches Management für Arbeitende, und was kann man dagegen tun?
Der Algorithmus als Chef
Ein Algorithmus kann als eine Reihe von Regeln verstanden werden, die einen Computer oder eine Software zu einer bestimmten Entscheidung führen, wobei der Mensch nur wenig oder gar nicht eingreift, sobald der Algorithmus einmal gestartet ist. Manchmal können Algorithmen so konzipiert sein, dass sie „lernen“. Algorithmen für maschinelles Lernen können beispielsweise große Datenmengen verarbeiten und Muster erkennen und ableiten.
Während Algorithmen das Management effizienter gestalten können und für das Wachstum von Plattformen unerlässlich sind, gibt es auch Fälle, in denen Algorithmen auf bedenkliche und unethische Weise eingesetzt werden. Manche Plattformen setzen Algorithmen ein, um Arbeitende zu einem bestimmten Verhalten zu bewegen. So werden beispielsweise Plattformarbeiter*innen durch Algorithmen dafür belohnt, dass sie Lieferungen in kurzer Zeit erledigen und damit ihre eigene Sicherheit und die anderer gefährden. Algorithmen können auch steuern, wie viele Arbeitsaufträge den Arbeitenden zur Verfügung gestellt werden. Plattformen nutzen diese Fähigkeit der Algorithmen, um Arbeitsmöglichkeiten für viele Arbeiter*innen sichtbar zu machen und so ein Überangebot an Arbeitskräften zu kreieren und damit die Bezahlung zu drücken.
Ein grundlegendes Problem bei Algorithmen ist, dass sie undurchsichtig sind, sei es aus gestalterischen oder technischen Gründen. Nehmen wir ein Beispiel: Ein Bewertungsalgorithmus summiert die Kund*innenbewertungen und teilt das Ergebnis durch die Anzahl der Bewertungen, um die durchschnittliche Bewertung eines Plattformarbeitenden zu ermitteln. Plattformen setzen oft viel komplexere Algorithmen ein, die verschiedene Datenpunkte und Korrelationen berücksichtigen, um Arbeit zuzuweisen, Löhne festzulegen, Lieferrouten und -zeiten zu berechnen oder sogar Arbeiter*innen automatisch zu entlassen oder zu sperren, ohne dass ein Einspruchsverfahren besteht. Für die Arbeiter*innen ist in der Regel unklar, wie der Algorithmus zu diesen Entscheidungen kommt.
Viele Anwendungsfälle von Algorithmen auf digitalen Arbeitsplattformen sind überaus bedenklich. Eine indische Lieferplattform macht beispielsweise den Zugang von Arbeiter*innen zur Krankenversicherung von Entscheidungen abhängig, die von Algorithmen getroffen werden. Auf der Grundlage aggregierter Punkte bestehend aus Gesamtbewertungen und der Leistung stuft ein Algorithmus die Arbeitenden in eine Gold-, Silber- oder Bronze-Clubmitgliedschaft ein. Die Mitgliedschaft bestimmt den Versicherungsschutz, der den Arbeitenden und ihren Familien zur Verfügung steht. Dabei berücksichtigt der Algorithmus weder die Möglichkeit fehlerhafter Routen oder Lieferzeiten, die er selbst zugewiesen hat, noch andere Variablen wie Staus, Verkehrsunfälle oder die menschliche Variable – Kund*innenwünsche oder absichtlich negativ abgegebene Bewertungen. In diesem Fall entscheiden Algorithmen nicht nur darüber, wo eine Lieferung abgeholt wird, sondern auch, ob Arbeiter*innen ihr Recht auf Gesundheitsversorgung wahrnehmen können.
Algorithmisches Management hat zwar viele positive Eigenschaften in Bezug auf Effizienz und allgemeines Wirtschaftswachstum, jedoch sind Algorithmen oft nicht darauf ausgelegt, unvorhergesehene Ereignisse oder Störungen zu berücksichtigen. Meist müssen die Plattformarbeiter*innen nachweisen, dass Störungen außerhalb ihrer Kontrolle lagen, welche zur Verzögerung bei der Erledigung einer Aufgabe führten. Plattformen bieten oft keine einfachen Meldestrukturen für Arbeitende, sondern folgen in der Regel starren Auszahlungsstrukturen mit unzureichenden Entschädigungsmechanismen. Manchmal können Algorithmen Fehler machen, selbst wenn sie mit den besten Absichten entwickelt und eingesetzt werden. Mit anderen Worten: Algorithmen sind oft nicht in der Lage, die Komplexität des Lebens der Arbeitenden zu berücksichtigen, wenn sie Entscheidungen für sie treffen.
How to Algorithmen – Lassen Sie uns über Regulierungsansätze sprechen
Algorithmen sind eine großartige Errungenschaft der digitalen Transformation, und sie werden auch in Zukunft Teil unserer Arbeitswelt sein. Der Einsatz von Algorithmen für die automatisierte Entscheidungsfindung und das Management ist in vielen Branchen bereits ein wesentliches Merkmal. Allerdings gibt es immer noch viele negative oder unbeabsichtigte Folgen, da es nur wenige rechtliche Rahmenbedingungen gibt, die sich mit der Entwicklung und Nutzung von Algorithmen befassen. Um die Potenziale von Algorithmen zu heben und gleichzeitig ihre Risiken zu mindern, müssen die politischen Entscheidungsträger*innen verschiedene politische Optionen prüfen, die der komplexen Natur von Algorithmen Rechnung tragen.
Der erste Schritt beginnt mit der Nahrung der Algorithmen – den Daten. Die Datenschutz-Grundverordnung der Europäischen Union und die Datenschutzgesetze in einigen anderen Ländern geben den Menschen das Recht auf Erklärung, wenn Entscheidungen von automatisierten Systemen getroffen werden. Plattformarbeiter*innen können und haben diese Bestimmungen genutzt, um einseitiges algorithmisches Management durch Plattformen anzufechten. Arbeiter*innen und Gewerkschaften haben auch versucht, Zugang zu den Daten zu erhalten, die von Algorithmen über sie gesammelt und genutzt werden. Sie möchten Plattformen zwingen, diese Daten von Treuhändler*innen verwalten zu lassen, welche zwischen den Interessensgruppen vermitteln. Die Regierungen müssen es den Arbeitenden leichter machen, die Daten, die die Plattform über sie besitzt, überprüfen zu können und um Machtungleichgewichte zu verringern.
Es muss mehr getan werden, um sicherzustellen, dass Arbeiter*innen nicht von vornherein durch algorithmisches Management benachteiligt werden. Vorschriften zur Transparenz von Algorithmen können viel dazu beitragen, dass Plattformtätige die Vorgänge und Ziele eines Algorithmus verstehen. Darüber hinaus können Regierungen auch vorschreiben, dass Algorithmen bestimmten Standards folgen und bestimmte Leistungsanforderungen erfüllen müssen, als eine Art ethisch/fair-by-design Ansatz. Für bereits eingeführte Algorithmen sowie für die Betriebsphase aller Algorithmen sind andere Mechanismen erforderlich. Algorithmische Audits sind ein solcher Mechanismus. Regierungen oder Dritte sollten das Recht haben, die Funktion von Algorithmen aus rechtlichen und ethischen Gründen zu überprüfen, um Rechenschaftspflicht und Transparenz zu gewährleisten. Das Fairwork Netzwerk stellt beispielsweise eine Reihe von Grundsätzen zur Verfügung, die politischen Entscheidungsträgern und Plattformen helfen können, faire und ethische Praktiken für den Einsatz von Algorithmen und KI am Arbeitsplatz festzulegen.
Viele verschiedene politische Optionen und Wege existieren. Jedoch gibt es keine einfache Einheitslösung, die für alle gleichermaßen gilt. Antworten auf Dateneigentum und -schutz sowie das gewünschte Maß an Transparenz und Eingriffsschwellen werden maßgeblich vom Dialog zwischen allen Beteiligten sowie von nationalen gesellschaftspolitischen Überlegungen abhängen. Obwohl es bereits viele Initiativen gibt und verschiedene Akteure begonnen haben, sich für ein faires und ethisches algorithmisches Management einzusetzen, haben wir noch einen langen Weg vor uns.
Die Gig Economy Initiative der GIZ unterstützt politische Akteur*innen, Plattformen und Plattformarbeiter*innen auf dem Weg zu einem fairen und ethischen algorithmischen Management und entwickelt verschiedene Aktivitäten. Im Rahmen von Kursen für Arbeiter*innen und politische Akteur*innen informiert die Initiative über die Nutzung und Wirkung von Daten und Algorithmen. Darüber hinaus zielt eine Workshop-Reihe darauf ab, das Bewusstsein für Fragen rund um algorithmisches Management bei intermediären Organisationen zu schärfen. In diesem Sommer wird das erste Pilotprojekt zusammen mit der Friedrich-Ebert-Stiftung starten und sich auf Gewerkschaften in Kenia konzentrieren.