Wie algorithmische Technologien wirksam werden

Im Digitalisierungsdiskurs dominiert die Vorstellung, algorithmische Technologien änderten Organisationen fundamental. Demgegenüber argumentiert der Artikel, dass die Wirkmächtigkeit algorithmischer Technologien davon abhängt, wie Organisationen sie in ihre Entscheidungs­architektur einbinden.

Ein breit geteilter Befund im aktuellen Digitalisierungsdiskurs lautet, dass Digitalisierung Organisationen fundamental ändert. Ein prominentes Argument in dieser Hinsicht ist z.B., dass algorithmische Technologien Organisationsgrenzen brüchig werden lassen, da Organisationen zunehmend stärker durch Daten konditional programmiert werden. Dies reduziert nicht nur die manageriale Fähigkeit, in Organisationen zu intervenieren, sondern reduziert auch insgesamt die Fähigkeit von Organisationen, autonome Entscheidungen zu treffen. Ein Beispiel für solche Prozesse lässt sich in Versuchen von Organisationen finden, Arbeitsprozesse zu automatisieren. Hinzu kommen Befürchtungen, dass algorithmische Technologien Kontrollmöglichkeiten schaffen, die zu einer zuvor ungekannten Sichtbarkeit individuellen Verhaltens führen. Und die Sorge mag berechtigt sein: Niemand möchte von einem Programm überführt werden, seinen Stundenzettel doch etwas großzügig ausgefüllt zu haben – oder seine persönliche Produktivitätsrate auf einem Chart im Weekly entdecken.

So berechtigt diese Sorgen und Argumente sind: folgt man ihnen, muss man zwangsläufig zu dem Schluss kommen, algorithmische Technologien usurpierten Organisationen, würden diese also technologisch determinieren. So einfach scheint es aber nur auf den ersten und wenig organisationssensiblen Blick.

Organisationen entscheiden, wie sie Technologien adaptieren 

Aus einer organisationssensiblen Perspektive ist die Annahme wenig über­zeugend, Organisationen seien mit Blick auf algorithmische Technologien lediglich passive Gebilde, die nach Belieben technologisch transformiert werden. Freilich, niemand würde bezweifeln, dass algorithmische Technologien zu vielfältigen Änderungen in Organisationen führen – schließlich ist kontinu­ierlicher Wandel oder präzise Adaption an neue Technologien in Organisationen Dauerzustand. Dennoch: schaut man durch die Brille der Organisationswissen­schaft, wird deutlich, dass auch die tiefgreifendsten Technologien kaum deterministisch wirken. Und dies können sie auch nicht, denn Organisationen sind aktive Kontexte, die durch ihre Entscheidungen beeinflussen, wie wirkmächtig algorithmische Technologien sind.

Organisationen entscheiden. Sie entscheiden über Mitglieder, über formale Strukturen, über die Ausgestaltung der Eingangshalle ebenso wie über Bürogrößen, Kommunikationswege, die Parkplatzordnung und den Standort des Wasserspenders. Sicher, diese Entscheidungen orientieren sich an gesell­schaftlichen Vorstellungen, die Legitimität versprechen, basieren auf Prämissen und sind durch organisationale Strukturen ebenso geprägt wie durch selektive Aufmerksamkeiten. Hinzu kommt, dass Organisationen in einem ökonomischen Sinne nicht rational sind und ihre Entscheidungen nur in seltenen Fällen zu den gewünschten Konsequenzen führen. Folglich lässt sich nicht sagen, dass Organisationen in einem naiven Sinne frei oder konsequentialistisch entschei­den. Dennoch: sie entscheiden – und zwar kontinuierlich und ständig und unterscheiden sich dadurch von dem, was nicht Organisation ist.

Legt man dieses in der Forschung akzeptierte Verständnis von Organisationen zugrunde, erkennt man, dass Organisationen auch darüber entscheiden wie, zu welchem Zweck und in welchem Umfang sie algorithmische Technologien adaptieren; sie werden eben nicht nur einfach von algorithmischen Technolo­gien überwältigt.

Organisationale Einblicke – der Österreichische Arbeitsmarktservice

Ausgehend von diesen Überlegungen sind wir dem Verhältnis von algorithmi­schen Technologien und Organisation am Beispiel des Österreichischen Arbeitsmarktservices (AMS) nachgegangen. Dieser hat in den Jahren 2018 bis 2022 einen Algorithmus pilotiert, der helfen sollte, arbeitssuchende Personen entsprechend ihrer Wiedereingliederungschancen zu kategorisieren. Diese Zielsetzung ist insofern typisch für Digitalisierungsprozesse und damit untersuchungswert für soziologische Studien, weil sich hier ein Muster für die Begründung algorithmischer Technologien in Organisationen beobachten lässt.

Dieses liegt darin, dass algorithmische Technologien genutzt werden sollen, um Prozesse in Organisationen vermeintlich zu objektivieren, indem Ermessens­spielräume von Mitarbeiter:innen algorithmisch eingehegt werden. Im besten Fall soll dies dazu führen, dass gerade öffentliche Organisationen sich dem von Max Weber postulierten Idealbild einer willkürfreien Bürokratie annähern. Zudem lautet ein Versprechen algorithmischer Technologien, das auch am Fall des AMS eine große Rolle spielte, dass sie dabei helfen, begrenzte organisationale Mittel effizienter einsetzen. Insofern überrascht es nicht, dass sich ähnliche Prozesse, wie wir sie am Österreichischen Arbeitsmarktservice betrachtet haben, in vielzähligen anderen Organisationen beobachten lassen.

Eine Frage der Selektion

Das Ziel des im AMS eingeführten Algorithmus war es, die Organisationen bei der Bestimmung der Förderungsbedürftigkeit arbeitssuchender Personen zu unterstützen. Um dies zu tun, war es zunächst notwendig, die Chancen arbeitssuchender Personen für eine erfolgreiche Wiedereingliederung in den Arbeitsmarkt zu bestimmen. Dies geschah, indem der Algorithmus ein Daten-Double der jeweiligen Person erzeugte. Das Merkmalset, das der Algorithmus heranzog, um dieses Double zu erstellen, basierte u.a. auf Informationen zu Geschlecht, Alter, Beschäftigungshistorie, Wohnbezirk, usw.

Auffällig waren vor allem zwei Dinge: Trotz großer Versprechungen basierte der Algorithmus auf einer sehr überschaubaren Datenbasis. Zudem handelte es sich ausschließlich um Daten, die in der Organisation vorhanden waren. Anders formuliert war das Selektionskriterium für die Auswahl der Daten nicht, welche Daten man benötigt, um eine möglichst aussagekräftige Prognose hinsichtlich der Wiedereingliederungschancen von Personen zu kalkulieren, sondern welche ohnehin vorliegenden Daten man zu diesem Zweck nutzen konnte.

In einem nächsten Schritt wurde das Daten-Double der arbeitssuchenden Personen vom Algorithmus mit einem unterstellten Idealfall verglichen. Wichen die arbeitssuchenden Personen von dem virtuellen Fall idealer Wiedereinglie­derungschancen ab, etwa weil sie aus einem Bezirk kamen, dessen lokaler Arbeitsmarkt als verhältnismäßig schwächer bewertet wurde, reduzierte der Algorithmus die prognostizierten Wiedereingliederungschancen.

Anschließend wurden die Personen einer von drei Kategorien zugeordnet. Abhängig von dieser Zuordnung verschlossen oder eröffneten sich Förder­möglichkeiten. Sie verschlossen sich für Personen, denen der Algorithmus eine hohe Wiedereingliederungschance attestierte und sie verschlossen sich für Personen, denen der Algorithmus eine niedrigere Wiedereingliederungschance bescheinigte.

In einem finalen Schritt wurden die algorithmischen Prognosen den Fallbearbei­ter:innen an die Hand gegeben, um diese bei der Bestimmung von Wiedereinglie­derungschancen zu unterstützen. Die algorithmischen Prognosen bildeten jedoch nur eine Empfehlung, die die Fallbearbeiter:innen hätten ignorieren können. Wie wahrscheinlich dies gewesen wäre, lässt sich nur vermuten, da der Algorithmus nach massivem öffentlichem Protest abgesetzt wurde. Angesichts der Zahl der zu bearbeitenden Fälle, ließe sich aber begründet vermuten, dass dies nur selten geschehen wäre.

Organisationen schreiben sich in Algorithmen ein

Der Fall des AMS lässt an vielfältigen Stellen erkennen, dass und wie Organisa­tionen sich in algorithmische Technologien einschreiben. Der Fall unterstreicht, dass algorithmische Technologien nicht aus sich heraus wirken, sondern durch Organisationen wirksam gemacht werden. Besonders deutlich wurde dies daran, dass die Organisation darüber entschied, wo im Prozess der Beurteilung arbeitssuchender Personen sie den Algorithmus platzierte. Dadurch wiederum gab sie diesem eine spezifische Wirkung, die zugleich aber kontingent war, also anders ausgefallen wäre, hätte man die algorithmische Technologie an anderer Stelle platziert.

Um dies zu illustrieren: Es wäre z.B. auch möglich gewesen, den Algorithmus zentraler einzubinden, indem man darauf verzichtet hätte, Vetorechte für Mitarbeiter:innen einzuräumen. Dies hätte die Fallbearbeitung weitestgehend automatisiert. Möglich wäre es aber auch gewesen, ihn später in der organisa­tionalen Entscheidungsarchitektur zu platzieren – etwa als Möglichkeit für die Fallbearbeiter:innen ihre Arbeit kritisch durch die Prognosen des Algorithmus zu betrachten. Der Fall zeigt aber auch, dass Organisationen schon auf Ebene der Datenbasis omnipräsent sind. Algorithmen werden oft nicht mit den besten oder notwendigen Daten gefüttert, sondern mit denen, die vorliegen. Deren begrenzte Aussagekraft ließ sich am Fall des AMS daran ablesen, dass Daten über soziale Netzwerke, die einen erheblichen Anteil daran haben, wieder Fuß im Arbeitsmarkt zu fassen, nicht erhoben wurden und auch nicht ohne Weiteres zu erheben gewesen wären.

Organisationale Entscheidungen beeinflussen die Wirkmächtigkeit algorithmischer Technologien

Die Analyse des Falls führte uns zu drei zentralen Erkenntnissen: 

• Erstens sind es Organisationen, die algorithmische Technologien überhaupt erst mit Wirkmächtigkeit ausstatten. Anders formuliert: algorithmische Technologien sind nicht aus sich heraus wirkmächtig, sondern müssen wirkmächtig gemacht werden.
• Zweitens tun Organisationen dies, indem sie diese Algorithmen auf eine bestimmte Art und Weise in ihre Entscheidungsarchitektur einbinden und schreiben sich damit in diese Technologien ebenso ein wie diese sich in und auf Organisationen auswirken.
•  Drittens ist somit zu erwarten, dass die Auswirkungen algorithmischer Technologien auf Organisationen nicht gleichförmig fundamental ausfallen, sondern sich in unterschiedlichen Organisationen sehr unterschiedlich gestalten. Eben weil Organisationen unterschiedlich darüber entscheiden, wie und wofür sie algorithmische Technologien in ihre Entscheidungs­architektur einbinden.

Organisationale Strukturen spielen eine entscheidende Rolle für die Frage, wie algorithmische Technologien wirksam werden: Sie sind nicht aus sich selbst heraus wirksam – sie werden durch Organisationen wirksam gemacht.  

Zum Weiterlesen:  

Büchner, Stefanie; Dosdall, Henrik (2022): Organisation und digitale Technolo­gien. Predictive Policing im organisationalen Kontext. Im Erscheinen in: Sonderheft Soziale Systeme „Organisation und Digitalisierung“, herausgegeben von Veronika Tacke und Sven Kette.

Büchner, Stefanie; Dosdall, Henrik (2021): Organisation und Algorithmus. Wie algorithmische Kategorien, Vergleiche und Bewertungen durch Organisationen relevant gemacht werden. In: Kölner Zeitschrift für Soziologie und Sozial­psychologie 73, S. 333-357.

Büchner, Stefanie (2018): Zum Verhältnis von Digitalisierung und Organisation. In: Zeitschrift für Soziologie 47 (5), S. 332-348.