Diskriminierungspotenzial bei Online-Stellenanzeigen

Die digitale Transformation verändert zahlreiche Lebensbereiche durch den Einsatz immer leistungsfähigerer Techniken und Technologien. Bestimmte Tätigkeiten werden nicht länger von Menschen, sondern vollautomatisiert durch Maschinen, Roboter und andere Systeme Künstlicher Intelligenz (KI)¹ ausgeführt. Auch arbeitsbezogene Entscheidungen werden zunehmend durch oder mit Hilfe von Algorithmen² getroffen. Gleichzeitig entstehen neue wirtschaftliche Tätigkeiten wie Plattformdienste oder die Gig Economy. Zu den zentralen Herausforderungen dieses Digitalisierungsprozesses zählt seine geschlechtergerechte und diskriminierungsfreie Ausgestaltung.³
Ein Bereich, in dem diese Veränderungen – aber auch die damit einhergehenden Risiken für (historisch) diskriminierungsgefährdete Gruppen besonders deutlich werden, ist die Arbeitswelt. Diskriminierung von Frauen in der Arbeitswelt hat Tradition – eine Tradition, die die digitale Transformation weiterführt?
Der Berufsweg beginnt zumeist mit der Arbeitssuche. Während Stellenanzeigen früher hauptsächlich in Printmedien veröffentlicht wurden, findet die Suche nach geeigneten Mitarbeiter*innen heute fast ausschließlich online statt. Jobportale im Internet, die eigene Unternehmenswebsite und Social Media Plattformen gelten als wichtigste Rekrutierungskanäle.⁴ Aus Unternehmenssicht bieten Online-Stellenanzeigen gegenüber Anzeigen in Printmedien eine Reihe von Vorteilen: Anzeigen auf Unternehmenswebsites lassen sich rasch und unkompliziert veröffentlichen und erreichen eine größere Anzahl von Stellensuchenden, ohne zusätzliche Kosten zu verursachen.⁵ Die Anzeigen können außerdem mit verschiedenen Darstellungsoptionen wie Text, Bildern, Audiodateien oder interaktiven Links kombiniert werden.⁶ Jobportale und soziale Medien ermöglichen es darüber hinaus, Stellenanzeigen gezielt jenen Personen anzeigen zu lassen, die für die jeweilige Stelle am „passendsten“ erscheinen. Dieses so genannte Targeted Advertising (zielgerichtete Werbung) ist für die Arbeitssuchenden allerdings mit zahlreichen Risiken verbunden: Es kann zu diskriminierenden Ergebnissen führen und bestehende gesellschaftliche Ungleichheiten verstärken.⁷

I. Ein Klick vor, zwei Klicks zurück

Auf online Jobportalen und sozialen Medien können Unternehmen festlegen, welche Eigenschaften und Merkmale diejenigen Personen aufweisen sollen, denen ihre Stellenanzeigen gezeigt werden. Die Daten der Nutzerinnen werden mit Hilfe von Algorithmen nach den festgelegten Attributen gefiltert und die passendsten Personen ausgewählt. Studien zeigen, dass die Ergebnisse dieses algorithmenbasierten Auswahlprozesses eklatante Biases⁸ aufweisen: Stellenanzeigen für hochbezahlte Tätigkeiten oder Tätigkeiten im MINT-Bereich (Mathematik, Informatik, Naturwissenschaft und Technik) werden weiblichen Stellensuchenden seltener gezeigt als männlichen.⁹ US-amerikanische Stellenangebote in der Holzindustrie erreichten zu 90% männliche Nutzer, während Anzeigen für Supermarktkassiererinnen überwiegend weiblichen Personen gezeigt wurden.¹⁰ Die zielgerichtete Anzeige von Stellenanzeigen online verläuft also entlang bekannter geschlechterstereotyper vertikaler und horizontaler Segmentierungen des Arbeitsmarktes.¹¹
Anders als bei Print-Stellenanzeigen werden Stellensuchende, die aufgrund von Geschlechterstereotypen und Vorurteilen als weniger geeignet eingestuft werden, nicht (erst) bei der Entscheidung über eine Einladung zu einem Vorstellungsgespräch oder der tatsächlichen Stellenbesetzung benachteiligt: Das automatisierte Targeted Advertising von Online-Stellenanzeigen führt vielmehr dazu, dass Personen(gruppen) gänzlich davon ausgeschlossen werden, bestimmte Stellenanzeigen überhaupt wahrzunehmen. Dies stellt eine massive Benachteiligung beim Zugang zum Arbeitsmarkt und – sofern die Auswahl der Nutzer*innen, die die Anzeige (nicht) sehen, auf persönlichen Merkmalen beruht – ein gravierendes Diskriminierungsrisiko dar.¹²

II. EU-Rechtsrahmen

Die Einbettung von algorithmischen und KI-unterstützten Tools in fast jedem Bereich des täglichen Lebens hat die EU veranlasst eine Reihe von Gesetzen zu erlassen, die sich den damit einhergehenden Risiken entgegenstellen sollen.

A) EU Verordnungen zum Digitalen Markt

1.) Gesetz über Digitale Dienste
Das Gesetz über digitale Dienste¹³ gilt für alle Vermittlungsdienste und Plattformen. Es legt einen horizontalen Rahmen für Transparenz, Rechenschaftspflicht und Regulierungsaufsicht fest. Im Hinblick auf Targeted Advertising will das Gesetz negative Auswirkungen vor allem durch höhere Transparenz­anforderungen verringern: Plattformen müssen die Empfängerinnen zielgerichteter Werbung darüber informieren, dass sie zielgerichtete Werbung sehen, in wessen Auftrag diese Werbung angezeigt wird und aufgrund welcher Parameter die Nutzerinnen die Werbung sehen (Art. 26 Gesetz über Digitale Dienste). Die Transparenzanforderungen sollen also sicherstellen, dass Nutzerinnen verstehen, weshalb sie z.B. eine bestimmte Stellenanzeige sehen. Die Nutzerinnen erfahren jedoch nichts darüber, welche Stellenanzeigen sie nicht sehen oder warum sie bestimmte Anzeigen nicht sehen. Das Gesetz über Digitale Dienste kann daher der Behinderung beim Arbeitsmarktzugang, die mit zielgerichteter Werbung verbunden sein kann, nicht wirksam entgegenwirken.

2.) Gesetz über Digitale Märkte
Das Gesetz über Digitale Märkte¹⁴ trifft Regelungen für so genannte „Gatekeeper“: Das sind Online-Plattformen mit einer Börsenkapitalisierung von mindestens 75 Milliarden Euro oder einem Jahresumsatz von 7,5 Milliarden Euro, die mindestens 45 Millionen monatliche Endnutzerinnen in der EU und über 10.000 jährliche geschäftliche Nutzerinnen haben. Die Muttergesellschaften von u.a. Google und Facebook werden von der Europäischen Kommission als „Gatekeeper“ eingestuft.¹⁵ Das Gesetz über Digitale Märkte verbietet es z.B. Facebook, personenbezogene Daten von Instagram zu sammeln, an Facebook zu exportieren und als Grundlage für zielgerichtete Werbung zu verwenden. Die spezifischen, mit dem Targeted Advertising von Stellenanzeigen verbundenen Herausforderungen werden vom Gesetz über Digitale Märkte allerdings nicht adressiert.

3.) KI-Verordnungsentwurf
Dem KI-Verordnungsentwurf¹⁶ liegt ein risikobasierter Ansatz zu Grunde. Je nach Risikoniveau eines KI-Systems sollen unterschiedliche Regeln für das Risikomanagement zum Tragen kommen. KI-Systeme, die für die Einstellung oder Auswahl natürlicher Personen, insbesondere für die Bekanntmachung freier Stellen verwendet werden sollen, gelten als Hochrisikosysteme. In seinen Ergänzungen zum KI-Verordnungsentwurf hat das EU-Parlament die wichtige Klarstellung getroffen, dass darunter insbesondere das Targeted Advertising von Stellenanzeigen zu verstehen ist.¹⁷ Die Regelungen der KI-Verordnung sind allerdings nur auf jene KI-Systeme anzuwenden, die nach dem Inkrafttreten dieser Verordnung in den Verkehr gebracht werden oder deren Zweck oder Konstruktion nach dem Inkrafttreten wesentlich verändert wurde.
Sämtliche der genannten EU-Rechtsakte betonen die Notwendigkeit der diskriminierungsfreien Ausgestaltung der Digitalisierung. Wie die digitale Transformation diskriminierungsfrei gestaltet werden kann, regeln das Gesetz über digitale Dienste, das Gesetz über digitale Märkte und der KI-Verordnungsentwurf jedoch nicht, sondern verweisen diesbezüglich auf bestehende EU-Regelungen.

B) Das Antidiskriminierungsrecht

Das Verbot der Diskriminierung in Beschäftigung und Beruf ist in bisher drei Richtlinien geregelt: Die neugefasste Gleichbehandlungsrichtlinie,¹⁸ die Diskriminierung aufgrund des Geschlechts verbietet, die Antirassismusrichtlinie,¹⁹ die Diskriminierung aus Gründen der ethnischen Herkunft verbietet, und die Rahmenrichtlinie,²⁰ welche die Anzahl der geschützten Merkmale auf Religion oder Weltanschauung, Behinderung, Alter und sexuelle Ausrichtung ausweitet.
Art. 14 neugefasste Gleichbehandlungsrichtlinie, Art. 3 Antirassismusrichtlinie und Art. 3 Rahmenrichtlinie verbieten Diskriminierung im öffentlichen und privaten Sektor in Bezug auf „die Bedingungen – einschließlich Auswahlkriterien und Einstellungsbedingungen – für den Zugang zur Beschäftigung“. Der EuGH hat wiederholt festgestellt, dass der „Zugang zur Beschäftigung“ weit auszulegen ist.²¹ Stellenbewerbungen, Stellenanzeigen sowie der gesamte Einstellungsprozess fallen dementsprechend in den Anwendungsbereich der jeweiligen Richtlinien.²² Die Vorschriften über Beschäftigung und Beruf gelten demnach auch für Stellenanzeigen – unabhängig davon, ob sie offline oder online, mit oder ohne algorithmische Hilfe, veröffentlicht werden.

1.) Unmittelbare Diskriminierung
Eine unmittelbare Diskriminierung bezeichnet „eine Situation, in der eine Person aufgrund [eines geschützten Merkmales] eine weniger günstige Behandlung erfährt, als eine andere Person in einer vergleichbaren Situation erfährt, erfahren hat oder erfahren würde“.²³ Es gibt lediglich zwei Ausnahmen vom Verbot der unmittelbaren Diskriminierung: Erstens, wenn ein Merkmal, das mit einem geschützten Merkmal zusammenhängt (nicht das Merkmal selbst), eine wesentliche und entscheidende berufliche Anforderung für die betreffende Stelle darstellt (z.B. wenn ein männlicher Schauspieler im Alter von 45-55 Jahren für eine bestimmte Rolle in einem Theaterstück gesucht wird); und zweitens die Regelung zu positiven Maßnahmen, durch die Personen mit einem geschützten Merkmal, sofern sie unterrepräsentiert sind, besondere Vorteile erhalten, um bestehende Nachteile im Arbeitsumfeld auszugleichen (z.B. Quoten).

2.) Mittelbare Diskriminierung
Eine mittelbare Diskriminierung bezeichnet „eine Situation, in der dem Anschein nach neutrale Vorschriften, Kriterien oder Verfahren Personen [mit einem geschützten Merkmal] in besonderer Weise gegenüber Personen [ohne diesem Merkmal] benachteiligen können, es sei denn, die betreffenden Vorschriften, Kriterien oder Verfahren sind durch ein rechtmäßiges Ziel sachlich gerechtfertigt und die Mittel sind zur Erreichung dieses Ziels angemessen und erforderlich“.²⁴ Ausreichend ist, dass die betreffende Bestimmung eine nachteilige Wirkung haben kann.²⁵ Eine mittelbare Diskriminierung kann gerechtfertigt sein, wenn mit der fraglichen Maßnahme ein rechtmäßiges Ziel verfolgt wird und die Mittel zur Erreichung dieses Ziels angemessen und erforderlich sind. Finanzielle und wirtschaftliche Ziele alleine werden im Allgemeinen nicht als ausreichend angesehen, um eine unterschiedliche Behandlung zu rechtfertigen.²⁶

3.) Diskriminierung durch Assoziierung
Diskriminierung durch Assoziierung bezieht sich auf die Benachteiligung einer Person aufgrund des Merkmales einer Gruppe oder Person, mit der sie assoziiert wird. Das bedeutet, dass das Verbot der Diskriminierung aus einem geschützten Grund nicht nur für Personen gilt, die das geschützte Merkmal besitzen, sondern auch für Personen, die diskriminiert werden, weil sie mit einer Person oder Personen in Verbindung gebracht werden, die ein geschütztes Merkmal besitzen (z.B. wenn eine Arbeitnehmerin wegen der Behinderung ihres Kindes benachteiligt wird). Der EuGH hat klargestellt, dass das Antidiskriminierungsrecht sowohl vor unmittelbarer als auch vor mittelbarer Diskriminierung durch Assoziierung schützt.²⁷
Im Allgemeinen ist festzuhalten: Unabhängig davon, ob ein algorithmisches Tool bei der Einstellungsfrage zur Hilfe gezogen wird oder nicht, ist derdie Arbeitgeberin dafür verantwortlich, wenn eine Nichteinstellung auf einer Diskriminierung basiert. Zu beachten ist allerdings, dass das unionsrechtliche Antidiskriminierungsrecht nur für (zukünftige) Arbeitgeber*innen gilt, nicht aber für jene Unternehmen, die Stellenanzeigen offline (z.B. Zeitungen) oder online (z.B. Jobplattformen und soziale Medien) veröffentlichen.²⁸ Die Veröffentlichung einer Stellenanzeige in einer Zeitung oder online könnte jedoch als Dienstleistung für Arbeitssuchende betrachtet werden und könnte somit unter das Verbot der Diskriminierung im Bereich öffentlich angebotener Güter und Dienstleistungen fallen (Art. 3 Abs. 1 lit h Antirassismusrichtlinie und Art. 1 Gender-Güter-Dienstleistungsrichtlinie²⁹ ). Der unionsrechtliche Diskriminierungsschutz ist hier allerdings auf die Merkmale „Geschlecht“ und „ethnische Zugehörigkeit“ beschränkt.

III. Das Medium ändert sich – die Diskriminierung bleibt gleich?

A) Unverändert: Sprache kann diskriminieren

Ob online oder offline, weder der Text einer Stellenanzeige noch allenfalls verwendete Bilder dürfen unmittelbar oder mittelbar diskriminierend sein. Wenn der Wortlaut einer Stellenanzeige darauf hindeutet, dass eine bestimmte Stelle nur für Bewerberinnen eines bestimmten Geschlechts, einer bestimmten ethnischen Herkunft oder einer bestimmten Altersgruppe offen ist oder auf andere geschützte Merkmale beschränkt ist, handelt es sich (abseits der zulässigen Ausnahmen) um einen Fall von unmittelbarer Diskriminierung. Die gleiche Sorgfalt ist auch bei der visuellen Ausgestaltung von Anzeigen geboten. D.h. weder sollte das generische Maskulinum verwendet werden, noch sollten Bilder für gewünschte Kandidatinnen eine homogene männliche Belegschaft abbilden. Ebenso verboten sind mittelbare Diskriminierungen. Wenn beispielsweise die Eignung von Bewerber*innen von einer Körpergröße von mindestens 1,70 Meter abhängig gemacht wird, kann dies eine mittelbare Diskriminierung von Frauen darstellen, da Frauen im Allgemeinen kleiner sind als Männer.³⁰ Eine mittelbare Diskriminierung kann sich etwa auch aus Stellenanzeigen ergeben, in denen „Personen mit Militärerfahrung“ gesucht werden, wodurch Frauen benachteiligt werden könnten, wenn Männer im Militärdienst überrepräsentiert sind.³¹

B) Neu: Diskriminierung wird effektiver

1.) Daten und Bias
Algorithmen, die errechnen, wem welche Stellenanzeigen gezeigt werden, funktionieren auf Grundlage von Daten. Zumeist wird ein Algorithmus anfänglich mit einer großen Menge an Daten (z.B. von früheren erfolgreichen Bewerberinnen) trainiert. Diese Daten werden statistisch analysiert, um Muster in den Datensätzen zu finden (welche Merkmale weisen alle bisher erfolgreichen Bewerberinnen auf). Diese Muster können dann wiederum verwendet werden, um auf neue Dateneingaben übertragen zu werden.³² Die Daten sind somit eine entscheidende Komponente eines Algorithmus, sie sind allerdings auch die Ursache von Bias (und in weiterer Folge u.U. auch Diskriminierung).
Bias bezeichnet allgemein eine Voreingenommenheit.³³ Hierbei handelt es sich meist um eine Bevorzugung, Benachteiligung, Verzerrung oder anderweitige Differenzierung von Personen oder Eigenschaften. Bias kann erwünscht oder unerwünscht sein. Bias im Sinne einer Differenzierung ist für das ordnungsgemäße Funktionieren eines Algorithmus erforderlich.³⁴ Kann der Algorithmus nicht zwischen relevanten und irrelevanten Eingabedaten unterscheiden, ist er nutzlos.³⁵ Unerwünschte Differenzierungen von Algorithmen, oftmals in Form einer Bevorzugung, Benachteiligung oder Verzerrung, stellen hingegen eine signifikante Herausforderung dar. Meist wird von dieser unerwünschten Art von Bias gesprochen, wenn auf das Problem von Bias in Algorithmen hingewiesen wird. So auch im Folgenden. Im Grunde kann ein Algorithmus auf zwei Wegen Bias formen: Zum einen durch die (Trainings-)Daten und zum anderen durch das Modell selbst.³⁶

a) Wo kommt der Bias her?
Während die algorithmische Aufbereitung neu ist, ist der Bias es nicht bzw. nicht immer. Eine hilfreiche – aus den Computerwissenschaften für die Topologie des Antidiskriminierungsrechts nutzbar gemachte – Einteilung von Bias nimmt Lopez vor:³⁷ Sie unterteilt Bias in rein technischen, soziotechnischen und gesellschaftlichen Bias.³⁸ In den rein technischen Bias fällt alles, was einem technischen Fehler gleicht, eine Fehlmessung oder eine Fehlkonzeption ist. Hier wird also etwas falsch in den Daten oder vom System abgebildet. Auch Fehler, die aus der Notwendigkeit zur Simplifikation der Daten entstanden sind, und Bias, der sich durch Programmierentscheidungen ergibt, lassen sich hier ansiedeln.³⁹ Bias kann sich auch durch Generalisierungsmaßnahmen formen.⁴⁰ Der soziotechnische Bias ergibt sich durch einen Fehler in der Datenlage gegenüber der Realität. Hierbei ist die Datenlage nicht repräsentativ für die Realität und vermittelt dem Algorithmus ein verzerrtes Bild (z.B. wenn die Datenlage bestimmte Personengruppen nicht oder unterrepräsentiert). Der Algorithmus kann aber nur auf Grundlage dessen entscheiden, was ihm die Daten vermitteln und reproduziert so (falsche) Ungleichheiten, die aus den Daten stammen. Hier kann auch der Bias eingeordnet werden, der durch die Interaktionen von Nutzer*innen ins System einfließt.⁴¹ Der gesellschaftliche Bias ist der, den es schon vor der Verwendung des Systems gab und der in der Gesellschaft tatsächlich vorhanden ist. Daten, die einen gesellschaftlichen Bias aufweisen, sind also nicht falsch oder verzerrt, sondern bilden tatsächliche strukturelle Ungleichheiten ab. Jeder Bias kann, wenn er im Zusammenhang mit geschützten Merkmalen aufkommt, zu einer Diskriminierung führen.
Die Unterteilung verdeutlich, wie Bias in die Daten kommt: Zum einen kann es tatsächlich an der technischen Umsetzung und Fehlern liegen, zum anderen ist der Bias aber einfach schon da. Letztlich kann Bias auch durch das Zusammenspiel beider Elemente entstehen.

b) Was passiert mit dem Bias in Algorithmen?
Bias in Algorithmen hat Konsequenzen: Egal welche Art von Bias im System ist, sobald er einmal im System ist, kann er sich verbreiten. Der Bias kann reproduziert werden, verstärkt werden oder es kann auch neuer Bias entstehen.⁴² Bereits vorhandener Bias wird immer weiter auf neue Fälle übertragen. Ist ein Algorithmus zum Beispiel mit zu wenig Abbildungen von Women of Colour trainiert, wird er auch zukünftig Women of Colour nicht als Personen erkennen.⁴³ Verstärkt wird der Bias im Algorithmus dann, wenn Entscheidungen, die schon einen Bias aufweisen, wiederum als Grundlage für neue Entscheidungen verwendet werden und die Datenlage weiter verzerren. Neuer Bias entsteht oft dann, wenn Korrelationen zu Kausalitäten gemacht werden. Schlussfolgerungen werden dann aus teilweise zufälligen oder irrelevanten Wechselbeziehungen geschlossen. Findet der Algorithmus in der Datenlage eine Korrelation zwischen der Dauer des Arbeitsweges und erfolgreichen Mitarbeiter*innen, ergibt sich ein Bias gegen Jobsuchende, die weiter weg wohnen.⁴⁴
Anhand von Targeted Advertising von Stellenanzeigen lässt sich gut nachvollziehen, wie Bias zu Diskriminierung werden kann.

2.) Fallbeispiel: Targeted Advertising
Das gezielte Anzeigen von Stellenanzeigen durch Targeted Advertising zeigt beispielhaft, wie sich der Bias im Algorithmus äußert. Hiermit wird auch das Diskriminierungspotenzial deutlich. Während der Wortlaut der Anzeige weiterhin alle schon dagewesenen Risiken für Diskriminierung beinhaltet, wird beim Targeted Advertising noch zusätzlich die Zielgruppe eingeschränkt. Das Targeting bietet verschiedene Möglichkeiten, die Zielgruppe von Stellenanzeigen einzugrenzen: erstens durch den bewussten Ein- oder Ausschluss einer Person oder Personengruppe (Audience Selection) und zweitens durch eine Kosten-Nutzen-Rechnung zur Optimierung der Anzeigenschaltung (User-Ad-Matching).⁴⁵
Diverse Tools, wie Facebook oder LinkedIn, bieten unterschiedliche Formen der Zielgruppenauswahl an. Es können Attribute oder personenbezogene Daten gewählt werden, nach denen gefiltert werden soll. Es kann aber auch eine Gruppe definiert werden, die als Vorlage für gewünschte Kandidatinnen dienen soll. Das Risiko einer Diskriminierung ist auch gegeben, wenn die Zielgruppe auf der Grundlage von Interessen (z.B. Vorlieben für bestimmte Nachrichtenseiten, Zeitschriften oder bestimmte Hobbys) ausgewählt wird.⁴⁶ Wird also nur nach Nutzerinnen gesucht, die sich für Boxen und Andrew Tate interessieren, wird die Stellenanzeige vermutlich überwiegend Männern geschaltet werden. Umgekehrt könnte man gezielt Nutzerinnen ausschließen, die Seiten über feministische Themen folgen. Wenn vordergründig neutralen Kriterien Nutzerinnen einer geschützten Gruppe unverhältnismäßig stark ansprechen oder ausschließen, handelt es sich um eine mittelbare Diskriminierung, wenn das jeweilige Merkmal nicht objektiv gerechtfertigt werden kann.
Aber nicht nur die Einstellungen zur Zielgruppenauswahl spielen eine Rolle. Targeted Advertising ist ein kommerziell gesteuertes Unterfangen. Tatsächlich entscheidet ein im Hintergrund laufender algorithmischer „Bieterkrieg“, welche Untergruppe der Zielgruppe nun wirklich die Anzeige (zuerst) sieht. Manche Personengruppen sind „teurer“, d.h. es kostet mehr, ihnen gezielte Werbung anzeigen zu lassen.⁴⁷ Frauen zum Beispiel sind teurer als Männer.⁴⁸ Wenn das entsprechende Budget also nicht so groß ist, kann das dazu führen, dass die geschaltete Stellenanzeige weniger Frauen angezeigt wird als Männern. Daraus kann sich ein erhöhtes Potenzial für mittelbare Diskriminierung ergeben. Außerdem kommt es auch darauf an, welche anderen Gebote beteiligt sind. Die Logik hinter den algorithmischen Berechnungen im Hintergrund sind für die Bieter*innen nicht einsehbar (Black Box Effekt). Daher sind selbst die besten Absichten, Diskriminierung zu verhindern, nicht immer ausreichend.⁴⁹
Zusammengefasst lässt sich sagen, dass sich durch den Einsatz von Targeted Advertising der Zeitpunkt der Diskriminierung verlagert hat: Benachteiligungen finden nicht (erst) bei der Einladung zu einem Bewerbungsgespräch oder im Kontext von Gehaltsverhandlungen statt. Targeted Advertising kann den Zugang zum Arbeitsmarkt vielmehr bereits dadurch effektiv behindern, dass Stellensuchende bestimmte Stellenanzeigen erst gar nicht zu Gesicht bekommen.

IV. Erste Hilfe

A) Rechtsdurchsetzung

1.) Beweislastumkehr
Wer von einer Diskriminierung bei der Arbeitssuche betroffen ist (und davon weiß), kann den Rechtsweg wählen. Nach dem deutschen Allgemeinen Gleichbehandlungsgesetz (AGG)⁵⁰ besteht bei Diskriminierungsfällen in Verbindung mit der Einstellung ein Anspruch auf Entschädigung. Ein Anspruch auf Einstellung besteht dagegen nicht. Der Rechtsweg ist allerdings mit einigen Hürden verbunden, u.a. tragen die Klagenden das Prozessrisiko. Überdies scheitern viele Klagen an der Glaubhaftmachung der Diskriminierung.
Von mehreren Wissenschaftler*innen⁵¹ und kürzlich auch von der unabhängigen Bundesbeauftragten für Antidiskriminierung in Deutschland⁵² wird daher eine Erleichterung der Beweislast in gerichtlichen Diskriminierungsfällen gefordert. Sämtliche EU Richtlinien im Antidiskriminierungsrecht sehen zwar eine Verschiebung der Beweislast vor: Demnach müssen Betroffene eine Diskriminierung nur glaubhaft machen, also einen prima facie Beweis erbringen, während es dann den Beklagten obliegt zu beweisen, dass keine Diskriminierung stattgefunden hat. Damit sollte dem Problem Rechnung getragen werden, dass der Nachweis einer Diskriminierung für die Betroffenen wegen fehlender Nähe zum potenziellen Beweis nur schwer zu erbringen ist. Das in Diskriminierungsfällen inhärente Machtungleichgewicht löst sich dadurch allerdings schon bei Offline-Diskriminierung nicht. Wenn allerdings auch noch die algorithmische Ebene und die ihr eigene Opazität, also die mangelnde Transparenz und Nachvollziehbarkeit dieser Systeme, mitgedacht wird, wird bereits die Erbringung eines prima facie Beweises zur (unüberwindbaren) Herausforderung.⁵³ Hinzukommt, dass der EuGH bislang einen Anspruch auf Einsichtnahme in Bewerbungsunterlagen verneint hat.⁵⁴ Demnach haben abgelehnte Kandidat*innen, auch wenn sie ein diskriminierendes Bewerbungsverfahren vermuten, nicht das Recht, weitere Informationen über das Bewerbungsverfahren vom Unternehmen einzufordern. Der EuGH schließt allerdings nicht aus, dass die Verweigerung jeglichen Zugangs zu Informationen als ein Faktor im Etablieren eines prima facie Beweises in Diskriminierungsfällen angesehen werden kann.⁵⁵ Im Zusammenhang mit algorithmisch unterstützten Bewerbungsentscheidungen könnte die Weigerung, Informationen über die Funktionsweise und/oder Datengrundlage des Algorithmus preiszugeben, als solch ein Faktor interpretiert werden.
Im AGG ist die unionsrechtliche Beweislasterleichterung umgesetzt worden. Eine günstigere Regelung ist allerdings durch den Richtliniencharakter der Vorschrift möglich. Vor dem Hintergrund der erschwerten Umstände im Umgang mit Diskriminierungsfällen mit algorithmischer Komponente schlägt u.a. die Antidiskriminierungsbeauftragte eine Änderung der Beweislastregel vor.⁵⁶ Demnach sollte die Beweislast vor Gericht auf die Verantwortlichen der KI-Systemen fallen, da Betroffene keine Kenntnisse über die relevanten Funktionsweise der KI bzw. des Algorithmus haben. Diese Art der Beweislastumkehr findet sich im Übrigen auch im KI-Verordnungsentwurf.⁵⁷

2.) Verbands- und Musterklagen
In Deutschland besteht keine Möglichkeit einer Verbandsklage im Zusammenhang mit einer Diskriminierung auf Grund des Geschlechts im Arbeitsleben. In anderen Staaten der EU besteht demgegenüber bereits die Möglichkeit für NGO’s, Gewerkschaften oder anderen Institutionen in Diskriminierungsfällen eine Verbandsklage zu erheben.⁵⁸ Häufig wird das Instrument der Verbandsklage mit einer Funktion als Muster- oder Gruppenklage verbunden. Ganz besonders bei Diskriminierungen in Stellenanzeigen sind solche Klagen essenziell für einen effektiven Rechtschutz. Eine diskriminierende Stellenanzeige oder das diskriminierende zielgerichtete Anzeigen von Stellenanzeigen richtet sich gerade nicht gegen eine Einzelperson, sondern gegen die Gesellschaft als Ganzes. Der Grundsatz der Einzelrechtsverfolgung stellt sich damit als strukturelles Hindernis beim Zugang zum Recht und zur Arbeitswelt dar.⁵⁹

B) Ausschreibungspflicht

Jede Diskriminierung bei der Bereitstellung von (Online-)Stellenanzeigen ist eine massive Benachteiligung beim Zugang zum Arbeitsmarkt. Ein diskriminierendes Targeted Advertising verhindert nicht nur, dass sich Bewerber*innen auf eine Stelle bewerben, weil sie glauben, dass sie weniger Chancen haben: Vielmehr wird verhindert, dass sie die Stellenanzeige überhaupt sehen.⁶⁰ Sie sind also gar nicht über das volle Angebot an Stellenanzeigen informiert – im Gegenteil, sie sind, zum Teil explizit durch Ausschluss, daran gehindert es wahrzunehmen. Rechtliche Schritte gegen eine mögliche Diskriminierung werden dadurch fast verunmöglicht, da Arbeitssuchende gar nicht wissen, dass ihnen das volle Stellenangebot (wahrscheinlich) aufgrund eines diskriminierenden Targeting vorenthalten wurde. Zahlreiche Studien weisen darauf hin, dass gerade am Arbeitsmarkt strukturell benachteiligte Gruppen, wie etwa Frauen, Persons of Colour und ältere Personen, beim Einsatz von algorithmischen Systemen in der Arbeitswelt besonders benachteiligt werden.
Bis sich die technischen Möglichkeiten und die gesellschaftlichen Rahmenbedingungen so verändern, dass eine derartige Benachteiligung nicht mehr möglich ist, gibt es für das Problem des diskriminierenden Targeted Advertising von Stellenanzeigen de lege ferenda eine technisch unkomplizierte und gesellschaftlich lohnende Sofortlösung: eine Ausschreibungspflicht für alle Stellenanzeigen.⁶¹ Eine Ausschreibungspflicht sorgt dafür, dass alle Stellenanzeigen für jede arbeitssuchende Person zugänglich sind, zum Beispiel auf einer nationalen oder besser einer EU-weiten Webseite. Die EURES Webseite der Europäische Arbeitsvermittlung würde sich hier anbieten: ‘EURES Job Portal’.⁶² Für Unternehmen, die größtenteils ihre Anzeigen ohnehin online schalten, ist der Mehraufwand minimal. Der Nutzen für (marginalisierte) Arbeitssuchende wäre allerdings groß: Ein diskriminierungsfreier Zugang zu Stellenanzeigen.

V. Fazit

Der Digitalisierungsprozess hat den Arbeitsmarkt schon jetzt fest im Griff. Vor allem die Jobsuche findet heutzutage fast ausschließlich online statt. Stellenanzeigen werden online entweder auf Unternehmenswebseiten hochgeladen oder über online Jobportale und soziale Medien ausgeschrieben. Letzteres geht oftmals einher mit der Verwendung von Targeted Advertising zum gezielten Verschicken an die vermeintlich „passendsten“ Personen. Das birgt altes und neues sowie sichtbares und unsichtbares Diskriminierungspotenzial. Diskriminierende Stellenanzeigen sind EU-rechtlich unzulässig. Die Durchsetzung ist allerdings mit großen Herausforderungen verbunden, die gerade durch die algorithmische Komponente verstärkt und nahezu unüberwindbar werden. Einige rechtliche Instrumente – sowohl auf nationaler wie auch auf EU-Ebene – könnten hier Abhilfe schaffen. Es braucht eine Beweislastumkehr und die Möglichkeit, Musterklagen einzubringen, um das Antidiskriminierungsrecht effektiv gegen strukturelle Diskriminierungen einzusetzen. Außerdem bedarf es einer Ausschreibungspflicht für Stellenanzeigen auf einer nationalen oder EU-weiten Stellenbörse, um den diskriminierungsfreien Zugang zu Beruf und Beschäftigung zu fördern und gezielt das Diskriminierungsrisiko in Verbindung mit dem Targeted Advertising zu adressieren.

Hinweis der Redaktion

Die Digitale Transformation hat eine Geschlechterdimension, die in der rechtspolitischen Diskussion immer noch zu wenig benannt wird. Wie im vorstehenden Artikel von Grosz/Greif für den online-Stellenmarkt beschrieben, ist insbesondere das „Targeting auf der Basis abgeleiteter Daten“ in hohem Maße diskriminierungslastig. Der Deutsche Juristinnenbund e.V. (djb) hat auf einen weiteren diskriminierenden und demokratiegefährdenden Aspekt dieses Targetings hingewiesen mit seiner Stellungnahme (23-23 vom 02.02.2023) zu politischer Werbung im Netz, die wir nachstehend abdrucken.
Aufgrund der intransparenten Machtverhältnisse in den von den großen online-Plattformen dominierten Öffentlichkeiten besteht kaum die Möglichkeit, diesen Diskriminierungsformen durchsetzungsstark entgegenzutreten. Die Beobachtung des Nutzer*innenverhaltens und darauf aufsetzender (Online)-Ansprache ist in der gelebten Praxis dabei auch datenschutzrechtlich extrem problematisch. Der Wunsch nach digitalen Infrastrukturen, die staatlicherseits so geschaffen werden, dass eine demokratische Öffentlichkeit Vertrauen aufbauen kann und Teilhabe auch für Frauen und marginalisierte Personen sichergestellt ist, klingt im Zuge der momentanen durch Kriege und Naturkatastrophen beherrschten Realität mehr denn je wie eine unerreichbare Utopie.
Auf die vielfachen Risiken für die Geschlechter- und Teilhabegerechtigkeit in einer digitalisierten Gesellschaft und das nach wie vor fehlende politische Bewusstsein für diese Risiken verweisen auch die djb-Stellungnahmen zur aktuellen Digitalstrategie der Bundesregierung (Stellungnahme 22-22 vom 30.08.2022) und zu der kurz vor ihrer Verabschiedung stehenden EU-KI-Verordnung (Stellungnahme 21-14 vom 21.04.2021). Alle Stellungnahmen können auf der Website des djb www.djb.de im Volltext abgerufen werden. Siehe zur Problematik auch den 3. Gleichstellungsbericht der Bundesregierung „Digitalisierung geschlechtergerecht gestalten“ (www.dritter-gleichstellungsbericht.de/) zusammenfassend analysiert von Anke Stelkens: „Digitalisierung geschlechtergerecht gestalten“ – Zusammenfassende Analyse des Gutachtens zum 3. Gleichstellungsbericht der Bundesregierung, STREIT 2/2021, S. 88-96.