ChatGPT am Arbeitsplatz: Wer bestimmt mit?

von Facius | Feb. 12, 2025 | Arbeitswelt, Digitale Aufklärung, KI

Künstliche Intelligenz kann Menschen diskriminieren. Seit einiger Zeit ist durch verschiedene Beispiele bekannt, dass Anwendungen von KI diskriminieren können. Beispielsweise wurden Frauen gegenüber Männern bei der Vergabe von Krediten benachteiligt. Es wurden auch Menschen entehrt. Dies geschah, weil die Gesichtserkennung Fotos von einzelnen Personen automatisiert verglichen und einer Tierart zugeordnet hatte. Wie kann das sein? Eigentlich könnte man davon ausgehen, dass KI keine diskriminierenden Entscheidungen treffen kann, denn im Gegensatz zum Menschen, berechnet die KI emotionslos. Die Entscheidung ist das Resultat einer Rechenoperation. Diese ist logisch und gefühllos. In der Tat trifft die KI ihre Entscheidungen auch sachlich, unvoreingenommen und unparteiisch, also objektiv. Dennoch kann der selbst lernende Algorithmus im Ergebnis Menschen diskriminieren, denn die Ausgangsmerkmale, mit denen das Programm rechnet, tragen bereits die Diskriminierung in sich. Beispielsweise wird bei einem Lebenslaufverlauf eine Mutter mit Zeiten der Arbeitsunterbrechung der KI auffallen. Wenn nun die KI nicht die Gründe für diesen Unterschied kennt und wie es mit diesem umzugehen hat, dann kann es zu einer Benachteiligung der Mutter aufgrund dieses Merkmals kommen. Ausschluss von Diskriminierung durch mehr Daten oder positive Diskriminierung? Es klingt paradox, aber je mehr Daten die KI hat, umso besser kann diese differenzieren und Benachteiligungen ausschließen. Dies deckt sich aber nun überhaupt gar nicht mit dem Grundsatz der Datensparsamkeit. Ein Dilemma. Deswegen wird auch in den Fachkreisen überlegt, ob eine positive Diskriminierung, also die gezielte und offenkundige Bevorzugung benachteiligter Menschen, das Problem lösen könnte. Lösung der „Subobjektivität“ überhaupt möglich? Im Grunde ist die Diskriminierung ein Ergebnis einer gleichzeitig subjektiven wie auch objektiven Entscheidungsfindung. Sozusagen eine „Subobjektivität“, denn anhand von subjektiven Merkmalen trifft die KI objektive Entscheidungen. Die für die KI vorgegebenen Kriterien sind also der Grund für die Diskriminierung. Die Ausgangsparameter setzt der Mensch. Deswegen ist es enorm wichtig, dass alle Auswahlkriterien so bestimmt werden, dass nicht durch das Zusammentreffen von subjektiven Kriterien und objektive Berechnungen eine diskriminierende Entscheidung von der KI vorgeschlagen wird.

ChatGPT am Arbeitsplatz: Wer bestimmt mit?

Die Nutzung von Künstlicher Intelligenz (KI) am Arbeitsplatz nimmt zu – und das sorgt für Diskussionen zwischen Arbeitgebern und Betriebsräten. Der Beschluss des Arbeitsgerichts Hamburg vom 16.01.2024 Az. 24 BVGa 1/24 ist eine der ersten Entscheidungen zu diesem Thema und zeigt, dass es dabei durchaus knifflig wird. Doch worum ging es genau?

Streit um Mitbestimmung

In einem Unternehmen hatte die Geschäftsleitung beschlossen, ChatGPT und andere KI-Tools für die Mitarbeitenden freizugeben. Dabei mussten Angestellte ihre eigenen Accounts nutzen, und die Nutzung blieb freiwillig. Der Konzernbetriebsrat sah dennoch ein Problem: Er forderte ein Mitbestimmungsrecht, da KI-Arbeitsmittel seiner Meinung nach das betriebliche Ordnungsverhalten beeinflussen würden. Außerdem könnten durch die Nutzung personenbezogene Daten erfasst und ausgewertet werden.

Warum der Betriebsrat nicht mitbestimmen durfte

Das Arbeitsgericht Hamburg entschied jedoch gegen den Betriebsrat. Entscheidend war, dass ChatGPT nicht als fest integrierte Software im Unternehmen genutzt wurde, sondern ausschließlich über den Webbrowser. Das Unternehmen stellte keine dienstlichen Accounts zur Verfügung, und die Mitarbeitenden mussten sich privat registrieren. Dadurch hatte der Arbeitgeber keinerlei Möglichkeit, zu überwachen, wer wann, wie lange und mit welchen Inhalten ChatGPT nutzte.

Laut § 87 Abs. 1 Nr. 6 BetrVG besteht ein Mitbestimmungsrecht nur dann, wenn eine technische Einrichtung zur Überwachung von Leistung oder Verhalten der Arbeitnehmer eingesetzt wird. Da der Arbeitgeber jedoch keine Zugriffsmöglichkeit auf die Nutzerdaten hatte – im Gegensatz zu klassischen Überwachungssystemen –, lag laut Gericht kein Mitbestimmungstatbestand vor. Die Verarbeitung der Daten erfolgte allein durch den Betreiber von ChatGPT, nicht durch den Arbeitgeber.

Ein weiterer Einwand des Betriebsrats war, dass sich durch die Nutzung von ChatGPT eine „Zweiklassengesellschaft“ im Betrieb entwickeln könnte: Mitarbeitende, die KI-Tools nutzten, und solche, die sie ablehnten. Das Gericht wies dieses Argument jedoch zurück. Nur weil neue Arbeitsmittel nicht von allen gleichermaßen genutzt werden, bedeutet das nicht automatisch, dass das betriebliche Ordnungsverhalten betroffen ist.

Doch das Urteil wirft neue Fragen auf

Während das Gericht klarstellt, dass kein Mitbestimmungsrecht besteht, bleibt eine wichtige Frage offen: Was gilt, wenn Mitarbeitende selbst ein Arbeitsmittel für den Arbeitgeber bereitstellen – etwa einen ChatGPT-Account für dienstliche Zwecke?

Hier könnte das sogenannte „Rider“-Urteil des Bundesarbeitsgerichts (BAG, 10.11.2021 – 5 AZR 334/21) eine Rolle spielen. In diesem Fall wurde entschieden, dass ein Unternehmen nicht darauf bestehen kann, dass Arbeitnehmer eigene Betriebsmittel für die Arbeit nutzen, wenn dies nicht ausdrücklich im Arbeitsvertrag geregelt ist.

Überträgt man diesen Gedanken auf ChatGPT, könnte sich die Frage stellen, ob ein Unternehmen seine Mitarbeitenden überhaupt dazu verpflichten darf, sich einen privaten KI-Account zuzulegen. Sollte ein Arbeitgeber KI-basierte Arbeitsmittel wie ChatGPT gezielt in den Arbeitsprozess integrieren, könnte dies langfristig eine neue juristische Diskussion über Pflichten und Rechte von Arbeitnehmern im Umgang mit digitalen Tools auslösen.

Welche Folgen hat das Urteil?

Mit dieser Entscheidung wird deutlich, dass Unternehmen KI-Tools einführen können, ohne zwingend eine Zustimmung des Betriebsrats einholen zu müssen – sofern keine direkte Kontrolle der Mitarbeitenden möglich ist. Gleichzeitig bleibt unklar, inwiefern Unternehmen erwarten dürfen, dass Mitarbeitende für den Arbeitgeber eigene Accounts anlegen. Für Betriebsräte bedeutet das: Der Teufel steckt im Detail, und klare Regelungen sind nötig, um die Rechte der Beschäftigten zu schützen.

Fazit: Ein Urteil mit Signalwirkung

Die Debatte um KI am Arbeitsplatz ist damit nicht vorbei – sie beginnt gerade erst. Unternehmen und Betriebsräte sollten sich frühzeitig mit den Auswirkungen befassen. Denn während KI viele Aufgaben erleichtert, bleibt eine Frage offen: Wer programmiert eigentlich die Regeln – und wer schreibt das letzte Urteil?