Das PDF dient ausschließlich dem persönlichen Gebrauch! - Weitergehende Rechte bitte anfragen unter: nutzungsrechte@asu-arbeitsmedizin.com.
doi:10.17147/asu-1-411953
Artificial Intelligence in the workplace and as a tool for occupational safety
From the perspective of occupational safety, artificial intelligence must be viewed as a means of production and work in the company, including potentially associated risk factors. But AI can also be used to better and easier understand complex work environments and to identify risks. However, there are still few concrete recommendations for action for both aspects. Until then, it helps to focus on existing starting points with more general criteria.
Künstliche Intelligenz im Betrieb und als Werkzeug des Arbeitsschutzes
Aus Perspektive des Arbeitsschutzes ist künstliche Intelligenz als Produktions- und Arbeitsmittel im Betrieb inklusive potenziell verbundener Gefährdungsfaktoren zu betrachten. Doch KI kann auch gerade dafür eingesetzt werden, komplexe Arbeitsumgebungen einfacher und besser zu erschließen und Risiken zu ermitteln. Für beide Aspekte gibt es aber noch wenig konkrete Handlungsempfehlungen. Bis dahin hilft es, sich an bestehenden Anknüpfungspunkten mit grundsätzlich vorhandenen Kriterien zu orientieren.
Kernaussagen
KI aus Sicht des Arbeitsschutzes
Künstliche Intelligenz (KI) breitet sich in den letzten Jahren in zunehmender Geschwindigkeit in immer weitere Lebensbereiche aus, nicht zuletzt in die Arbeitswelt. Insbesondere in Letzterer sind bereits heute umfangreiche Veränderungen von Geschäftsmodellen, betrieblichen Prozessen, Aufgabengestaltung und Tätigkeiten der Beschäftigten zu beobachten. Da diese Veränderungen durch einen hohen Druck zum Erhalt und zur Verbesserung der Wettbewerbsfähigkeit getrieben werden und gleichzeitig das Aufkommen substanzieller KI-Innovationen nicht abreißt, wird diese Herausforderung zukünftig und dauerhaft bestehen und eher wachsen als sich verringern.
Der Arbeitsschutz (AS) ist mit KI zunächst einmal in Form eines Arbeitsmittels konfrontiert, das sicher gestaltet und sicher eingesetzt werden soll. Dieser Fokus ist durchaus berechtigt, bringt KI doch beispielsweise durch seine probabilistische Funktionslogik inhärente Unsicherheiten mit sich, an deren Verständnis und Kontrolle noch breitflächig geforscht wird (siehe z. B. Messeri u. Crockett 2024 zum Einsatz von KI in der Wissenschaft).
Die beeindruckenden KI-Fähigkeiten, die deren starke Ausbreitung begünstigen, sind aber gleichzeitig auch geeignet, um den Arbeitsschutz selbst voranzubringen. Insbesondere die Verarbeitung natürlicher Sprache steht dabei im Fokus, doch auch in der Sensordatenverarbeitung gibt es große Fortschritte. Sie ermöglichen es, die Zugänglichkeit, die Bearbeitungsgeschwindigkeit und letztlich auch die Bearbeitungstiefe, zum Beispiel im Rahmen von Gefährdungsbeurteilungen, zu verbessern.
Was heißt das für die Betriebe?
Wie aber wird denn nun mit der KI im Betrieb umgegangen? Für den Einsatz von KI oder KI-Komponenten und der dazugehörigen Durchführung einer Gefährdungsbeurteilung beziehungsweise zur Einholung von Gestaltungshinweisen gelten unbenommen die etablierten Arbeitsschutzvorschriften und -regularien, auch wenn bei deren Formulierung die Spezifika aktueller KI-Systeme noch nicht abzusehen waren.
Zudem ist das europäische Recht in Form der KI-Verordnung zu berücksichtigen. Diese ist im Ursprung eine Produktsicherheitsvorschrift und richtet sich folglich zentral an Hersteller und Inverkehrbringer der Systeme. Sie hat aber auch zahlreiche Anforderungen an die betriebliche Verwendung der Systeme, die dem Schutz von Beschäftigten dienen sollen.
Für die Anwendung der EU-KI-Verordnung im Betrieb sind derzeit noch verschiedene Konkretisierungen in Vorbereitung: Zu nennen ist ein nationales Durchführungsgesetz, aber vor allem die europäisch harmonisierte Normung, die die Anforderungen an betriebliche Prozessgestaltungen (z. B. das Risikomanagement oder die menschliche Aufsicht für sogenannte „High-risk“-KI-Systeme) spezifizieren wird.
Diese Regularien werden derzeit unter einem zeitlich engen Rahmen bei den europäischen Normungsorganisationen CEN/CENELEC erarbeitet. Die Konsequenzen für die betriebliche Umsetzung werden auch Gegenstand der weiterführenden Arbeiten an der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin sein. An dieser Stelle sollen jedoch noch einmal genauer die schon bestehenden Regularien des Arbeitsschutzes und ihre Bedeutung für KI-Systeme betrachtet werden.
Arbeitsschutzvorschriften und Regularien
KI-Systeme in der Arbeitswelt sind Arbeitsmittel, die die Arbeitsbedingungen weitreichend verändern können. Eingeführt werden sie typischerweise, weil sie die Effizienz von Prozessen erheblich steigern und somit auch potenziell die Arbeit von Beschäftigten erleichtern können. Dies führt aber nicht unbedingt zu mehr Entlastung oder mehr Erholungspausen, vielmehr verändern sich Aufgabenprofile und Tätigkeiten. Auch organisatorische Aspekte sind betroffen, wenn es beispielsweise um die Zuweisung der Verantwortung für die menschliche Aufsicht über ein KI-System geht.
Bei derartigen Veränderungen der Arbeitsbedingungen ist das Arbeitsschutzgesetz heranzuziehen, das hierzu die Beurteilung der Arbeitsbedingungen vorschreibt. Diese Erkenntnis motiviert zur Suche nach konkreteren Vorgaben und Richtlinien. Hierbei ist festzustellen, dass die einschlägigen Verordnungen (z. B. Arbeitsstättenverordnung [ArbStättV], Betriebssicherheitsverordnung [BetrSichV]) und technischen Regeln (Arbeitsstättenregeln [ASR], Technische Regeln zur Betriebssicherheit [TRBS]) älter sind als die neuen und disruptiven KI-Innovationen, die wir erleben. Gleichwohl finden wir für die Beurteilung der Arbeitsbedingungen und einhergehende Gefährdungen doch einige Anhaltspunkte und Kriterien.
Zu unterscheiden sind grundsätzlich zwei Einsatzmöglichkeiten: zum einen KI, eingebettet in Maschinen oder Anlagen, zum anderen KI als „reines“ Software-Produkt, das typischerweise über einen Arbeitsplatz-PC oder mobile Geräte genutzt wird.
Für das erste Beispiel gilt, dass alle Anforderungen an die Maschinen- und Anlagensicherheit unvermindert gelten (EU-Maschinenverordnung [MaschVO], Gesetz zu überwachungsbedürftigen Anlagen [ÜAnlG]). Diese sind typischerweise im entsprechenden Normenwerk konkretisiert. KI-Funktionen dürfen hier nicht zu Ausnahmen beim geforderten Schutzniveau führen. Auf welche Weise KI-Funktionen und gegebenenfalls auch mit KI realisierte Sicherheitsfunktionen (Letztere gehören zur Gruppe der „High-risk“-Systeme nach KI-Verordnung) zukünftig zu beurteilen sein werden, wird sich mit der Fertigstellung entsprechender neuer Normen zeigen.
Der häufigere Anwendungsfall ist die Nutzung der inzwischen sehr vielfältigen KI-Softwarelösungen für den PC oder die mobile App. Gemäß der Arbeitsstättenverordnung (ArbStättV § 2) handelt es sich dabei im Grunde um eine Integration in Bildschirmgeräte, doch auch Anwendungen ohne Bildschirmkomponente (z. B. Sprachassistenz) können an den entsprechenden Regelwerken ausgerichtet werden.
Für die Beurteilung und Gestaltung von Software im Rahmen von Bildschirmarbeit gibt es schon lange entsprechende Dokumente, deren übergeordnete Gestaltungs- und Schutzziele weiterhin gültig sind und schon Anforderungen aus der KI-Verordnung berühren. Idealerweise sollten die Ergebnisse aus der Normung, sobald sie vorliegen, in diesen Regelwerken mit bedacht werden.
Beispiel ASR A6 Bildschirmarbeit
Als Beispiel für verfügbare, allgemeine Richtlinien mögen die technischen Regeln für Arbeitsstätten (Arbeitsstättenregeln) ASR A6 gelten, in denen Anforderungen an Bildschirmarbeitsplätze konkretisiert werden. Hierbei wird beispielsweise unter Punkt 5.1
zur Gefährdungsbeurteilung festgelegt, dass auch die Mensch-System-Interaktion im Sinne von Benutzerfreundlichkeit sowie adäquate Ein- und Ausgabemöglichkeiten berücksichtigt werden müssen. Aber auch die Arbeitsorganisation, das heißt auch
soziale Beziehungen, müssen bedacht werden.
Die Anforderungen an die Gebrauchstauglichkeit werden unter Punkt 6.2 „Anforderungen an die Softwareergonomie“ mitsamt entsprechenden Gestaltungskriterien formuliert. Dabei finden sich die in Bezug auf KI viel diskutierten Kriterien wie Fehlerrobustheit, aber auch eine ganze Sammlung an Transparenzkriterien wieder.
Die Ausführungen sind hier knappgehalten, da sich der State of the Art unter anderem in der etablierten Norm DIN EN ISO 9241 „Ergonomie der Mensch-System-Interaktion“ findet. Die EN ISO 9241 gilt dabei nach EU-Rechtsprechung als Standard zur Bewertung der Forderung nach Benutzerfreundlichkeit.
KI als Werkzeug für den Arbeitsschutz
Während der rasche Fortschritt der KI-Technologie Unsicherheiten bei der sicheren Umsetzung im Betrieb erzeugt, eröffnen sich gleichzeitig Möglichkeiten für den Einsatz als Werkzeug des Arbeitsschutzes. Es wäre dann auch ein Arbeitsmittel und muss sich denselben Schwierigkeiten hinsichtlich eines sicheren Einsatzes stellen, doch die Potenziale sind groß.
Grundsätzlich gibt es in Deutschland zwar auf absehbare Zeit genug Fachkräfte für den Arbeitsschutz, trotzdem muss weiterhin davon ausgegangen werden, dass für einen großen Teil der Arbeitsplätze noch nie eine Gefährdungsbeurteilung erstellt wurde. Das Problem ist in großen Unternehmen weniger ausgeprägt, dafür in kleinen und Kleinst-Unternehmen umso schwerwiegender. Als Gründe für das Fehlen werden häufig ein unnötiger Aufwand genannt, aber auch, dass man doch ohnehin wisse, was gefährlich ist und was nicht.
Eine vielversprechende Option für den Einsatz von KI im Arbeitsschutz ist daher einerseits die Verbesserung der Zugänglichkeit des Gefährdungsbeurteilungsprozesses. Andererseits sagen aber die reinen Zahlen zur Durchführung von Gefährdungsbeurteilungen noch nichts über Qualität und Aktualität aus. Hier zeichnen sich daher weitere Optionen ab, nämlich Effizienz und Detailtiefe der Gefährdungsbeurteilungen zu verbessern.
Sprachmodelle im Arbeitsschutz
Um die Zugänglichkeit zu Gefährdungsbeurteilungen zu verbessern, wurde an der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) ein Forschungsprojekt aufgesetzt, das sich mit der Nutzbarmachung der aktuellen großen Sprachmodelle oder auch Chatbots befasst (Westhoven u. Adolph 2022).
Der Grundgedanke ist dabei, dass ein Großteil der vorhandenen Daten zum Arbeitsschutz in Textform vorliegt und außerdem natürliche Sprache einen intuitiven Zugang zu technischen Systemen ermöglicht.
Aufgrund des sicherheitskritischen Einsatzkontextes wurden die Anforderungen an ein solches System sorgfältig untersucht. Zum einen wurden Arbeitsschutzexpertinnen und -experten interviewt, zum anderen eine Reihe von Workshops zu Einsatz- und Schadensszenarien mit einer breiteren Stakeholder-Gruppe durchgeführt.
Auf Basis der Anforderungen wird aktuell ein KI-System entwickelt, das zum Beispiel aus einer Arbeitsplatzbeschreibung Hinweise auf Gefährdungen sowie potenzielle Gegenmaßnahmen ableitet.
Dieses prototypische System wird anschließend mit Expertinnen und Experten sowie in Feldtests evaluiert.
Zeitreihenanalyse im Arbeitsschutz
Ein weiteres Forschungsprojekt an der BAuA zielt in Richtung der Verbesserung von Gefährdungsbeurteilungen. Es setzt dabei an der zeitlich meist punktuellen Betrachtung von Arbeitsplätzen bei Begehungen an, indem diese durch über längere Zeiträume gesammelte Sensordaten ergänzt werden (Baudzus 2023).
Eine Orientierung an den Normen zu rechtlich belastbaren Messungen am Arbeitsplatz kann allerdings allein durch den Messaufbau äußerst komplex und kostspielig werden. Aus Kostengründen können Sensoren zum Einsatz kommen, die weniger genaue Messwerte liefern. Für eine grobe Übersicht und die Lokalisierung kritischer Bereiche (Screening) sind diese jedoch ausreichend.
Die zum Einsatz kommende KI-Technik ist eine rekonstruktionsbasierte Anomaliedetektion. Dabei wird vom System gelernt, wie die Daten im „Normalzustand“ aussehen. Weichen die Messungen von diesen später ab, wird von einer Anomalie gesprochen.
Diese Anomalien haben die Eigenschaft, relativ selten aufzutreten. Damit sind sie bei den üblichen, zeitlich begrenzten Begehungen nur schwer aufzufinden. Die KI kann hier Hinweise liefern, welche Faktoren genauer betrachtet werden müssen und wie diese untereinander zusammenwirken. Auch dieses KI-System wird aktuell prototypisch entwickelt und anschließend in Feldtests evaluiert.
Zwei Seiten einer Medaille
Die schnellen Entwicklungen im Bereich der KI-Technologie haben also zwei Seiten in Bezug auf den Arbeitsschutz:
Einerseits bestehen noch große Unsicherheiten, wie man den Arbeitsschutz bei der Einführung von KI angemessen berücksichtigt. Nichtsdestotrotz können die bestehenden Verordnungen und Regeln Orientierung bieten, bis die entsprechenden konkretisierten, harmonisierten Normen vorliegen. Andererseits bieten sich Ansatzpunkte, um mittels KI den Arbeitsschutz zu stärken.
Beide Aspekte entwickeln sich derzeit im Rahmen der Forschung, aber auch bezüglich entsprechender Umsetzungen in der Regulation weiter. Die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin begleitet beide Entwicklungsstränge sowohl durch
eigene Arbeiten, als auch durch eine verstärkte Vernetzung mit allen relevanten und interessierten Stellen.
KI und AS gemeinsam Denken
Mit KI und den dazugehörigen Anforderungen aus der EU-KI-Verordnung werden eine ganze Reihe von Themen berührt, die für eine sichere und gesunde Arbeit ohnehin berücksichtigt werden sollten (➥ Abb. 1). Dazu gehören insbesondere
All diese Themen sind sowohl im Arbeitsschutz als auch in Bezug auf sichere KI miteinander verzahnt. Sie beruhen bei guter Umsetzung auf partizipativen Prozessen, denn nur durch diese lassen sich nachhaltig praktikable Lösungen finden sowie Ängste und Widerstände der Beschäftigten angemessen berücksichtigen.
Das offenkundige Synergiepotenzial aufgrund der gemeinsam zugrunde liegenden betrieblichen Beteiligungs-, Gestaltungs- und Umsetzungsprozesse einerseits, aber auch die Anknüpfungspunkte in der bestehenden Regelsetzung des Arbeitsschutzes andererseits, stellen letztlich Hebel dar. Hebel, die es bereits heute ermöglichen, die Zukunft der Arbeit mit KI sicher und menschengerecht zu gestalten.
Interessenkonflikt: Die Autoren geben an, dass keine Interessenkonflikte vorliegen.
Literatur
Baudzus A: Entwicklung eines Assistenzsystems zur Gefährdungsbeurteilung unter Verwendung von Internet-of-Things-Technologien und Algorithmik aus dem Bereich des maschinellen Lernens und der Data Science. Paper presented at the 70th GfA Frühjahrskongress, Stuttgart, Germany, 2023.
Messeri L, Crockett MJ: Artificial intelligence and illusions of understanding in scientific research. Nature 2024; 627: 49–58.
Westhoven M, Adolph L: Concept for supporting occupational safety risk analysis with a machine learning tool. Cham: Springer International Publishing, 2022.
Koautor
Kontakt
Foto: BAuA
