doi:10.17147/asu-1-411959
Artificial intelligence, standardization and occupational safety – An interaction with far-reaching significance for business practice
Artificial intelligence (AI) can become a decisive competitive advantage for Germany as a business location and also bring a lot of benefits for work design and occupational safety. Used correctly, AI can improve products and services AND make work safer and more enjoyable. However, in order to create this WIN-WIN situation, the rules of the game must be followed. This is currently establishing the EU AI Regulation, which is being legally specified through harmonized standards – with direct reference to occupational health and safety as well as specific obligations for employers in Germany. However, the fact that European standardization should set the tone here is a novelty on various levels, which must be consciously accompanied and controlled both politically and practically.
Künstliche Intelligenz, Normung und Arbeitsschutz – Ein Zusammenspiel mit weitreichender Bedeutung für die unternehmerische Praxis
Künstliche Intelligenz (KI) kann für den Wirtschaftsstandort Deutschland ein entscheidender Wettbewerbsvorteil werden und zusätzlich noch viel Gutes für die Arbeitsgestaltung und den Arbeitsschutz mit sich bringen. Richtig eingesetzt kann KI Produkte und Dienstleistungen verbessern UND die Arbeit sicherer sowie angenehmer machen. Um diese Win-Win-Situation hervorzubringen, müssen jedoch Spielregeln eingehalten werden. Diese stellt aktuell die KI-Verordnung der EU auf, die durch harmonisierte Normen rechtlich konkretisiert wird – mit direktem Bezug auf den Arbeitsschutz sowie konkrete Pflichten für Arbeitgeberinnen und Arbeitgeber in Deutschland. Dass europäische Normung hier den Ton vorgeben soll, ist jedoch ein Novum auf verschiedenen Ebenen, was sowohl politisch als auch praktisch ganz bewusst begleitet und gesteuert werden muss.
Kernaussagen
Die Bedeutsamkeit von KI für Unternehmen und den Standort Deutschland
Grundsätzlich gibt es eine große Offenheit der Betriebe hinsichtlich der Nutzung von Künstlicher Intelligenz (KI). KI ist eine Chance für den Standort Europa und Deutschland. Unter KI kann dabei vieles verstanden werden: vom helfenden Roboter bis hin zur Deep-learning-Software. Im Zuge des Fachkräftemangels und drohender Überalterung kann der kluge Einsatz von KI im Unternehmen einen „Game Changer“ darstellen, um die Qualität von Dienstleistungen und Produkten zu steigern, die Kosten für Wertschöpfung und Service zu senken sowie den besseren Einsatz von Arbeits- und Fachkräften an den notwendigen Stellen zu ermöglichen. Mit KI können Deutschlands Unternehmen konkurrenzfähig bleiben und auch der Standort Deutschland erhält ein neues Attraktivitätsmerkmal. Die Basis für dieses Unterfangen ist, dass bei der Einführung und Umsetzung von KI die Rahmenbedingungen für die Unternehmen klar und der Sache förderlich sind.
Auch im Arbeitsschutz kann KI vieles bewirken und die negativen Belastungsfaktoren für Beschäftigte verringern. Unternehmen können durch den richtigen Einsatz von KI die psychische und physische Belastung ihrer Beschäftigten optimieren (also negative Belastungsfaktoren reduzieren und positive steigern) und zugleich Arbeitsunfälle durch besseren Arbeitsschutz vermeiden. Möglichkeiten gibt es hier zahlreiche (siehe u. a., Rziha 2024; BAuA 2023, 2024a,b; DGUV 2024a):
Allerdings können sich durch den Einsatz von KI auch Gefährdungen ergeben. Die oben genannten Potenziale können ins Gegenteil verkehrt werden und zu vermehrten Risiken, negativ wirkenden Belastungsfaktoren oder gar Unfällen führen. Beispielweise könnte der Einsatz von KI die Arbeitsintensität steigern statt sie zu senken, die Technikabhängigkeit erhöhen oder auch zu sozialer Isolation führen, wenn die Kolleginnen und Kollegen zunehmend mit KI-Systemen zusammenarbeiten statt mit Menschen (BAuA 2023).
KI ist demnach ein Werkzeug, das je nach Einsatz Chancen und Risiken birgt. Daher muss sein Einsatz im Unternehmen nach gewissen Spielregeln erfolgen, um sicherzugehen, dass KI tatsächlich nutzt. Einen Rahmen der Spielregeln gibt der KI-Rechtsakt (KI-Verordnung) der Europäischen Union vor. Er verdeutlicht in zahlreichen Paragrafen, was Hersteller, aber auch Betreiber (also Unternehmen) bei KI beachten müssen – auch in Bezug auf den Arbeitsschutz.
Die KI-Verordnung und harmonisierte Normen als Rechtsrahmen zur Nutzung von KI
Die EU-Verordnung über künstliche Intelligenz (KI-Verordnung) ist am 1. August 2024 Kraft in getreten und sieht vor, dass die dort dargestellten Rahmenbedingungen zur Herstellung und Nutzung von Hochrisiko-KI sowie KI-Modellen mit allgemeinem Verwendungszweck über sogenannte harmonisierte Normen konkretisiert werden sollen. Diese lösen eine Konformitäts-Vermutungswirkung aus (weitere Erläuterungen in Infokasten 1). In der Regel richten sich diese Normen an die Hersteller von Hard- und Software. Die KI-Verordnung richtet sich jedoch nicht nur an Hersteller oder den „In-Verkehr-Bringer“, sondern auch an die Betreiber von KI (siehe u. a. Art. 3, Abs. 4). Dies ist niemand anderes als die Arbeitgeber selbst, die KI für ihren Betrieb einkaufen und nutzen. Es ist ein Novum, dass die Anforderungen der Normung mit ihrer Vermutungswirkung auch den Betreiber betreffen, also die Arbeitgeber.
Die durch die KI-Verordnung gegebenen Aufträge zur Schaffung harmonisierter Normen werden in Artikel 40 dargestellt und beziehen sich auf Anforderungen an Hochrisiko-KI sowie KI-Modelle mit allgemeinem Verwendungszweck, unter anderem1:
Die Entwürfe zu den entsprechenden harmonisierten europäischen Normen sollen bis Ende dieses Jahres fertiggestellt werden. Die Veröffentlichung der fertigen Normen ist spätestens bis Ende 2025 geplant. Dann ist für die betroffenen Unternehmen und Organisationen noch ein halbes Jahr Zeit, um ihre KI-Systeme regelkonform zu machen, denn die KI-Verordnung ist 24 Monate nach ihrem Inkrafttreten, also ab dem 2. August 2026, anzuwenden.
Inhalte der KI-Verordnung zu Sicherheit und Gesundheit
Im „Vertrag über die Arbeitsweise der Europäischen Union“ ist festgelegt, dass diese (nach Art. 26) Verordnungen zur Regulation des Binnenmarkts verabschieden kann. Dabei ist ebenfalls ein hohes Schutzniveau bezüglich Sicherheit und Gesundheit sicherzustellen (Art. 114) sowie die Verbesserung der Arbeitsumwelt zum Schutz der Gesundheit und Arbeitsbedingungen (Art. 151). Auch wenn sich die KI-Verordnung ebenso wie die daraus abzuleitenden harmonisierten Normen vor allem die Maschinensicherheit sowie Produkt- und Betriebssicherheit eingliedern, sieht die KI-Verordnung daher an verschiedenen Stellen vor, dass ein hohes Schutzniveau hinsichtlich Sicherheit und Gesundheit sicherzustellen ist, insbesondere bei Hochrisiko-KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck. Bestehende Arbeitsschutzvorschriften sollen durch die Normung nicht konterkariert, jedoch erweitert werden.
Auswirkungen der KI-Verordnung und harmonisierter Normen auf den betrieblichen Arbeitsschutz
Die harmonisierten Normen zur Konkretisierung der KI-Verordnung betreffen also ebenfalls den Arbeitsschutz. Dies ist insofern problematisch für die Unternehmen und damit die gesamte deutsche Wirtschaft, als die Konformitäts-Vermutungswirkung aus Art. 40 Abs. 1 der Verordnung dann auch für Regelungen zum betrieblichen Arbeitsschutz gilt. Demnach lösen Inhalte zum Arbeitsschutz in harmonisierten Normen nicht nur für Hersteller, sondern auch für Betreiber – also Arbeitgeber – Vermutungswirkung aus. Dies ist im deutschen Arbeitsschutz ein Novum für alle Beteiligten, denn bisher spielte die Normung eine andere Rolle im betrieblichen Arbeitsschutz in Deutschland (s. dazu Infobox 2). Im deutschen betrieblichen Arbeitsschutz wird bisher die Vermutungswirkung nicht durch Normung, sondern durch im staatlichen Auftrag verhandelte und geprüfte technische Regeln ausgelöst.
In welchem Ausmaß der betriebliche Arbeitsschutz von der harmonisierten Normung betroffen sein wird, ist noch nicht im Detail klar, da die entsprechenden Normen aktuell noch erarbeitet werden. Klar ist jedoch, dass durch die europäische Neuregelung ein paralleles System zur bestehenden Arbeitsschutzsystematik zu entstehen droht. Die Konsequenz daraus wäre, dass neben dem bisherigen Arbeitsschutzkonglomerat aus Gesetzen, Verordnungen, Regeln und Schriften der Unfallversicherungsträger noch zusätzlich auf die Inhalte zum Arbeitsschutz aus der harmonisierten Norm geachtet werden muss. Noch komplexer wäre es, wenn zu diesen Normen auch noch eine Verordnung und weitere technische Regeln zur Verwendung von KI hinzukommen würden. In diesem Falle müssten die Unternehmen prüfen, ob sie Normen oder technische Regeln oder beides umsetzen – solange sich diese im besten Falle nicht widersprechen.
Diese Unklarheit erschwert den Einsatz von KI in den Betrieben. Die deutsche Wirtschaft steht vor einem Wandel. Um auch in Zukunft erfolgreich zu sein, müssen die Rahmenbedingungen für Unternehmen verbessert werden. Dazu gehört auch eine deutliche Reduzierung der bürokratischen Belastungen.
Die betriebliche Nutzung von KI durch klare Vorgaben und Herstellerfokus sicherstellen
Wie bereits beschrieben, gibt es grundsätzlich eine große Offenheit in Deutschlands Betrieben, KI einzusetzen. Wichtig dafür ist, dass im Kontext des Arbeitsschutzes die
Regelungen durch die harmonisierte Normung gut durchdacht und sinnhaft sind, damit sie die Unternehmen in der Anwendung von KI unterstützen (nicht hemmen) und dabei gleichzeitig den betrieblichen Arbeitsschutz sicherstellen. Daher müssen Inhalte der harmonisierten Normen, die KI-Arbeitsschutzaspekte umfassen, praktikabel, widerspruchsfrei zu den geltenden deutschen Arbeitsschutzbestimmungen und unbürokratisch anwendbar sein. Es braucht also ein stimmiges Regel- und Normenwerk zum betrieblichen KI-Arbeitsschutz.
Wesentlich ist, dass einfache Lösungen für die Betriebe gefunden werden. Das heißt, für die Erstellung der harmonisierten Normen wäre es am besten, wenn diese sich vor allem auf die Produktsicherheit anstelle auf KI im betrieblichen Arbeitsschutz fokussieren und sich dabei an den Hersteller richten (s. dazu Infobox 3). Der Hersteller könnte dann, beispielsweise durch Herstellerselbsterklärungen, klare Anleitungen für den Einsatz der KI im Betrieb geben und wie der sichere Gebrauch der KI im Unternehmen auszusehen hätte. Einige Passagen in der KI-Verordnung sehen dies bereits vor, zum Beispiel in Art. 14.
Für die politische Gestaltung der Arbeitsschutzregelungen bedeutet dies:
Literatur
Holz M, Icks A, Nielen S: Analyse zur Bürokratiebelastung in Deutschland – Wie kann ein spürbarer Bürokratieabbau erreicht werden? Bonn: Institut für Mittelstandsforschung, 2023.
Rziha C: So nutzt Covestro-Recruiter Chris Rziha generative KI im Alltag. Personalwirtschaft 2024; 9: 70–73.
Die gesamte Literaturliste mit allen Quellen kann auf der ASU-Homepage beim Beitrag eingesehen werden (asu-arbeitsmedizin.com).
Online-Quellen
Bundesministerium für Arbeit und Soziales (BMAS): Normung im betrieblichen Arbeitsschutz. 2021
https://www.bmas.de/SharedDocs/Downloads/DE/normung-betrieblicher-arbei…
Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA): KI-Weiterentwicklung im Arbeitsschutz. 2024a
https://www.baua.de/DE/Themen/Arbeitsgestaltung/Digitalisierung-KI/Kuen…
Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA): Künstliche Intelligenz – Arbeitsgestaltung und Arbeitsschutz. 2024b
https://www.baua.de/DE/Themen/Arbeitsgestaltung/Digitalisierung-KI/Kuen…
Deutsche Gesetzliche Unfallversicherung (DGUV): Vertrauenswürdige Künstliche Intelligenz. 2024a
https://www.dguv.de/ifa/fachinfos/kuenstliche-intelligenz/vertrauenwuer…
KAN (Kommission Arbeitsschutz und Normung). Organisation der KAN
https://www.kan.de/kan/organisation
Info 1
Definition und Wirkung harmonisierter Normen (DKE 2023; DIN 2024)
Bei „harmonisierten Normen“ handelt es sich um Normen, die speziell zur rechtlichen Umsetzung der EU-Rechtsvorschriften entwickelt werden. Jedes Unternehmen, das diese befolgt, erlangt automatisch eine Konformitätsvermutung mit dem entsprechenden EU-Rechtsakt. Harmonisierte Normen lösen also eine Vermutungswirkung aus und bilden einen Rechtsrahmen – Unternehmen, die sich nicht an die Normen halten, müssen nachweisen, dass sie auf andere Weise das gleiche Schutzniveau erreichen.
Die Titel und Fundstellen der harmonisierten Normen werden nach diversen Prüfschleifen im EU-Amtsblatt (Official Journal of the European Union) veröffentlicht und durch die jeweiligen nationalen Normungsinstitute in der Landessprache kostenlos veröffentlicht, wenn die europäische Kommission dieser Veröffentlichung stattgegeben hat. Die Normen werden also EU-weit gültig sein und sollten in irgendeiner Form kostenlos zur Verfügung stehen (siehe dazu das EUGH-Urteil in der Rechtssache C-588/21 P am 05.03.2024 „Malamud-Fall“).
Die Normung zur KI findet in den europäischen Normungsorganisationen CEN, CENELEC sowie ETSI statt. Dort sind nationale Normungsinstitute (NSBs) und europäische Stakeholder-Organisationen vertreten (die die Interessen von kleinen und mittleren Unternehmen (KMU), Gewerkschaften, Umwelt und Verbrauchern vermitteln). Auch das Deutsche Institut für Normung (DIN) ist involviert (Strategieentwicklung Künstliche Intelligenz beim DIN).
Info 2
Der betriebliche Arbeitsschutz und die Rolle der Normung in Deutschland (KAN 2024; DIN 2021)
Die Normung im Arbeitsschutz ist in Deutschland durch eine Vereinbarung, dem „Grundsatzpapier zur Rolle der Normung im betrieblichen Arbeitsschutz“ seit 2015 gesondert geregelt. Das Bundesministerium für Arbeit und Soziales (BMAS) hat dieses Papier zusammen mit der Kommission für Arbeitsschutz und Normung (KAN, bestehend aus Vertreterinnen und Vertretern der obersten Arbeitsschutzbehörden der Länder, der Spitzenverbände der gesetzlichen Unfallversicherung, der Sozialpartner sowie mit dem DIN) und dem Verband der Elektrotechnik Elektronik Informationstechnik e. V. (VDE) erarbeitet.
Die Vereinbarung sieht vor, dass – im Gegensatz zu anderen EU-Ländern – die Normung in Deutschland nur im Ausnahmefall Anforderungen an den betrieblichen Arbeitsschutz konkretisieren soll. Die Regulierung des Arbeitsschutzes erfolgt über staatliche Regeln und Vorschriften der Unfallversicherungsträger. Das heißt, der betriebliche Arbeitsschutz bleibt Regelungsaufgabe von Staat, Ländern und gesetzlicher Unfallversicherung unter Einbeziehung der Sozialpartner. Die KAN prüft Normungsvorhaben und kann sie gegebenenfalls auch ablehnen. Allerdings bezieht sich das Grundsatzpapier nicht auf Europäische Richtlinien beziehungsweise Normung und ihre Wirkung auf den Arbeitsschutz.
Info 3
Definition Produktsicherheit und betrieblicher Arbeitsschutz (DGUV 2024b)
Die Deutsche Gesetzliche Unfallversicherung beschreibt den Unterschied zwischen Produktsicherheit und betrieblichem Arbeitsschutz im Rahmen der Regelungsbereiche des staatlichen Arbeitsschutzrechts wie folgt:
Info 4
Auszüge aus der KI-Verordnung bezüglich der Sicherstellung von Sicherheit und Gesundheit der Nutzerinnen und Nutzer
1. Absatz der Einführung:
(1) (…) um die Einführung von menschenzentrierter und vertrauenswürdiger künstlicher Intelligenz (KI) zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und der in der Charta der Grundrechte der Europäischen Union („Charta“) verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, sicherzustellen, den Schutz vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten und gleichzeitig die Innovation zu unterstützen.
(7) Um ein einheitliches und hohes Schutzniveau in Bezug auf öffentliche Interessen im Hinblick auf Gesundheit, Sicherheit und Grundrechte zu gewährleisten, sollten für alle Hochrisiko-KI-Systeme gemeinsame Vorschriften festgelegt werden.
In Kapitel III Abschnitt 2 zu den Anforderungen an Hochrisiko-KI-Systeme (Teil des Normungsauftrags) stellt Art. 9 hinsichtlich des Risikomanagementsystems klar, dass dieses folgende Schritte umfasst:
(2)(a) die Ermittlung und Analyse der bekannten und vernünftigerweise vorhersehbaren Risiken, die vom Hochrisiko-KI-System für die Gesundheit, Sicherheit oder Grundrechte ausgehen können, wenn es entsprechend seiner Zweckbestimmung verwendet wird.
Sowie Art. 14 zur menschlichen Aufsicht:
(2) Die menschliche Aufsicht dient der Verhinderung oder Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte, die entstehen können, wenn ein Hochrisiko-KI-System im Einklang mit seiner Zweckbestimmung oder im Rahmen einer vernünftigerweise vorhersehbaren Fehlanwendung verwendet wird, insbesondere wenn solche Risiken trotz der Einhaltung anderer Anforderungen dieses Abschnitts fortbestehen.
Kontakt
Foto: picasa
