Der IA Act erläutert: Verpflichtungen und Herausforderungen für Unternehmen

Künstliche Intelligenz (KI) verändert unsere Gesellschaften und Volkswirtschaften grundlegend. Um dieses Potenzial zu kanalisieren und die Risiken zu begrenzen, wird die Europäische Union ab dem 1. August 2024 die erste umfassende Gesetzgebung zur KI einführen: den KI-Gesetzesrahmen (KI Act).

Einige Schlüsselzahlen zum KI-Markt 

KI ist zu einem entscheidenden Träger der Transformation geworden : 

• Weltweiter Markt: Schätzungsweise 500 Milliarden US-Dollar bis 2028 (Quelle: Statista).

• Wachstum: Der Markt soll von 2024 bis 2030 jedes Jahr um 37 % wachsen (Quelle: Hostinger).

• Öffentliche Wahrnehmung: 51 % der Franzosen betrachten KI sowohl als Gefahr als auch als Fortschritt (Quelle: Cluster 17 und Le Point).

Diese Zahlen belegen die strategische Bedeutung der KI und die Notwendigkeit einer angemessenen Regulierung. 

Warum sollte künstliche Intelligenz reguliert werden? 

• Bias und Diskriminierung : Risiko der Reproduktion und Verstärkung bestehender Vorurteile in den Trainingsdaten, was zu diskriminierenden Entscheidungen führen kann.

• Datenschutz : Risiken im Zusammenhang mit Profiling, unberechtigtem Zugriff auf persönliche Daten und dem Vorfall bei Cambridge Analytica.

• Informationsmanipulation: Problematik der Deepfakes und der Verbreitung von Fake News durch Bots.

• Auswirkungen auf die Beschäftigung: Veränderung des Arbeitsmarkts mit der Schaffung neuer Möglichkeiten, aber auch möglicher Ungleichheiten.

• Mangel an Transparenz: Undurchsichtige Funktionsweise von KI-Systemen, die oft mit “Black Boxes” gleichgesetzt werden.

• Sicherheit und Gefahrenabwehr: Risiken durch Entführungen oder Fehlfunktionen, die zu Unfällen führen oder kritische Infrastrukturen gefährden können.

IA Act: Wie das Gesetz KI-Systeme einrahmt

Der IA Act ist die weltweit erste allgemeine Gesetzgebung, die einen Rahmen für die Entwicklung, Vermarktung und Nutzung von Systemen der künstlichen Intelligenz schaffen soll. Zu seinen Kernpunkten gehören : 

Einstufung von KI-Systemen nach Risiko

• Unannehmbare Risiken: Systeme, die seit dem 2. Februar verboten sind (z. B. soziale Bewertungssysteme, Echtzeit-Erkennung von Emotionen am Arbeitsplatz, Echtzeit-Gesichtserkennung im öffentlichen Raum zum Zweck der Profilerstellung).

• Hoches Risiko: Systeme, die eine strenge Regulierung erfordern (z. B. biometrische Fernidentifikation, Überwachungssysteme für kritische Infrastrukturen).

• RiSpezifisches Risiko in Bezug auf Transparenz: Systeme, die Garantien in Bezug auf die Transparenz erfordern. (z. B. Gesichtserkennungssysteme, Empfehlungssysteme).

• Minimales Risiko: Systeme wie Chatbots oder Spamfilter, bei denen die Annahme von Best-Practice-Codes gefördert wird.

Akteure der KI-Wertschöpfungskette

Der IA Act gilt für alle Akteure, die am Lebenszyklus von KI-Systemen beteiligt sind, einschließlich : 

• Anbieter: diejenigen, die KI-Systeme entwickeln und vermarkten.

• Arbeitgeber: diejenigen, die KI-Systeme in einem beruflichen Umfeld nutzen.

• Bevollmächtigte: diejenigen, die sich in der Europäischen Union befinden und von einem Anbieter von KI-Dienstleistungen eine schriftliche Vollmacht erhalten haben. Diese Vollmacht ermöglicht es dem Bevollmächtigten, im Namen des Anbieters zu handeln, um dessen Verpflichtungen und Verfahren zu verwalten.

• Importeure:diejenigen, die sich in der EU befinden und ein KI-System auf den Markt bringen, das den Namen oder die Marke eines in einem Drittland ansässigen Unternehmens trägt.

• Händler: diejenigen, die die KI-Systeme auf dem EU-Markt zur Verfügung stellen.

Pflichten von KI-Akteuren

Die Pflichten von KI-Akteuren hängen von der Höhe des Risikos ab, das mit ihren KI-Systemen verbunden ist. Bei KI-Systemen mit hohem Risiko sind alle Beteiligten verpflichtet: 

Für Anbieter 

Lieferanten müssen sich im KI-System identifizieren, eine Konformitätserklärung ausstellen, eine CE-Kennzeichnung anbringen, ein Qualitätsmanagement betreiben, die Konformität vor dem Inverkehrbringen bewerten und bei Nichtkonformität Korrekturmaßnahmen ergreifen. 

Für Entfalter 

Deployers haben ihrerseits spezifische Verantwortlichkeiten. In organisatorischer und technischer Hinsicht müssen sie Maßnahmen umsetzen, die die Sicherheit des Systems gewährleisten, eine effektive menschliche Kontrolle über seine Nutzung sicherstellen und die Qualität der Eingabedaten streng überprüfen. In Bezug auf die Kommunikation sind sie dafür verantwortlich, die Arbeitnehmer und die betroffenen Personen zu informieren, und müssen Folgenabschätzungen in Bezug auf die Grundrechte durchführen. 

Für Bevollmächtigte 

Was die Bevollmächtigten betrifft, so müssen diese die Konformität von KI-Systemen mit hohem Risiko überprüfen, Dokumente zehn Jahre lang für die Behörden bereithalten, bei der Risikominderung zusammenarbeiten und die Registrierungspflichten erfüllen. 

Für die Importeure :  

Importeure sind dafür verantwortlich, die Konformität der KI-Systeme vor dem Inverkehrbringen zu gewährleisten und die Identität des KI-Systems und seiner Dokumentation anzugeben. 

Für Händler 

Auch die Händler haben ihre eigenen Pflichten. Sie müssen die Übereinstimmung der Dokumente akribisch überprüfen, vor der Verteilung ein Vorsorgeprinzip anwenden und angemessene Lagerungs- und Transportbedingungen gewährleisten. 

Sanktionen bei Nichteinhaltung 

Der IA Act sieht strenge Sanktionen für die Nichteinhaltung der Pflichten vor, darunter : 

• Verbotene Praktiken: Geldstrafen bis zu 35 Millionen € oder 7 % des Jahresumsatzes.

• Andere Verstöße: Strafen von bis zu 15 Millionen € oder 3 % des weltweiten Jahresumsatzes.

• Bereitstellung unrichtiger Informationen: Geldstrafen von bis zu 7.500.000 € oder 1 % des weltweiten Jahresumsatzes.

Die Einhaltung der Vorschriften kann sich als schwierig erweisen. Sie müssen die Nutzung von KI kartografieren, die Risiken identifizieren und die Werkzeuge für die Bewertung und Einhaltung vorbereiten.
Wenn Sie sich bei diesen Themen von Fachexperten begleiten lassen möchten, wenden Sie sich an Cloud Temple