Das europäische Gesetz zur künstlichen Intelligenz steht kurz vor der Umsetzung

Am 13. März 2024 verabschiedete das Europäische Parlament das Gesetz über künstliche Intelligenz, das alle Fragen im Zusammenhang mit dem Regulierungsrahmen für künstliche Intelligenz umfassend regelt. Dies wird eine wegweisende EU-Gesetzgebung in Europa sein.

Das Gesetz über künstliche Intelligenz wird Ende 2026, also innerhalb von 24 Monaten nach seiner Veröffentlichung, in Europa seine volle Wirkung entfalten. Das Verbot künstlicher Intelligenzsysteme, die inakzeptable Risiken bergen, wird jedoch innerhalb von sechs Monaten umgesetzt, was bedeutet, dass es möglicherweise im Jahr 2024 umgesetzt wird. Darüber hinaus werden ab Mitte 2025 Regeln für allgemeine Systeme der künstlichen Intelligenz umgesetzt.

Was ist ein KI-System?

• Künstliche Intelligenzsysteme, die im Künstliche-Intelligence-Gesetz erwähnt werden, sind als maschinenbasierte Systeme definiert, die für einen Betrieb mit unterschiedlichem Grad an Autonomie ausgelegt sind. Diese Systeme zeigen nach der Bereitstellung des Systems eine Anpassungsfähigkeit für explizite oder implizite Ziele und leiten aus den empfangenen Eingaben ab, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden, die sich auf die physische oder virtuelle Umgebung auswirken können.
• Die weite Definition von KI-Systemen macht den Anwendungsbereich des KI-Gesetzes sehr flexibel und deckt nicht nur Softwareprodukte, sondern auch alle anderen Tools, Hardware oder Lösungen ab, die das Potenzial haben, als autonome Systeme betrachtet zu werden, die aus neuen Situationen lernen und Schlussfolgerungen ziehen können basierend auf Eingabedaten, die ihnen zuvor übermittelt wurden. Darüber hinaus ist das Künstliche-Intelligence-Gesetz aufgrund dieser weiten Definition nicht nur auf die KI-Produkte selbst anwendbar, sondern auch auf alle anderen Produkte oder Lösungen, die KI-Komponenten verwenden.

Für wen gilt es?

• Das Gesetz über künstliche Intelligenz gilt für Unternehmen, die sich mit Systemen der künstlichen Intelligenz befassen, insbesondere:
  • Anbieter – Ein Unternehmen, das ein KI-System entwickelt und es unter seiner eigenen Marke auf den Markt oder als Dienstleistung bringt.
  • Bereitsteller – Eine Entität, die ein KI-System in eigener Verantwortung nutzt.
  • Darüber hinaus gilt das AI-Gesetz auch für andere Arten von Unternehmen wie Importeure, Händler und autorisierte Vertreter.

Verbotene KI-Systeme

Das Gesetz über künstliche Intelligenz schlägt einen risikobasierten Bewertungsansatz vor und stellt unterschiedliche Anforderungen an verschiedene Kategorien von KI-Systemen, basierend auf deren Auswirkungen auf Einzelpersonen (natürliche Personen, die von einem bestimmten KI-System betroffen sind).

Verbotene KI-Systeme stellen ein inakzeptables Risiko dar. Mit einigen Ausnahmen gehören zu den verbotenen Systemen der künstlichen Intelligenz:

• Systeme, die unterschwellige, manipulative oder betrügerische Techniken nutzen, um Einzelpersonen dazu zu bewegen, fundierte Entscheidungen zu treffen;
• soziale Bewertungssysteme, die zu einer schädlichen oder nachteiligen Behandlung führen;
• Verwendung von Gesichtserkennungssystemen, die ungezielt Bilder von Gesichtern aus dem Internet oder CCTV-Aufnahmen erfassen;
• Emotionserkennungssysteme für Arbeitsplätze und Bildungseinrichtungen;
• Mehrere biometrische Klassifizierungssysteme;
• Bestimmte biometrische Echtzeit-Fernsysteme.

KI-Systeme mit hohem Risiko

Die Kernkategorie des Gesetzes über künstliche Intelligenz sind Systeme der künstlichen Intelligenz mit hohem Risiko, also Systeme, die ein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen darstellen können. Gemäß dem Gesetz über künstliche Intelligenz beziehen sich Hochrisikosysteme für künstliche Intelligenz auf Systeme, die unter die EU-Produktsicherheitsgesetzgebung fallen, einschließlich, aber nicht beschränkt auf die folgenden Systeme:

• KI-Systeme, die in kritischen Infrastrukturen eingesetzt werden;
• KI-Systeme für Bildung und Berufsausbildung;
• KI-Systeme für Beschäftigung, Arbeitnehmermanagement und Selbstständigkeit;
• Künstliche Intelligenzsysteme für die Strafverfolgung;
• Einwanderungs-, Asyl- und Grenzkontrollmanagementsysteme.

Die Liste der Hochrisiko-KI-Systeme im Gesetzentwurf ist nicht vollständig, was bedeutet, dass die Beispielkategorien der Hochrisiko-KI-Systeme in Zukunft möglicherweise ergänzt und an Technologietrends angepasst werden.

Das Künstliche-Intelligence-Gesetz deckt neben Systemen der künstlichen Intelligenz mit hohem Risiko auch andere Systeme der künstlichen Intelligenz mit mittlerem und niedrigem Risiko ab.

Pflichten für hochriskante Systeme der künstlichen Intelligenz

Anbieter und/oder Betreiber von Hochrisiko-KI-Systemen werden mit einer Reihe von Verpflichtungen konfrontiert sein, wie zum Beispiel:

• Implementierung von Risikomanagementsystemen während des gesamten Lebenszyklus von Systemen mit künstlicher Intelligenz mit hohem Risiko; dazu gehört die Identifizierung und Analyse bekannter und vernünftigerweise vorhersehbarer Risiken sowie die Ergreifung gezielter Risikomanagementmaßnahmen;
• Implementieren Sie geeignete Data-Governance-Mechanismen und stellen Sie sicher, dass die zum Trainieren, Validieren und Testen von KI-Modellen verwendeten Daten für ihren Zweck geeignet und von angemessener Qualität sind.
  Erstellen und pflegen Sie detaillierte technische Dokumentationen für KI-Systeme;
• Statten Sie das System mit Aufzeichnungsfunktionen aus, um Ereignisse während des Betriebs des KI-Systems automatisch aufzuzeichnen.
• Behalten Sie die menschliche Aufsicht über KI-Systeme bei;
• Aufrechterhaltung eines angemessenen Niveaus an Genauigkeit, Robustheit und Cybersicherheit von KI-Systemen;
• Qualitätsmanagementsystem implementieren;
• Führen Sie Folgenabschätzungen oder Konformitätsbewertungen für bestimmte Kategorien von Systemen der künstlichen Intelligenz durch.
• Implementierung einer Überwachung nach dem Inverkehrbringen – Sammeln und Analysieren von KI-Systemdaten;
• EU-Datenbankregistrierungspflichten;
• Informations-/Transparenzpflichten gegenüber Personen, die von Systemen der künstlichen Intelligenz betroffen sind.

allgemeine künstliche Intelligenz

Zusätzlich zu den Standardsystemen der künstlichen Intelligenz definiert das Gesetz über künstliche Intelligenz auch eine eigene Kategorie: Systeme, die künstliche Intelligenz nutzen (GPAI). Dabei handelt es sich um ein System allgemeiner Natur, das in einer Vielzahl nachgelagerter Systeme oder Anwendungen eingesetzt werden kann. GPAI umfasst Modelle der künstlichen Intelligenz, die eine Vielzahl von Aufgaben ausführen können, universell einsetzbar sind, häufig autonom aus großen Datenmengen lernen und in einer Vielzahl von Anwendungen eingesetzt werden können.

Nach dem Gesetz über künstliche Intelligenz gelten für GPAI gesonderte Anforderungen:

• Detaillierte technische Dokumentation des Implementierungsmodells;
• Implementieren Sie spezifische Richtlinien zum Urheberrecht.
• Stellen Sie eine „ausreichend detaillierte“ Zusammenfassung des Inhalts des Trainingsdatensatzes bereit.
• Kennzeichnungspflichten für Inhalte, die durch künstliche Intelligenz generiert oder manipuliert werden.

Sanktionen bei Verstößen

Abhängig von der Art des Verstoßes und der Größe des Unternehmens sieht das KI-Gesetz schwere Sanktionen für Verstöße vor. Ein Verstoß gegen die Verbote des Gesetzes über künstliche Intelligenz könnte zu Geldstrafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes führen, während die Nichteinhaltung von Verpflichtungen im Zusammenhang mit Hochrisiko-KI-Systemen zu Geldstrafen von bis zu 15 Millionen Euro oder 3 % führen könnte weltweiter Jahresumsatz.

Breiterer rechtlicher Rahmen

Obwohl sich das Künstliche-Intelligence-Gesetz auf Hochrisikoanwendungen und GPAI konzentriert, ist es wichtig, die breitere Umsetzung von KI nicht aus den Augen zu verlieren. Unternehmen sollten den Einsatz aller KI-Technologien in ihren Betrieben gründlich bewerten und Technologien überprüfen, die bereits vor der Verabschiedung des KI-Gesetzes im Einsatz waren, um sicherzustellen, dass nicht nur das KI-Gesetz, sondern auch die bestehenden rechtlichen Rahmenbedingungen eingehalten werden. Dazu gehören Fragen der Privatsphäre und des Datenschutzes, die in der DSGVO geregelt sind, sowie die Einhaltung der Gesetze zum Schutz des geistigen Eigentums, des Verbraucherschutzes und der Antidiskriminierung, die für verschiedene KI-Systeme gelten.