Künstliche Intelligenz im Fokus: Die KI-Verordnung der EU

Seit dem 2.2.25 gelten erste Grundsätze und Verbote der KI-Verordnung, die den verantwortungsvollen Einsatz künstlicher Intelligenz sicherstellen sollen. Mit klaren Vorgaben schafft sie Vertrauen, minimiert Risiken und legt die Grundlage für einheitliche Standards in Europa. Das Europäische Amt für künstliche Intelligenz und der KI-Pakt unterstützen bei der Umsetzung dieser neuen Regelungen.

Was ist das KI-Gesetz?

Das KI-Gesetz (Verordnung(EU) 2024/1689) ist am 1. August 2024 in Kraft getreten, stellt den ersten umfassenden Rechtsrahmen für KI (Künstliche Intelligenz) in Europa dar und verfolgt das Ziel der Förderung einer vertrauenswürdigen KI in Europa und weltweit.

Die Verordnung umfasst klare Anforderungen für Entwickler und Betreiber von KI und versucht gleichzeitig den organisatorischen und finanziellen Aufwand, vor allem für kleine und mittlere Unternehmen (KMU), zu verringern.

Zusammen mit dem KI-Innovationspaket und dem koordinierten KI-Plan bildet das KI-Gesetz ein umfassendes Paket politischer Maßnahmen, das die Sicherheit und die Grundrechte der Menschen und Unternehmen im Kontext von KI gewährleistet. Das KI-Innovationspaket der EU ist ein Maßnahmenpaket zur Begleitung der Einführung und Umsetzung der KI-Verordnung. Es soll Innovationen fördern und die Entwicklung vertrauenswürdiger KI-Systeme unterstützen. Der koordinierte Plan für künstliche Intelligenz (Coordinated Plan on Artificial Intelligence) wurde erstmals 2018 von der Europäischen Kommission veröffentlicht und seitdem regelmäßig aktualisiert. Sein Ziel ist es, die Zusammenarbeit zwischen den EU-Mitgliedstaaten, der Europäischen Kommission und anderen Akteuren zu fördern, um Europa zu einer führenden Region bei der Entwicklung vertrauenswürdiger und ethisch verantwortungsvoller KI zu machen.

Gründe für das Gesetz

Sicherstellung von Vertrauen in KI
Das KI-Gesetz fördert das Vertrauen, indem es klare Regeln für den verantwortungsvollen Einsatz von KI aufstellt.

Minimierung spezifischer Risiken und unerwünschter Ergebnisse
Es reduziert Risiken wie Diskriminierung und Datenschutzverletzungen, um unerwünschte Folgen zu vermeiden.

Bestehende Rechtsvorschriften reichen nicht aus
Bestehende Gesetze reichen nicht aus, um die Herausforderungen der KI-Entwicklung zu bewältigen, daher sind spezifische Regelungen erforderlich.

Welche Regeln gelten ab dem 2. Februar 2025?

Ab dem 2. Februar 2025 gelten Kapitel I und Kapitel II der KI-Verordnung. Dabei definiert Kapitel I allgemein den Zweck, den Anwendungsbereich, die zentralen Begriffe sowie Definitionen und Pflichten für Anbieter und Betreiber, während Kapitel II bereits Verbote bestimmter KI-Praktiken aufstellt.

Kapitel I: Zweck, Anwendungsbereich und Grundsätze

Zweck der Verordnung
- Schaffung harmonisierter Vorschriften für die Nutzung und die Entwicklung von KI-Systemen in der EU
- Gewährleistung von Sicherheit, Transparenz und Vertrauenswürdigkeit von KI-Anwendungen
- Minimierung der Risiken und negativen Auswirkungen von KI
Anwendungsbereich
- Gilt für Anbieter, Betreiber und Nutzer von KI-Systemen in der EU sowie für KI-Systeme, die Produkte oder Dienstleistungen in der EU bereitstellen
Zentrale Begriffe und Definitionen
- KI-System: Nach Art. 3 Nr. 1 ein Softwaresystem, das Daten interpretiert und Entscheidungen oder Vorhersagen trifft
- Risikoklassen: Jedes KI-System wird einer Risikoklasse zugeordnet (z. B. geringes Risiko, hohes Risiko), die den Umfang der Pflichten bestimmt
- KI-Kompetenz: Fähigkeiten, Wissen und Verständnis für den sachkundigen Einsatz von KI
Pflichten für Anbieter und Betreiber (Art. 4):
- Sicherstellung eriner ausreichenden „KI-Kompetenz“ des Personals, das mit KI-Systemen arbeitet
- Inhalte der Schulungen richten sich nach Rolle, Anwendungsfall und Risikoklasse des KI-Systems

Kapitel II: Verbotene KI-Praktiken

Verbot bestimmter KI-Praktiken (Art. 5):
- Praktiken, die eine eindeutige Bedrohung darstellen, sind verboten. Dazu gehören:
  - Täuschungstechniken (z.B. manipulatives Design oder versteckter Einsatz von KI).
  - Systeme, die emotionale Zustände erkennen (z. B. zur Manipulation, außer für medizinische oder sicherheitsrelevante Zwecke).
  - Social Scoring (z. B. Bewertung von Personen anhand ihres Verhaltens oder ihrer Eigenschaften durch KI).
Zweck des Verbots:
- Schutz der Grundrechte, der Würde und der Privatsphäre der betroffenen Personen.
- Verhinderung des Missbrauchs von KI.

Welche KI-Systeme werden als Risiko eingestuft?

Das Gesetz definiert vier Risikostufen, die in der folgenden Abbildung dargestellt sind. Die Stufen lassen sich wie folgt zusammenfassen: Alle KI-Systeme, die eine Gefahr für die Sicherheit, den Lebensunterhalt und die Rechte von Menschen darstellen, sind verboten. Dies gilt für soziale Bewertungen durch Regierungen und für Spielzeug, das Sprachhilfen verwendet und gefährliches Verhalten fördert.

Wer hilft dabei, das KI-Gesetz umzusetzen?

Die Umsetzung des KI-Gesetzes (KI-VO) wird durch verschiedene Initiativen und Institutionen unterstützt, die dafür sorgen, dass die neuen Regelungen in der Praxis effektiv und umfassend umgesetzt werden. Zwei wesentliche Akteure sind das Amt für künstliche Intelligenz und der KI-Pakt.

Das Europäische Amt für künstliche Intelligenz

Zentrale Institution zur Überwachung und Unterstützung der Umsetzung des KI-Gesetzes
Eingesetzt von der Europäischen Kommission zur Sicherstellung der Einhaltung der KI-Verordnung
Verantwortlich für die Bewertung und Überwachung von KI-Systemen unter der KI-Verordnung
Fokus auf allgemein einsetzbare KI-Modelle, z. B. Chatbots mit großen Sprachmodellen
Unterstützt Unternehmen bei der Anpassung ihrer KI-Systeme an gesetzliche Anforderungen

Der KI-Pakt

Freiwillige Selbstverpflichtung der Wirtschaft zur Unterstützung der KI-Verordnung
Gerichtet an Unternehmen jeder Größe, die KI entwickeln, bereitstellen oder nutzen
Fördert Zusammenarbeit zwischen Privatwirtschaft, öffentlichen Institutionen und Regulierungsbehörden
Ermöglicht den Austausch von Best Practices und Zugang zu Ressourcen für die Umsetzung der Verordnung
Schafft Dialog zwischen Unternehmen, Zivilgesellschaft und Regulierungsbehörden für ethischen Umgang mit KI

Softwaredemo zu ANTEROS
Erleben Sie Funktionen im PIM-System, die dem KI-Gesetz entsprechen!

Kontaktieren Sie uns jetzt und lernen Sie mehr über die KI-Funktionen des ANTEROS PIM-Systems.

Kostenlos testen ANTEROS KI