EU-Rechtsrahmen über Künstliche Intelligenz (KI)

Letzte Aktualisierung dieses Beitrags vor 8 Monaten

Die EU plant ein Rechtsrahmen für ein funktionierender Binnenmarkt für Systeme der künstlichen Intelligenz (KI-Systeme).

Vorschriften für künstliche Intelligenz, die auf dem Unionsmarkt verfügbar ist oder anderweitig Menschen in der Union beeinflusst, sollten auf den Menschen ausgerichtet sein, damit Menschen darauf vertrauen können, dass die Technik sicher angewandt wird und den Gesetzen, auch den Grundrechten, genügt.  Um dieses Vertrauen zu stärken, stützt sich die EU-Strategie auf die Werte der EU und erhöht damit nicht nur die Akzeptanz KI-basierter Lösungen bei den Bürgerinnen und Bürgern, sondern spornt auch Unternehmen zu deren Entwicklung und Verbreitung an. Die Vorschriften sollen sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sein.

Die EU-Kommission hat hierfür zwei wesentliche Vorschriften im Bereich Künstlicher Intelligenz (KI) vorgeschlagen, damit zukünftig eine vertrauenswürdige Technologie gewährleist ist.  Damit soll ein funktionierender Binnenmarkt für Systeme der künstlichen Intelligenz (KI-Systeme), mit denen sowohl der Nutzen als auch die Risiken der KI auf Unionsebene angemessen geregelt wird.

1. Verordnung über ein europäisches Konzept für künstliche Intelligenz (KI-Verordnung)
2. Koordinierter Plan  „Förderung eines europäischen Konzepts für künstliche Intelligenz“

Beide Dokumente liegen zur Zeit als Entwurf vor und werden vermutlich im Jahr 2022 im EU-Amtsblatt veröffentlicht.

Begriff der Künstlichen Intelligenz gemäß der KI-Verordnung:
„System der künstlichen Intelligenz“ (KI-System) eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren;“

1. KI-Verordnung (Künstliche Intelligenz)

In dieser KI-Verordnung wird Folgendes festgelegt:

• harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen der künstlichen Intelligenz (im Folgenden „KI-Systeme“) in der Union
• verbote bestimmter Praktiken im Bereich der künstlichen Intelligenz;
• besondere Anforderungen an Hochrisiko-KI-Systeme und Verpflichtungen für Betreiber solcher Systeme;
• harmonisierte Transparenzvorschriften
  • für KI-Systeme, die mit natürlichen Personen interagieren
    • für KI-Systeme zur Emotionserkennung und
    • zur biometrischen Kategorisierung sowie
  • für KI-Systeme, zum Erzeugen oder Manipulieren von Bild-, Ton-oder Videoinhalten
• Vorschriften für die Marktbeobachtung und Marktüberwachung

Einteilung der KI-Syteme nach Risiken:

• Unzulässig
  Alles, was als eindeutige Bedrohung für EU-Bürger angesehen wird, wird verboten: von der behördlichen Bewertung des sozialen Verhaltens (Social Scoring) bis hin zu Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet.
• begrenztes Risiko
  Für KI-Systeme wie „Chatbots“ gelten minimale Transparenzverpflichtungen, die es den mit ihnen interagierenden Nutzern ermöglichen sollen, fundierte Entscheidungen zu treffen, Die Nutzer können dann entscheiden, ob sie die Anwendung weiter nutzen oder nicht.
• minimales Risiko
  Kostenlose Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern. Unter diese Kategorie, in der die neuen Vorschriften nicht greifen, fällt die große Mehrzahl der KI-Systeme, weil diese Systeme nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit darstellen
• hohes Risiko
  Darunter fallen Systeme für

Kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet sein könnten

• Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt sein könnten (z. B. Bewertung von Prüfungen)
• Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie)
• Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren)
• Zentrale private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern Darlehen verwehrt werden)
• Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Überprüfung der Echtheit von Beweismitteln)
• Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten)
• Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte)

Besondere Anforderungen an Systeme mit hohem Risiko:

• Es muss der Konformitätsbewertung unterzogen werden und den KI-Anforderungen genügen. Bei einigen Systemen wird eine notifizierte Stelle einbezogen.
• Registrierung eigenständiger KI-Systeme in einer EU-Datenbank
• Eine Konformitätserklärung ist notwendig. Das KI-System muss die CE-Kennzeichnung tragen. Das System kann in Verkehr gebracht werden.

Sobald das KI-System auf dem Markt ist, überwachen die Behörden den Markt, sorgen die Nutzer für die Aufsicht durch einen Menschen sowie für Kontrolle. Die Anbieter richten ein System zur Überwachung nach dem Inverkehrbringen ein. Anbieter und Nutzer sind gehalten, schwere Vorfälle und Fehlfunktionen zu melden.

2. Förderung KI-Exzellenz

Der Koordinierte Plan fördert KI-Exzellenz vom Labor bis hin zum Markt. Er zeigt auf, wie Investitionen in KI beschleunigt, KI-Strategien zwecks rechtzeitiger Umsetzung angegangen und KI-Strategien EU-weit aufeinander abgestimmt werden sollten.

Die EU plant hierfür:

• Eine öffentlich-private Partnerschaft für künstliche Intelligenz, Daten und Robotik zur Festlegung, Umsetzung und Förderung einer gemeinsamen strategischen Forschungs-, Innovations- und Einführungsagenda für Europa
• Zusätzliche Netze von KI-Exzellenzzentren für einen breiteren Austausch von Wissen und Know-how, zur Zusammenarbeit mit der Industrie sowie für mehr Vielfalt und Inklusion
• Test- und Versuchseinrichtungen zur Erprobung modernster Technologien unter realen Bedingungen
• Digitale Innovationszentren, zentrale Anlaufstellen für den Zugang zu technischem Fachwissen und Experimenten, damit Unternehmen „vor der Investition testen“ können
• Eine KI-Plattform auf Abruf als zentrales europäisches Instrumentarium für KI-Ressourcen (z. B. Fachwissen, Algorithmen, Softwarerahmen, Entwicklungstools), um von der Industrie und vom öffentlichen Sektor zu nutzen

Die wichtigsten stregischen Schwerpunkte der EU:

• Einsatz für Klima und Umwelt
• Einsatz der nächsten KI-Generation zur Verbesserung der Gesundheitsvorsorge
• Führungsrolle für Robotik
• Öffentlicher Sektor
• Anwendung der KI bei Strafverfolgung, Einwanderung und Asyl
• sichere und umweltfreundlichere Mobilität
• Unterstützung für eine nachhaltige Landwirtschaft

Weiterführende Informationen

• Entwurf „Verordnung des Europäischen Parlaments und des Rates zur Vestlegung der Harmonisierten Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union“
• Entwurf „Anhänge“ der KI-Verordnung
• Koordinierter Plan: „Förderung eines europäischen Konzepts für künstliche Intelligenz“
• BAUA Publikation: „Rechtliche Rahmenbedingungen für autonome und KI-Systeme“

Getagged als: Künstiche Intelligenz

Kategorisiert als:Aktuell, EU-Rechtsrahmen