Umfassende Informationen über Produktsicherheit und EU-Harmonisierungsvorschriften

EU-Rechtsrahmen über Künstliche Intelligenz (KI)

Letzte Aktualisierung dieses Beitrags vor

Künstliche Intelligenz

Künstliche Intelligenz in Europa

Vorschriften für künstliche Intelligenz, die auf dem Unionsmarkt verfügbar ist oder anderweitig Menschen in der Union beeinflusst, sollten auf den Menschen ausgerichtet sein, damit Menschen darauf vertrauen können, dass die Technik sicher angewandt wird und den Gesetzen, auch den Grundrechten, genügt.  Um dieses Vertrauen zu stärken, stützt sich die EU-Strategie auf die Werte der EU und erhöht damit nicht nur die Akzeptanz KI-basierter Lösungen bei den Bürgerinnen und Bürgern, sondern spornt auch Unternehmen zu deren Entwicklung und Verbreitung an. Die Vorschriften sollen sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sein.

Die EU-Kommission hat hierfür zwei wesentliche Vorschriften im Bereich Künstlicher Intelligenz (KI) vorgeschlagen, damit zukünftig eine vertrauenswürdige Technologie gewährleist ist.  Damit soll ein funktionierender Binnenmarkt für Systeme der künstlichen Intelligenz (KI-Systeme), mit denen sowohl der Nutzen als auch die Risiken der KI auf Unionsebene angemessen geregelt wird.

  1. Verordnung über ein europäisches Konzept für künstliche Intelligenz (KI-Verordnung)

  2. Koordinierter Plan  „Förderung eines europäischen Konzepts für künstliche Intelligenz“

Beide Dokumente liegen zur Zeit als Entwurf vor und werden vermutlich im Jahr 2022 im EU-Amtsblatt veröffentlicht.

Begriff der Künstlichen Intelligenz gem.  der KI-Verordnung:
„System der künstlichen Intelligenz“ (KI-System) eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren;“

 

1. Zur KI-Verordnung

In dieser KI-Verordnung wird Folgendes festgelegt:

  • harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen der künstlichen Intelligenz (im Folgenden „KI-Systeme“) in der Union
  • verbote bestimmter Praktiken im Bereich der künstlichen Intelligenz;
  • besondere Anforderungen an Hochrisiko-KI-Systeme und Verpflichtungen für Betreiber solcher Systeme;
  • harmonisierte Transparenzvorschriften für KI-Systeme, die mit natürlichen Personen interagieren sollen, für KI-Systeme zur Emotionserkennung und zur biometrischen Kategorisierung sowie für KI-Systeme, die zum Erzeugenoder Manipulieren von Bild-, Ton-oder Videoinhalten verwendet werden;
  • Vorschriften für die Marktbeobachtung und Marktüberwachung

Einteilung der KI-Syteme nach Risiken:

  • Unzulässig
    Alles, was als eindeutige Bedrohung für EU-Bürger angesehen wird, wird verboten: von der behördlichen Bewertung des sozialen Verhaltens (Social Scoring) bis hin zu Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet.
  • begrenztes Risiko
    Für KI-Systeme wie „Chatbots“ gelten minimale Transparenzverpflichtungen, die es den mit ihnen interagierenden Nutzern ermöglichen sollen, fundierte Entscheidungen zu treffen, Die Nutzer können dann entscheiden, ob sie die Anwendung weiter nutzen oder nicht.
  • minimales Risiko
    Kostenlose Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern. Unter diese Kategorie, in der die neuen Vorschriften nicht greifen, fällt die große Mehrzahl der KI-Systeme, weil diese Systeme nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit darstellen
  • hohes Risiko
    Darunter fallen Systeme für
    1. Kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten
    2. Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen)
    3. Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie)
    4. Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren)
    5. Zentrale private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern Darlehen verwehrt werden)
    6. Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Überprüfung der Echtheit von Beweismitteln)
    7. Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten)
    8. Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte)

Besondere Anforderungen an Systeme mit hohem Risiko:

    • Es muss der Konformitätsbewertung unterzogen werden und den KI-Anforderungen genügen. Bei einigen Systemen wird eine notifizierte Stelle einbezogen.
    • Registrierung eigenständiger KI-Systeme in einer EU-Datenbank
    • Eine Konformitätserklärung ist notwendig. Das KI-System muss die CE-Kennzeichnung tragen. Das System kann in Verkehr gebracht werden.

Sobald das KI-System auf dem Markt ist, überwachen die Behörden den Markt, sorgen die Nutzer für die Aufsicht durch einen Menschen sowie für Kontrolle. Die Anbieter richten ein System zur Überwachung nach dem Inverkehrbringen ein. Anbieter und Nutzer sind gehalten, schwere Vorfälle und Fehlfunktionen zu melden.

2. Förderung KI-Exzellenz

Der Koordinierte Plan fördert KI-Exzellenz vom Labor bis hin zum Markt. Er zeigt auf, wie Investitionen in KI beschleunigt, KI-Strategien zwecks rechtzeitiger Umsetzung angegangen und KI-Strategien EU-weit aufeinander abgestimmt werden sollten.

Die EU plant hierfür:

    • Eine öffentlich-private Partnerschaft für künstliche Intelligenz, Daten und Robotik zur Festlegung, Umsetzung und Förderung einer gemeinsamen strategischen Forschungs-, Innovations- und Einführungsagenda für Europa
    • Zusätzliche Netze von KI-Exzellenzzentren für einen breiteren Austausch von Wissen und Know-how, zur Zusammenarbeit mit der Industrie sowie für mehr Vielfalt und Inklusion
    • Test- und Versuchseinrichtungen zur Erprobung modernster Technologien unter realen Bedingungen
    • Digitale Innovationszentren, zentrale Anlaufstellen für den Zugang zu technischem Fachwissen und Experimenten, damit Unternehmen „vor der Investition testen“ können
    • Eine KI-Plattform auf Abruf als zentrales europäisches Instrumentarium für KI-Ressourcen (z. B. Fachwissen, Algorithmen, Softwarerahmen, Entwicklungstools), die von der Industrie und vom öffentlichen Sektor genutzt werden können

Die wichtigsten stregischen Schwerpunkte der EU:

      • Einsatz für Klima und Umwelt
      • Einsatz der nächsten KI-Generation zur Verbesserung der Gesundheitsvorsorge
      • Führungsrolle für Robotik
      • Öffentlicher Sektor
      • Anwendung der KI bei Strafverfolgung, Einwanderung und Asyl
      • sichere und umweltfreundlichere Mobilität
      • Unterstützung für eine nachhaltige Landwirtschaft

 

Weiterführende Informationen

Getagged als:

Schreibe einen Kommentar