Vorschlag der EU-Kommission: Eine eigene Verordnung für Künstliche Intelligenz
ID: 1904703
Die EU-Kommission hat einen Vorschlag für eine EU-Verordnung zur Regulierung für Künstliche Intelligenz veröffentlicht. Jetzt mehr erfahren.
Um von der Automatisierung von Arbeitsabläufen durch KI-Anwendungen zu profitieren, sollten die rechtlichen Rahmenbedingungen beachtet werden. Zusätzlich zu den bestehenden, insbesondere datenschutzrechtlichen Regelungen hat die EU-Kommission am 21. April 2021 einen Vorschlag für eine EU-Verordnung zur KI-Regulierung veröffentlicht. Wir geben Ihnen in diesem Beitrag einen Überblick über die aktuellen Gesetzesvorgaben und die geplanten Neuerungen.
Künstliche Intelligenz: Wovon genau ist die Rede?
Für den Begriff der Künstlichen Intelligenz existiert zwar keine einheitliche Definition, zu einem besseren Verständnis können allerdings einige maßgebende Eigenschaften benannt werden. Um als KI bezeichnet werden zu können, sollte eine Anwendung zu autonomem Handeln und eigenständigen Lernprozessen in der Lage sein, um einen bestimmten Output liefern oder Prognoseentscheiden treffen zu können. Zudem sollte sie eine Adaptionsfähigkeit gegenüber ihrer Umgebung aufweisen. Häufig trifft man auf die Unterscheidung zwischen starker und schwacher KI, wobei die erstere zu logisch-intellektuellem Denken und komplexen Abstraktionen fähig ist. Letztere zeichnet sich durch Mustererkennung und die Begabung, auf unbekannte Probleme zu reagieren, aus. Schwache KI kann jedoch nicht abstrahieren und ist nur in einem bestimmten Anwendungsfeld einsetzbar. In aller Regel stuft man die heutigen KI-Anwendungen als schwache Künstliche Intelligenz ein, die aber dennoch zu hohen technischen Leistungen fähig sein können. Neben den bereits genannten Chatbots können KI-Anwendungen vielfältige Anliegen aufnehmen und eigenständig bearbeiten. Beispielsweise gibt es Systeme, die anhand bildgebender Verfahren in der Medizin Tumorstrukturen erkennen und eine Erstdiagnose stellen können. Ebenfalls bereits möglich sind Verfahren, in denen eine Künstliche Intelligenz in Videosequenzen Personen am Gang identifizieren oder Lungenkrankheiten wie Covid-19 über das Atemgeräusch erkennen kann.
KI, Recht und Ethik
Da die Fähigkeiten von KI weiterhin stetig ansteigen, besteht auch ein erhöhter Bedarf an rechtlichen Vorgaben. Weil Künstliche Intelligenz vermehrt an Stellen eingesetzt wird, an denen sie Entscheidungen mit mittelbarer oder unmittelbarer Wirkung für Individuen trifft, bilden ethische Überlegungen die Grundlage der Regulierung. Es ist gerade die Stärke von KI, gleichartige Fälle sehr schnell, effizient und mit einer geringen Fehleranfälligkeit zu lösen. Auf der anderen Seite bedeutet das jedoch, dass teils komplexe moralische Fragestellungen übergangen und „auf die Schnelle“ entschieden werden. Den Ausgangspunkt einer ethischen Betrachtungsweise bildet Art. 1 Abs. 1 Grundgesetz (bzw. auf europäische Ebene Art. 1 Grundrechte-Charta), die Garantie der Menschenwürde. Demnach darf der Mensch nicht zum Objekt gemacht werden. Für KI bedeutet das insbesondere, dass Algorithmen, die Entscheidungen mit Wirkung für Einzelpersonen treffen, keine Grund- und Freiheitsrechte missachten dürfen. Eine solche Gefahr besteht beispielsweise in Situationen, in denen eine KI bei einem selbstfahrenden Fahrzeug in einer Unfallsituation über das Leben von Unfallbeteiligten entscheiden muss, und wenn sie über die Kreditwürdigkeit oder die Strafbarkeit einer Person befindet. Diese und viele weitere Fragen lassen sich rechtlich zwar nicht letztgültig regeln, ein gesetzlicher Rahmen kann aber dabei helfen, Grenzen zu ziehen und zu verhindern, dass KI missbräuchlich eingesetzt wird.
Zu diesem Zweck gibt es bislang kein einheitliches „KI-Recht“, daher finden sich Vorgaben an ganz unterschiedlichen Orten wie etwa dem Haftungs-, Urheber oder Leistungsschutzrecht. Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierungen und schließt Entscheidungen durch Künstliche Intelligenz mit ein. Auch besteht ein Grundrechtsschutz gegen bestimmte Einsatzformen von KI. Da Daten das Fundament für die Lernprozesse von KI-Anwendungen bilden, spielt das Datenschutzrecht mit der Datenschutz-Grundverordnung (DSGVO) eine zentrale Rolle.
Datenschutz bei Künstlicher Intelligenz
Die Datenschutzkonferenz (DSK), der Zusammenschluss der deutschen Aufsichtsbehörden, hat daher die Hambacher Erklärung verabschiedet, in der übergeordnete Leitlinien für die Entwicklung und den Einsatz von KI genannt werden. Das Verbot der Objektivierung des Menschen bildet auch hier die Grundlage, aus der sich weitere Ziele ergeben. Zu ihnen gehören Grundsätze wie Transparenz, Nachvollziehbarkeit und Datenminimierung. Ferner sollte der Einsatz von KI nur verfassungsgemäße Zwecke verfolgen, Diskriminierungen vermieden und Entwicklung sowie Nutzung von technisch-organisatorischen Schutzmaßnahmen begleitet werden.
Die rechtlich bindenden Vorgaben finden sich in der DSGVO. Sie müssen immer dann beachtet werden, wenn KI eingesetzt wird, die mit personenbezogenen Daten arbeitet. In den meisten Fällen wird das zutreffen, wenn nicht ausschließlich anonymisierte Daten verarbeitet werden. Das sind solche, bei denen der Bezug zu einer natürlichen Person zuvor vollständig entfernt wurde. Zum Anlernen einer KI werden zumeist große Mengen historischer Daten benötigt. Auf den Personenbezug im Datenpool kommt es für die Mustererkennung der meisten Anwendungen dabei gar nicht an. Da es sich aber häufig um historische Echtdaten handeln wird, die sich auf eine konkrete Person beziehen, wird zumindest eingangs ein Personenbezug bestehen. Die datenschutzrechtlichen Anforderungen sind daher bis zu einer effektiven Anonymisierung zu beachten. Kommt die KI dann im Produktivbetrieb wieder mit personenbezogenen Daten in Berührung, greift das Datenschutzrecht erneut. Dann müssen die datenschutzrechtlichen Grundsätze eingehalten werden: Vor allem muss die Datenverarbeitung einem legitimen Zweck dienen, transparent ausgestaltet und durch eine Rechtsgrundlage gedeckt sein. Zudem müssen angemessene technisch-organisatorische Maßnahmen getroffen und im Falle automatisierter Einzelfallentscheidungen gesonderte Regeln beachtet werden.
Ein Europäischer Rechtsrahmen für Künstliche Intelligenz
Dabei soll es allerdings nicht bleiben: Die EU-Kommission hat den Entwurf einer Verordnung veröffentlicht, um europaweit eine einheitliche und verbindliche Regulierung zu gewährleisten. Die Verordnung wäre das weltweit erste Gesetz, das ausdrücklich und ausschließlich das Thema KI zum Gegenstand hat. Die Regelungen würden sowohl Entwickler als auch Unternehmen, die KI einsetzen oder importieren, betreffen. Mit dem Vorschlag versucht die EU den Spagat zwischen einer starken Förderung von KI-Technologien einerseits und der Regulierung zum Schutz der Bürger sowie ihr Vertrauen in KI-Anwendungen andererseits. Das, was bislang vor allem in unverbindlichen Leitlinien formuliert wurde, soll mit der Verordnung gesetzlich verpflichtend werden – insbesondere die Vorgabe, dass KI-Systeme in der EU sicher, transparent, ethisch und unter menschlicher Kontrolle agieren müssen. Um dieses Ziel zu erreichen, werden sie in verschiedene Risikoklassen eingeteilt, die vom minimalen Risiko über geringes und hohes bis hin zum unannehmbaren Risiko reichen. Systeme mit dem höchsten Risiko sollen grundsätzlich nicht verwendet werden dürfen. Als Beispiele nennt die EU-Kommission unter anderem Social Scoring durch Behörden oder Spielzeug, das mit einem Sprachassistenten versehen ist und Kinder zu riskantem Verhalten verleitet. KI-Anwendungen mit minimalem Risiko (die einen Großteil aller Systeme ausmachen dürften) hingegen sollen gar nicht weiter reguliert werden. Zu ihnen gehören zum Beispiel Spamfilter. Für Systeme mit einem nur begrenzten Risiko, wie etwa die eingangs erwähnten Chatbots, sollen geringe Transparenzverpflichtungen gelten, damit Nutzer eine informierte Entscheidung darüber treffen können, ob sie diese Systeme verwenden wollen.
Die eigentliche Regulierung ist für die KI-Systeme mit hohem Risiko gedacht. Unternehmen müssen vor dem Einbringen in den Verkehr darauf achten, dass im Rahmen einer Konformitätsbewertung die Einhaltung aller rechtlichen Anforderungen geprüft wird. Dafür ist es vor allem notwendig, dass die verwendeten Datensätze richtig sowie vollständig sind und die Datenverarbeitungen sorgfältig dokumentiert werden. Anschließend müssen die Anwendungen registriert und mit einer CE-Kennzeichnung versehen werden. Des Weiteren sollen Behörden die in den Verkehr gebrachten KI-Systeme stärker kontrollieren. Zu den Systemen mit hohem Risiko zählen unter anderem solche, die über den Zugang zu Bildungs- und Berufsangeboten entscheiden, im Rahmen der Strafverfolgung oder der Rechtspflege eingesetzt werden oder die Entscheidungen im Rahmen zentraler Dienstleistungen, wie etwa der Kreditvergabe, treffen.
Fazit
Da KI-Anwendungen inzwischen vielfältige Einsatzfelder gefunden haben und die technische Entwicklung weiter voranschreitet, sind eigene und einheitliche Regelungen grundsätzlich zu begrüßen. In ihrer Ausgestaltung könnte die geplante EU-Verordnung sicherstellen, dass die vielen Potenziale Künstlicher Intelligenz künftig weiter ausgeschöpft werden können, während zugleich der Schutz der Bürgerinnen und Bürger gestärkt wird. Ob bzw. wann die Verordnung in Kraft treten wird, lässt sich allerdings nur schwer absehen. Es folgen zunächst Verhandlungen im EU-Parlament und im Europäischen Rat. Doch schon jetzt ist der Vorschlag ein deutliches Zeichen, in welche Richtung die rechtliche Regulierung von KI-Anwendungen gehen wird. Und auch mit den bestehenden gesetzlichen Vorgaben wird ein hohes Schutzniveau erreicht. Einsatz und Entwicklung von KI benötigen klare Prozesse und die Verwendung von Daten, die durch sachgerechte Anonymisierung und ein überzeugendes Datennutzungskonzept sorgfältig nutzbar gemacht wurden. Die Regulierung sollte daher nicht als Hemmnis, sondern als Chance wahrgenommen werden, damit die KI-Anwendungen weiterhin mit einem hohen Vertrauen eingesetzt und weiterentwickelt werden können.Weitere Infos zu dieser Pressemeldung:
Themen in dieser Pressemitteilung:
Unternehmensinformation / Kurzprofil:
SCHÜRMANN ROSENTHAL DREYER bietet Mandanten maßgeschneiderte juristische Strategien und Lösungen vor allem in den Bereichen Urheber-, Medien-, IT- und Wettbewerbsrecht, Handels- und Gesellschaftsrecht, Datenschutzrecht sowie im Bereich des Gewerblichen Rechtsschutzes. Namhafte Unternehmen und Organisationen vertrauen uns. Dazu zählen vor allem nationale und internationale Unternehmen, Markenhersteller, IT-, E-Commerce- und Technologieunternehmen, Unternehmen aus der Film-, Fernseh- und Medienbranche sowie Verlage und Agenturen. Wir machen uns stark für unsere Mandanten und denken in Lösungen. Wir arbeiten über Grenzen hinweg und betreuen Projekte interdisziplinär, innovativ und rechtskonform.
Schürmann Rosenthal Dreyer Rechtsanwälte
Vanessa Costanzo
PR & Communications Managerin
Am Hamburger Bahnhof 4
10557 Berlin
Tel.: 030 213 002 80
Mail: costanzo(at)srd-rechtsanwaelte.de
Web: www.srd-rechtsanwaelte.de
Schürmann Rosenthal Dreyer Rechtsanwälte
Vanessa Costanzo
PR & Communications Managerin
Am Hamburger Bahnhof 4
10557 Berlin
Tel.: 030 213 002 80
Mail: costanzo(at)srd-rechtsanwaelte.de
Web: www.srd-rechtsanwaelte.de
Datum: 26.05.2021 - 14:37 Uhr
Sprache: Deutsch
News-ID 1904703
Anzahl Zeichen: 11029
Kontakt-Informationen:
Ansprechpartner: Vanessa Costanzo
Stadt:
Berlin
Telefon: +49 (0)30 21 30 028-0
Kategorie:
IT & Hardware & Software & TK
Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 26.05.2021
Diese Pressemitteilung wurde bisher 881 mal aufgerufen.
Die Pressemitteilung mit dem Titel:
"Vorschlag der EU-Kommission: Eine eigene Verordnung für Künstliche Intelligenz"
steht unter der journalistisch-redaktionellen Verantwortung von
Schürmann Rosenthal Dreyer Rechtsanwälte (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).
