EUGH formuliert erste Anforderungen beim behördlichen Einsatz von KI zur öffentlichen Sicherheit

Im Kontext der Richtlinie über die Verarbeitung von Fluggastdaten (PNR-RL bzw. Richtlinie (EU) 2016/681) konnte sich der EuGH erstmals zu den grundrechtlichen Voraussetzungen des Einsatzes von KI durch eine Behörde äußern.

In diesem Zusammenhang warnt der Europäische Gerichtshof (EuGH) davor, dass die Art und Weise, wie künstliche Intelligenz (KI) funktioniert, oft nicht nachvollziehbar ist. Dies kann es schwierig machen, festzustellen, warum ein KI-Programm bestimmte Ergebnisse liefert. In solchen Fällen könnte der Einsatz von KI die Möglichkeit einer Person einschränken, einen wirksamen Rechtsbehelf nach Artikel 47 der Charta einzulegen, insbesondere um geltend zu machen, dass die Ergebnisse nicht diskriminierend sind. Dies steht im Zusammenhang mit der Gewährleistung eines hohen Schutzniveaus gemäß der PNR-Richtlinie.

Die Behörden müssen daher sicherstellen, dass der Einsatz von KI sowohl automatisch als auch individuell überprüft wird und rechtmäßig und insbesondere nicht diskriminierend ist. Bei KI-Anwendungen, die selbst bei wenigen Fehlern erhebliche Auswirkungen auf die betroffene Person haben können, ist eine manuelle Überprüfung der Ergebnisse unerlässlich.

EUGH formuliert erste Anforderungen beim behördlichen Einsatz von KI zur öffentlichen Sicherheit weiterlesen

Nach Ansicht des Gerichtshofs erfordert die Achtung der Grundrechte eine Beschränkung der in der PNR-Richtlinie vorgesehenen Befugnisse auf das absolut Notwendige

Besteht keine reale und aktuelle oder vorhersehbare terroristische Bedrohung eines Mitgliedstaats, steht das
Unionsrecht nationalen Rechtsvorschriften entgegen, die eine Übermittlung und Verarbeitung von PNR-Daten
bei EU-Flügen sowie bei Beförderungen mit anderen Mitteln innerhalb der Union vorsehen, so der EUGH (C-817/19).

Die PNR-Richtlinie schreibt zur Bekämpfung von Terrorismus und schwerer Kriminalität die systematische Verarbeitung einer großen Zahl von PNR-Daten (Passager Name Record) der Fluggäste von Flügen zwischen der Union und Drittstaaten (Drittstaatsflüge) bei der Einreise in die bzw. der Ausreise aus der Union vor. Darüber hinaus können die Mitgliedstaaten diese Richtlinie nach ihrem Art. 2 auch auf Flüge innerhalb der Union (EU-Flüge) anwenden.

Hinweis: Die Entscheidung ist ein Meilenstein in der Bewertung der Zulässigkeit von KI-Lösungen speziell mit Blick auf Ethik und Diskriminierung!

Nach Ansicht des Gerichtshofs erfordert die Achtung der Grundrechte eine Beschränkung der in der PNR-Richtlinie vorgesehenen Befugnisse auf das absolut Notwendige weiterlesen

NIS2-Richtlinie

Es ist so weit: Die NIS2-Richtlinie wird endlich kommen. Schon Ende des Jahres 2020 hatte man erkannt, dass die bisherige NIS-Richtlinie den Anforderungen nicht mehr hinreichend gewachsen ist und es wurde – entsprechend der Mitteilung über die Gestaltung der digitalen Zukunft Europas – die Überprüfung der Richtlinie bis Ende des Jahres 2020 beschleunigt, eine Folgenabschätzung durchgeführt und ein neuer Vorschlag vorgelegt.

In diesem Beitrag (zuletzt aktualisiert im März 2023) finden Sie wesentliche Informationen rund um die NIS2-Richtlinie und deren Wirkungen auf Unternehmen.

NIS2-Richtlinie weiterlesen

Verordnung über sichere Maschinenprodukte

Im Juni 2022 haben sich die EU-Mitgliedstaaten haben auf ein Mandat für Verhandlungen mit dem Europäischen Parlament über den Vorschlag für eine Verordnung über Maschinenprodukte geeinigt: Mit diesem Vorschlag soll die Maschinenrichtlinie aus dem Jahr 2006 in eine Verordnung umgewandelt.

Die Verordnung ist bedeutsam: Der Wortlaut sorgt für ausreichende Flexibilität für aufstrebende Technologien, einschließlich künftiger Anwendungen künstlicher Intelligenz im Maschinensektor.

Update: Dazu unser Beitrag „EU-Maschinenverordnung (EU 2023/1230)“

Verordnung über sichere Maschinenprodukte weiterlesen

EU-Digitalstrategie

Die EU-Digitalstrategie ist eine Idee der EU-Kommission, mit dem Ziel, „das kommende Jahrzehnt zur digitalen Dekade Europas zu machen“. Ziel sind der Ausbau der digitalen Souveränität Europas sowie Aufbau eigener Standards. Der Schwerpunkt liegt in den groben Themenbereichen Daten, Technologie und Infrastruktur.

EU-Digitalstrategie weiterlesen

Urheberrechts-Richtlinie: Reform des Urheberrechts 2019 – Materialsammlung zur Urheberrechtsreform

Urheberrechtsreform 2019 – Mitte Februar 2019 wurde bekannt, dass Unterhändler auf EU-Ebene sich einigen konnten hinsichtlich der Umsetzung einer „moderneren Urheberrechtsrichtlinie“. Ende März 2019 soll darüber abgestimmt werden, in der zur Abstimmung gestellten Fassung wurden die Artikel neu sortiert, so dass bisherige Artikel (auch wie ich sie hier verwende) auf die neue Fassung noch nicht angepasst sind. Insbesondere wurde aus Artikel 12 der Artikel 16 und aus Artikel 13 der Artikel 17.

Dieses Vorhaben wird vor allem kritisiert im Hinblick auf die wohl nebenliegende Möglichkeit der zukünftigen Notwendigkeit von „Upload-Filtern“. Ich selber möchte hier für spätere Artikel von mir den aktuellen Sachstand zum Voranschreiten der Urheberrechtsreform 2019 zusammenfassen und sehe von längeren Ausführungen an dieser Stelle ab.

Kurze Kritik von mir an der Urheberrechtsreform 2019

Insgesamt sehe ich es sehr kritisch; Beginnend mit den „Upload-Filtern“: insbesondere, wenn ich lese, dass man versucht, den „schwarzen Peter“ für Upload-Filter nun den Plattformen zuzuschreiben, wenn man etwa in der FAQ am Ende u.a. liest:

Die Richtlinie legt jedoch nicht fest, welche Instrumente (…) erforderlich sein können, um zu verhindern, dass unvergütete Inhalte auf einer Website erscheinen. Es besteht daher keine ausdrückliche Pflicht für die Einrichtung von „Upload-Filtern”. Wenn große Plattformen jedoch keine innovativen Lösungen entwickeln, können sie sich für Filter entscheiden. Solche Filter werden in der Tat bereits von den großen Unternehmen eingesetzt. Der Vorwurf, dass diese manchmal legitime Inhalte herausfiltern, kann berechtigt sein. Diese Kritik sollte sich jedoch an die Plattformen richten, die die Filter entwerfen und einsetzen, nicht an den Gesetzgeber, der ein allgemeines Ziel festlegt (…)

PM des EU Parlaments mit einer FAQ; hier am Ende zu finden

Das ist der springende Punkt: Es gibt keine Technik und man sagt nun mit dem Modewort „innovativer Technik“, der Plattformbetreiber habe sich halt selber darum zu kümmern und es ist sein Problem. Der Gesetzgeber kann eben nur verbieten. Das ist ein Ansatz – aber eben einer der sehr rückwärtsgewandt ist in einer Zeit, in der Nationen und Kulturräume längst begonnen haben, darum zu ringen, wer beim Fortschritt vorne liegt. Um es provokant zu formulieren: Das Urheberrecht könnte sich für den europäischen Kulturraum wissenstechnisch zu der Bremse entwickeln, die früher einmal die mittelalterliche Kirche darstellte – wenn es das nicht schon längst ist. Auffällig dabei ist, wie viel Energie der Gesetzgeber in den Schutz von Urheberrechten einerseits investiert, dafür aber bei der freien Zugänglichkeit von Wissen und Informationen zwar auch tätig ist, aber mit auffallend weniger Vehemenz.

Aber auch weiter gibt es erhebliche Ansatzpunkte für Kritik, etwa wenn wieder die Verwertungsgesellschaften in Richtung der Verlage ausschütten sollen (Artikel12), wenn Fotografen von Fotoveranstaltungen keine eigenen Rechte an Ihren Fotografien haben sollen (Artikel 12a) oder wenn die Zeitungsverlage stärkere Anteile auf dem Rücken der Autoren erhalten sollen (Artikel 11). All dies formuliere ich später konkret aus, wenn eine brauchbare deutsche Fassung vorliegt.

Materialien zur Urheberrechtsreform 2019

Ich möchte an dieser Stelle die Pressemitteilungen der EU-Ebene erst einmal nur sammeln und verlinke zudem auf Berichte bei Heise-Online:

Urheberrechts-Richtlinie: Reform des Urheberrechts 2019 – Materialsammlung zur Urheberrechtsreform weiterlesen

Aktuelle Gesetzgebung: Geldwäschegesetz und Cookie-Richtlinie

Weiterhin wird eifrig an neuen Gestzen bzw. Reformen gearbeitet, die auch Einfluss auf das IT-Recht und den Alltag vieler Anbieter und Dienstleister haben werden. Aktuell sollte man zwei Vorhaben im Auge haben: Die Überarbeitung des Geldwäschegesetzes sowie die versteckte Aufnahme der Umsetzung der Cookie-Richtlinie.

Aktuelle Gesetzgebung: Geldwäschegesetz und Cookie-Richtlinie weiterlesen