Bedrohung – Seite 3 – Robotikrecht & Roboterrecht

KI-Textgeneratoren als Dual-Use-Technologie?

In der Studie „Dual-use implications of AI text generation“ von Julian J. Koplin wird das Konzept von KI-Textgeneratoren als Technologien mit doppeltem Verwendungszweck (Dual Use) ausführlich beleuchtet.

Der Autor argumentiert, dass KI-Textgeneratoren sowohl legitime Vorteile als auch potenziell gravierende Missbrauchsmöglichkeiten bieten, wie die Automatisierung der Erzeugung überzeugender Fake News oder die Flutung von Social-Media-Plattformen mit maschinengenerierter Desinformation.

Der Artikel stellt die interessante These auf, dass KI-Textgeneratoren als eine Dual-Use-Technologie konzeptualisiert werden sollten, zieht Lehren aus früheren Debatten über Dual-Use-Forschung in den Lebenswissenschaften und ruft zu einer engeren Zusammenarbeit zwischen Ethikern und der Machine-Learning-Community auf, um die Dual-Use-Implikationen von KI-Sprachmodellen zu adressieren.

AI-Act: Der nächste Schritt ist getan (Juni 2023)

Das Europäische Parlament hat den nächsten großen Schritt zur Regulierung der Nutzung von Künstlicher Intelligenz (KI) in Europa gemacht. Das kürzlich verabschiedete KI-Gesetz (AI-Act, auch KI-Verordnung genannt, hier schon etwas ausführlicher vorgestellt) ist das weltweit Erste seiner Art und schafft einen umfassenden Rechtsrahmen für KI-Anwendungen.

KI-Verordnung: EU reguliert Einsatz künstlicher Intelligenz

KI-Verordnung (KI-VO, auch AI-Act): Die EU möchte Entwicklung und Einsatz künstlicher Intelligenz regulieren. Hierzu liegt inzwischen ein Vorschlag für eine Verordnung über ein europäisches Konzept für Künstliche Intelligenz vor, wobei aus meiner Sicht zuvorderst besonders spannend die Frage sein dürfte, was man überhaupt unter künstlicher Intelligenz verstehen möchte.

Im Übrigen ist es noch recht früh für eine umfassende Übersicht der KI-Verordnung. Wichtig ist: Es soll einen Katalog absolut verbotener Einsatz-Szenarien von KI geben, es soll eine “High-Risk”-KI geben, für die besondere Vorgaben gelten; darüber hinaus gibt es Transparenzpflichten bei eingesetzter KI.

Update zum Stand der KI-Verordnung: Am 19.10.2022 hat die (tschechische) EU-Ratspräsidentschaft einen neuen Kompromiss vorgeschlagen, Ziel ist gegen Ende des Jahres 2022 eine Einigung für ein “KI-Gesetz” zu finden. In dem 8. Vorschlag werden wesentliche Streitpunkte aufgegriffen. Am 11.5. wurde dann ein Kompromissvorschlag gefunden und beschlossen (der aber noch durch die weitere Gesetzgebung muss). Mehr dazu unten im Abschnitt “laufende Updates”.

Hinweis: Hier geht es um den Entwurf einer Verordnung zur Regulierung von KI (“KI-Verordnung”, auch “AI Act”). Dies ist nicht zu verwechseln mit dem zugleich laufenden Versuch der EU, zivilrechtliche Haftungsregelung für künstliche Intelligenz aufzustellen, dazu siehe beispielsweise den zwischenzeitlich beschlossenen Text hier.

Nach Ansicht des Gerichtshofs erfordert die Achtung der Grundrechte eine Beschränkung der in der PNR-Richtlinie vorgesehenen Befugnisse auf das absolut Notwendige

Besteht keine reale und aktuelle oder vorhersehbare terroristische Bedrohung eines Mitgliedstaats, steht das
Unionsrecht nationalen Rechtsvorschriften entgegen, die eine Übermittlung und Verarbeitung von PNR-Daten
bei EU-Flügen sowie bei Beförderungen mit anderen Mitteln innerhalb der Union vorsehen, so der EUGH (C-817/19).

Die PNR-Richtlinie schreibt zur Bekämpfung von Terrorismus und schwerer Kriminalität die systematische Verarbeitung einer großen Zahl von PNR-Daten (Passager Name Record) der Fluggäste von Flügen zwischen der Union und Drittstaaten (Drittstaatsflüge) bei der Einreise in die bzw. der Ausreise aus der Union vor. Darüber hinaus können die Mitgliedstaaten diese Richtlinie nach ihrem Art. 2 auch auf Flüge innerhalb der Union (EU-Flüge) anwenden.

Hinweis: Die Entscheidung ist ein Meilenstein in der Bewertung der Zulässigkeit von KI-Lösungen speziell mit Blick auf Ethik und Diskriminierung!

Blockchain: Konsens

Konsens im Rahmen der Blockchain: Ein Basis-Problem beim verteilten Rechnen und bei Multi-Agenten-Systemen stellt die Gesamtzuverlässigkeit des Systems bei Vorhandensein einer Reihe fehlerhafter Prozesse zu erreichen. Hierzu ist die Koordination von Prozessen notwendig, um einen Konsens zu erreichen oder sich auf einen Datenwert zu einigen, der während der Berechnung benötigt wird.

Zu den Anwendungsbeispielen für Konsens gehören die Einigung darüber, welche Transaktionen in welcher Reihenfolge an eine Datenbank übertragen werden sollen, die Replikation von Zustandsautomaten und atomare Übertragungen. Neben dem Anwendungsbereich der Blockchain ist dies etwa wichtig im Bereich Cloud Computing oder Lastausgleich.

Strafbarkeit von Botnetzwerk

Strafbarkeit von Botnetzwerk: In einem Beschluss hat sich der Bundesgerichtshof (1 StR 16/15) zur Frage der Strafbarkeit beim Betrieb eines Botnetzwerks geäußert. Die Entscheidung bietet zum einen nochmals vertieften Einblick in die Voraussetzungen des §202a StGB; zum anderen wird nochmals überdeutlich aufgezeigt, mit welchen Schwächen im Bereich des IT-Strafrechts selbst bei Landgerichten zu rechnen ist.