Künstliche Intelligenz – Seite 10 – Robotikrecht & Roboterrecht

EU-Mustervertragsklauseln für KI als Pilotprojekt für die Beschaffung von KI

In einem Projekt wurden Mustervertragsklauseln vorgestellt: Diese EU-Mustervertragsklauseln für KI wurden entworfen und von Experten begutachtet. Sie richten sich an öffentliche Einrichtungen, die ein KI-System von einem externen Anbieter erwerben möchten. Es gibt eine Version für risikoreiche KI-Systeme, die den in Artikel 6 des vorgeschlagenen KI-Gesetzes definierten “risikoreichen” Systemen entspricht, und eine Version für nicht risikoreiche KI-Systeme.

Die Klauseln sind spezifisch für KI-Systeme und decken Aspekte des vorgeschlagenen KI-Gesetzes ab, ohne andere relevante Gesetze wie die Datenschutz-Grundverordnung einzubeziehen. Sie sind nicht als vollständige vertragliche Vereinbarung gedacht, sondern müssen an den jeweiligen Kontext angepasst werden. Die Klauseln sind in alle EU-Sprachen übersetzt und werden durch einen erläuternden Vermerk ergänzt.

AI Incident: Entwicklung einer Definition für KI-Vorfälle

Was soll ein AI Incident (KI-Vorfall) sein: Die rasante Entwicklung und der zunehmende Einsatz Künstlicher Intelligenz (KI) weltweit haben nicht nur zahlreiche Vorteile, sondern auch erhebliche Risiken mit sich gebracht.

Diese Risiken, die sich bereits in Form von sogenannten „KI-Vorfällen“ manifestieren, erfordern eine genaue Beobachtung und präventive Maßnahmen. Das OECD-Papier „Stocktaking for the Development of an AI Incident Definition“, veröffentlicht im Oktober 2023, beschäftigt sich mit der Erarbeitung einer gemeinsamen Definition für KI-Vorfälle und bietet einen Überblick über bisherige Erkenntnisse und zukünftige Schritte.

OECD-Papier über den Stand der Umsetzung der OECD AI Prinzipien in 4 Jahren

Künstliche Intelligenz (KI) hat in den letzten Jahren erheblich an Bedeutung gewonnen und die politischen Diskussionen weltweit dominiert. Mit der Veröffentlichung von ChatGPT im November 2022 wurde das Potenzial generativer KI einem breiten Publikum deutlich. Dieser Blog-Beitrag befasst sich mit dem OECD-Papier “The State of Implementation of the OECD AI Principles Four Years On”, das einen Überblick über die Fortschritte bei der Umsetzung der OECD-KI-Prinzipien bietet.

Aufkommende Trends in der Nachfrage nach KI-Kompetenzen in 14 OECD-Ländern

Die rapide Entwicklung und Verbreitung Künstlicher Intelligenz (KI) verändert nicht nur die Technologiebranche, sondern wirkt sich auch auf zahlreiche andere Sektoren und die Arbeitswelt aus. Die OECD veröffentlichte im Oktober 2023 den Bericht „Emerging Trends in AI Skill Demand Across 14 OECD Countries“, der die Nachfrage nach KI-bezogenen Fähigkeiten in 14 OECD-Ländern zwischen 2019 und 2022 analysiert. Dieser Blog-Beitrag stellt die wesentlichen Erkenntnisse und politischen Implikationen des Berichts vor.

Erste politische Überlegungen zur generativen Künstlichen Intelligenz (KI)

Generative Künstliche Intelligenz (KI) hat in den letzten Jahren erheblich an Bedeutung gewonnen und bietet transformative Potenziale in verschiedenen Sektoren wie Bildung, Unterhaltung, Gesundheitswesen und wissenschaftlicher Forschung.

Diese Technologien sind jedoch auch mit erheblichen gesellschaftlichen und politischen Herausforderungen verbunden, die von den politischen Entscheidungsträgern angegangen werden müssen. Der Bericht „Initial Policy Considerations for Generative Artificial Intelligence“, veröffentlicht von der OECD im September 2023, beleuchtet diese Herausforderungen und bietet wichtige Überlegungen für die Gestaltung zukünftiger politischer Rahmenbedingungen.

Data-Sharing und Datenlizenzvertrag: Rechtliche Aspekte der Datennutzung

Data-Sharing und Datenlizenzvertrag: Im digitalen Zeitalter sind Daten das neue Gold. Sie treiben Innovationen voran, ermöglichen fortschrittliche KI-Technologien und sind zentraler Bestandteil vieler Geschäftsmodelle. Doch mit der zunehmenden Bedeutung von Daten wachsen auch die rechtlichen Herausforderungen. In diesem Beitrag werfen wir einen Blick auf einige der wichtigsten rechtlichen Fragen im Kontext der Nutzung von Daten.

KI-Textgeneratoren als Dual-Use-Technologie?

In der Studie „Dual-use implications of AI text generation“ von Julian J. Koplin wird das Konzept von KI-Textgeneratoren als Technologien mit doppeltem Verwendungszweck (Dual Use) ausführlich beleuchtet.

Der Autor argumentiert, dass KI-Textgeneratoren sowohl legitime Vorteile als auch potenziell gravierende Missbrauchsmöglichkeiten bieten, wie die Automatisierung der Erzeugung überzeugender Fake News oder die Flutung von Social-Media-Plattformen mit maschinengenerierter Desinformation.

Der Artikel stellt die interessante These auf, dass KI-Textgeneratoren als eine Dual-Use-Technologie konzeptualisiert werden sollten, zieht Lehren aus früheren Debatten über Dual-Use-Forschung in den Lebenswissenschaften und ruft zu einer engeren Zusammenarbeit zwischen Ethikern und der Machine-Learning-Community auf, um die Dual-Use-Implikationen von KI-Sprachmodellen zu adressieren.

AI-Act: Der nächste Schritt ist getan (Juni 2023)

Das Europäische Parlament hat den nächsten großen Schritt zur Regulierung der Nutzung von Künstlicher Intelligenz (KI) in Europa gemacht. Das kürzlich verabschiedete KI-Gesetz (AI-Act, auch KI-Verordnung genannt, hier schon etwas ausführlicher vorgestellt) ist das weltweit Erste seiner Art und schafft einen umfassenden Rechtsrahmen für KI-Anwendungen.

EUGH formuliert erste Anforderungen beim behördlichen Einsatz von KI zur öffentlichen Sicherheit

Im Kontext der Richtlinie über die Verarbeitung von Fluggastdaten (PNR-RL bzw. Richtlinie (EU) 2016/681) konnte sich der EuGH erstmals zu den grundrechtlichen Voraussetzungen des Einsatzes von KI durch eine Behörde äußern.

In diesem Zusammenhang warnt der Europäische Gerichtshof (EuGH) davor, dass die Art und Weise, wie künstliche Intelligenz (KI) funktioniert, oft nicht nachvollziehbar ist. Dies kann es schwierig machen, festzustellen, warum ein KI-Programm bestimmte Ergebnisse liefert. In solchen Fällen könnte der Einsatz von KI die Möglichkeit einer Person einschränken, einen wirksamen Rechtsbehelf nach Artikel 47 der Charta einzulegen, insbesondere um geltend zu machen, dass die Ergebnisse nicht diskriminierend sind. Dies steht im Zusammenhang mit der Gewährleistung eines hohen Schutzniveaus gemäß der PNR-Richtlinie.

Die Behörden müssen daher sicherstellen, dass der Einsatz von KI sowohl automatisch als auch individuell überprüft wird und rechtmäßig und insbesondere nicht diskriminierend ist. Bei KI-Anwendungen, die selbst bei wenigen Fehlern erhebliche Auswirkungen auf die betroffene Person haben können, ist eine manuelle Überprüfung der Ergebnisse unerlässlich.

KI-Verordnung: EU reguliert Einsatz künstlicher Intelligenz

KI-Verordnung (KI-VO, auch AI-Act): Die EU möchte Entwicklung und Einsatz künstlicher Intelligenz regulieren. Hierzu liegt inzwischen ein Vorschlag für eine Verordnung über ein europäisches Konzept für Künstliche Intelligenz vor, wobei aus meiner Sicht zuvorderst besonders spannend die Frage sein dürfte, was man überhaupt unter künstlicher Intelligenz verstehen möchte.

Im Übrigen ist es noch recht früh für eine umfassende Übersicht der KI-Verordnung. Wichtig ist: Es soll einen Katalog absolut verbotener Einsatz-Szenarien von KI geben, es soll eine “High-Risk”-KI geben, für die besondere Vorgaben gelten; darüber hinaus gibt es Transparenzpflichten bei eingesetzter KI.

Update zum Stand der KI-Verordnung: Am 19.10.2022 hat die (tschechische) EU-Ratspräsidentschaft einen neuen Kompromiss vorgeschlagen, Ziel ist gegen Ende des Jahres 2022 eine Einigung für ein “KI-Gesetz” zu finden. In dem 8. Vorschlag werden wesentliche Streitpunkte aufgegriffen. Am 11.5. wurde dann ein Kompromissvorschlag gefunden und beschlossen (der aber noch durch die weitere Gesetzgebung muss). Mehr dazu unten im Abschnitt “laufende Updates”.

Hinweis: Hier geht es um den Entwurf einer Verordnung zur Regulierung von KI (“KI-Verordnung”, auch “AI Act”). Dies ist nicht zu verwechseln mit dem zugleich laufenden Versuch der EU, zivilrechtliche Haftungsregelung für künstliche Intelligenz aufzustellen, dazu siehe beispielsweise den zwischenzeitlich beschlossenen Text hier.