Zivilrechtliche Haftung und Verantwortung für künstliche Intelligenz in der Europäischen Union und in den Vereinigten Staaten von Amerika - ein Rechtsvergleich

Table Of Contents

• Abdeckung
• Titelseite
• Copyright-Seite
• Hingabe
• Vorwort Dissertation
• Inhaltsverzeichnis
• A. Einleitung
• I. Einführung in das Thema
• II. Themenbegrenzung und Zielsetzung
• III. Gang der Untersuchung
• B. Technologie, Eigenschaften, Risiken und haftungsrechtliche Probleme von KI
• I. KI-Technologie
• 1. Maschinelles Lernen (Machine Learning)
• 2. Mehrschichtiges Lernen (Deep Learning)
• 3. Generative vortrainierte Transformer (Generative pre-trained transformer)
• II. KI-spezifische Eigenschaften, deren Risiken und haftungsrechtliche Probleme
• III. Zusammenfassung der Ergebnisse
• C. Begriffsherkunft und Definition des Begriffs „Künstliche Intelligenz (KI)“
• I. Begriffsherkunft
• 1. Alan Mathison Turing
• 2. Forschungsprojekt 1956
• 3. Definition von Kaplan
• II. Europäische KI-Definition
• 1. Der Startpunkt
• 2. Zentrale Zwischenschritte
• a) Abänderungsvorschlag des Rats der Europäischen Union
• b) Abänderungsvorschlag des Europäischen Parlaments
• 3. Die finale Fassung
• III. US-amerikanische KI-Definition
• IV. Vergleich und Bewertung der KI-Definitionen
• D. Regulierung von KI in der EU
• I. EU KI-Verordnung
• 1. Sachlicher Anwendungsbereich
• 2. Persönlicher Anwendungsbereich
• 3. Räumlicher Anwendungsbereich
• 4. Das Risikokonzept
• a) Unannehmbares Risiko
• b) Hohes Risiko (Hochrisiko-KI-Systeme)
• aa) Qualifikation als Hochrisiko-KI-System
• bb) Anforderungen an Hochrisiko-KI-System
• cc) Pflichten des Anbieters oder Betreibers eines Hochrisiko-KI-Systems
• c) Geringes oder minimales Risiko (Herkömmliche und generative KI-Systeme)
• d) KI-Modelle mit „allgemeinem Verwendungszweck“ (GPAI)
• 5. Das Sanktionskonzept
• a) Dreistufiges Sanktionskonzept für Verstöße gegen bestimmte für Akteure oder notifizierte Stellen geltende Bestimmungen
• b) Einstufiges Sanktionskonzept für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
• 6. Zusammenfassung der Ergebnisse
• II. Vorschlag für eine EU-Richtlinie über KI-Haftung
• 1. Anwendungsbereich, Art. 1 HaftRL-E
• 2. Offenlegung von Beweismitteln und widerlegbare Vermutung eines Verstoßes bei Hochrisiko-KI-Systemen, Art. 3 HaftRL-E
• 3. (Widerlegbare) Vermutung der haftungsbegründenden Kausalität bei Hochrisiko und gewöhnlichen KI-Systemen, Art. 4 HaftRL-E
• 4. Zusammenfassung der Ergebnisse
• III. Neue EU-Produkthaftungsrichtlinie
• 1. Sachlicher Anwendungsbereich
• 2. Persönlicher Anwendungsbereich
• 3. Erweiterung des Schadensbegriffs
• 4. Updatepflicht
• 5. Offenlegung von Beweismitteln
• 6. Erweiterung der bekannten Beweiserleichterungen
• 7. Zusammenfassung der Ergebnisse
• E. Regulierung von KI in den USA
• I. KI-Regulierung
• 1. KI-Grundrechtecharta: “Blueprint for an AI Bill of Rights”
• 2. KI-Risikomanagementkonzepte: „NIST AI Risk Management Framework“
• 3. Leitlinien der US-Wettbewerbsbehörde: „FTC Guidelines“
• 4. Executive Order 14110: „Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence“
• a) Wesen der Executive Order 14110
• b) Sachlicher Anwendungsbereich
• c) Persönlicher Anwendungsbereich
• d) Die Executive Order 14110–Prinzipien
• e) Der Acht-Punkte-Plan der Executive Order 14110
• aa) Entwicklung von Richtlinien, Standards und Best-Practice-Vorgaben für KI-Sicherheit und zur Gefahrenabwehr
• (1) Standards, Richtlinien und Best-Practice-Vorgaben
• (2) Berichtspflichten für „Dual-Use Foundation Models“ und „Red Teaming-Tests“
• (3) Schutz vor KI-spezifischen Cybersecurity-Risiken
• (4) Kennzeichnung
• bb) Förderung von Innovationen und von Wettbewerb
• cc) Vorgaben zur Unterstützung von Arbeitnehmern
• dd) Förderung von Gerechtigkeit und Menschenrechten
• ee) Schutz für Verbraucher, Patienten, Studenten und Passagiere
• ff) Schutz der Privatsphäre der US-Bürger
• gg) Förderung der US-amerikanischen Führungsqualitäten im Ausland
• hh) Sicherstellung der verantwortungsvollen Nutzung von KI durch die Regierung
• 5. Executive Order „Removing Barriers to American Leadership in Artificial Intelligence“
• 6. Zusammenfassung der Ergebnisse
• II. Ausgewählte Gerichtsentscheidungen im Zusammenhang mit der Haftung für KI
• 1. KI-Autonomie im Urheber- und Patentrecht
• a) US District Court for the District of Columbia, Case No. 1:22-cv-01564 – KI-Schutz im Urheberrecht (Thaler v. Perlmutter)
• b) US District Court for the Eastern District of Virginia, Case No. 1:20-cv-00903 – KI als Erfinder (Thaler v. Hirshfeld)
• 2. Haftung für generative KI
• a) US District Court (N.D. Cal.), Case No. 4:22-cv-06823, - Haftung für Open-Source-trainierte KI (J. Doe 1, et. al. v. GitHub, Inc., et. al.)
• b) US District Court (N.D. Georgia), Case No. 1:23-cv-03122 - Haftung für Chatbots (Walters v. OpenAI, L.L.C.)
• 3. Haftung für Online-Plattformen
• a) US Supreme Court, Case No. 598 U.S. 471 (2023) – Haftung für Online-Plattformen (Twitter, Inc. et al. v. Taamneh et al.)
• b) US Supreme Court, Case No. 598 U.S. (2023) – Haftung für Online-Plattformen (Gonzalez v. Google, L.L.C. et. al.)
• 4. Haftung für intelligente autonome Roboter
• a) US Court of Appeals, Case No. 96–2248 - Automatisierter Roboter (Payne v. ABB Flexible Automation, Inc.)
• b) US Supreme Court of New York, Case No. 31 A.D.3d 1099 (2006) - Robotergestütztes Ladesystem (Jones v. W + M Automation, Inc.)
• c) US Court of Appeals of Ohio, Case No. 23466 - Automatisierter Roboter (Miller v. Rubbermaid Inc.)
• 5. Zusammenfassung der Ergebnisse
• F. Vergleich der Regulierungskonzepte
• I. Rechtsvergleichende Analyse
• 1. Zielsetzung
• a) Ziele der KI-Verordnung
• b) Ziele der Executive Order 14110
• c) Bewertung
• 2. Wirkungsweise
• a) Verbindliche Vorgaben der KI-Verordnung
• b) Die Executive Order 14110 als interne Dienstanweisung
• c) Bewertung
• 3. Regulierungskonzepte
• a) Duales Regulierungskonzept der KI-VO
• b) Sektorales Regulierungskonzept der Executive Order 14110
• c) Bewertung
• 4. Regulierungsansätze
• a) Risikobasierter Ansatz der KI-VO
• b) Nicht risikoaffinierter Ansatz der Executive Order 14110
• c) Bewertung
• 5. Durchsetzung
• a) Hartes Sanktionskonzept der KI-Verordnung
• b) Vorgaben der Executive Order 14110
• c) Bewertung
• 6. Ausgestaltung
• a) Geistiges Eigentum
• aa) Spezifische Maßnahmen zum Schutz geistigen Eigentums der Executive Order 14110
• bb) KI-VO und das Unionsurheberrecht
• cc) Bewertung
• b) Offenlegung
• aa) KI-spezifische Instrumente zur Erleichterung der Durchsetzung von Schadensersatzansprüchen
• bb) Rückgriff auf das US-amerikanische Prozessrecht
• cc) Bewertung
• c) Sonderregelungen für KI-Modelle mit allgemeinem Verwendungszweck
• aa) Zu den Sonderregelungen für KI-Modelle mit allgemeinem Verwendungszweck in der KI-Verordnung
• bb) Zu den Sonderregelungen für KI-Systeme mit allgemeinem Verwendungszweck in der Executive Order 14110
• cc) Bewertung
• d) Weitere Sonderthemen
• II. Schlussfolgerungen
• G. Zusammenfassung in Thesen
• I. Einleitung
• II. Technologie, Eigenschaften, Risiken und haftungsrechtliche Probleme von KI
• III. Regulierung von KI in der EU
• IV. Regulierung von KI in den USA
• V. Vergleich der Regulierungskonzepte
• Literaturverzeichnis

Kristin Baron

Zivilrechtliche Haftung
und Verantwortung für künstliche
Intelligenz in der Europäischen
Union und in den Vereinigten
Staaten von Amerika - ein
Rechtsvergleich

Berlin · Bruxelles · Chennai · Lausanne · New York · Oxford

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

Zugl.: Marburg, Univ., Diss., 2025

DE-4

ISSN 1867-1012

ISBN 978-3-631-93740-2 (Print)

E-ISBN 978-3-631-93747-1 (E-PDF)

E-ISBN 978-3-631-93748-8 (E-PUB)

DOI 10.3726/b22879

© 2025 Peter Lang Group AG, Lausanne (Schweiz)

Verlegt durch Peter Lang GmbH, Berlin (Deutschland)

info@peterlang.com

Alle Rechte vorbehalten.

Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Das gilt insbesondere für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen.

www.peterlang.com

Extinguished philosophies lie about the cradle of every science as the strangled snakes beside that of Hercules

adapted from T. H. Huxley

Vorwort Dissertation

Diese Arbeit wurde im Wintersemester 2023/2024 von der Philipps-Universität zu Marburg als Dissertation angenommen. Im Februar 2025 fand die Disputation statt.

An erster Stelle möchte ich mich herzlich bei meinem Doktorvater Professor Dr. Georgios Gounalakis für seine stetige Unterstützung und Ansprechbarkeit bedanken, die maßgeblich zum Gelingen dieser Arbeit beigetragen haben. Seine Expertise und sein Vertrauen in meine Arbeit haben maßgeblich dazu beigetragen, dass diese Dissertation in ihrer jetzigen Form entstehen konnte. Ebenso möchte ich mich ausdrücklich bei meinem Zweitgutachter Professor Dr. Florian Möslein für seine Bereitschaft, sich intensiv mit meiner Arbeit auseinanderzusetzen, sowie die zügige und sorgfältige Erstellung des Zweitgutachtens bedanken.

Mein tief empfundener Dank gilt meinen Ehemann Dr. Joachim Baron für seine immerwährende Unterstützung, auch während meiner Promotionszeit. Seine Geduld, seine Liebe, sein Zuspruch und sein Glaube an mich haben mir oft die Kraft gegeben, weiterzumachen. Du warst nicht nur mein größter Rückhalt in schwierigen Momenten, sondern auch eine Quelle der Motivation und Inspiration. Deine aufmunternden Worte, dein Verständnis und deine Bereitschaft, mir in jeder Hinsicht zur Seite zu stehen, haben mir geholfen, auch die herausforderndsten Phasen dieser Arbeit zu meistern. Für all das danke ich dir von Herzen.

Ein besonderer Dank gilt auch meinem lieben Freund Florian Mansard für die Unterstützung und das Korrekturlesen der Arbeit, das maßgeblich zum Gelingen dieser Arbeit beigetragen hat. Deine Bereitschaft, meine Arbeit kritisch zu lesen, deine Geduld bei der Durchsicht unzähliger Seiten und deine wertvollen Anmerkungen haben diese Dissertation entscheidend geprägt.

Besonders danke ich meinen Eltern für ihre bedingungslose Unterstützung sowie für das Vertrauen, das sie mir stets entgegengebracht haben.

Für diese Arbeit konnten Rechtsprechung und Literatur bis Januar 2025 berücksichtigt werden.

Kronberg im Taunus, den 12. Februar 2025 Dr. Kristin Baron

Inhaltsverzeichnis

A. Einleitung

I. Einführung in das Thema

II. Themenbegrenzung und Zielsetzung

III. Gang der Untersuchung

B. Technologie, Eigenschaften, Risiken und haftungsrechtliche Probleme von KI

I. KI-Technologie

1. Maschinelles Lernen (Machine Learning)

2. Mehrschichtiges Lernen (Deep Learning)

3. Generative vortrainierte Transformer (Generative pre-trained transformer)

II. KI-spezifische Eigenschaften, deren Risiken und haftungsrechtliche Probleme

III. Zusammenfassung der Ergebnisse

C. Begriffsherkunft und Definition des Begriffs „Künstliche Intelligenz (KI)“

I. Begriffsherkunft

1. Alan Mathison Turing

2. Forschungsprojekt 1956

3. Definition von Kaplan

II. Europäische KI-Definition

1. Der Startpunkt

2. Zentrale Zwischenschritte

a) Abänderungsvorschlag des Rats der Europäischen Union

b) Abänderungsvorschlag des Europäischen Parlaments

3. Die finale Fassung

III. US-amerikanische KI-Definition

IV. Vergleich und Bewertung der KI-Definitionen

D. Regulierung von KI in der EU

I. EU KI-Verordnung

1. Sachlicher Anwendungsbereich

2. Persönlicher Anwendungsbereich

3. Räumlicher Anwendungsbereich

4. Das Risikokonzept

a) Unannehmbares Risiko

b) Hohes Risiko (Hochrisiko-KI-Systeme)

aa) Qualifikation als Hochrisiko-KI-System

bb) Anforderungen an Hochrisiko-KI-System

cc) Pflichten des Anbieters oder Betreibers eines Hochrisiko-KI-Systems

c) Geringes oder minimales Risiko (Herkömmliche und generative KI-Systeme)

d) KI-Modelle mit „allgemeinem Verwendungszweck“ (GPAI)

5. Das Sanktionskonzept

a) Dreistufiges Sanktionskonzept für Verstöße gegen bestimmte für Akteure oder notifizierte Stellen geltende Bestimmungen

b) Einstufiges Sanktionskonzept für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

6. Zusammenfassung der Ergebnisse