Lade Inhalt...

Künstliche Intelligenz aus staatlicher Perspektive

Rechtliche Herausforderungen und Chancen

von Richard Rotermund (Autor:in)
©2021 Dissertation 236 Seiten

Zusammenfassung

Künstliche Intelligenz ist in aller Munde und zieht auch zunehmend das Interesse der Rechtswissenschaft auf sich. Der Autor beleuchtet die Risiken, die sich aus staatlicher Sicht ergeben, zeigt aber auch Chancen der neuen Technologie auf. Viel diskutierte Bereiche wie autonomes Fahren, Hochfrequenzhandel, Social Bots und die Automatisierung der Verwaltung werden abgedeckt. Dabei werden sowohl die Möglichkeiten des staatlichen Einsatzes in Betracht gezogen als auch Regulierungsmöglichkeiten und -pflichten überprüft. Es zeigen sich Muster, die abschließend für die Beurteilung neu aufkommender Probleme und zur Nutzung von Synergieeffekten untersucht werden.

Inhaltsverzeichnis


←15 | 16→

1. Einführung

„Erfolgreiches Schaffen einer effektiven künstlichen Intelligenz könnte das größte Ereignis in der Geschichte unserer Zivilisation sein. Oder das Schlimmste.“1

-​ Stephen Hawking

„Die Angst, künstliche Intelligenz könnte die Weltherrschaft übernehmen, taugt lediglich als gute Story für Hollywood.“2

-​ Garri Kasparow

„Ich für meinen Teil heiße unsere Maschinenherrscher willkommen“3

-​ Antony Garret Lisi

Seit tausenden von Jahren träumt die Menschheit in Geschichten, Mythen und Sagen davon, intelligente Wesen selbst zu erschaffen. In einer Entwicklung, die im letzten Jahrhundert begann, hat die Informatik uns durch die Schaffung von Computerprogrammen, deren zunehmend komplexe Algorithmen4 sie immer menschenähnlicher erscheinen lassen, in die Nähe dieses Ziels gebracht.

Jetzt, da es zum Greifen nah scheint, sind sich die Denker unserer Zeit nicht einig, ob künstliche Intelligenz (KI) unser Heilsbringer wird oder die Apokalypse einleitet. Auf der einen Seite träumt man von einer Maschinen-​Utopie, die mit Hilfe von Computern, deren Intelligenz dem Menschen weit voraus ist, Wohlstand, Gerechtigkeit und Zufriedenheit im Überfluss erreichen wird.5 Weniger träumerisch, aber dennoch optimistisch in die Zukunft blickend, ←16 | 17→werden, beispielsweise von der Bundesregierung, jedenfalls kurzfristige Chancen zur Verbesserung des Lebens der Menschen gesehen.6 Auf der anderen Seite befürchtet man entweder die Auslöschung der Menschheit durch Maschinen, welche die Menschen nicht mehr brauchen,7 oder zumindest eine radikal kapitalistische Gesellschaft, in der einige wenige sich den neu geschaffenen Wohlstand einverleiben, während für den Rest der Gesellschaft nichts übrig bleibt, wenn nicht ein Umdenken geschieht.8

Bei aller Diskussion um das künftige Schicksal der Menschheit darf nicht vergessen werden, dass die Errungenschaften der KI-​Forschung schon seit Jahrzehnten die Gesellschaft beeinflussen. Gestern lernten Computer das Schachspielen und veränderten den Sport grundlegend oder planten bereits militärische Einsätze.9 Heute geben sie sich in Form von Social Bots auf sozialen Medien als Menschen aus und beeinflussen Meinungen und Wahlen oder ermöglichen uns, mit unseren Handys zu reden. Morgen werden sie unsere Autos steuern10 und immer mehr Aufgaben übernehmen, die man den größten Teil unserer Geschichte nur Menschen zutraute, weil sie mit Intelligenz ausgestattet sind.

Wie es bei neuen Technologien nicht unüblich ist, hat die Rechtswissenschaft hier zunächst die Aufgabe, den neuen Einsatz intelligenter Computer in die bestehende Rechtslage einzuordnen. In den letzten Jahren explodierte deswegen, parallel zur Forschung an KI an sich, das juristische Interesse an der Thematik. Unzählige Aufsätze und Bücher wurden geschrieben, die Fachwelt diskutiert auf Konferenzen über die Implikationen, die sich durch die zunehmende Automatisierung von kognitiv anspruchsvolleren Aufgaben ergeben, und Gesellschaften wie die Robotics & AI Law Society (RAILS)11 wurden gegründet.

Im Zivilrecht kann über Haftungsfragen diskutiert oder über dogmatische Schwierigkeiten bei automatisierten Vertragsschlüssen nachgedacht werden.12←17 | 18→Im Strafrecht muss überprüft werden, ob manche dogmatische Konstruktion auch dann sachgerechte Ergebnisse hervorbringt, wenn intelligente Systeme benutzt werden.13

Auch aus staatlicher Perspektive muss sich mit dem Thema beschäftigt werden. Früher oder später besteht in vielen Gebieten Regelungsbedarf durch den Gesetzgeber. Das Europäische Parlament schreibt etwa in einer Empfehlung:

„in der Erwägung, dass die Menschheit mittlerweile an der Schwelle einer Ära steht, in der immer ausgeklügeltere Roboter, Bots, Androiden und sonstige Manifestationen Künstlicher Intelligenz („KI“) anscheinend nur darauf warten, eine neue industrielle Revolution zu entfesseln, die wahrscheinlich keine Gesellschaftsschicht unberührt lassen wird, und es daher für Gesetzgeber von entscheidender Bedeutung ist, sich mit den rechtlichen und ethischen Implikationen und Folgen dieser Entwicklung zu befassen, ohne Innovationen abzuwürgen“14

Um dies zu ermöglichen muss der (vor allem verfassungsrechtliche) Rahmen gezogen werden, in dem die Legislative tätig werden darf. Ebenso müssen Potential und Grenzen der Einsatzmöglichkeiten intelligenter Programme durch den Staat bedacht werden. Die zentrale Frage dieser Arbeit soll daher sein, welche Herausforderungen sich für Träger von Staatsgewalt durch die Weiterentwicklung künstlicher Intelligenz stellen.

Dabei werden nach dieser Einführung (1.) die Grundlagen gelegt, indem zunächst die hier verwendete Definition von künstlicher Intelligenz festgelegt wird. Dies ist notwendig, weil der Begriff immer noch sehr unterschiedlich gebraucht wird, weswegen der Umfang der Arbeit umrissen werden muss. Anschließend wird der geschichtliche Hintergrund, der wie so häufig für das Verständnis der Materie unerlässlich ist, dargelegt, wobei wichtige Begriffe, die häufiger vorkommen werden, im historischen Kontext erklärt werden sollen (2.).

Im Anschluss werden aktuelle oder in Zukunft vermutete Anwendungsfälle von künstlicher Intelligenz darauf untersucht, ob staatlicher, insbesondere legislativer, Handlungsbedarf besteht und wenn ja, in welcher Form mögliche Handlungen aus verfassungsrechtlicher Sicht zulässig sind (3.). Es muss analysiert werden, ob sich Schutzpflichten ergeben, die in Extremfällen sogar zu Handlungspflichten führen können. Auch wenn das nicht der Fall ist, ist der Rahmen ←18 | 19→zu ermitteln, in dem sich der Gesetzgeber bewegen darf, wenn er sich zu einer Regulierung entschließt.

Der dritte große Abschnitt dreht sich dann nicht mehr nur um die Regelung der Nutzung künstlicher Intelligenz durch Private, sondern um ihren Einsatz durch den Staat selbst, der nach Art. 1 III GG direkt an Grundrechte gebunden ist und für den schon deswegen strengere Handlungsmaßstäbe gelten werden, jedenfalls aus Sicht des Grundgesetzes (4.). Legislatives Handeln hat ein nur sehr eingeschränktes Automatisierungspotential. Grundsätzlich denkbar ist aber sowohl eine Automatisierung von Verwaltungsakten und Verwaltungshandeln als auch von Entscheidungen der Justiz. Insbesondere Staatsstrukturprinzipien und Grundrechte werden hier Grenzen setzen. Es werden sich aber auch Chancen ergeben, staatliches Handeln besser an das Idealbild des Grundgesetzes anzupassen. Die Herausforderung wird hier darin bestehen, diese Anpassung vorzunehmen, ohne die genannten Grenzen zu überschreiten.

Einige Schwierigkeiten werden in verschiedenen Bereichen auftauchen. Häufig werden dann auch die Möglichkeiten, diesen Problemen zu begegnen, ähnlich sein. Anhand dieser Muster soll im letzten Kapitel untersucht werden, welche Möglichkeiten der Staat hat, nicht nur Einzelprobleme zu lösen, sondern künstliche Intelligenz insgesamt zu regeln und wie die Erfahrungen der bereits existierenden und absehbaren Anwendungen in Zukunft übertragen werden können (5.). Dabei wird sich auch zeigen, inwieweit unser Rechtssystem insgesamt für eine zukünftige Gesellschaft geeignet ist, die aufgrund von KI noch deutlich automatisierter ist als die heutige.


1 Gerstl, Stephen Hawking warnt vor KI als "schlimmstes Ereignis der Zivilisationsgeschichte", Interview (https://​www.elektronikpraxis.vogel.de/​stephen-​hawking-​warnt-​vor-​ki-​als-​schlimmstes-​ereignis-​der-​zivilisationsgeschichte-​a-​660803/​) (geprüft am 10.06.2019).

2 Küchemann, Die Angst vor künstlicher Intelligenz ist Hollywood-​Stoff, Interview (http://​www.faz.net/​aktuell/​feuilleton/​debatten/​garri-​kasparow-​hat-​keine-​angst-​vor-​kuenstlicher-​intelligenz-​15007553.html) (geprüft am 10.06.2019).

3 Lisi in: Brockman (Hrsg.), What to think about machines that think, 2015, S. 22.

4 Zum Begriff des Algorithmus: Hartl, Suchmaschinen, Algorithmen und Meinungsmacht, 2016, S. 17; Söbbing, Fundamentale Rechtsfragen Künstlicher Intelligenz (AI Law), 2019, S. 6 ff.

5 Bostrom, Superintelligence, 2016, S. 25.

6 Bundesregierung, Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz, 2018.

7 Bostrom, Superintelligence, 2016, S. 140.

8 Delaney, The robot that takes your job should pay taxes, says Bill Gates (https://​qz.com/​911968/​bill-​gates-​the-​robot-​that-​takes-​your-​job-​should-​pay-​taxes/​) (geprüft am 10.06.2019).

9 Russell/​Norvig, Artificial intelligence, 32010, S. 29.

10 Autos selbst steuern? In 20 Jahren nur mit Sondererlaubnis (http://​www.faz.net/​aktuell/​wirtschaft/​neue-​mobilitaet/​angela-​merkel-​autos-​selbst-​steuern-​in-​20-​jahren-​nur-​mit-​sondererlaubnis-​15056398.html) (geprüft am 10.06.2019).

11 ai-​laws.org.

12 Z.B. Kirn/​Müller-​Hengstenberg, Rechtliche Risiken autonomer und vernetzter Systeme, 2016.

13 Z.B. Weber, NZV 2016, 249; Sander/​Hollering, NStZ 2017, 193.

14 Entschließung des Europäischen Parlaments vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/​2103(INL)).

←19 | 20→

2. Grundlagen und Geschichte

2.1 Definition

Was ist künstliche Intelligenz? Diese trügerisch einfach erscheinende Frage beinhaltet zwei bereits eigenständig lang diskutierte und schwierig zu beantwortende Probleme.

Zum einen wird schon das Wesen von „Intelligenz“ an sich seit langer Zeit unter Wissenschaftlern verschiedener Fachrichtungen diskutiert. Im allgemeinen Sprachgebrauch bezeichnet man mit Intelligenz die „Fähigkeit [des Menschen], abstrakt und vernünftig zu denken und daraus zweckvolles Handeln abzuleiten.“15 Abgesehen von der Frage, was menschliche Intelligenz ausmacht, führt die Überlegung im Zusammenhang mit KI noch weiter. Die eigentliche Frage ist hier nämlich, ob Menschen überhaupt als Vorbild für Intelligenz taugen, oder ob man –​ unter Berücksichtigung dessen, dass Menschen sich nach allgemeiner Ansicht häufig eben nicht intelligent verhalten –​ nicht nach einer höheren Vernunft streben sollte, die dem Menschen vielleicht gar nicht zugänglich ist.16

Zum anderen stellt sich die Frage, ob intelligent ist, was sich intelligent verhält (schwache KI), oder ob entscheidend ist, tatsächlich selbst zu denken (starke KI), ob Intelligenz also eine eigene innere Qualität hat, die über das nach außen getragene hinausgeht.17 Das eindrucksvollste Beispiel für diesen Streit ist John Searles Gedankenexperiment, in dem man einen Mann in einen Raum setzt und ihm chinesische Schriftsätze zukommen lässt, die er nicht verstehen kann. Er erhält aber Anweisungen in seiner Muttersprache, welche Zeichen er als Antwort auf welche Zeichen in den Schriftsätzen zeichnen soll. Sind die Anweisungen präzise genug, unterscheiden sich seine „Antworten“ nicht von denen eines chinesischen Muttersprachlers. Aber hat er wirklich „verstanden“, was in den Schriftsätzen steht?18 Diese Diskussion ist aus philosophischer Sicht interessant, wirkt sich aber im Rahmen der meisten realen und rechtlichen Probleme kaum aus. Es spielt aus rechtlicher und gesellschaftlicher Sicht (abgesehen ←20 | 21→von der Frage, wie wir die Maschinen behandeln müssen, dazu später mehr) keine Rolle, ob eine KI, die einen Menschen ersetzt, tatsächlich selbst denkt oder sich lediglich intelligent verhält, solange das Ergebnis dasselbe ist. Relevant wird dieser Punkt nochmal im letzten Kapitel, in dem vertieft darauf eingegangen werden soll.

In dieser Arbeit stehen die Auswirkungen auf unsere Welt im Vordergrund, sodass unter KI die Nachahmung kognitiver Prozesse durch menschengemachte Maschinen verstanden werden soll, ohne dass wirklich entscheidend ist, ob der Sachverhalt technisch gesehen je nach Definition unter KI fällt oder nicht. Konkret bedeutet das, dass diejenigen Situationen interessant werden, in denen Maschinen Menschen ersetzen, obwohl der Mensch nicht nur als mechanischer Arbeiter eingesetzt wurde, sondern auch Entscheidungen treffen oder über den nächsten Schritt nachdenken musste.

Details

Seiten
236
Jahr
2021
ISBN (PDF)
9783631843789
ISBN (ePUB)
9783631843796
ISBN (MOBI)
9783631843802
ISBN (Paperback)
9783631833629
DOI
10.3726/b17982
Sprache
Deutsch
Erscheinungsdatum
2020 (Dezember)
Schlagworte
Automatisierung Algorithmen Diskriminierung Demokratie Rechtsstaat Haftung
Erschienen
Berlin, Bern, Bruxelles, New York, Oxford, Warszawa, Wien, 2021. 236 S.

Biographische Angaben

Richard Rotermund (Autor:in)

Richard Rotermund studierte Rechtswissenschaften an der Universität Passau. Im Anschluss arbeitete er am dortigen Lehrstuhl für Öffentliches Recht, Europarecht und Informationstechnologierecht als Wissenschaftlicher Mitarbeiter. Im Rahmen dieser Tätigkeit erfolgte auch die Promotion.

Zurück

Titel: Künstliche Intelligenz aus staatlicher Perspektive