Künstliche Intelligenz aus staatlicher Perspektive

„Erfolgreiches Schaffen einer effektiven künstlichen Intelligenz könnte das größte Ereignis in der Geschichte unserer Zivilisation sein. Oder das Schlimmste.“1

-​ Stephen Hawking

„Die Angst, künstliche Intelligenz könnte die Weltherrschaft übernehmen, taugt lediglich als gute Story für Hollywood.“²

-​ Garri Kasparow

„Ich für meinen Teil heiße unsere Maschinenherrscher willkommen“³

-​ Antony Garret Lisi

Seit tausenden von Jahren träumt die Menschheit in Geschichten, Mythen und Sagen davon, intelligente Wesen selbst zu erschaffen. In einer Entwicklung, die im letzten Jahrhundert begann, hat die Informatik uns durch die Schaffung von Computerprogrammen, deren zunehmend komplexe Algorithmen⁴ sie immer menschenähnlicher erscheinen lassen, in die Nähe dieses Ziels gebracht.

Jetzt, da es zum Greifen nah scheint, sind sich die Denker unserer Zeit nicht einig, ob künstliche Intelligenz (KI) unser Heilsbringer wird oder die Apokalypse einleitet. Auf der einen Seite träumt man von einer Maschinen-​Utopie, die mit Hilfe von Computern, deren Intelligenz dem Menschen weit voraus ist, Wohlstand, Gerechtigkeit und Zufriedenheit im Überfluss erreichen wird.⁵ Weniger träumerisch, aber dennoch optimistisch in die Zukunft blickend, ←16 | 17→werden, beispielsweise von der Bundesregierung, jedenfalls kurzfristige Chancen zur Verbesserung des Lebens der Menschen gesehen.6 Auf der anderen Seite befürchtet man entweder die Auslöschung der Menschheit durch Maschinen, welche die Menschen nicht mehr brauchen,⁷ oder zumindest eine radikal kapitalistische Gesellschaft, in der einige wenige sich den neu geschaffenen Wohlstand einverleiben, während für den Rest der Gesellschaft nichts übrig bleibt, wenn nicht ein Umdenken geschieht.⁸

Bei aller Diskussion um das künftige Schicksal der Menschheit darf nicht vergessen werden, dass die Errungenschaften der KI-​Forschung schon seit Jahrzehnten die Gesellschaft beeinflussen. Gestern lernten Computer das Schachspielen und veränderten den Sport grundlegend oder planten bereits militärische Einsätze.⁹ Heute geben sie sich in Form von Social Bots auf sozialen Medien als Menschen aus und beeinflussen Meinungen und Wahlen oder ermöglichen uns, mit unseren Handys zu reden. Morgen werden sie unsere Autos steuern¹⁰ und immer mehr Aufgaben übernehmen, die man den größten Teil unserer Geschichte nur Menschen zutraute, weil sie mit Intelligenz ausgestattet sind.

Wie es bei neuen Technologien nicht unüblich ist, hat die Rechtswissenschaft hier zunächst die Aufgabe, den neuen Einsatz intelligenter Computer in die bestehende Rechtslage einzuordnen. In den letzten Jahren explodierte deswegen, parallel zur Forschung an KI an sich, das juristische Interesse an der Thematik. Unzählige Aufsätze und Bücher wurden geschrieben, die Fachwelt diskutiert auf Konferenzen über die Implikationen, die sich durch die zunehmende Automatisierung von kognitiv anspruchsvolleren Aufgaben ergeben, und Gesellschaften wie die Robotics & AI Law Society (RAILS)¹¹ wurden gegründet.

Im Zivilrecht kann über Haftungsfragen diskutiert oder über dogmatische Schwierigkeiten bei automatisierten Vertragsschlüssen nachgedacht werden.¹²←17 | 18→Im Strafrecht muss überprüft werden, ob manche dogmatische Konstruktion auch dann sachgerechte Ergebnisse hervorbringt, wenn intelligente Systeme benutzt werden.13

Auch aus staatlicher Perspektive muss sich mit dem Thema beschäftigt werden. Früher oder später besteht in vielen Gebieten Regelungsbedarf durch den Gesetzgeber. Das Europäische Parlament schreibt etwa in einer Empfehlung:

„in der Erwägung, dass die Menschheit mittlerweile an der Schwelle einer Ära steht, in der immer ausgeklügeltere Roboter, Bots, Androiden und sonstige Manifestationen Künstlicher Intelligenz („KI“) anscheinend nur darauf warten, eine neue industrielle Revolution zu entfesseln, die wahrscheinlich keine Gesellschaftsschicht unberührt lassen wird, und es daher für Gesetzgeber von entscheidender Bedeutung ist, sich mit den rechtlichen und ethischen Implikationen und Folgen dieser Entwicklung zu befassen, ohne Innovationen abzuwürgen“¹⁴

Um dies zu ermöglichen muss der (vor allem verfassungsrechtliche) Rahmen gezogen werden, in dem die Legislative tätig werden darf. Ebenso müssen Potential und Grenzen der Einsatzmöglichkeiten intelligenter Programme durch den Staat bedacht werden. Die zentrale Frage dieser Arbeit soll daher sein, welche Herausforderungen sich für Träger von Staatsgewalt durch die Weiterentwicklung künstlicher Intelligenz stellen.

Dabei werden nach dieser Einführung (1.) die Grundlagen gelegt, indem zunächst die hier verwendete Definition von künstlicher Intelligenz festgelegt wird. Dies ist notwendig, weil der Begriff immer noch sehr unterschiedlich gebraucht wird, weswegen der Umfang der Arbeit umrissen werden muss. Anschließend wird der geschichtliche Hintergrund, der wie so häufig für das Verständnis der Materie unerlässlich ist, dargelegt, wobei wichtige Begriffe, die häufiger vorkommen werden, im historischen Kontext erklärt werden sollen (2.).

Im Anschluss werden aktuelle oder in Zukunft vermutete Anwendungsfälle von künstlicher Intelligenz darauf untersucht, ob staatlicher, insbesondere legislativer, Handlungsbedarf besteht und wenn ja, in welcher Form mögliche Handlungen aus verfassungsrechtlicher Sicht zulässig sind (3.). Es muss analysiert werden, ob sich Schutzpflichten ergeben, die in Extremfällen sogar zu Handlungspflichten führen können. Auch wenn das nicht der Fall ist, ist der Rahmen ←18 | 19→zu ermitteln, in dem sich der Gesetzgeber bewegen darf, wenn er sich zu einer Regulierung entschließt.

Zum einen wird schon das Wesen von „Intelligenz“ an sich seit langer Zeit unter Wissenschaftlern verschiedener Fachrichtungen diskutiert. Im allgemeinen Sprachgebrauch bezeichnet man mit Intelligenz die „Fähigkeit [des Menschen], abstrakt und vernünftig zu denken und daraus zweckvolles Handeln abzuleiten.“15 Abgesehen von der Frage, was menschliche Intelligenz ausmacht, führt die Überlegung im Zusammenhang mit KI noch weiter. Die eigentliche Frage ist hier nämlich, ob Menschen überhaupt als Vorbild für Intelligenz taugen, oder ob man –​ unter Berücksichtigung dessen, dass Menschen sich nach allgemeiner Ansicht häufig eben nicht intelligent verhalten –​ nicht nach einer höheren Vernunft streben sollte, die dem Menschen vielleicht gar nicht zugänglich ist.¹⁶

Zum anderen stellt sich die Frage, ob intelligent ist, was sich intelligent verhält (schwache KI), oder ob entscheidend ist, tatsächlich selbst zu denken (starke KI), ob Intelligenz also eine eigene innere Qualität hat, die über das nach außen getragene hinausgeht.¹⁷ Das eindrucksvollste Beispiel für diesen Streit ist John Searles Gedankenexperiment, in dem man einen Mann in einen Raum setzt und ihm chinesische Schriftsätze zukommen lässt, die er nicht verstehen kann. Er erhält aber Anweisungen in seiner Muttersprache, welche Zeichen er als Antwort auf welche Zeichen in den Schriftsätzen zeichnen soll. Sind die Anweisungen präzise genug, unterscheiden sich seine „Antworten“ nicht von denen eines chinesischen Muttersprachlers. Aber hat er wirklich „verstanden“, was in den Schriftsätzen steht?¹⁸ Diese Diskussion ist aus philosophischer Sicht interessant, wirkt sich aber im Rahmen der meisten realen und rechtlichen Probleme kaum aus. Es spielt aus rechtlicher und gesellschaftlicher Sicht (abgesehen ←20 | 21→von der Frage, wie wir die Maschinen behandeln müssen, dazu später mehr) keine Rolle, ob eine KI, die einen Menschen ersetzt, tatsächlich selbst denkt oder sich lediglich intelligent verhält, solange das Ergebnis dasselbe ist. Relevant wird dieser Punkt nochmal im letzten Kapitel, in dem vertieft darauf eingegangen werden soll.