Künstliche Intelligenz (KI) verändert nicht nur Technologie, sondern stellt auch das Recht vor neue Fragen: Wer trägt Verantwortung für Entscheidungen einer KI – die Entwickler, die Nutzer oder die KI selbst? Mit diesen Fragen beschäftigt sich das EU-geförderte Projekt Artifizielle Intelligenz als Rechtsperson (AIR) an der Hochschule Harz unter der Leitung von Prof. Dr. Ingmar Miethke, der sich dafür auch regelmäßig mit Mitarbeitenden der verschiedenen rechtswissenschaftlichen Lehrstühle an der Martin-Luther-Universität Halle-Wittenberg austauscht. Im Gespräch mit dem wissenschaftlichen Mitarbeiter Dr. Sebastian Simmert und Jun.-Prof. Dr. Daria Bayer, die seit August 2026 als Juniorprofessorin für Strafrecht, Strafprozessrecht und Rechtsphilosophie an der Leuphana Universität Lüneburg tätig ist, diskutiert er die rechtlichen und philosophischen Dimensionen Künstlicher Intelligenz. 

Bayer: Die amerikanische Philosophin Martha Nussbaum beschrieb in „Die Grenzen der Gerechtigkeit“ verschiedene ‚blinde Flecken‘ liberaler Gerechtigkeitstheorien – etwa mit Blick auf die reale Abhängigkeit von Menschen mit schweren Beeinträchtigungen oder im Umgang mit nicht-menschlichen Tieren. Mittlerweile scheint auch der Status von KI eine solche Leerstelle zu sein. Wie trägt Ihr Projekt AIR zur Beschäftigung mit diesem aktuellen Thema bei?

Miethke: Unser Projekt zielt darauf ab, genau den von Ihnen angesprochenen blinden Fleck zu erforschen, der sich in allen Rechtsgebieten immer intensiver als problematisch aufdrängt. Dazu analysieren wir, unter welchen Bedingungen bestimmte Systeme, die gelernt haben, selbstständig mit ihrer Umgebung zu interagieren, über einen sogenannten Rechtspersonenstatus in einer Rechtsordnung verfügen. Mit einem solchen Status gehen für gewöhnlich verschiedene Rechte und Pflichten einher. Soll heißen, dass solche Personen nach unserem Recht für alles, was sie tun oder nicht tun, verantwortlich gemacht werden können. Wie aber verhält sich das bei Systemen wie Chatbots, selbstfahrenden Kraftfahrzeugen oder OP-Robotern, die selbstständig lernen können und nicht nur dem Menschen in Chats, sondern auch untereinander in sozialen Netzwerken für KI-Agenten wie beispielsweise „RedClaw“ interagieren können? Denken Sie darüber hinaus an komplexe Systeme mit Quantenprozessoren oder Hybridsystemen, die Berechnungen unter anderem mit gezüchteten Gehirnzellen vornehmen. All diese Systeme erfassen wir im Projekt AIR als „Artifizielle Intelligenz“, kurz AI, und gehen damit in unserer Betrachtung weit über die Systeme hinaus, die derzeit üblicherweise im alltäglichen Gebrauch sind.

Dass mit den Pflichten leuchtet unmittelbar ein. Aktuell wird ja auch viel über die Verantwortung von Plattformbetreibern für strafbare Inhalte diskutiert oder über die ethischen Grenzen zur Programmierung von Chatbots – insbesondere nachdem Fälle bekannt wurden, in denen Nutzer durch emotionale Bindungen an KI-Systeme bis hin zu suizidalen Handlungen beeinflusst wurden. Aber welche Rechte könnte KI besitzen, wenn ihr ein Rechtspersonenstatus zugeschrieben werden würde?

Simmert: Ich denke, bevor wir von den Rechten einer Rechtsperson sprechen, müssen wir zunächst klären, was wir darunter verstehen. Das Konzept der Rechtsperson ist nicht gleichzusetzen mit dem Begriff der Person, wie wir ihn im Alltag verwenden. Wenn wir von einer Person sprechen, meinen wir oftmals einen Menschen, der zum Beispiel Bewusstsein und Individualität besitzt. Im Alltag ist das also ein Konzept, das eher in die Richtung des von Gilbert Ryle kritisierten Konzepts des ‚Ghost‘ respektive ‚Mind‘ geht – also der Vorstellung, im Menschen existiere zusätzlich zum Körper noch ein eigenständiger Geist oder eine Seele. Rechtspersönlichkeit bedeutet hingegen, dass eine Rechtsordnung festlegt, welche Wesen oder Organisationen aufgrund bestimmter Eigenschaften als Träger von Rechten und Pflichten gelten. Eine juristische Person kann also nicht nur ein realer Mensch sein, sondern auch ein Unternehmen, ein Verein oder eine Stiftung. Im Projekt geht es uns daher weniger um solche existenzialistischen Fragen, wie man sie popkulturell in Filmen wie „Ghost in the Shell“, „I, Robot“ oder ganz aktuell in „Mercy“ aufbereitet sieht, also ob wir durch Artifizielle Intelligenz einen von Menschen geschaffenen Verstand vor uns haben. Uns geht es darum, zu analysieren, wozu und aus welchen Gründen AI fähig ist und ob dadurch AI besagten Rechtspersonenstatus haben muss oder zumindest haben müsste. Das wiederum würde in letzter Konsequenz die Frage nach der Verantwortlichkeit von AI in rechtlicher Hinsicht beantwortbar machen, weil wir dadurch sagen könnten, dass sie diese oder jene Eigenschaft aufweist, die in einer bestimmten Rechtsordnung für den Rechtspersonenstatus gefordert wird.

Das ist eine interessante Theorie. In einer möglichen Umsetzung sehe ich aber einige Hürden, da die aktuelle Rechtsordnung nur auf Lebewesen ausgelegt ist und nicht auf künstliche Systeme, die sich menschenähnlich verhalten können. Wie schätzen Sie das ein?

Miethke: Aus rechtlicher Perspektive geht die Frage nach den Rechten von Wesen, Systemen oder Organisationen, in der Fachsprache als ‚Entitäten‘ zusammengefasst, mit einem selbst gemachten Hindernis einher. Unsere Rechtsordnung ist, wie die meisten uns bekannten Rechtsordnungen auf der Welt auch, sehr menschenzentriert. Das sollte uns freilich nicht verwundern, denn schließlich haben wir uns den Großteil der Menschheitsgeschichte im Recht damit beschäftigt, wie wir die Ordnungen menschlicher Gesellschaften im Sinne von Sicherheit und Frieden im Recht gewährleisten können. Mal von den symbolischen Gerichtsverfahren im Mittelalter abgesehen, in denen auch Bäume oder Ähnliches verurteilt wurden, ging es immer um den Menschen als Inhaber von Rechten und Pflichten und somit um seine Verantwortung gegenüber anderen beziehungsweise dessen Handeln, sprich sein eigenes Tun, Dulden oder Unterlassen. Für unser Recht bedeutet dies, dass wenn nun etwas Neues, Andersartiges auftritt, das kein Mensch ist, aber über ähnliche Fähigkeiten wie der Mensch verfügt, es von den meisten Rechtsordnungen nicht erfasst ist oder erst über komplizierte Umwege erfassbar gemacht wird.

Simmert: Wobei Letzteres nicht bedeutet, dass dieses Etwas dann dem Menschen rechtlich gleichgestellt wäre. Es bedeutet nur, dass man es rechtlich irgendwie handhabbar macht.

Vorausgesetzt, KI könnte irgendwann als juristische Person gelten, was könnte das Ihrer Ansicht nach für Konsequenzen haben? Was müssten wir beachten und wo liegen mögliche Hürden?

Miethke: Nehmen wir diesen Umstand ernst, dass AI über einen vollwertigen Rechtspersonenstatus verfügt, müssten ihr in rechtlicher Hinsicht letztlich alle Rechte und Pflichten zugesprochen werden, die wir zumindest in der westlichen Welt auch uns Menschen zuschreiben. Das mag jetzt zwar vom heutigen Standpunkt aus absurd klingen, doch müsste dies dann auch so etwas wie ein Recht auf Existenz umfassen oder die Bestrafung für den Bruch einer rechtlichen Norm. Hätte AI ein Recht auf Existenz, hätte dies wiederum Implikationen nicht nur für die Hersteller von AI, sondern auch für uns als Nutzer. Eine AI, zum Beispiel ChatGPT, als Service einfach einzustellen, wäre dann nicht mehr ohne Weiteres möglich.

Simmert: Genauso wäre aber auch das Wegwerfen von AI-Smartwatches, die viele zur Überwachung ihrer Vitalfunktionen nutzen, rechtlich vermutlich strafbar, weil dadurch das Recht auf Existenz der in der Smartwatch implementierten AI verletzt werden würde. Von rechtlicher Seite wäre man demnach zwangsläufig zu einem nachhaltigeren Umgang mit seinen KI-gestützten Geräten angehalten.

Miethke: Wobei schon die Vorstellung, man könne KI ‚besitzen‘, fraglich wäre, sobald ihr tatsächlich ein Status als Rechtsperson zukäme. In den heutigen Rechtsordnungen sind Sklaverei und Leibeigenschaft verboten und damit auch der Besitz von Personen – das würde in dem Fall auch für KI-Systeme gelten. Sie sehen also schon, dass mit dem Rechtspersonenstatus von AI überaus weitläufige Problemfelder aufgeworfen werden, die vom heutigen Standpunkt der Rechtswissenschaft vielleicht unvorstellbar erscheinen mögen. Wir sind jedoch auch der Meinung, dass es beim jetzigen Stand der Technik noch eine Weile unvorstellbar bleibt und jedermann sich daher als Rechtsperson noch keine Sorgen darüber machen muss, dass neben den Menschen andere Individuen für ihre Taten verantwortlich gemacht werden und im Zuge dessen mit Rechtsfolgen zu rechnen haben. Was aber nicht bedeutet, dass das noch lange so bleiben wird. Ungeachtet dessen greift unser Projekt eben jene spezifischen Problemfelder auf und versucht, fundierte Antworten darauf zu geben, um der derzeitigen abzusehenden Entwicklung von AI im rechtlichen Kontext gerecht zu werden.

Das finde ich sehr spannend, und trifft ja auch wieder den anfangs erwähnten Gedanken Nussbaums: Die Integration von nicht-menschlichen Tieren oder eben von KI in unsere herrschenden Gerechtigkeitskonzeptionen würden ganz grundsätzlich unsere Interaktions- und Produktionsformen in Frage stellen. Könnte Ihrer Meinung nach also, zugespitzt formuliert, die Integration von KI in menschliche Gerechtigkeits- und Rechtskonzeptionen zur Befreiung der Menschen führen – also nicht nur formal durch das Zuschreiben von Rechten, sondern dass sie tatsächlich fähig sind, das eigene Leben menschenwürdig und selbstbestimmt zu gestalten?

Simmert: Das ist angesichts der aktuellen Entwicklung durch AI auf dem Arbeitsmarkt eine berechtigte Frage. Nussbaum geht davon aus, dass der Mensch durch die Befähigung zur Ausübung bestimmter Fähigkeiten besagte Befreiung erlangt. Eine dieser Fähigkeiten ist, emotionale Beziehungen mit anderen Menschen und Dingen einzugehen, eine andere wäre die Fähigkeit, seine Vernunft in praktischer und theoretischer Hinsicht kritisch zu gebrauchen. Nun ist der gegenwärtige Zustand des Rechts jedoch klar auf den Menschen bezogen. Eine bloße Integration von AI in bestehende Rechtskonzepte und eine dadurch erfolgende Realisierung der Befreiung halte ich hierbei für problematisch. Sie würde bedeuten, dass wir AI nicht entsprechend ihrer tatsächlichen Eigenschaften würdigen, sondern sie in ein vorgegebenes menschliches und historisch gewachsenes Schema einpassen. Das wäre eine ähnliche Vorgehensweise, die wir bereits im Umgang mit nicht-menschlichen Tieren sehen, die im deutschen Recht wie Sachen behandelt werden. Daher ist abzusehen, dass eine bloße Integration von AI-Systemen auf eine solche Lösung hinauslaufen würde. In letzter Konsequenz würde das bedeuten, dass etwas, das dem Menschen vielleicht in allen Bereichen überlegen ist oder dies noch wird, von ihm rechtlich genauso wie jede andere mögliche Sache als Besitz oder Eigentum behandelt wird. Wobei diese rechtlichen Kategorien zugespitzterweise nur euphemistische Bezeichnungen für Sklaverei wären.

Und wie genau kann Ihr Projekt zum Verständnis oder gar zur Lösung dieser Problematik beitragen? Wo setzt es in diesem Kontext an?

Simmert: Genau an dieser Stelle. Es geht uns zum einen darum, dass wir AI sowohl hinsichtlich der Eigenschaften würdigen, über die sie tatsächlich verfügt oder in absehbarer Zeit verfügen wird. Zum anderen analysieren wir, unter welchen Bedingungen in einem Normensystem AI einen Rechtspersonenstatus zugeschrieben werden muss beziehungsweise über diesen verfügt. Wir gehen also über die Frage hinaus, ob man AI einfach ins bestehende Recht einfügen kann. Das ist aber natürlich eine Frage, die wir uns auch stellen und stellen müssen, weil unsere Ergebnisse auch auf die deutsche Rechtsordnung anwendbar sein sollen. Aber das Projekt zielt eben nicht darauf ab, eine rechtliche Sichtweise auf unsere Umwelt zu reproduzieren, die bisher kennzeichnend für den Großteil der Menschheitsgeschichte war. Ob das dann letztlich zur Befreiung führt, ist schwer zu sagen. Wenn Recht unsere Gesellschaft prägt, würde eine Loslösung vom rechtlichen Anthropozentrismus, also der Zentrierung auf den Menschen, sicherlich unsere Interaktionsformen mit AI grundlegend verändern. Wahrscheinlich würde uns das vor allem dazu zwingen, kritischer über uns selbst, über andere Entitäten und über unsere Beziehungen zu ihnen nachzudenken. Was ja ganz im Sinne von Nussbaums Befreiungskonzept wäre.

Eines meiner Forschungsfelder betrifft auch die Schnittstellen zwischen Recht und Literatur. In diesem Zusammenhang würde mich die Frage interessieren, ob Sie in Ihrem Projekt auch erforschen, inwiefern popkulturelle Erzählungen von und über KI, beispielsweise in Büchern, Filmen oder Serien, das Bild von KI in der Rechtswissenschaft prägen.

Miethke: Das ist eine interessante Frage. Tatsächlich ist eine Beschäftigung im Projekt selbst damit nicht vorgesehen, weil wir uns auf die Schnittstellen zwischen Recht und den informationstechnischen Grundlagen beschränkt haben. Zwar umfasst das Projekt auch die Reflexion über ethische und ökonomische Implikationen, aber ein solcher Brückenschlag zur Literatur und ihrer Auswirkungen auf unser Denken über die rechtliche Kategorie der Rechtsperson bleibt bei uns aus.

Simmert: Allerdings denke ich, dass eine Prägung durch popkulturelle Erzählungen natürlich nicht von der Hand zu weisen ist. Das bekommt man in der interdisziplinären Fachliteratur immer wieder mit, wenn einleitend an Serien wie „Star Trek“ oder an Filme wie „The Terminator“ angeknüpft wird. Zumeist dient das dort als eine Art Topoi, ein wiederkehrender Bezugspunkt, um über verschiedene Aspekte zu argumentieren, die mit menschenähnlichen Maschinen zu tun haben. Allein schon dieser Umstand, von dem auch die rechtswissenschaftliche Literatur nicht frei ist, zeigt meiner Meinung nach, dass die meisten Schriftstellerinnen und Schriftstellern eher ein fiktives Bild von KI vor Augen haben, für das sie argumentieren.

Miethke: Genau das ist aber auch ein minderschweres Problem in den wissenschaftlichen Debatten um Artifizielle Intelligenz. Das macht es schlichtweg sehr schwer zu erkennen, welche Autorinnen und Autoren von einem fiktiven Bild von AI ausgehen und welche demgegenüber auf einer belastbaren Grundlage argumentieren, die State of the Art ist. Dabei meine ich aber nicht den aktuellsten Wissensstand in ihrer jeweiligen Disziplin, sondern State of the Art, was die Wissenschaft der AI in einem rechtlichen wie technischen Sinne anbelangt. Diese sollte schließlich für alle, die sich mit AI beschäftigen, der Bezugspunkt sein und nicht irgendwelche Reminiszenzen an fiktive Geschichten, die einen begeistert haben.

Wobei man hierbei einwenden könnte, dass diese Orientierung an Fiktionen im Recht nichts Ungewöhnliches ist. Im Gegenteil, das Recht basiert ganz maßgeblich auf Fiktionen wie der juristischen Person. Ist die Diskussion über einen Rechtspersonenstatus von AI dann nicht bloß eine Fortsetzung oder ein Weiterdenken von Fiktionalität, die diesen Aspekt des Rechts besonders plastisch macht?

Miethke: Ich denke, typisch Jurist, das kommt ganz darauf an. Wir benutzen im Recht Fiktionen ja hauptsächlich dafür, um bestimmte Phänomene, die wir gesellschaftlich irgendwie regeln wollen, aber aus verschiedensten Gründen mit unserem bestehenden rechtlichen Begriffsvokabular nicht regeln können, doch noch handhabbar zu machen. Ob es sich bei den verschiedenen AI-Systemen um ein solches Phänomen handelt oder nicht, das lässt sich aufgrund der rapiden Entwicklungen auf diesem Gebiet nur schwer abschätzen.

Simmert: Mal jenseits vom Recht gedacht, ließe sich philosophisch ketzerisch sagen, dass letztlich jedes sprachliche Konstrukt eine Fiktion ist. Irgendwer hat sich diese ja irgendwann einmal ausgedacht, um in der Welt erfolgreich zurechtzukommen. Aber ich weiß schon, was mit der Frage gemeint ist. Es kommt da vermutlich auf das semantische Bezugssystem an, anhand dessen Recht weiterentwickelt wird. Würden wir ihm irgendwelche Science Fiction zugrunde legen, würde das Recht ebenso fiktiv werden. Das heißt, es würde nach wissenschaftlichen Standards die Wirklichkeit schon irgendwie abbilden. Doch würde diese Abbildung Lücken aufweisen, die wir mit unserer Einbildungskraft aufgefüllt hätten. Was nicht unbedingt vertrauenserweckend wäre, wenn etwa die Begründung für eine Bestrafung letztlich auf die Fantasie der Gesetzgeber zurückzuführen wäre, oder? Mir scheint es daher doch nachvollziehbarer, wenn wir uns bei der Weiterentwicklung des Rechts an dem tatsächlich Überprüfbaren orientieren. Unser Bezugssystem sollte daher der tatsächliche Entwicklungsstand von AI-Systemen sein beziehungsweise was in wissenschaftlicher Hinsicht als Tatsache belegt werden kann.

Das Projekt „AIR – Artifizielle Intelligenz als Rechtsperson“ wird vom 1. Juli 2024 bis zum 31. Dezember 2027 aus Mitteln der Europäischen Union (EFRE) und dem Land Sachsen-Anhalt gefördert.