Am 11. Juni 2026 hat der Bundestag das Gesetz zur Durchführung der Verordnung über künstliche Intelligenz verabschiedet. Mit diesem Durchführungsgesetz wird die Bundesnetzagentur als zentrale Marktüberwachungsbehörde in Deutschland benannt. Grundlage hierfür ist Art. 70 Abs. 1 S. 1 KI-VO. Danach obliegt es den Mitgliedstaaten, die für die Umsetzung der KI-VO zuständigen Marktüberwachungsbehörden zu benennen. Die in der KI-VO vorgesehenen Aufsichtsstrukturen sind jedoch insbesondere mit Blick auf die Anforderungen an die Unabhängigkeit der Behörden komplex ausgestaltet. 

Nach Art. 70 Abs. 1 S. 2 KI-VO müssen die zuständigen Behörden ihre Befugnisse unabhängig, unparteiisch und unvoreingenommen ausüben. Für bestimmte Einsatzbereiche von Hochrisiko-KI-Systemen geht die Verordnung noch weiter: Nach Art. 74 Abs. 8 KI-VO ist insbesondere im Bereich der Biometrie (Anhang III Nr. 1) in Verbindung mit Strafverfolgung, Grenzmanagement, Justiz und Demokratie eine „völlige“ Unabhängigkeit der zuständigen Aufsichtsbehörden erforderlich. Gleiches gilt für den Einsatz von Hochrisiko-KI-Systemen in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrolle, Rechtspflege sowie demokratische Prozesse (Anhang III Nr. 6, 7 und 8).

Daneben sieht Art. 74 Abs. 3 KI-VO vor, dass die Aufsicht über Hochrisiko-KI-Systeme, die eigenständig oder als Sicherheitsbauteile von regulierten Produkten nach Anhang I Abschnitt A KI-VO in Verkehr gebracht werden, den jeweils zuständigen sektoralen Marktüberwachungsbehörden obliegt.

Diese fragmentierten Zuständigkeiten in Verbindung mit differenzierten Unabhängigkeitsanforderungen innerhalb des KI-Regelwerks werfen grundlegende Fragen nach der praktischen Umsetzung, der institutionellen Ausgestaltung und der demokratischen Legitimation der KI-Aufsicht auf. 

Mit diesen Fragen befasst sich die interdisziplinäre Projektgruppe des AI-Supervision (AI-Sup)-Projekts, der Wissenschaftler:innen aus den Rechts-, Wirtschafts- und Politikwissenschaften sowie der Philosophie angehören. Im Zentrum steht die Analyse der Unabhängigkeitsanforderungen der KI-Aufsicht sowie deren Vereinbarkeit mit den deutschen und europäischen demokratischen Legitimationstheorien. Hierzu werden vergleichbare Modelle behördlicher Unabhängigkeit in unterschiedlichen Rechtsordnungen herangezogen und aus rechtsdogmatischer, politik-, wirtschaftswissenschaftlicher sowie philosophischer Perspektive beleuchtet. Insbesondere werden die verfassungsrechtlich verankerte Unabhängigkeit der Bundesbank nach Art. 88 GG sowie die Unabhängigkeitsanforderungen an Datenschutzaufsichtsbehörden nach Art. 52 DS-GVO analysiert und auf übertragbare Parallelen zur Ausgestaltung der KI-Aufsicht hin untersucht.

Darüber hinaus werden die Wechselwirkungen zwischen staatlicher Aufsicht und privatrechtlicher Haftung der Marktteilnehmer erörtert, um eine einheitliche Verantwortungsarchitektur im Anwendungsbereich der KI-VO zu skizzieren.

Ziel des Projekts ist es, tragfähige institutionelle Modelle zu entwickeln, die die unionsrechtlichen Unabhängigkeitsanforderungen in verfassungs- und demokratiekonforme Aufsichtsstrukturen überführen.

Die Projektgruppe ist Teil des hessenweiten Netzwerks Zentrum verantwortungsbewusste Digitalisierung (ZEVEDI) und wird von Prof. Dr. Katja Langenbucher (Goethe-Universität Frankfurt) als Sprecherin geleitet. Stellvertretender Sprecher war bis April 2026 Prof. Dr. Florian Möslein, LL.M. (Philipps-Universität Marburg) und seit Mai 2026 Prof. Dr. Johannes Buchheim, LL.M. (Philipps-Universität Marburg). Des Weiteren wirken Prof. Dr. Nathalie Behnke (TU Darmstadt), Prof. Dr. Petra Gehring (TU Darmstadt), Prof. Dr. Gerrit Hornung, LL.M. (Universität Kassel) und Prof. Dr. Emanuel Mönch (Frankfurt School of Finance & Management) mit. 

Weitere Informationen finden sich auf der AI-Sup-Website.

Finanzierung:
Zentrum verantwortungsbewusste Digitalisierung (ZEVEDI)

Laufzeit:
Januar 2026 - Juni 2027

Projektverantwortlicher: 
Prof. Dr. Gerrit Hornung, LL.M.

Ansprechpartnerin: 
Argyro Tsapakidou