Wenn die KI entscheiden soll, muss das Ermessen sichtbar werden

Hans Leo Bader · Helmut Scheel · 21.06.2026

KI ist nicht die eigentliche Geschichte. Die eigentliche Geschichte ist, wie eine staatliche Entscheidung entsteht.

Bayern will den Einsatz automatisierter Verfahren und Künstlicher Intelligenz in der Verwaltung ausweiten. Der Gesetzentwurf für das Fünfte Modernisierungsgesetz wurde am 15. Juli 2026 in den Bayerischen Landtag eingebracht und am 21. Juli erstmals beraten. Das Verfahren läuft weiter; die Ausschussberatungen sind noch nicht abgeschlossen.

Die politische Frage klingt zunächst technisch: Wie weit darf eine Behörde Entscheidungen automatisieren?

Die wichtigere Frage liegt tiefer:

Was muss eine Behörde sichtbar machen, damit eine Entscheidung nachvollziehbar, überprüfbar und rechtsstaatlich verantwortbar bleibt?

Denn KI erzeugt dieses Problem nicht. Sie legt offen, was in komplexen Verwaltungsverfahren schon immer eine Rolle spielte: Daten, Annahmen, Prognosen, rechtliche Kriterien, Gewichtungen und Verantwortung.

Je mehr Software eine Entscheidung vorbereitet oder automatisiert, desto weniger darf der innere Entscheidungsweg unsichtbar bleiben.

KI zwingt die Verwaltung dazu, ihre eigene Entscheidungslogik genauer zu beschreiben.

1. Automatisierung ist nicht neu – aber ihre Grenzen werden sichtbarer

Vollständig automatisierte Verwaltungsakte kennt das deutsche Verwaltungsrecht bereits. § 35a Verwaltungsverfahrensgesetz erlaubt sie, wenn eine Rechtsvorschrift dies zulässt und weder Ermessen noch ein Beurteilungsspielraum besteht.

Das ist eine wichtige Grenze, aber keine vollständige Beschreibung automatisierter Entscheidungssysteme.

Auch außerhalb von Ermessen können Tatsachenermittlung, unbestimmte Rechtsbegriffe, Prognosen oder komplexe rechtliche Zuordnungen eine Rolle spielen. Automatisierung beseitigt deshalb nicht die Anforderungen an Nachvollziehbarkeit und Kontrolle.

Der bayerische Gesetzentwurf setzt an dieser Entwicklung an. Er soll ausdrücklich klarstellen, dass Verwaltungsverfahren vollständig automatisiert durchgeführt und Künstliche Intelligenz eingesetzt werden können – vorbehaltlich anderer rechtlicher Vorgaben. Zugleich sollen verfassungsrechtliche, unionsrechtliche und digitalrechtliche Schutzvorgaben unberührt bleiben.

Die schwierige Frage beginnt dort, wo eine Entscheidung nicht nur aus der mechanischen Anwendung einer feststehenden Rechtsfolge besteht.

2. Die Grenze liegt dort, wo aus Information Bewertung wird

Ermessen bedeutet nicht, dass eine Behörde frei nach Belieben entscheidet.

Wo das Gesetz Ermessen eröffnet, muss die Behörde Zweck und Grenzen der Ermächtigung beachten und die für den Einzelfall relevanten Gesichtspunkte berücksichtigen. Bei Ermessensentscheidungen soll die Begründung erkennen lassen, von welchen Erwägungen die Behörde ausgegangen ist.

Praktisch heißt das:

Welche Tatsachen sind erheblich? Welche Interessen und Schutzgüter sind betroffen? Welche Alternativen bestehen? Welche Folgen sind wahrscheinlich? Welche Unsicherheiten bleiben? Und warum erhält am Ende ein Gesichtspunkt mehr Gewicht als ein anderer?

Eine KI kann Informationen sortieren, Muster erkennen, Widersprüche markieren oder Entscheidungsvorschläge erzeugen.

Aber damit ist noch nicht entschieden, welches Gewicht ein rechtlich geschütztes Interesse im konkreten Fall haben soll.

Die Grenze liegt dort, wo aus Information Bewertung wird.

Die präzisere Frage lautet deshalb nicht: „Kann KI Ermessen?“

Sondern: Welche Teile einer Entscheidung können technisch unterstützt werden – und welcher Teil muss als normative Bewertung und verantwortete staatliche Entscheidung erkennbar bleiben?

3. KI macht einen alten blinden Fleck sichtbar

Viele komplexe Verwaltungsentscheidungen entstehen heute nicht in einem einzigen dokumentierten Schritt.

Informationen stehen in Gutachten. Rechtliche Fragen werden in Vermerken behandelt. Stellungnahmen kommen aus anderen Behörden. Prognosen liegen in Anlagen. Ein Teil der Abwägung steht in der Begründung, anderes in der Akte – und manches bleibt Erfahrungswissen der handelnden Personen.

Solange Menschen diese Elemente zusammenführen, kann ein Verfahren funktionieren, obwohl sein innerer Entscheidungsweg nicht vollständig sichtbar ist.

Bei automatisierten oder KI-gestützten Verfahren reicht das nicht mehr.

Wenn ein System einen Vorschlag macht, eine Priorität setzt oder einen Entscheidungsschritt vorbereitet, muss nachvollziehbar sein, auf welcher Grundlage dies geschieht. Sonst lässt sich später kaum prüfen, ob relevante Tatsachen übersehen, Unsicherheiten unterschätzt, rechtliche Kriterien falsch angewandt oder Belange unzulässig gewichtet wurden.

Die Digitalisierung erzeugt diesen blinden Fleck nicht. Sie macht ihn sichtbar.

4. Was KI sinnvoll leisten kann

Gerade bei komplexen Verfahren kann KI nützlich sein, bevor die eigentliche Entscheidung fällt.

Sie kann große Informationsmengen strukturieren, Rechtsgrundlagen auffindbar machen, Fristen und Zuständigkeiten sichtbar machen, Stellungnahmen ordnen oder auf Widersprüche und fehlende Informationen hinweisen.

Sie kann Szenarien vergleichbar aufbereiten: Welche Schutzgüter könnten betroffen sein? Welche Folgen unterscheiden sich zwischen Varianten? Welche Annahmen liegen einer Prognose zugrunde? Wo sind Daten unsicher?

Das kann Entscheidungen besser machen – wenn die Ergebnisse überprüfbar bleiben.

Die sinnvolle Rollenverteilung lautet deshalb nicht: Mensch oder Maschine.

Sondern:

Maschine für Strukturierung und Unterstützung – verantwortliche Behörde für rechtliche Bewertung, Abwägung und Entscheidung.

5. Gerade ökologische Entscheidungen zeigen das Problem

Entscheidungen über Wasser, Böden, Arten, Landschaften oder Klima machen die Grenzen rein datengetriebener Entscheidungshilfe besonders deutlich.

Hier reichen häufig weder einfache Ja-Nein-Regeln noch rein historische Daten. Behörden müssen mit Prognosen, Unsicherheiten und langfristigen Folgen umgehen.

Ein Modell kann sehr gut aus vergangenen Daten lernen. Das hilft aber nur, solange die Bedingungen, unter denen diese Daten entstanden sind, für die Zukunft noch hinreichend aussagekräftig bleiben.

Bei einem Fluss kann sich die Wasserführung verändern. In einem Wald können Hitze, Trockenheit und Schädlingsdruck gleichzeitig zunehmen. Arten können ihre Verbreitungsgebiete verschieben.

Dann reicht die Frage „Was ist bisher normalerweise passiert?“ nicht aus.

Historische Daten bleiben wichtig – aber sie sind eine Grundlage, keine Garantie dafür, dass die Zukunft genauso funktioniert.

Eine KI kann solche Unsicherheiten sichtbar machen. Sie darf aber nicht den Eindruck erzeugen, eine ökologische Bewertung sei vollständig, nur weil viele Daten verarbeitet wurden.

Art. 20a GG unterstreicht den staatlichen Schutzauftrag für die natürlichen Lebensgrundlagen und die Tiere. Welche konkrete Rechtsfolge daraus im einzelnen Verwaltungsfall folgt, bestimmt sich weiterhin aus dem jeweils anwendbaren Fach- und Verfahrensrecht.

6. Ein schlechtes Verfahren wird durch KI nur schneller

Damit kommt die Debatte an ihren wichtigsten Punkt.

Komplexe Verwaltungsverfahren scheitern nicht nur daran, dass Regeln fehlen. Probleme können ebenso entstehen, weil Informationen eine zuständige Stelle nicht erreichen, Prüfungen zu spät stattfinden, Zuständigkeiten auseinanderfallen oder vorhandene Anforderungen nicht konsequent angewendet werden.

Wenn ein solcher Ablauf automatisiert wird, verschwindet das Defizit nicht.

Eine unzureichende Prüfung wird durch Automatisierung nicht besser. Sie wird lediglich schneller.

Das ist der Unterschied zwischen Digitalisierung und Modernisierung.

Modernisierung bedeutet nicht nur, denselben Prozess schneller oder mit weniger Personal durchzuführen. Sie muss auch prüfen, ob der Prozess überhaupt die richtigen Informationen zum richtigen Zeitpunkt zusammenführt und die maßgeblichen rechtlichen Entscheidungen an der richtigen Stelle trifft.

7. Vier Ebenen müssen sichtbar bleiben

Je stärker KI in Verwaltungsverfahren eingesetzt wird, desto klarer muss die Entscheidungsarchitektur erkennbar bleiben.

Mindestens vier Ebenen müssen voneinander unterscheidbar sein:

Daten und Tatsachen: Welche Informationen wurden verwendet – und welche fehlen?
Annahmen und Prognosen: Welche zukünftigen Entwicklungen werden unterstellt, und wie sicher sind sie?
Rechtliche Kriterien: Welche Normen, Schutzgüter und Grenzen sind maßgeblich?
Bewertung und Verantwortung: Wer hat die entscheidende Gewichtung vorgenommen und wer trägt dafür Verantwortung?

Diese Trennung hilft nicht nur Gerichten oder Betroffenen. Sie hilft auch der Verwaltung selbst.

Denn nur ein Entscheidungsprozess, dessen Annahmen und Bewertungsschritte sichtbar sind, kann später überprüft, korrigiert und verbessert werden.

8. Die eigentliche Chance der KI-Debatte

Die Zukunft des Verwaltungsrechts entscheidet sich nicht daran, ob KI möglichst viele Entscheidungen selbst treffen kann.

Sie entscheidet sich daran, ob staatliche Entscheidungen auch mit KI rechtmäßig, nachvollziehbar, überprüfbar und verantwortbar bleiben.

Darin liegt zugleich eine Chance.

Wenn KI die Verwaltung zwingt, Kriterien, Daten, Unsicherheiten und Bewertungsschritte sauberer offenzulegen, kann sie einen rechtsstaatlichen Mangel sichtbar machen, der lange vor der KI existierte.

Die einfache Prüfregel lautet deshalb:

Je mehr KI eine Entscheidung vorbereitet oder automatisiert, desto klarer muss erkennbar sein, welche Daten, Annahmen, rechtlichen Kriterien, Unsicherheiten und menschlichen Wertungen in die Entscheidung eingegangen sind.

Nicht die Maschine muss Verantwortung simulieren.

Der Staat muss sichtbar machen, wie seine Entscheidung zustande kommt und wer sie verantwortet.

Quellen

Lizenzhinweis

Dieser Beitrag einschließlich des begleitenden KI-generierten Bildes steht unter der Lizenz Creative Commons Namensnennung – Nicht kommerziell – Weitergabe unter gleichen Bedingungen 4.0 International (CC BY-NC-SA 4.0).

Bitte wie folgt zitieren bei Verwendung:

Struktur und Teile der Formulierung dieses Textes wurden mithilfe mehrerer KI-Systeme, insbesondere GPT/OpenAI, Gemini/Google und Claude/Anthropic, entwickelt. Inhaltliche Verantwortung: Hans Leo Bader. (CC BY-NC-SA 4.0)