AI4GOV 2026: Tokenangst, Umsetzungsstau und die Frage, ob KI überhaupt sein muss

Der AI4GOV-Kongress des Behörden Spiegel brachte am 17. September 2026 in Köln Stadtspitzen, Landesbetriebe, Forschung und Beratung auf eine Bühne. Der Bericht fasst zusammen, was für Verwaltungen, die einen ersten KI-Vorgang planen, verwertbar war. Alle Aussagen sind aus eigener Mitschrift sinngemäß wiedergegeben und nicht von den Sprechern autorisiert.

Köln: eigene Plattform, eigenes Labor, klare Angst vor der Preisschraube

Der Beigeordnete für Digitalisierung der Stadt Köln berichtete von einem eigenen Kompetenzcenter für KI und Datenmanagement, einem KI-Labor für Fachbereiche und einer städtischen KI-Plattform im Beta-Betrieb, mit der das Rechtsamt intensiv arbeite. Ziel sei, im Laufe des nächsten Jahres jeden Arbeitsplatz damit auszustatten. Dimension: über 22.000 Beschäftigte, ein Haushaltsloch von rund 800 Millionen Euro, Digitalisierung als einziger Bereich, der aufgestockt werde.

Deutlich wurde die Sorge vor Abhängigkeit: Alle erwarteten, dass die Tokenpreise explodierten; man werde angefüttert, abhängig gemacht, dann werde die Preisschraube angezogen. Seine Vision sei ein zentraler Betreiber, der Standardleistungen für alle Kommunen übernehme und über Gebühren abrechne: Standardisierung funktioniere, indem man die Leistung abnehme, nicht indem man Vorschriften mache.

PwC: Marktbild 2026 und der Umsetzungsstau

Die Keynote ordnete den Markt in Wrapper und RAG-Lösungen, Plattformen, fachliche Vertikalen, Förderprogramme und Regulierung. Drei Sätze blieben hängen: Die Verwaltung habe keinen Erkenntnisstau, sondern einen Umsetzungsstau. 98 Prozent der Anwendungsfälle gingen genauso gut mit kleineren Modellen, Software solle je Aufgabe entscheiden. Und: Von einem Agenten spreche man nur bei Autonomie; ein Verfahren heiße nie Vollautomatismus, man müsse gezielt sagen, wo der Mensch draufschaue. Als Beispiel für einen kleinen, aber vollständigen Vorgang wurde eine bayerische Stadt genannt, deren Hundesteuerantrag bis zum SEPA-Mandat integriert sei.

Fraunhofer IAIS: Validierung zuerst, Human in the Loop mit Vorsicht

Der Beitrag aus der Forschung war der nüchternste. Es reiche nicht, dass KI ein Problem lösen könne; es müsse günstiger sein als das Bisherige. Je strenger untersucht werde, ob KI funktioniere, desto kleiner sei der berichtete Effekt; in einer Studie mit Beratern sei die Gesamtkorrektheit bei einer konstruierten Aufgabe um 19 Prozent gesunken, weil die KI die falsche Lösung gut formuliert habe. Sehr häufig sei KI plus Mensch die schlechtere Variante.

Zum Satz „und dann kann ja der Sachbearbeiter nochmal draufschauen" fiel das Wort famous last words: Wer alles selbst nachvollziehen müsse, könne es gleich selbst machen. Und ein Warnhinweis an Anbieter: Es sei ein fieser Trick, nur Tipps zu geben, den Sachbearbeiter entscheiden zu lassen und ihm am Ende die Verantwortung zu überlassen. Empfehlung: mit der Validierung anfangen, 80 Prozent lösen statt 100, nicht mit dem Atomkraftwerk beginnen.

Rechtsrahmen: § 35a VwVfG und das KI-Paradoxon

Ein Jurist aus einem Referat für digitale Verwaltung legte den Rechtsrahmen für Automatisierung dar: Vollautomatisierte Verwaltungsakte nur mit Fachgesetz und ohne Ermessen, Art. 22 DSGVO als Schutzmechanismus, ein Verwaltungsgerichtsurteil zu einem Abfallgebührenbescheid, bei dem ein Drüberschauen nicht genügte. Sein Fazit: KI sei Copilot, nicht Autopilot; Teilautomatisierung sei der richtige Weg, und Human in the Loop trage nur unter vier Bedingungen. Die vollständige Systematik steht unter Vollautomatisierung.

GovDigital und AKDB: eine Plattform gegen den Beschaffungsweg

Der letzte Vortrag stellte die GenAI-Plattform der Genossenschaft GovDigital mit der AKDB vor. Ausgangspunkt: Der Weg von „Fachbereich will ein KI-Produkt" bis zum Rollout dauere in einer Kommune 8 bis 12 Schritte und bis zu ein Jahr, je Produkt. Die Plattform soll souveräne Infrastruktur, Betriebsteam, App-Store und Mandanten je Kommune bündeln; eine Betriebsumgebung sei in rund fünf Minuten aufgesetzt. Mehr dazu in einer eigenen Notiz.

Podium: Zentralisieren, aber bitte kein Monopol

Das Abschlusspodium mit IT.NRW, KI-Bundesverband, Stadt Köln, einem Gutachter und PwC drehte sich um Fragmentierung und Zentralisierung. Der Landesbetrieb beklagte, um die vierzig IT-Dienstleister in NRW bekämen es nicht gebacken zusammenzuarbeiten, und ganz viele Projekte kämen nicht über Versuche hinaus. Köln forderte, der Föderalismus müsse lernen, zentral anzubieten; die Verantwortung für einen Reisepass lege man gern ab, wenn es gut laufe. Zugleich die Warnung: Einer für Alle habe Dinge gebracht, die man nicht einsetzen konnte, aber es sei ein Monopol gewesen. Konsensbegriff des Tages: Ökosystem. Konsensappell: Machen, macht mal.

Was Verwaltungen daraus mitnehmen können

1. Tokenkosten sind das dominierende Argument, auch bei Großstädten. Ein Kostendeckel gehört in jede Anforderungsliste.
2. Der erste Vorgang sollte klein und vollständig sein, nicht groß und halb.
3. Human in the Loop ist keine Sicherheitsmaßnahme, sondern eine Anforderung an Zeit, Befähigung und Ablehnungsrecht.
4. Validierung vor Modellwahl: Woher weiß ich, dass das Ergebnis richtig ist?
5. Der Beschaffungsweg ist das eigentliche Nadelöhr; Rahmenverträge und Genossenschaften sind Antworten darauf.