Ist unser KI-Assistent ein Hochrisikosystem? Die KI-Verordnung für Verwaltungen

Die Frage wird in jeder zweiten Sitzung gestellt, und sie hat zwei Antworten: eine für den Assistenten, mit dem Beschäftigte Texte schreiben, und eine für das System, das an einer Leistungsentscheidung mitwirkt. Nur das zweite ist Hochrisiko.

Die vier Rollen, und welche Sie haben

Die Verordnung verteilt Pflichten nach Rolle. Für Verwaltungen sind zwei wichtig:

Rolle	Wann Sie das sind	Kernpflichten
Betreiber (Art. 26)	Sie setzen ein System ein, das jemand anders anbietet	Einsatz nach Gebrauchsanweisung, menschliche Aufsicht durch befähigte Personen, Protokolle aufbewahren, Beschäftigtenvertretung informieren, betroffene Personen informieren
Anbieter (Art. 16)	Sie stellen ein System unter eigenem Namen bereit, ändern seinen Zweck oder verändern es wesentlich	Risikomanagement, Datenqualität, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung, Registrierung

Die Grenze ist praktisch relevant: Wer einen eingekauften Assistenten mit eigenem Namen, eigener Wissensbasis und eigenem Zweck ausrollt, kann in die Anbieterrolle rutschen. Das sollte vor der Beschaffung geklärt und im Vertrag festgehalten werden.

Wann ein System Hochrisiko ist

Maßgeblich ist Art. 6 Abs. 2 zusammen mit Anhang III. Für Verwaltungen sind vor allem einschlägig:

Anhang III	Bereich	Beispiel aus der Kommune
Nr. 5 Buchst. a	Bewertung des Anspruchs auf grundlegende öffentliche Leistungen, deren Gewährung, Kürzung, Widerruf	Anspruchsprüfung Wohngeld, Sozialhilfe, Eingliederungshilfe
Nr. 5 Buchst. b	Bonitätsbewertung natürlicher Personen	Prüfung der Leistungsfähigkeit bei Stundung
Nr. 5 Buchst. d	Bewertung und Einstufung von Notrufen, Priorisierung von Einsätzen	Leitstelle, Rettungsdienst
Nr. 4	Beschäftigung: Auswahl, Beförderung, Kündigung, Aufgabenzuweisung	Bewerbermanagement mit Vorauswahl
Nr. 8 Buchst. a	Unterstützung von Justizbehörden bei der Rechtsauslegung und Sachverhaltsermittlung	nicht kommunal, aber für Rechtsämter ein Signal

Nicht in Anhang III steht, was den Alltag der meisten Häuser ausmacht: Texte entwerfen, Sitzungen zusammenfassen, Posteingang sortieren, in Dokumenten suchen, Übersetzungen. Diese Anwendungen sind keine Hochrisikosysteme.

Art. 6 Abs. 3 enthält zudem eine Ausnahme: Ein System, das nur eine eng begrenzte Verfahrensaufgabe erfüllt, das Ergebnis einer menschlichen Tätigkeit lediglich verbessert oder Entscheidungsmuster vorbereitet, ohne die menschliche Bewertung zu ersetzen, gilt trotz Anhang III nicht als Hochrisiko. Wer sich darauf stützt, muss das dokumentieren. Eine Vollständigkeitsprüfung mit Nachforderungsliste ist genau dieser Fall, eine Anspruchsprüfung mit Entscheidungsvorschlag eher nicht.

Die Termine, mit dem Digital Omnibus

Die Digital-Omnibus-Verordnung (EU) 2026/1744 vom 8. Juli 2026, im Amtsblatt veröffentlicht am 24. Juli 2026 und am 27. Juli 2026 in Kraft getreten, hat die Termine für Hochrisikosysteme verschoben. Alles andere bleibt.

Datum	Was gilt
2. Februar 2025	Verbotene Praktiken (Art. 5) und KI-Kompetenzpflicht (Art. 4)
2. August 2025	Pflichten für KI-Modelle mit allgemeinem Verwendungszweck, Governance, Sanktionen
2. August 2026	Transparenzpflichten (Art. 50): Kennzeichnung von Interaktion, synthetischen Inhalten, Emotionserkennung
2. Dezember 2027	Pflichten für eigenständige Hochrisikosysteme nach Anhang III (vorher: 2. August 2026)
2. August 2028	Hochrisiko-KI in regulierten Produkten nach Anhang I

Für eine Kommune heißt das: Der Zeitdruck liegt 2026 nicht bei Anhang III, sondern bei zwei Pflichten, die viele übersehen.

Die zwei Pflichten, die heute schon gelten

KI-Kompetenz (Art. 4). Anbieter und Betreiber müssen sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt, bemessen nach technischen Kenntnissen, Erfahrung, Ausbildung und Einsatzkontext. Es gibt keine vorgeschriebene Stundenzahl und kein Zertifikat. Was in Prüfungen trägt: eine dokumentierte Schulung vor der Freischaltung, eine Handreichung mit Grenzen des Systems, eine benannte Ansprechperson. Diese Pflicht gilt für den harmlosen Textassistenten genauso wie für das Fachsystem.

Transparenz (Art. 50). Wer mit einem KI-System interagiert, muss das erfahren, sofern es nicht offensichtlich ist. Für einen Bürgerchatbot auf der Website heißt das: ein Hinweis, bevor die erste Antwort kommt. Für KI-erzeugte oder bearbeitete Bilder, Audio- und Videoinhalte gilt eine Kennzeichnungspflicht in maschinenlesbarer Form.

Der Fehlschluss, der teuer wird

Ein System kann vollständig KI-VO-konform sein und trotzdem in einem rechtswidrigen Verfahren eingesetzt werden. Die KI-Verordnung ist Produktrecht. Das Verwaltungsverfahrensrecht gilt daneben unverändert weiter: § 35a VwVfG begrenzt die Vollautomatisierung, § 24 VwVfG verlangt Amtsermittlung, Art. 22 DSGVO schützt vor rein automatisierten Entscheidungen. Wer nur die Konformitätserklärung des Anbieters prüft, hat die kleinere Hälfte geprüft. Die Systematik dazu steht unter Vollautomatisierung.

Was eine Verwaltung 2026 tun sollte

1. Bestandsliste. Welche KI-Systeme laufen im Haus, wer ist Anbieter, wer Betreiber, welcher Zweck? Auch Schatten-KI erfassen, siehe Reifegrad.
2. Einstufung je System. Anhang III einschlägig? Wenn ja, greift Art. 6 Abs. 3? Ergebnis mit Begründung dokumentieren.
3. KI-Kompetenz nachweisen. Schulungskonzept, Teilnahmeliste, Handreichung.
4. Transparenz umsetzen. Hinweise an allen Stellen mit Außenkontakt.
5. Verträge prüfen. Wer trägt die Anbieterrolle, wer liefert die technische Dokumentation, wer haftet bei Einstufungsfehlern?
6. Zeit nutzen. Die verschobene Frist ist kein Freibrief, sondern die Gelegenheit, Protokollierung, menschliche Aufsicht und Fundstellen jetzt einzubauen, statt sie 2027 nachzurüsten.

Für Fragen zur nationalen Umsetzung ist der KI-Servicedesk der Bundesnetzagentur die Anlaufstelle.