Künstliche Intelligenz (KI) verändert den Arbeitsalltag in vielen Verwaltungen: KI-gestützte Prozesse in Kommunalverwaltungen führen zu mehr Effizienz, erhöhen die Ergebnisqualität und stärken die Nähe der Verwaltung zu Bürger:innen. Verwaltungsmitarbeitende schätzen, dass durchschnittlich 38 Prozent ihrer Tätigkeiten automatisiert werden können (Barometer Digitale Verwaltung 2024).

Ein besonderer Fokus liegt nach wie vor auf der Nutzung von sogenannten LLM-Tools. Sie gehören zur Kategorie der „Generativen KI“ und können beispielsweise Texte erstellen, Recherchen durchführen oder Bilder und Videos erzeugen. Das wohl bekannteste Beispiel für ein LLM-Tool ist ChatGPT. Die Veröffentlichung von ChatGPT im Jahr 2023 hat die Potenziale von KI sichtbarer denn je gemacht.

Anfang 2025 gaben 43 Prozent der öffentlich Beschäftigten an, frei verfügbare generative KI-Tools zu nutzen – nur 26 Prozent verwenden von den 26 Prozent verwenden von den Verwaltungen bereitgestellte Tools (ThemenRadar 2025). Als aktualisierte Ausgabe der Guideline aus dem Jahr 2024 konzentriert sich das vorliegende Papier deshalb weiterhin auf einen verantwortungsvollen und effizienten Einsatz von LLM-Tools innerhalb von Kommunalverwaltungen. Es berücksichtigt die Entwicklungen eines sich stetig verändernden Marktes, schärft das Verständnis für die Mehrwerte von LLM-Tools und sensibilisiert gleichzeitig für deren Chancen und Risiken.

LLM-Tools wie ChatGPT sind KI-Systeme, die auf ein KI-Sprachmodell – auf Englisch Large Language Model (LLM) – zugreifen und dieses nutzbar machen. Gerade wenn es um die Verarbeitung von Texten geht, werden LLM-Tools häufig als KI-basierter Chatbot angeboten. Um Kommunalverwaltungen bei der Anwendung von LLM-Tools Orientierung zu geben, ordnet das vorliegende Papier zunächst die relevanten Begrifflichkeiten ein. Darauf aufbauend werden Empfehlungen ausgesprochen, welche Regelungen für einen verantwortungsvollen Einsatz von LLM-Tools innerhalb einer Kommunalverwaltung getroffen werden sollten.

Abschließend werden praxisnahe Anwendungsfälle vorgestellt. Gegenüber der Erstausgabe finden sich hier aktualisierte Use Cases entsprechend ihrer Entwicklung im vergangenen Jahr.

Wir danken dem VITAKO Mitglied PROSOZ Herten GmbH für die fachkundige Unterstützung bei der inhaltlichen Erarbeitung des vorliegenden Papiers.

Grundsätzlich ist zwischen einem KI-Modell und einem KI-System zu unterscheiden. Dies ist nicht zuletzt aufgrund des AI Acts relevant, welcher an beide unterschiedliche Anforderungen stellt. Die EU-Verordnung enthält zum Begriff „KI-System“ sogar eine Legaldefinition in Art. 3 Ziff. 1. Zudem ist die Unterscheidung zwischen KI-System und KI-Modell insbesondere im Umgang mit KI-basierten Chatbots wichtig und hieran auch besonders gut nachvollziehbar.

Für mehr Klarheit:

1. KI-Modelle sind das eigentliche mathematische oder statistische Konstrukt, das aus der Datenverarbeitung und dem Training entsteht. Sie enthalten gelernte Parameter und Muster, die durch den Trainingsprozess auf der Grundlage von Daten herausgearbeitet worden sind. KI-Modelle verfügen oft über eine hohe Anzahl an Rechenparametern. In Verbindung mit weitreichenden Trainingsdatensätzen tragen diese dazu bei, das Modell für verschiedene Aufgaben zu trainieren. So können Prognosen getroffen oder andere spezifische Aufgaben gelöst werden, für das es trainiert wurde – zum Beispiel die Erkennung von Menschen an einer Ampel oder Plausibilitätsprüfungen in komplexen Verwaltungsservices. Unsere Definition von KI-Modell korrespondiert daher mit dem im AI Act genannten „KI- Modell mit allgemeinem Verwendungszweck“ (Art. 3, Ziff. 63), welches KI-Modelle beschreibt, die anhand der Trainingsdaten für verschiedene Aufgaben trainiert und ver- wendet werden können.

2. KI-Systeme sind laut AI Act “ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können” (Art. 3, Ziff. 1). Dies umfasst die ganze „Maschinerie“, also die technische Infrastruktur, die es braucht, um in der Praxis mit einem KI-Modell arbeiten und dieses nutzen zu können. Gemeint sind beispielsweise Benutzeroberflächen oder Kommunikationsprotokolle. Dabei ist zu beachten, dass ein KI-System auch auf mehrere KI-Modelle zugreifen kann, um den bestmöglichen Output zu erzeugen.

Beispiele für KI-Modelle
GPT, PaLM, LaMDA, BERT, RoBERTa, Claude, OpenFlamingo, Mixtral, Luminous, OpenHermes, Llama1

Beispiele für KI-Systeme
Microsoft Copilot, Google Gemini, ChatGPT, DALL·E, Midjourney

3. Multimodale KI bezeichnet Künstliche Intelligenz, die verschiedene Arten von Daten (Modalitäten, zum Beispiel Text, Sprache, Bilder, Audio oder Video) gemeinsam verarbeiten, interpretieren und verknüpfen kann. Dadurch versteht sie komplexere Zusammenhänge und kann Aufgaben lösen, die mehrere „Sinneskanäle“ erfordern. Multimodale KI kann beispielsweise ein Foto analysieren, darin abgebildete Objekte erkennen und in natürlicher Sprache beschreiben.

4. KI-Agenten bilden ein künstliches System, das auf Grundlage von Wahrnehmungen oder Eingaben autonom Entscheidungen trifft und Handlungen ausführt, um ein bestimmtes Ziel zu erreichen. Es kann mit seiner Umgebung interagieren, Informationen verarbeiten, Pläne entwickeln und selbstständig Aktionen durchführen.

Abgrenzungen von KI-Begriffen: Die Unterscheidung zwischen KI-Agenten und multimodaler KI besteht darin, dass eine multimodale KI verschiedene Datenarten versteht und kombiniert, aber nicht automatisch handelt. Ein KI-Agent dagegen ist zielgerichtet handlungsfähig, um Aufgaben zu erfüllen – er kann auch ohne multimodale Fähigkeiten existieren, wird aber durch multimodale KI leistungsfähiger. Beispielsweise kann ein Reiseplanungs-KI-Agent, selbstständig Flüge buchen, Hotelbewertungen analysieren und eine passende Reiseroute vorschlagen. Hat er zusätzlich multimodale Fähigkeiten, könnte er Fotos von Hotels auswerten, um die Auswahl zu verbessern.

Dieses Papier konzentriert sich auf Large Language Modelle (LLMs). Das sind sprachbasierte KI-Modelle. KI-Systeme, die auf LLMs zurückgreifen und damit sprachbasiert arbeiten, werden auch als LLM-Tool bezeichnet. In der Praxis kommt es darauf an, Mitarbeitenden einer Kommunalverwaltung das passende LLM-Tool zur Verfügung zu stellen. Dabei gibt es einige Unterscheidungsmerkmale:

1. Zugriff auf verschiedene LLMs: Es gibt viele KI-Systeme, die auf nur ein einzelnes KI-Modell zurückgreifen. Häufig sind das kostenfreie KI-Systeme. Andere KI-Systeme greifen auf unterschiedliche KI-Modelle zurück. Hier wird es den Nutzenden oft freigestellt, auf Basis von welchem KI-Modell ein System arbeiten soll. Das bedeutet: Ein LLM-Tool kann, muss aber nicht auf mehrere LLMs zurückgreifen

2. Proprietäre versus quelloffene KI-Systeme: Es gibt geschlossene, sogenannte proprietäre KI-Systeme sowie quelloffene KI-Systeme. Die letztgenannten Open-Source-Systeme bieten Vorteile mit Blick auf Datenschutz, Transparenz und Sicherheit, erfordern aber auch hohe Infrastrukturvoraussetzungen. Das bedeutet: Ein LLM-Tool kann, muss aber nicht Open Source sein.

3. Customizing: Es gibt KI-Systeme, die „betriebsfertig“ eingekauft werden können. Sie laufen in der Regel webbasiert und können niederschwellig genutzt werden. Änderungen am System sind hier nicht möglich. Auf der anderen Seite gibt es KI-Systeme, die für die individuelle Nutzung einer Organisation angepasst werden können, sogenanntes Customizing. Dabei handelt es sich um KI-Systeme, die zwar die gängigen KI-Modelle nutzen, aber beispielsweise einen Datenrückfluss ausschließen, auf eigenen Servern betrieben werden oder zusätzliche Services wie die automatische Anonymisierung oder Pseudonymisierung von Eingaben enthalten. Beispiele für sprachbasierte und individualisierte KI-Systeme im kommunalen Kontext sind etwa LLMoin der Freien und Hansestadt Hamburg, MUCGPT der Landeshauptstadt München oder NetteKI der Stadt Nettetal.

Für die Beurteilung der rechtlichen Compliance-Vorschriften einzelner KI-Anwendungen ist nach dem AI Act darauf zu achten, welche Rolle beim Gebrauch von KI eingenommen wird. So gibt es verschiedene rechtliche Anforderungen, unter anderem für „Anbieter“ und „Betreiber“. Nach Artikel 3 bezeichnet Anbieter „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich“. Ein Betreiber von KI ist eine Organisation mit den identischen Rechtsformen der Anbieter, „die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet“. Darüber hinaus gibt es auch weitere Rollen, wie etwa „Einführer“ oder „Händler“.

Die letztendlichen rechtlichen Verpflichtungen orientieren sich jedoch nicht nur an der Rolle, sondern auch an dem fachbezogenen Anwendungsbereich der KI (zum Beispiel öffentliche Leistungen), dem Grad der Letztverantwortung des Menschen sowie der Frage, welche KI-Technologie (zum Beispiel KI-Modell mit allgemeinem Verwendungszweck) benutzt wird. Somit bleibt die finale Einschätzung hinsichtlich der rechtlichen Anforderungen für jede KI-Anwendung individuell zu prüfen. Die KGSt hat hierzu bereits ein FAQ erstellt, welches auf die verschiedenen Anwendungsbereiche und die Pflichten von Entwicklern und Betreibern von KI eingeht (2).

(1) Aufgrund der kurzen technologischen Entwicklungszyklen nehmen wir in der vorliegenden Guide Abstand von einem numerischen Verweis auf das jeweils aktuelle KI-Modell.
(2) Die FAQ der KGSt zum EU AI Act sind zu finden unter https://www.kgst.de/faq-eu-ai-act.

Der Einsatz von LLM-Tools im Verwaltungsalltag verbessert die Effizienz und Ergebnisqualität von Verwaltungsprozessen. Um eine verantwortungsbewusste Verwendung von LLM-Tools im Arbeitsalltag sicherzustellen, sollten grundsätzliche Rahmenbedingungen innerhalb einer Kommunalverwaltung zentral geregelt werden. Als Instrument können etwa Dienstanweisungen oder allgemeine Handlungsempfehlungen formuliert werden. Sie geben Sicherheit und Klarheit im Umgang mit LLM-Tools. Die Verwaltung stellt darüber sicher, dass Mitarbeitende sensibilisiert sind, wie sie beispielsweise personenbezogene Daten nutzen können. Mitarbeitende wiederum haben eine klare Orientierung für eine routinierte Anwendung von LLM-Tools und erhalten einen „Experimentierraum“, der es ihnen ermöglicht, Kompetenzen im Kontext der KI-Anwendung zu erwerben.

Grundsätzlich gilt allerdings: Durch die rasche Entwicklung von KI-Sprachmodellen sollten Regelungen fortlaufend evaluiert, erweitert und bei Bedarf ergänzt werden, um einen langfristigen Handlungsrahmen zu gewährleisten. Hier findest Du eine Liste zentraler Aspekte, die als Rahmenbedingung für den verantwortungsvollen Einsatz von LLM-Tools kommuniziert und reglementiert werden sollten:

Verwendungszweck und Verwendungsausschluss

Die Anwendung von LLM-Tools kann Prozesse unterstützen sowie die Effizienz und Produktivität steigern. Der Verwendungszweck reicht dabei von der Texterstellung bis zur Ideengenerierung. Vom spezifischen Verwendungszweck ist allerdings auch abhängig, welche LLM-Tools rechtmäßig eingesetzt werden können. Geregelt werden sollte:

• Der Verwendungszweck: Die Organisation sollte konkrete Nutzungsszenarien kurz beschreiben, siehe auch nachfolgende Nutzungsszenarien.
• Der Verwendungsausschluss: Ebenso sollte festgelegt werden, welche LLM-Tools generell nicht verwendet werden dürfen. Hingewiesen werden sollte schon an dieser Stelle auf weitere Einschränkungen, zum Beispiel zur Wahrung des Datenschutzes. Diese sollte die Organisation im Folgenden genauer reglementieren. Einige Organisationen schließen auch das Mitschneiden von Gesprächen wie Telefonaten oder Videokonferenzen durch KI-Tools aus.

Datenschutz & Amtsgeheimnis

Sobald öffentliche LLM-Tools verwendet werden, werden die eingegebenen und ausgegebenen Daten nicht auf eigenen Servern gespeichert. Stattdessen fließen sie an das öffentliche System zurück. Zur Verwendung von öffentlichen – sprich: externen – LLM-Tools sollte daher geregelt werden:

• Es dürften keine Amtsgeheimnisse oder personenbezogenen Daten in ein öffentliches LLM-Tool eingegeben werden.
• Alle geltenden Datenschutzbestimmungen und -gesetze müssen eingehalten werden.

Mitarbeitende sollten auch beispielhaft darüber informiert werden, was personenbezogene Daten oder Amtsgeheimnisse sind und welche Konsequenzen eine entsprechende Verletzung haben kann.

Davon ausgenommen sind in bestimmten Fällen LLM-Tools, die individuell für die nutzende Organisation angepasst (customized) wurden. Diese speichern Daten auf eigenen Servern und/oder nehmen eine Anonymisierung und Pseudonymisierung vor. Regelungen dazu sind gesondert und individuell von der Organisation zu formulieren und mit dem örtlichen Datenschutz abzustimmen.

Datenqualität

Die Qualität von Inhalten, die mithilfe eines LLM-Tools erstellt werden, ist stark von der Qualität der zugrunde liegenden Trainingsdaten abhängig. Dies ist bei der Nutzung von öffentlichen LLM-Tools wie ChatGPT nicht transparent. Tools mit Webzugriff liefern zunehmend verlinkte Quellen, Belegstellen oder sogar strukturierte Literaturverzeichnisse – deren Seriosität ist genauso wenig garantiert wie die richtige Abwägung zwischen verschiedenen Quellen. Bei einigen lizenzierten LLM-Tools besteht zudem die Möglichkeit eigene Wissensdatenbanken anzulegen, beispielsweise mit internen Regelungen. In diesem Fall stellt die Organisation dem KI-Sprachmodell eine gezielte Datenbasis zur Verfügung. Folgende Regelungen sollten mit Blick auf die Datenqualität getroffen werden:

• Ausgegebene Inhalte sind stets auf Plausibilität und formale wie inhaltliche Richtigkeit zu prüfen. Dafür ist teils weiterer Rechercheaufwand notwendig, damit Nutzende die Faktenlage kennen und in der Lage sind, die ausgegebenen Inhalte dahingehend zu bewerten.
• Bei der Anlage eigener Wissensdatenbanken ist darauf zu achten, dass die Daten aktuell, korrekt und repräsentativ sind.

Urheberrecht

LLM-Tools erstellen keine eigenen, originären Inhalte. Stattdessen greifen sie auf Daten zurück, die aus öffentlich zugänglichen Werken und Eingaben von Dritten gesammelt und mithilfe von maschinellem Lernen verarbeitet wurden. Aufgrund dieser Funktionsweise besteht das Risiko, dass LLM-Tools Texte generieren, die wesentliche Inhalte eines anderen Texts enthalten und es so unwissentlich zu Urheberrechtsverletzungen kommt. Tools wie ChatGPT geben zwar Links und Quellen an, wenn bei der Generierung das Web durchsucht wird, jedoch sind auch hier Verstöße gegen das Urheberrecht nicht auszuschließen. Parallel dazu werden Ausgaben weiterhin aus den Trainingsdaten heraus generiert, das oben beschriebene Problem bleibt. Daher sollten folgende Regelungen getroffen werden:

• Mitarbeitende werden für das Risiko einer Urheberrechtsverletzung sensibilisiert.
• Das Risiko einer unwissentlichen Urheberrechtsverletzung ist im jeweiligen Einsatzszenario von den Nutzenden zu bewerten. Unter Umständen schließt sich deswegen die Nutzung eines LLM aus.
• Generierte Texte sollten auf Urheberrechtsverletzungen geprüft werden, beispielsweise durch Plagiat-Tools. Aber auch diese bieten keine absolute Garantie.

Transparenz

Werden Ergebnisse aus LLM-Tools verwendet, muss dies transparent gemacht werden. Dies gilt insbesondere für Inhalte, die eine Außenwirkung haben. Beispiele sind Schriftstücke an Bürger:innen, Artikel auf den kommunalen Internetportalen oder E-Mails. Dazu sollten folgende Punkte geregelt werden:

• Jeder Inhalt, der unter Hinzuziehung von LLM-Tools erstellt worden ist, ist als solcher kenntlich zu machen. Eine Formulierungshilfe: „Die Inhalte dieses Textes wurden mit Unterstützung von Künstlicher Intelligenz erstellt.“ Dies sollte über Fußnoten oder in der Signatur kenntlich gemacht werden.
• Es muss nach außen nicht kenntlich gemacht werden, welches konkrete KI-Sprachmodell oder welches LLM- Tool verwendet worden ist.
• Der Grundsatz der Transparenz gilt nicht, wenn durch ein LLM-Tool kein Inhalt produziert wurde, sondern das LLM-Tool lediglich Korrekturen oder Sprachanpassungen vorgenommen hat. Beispiele sind Rechtschreibprüfungen oder Übersetzungen.

Ethik und Verantwortung

Ergebnisse von LLM-Tools müssen stets bewusst und verantwortungsvoll verwendet werden. Ethische Aspekte – zum Beispiel mit Blick auf Antidiskriminierung und Gleichstellung – spielen eine entscheidende Rolle. Sämtliche Ergebnisse eines LLM-Tools müssen daher auf ethische Aspekte geprüft werden. Konkret sollten folgende Regelungen getroffen werden:

• Ergebnisse von LLM-Tools müssen die Menschenwürde, Menschenrechte und demokratische Werte wider- spiegeln. Mitarbeitende sind angehalten, Ergebnisse von LLM-Tools auf den Einklang mit diesen Werten zu prüfen.
• Ausgegebene Daten und Informationen von LLM-Tools dürfen keine Menschengruppen diskriminieren oder Vorurteile erzeugen. Mitarbeitende sind angehalten, Ergebnisse von LLM-Tools mit Blick auf Antidiskriminierung und Gleichstellungsaspekte zu prüfen.
• Ergebnisse von LLM-Tools müssen gesetzlichen Regelungen entsprechen. Mitarbeitende sind angehalten, Ergebnisse von LLM-Tools mit Blick auf geltende Rechtsprechung zu prüfen.
• Kommunen müssen die Datenqualität aktiv gestalten. Das bedeutet, bereits bei der Datenerhebung systematisch auf Repräsentativität und Verzerrungsfreiheit zu achten. Viele durch KI-Systeme reproduzierte Vorurteile entstehen durch unvollständige oder einseitige Datensätze, zum Beispiel durch Unterrepräsentation ländlicher Räume oder bestimmter Bevölkerungsgruppen. Kommunen sollten bei eigenen Erhebungen (etwa Bürgerbeteiligungen oder Verkehrsanalysen) gezielt auf ausgewogene Stichproben achten.

Qualifizierung

Die Entwicklung von KI-Sprachmodellen schreitet rasch voran. Heute ist nicht abschätzbar, welche Möglichkeiten LLM-Tools bereits in wenigen Jahren bieten werden. Es ist daher wichtig, dass Mitarbeitende im Umgang mit LLM-Tools qualifiziert werden. Mögliche Qualifizierungsthemen sind: Einsatzszenarien von LLM Tools, Sensibilisierung mit Blick auf ethische Aspekte, Verfassen „guter“ Prompts. Dazu sollten folgende Punkte festgelegt werden:

• Die Organisation selbst muss darauf achten, dass ein regelmäßiges Qualifizierungsprogramm zur Stärkung der Kompetenzen der Mitarbeitenden im Umgang mit LLM-Tools bereitgestellt wird. Dies kann zum Beispiel gezielt über die Personalentwicklung erfolgen.
• Qualifizierungsprogramme sollten verpflichtend alle Mitarbeitenden durchlaufen.
• Auch der AI Act sieht Schulungen für Mitarbeitende, die KI verwenden, vor. Für die Anforderungen der Schulungen hat die EU-Kommission eine Leitlinie für KI-Kompetenzen erstellt (3).

Grundsatz der Letztverantwortung beim Menschen

Es muss daher klar geregelt werden, dass die Letztverantwortung von Ergebnissen, die (teilweise) durch LLM-Tools produziert worden sind, beim Menschen liegt. Daher sollten folgende Punkte geregelt werden:

• Outputs von LLM-Tools dürfen nicht unmittelbar als Endergebnis verwendet werden, sondern müssen von Mitarbeitenden mit Blick auf Richtigkeit und ethische Aspekte kritisch geprüft werden.
• Outputs von LLM-Tools sollten mit dem eigenen fachlichen Know-how gespiegelt werden.

(3) https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy

Inwiefern LLM-Tools in der Verwaltung sicher und rechtmäßig eingesetzt werden können, hängt von zwei Variablen ab:

1. Das Nutzungsszenario: Ist etwa die Eingabe personenbezogener Daten notwendig oder nicht? Dies ist im Einzelfall zu bewerten.

2. Das LLM-Tool: Welches LLM-Tool soll genutzt werden? Generell ist zwischen dem Einsatz eines öffentlichen LLM-Tools wie ChatGPT oder einer Variante, die für die Organisation oder den Nutzenden angepasst – customized – wurde, zu unterscheiden. Letztere bieten beispielsweise die Möglichkeit, Daten auf eigenen Servern zu speichern oder mit Pseudonymisierungen zu arbeiten. Viele Organisationen haben ein solches LLM-Tool bereits im Einsatz oder planen eine entsprechende Einführung.

Das Stufenmodell

Zu unterscheiden sind zwei Schutzstufen im Umgang mit sensiblen Daten. Diese sind allerdings nicht zu verwechseln mit den Schutzbedarfsstufen des Standard Datenschutzmodells.

Schutzstufe 1
Du willst keine Amts-, Dienst- oder Geschäftsgeheimnisse und keine personenbezogenen Daten verwenden. Hier hast Du die Möglichkeit, Erfahrungen zu sammeln und ersten praktischen Nutzen zu generieren. Du bist in der Auswahl der Tools in Deiner Organisation frei.

Beachte dabei bitte die folgenden Grundsätze:

• KI-Systeme dienen nur Deiner Unterstützung. Sie ersetzen nicht die menschliche Interaktion oder Dein Fachwissen.
• Richte keinen Schaden an und prüfe Ergebnisse. Du bleibst für das Ergebnis verantwortlich und entscheidest.
• Handle transparent und mache deutlich, dass Du KI-Tools verwendet hast. Beachte das Urheberrecht.
• Teile Deine Erfahrungen, damit auch andere von Deinen Erlebnissen profitieren können.
• Beachte neben den Empfehlungen in dieser Guideline auch die Vorgaben deines hauseigenen IT-Bereichs.

Schutzstufe 2
Du willst personenbezogene Daten oder sogar Amts-, Dienst- oder Geschäftsgeheimnisse verarbeiten? Hier darfst Du nur freigegebene Dienste Deiner Organisation verwenden, die einen Datenrückfluss an den Tool-Betreiber ausschließen und deren Betrieb als datenschutzkonform und sicher eingestuft ist. Sonst gelten die oben
genannten Grundsätze auch hier. Gegebenenfalls schließt Deine Organisation in diesen Fällen die Nutzung eines LLM-Tools auch gänzlich aus.

Spätestens seit der Veröffentlichung von ChatGPT im November 2022 ist die Texterstellung der bekannteste Anwendungsfall von LLMs. Dabei werden neue Texte nicht nur per Frage-Antwort-Möglichkeit im Chatbot generiert. Es können auch ganze Texte einer KI zugeführt und daraufhin verarbeitet und ausgewertet werden.

Diese Anwendungsfälle sind möglich:

• Neue Texte generieren, zum Beispiel Pressemeldungen oder E-Mails
• Bestehende Texte optimieren und Feedback geben
• Texte aus Eingaben oder hochgeladenen PDFs zusammenfassen, zum Beispiel für Entscheidungsvorlagen oder Zusammenfassungen einer Akte
• Texte umstellen, zum Beispiel bei Mustervorlagen für Bescheide
• Texte in einfache Sprache übersetzen
• Tabellen oder Mindmaps in Texte umwandeln
• Interpretationshilfen und Einordnungen zu umfangreichen Dokumenten erstellen, zum Beispiel für öffentliche Ratsvorlagen oder umfangreiche Akten
• Textcodes erstellen, zum Beispiel für Programmierungen
• Bilder erstellen, zum Beispiel zur Illustration in Broschüren

Und im (fiktiven) Verwaltungsalltag?

> In Stadt Musterstadt wüten die Eichenprozessionsspinner. Bäume im Stadtpark sind befallen und verwaltungsintern wird bereits die Beseitigung der Raupen­ nester geplant. Als erste Maßnahme wurde ein Begehungsverbot der Parkanlage umgesetzt. Die spärlich aufgestellten Schilder halten jedoch nicht alle Parkbe­ suchenden ab, wie Alexander Krause im Grünflächenamt zu Ohren gekommen ist. Mit einem LLM-Tool lässt Alexander nun Texte für neue Hinweisschilder erstellen. Er gibt den Ort, den Grund für die Sperrung und die vermutlich benötigte Zeit der Baumarbeiten in das Tool ein. Da er selbst, wie die anderen Mitarbeitenden der Stadtverwaltung, keine Erfahrungen mit Formulierungen in einfacher Sprache hat, bittet er das LLM-Tool, dies bei dem erstellten Text zu berücksichtigen. Aufgrund der großen peruanischen Community in der Stadt bittet er darum, den Hinweis zusätzlich noch auf Spanisch auszugeben:

→ Prompt: Schreibe ein Hinweisschild für eine Parkanlage, in der ein Begehungsverbot wegen des Eichenprozessionsspinners gilt. Der Park soll die nächsten zwei Wochen gesperrt bleiben. Bitte gib mir das Schild in einfacher Sprache aus. Außerdem brauche ich eine Version auf Spanisch.

> Die generierten Texte scheinen Alexander bereits sehr brauchbar. Er merkt jedoch, dass einer der Hinweise nicht notwendig ist. Der Satz „Bitte beachten Sie die Schilder“ kann gestrichen werden. Seine berufliche Telefonnummer hat er dabei nicht in die Anweisungen an den Chatbot eingeben. Sie muss im finalen Text noch ergänzt werden. Diese Anpassungen führt Alexander in seinem Textverarbeitungsprogramm durch und lässt die Schilder daraufhin drucken.

Info: Fülle Prompts mit klaren Anweisungen und relevanten Informationen. Gib dabei alle Spezifikationen wie Format, Sprache und Sprachniveau des gewünschten Textes an.

> Alexander aus dem fiktiven Beispiel hat bereits sehr umsichtig gehandelt: Er hat es vermieden, personenbezogene oder persönliche Daten in den Prompt einzugeben. Für seinen Bedarf spielten auch urheberrechtliche Fragen keine Rolle. Gerade der leichte, KI-bedingte Zugang zu Formulierungen in einfacher Sprache war es, der ermöglichte, dass er seine Aufgabe effizient erledigen konnte.

Info: In jedem Fall solltest Du nach dem oben genannten Grundsatz handeln: Wo Du KI einsetzt, solltest Du das auch transparent machen!

Darauf solltest du achten

Neben ChatGPT, das in der Basisversion kostenlos ist, gibt es unzählige weitere LLM-Tools, mit denen Texte generativ erstellt werden können. KI-Texterstellung kann dabei – wie im Beispiel angedeutet – absolut unbedenklich sein. Je nach Anwendungsfall solltest Du jedoch darauf achten, keine personenbezogenen Daten in den Prompt einzugeben. Bei Texten, die einfach generiert werden und dabei bestenfalls keinen Bezug zu sensiblen Daten haben, scheint das einfach. Wenn Du jedoch Zusammenfassungen von bestehenden Texten erstellen willst oder die Tools bereitgestellte Dokumente durchsuchen und Inhalte daraus verwenden sollen, wird schnell der Rahmen von Schutzstufe 1 verlassen. Achte bei der Generierung von Texten auch darauf, dass das Ergebnis nicht im typischen Sprachduktus von KI-Systemen verhaftet ist. Formuliere erste Ergebnisse eigenständig um oder bitte die KI um Formulierungsalternativen.

Daten darzustellen, zu sortieren und (statistisch) auszuwerten gehört zum Standard jedes Tabellenkalkulationsprogramms. Komplizierter ist es hingegen, Tabellen aus schon verarbeiteten Daten zu generieren. KI-Anwendungen erlauben es, Tabellen etwa aus Texten, Mindmaps oder anderen digitalen Grafiken zu generieren und diese – eventuell in Kombination mit Use Case 1 – auszuwerten.

Diese Anwendungsfälle sind möglich:

• Tabellen generieren, zum Beispiel aus Texten, Mindmaps oder über (fiktive) Daten beziehungsweise Musterdatensätze
• Tabellen auswerten, zum Beispiel Auswertungen von Freitext-Feedbackfeldern oder Diagramme aus numerischen Daten generieren
• Projektpläne oder Gantt-Diagramme erstellen
• Prozesse aus Beschreibungen heraus grafisch definieren
• Präsentationen mit Bild- und Textelementen vorbereiten
• Textinhalte in Mindmaps, Infografiken, Dia- und Organigramme übertragen

Und im (fiktiven) Verwaltungsalltag?

> In der Bauaufsichtsbehörde der Stadt Musterstadt ist am Jahresende aufgefallen, dass die Sachbearbeitenden Nachbesserungen in einem nicht unerheblichen Teil der eingereichten Brandschutzkonzepte einfordern mussten. Svenja Schmitz hat nun die Aufgabe erhalten, dies zu überprüfen. Warum ist das so? Gibt es bestimmte Vorgaben, die regelmäßig unzureichend umgesetzt wurden?

Statt jedes Brandschutzkonzept einzeln durchzuarbeiten und Statistiken über Ablehnungsgründe zu führen, nutzt Svenja ein LLM-Tool. Dort lädt sie die Dateien aller abgelehnten Konzepte hoch und gibt über einen Prompt die Anweisung, dass nach Analyse und Verarbeitung der Dokumententexte eine tabellarische Auswertung erfolgen soll. Hierin sollen Auffälligkeiten und Ähnlichkeiten gegenüber einem Musterdokument, das vorab in das Tool eingespeist wurde, zusammengefasst werden:

→ Prompt: Vergleiche die Brandschutzkonzepte aus den PDF-Dateien mit der ersten hochgeladenen Datei, die als Muster betrachtet werden soll. Welche Elemente fehlen den einzelnen Konzepten gegenüber dem Muster? Bereite die Unterschiede möglichst knapp tabellarisch auf.

Info: Die Verarbeitung von Dokumenten unterliegt in manchen Anwendungen gewissen Einschränkungen. Das betrifft beispielsweise die Anzahl hochgeladener Dateien. Werde also kreativ und fasse Dateien vorab zusammen. Oder streiche Elemente, die für Dein Projekt nicht relevant sind.

> Die Aufgabe, die Svenja mithilfe der KI erledigt hat, erfordert die Verarbeitung personenbezogener Daten. In jedem Konzept werden sich die Namen von Antragsstellenden oder Bauherren finden lassen. Die Konzepte vorab zu bereinigen, würde die Effizienzgewinne allerdings zunichtemachen. Ihr Vorhaben ist nur dann umsetzbar, wenn ihr bereits freigegebene KI-Tools gemäß Schutzstufe 2 zur Verfügung stehen.

Darauf solltest du achten

Wenn Du LLM-Tools zur Textgenerierung nutzt, wirft das immer auch Fragen zum Datenschutz auf. Das gilt besonders im Verwaltungskontext – denn in vielen Tabellen, Übersichten und Grafiken werden personenbezogene Daten oder sogar Amts-, Dienst oder Geschäftsgeheimnisse verarbeitet. Hier solltest Du darauf achten, dass Dir dafür nach Schutzstufe 2 sichere Tools zur Verfügung stehen. Gleichzeitig ist es möglich, dass die aus Texten und Grafiken extrahierten Datenmengen weitaus größer sind als im Use Case 1. Alle Tool-Ergebnisse zu überprüfen kann zur Herausforderung werden. Dafür solltest Du ausreichend Zeit einplanen. Bei der Erstellung visuell ansprechender Präsentationen oder Grafiken solltest Du zudem Fragen des Urheberrechts beachten (siehe auch Use Case 4).

Ein LLM kann weit mehr als Texte und Tabellen zu generieren. Mithilfe von KI können auch anspruchsvolle Aufgaben mit komplexen Datensätzen bewältigt werden. Auf diese Weise kannst Du Dir selbst für mühsame Tätigkeiten, die eine hohe Konzentration erfordern, Unterstützung holen.

Diese Anwendungsfälle sind möglich:

• Große Datenmengen aus Tabellenkalkulationsprogrammen auswerten
• Kreuzbeziehungen zwischen Tabellen herstellen
• Plausibilitätsprüfungen vornehmen

Und im (fiktiven) Verwaltungsalltag?

> Marius Novák arbeitet beim Stadtmarketing der Stadt Musterstadt. In der mittelgroßen Stadt findet jedes Jahr im Juni ein großes Stadtfest statt, welches sich zunehmender Beliebtheit erfreut. Die Bürgermeisterin plant in diesem Jahr zusammen mit der Leitung des Stadtmarketings, das Stadtfest im regionalen Umfeld noch prominenter zu bewerben. Sie haben das Ziel, an dem Wochenende rund 1000 Besucher:innen mehr als im Vorjahr für einen Ausflug in die schöne Musterstadt zu begeistern.

Für Marius bedeutet das: Auch die Kosten für die Ausrichtung steigen. In der Regel sind die Sponsor:innen des Stadtfestes gesetzt und traditionell jedes Jahr wieder dabei. Denn auch diese wissen um die Popularität der Veranstaltung. Rund 70 Partner:innen und Sponsor:innen unterschiedlicher Größenordnung konnte er im Vorjahr gewinnen. Diese hat er damals in einer Sponsor:innenliste erfasst. Nun möchte er gezielt auf weitere Unternehmen im Stadtgebiet zugehen. Ihm liegt eine Liste mit allen in Frage kommenden Unternehmen vor. Enthalten sind auch diejenigen, die ohnehin unterstützt haben. Um sich das genaue Durchsehen und Abhaken zu ersparen und nicht nach der passenden Formel im Tabellenkalkulationsprogramm suchen zu müssen – was übrigens auch ein LLM-Tool erledigen könnte –, nutzt er das verwaltungsinterne LLM-Tool und gibt den Prompt auf der folgenden Seite ein.

> Marius schickt den Prompt ab, vergisst jedoch die Tabellen anzuhängen. Das LLM-Tool bittet ihn, dies nachzuholen. Kaum geschehen, gibt es eine Liste mit über 50 Unternehmen aus, die das Stadtfest bislang noch nicht unterstützt haben. Marius nimmt die weitere Recherche zu den Unternehmen nun selbst vor und plant, sie auf eine mögliche Kooperation anzusprechen. Marius hat noch einen recht leichten Use Case für die Auswertung von Daten mithilfe eines LLM-Tools gewählt. Der Anwendungsfall seiner Kollegin Marina Rossi ist etwas schwieriger. Sie verantwortet die Abfallentsorgung der Stadt Musterstadt und wählt einen freigegebenen multimodalen KI-Agenten, um Sammelrouten effizienter zu gestalten, Kosten zu senken und umweltfreundlichere Lösungen zu finden. Die stadtinterne Controlling-Stelle hat ihr ein umfangreiches Datenpaket bereitgestellt: Füllstände von Mülltonnen, GPS-Daten der Fahrzeuge, Recyclingstatistiken, Kostenberichte und Bürgerfeedback.

→ Prompt: Ich plane ein Stadtfest, welches von unterschiedlichen Sponsoren unterstützt wird. Mir liegt die Sponsorenliste des letzten Jahres vor (Tabelle namens „Sponsoren“). Außerdem liegt mir eine weitere Liste mit Unternehmen im Stadtgebiet vor (Tabelle namens „Unternehmen“). Bitte gleiche die Sponsorenliste mit dieser Liste ab und arbeite heraus, welche Unternehmen das Stadtfest bislang noch nicht unterstützt haben.

Statt diese Daten manuell zusammenzuführen und auszuwerten, setzt Marina nun den KI-Agenten ein. Hierfür gibt sie dem Agenten explizit mehrere Arbeitsschritte vor:

Schritt 1: Führe die Datenquellen zusammen.
Schritt 2: Prüfe, ob gemeldete Abfallmengen mit GPS-Daten übereinstimmen.
Schritt 3: Identifiziere Routen mit Auffälligkeiten und gleiche sie mit Bürgerfeedback ab.
Schritt 4: Erstelle Diagramme mit den problematischsten Routen sowie eine kurze Empfehlungsliste für effizientere Routen.

Der KI-Agent kann nun unterschiedliche Dateiformate (Tabellen, Sensor-Feeds, Textfeedback) automatisch einlesen, strukturieren und in einer gemeinsamen Übersicht zusammenführen. Zusätzlich prüft der Agent zum Beispiel, ob gemeldete Abfallmengen mit den GPS-Daten der Sammelrouten übereinstimmen und ob sich Auffälligkeiten mit Bürgerbeschwerden decken. Zudem erstellt er automatisch Diagramme, die problematische Sammelrouten visuell hervorheben und schlägt effizientere Routen vor.

Marina prüft die von der KI vorgeschlagenen Lösungsansätze nochmals explizit nach, um sicherzugehen, dass keine Fehler vorliegen. Denn automatische Visualisierungen erleichtern zwar die Bewertung, ersetzen aber keine fachliche Validierung.

Info: Je komplexer Deine Datenbestände und Auswertungsbedarfe, desto präziser sollten die Prompts sein. Prompts für KI-Agenten benötigen eine klare Zieldefinition, einzelne Arbeitsschritte, relevante Rahmenbedingungen (zum Beispiel Nutzung ausschließlich bereitgestellter Daten) sowie das gewünschte Ausgabeformat.

Darauf solltest du achten

LLM-Tools können die Arbeit mit komplexen Tabellen und großen Datenbeständen unterstützen, doch zugleich steigt der Anspruch an Dich als Nutzer:in.

• Wenn Du Dich im Rahmen der Schutzstufe 1 bewegen möchtest, solltest Du gerade bei großen Datenbeständen sicherstellen, dass keine personenbezogenen Daten enthalten sind. Diese sind nicht immer leicht zu identifizieren. Beispielsweise fallen auch bereits Adressen ohne Namen darunter. Marius Novák und Marina Rossi hätten in ihren Anwendungsfällen daher kein öffentliches LLM-Tool einsetzen dürfen. Das von ihnen gewählte interne LLM-Tool muss für die Nutzung in dieser Form durch die Organisation freigegeben sein. Auch Anonymisierungen, wie es einige LLM-Tools im Customizing anbieten, sind im Zweifel nicht sicher genug. Dies ist im Einzelfall zu prüfen.
• Je komplexer die Datenbestände, desto schwieriger wird es, die Ergebnisse des LLM-Tools zu überprüfen. Hier solltest Du eine Risikoabwägung vornehmen: Welche Tragweite hätten fehlerhaft ausgegebene Daten durch das LLM-Tool? Da Du letztlich die Verantwortung trägst, solltest Du sorgsam abwägen, ob Du gegebenenfalls doch herkömmliche Wege der Datenauswertung mit speziellen Tools bevorzugst.

Besonders anschauliche Unterstützung bieten generative KI-Tools bei der Erstellung von Bildern oder Videos. Die Anwendung ist auf den ersten Blick oft ähnlich einfach wie bei der Erstellung von Textbeiträgen: Wichtig ist vor allem ein möglichst spezifischer Prompt. Es bieten sich vielfältige Möglichkeiten für die zeitliche Entlastung von Verwaltungsmitarbeitenden durch den Einsatz von KI-Tools, etwa bei der Erstellung von Marketing- oder Lehrmaterial.

Diese Anwendungsfälle sind möglich:

• Erklärvideos erstellen, zum Beispiel für komplexe Prozesse
• Animierte Präsentationen anfertigen, zum Beispiel bei der dynamischen Darstellung von Daten und Informationen
• Qualifizierungsinhalte bereitstellen, zum Beispiel in interaktiver und ansprechender Form für Verwaltungsmitarbeitende
• Bilder generieren, zum Beispiel Infografiken, Logos oder Beispielbilder für Präsentationen

Und im (fiktiven) Verwaltungsalltag?

> In der Gemeinde Musterdorf wird die bevorstehende Bundestagswahl organisiert. Nike Papadopoulos leitet dort das Wahlamt und ist für die Durchführung der Bundestagswahl vor Ort verantwortlich. Erfahrungsgemäß sind viele Bürger:innen aufgrund der großen Anzahl unterschiedlicher Umschläge und (Wahl-)Zettel verunsichert, wie die Briefwahl ordnungsgemäß durchgeführt wird. Nike entscheidet sich, ein Erklärvideo zu erstellen, welches die einzelnen Schritte der Briefwahl erläutert. So hofft sie, ihre Mitarbeitenden vor der Wahl von den zahlreichen Anfragen der Bürger:innen zu entlasten.

Zunächst erstellt sie ein Skript für das Video. Dabei orientiert sie sich an den Vorgaben, die auf dem Merkblatt zur Erläuterung der Briefwahl vorgegeben sind. Da Nike schon Erfahrungen mit LLM-Tools aus dem ersten Use-Case gesammelt hat, verwendet sie zunächst ein KI-Text-Tool. Hier lädt sie das Merkblatt als PDF hoch  und lässt sich ein Video-Skript mit folgendem Prompt ausgeben:

„Erstelle ein Skript für ein Erklärvideo zur Briefwahl für die Anwendung in einem KI-Video-Tool. Orientiere dich dabei an den einzelnen Schritten im Merkblatt anbei.“

Nike überprüft das von der KI herausgegebene Skript auf inhaltliche Fehler und nimmt bei Bedarf Ergänzungen vor. Danach gibt sie folgenden Prompt in ein KI Video-Tool ein und fügt dazu das fertige Skript ein:

→ Prompt: Nutze das folgende Skript, um ein Erklärvideo für die Briefwahl zur Bundestagswahl zu erstellen: (Skript).

> Das KI-Tool generiert nun ein ansprechendes und verständliches Erklärvideo. Bei vielen KI-Video-Tools ist der kostenfreie Download des erzeugten Videos nur einmal möglich. Dafür können Inhalte und Illustrationen nach der initialen Generierung in einer Überarbeitungsmaske vor dem Download abgeändert werden. So passt Nike den gesprochenen Text, der im Video inhaltlich nicht perfekt wiedergegeben wird, wie gewünscht an. Sie kürzt einige Sätze und achtet auf einheitliche Formulierungen sowie verständliche Sprache. Direkt nach der zweckmäßigen Begrüßung des Videos fügt sie ein, dass das Video durch KI-generiert ist. Damit erhöht sie die Transparenz. Zudem passt sie die Szenenbilder in der Überarbeitungsmaske für die jeweiligen Videoteile an. Oft weichen die vom KI-Tool verwendeten Szenenbilder leicht von der gewünschten Visualisierung ab. Die initialen Szenenbilder kann Nike durch eigenständig hochgeladene Bilder ersetzen, die sie für passender hält. Diese Bilder verarbeitet das KI-Tool automatisch zu einem Video.

Nike hat durch den Einsatz des KI-Video-Tools ein hochwertiges Erklärvideo erstellt. Dieses Video hilft den Bürger:innen der Gemeinde, die Briefwahl ordnungsgemäß und problemlos durchzuführen. Die klaren Anweisungen und visuellen Veranschaulichungen tragen dazu bei, Missverständnisse zu vermeiden. Die Mitarbeitenden des Wahlamts werden entlastet, da es weniger Nachfragen zur ordnungsgemäßen Durchführung der Briefwahl gibt. Einen QR-Code zum Erklärvideo versendet das Wahlamt zusammen mit den Briefwahlunterlagen. Das fertige Video wird zudem auf der Webseite der Gemeinde und in den sozialen Medien veröffentlicht, um eine große Reichweite zu erzielen.

Info: Wenn Du Anpassungen direkt in der Überarbeitungsmaske vornimmst, werden Schwachstellen vor dem Download verbessert – und der Prompt muss nicht iterativ angepasst werden. Damit musst Du auch das Video nicht jedes Mal vollständig erneut ansehen, um zu überprüfen, ob die Änderungen des Videos nun wie ge- wünscht ausgefallen sind.

Info: Wenn Du Bilder und Videos erstellst, solltest Du möglichst detaillierte Prompts oder Video-Skripte verfassen. Beispielsweise kannst Du darauf eingehen, ob das fertige Bild eine Zeichnung oder ein Foto sein soll, welche Stimmung Du Dir vorstellst oder welche Gegenstände etwa im fertigen Bild vorkommen sollen.

Darauf solltest du achten

Beim Einsatz von KI-Video- oder Bild-Tools ist neben datenschutzrechtlichen Aspekten vor allem das Urheberrecht der verwendeten Bild- und Videofrequenzen wichtig. Hier solltest Du sicherstellen, dass alle verwendeten Medien und Inhalte lizenzrechtlich unbedenklich sind. Potenzielle Urheberrechtsrisiken kannst Du minimieren, indem Du intern freigegebene oder selbstgemachte Fotos als Referenzbasis für die neuen Inhalte nutzt. Wenn zudem keine anderen Daten der Schutzstufe 2 im Prompt oder Skript genutzt werden, ist es unbedenklich, KI-Video-Tools zu verwenden, die aus außereuropäischen Drittstaaten stammen.

Bei der Erstellung neuer Texte oder der Kategorisierung von Inhalten werten LLM-Tools Informationen aus. Auf dieser Basis werden Inhalte neu generiert oder kategorisiert. Diese inhaltliche Analyse-Funktion von Dokumenten lässt sich auch für Recherchearbeiten nutzen. Vor allem bei umfangreichen Texten und Informationen, die auf mehrere Dokumente verteilt sind, haben Generative KI-Tools das Potenzial, Recherchearbeiten effizient zu erledigen und Informationen strukturiert aufzubereiten.

Diese Anwendungsfälle sind möglich:

• Für Dienstanweisungen recherchieren
• Wissensdatenbanken anlegen
• Antworten auf Anfragen bereitstellen
• Auswertung von Bürger:innenbeteiligungen erstellen
• Bei typischen Office-Tools wie Excel unterstützen
• Einfache IT-Probleme beheben
• Internetrecherchen

Und im (fiktiven) Verwaltungsalltag?

> Peter Huber wechselt aus familiären Gründen von einer niedersächsischen Kommune in die Kreisverwaltung von Musterland nach Bayern. Hier wird er im Rechtsamt im Bereich des Datenschutzes arbeiten. Bei seinem Dienstantritt in Bayern stellt sich Peter zunächst die Frage, welche Unterschiede zwischen den Landesdatenschutzgesetzen von Bayern und Niedersachsen existieren. Mit einer Übersicht zu dieser Thematik will er sich adäquat auf seine neue Dienststelle in Bayern einstellen. Diese Aufgabe ist besonders relevant, da die Kreisverwaltung künftig sicherstellen muss, dass ihre Datenschutzrichtlinien bei der Ende-zu-Ende-Digitalisierung der Verwaltungsleistungen mit der relevanten Landesgesetzgebung konform sind. Um sich effizient auf diese Aufgabe vorzubereiten, nutzt Peter ein LLM-Tool.

Peter konnte in Niedersachsen bereits Erfahrungen mit dem Verfassen von Prompts für Generative KI sammeln. Daher weiß er, dass er den Prompt möglichst detailliert schreiben sollte und das Tool explizit dazu auffordern muss, spezifische Unterschiede in den Gesetzen detailliert darzustellen. Zusätzlich lädt er die öffentlich zugänglichen Landesdatenschutzgesetze von Bayern und Niedersachsen als Anhang in das KI-Tool hoch. So kann das KI-Tool die relevanten Inhalte am besten vergleichen. Peter gibt folgenden Prompt in das KI-Tool ein:

→ Prompt: Was sind die wesentlichen Unterschiede des Landesdatenschutzrechts von Bayern und Niedersachsen? Gib mir eine stichwortartig strukturierte Tabelle aus. Benutze dafür die Dokumente im Anhang und verweise auf die jeweiligen Kapitel und den Paragrafen, aus denen du die Informationen beziehst. Betone die spezifischen Unterschiede detailliert hinsichtlich der Regelungen und Pflichten, die in den beiden Gesetzen festgelegt sind. Die Tabelle soll klar und präzise die Unterschiede hervorheben.

> Das KI-Tool analysiert die hochgeladenen Dokumente, extrahiert die relevanten Informationen und erstellt eine übersichtliche Tabelle, die die Unterschiede der beiden Landesdatenschutzgesetze darstellt. Die Tabelle enthält Verweise auf die entsprechenden Kapitel und Paragrafen der Gesetze, sodass Peter diese bei Bedarf leicht nachlesen kann. Mit diesen Informationen hat Peter einen guten ersten Überblick über die Unterschiede der Landesdatenschutzgesetze von Niedersachsen und Bayern. Dadurch hat er Zeit gewonnen, um seine neuen Kolleg:innen besser kennenzulernen.

Info: Wenn Du bereits weißt, auf welche spezifischen Inhalte in Deiner Recherche eingegangen werden soll, kannst Du diese vom LLM-Tool in der Tabelle als Spalten-Überschrift vordefinieren lassen. So kannst du Deine Suche gezielt nach abweichenden Details in den relevanten Kategorien verfeinern.

Darauf solltest du achten

Wie immer solltest Du zunächst überprüfen, ob Du Dich in Schutzstufe 1 oder 2 bewegst und Deine Entscheidungen dementsprechend ausrichten. Darüber hinaus ist es bei der Recherche besonders wichtig, auf die Richtigkeit der ausgegebenen Informationen zu achten. Denn KI-Anwendungen können halluzinieren: Sie erstellen Inhalte, die zwar plausibel erscheinen, aber nicht korrekt sind. Leider lässt sich dies nicht vermeiden. Für wichtige Entscheidungen solltest Du daher relevante Kriterien selbständig nachprüfen. Peter hat beispielsweise vorgesorgt, indem er sich die jeweiligen Artikel der Landesdatenschutzgesetze als Referenz ausgeben lies. So kann er die relevanten Artikel einsehen und die ausgegebenen Informationen auf deren Richtigkeit hin überprüfen. Außerdem solltest Du darauf achten, dass eventuell nicht alle relevanten Informationen wiedergeben oder einzelne Inhalte unvollständig dargestellt werden. Bei Internetrecherchen können neuere KI-Systeme auch einen Verweis auf deren Online-Quellen geben, aber Achtung: Ein Verweis mit Quellenangabe bedeutet nicht, dass die von der KI dargestellte Information aus der Quelle korrekt abgebildet ist. Die Quelle muss immer noch vom Menschen geprüft und ausgewertet werden. Besonders bei umfangreichen Datenmengen ist die Recherchefunktion zu einer ersten Orientierung aber sehr hilfreich. Für wichtige Entscheidungen solltest Du relevante Kriterien noch einmal nachprüfen.

Eine effektive Anwendung von LLM-Tools kann erheblich dazu beitragen, kreatives Arbeiten in Verwaltungen zu fördern und Innovationen entstehen zu lassen. Mit einem geschickten Prompting können – im Dialog mit der KI – neue Ideen entstehen, Vorschläge für unkonventionelle Vorgehensweisen diskutiert und gänzlich neue Wege im Verwaltungsalltag eingeschlagen werden. Dabei gilt immer, dass Vorschläge in der Interaktion zwischen Mensch und KI gemeinsam verbessert werden. Die endgültige Festlegung trifft immer der Mensch, nicht die KI.

Diese Anwendungsfälle sind möglich:

• Agenden und Abläufe erstellen, zum Beispiel für Veranstaltungen und Meetings
• Leitfäden erstellen und gute Fragen formulieren, zum Beispiel für Mitarbeitendengespräche
• Kampagnenideen entwickeln, zum Beispiel für Formate im kommunalen Ökosystem wie Bürger:innenbeteiligungen oder zur Personalgewinnung
• Vorträge und Präsentationen strukturieren
• Krisenmanagement fördern, zum Beispiel durch die Simulation von Zukunftsszenarien
• Interne und externe Serviceverbesserungen anstoßen, indem Optimierungsideen gebrainstormt werden

Und im (fiktiven) Verwaltungsalltag?

> Peter Malika Richter arbeitet im Büro der Landrätin des Kreises Musterland. Anfang 2025 ist der alljährliche Neujahrsempfang geplant, zu dem Vertreter:innen aus Wirtschaft und Gesellschaft eingeladen werden. Jedes Jahr erwarten die geladenen Gäste richtungsweisende Informationen zur Stadtentwicklung und ein abwechslungsreiches Programm. Malika hat die Aufgabe, den Neujahrsempfang zu planen. Der Kreis hat festgelegt, dass frei verfügbare LLM-Tools verwendet werden dürfen, wenn es darum geht, kreativ zu arbeiten und Inhalte zu kreieren. Malika entscheidet sich dazu, ein LLM-Tool zu nutzen, um von Grund auf neu an die Veranstaltungsplanung zu gehen. Die letzten drei Neujahrsempfänge liefen alle doch sehr ähnlich ab. Sie geht in ein LLM-Tool zur Generierung von Text und gibt den folgenden Prompt ein:

→ Prompt: Ich plane einen Neujahrsempfang einer Kreisverwaltung mit 200.000 Einwohnenden. Es kommen circa 250 geladene Gäste. Auf der Bühne steht die Landrätin, ein Vertreter eines überregional wirkenden Großkonzerns sowie ein lokaler Musiker. Der Empfang soll 60 Minuten dauern. Bitte erstelle einen Ablaufplan für die 60 Minuten mit drei unterschiedlichen Formaten auf der Bühne.

> Der erste Vorschlag der KI für einen Ablauf ist Malika noch zu vorsichtig. Sie fordert das LLM-Tool daher mit folgendem Prompt auf, kreativer zu sein:

„Der Vorschlag ist mir zu harmlos. Bitte schlage innovativere Formate, auch unter Beteiligung des Publikums, vor.“

Das LLM-Tool gibt nun unter anderem die Idee aus, dass eine Live-Brainstorming-Session mit dem Publikum mit dem Titel „Zukunftswerkstatt 2030“ stattfinden könnte. Hier kann das Publikum individuelle Ideen zur Kreisentwicklung in einem live moderierten Format einbringen. Die Idee findet Malika klasse. In einer weiteren Interaktion mit dem LLM-Tool plant sie nun, das Format weiter auszugestalten – sowohl mit Ideen der KI als auch mit ihren eignen Ideen.

Info: Die Ausgabeform im kreativen Arbeiten ist häufig Text. Darüber hinaus solltest Du prüfen, ob Dir andere Ausgabeformen wie Tabellen, Präsentationen oder Videos im innovativen Arbeiten helfen. Dafür sind gegebenenfalls unterschiedliche Tools notwendig.

Info: Gib Dich nicht mit der ersten Antwort eines LLM-Tools zufrieden. Hake nach und verfeinere Deinen Prompt. Die richtig guten Ideen entstehen in der Interaktion zwischen Mensch und KI. Du kannst der KI auch Deinen eigenen Vorschlag nennen und um Feedback oder Ergänzungen bitten.

Darauf solltest du achten

Im kreativen Arbeiten greift man eher selten auf bestehende Inhalte wie Texte oder Akten zurück. Häufig beginnt kreatives Arbeiten mit einem gut formulierten Prompt, der in die Zukunft blickt. Es empfiehlt sich sogar, frei „auf der grünen Wiese“ zu starten, um sich so nicht von bestehenden Ideen und Formaten beeinflussen zu lassen. Solltest Du dennoch auf bestehende Inhalte zurückgreifen, ist es umso wichtiger, sehr sensibel mit personenbezogenen Daten umzugehen.

Bei Fragen oder Anmerkungen melden Sie sich gerne bei unseren Ansprechpartner:innen.

VITAKO

Julius Gmeinwieser
Manager Verwaltungsdigitalisierung, VITAKO
Julius.Gmeinwieser@vitako.de

Arne Baltissen
Geschäftsführer Prosoz Herten GmbH
VITAKO Mitglied
A.Baltissen@prosoz.de

KGST

Anika Krellmann
Referentin, KGSt
Anika.Krellmann@kgst.de

Matthias Hörmeyer
Referent, KGSt
Matthias.Hoermeyer@kgst.de

Disclaimer:
Diese Guideline stellt keine rechtssichere Einschätzung über den Einsatz von Künstlicher Intelligenz (KI) in der Kommunalverwaltung dar. VITAKO und KGSt übernehmen keine Haftung für die in Anlehnung an das Dokument entstehenden Dienstanweisungen, Projekte oder sonstigen Anwendungsfälle, die auf Basis dieses Dokuments entstehen oder entstanden sind.