Forschungsprojekt entwickelt datenschutzkonforme LLM-Lösungen für Behörden
Die öffentliche Verwaltung steht vor der Herausforderung, Künstliche Intelligenz effizient und gleichzeitig rechtssicher einzusetzen. Das seit Anfang 2025 laufende Forschungsprojekt SMARD-GOV untersucht genau das: Wie können Large Language Models (LLMs) datenschutzkonform in Behörden eingesetzt werden – exemplarisch am Beispiel von Bauantragsverfahren?
Gefördert vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR), bringt das Projekt mehrere Partner zusammen: Die Friedrich-Alexander-Universität Erlangen-Nürnberg (Prof. Dr. Paulina Jo Pesch) analysiert den rechtlichen Rahmen und koordiniert das Projekt, die Universität Münster (Prof. Dr. Rainer Böhme und Prof. Dr. Tobias Brandt) untersucht IT-Sicherheit und Verwaltungspraxis, während die PROSOZ Herten GmbH die praktische Umsetzung und Pilotierung übernimmt.
Sicherheit hat oberste Priorität
Da Behörden mit sensiblen Daten arbeiten, setzt SMARD-GOV auf lokale KI-Modelle ohne externe Datenübermittlung, konsequente Anonymisierung sowie strenge Einhaltung von DSGVO und EU-KI-Verordnung. Zusätzlich stehen menschliche Kontrolle, Bias-Analysen und transparente, nachvollziehbare KI-Entscheidungen im Fokus – begleitet von Nutzerstudien zur Akzeptanz in der Praxis.
Erste Erfolge und Praxistests
Das Projekt hat bereits einen ersten Prototyp eines domänenspezifischen LLMs für die Bearbeitung von Bauanträgen entwickelt, trainiert mit anonymisierten Behördendaten. Umfangreiche Sicherheitstests und Audits bestätigen die DSGVO-Konformität des Systems.
Erste Nutzerstudien mit Behördenmitarbeitenden zeigen: Die KI spart insbesondere bei der Vorstrukturierung von Anträgen, der Informationsextraktion und Dokumentenzusammenfassung erheblich Zeit. Gleichzeitig wünschen sich die Mitarbeitenden klare Kontrollmöglichkeiten, um der Technologie zu vertrauen. Ergänzend fanden bereits Fachworkshops zur rechtssicheren Integration von LLMs statt.
Ein Ausblick
Bis zum Projektende 2027 steht die ISO-27001-Zertifizierung sowie eine Pilotphase in ausgewählten Kommunen an. Am Ende soll ein praxisnahes Rahmenwerk mit konkreten Handlungsempfehlungen stehen, das Behörden beim rechtssicheren KI-Einsatz unterstützt. Langfristig könnten die Ergebnisse auch auf andere Bereiche wie Gesundheits- oder Sozialwesen übertragen werden.
Interessierte Kommunen können sich als Forschungspartner am Projekt beteiligen
Weitere Informationen finden Sie hier: https://prosoz.de/smard-gov/