KI-Entwicklung
KI für Verwaltung und Unternehmen: Entwickeln mit Compliance
Öffentliche Verwaltung und Unternehmen können KI-Entwicklung und KI-Anwendungen produktiv nutzen, müssen Compliance aber von Anfang an in die Architektur einbauen: Datensouveränität, Pflichten aus DSGVO und AI Act, Standards der Informationssicherheit, Barrierefreiheit und Nachvollziehbarkeit. Projekte, die diese Punkte als Anforderungen statt als Hindernisse behandeln, kommen schneller voran, weil sie späte Stopps durch Datenschutz, Betriebs- oder Personalrat oder Einkauf vermeiden.
Was KI in Verwaltung und Großunternehmen anders macht
Der Unterschied ist die Rechenschaftspflicht: Entscheidungen müssen erklärbar, der Umgang mit Daten nachweisbar sein, und Lieferanten müssen formale Anforderungen erfüllen.
Ein Startup kann ein neues KI-Tool an einem Nachmittag ausprobieren. Ein Ministerium, eine Kommune oder ein Großunternehmen muss Vergaberecht oder Einkaufsrichtlinien, Datenschutz-Folgenabschätzungen, die Mitbestimmung von Betriebs- oder Personalrat bei Mitarbeiterdaten oder Überwachung, Rahmenwerke der Informationssicherheit wie ISO 27001 oder BSI IT-Grundschutz, Pflichten zur Barrierefreiheit und Aufbewahrungsfristen berücksichtigen. Nichts davon schließt KI aus, aber es prägt, wie Lösungen gebaut werden müssen.
Datensouveränität und Hosting
Fragen der Souveränität entscheiden früh darüber, welche Modelle und Plattformen überhaupt infrage kommen.
Viele Organisationen verlangen eine Verarbeitung innerhalb der EU oder Deutschlands, den vertraglichen Ausschluss des Trainings mit ihren Daten und die Kontrolle über Logs und Aufbewahrung. Optionen sind EU-Regionen großer Modellanbieter, europäische Modellanbieter und Open-Weight-Modelle in einem deutschen Rechenzentrum oder on-premises. Die richtige Mischung hängt von der Datenklassifizierung ab: Für öffentliche Informationen kann ein Cloud-Modell genügen, personenbezogene oder eingestufte Daten brauchen eventuell eine dedizierte Umgebung. Eine anbieterunabhängige Architektur hält Sie flexibel, wenn sich der Markt verändert.
Regulatorische Checkliste
Mehrere Regelwerke gelten parallel und überschneiden sich erheblich.
- DSGVO: Rechtsgrundlage, Datenminimierung, Auftragsverarbeiter, DSFA bei Verarbeitungen mit hohem Risiko.
- EU AI Act: Einstufung jedes Anwendungsfalls, Transparenzpflichten, gegebenenfalls Hochrisikopflichten, KI-Kompetenz der Mitarbeitenden.
- Informationssicherheit: Controls nach ISO 27001 oder BSI IT-Grundschutz, Sicherheitsanforderungen an Lieferanten.
- Barrierefreiheit: Websites und Apps öffentlicher Stellen müssen Anforderungen an Barrierefreiheit erfüllen, und der European Accessibility Act weitet Pflichten auf viele Produkte und Dienstleistungen der Privatwirtschaft aus.
- Akten und Transparenz: Aufbewahrungsregeln und in der Verwaltung Fragen der Informationsfreiheit.
Anwendungsfälle, die auch unter strengen Regeln Nutzen bringen
Die besten ersten Anwendungsfälle unterstützen Mitarbeitende, statt autonom über Bürger oder Beschäftigte zu entscheiden.
Gute Beispiele sind Wissensassistenten zu internen Vorschriften und Verfahren, Formulierungshilfen für Schreiben und Bescheide, die ein Mensch freigibt, Zusammenfassungen langer Akten und Vorgangshistorien, Klassifizierung und Weiterleitung eingehender Anfragen, Übersetzung und Umformulierung in Leichte bzw. Einfache Sprache sowie die Modernisierung von Altanwendungen mit Coding Agents. Dabei behalten Menschen die Entscheidung, was sowohl beim AI Act als auch bei der Akzeptanz im Team hilft.
Coding Agents können Behörden und Unternehmen auch beim eigenen IT-Rückstau helfen: Altanwendungen dokumentieren, fehlende Tests schreiben, veraltete Frameworks aktualisieren und Korrekturen für Barrierefreiheit vorbereiten. Da diese Aufgaben mit Code statt mit Bürger- oder Kundendaten arbeiten, sind sie oft leichter freizugeben und bringen schnell Nutzen.
Nachvollziehbarkeit und menschliche Aufsicht von Anfang an
Gestalten Sie jede KI-Funktion so, dass sich später rekonstruieren lässt, was passiert ist und warum.
Protokollieren Sie Eingaben, gefundene Quellen, Modellversionen, Ausgaben und menschliche Entscheidungen. Zeigen Sie Quellen in generierten Antworten an, damit Mitarbeitende sie prüfen können. Machen Sie KI-Vorschläge in der Oberfläche klar von menschlichen Entscheidungen unterscheidbar. Legen Sie fest, wer für jedes KI-System verantwortlich ist, wie Fehler gemeldet werden und wie das System im Zeitverlauf evaluiert wird. Diese Dokumentation dient auch Prüfungen, parlamentarischen Anfragen und internen Revisionen.
- Anwendungsfall und Daten klassifizieren.
- Hosting und Modell passend zur Klassifizierung wählen.
- Datenschutzbeauftragte, Informationssicherheit und Betriebs- bzw. Personalrat früh einbinden.
- Mit Logging, Quellenangaben und Freigabeschritten bauen.
- Pilotieren, evaluieren, dokumentieren, dann skalieren.
Plattform oder Projekt?
Organisationen mit vielen KI-Anwendungsfällen profitieren von einer gemeinsamen, compliance-konformen Plattform, während spezifische Integrationen in bestehende Prozesse Projektarbeit erfordern.
Unsere Schwestermarke kalAIDoCreate ist eine KI-Plattform, die für Unternehmen und den öffentlichen Sektor mit Blick auf Compliance entwickelt wurde. Für individuelle Anwendungen, Integrationen und Modernisierungsprojekte arbeiten die AI Code Engineers von neooutput von Freiburg aus nach den ISO-27001- und ISO-9001-zertifizierten Prozessen der jocapps GmbH, und unsere Agentic-Coding-Workshops helfen internen IT-Teams, die nötigen Kompetenzen aufzubauen.
Häufige Fragen
Dürfen Behörden cloudbasierte Sprachmodelle nutzen?
In vielen Fällen ja, abhängig von Datenklassifizierung, Verträgen und Hosting-Region. Sensible oder eingestufte Daten erfordern oft ein dediziertes Hosting in der EU oder on-premises. Jeder Fall braucht eine eigene Bewertung.
Wie binden wir den Betriebsrat in KI-Projekte ein?
Früh. Wo KI-Tools Leistung oder Verhalten überwachen können, greifen in Deutschland in der Regel Mitbestimmungsrechte. Transparente Ziele, Datenminimierung und eine Betriebsvereinbarung helfen.
Brauchen wir eine Ausschreibung für KI-Entwicklungsleistungen?
Öffentliche Auftraggeber müssen je nach Auftragswert und -art das Vergaberecht beachten. Unternehmen folgen ihren internen Einkaufsrichtlinien. Eine klare funktionale Leistungsbeschreibung inklusive Compliance-Anforderungen erleichtert beides.
