KI im Mittelstand einführen — sinnvoll, sicher und messbar

KI kann im Mittelstand einzelne Wissens- und Kommunikationsaufgaben beschleunigen. Sie macht einen ungeklärten Prozess aber nicht automatisch besser und liefert keine verlässliche Ausgabe nur deshalb, weil das Sprachmodell überzeugend formuliert.

Der sinnvolle Einstieg ist deshalb kein flächendeckendes „KI für alle“, sondern ein begrenzter Anwendungsfall mit bekannten Daten, klarer Verantwortung und messbarem Ausgangswert. Dieser Leitfaden trennt geeignete Piloten von riskanten Abkürzungen und ordnet Datenschutz, IT-Sicherheit und EU AI Act ein. Er ist keine Rechtsberatung; die konkrete Einordnung gehört bei sensiblen Fällen zu Datenschutz-, Rechts- und Sicherheitsverantwortlichen.

Ein erster Anwendungsfall sollte häufig vorkommen, heute messbaren Aufwand erzeugen und bei einem Fehler keinen großen Schaden verursachen. Außerdem braucht er Beispiele, anhand derer sich die Ausgabe bewerten lässt.

Günstige Startbedingungen:
• klarer Eingang und erwartetes Ergebnis
• genügend reale Testfälle ohne unnötige sensible Daten
• menschliche Prüfung vor einer externen Wirkung
• Rückweg zum bisherigen Prozess
• benannte fachliche und technische Verantwortung

Schlechte Startbedingungen:
• Entscheidungen über Einstellung, Kündigung, Kredit, Gesundheit oder andere erhebliche Folgen
• Zugriff auf große Datenbestände „auf Verdacht“
• autonome E-Mails, Bestellungen oder Änderungen ohne Begrenzung
• kein messbarer Ausgangswert und keine Fehlerdefinition

Die zentrale Frage lautet nicht „Wo können wir KI einbauen?“, sondern „Welche klar abgegrenzte Aufgabe wird mit vertretbarem Risiko nachweislich besser?“

1. Entwürfe und Zusammenfassungen. KI kann aus freigegebenen Informationen einen ersten Textentwurf oder eine strukturierte Zusammenfassung erstellen. Fachliche Prüfung, Quellenkontrolle und finale Freigabe bleiben beim Menschen.

2. Interne Wissenssuche. Ein Assistent kann passende Abschnitte aus freigegebenen Dokumenten finden und mit Quellenhinweis anzeigen. Zugriffsrechte müssen auch in der Suche gelten; ein Chatfenster darf keine zuvor geschützten Dokumente öffnen.

3. Klassifikation eingehender Anfragen. Das Modell kann Themen oder Dringlichkeit vorschlagen. Bei unklaren Fällen und negativen Folgen braucht es eine kontrollierte Rückfallregel statt automatischer Ablehnung.

4. Daten aus Dokumenten vorerfassen. Rechnungen, Formulare oder Lieferscheine können ausgelesen werden. Pflichtfelder, Summen und Ausnahmen werden regelbasiert beziehungsweise stichprobenartig geprüft, bevor Daten ins Zielsystem gelangen.

5. Kundenservice vorbereiten. KI kann eine Antwort auf Basis freigegebener Informationen vorschlagen. Identität, Vertragsdaten, Kulanz, Rechtsaussagen und Versand bleiben kontrolliert.

6. Varianten für Marketing und Vertrieb. Aus einem geprüften Kerninhalt können Fassungen für definierte Kanäle entstehen. Ungeprüfte Massenveröffentlichung erzeugt dagegen Qualitäts-, Marken- und SEO-Risiken.

7. Prozessanalyse. Freigegebene, möglichst minimierte Daten können helfen, wiederkehrende Anliegen oder Engpässe zu gruppieren. Eine plausible Korrelation ist noch keine Ursache und ersetzt keine fachliche Prozessanalyse.

Ein Vertrag mit einem bekannten KI-Anbieter macht einen Einsatz nicht automatisch datenschutzkonform oder sicher. Vor dem Pilot sollten mindestens folgende Punkte dokumentiert sein:

• Dateninventar: Welche personenbezogenen, vertraulichen oder besonders geschützten Daten könnten in Eingaben, Dateien, Protokollen und Ausgaben vorkommen?
• Zweck und Rechtsgrundlage: Warum werden die Daten verarbeitet, ist die Verarbeitung erforderlich und wer ist verantwortlich?
• Anbieter und Datenflüsse: Wo werden Daten verarbeitet, wie lange gespeichert, zum Training verwendet oder an Unterauftragnehmer weitergegeben?
• Zugriffe: Welche Mitarbeitenden, Dienste und technischen Konten dürfen welche Quellen lesen oder Aktionen auslösen?
• Angriffe und Fehlbedienung: Externe Dokumente und Webseiten können manipulierte Anweisungen enthalten. Das BSI warnt bei angebundenen Sprachmodellen ausdrücklich vor indirekten Prompt Injections.
• Ausgabeprüfung: Welche Fehler sind kritisch, wie werden sie erkannt und wer gibt das Ergebnis frei?
• Protokollierung und Löschung: Was muss für Fehleranalyse und Nachweisbarkeit gespeichert werden, und was darf gerade nicht dauerhaft im Log stehen?

Das BSI empfiehlt für generative KI eine systematische Risikoanalyse, Schulung der Nutzenden und Tests passend zur Kritikalität. Besonders sensible Informationen sollten nicht allein durch einen Prompt oder eine Systemanweisung geschützt werden.

Der EU AI Act gilt risikobasiert und wird stufenweise anwendbar. Verbote bestimmter Praktiken und die Pflicht der Anbieter und Betreiber, für ausreichende KI-Kompetenz ihrer beteiligten Personen zu sorgen, gelten bereits seit dem 2. Februar 2025. Weitere Termine und Detailregeln befinden sich in einer laufenden europäischen Umsetzung; für ein konkretes System sollte deshalb die aktuelle Zeitleiste der EU-Kommission geprüft werden.

Nicht jeder Textassistent ist ein Hochrisiko-System. Anwendungen in Beschäftigung und Personalmanagement können nach Zweck und Ausgestaltung jedoch in einen Hochrisikobereich fallen. Ein Werkzeug zur freiwilligen Rechtschreibunterstützung ist anders zu bewerten als ein System, das Bewerbungen bewertet oder Beschäftigte überwacht.

Die DSGVO gilt daneben unabhängig weiter, sobald personenbezogene Daten verarbeitet werden. Bei ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung kommen zusätzlich die engen Vorgaben zu automatisierten Einzelentscheidungen in Betracht. „Ein Mensch klickt am Ende“ genügt nicht zwingend als wirksame menschliche Prüfung, wenn die Entscheidung faktisch nicht mehr hinterfragt wird.

1. Ausgangswert und Ziel. Volumen, Bearbeitungszeit, Fehlerarten und Qualitätskriterien am heutigen Prozess messen. Das Ziel ist zum Beispiel weniger manuelle Sortierzeit bei gleichbleibender oder besserer Fehlerquote — nicht bloß „KI eingeführt“.

2. Risiko und Kontrollen. Daten, Betroffene, mögliche Schäden, Rollen, Anbieter, Freigaben und Rückfallprozess dokumentieren. Bei sensiblen Daten oder Entscheidungen früh Datenschutz-, Rechts- und Sicherheitskompetenz einbeziehen.

3. Abgeschirmter Test. Mit repräsentativen freigegebenen Fällen testen. Richtige, falsche und nicht beantwortbare Fälle sowie Manipulationsversuche gehören in den Testsatz.

4. Begrenzter Echtbetrieb. Kleine Nutzergruppe, begrenzte Rechte, Protokollierung, feste Stichproben und eindeutige Abschaltmöglichkeit. Erst nach einer vereinbarten Mindestmenge werden Zeit, Qualität, Kosten und Nebenwirkungen mit dem Ausgangswert verglichen.

Ein Zeitplan von beispielsweise acht oder zwölf Wochen kann organisatorisch helfen, ist aber keine Erfolgsgarantie. Umfang und Testdauer folgen Fallzahl, Risiko und Entscheidungsgeschwindigkeit.

Zur vollständigen Kostenseite gehören nicht nur Modell- oder Nutzergebühren. Berücksichtigen Sie Prozessaufnahme, Datenbereinigung, Integration, Berechtigungen, Tests, Datenschutz und Sicherheit, Schulung, laufende Qualitätskontrolle, Fehlerbehebung und einen möglichen Anbieterwechsel.

Auf der Nutzenseite stehen gemessene Zeit, vermiedene Fehler, schnellere Durchlaufzeit oder zusätzliche bearbeitbare Fälle. Eine eingesparte Minute ist nur dann wirtschaftlicher Nutzen, wenn sie in Kapazität, Qualität oder Ergebnis ankommt. Unseriös sind pauschale Aussagen wie „KI spart 30 Prozent“ ohne Ausgangswert, Stichprobe und gleichbleibende Qualitätsdefinition.

KI ist für den Mittelstand dann sinnvoll, wenn sie eine klar begrenzte Aufgabe mit bekannten Daten und messbarer Qualität unterstützt. Der sichere Standard ist ein menschlich kontrollierter Pilot mit minimalen Rechten, repräsentativen Tests und einem funktionierenden Rückfallprozess.

Wer zuerst Lizenzen verteilt und später nach Anwendungsfällen, Datenschutz und Verantwortung fragt, erhöht Kosten und Risiko. Wir unterstützen Unternehmen bei Prozessauswahl, Prototyp, Integration und Messung — als Ergänzung zu ihrer Rechts-, Datenschutz- und Sicherheitsverantwortung. Mehr dazu auf unserer Seite Automatisierung & Custom-Backends.