KI selbst einführen ohne IT-Abteilung: Schritt-für-Schritt für KMU

Sie haben keinen IT-Leiter. Trotzdem wollen Sie KI nutzen. Das geht.

KI selbst einführen ohne IT-Abteilung ist kein Sonderfall — es ist der Normalfall im deutschen Mittelstand. Das eigentliche Problem ist nicht fehlende Technologie. Es sind fehlendes Know-how (53 Prozent) und fehlende Ressourcen (51 Prozent), die KMU bremsen (Bitkom, 2025). Wer diese beiden Blockaden konkret angeht, kann in 30 bis 90 Tagen produktiv gehen — mit drei internen Rollen, von denen keine eine IT-Stelle ist.

Dieser Beitrag liefert ein konkretes Rollenmodell für die KI-Einführung im Eigenbetrieb, einen 30-60-90-Tage-Plan aus der Praxis und den Governance-Mindeststandard, den KMU unter dem EU AI Act tatsächlich erfüllen müssen. Nicht mehr, nicht weniger.

KI-Automatisierung im Mittelstand: Praxis-Guide

Key Takeaways

• Fehlendes Know-how (53 %) und fehlende Ressourcen (51 %) sind die Haupthemmnisse — nicht fehlende IT (Bitkom, 2025)
• Drei interne Rollen reichen für eine KI-Einführung: Prozessverantwortlicher, Daten-Hüter, Management-Sponsor
• No-Code-Tools sind für einfache Workflows geeignet; komplexere Anforderungen brauchen einen Dienstleister
• Governance-Mindeststandard nach EU AI Act: 2-Stunden-Workshop plus Protokoll — kein IT-Team nötig
• Erster Pilot: 4–8 Stunden interne Investition, 5.000–15.000 Euro extern, messbar nach 30 Tagen

---

Warum fehlende IT kein echtes Hindernis ist — und was das eigentliche Problem ist

Wer keine IT-Abteilung hat, glaubt oft, er ist zu früh dran. Das stimmt nicht. KI-Nutzung in deutschen KMU stieg von 2023 auf 2024 um 8 Prozentpunkte auf 19 Prozent — ein Großteil dieser Betriebe hat keine eigene IT (Synclaro/IfM Bonn, 2025). Diese Betriebe haben nicht erst einen IT-Leiter eingestellt. Sie haben einen Prozess identifiziert, einen Verantwortlichen benannt und angefangen.

[PERSONAL EXPERIENCE] Was bremst, ist nicht der fehlende Server-Raum. Es sind zwei andere Dinge: Niemand weiß, welchen Prozess man anfassen soll, und niemand fühlt sich zuständig, wenn die Technik einen Ausnahmefall produziert. Beide Probleme sind organisatorischer Natur — und sie lassen sich ohne IT-Stelle lösen.

Das Missverständnis dahinter ist strukturell. KI-Einführung wird mit IT-Infrastruktur verwechselt. Ein Sprachmodell, das Eingangsrechnungen ausliest, braucht keinen eigenen Server. Es braucht jemanden, der die Ausnahmen entscheidet, die das Modell nicht schafft — und jemanden, der prüft, ob das Ergebnis stimmt. Das ist kein IT-Job. Das ist ein Fachbereichs-Job.

Die Konsequenz: Wer die IT-Frage in den Vordergrund stellt, stellt die falsche Frage. Die richtige Frage ist: Welcher Prozess kostet uns gerade am meisten Zeit, und wer in diesem Prozess kennt ihn am besten?

Welche Prozesse zuerst automatisieren?

---

Die drei Rollen, die jeder KMU-Betrieb für KI-Einführung braucht (keine davon ist IT)

KMU-Betriebe in Holzbau, Möbeldesign und Fensterbau erreichen laut Zukunftszentren-Praxisberichten (2025) 3- bis 5-fache Effizienzsteigerungen auf spezifischen Workflows — ohne eigene IT. Gemeinsam haben sie: eine klare interne Verantwortungsstruktur vor dem ersten Klick. Drei Rollen, nicht mehr.

[UNIQUE INSIGHT] Dieses Drei-Rollen-Modell ist das, was erfolgreiche KMU-Einführungen von gescheiterten unterscheidet — nicht das Tool und nicht das Budget. Wer ohne benannte Rollen startet, hat nach sechs Wochen einen halbfertigen Workflow und niemanden, der entscheidet, was als nächstes passiert.

Rolle 1: Der Prozessverantwortliche

Das ist die wichtigste Rolle. Nicht der technikaffinste Mensch im Betrieb — sondern derjenige, der den Zielprozess täglich macht und jeden Ausnahmefall kennt. Bei einer Schreinerei ist das der Mensch, der die Auftragsbestätigungen rausschreibt. Bei einem SHK-Betrieb der Disponent, der die Techniker einteilt.

Diese Person macht drei Dinge: Sie beschreibt den Prozess so, dass ein externer Dienstleister ihn bauen kann. Sie testet die Lösung mit echten Daten. Und sie entscheidet, wenn das System einen Fall nicht sauber bearbeitet. Kein Programmier-Wissen nötig. Aber 4 bis 8 Stunden in den ersten vier Wochen.

Rolle 2: Der Daten-Hüter

Irgendjemand im Betrieb weiß, wo die Daten liegen, wer Zugriff hat und ob bestimmte Informationen das Haus nicht verlassen dürfen. Das ist oft der Geschäftsführer selbst, manchmal die Buchhaltung. Diese Person entscheidet, welche Daten in welches Tool fließen und unterschreibt den Auftragsverarbeitungsvertrag mit dem Dienstleister.

Das ist keine Vollzeit-Aufgabe. Es ist eine Entscheidungs-Rolle, die an zwei, drei Punkten gefragt ist.

Rolle 3: Der Management-Sponsor

Wer keine IT-Abteilung hat, braucht stattdessen jemanden in der Führungsebene, der Prioritäten setzt und Budget freigibt. Nicht täglich involviert — aber klar positioniert: „Dieses Projekt hat Vorrang." Ohne diese Rückendeckung verliert der Prozessverantwortliche bei jeder Tagesgeschäft-Kollision.

Die drei Rollen können auf zwei Personen fallen. Bei einem 12-Mann-Betrieb macht das der Inhaber plus eine Fachkraft. Das reicht.

---

No-Code-Tools vs. Dienstleister: Wann was sinnvoll ist

Fehlende Regeln für KI-Nutzung im Betrieb sind weit verbreitet: Nur 23 Prozent der deutschen Unternehmen haben Regeln für Mitarbeitende, die private KI-Tools im Job verwenden (Bitkom, 2025). Das ist nicht nur ein Compliance-Problem. Es bedeutet, dass die meisten Betriebe ihre Einführung faktisch schon begonnen haben — unkontrolliert, über die Consumer-Tools der Mitarbeitenden.

Die Entscheidung No-Code vs. Dienstleister ist keine Entweder-oder-Frage. Es ist eine Scope-Frage.

Wann No-Code-Tools ausreichen

No-Code-Plattformen wie Make, Zapier oder n8n sind geeignet, wenn drei Bedingungen erfüllt sind: Der Workflow hat weniger als fünf Schritte, die beteiligten Systeme haben Standard-APIs, und ein interner Mitarbeitender ist bereit, 1 bis 2 Tage Einarbeitung zu investieren.

Konkrete Beispiele: Eingehende E-Mail-Anfragen werden automatisch kategorisiert und in ein CRM übertragen. Ein Formular löst eine Benachrichtigung aus und legt einen Eintrag in einer Tabelle an. Rechnungen aus einem bestimmten Absender werden in einen Ordner sortiert. Alles ohne Programmierkenntnisse — aber nicht ohne jemanden, der es einrichtet und bei Änderungen anpasst.

Die ehrliche Einschränkung: No-Code-Tools stoßen schnell an Grenzen, wenn Ausnahmen häufig werden, Daten aus Quellen ohne API kommen (z. B. PDFs aus dem Drucker, Fotos von Baustellenzetteln) oder verschiedene Systeme mit Sonderlösungen sprechen müssen. Dann ist Eigenaufwand höher als der Einspareffekt.

Wann ein Dienstleister sinnvoll ist

Sobald der Prozess Daten aus mehr als zwei Quellen zusammenführt, Logik braucht, die über einfache Wenn-dann-Regeln hinausgeht, oder DSGVO-Anforderungen an die Datenhaltung gelten, ist ein externer Dienstleister die ehrlichere Lösung. Nicht weil die Technik zu komplex wäre — sondern weil der interne Zeitaufwand sonst den ROI auffrisst.

Ein klar abgegrenztes Pilotprojekt kostet typischerweise 5.000 bis 15.000 Euro inklusive Analyse, Aufbau und Einweisung. Laufende Betreuung liegt bei 500 bis 2.000 Euro monatlich. Entscheidend ist, dass der Dienstleister nicht nur baut, sondern das interne Team befähigt, das Ergebnis eigenständig zu betreiben.

ChatGPT im Unternehmen einsetzen — was funktioniert

---

30-60-90-Tage-Plan: Von Null zu erstem produktivem Workflow

[ORIGINAL DATA] Dieser Plan basiert auf dem, was in unseren Projekten tatsächlich funktioniert — nicht auf Theorie. Die Zeiträume sind konservativ kalkuliert, damit auch Betriebe ohne interne Kapazitätspuffer mitmachen können.

1. 01

   4 Wochen

   Tage 1–30: Identifizieren und Entscheiden

   Prozessverantwortlichen und Daten-Hüter benennen. Einen Prozess wählen: Wiederholungshäufigkeit hoch, Datenverfügbarkeit gut, Fehleranfälligkeit messbar. Erfolgskriterien schriftlich festlegen. Toolentscheidung treffen: No-Code selbst oder Dienstleister? AV-Vertrag klären.

2. 02

   4 Wochen

   Tage 31–60: Bauen und Testen

   Workflow aufsetzen — mit Echtdaten, nicht mit Demo-Daten. Ersten Testlauf unter realen Bedingungen: Ausnahmen protokollieren, Genauigkeit messen, Prozessverantwortlichen einbeziehen. Kein Go-live ohne Abnahme durch die Person, die den Prozess täglich macht.

3. 03

   4 Wochen

   Tage 61–90: Produktiv schalten und messen

   Workflow geht live. Ergebnisse gegen Erfolgskriterien halten: Zeit gespart? Fehlerrate gesunken? Management-Sponsor bekommt Zwischenbericht. Entscheidung: weiterskalieren, nächsten Prozess angehen oder stop — nicht beides gleichzeitig.

1. 01

   4 Wochen

   Tage 1–30: Identifizieren und Entscheiden

   Prozessverantwortlichen und Daten-Hüter benennen. Einen Prozess wählen: Wiederholungshäufigkeit hoch, Datenverfügbarkeit gut, Fehleranfälligkeit messbar. Erfolgskriterien schriftlich festlegen. Toolentscheidung treffen: No-Code selbst oder Dienstleister? AV-Vertrag klären.

2. 02

   4 Wochen

   Tage 31–60: Bauen und Testen

   Workflow aufsetzen — mit Echtdaten, nicht mit Demo-Daten. Ersten Testlauf unter realen Bedingungen: Ausnahmen protokollieren, Genauigkeit messen, Prozessverantwortlichen einbeziehen. Kein Go-live ohne Abnahme durch die Person, die den Prozess täglich macht.

3. 03

   4 Wochen

   Tage 61–90: Produktiv schalten und messen

   Workflow geht live. Ergebnisse gegen Erfolgskriterien halten: Zeit gespart? Fehlerrate gesunken? Management-Sponsor bekommt Zwischenbericht. Entscheidung: weiterskalieren, nächsten Prozess angehen oder stop — nicht beides gleichzeitig.

Drei Punkte zu diesem Plan, die oft übergangen werden.

Erstens: Der erste Prozess sollte nicht der wichtigste sein. Ein Prozess, bei dem ein Fehler des Systems unmittelbar Kunden oder Umsatz schadet, ist der falsche Startpunkt. Besser: etwas Internes, das Zeit kostet, aber keinen Schaden anrichtet, wenn das Modell mal daneben liegt.

Zweitens: Die Erfolgsdefinition kommt vor dem Build. Nicht „wir wollen schneller werden", sondern: „Der Prozessverantwortliche prüft statt 90 Minuten täglich nur noch 20 Minuten — gemessen über vier Wochen." Ohne diese Konkretheit gibt es am Tag 90 keine Entscheidungsgrundlage.

Drittens: 30 Tage für den ersten Schritt klingt langsam. Es ist es nicht. Die meisten gescheiterten Einführungen sind daran gescheitert, dass zu früh zu viel gebaut wurde. Vier Wochen für Vorbereitung und Entscheidung sind kein Luxus — sie sind der Unterschied zwischen einem Pilot, der produktiv geht, und einer Demo, die im Schrank landet. Das zeigt auch der Beitrag über gescheiterte KI-Piloten und Neustart sehr klar.

---

Governance-Mindeststandard für KMU ohne IT-Abteilung

Der EU AI Act gilt. Aber für KMU ohne Hochrisiko-Anwendungen (Artikel 16) ist der Governance-Mindeststandard deutlich kleiner als die Compliance-Prosa suggeriert. KMU-Deployer ohne Hochrisiko-Anwendungen erfüllen den Mindeststandard mit einem 2-Stunden-Workshop plus Protokoll (EU AI Act, Art. 16).

Was dieser Workshop-plus-Protokoll-Standard konkret bedeutet:

Schritt 1 - System-Inventar (30 Minuten): Welche KI-Tools werden genutzt? ChatGPT, Copilot, eine Automatisierungs-Plattform? Liste aufschreiben. Zweck und Datenart notieren.

Schritt 2 - Risikoklassen-Check (30 Minuten): Verarbeitet das System Daten zu Kreditwürdigkeit, Gesundheit, Strafverfolgung oder Bewerbungsprozessen? Nein in fast allen KMU-Fällen. Wenn nein: kein Hochrisiko-System, vereinfachte Pflichten.

Schritt 3 - Nutzungsrichtlinie (30 Minuten): Eine A4-Seite: Welche Tools sind freigegeben, welche nicht. Welche Daten dürfen rein, welche nicht (Kundendaten, Bankdaten). Wer hat Entscheidungsbefugnis bei Ausnahmen. Unterschrift des Inhabers.

Schritt 4 - Protokoll (30 Minuten): Datum des Workshops, Teilnehmende, Entscheidungen, nächste Überprüfung (Empfehlung: 12 Monate). Das ist das Dokument, das bei einer Nachfrage einer Behörde vorgezeigt wird.

Kein IT-Mitarbeiter nötig. Keine externe Rechtsberatung zwingend erforderlich für Niedrig-Risiko-Setups. Zwei Stunden Geschäftsführerzeit und ein Dokument. Das ist nach unserer Erfahrung der realistische Mindeststandard für die große Mehrheit der KMU-Betriebe.

Wer darüber hinausgeht — etwa weil personenbezogene Daten in KI-Systemen verarbeitet werden — braucht einen Auftragsverarbeitungsvertrag mit dem Anbieter und eine kurze Datenschutz-Folgenabschätzung. Das ist eine Anwaltsstunde, kein Halbjahresprojekt.

---

Typische Fehler ohne IT-Backup — und wie man sie umgeht

Die meisten Probleme entstehen nicht im Build, sondern in der Vorbereitung. Drei Muster sehen wir regelmäßig.

Fehler 1: Consumer-Tools mit echten Daten. Mitarbeitende nutzen die kostenlose Version von ChatGPT und tippen Kundendaten, Angebote oder Vertragsdetails hinein. Das Tool trainiert auf diesen Daten — und die Daten verlassen das Haus ohne AV-Vertrag. Lösung: Klare Richtlinie (siehe Governance-Abschnitt), freigegebene Alternative bereitstellen, nicht nur verbieten.

Fehler 2: Scope-Ausweitung nach dem Start. Der erste Pilot läuft gut, also wird der nächste Prozess sofort angehangen. Danach noch einer. Nach sechs Wochen ist nichts fertig, aber alles angefangen. Ohne IT-Abteilung gibt es niemanden, der den technischen Schulden-Berg manage. Lösung: Pro Quartal ein Prozess. Nicht mehr.

Fehler 3: Kein Monitoring nach Go-live. KI-Modelle driften. Das Sprachmodell, das im Oktober präzise Anfragen kategorisiert hat, macht im Februar andere Fehler — weil sich die Formulierungen der eingehenden Anfragen verändert haben oder weil das Modell ein Update erhalten hat. Ohne jemanden, der das wöchentlich in zehn Minuten prüft, merkt man das erst, wenn ein Kunde sich beschwert. Lösung: Monitoring-Routine festlegen, bevor der Pilot live geht.

---

Externe Unterstützung: Was intern trotzdem bleibt

Ein externer Dienstleister kann bauen, einrichten und schulen. Was er nicht kann: die interne Verantwortung dauerhaft übernehmen. Der Prozessverantwortliche, der Daten-Hüter, der Management-Sponsor — diese drei Rollen bleiben intern, egal wie gut der Dienstleister ist.

Das ist keine Einschränkung, sondern eine Schutzfunktion: Wer diese Rollen nicht besetzt, baut eine Abhängigkeit auf, die monatlich Geld kostet ohne echten Kompetenzaufbau.

Welche Kriterien bei der Auswahl eines KI-Dienstleisters wirklich zählen, welche Kosten realistisch sind und wann externe KI-Einführung sich nicht lohnt, steht ausführlich im Beitrag KI-Einführung im Mittelstand: Was Sie erwarten.

KI Use Cases im Mittelstand

---

Fazit

Keine IT-Abteilung ist kein Argument gegen KI-Einführung. Es ist ein Argument dafür, die Struktur vorher zu klären: drei interne Rollen benennen, einen Prozess wählen, Erfolgskriterien festlegen. Mit externem Dienstleister oder passenden No-Code-Tools ist das in 30 bis 90 Tagen produktiv — mit 4 bis 8 Stunden interner Investition im ersten Monat.

Die Governance-Anforderungen nach EU AI Act sind für Standardfälle im KMU kleiner als sie klingen: zwei Stunden Workshop, eine Richtlinie, ein Protokoll. Das ist der Mindeststandard — und er reicht nach unserer Erfahrung für die große Mehrheit der Betriebe.

Der wichtigste Einzelfaktor ist nicht das Tool. Es ist der Prozessverantwortliche, der täglich mit dem Prozess arbeitet und Ausnahmen entscheiden kann. Wer diese Person benennt, bevor das Projekt beginnt, ist weiter als die meisten Betriebe, die schon angefangen haben.

Mehr zum Gesamtrahmen: KI-Automatisierung im Mittelstand - Praxis-Guide

---

Quellen: Bitkom, „Künstliche Intelligenz in Deutschland 2025" (bitkom.org); Synclaro/IfM Bonn, „KI-Nutzung in deutschen KMU 2025" (synclaro.de); Zukunftszentren, Praxisberichte KMU-KI-Einführung 2025 (zukunftszentren.de); EU AI Act, Verordnung (EU) 2024/1689, Art. 16 (EUR-Lex).