KI-Kompetenz · EU AI Act

KI im Unternehmen: Wer sie nutzt, muss sie nachweislich beherrschen

Was der EU AI Act vom Mittelstand verlangt – und warum am Ende immer ein Nachweis steht.

Künstliche Intelligenz ist im Mittelstand angekommen – oft schneller, als Regeln und Schulungen folgen. ChatGPT formuliert E-Mails, Copilot fasst Besprechungen zusammen, Bildgeneratoren liefern Motive für Social Media. Der Nutzen ist real – und genau deshalb steigt die Verantwortung. Denn KI macht Fehler, verarbeitet sensible Daten und erzeugt Inhalte mit rechtlicher Wirkung.

Mit dem EU AI Act ist daraus eine Pflicht geworden: Wer KI im Betrieb einsetzt, muss dafür sorgen, dass die Mitarbeitenden kompetent damit umgehen – und das im Zweifel belegen können. Eine dokumentierte Schulung ist damit kein „Nice-to-have“, sondern Teil eines verantwortungsvollen KI-Einsatzes.

1. Was verlangt der EU AI Act?

Der EU AI Act ist die europäische Verordnung für Künstliche Intelligenz. Sie folgt einem risikobasierten Ansatz und unterscheidet vier Stufen – von minimalem über begrenztes und hohes bis zu unannehmbarem Risiko. Für den Alltag im Mittelstand entscheidend ist jedoch eine andere Vorgabe: Anbieter und Betreiber von KI-Systemen müssen dafür sorgen, dass die Personen, die in ihrem Auftrag mit KI arbeiten, über ein ausreichendes Maß an KI-Kompetenz verfügen.

Das betrifft nicht nur Konzerne mit komplexen Hochrisiko-Anwendungen. Schon der tägliche Einsatz eines Textassistenten löst die Anforderung aus. Wie tief geschult werden muss, richtet sich nach dem konkreten Einsatz: Wer KI nur für Formulierungsvorschläge nutzt, braucht weniger als ein Betrieb, der KI in Personal-, Finanz- oder sicherheitsrelevanten Prozessen einsetzt. Die Konsequenz ist in jedem Fall dieselbe – schulen und dokumentieren.

2. Sicherer Umgang mit KI im Arbeitsalltag

KI ist nur so gut wie die Aufgabe, die sie erhält, und die Prüfung, die danach erfolgt. Eine klare Eingabe – ein guter „Prompt“ mit Rolle, Aufgabe, Kontext, Zielgruppe und Format – führt zu brauchbaren Ergebnissen. Entscheidend ist jedoch der zweite Schritt: die Kontrolle. KI kann „halluzinieren“, also überzeugend klingende, aber falsche Aussagen liefern – erfundene Quellen, veraltete Rechtslagen oder falsche Zahlen.

Deshalb gilt: wichtige Fakten prüfen, Quellen hinterfragen und bei folgenreichen Inhalten – rechtliche Aussagen, verbindliche Kundenkommunikation, sicherheitsrelevante Informationen – das Vier-Augen-Prinzip anwenden. Wer das in der Belegschaft verankert, vermeidet die häufigste Fehlerquelle: das ungeprüfte Übernehmen.

3. Datenschutz und Geschäftsgeheimnisse

Viele KI-Werkzeuge funktionieren über Eingaben – und wer Daten eingibt, muss wissen, was mit ihnen geschieht. Personenbezogene Daten, echte Kundendaten und vertrauliche Unterlagen gehören nicht ungeprüft in öffentliche KI-Tools. Auch Geschäftsgeheimnisse wie Kalkulationen, Preislisten, Kundenlisten oder interne Strategien sind tabu, solange keine ausdrückliche Freigabe und technische Sicherheit bestehen.

Häufig lässt sich KI nutzen, ohne sensible Daten preiszugeben – durch Anonymisieren, Verallgemeinern oder den Einsatz eines freigegebenen, datenschutzkonformen Unternehmenssystems. Statt einen kompletten Vertrag zu kopieren, beschreibt man die Aufgabe abstrakt.

4. Urheberrecht und Inhalte

KI erstellt in Sekunden Texte, Bilder und Präsentationen – doch das Ergebnis ist nicht automatisch rechtlich unbedenklich oder fachlich richtig. Texte müssen auf Richtigkeit, Quellen und unzulässige Werbung geprüft werden. KI-Bilder können Persönlichkeits-, Marken- oder Urheberrechte verletzen oder irreführen. Und ein professionell aussehendes Layout ist kein Beleg für inhaltliche Korrektheit.

Wichtig ist die Grundregel: Wer einen KI-Inhalt nutzt oder veröffentlicht, trägt dafür die Verantwortung. Wirken Inhalte täuschend echt – etwa bei synthetischen Bildern oder Deepfakes – kann zudem eine Kennzeichnung erforderlich oder sinnvoll sein.

5. KI in typischen KMU-Bereichen

KI ist kein Thema nur für Großkonzerne. Gerade kleine und mittlere Unternehmen können Zeit sparen und Qualität gewinnen – wenn sie wissen, wo der Einsatz hilft und wo Vorsicht geboten ist:

Den größten Nutzen bringt KI dort, wo sie Routinearbeit erleichtert und den Mitarbeitenden mehr Zeit für Qualität, Kunden und Entscheidungen verschafft.

6. Verantwortung des Menschen

So beeindruckend KI-Ergebnisse wirken – KI hat kein Verantwortungsbewusstsein, keine Berufserfahrung und keine rechtliche Haftung. Sie ist ein Assistenzsystem. Echte menschliche Kontrolle bedeutet mehr, als auf „OK“ zu klicken: das Ergebnis verstehen, die Plausibilität prüfen, Quellen und Auswirkungen einschätzen sowie rechtliche und ethische Grenzen beachten.

Im Betrieb sollte deshalb klar geregelt sein, wer KI wofür nutzen darf, wer die Ergebnisse prüft, wer freigibt und wann eskaliert wird.

7. Dokumentation, Nachweis und Bestätigung

Hier schließt sich der Kreis – und hier liegt der entscheidende Punkt: KI-Kompetenz muss nachvollziehbar sein. Die beste Schulung nützt im Zweifel wenig, wenn sich nicht belegen lässt, dass sie stattgefunden hat. Drei Bausteine machen die Maßnahme belastbar:

Dieser Beitrag dient der allgemeinen Information und Sensibilisierung. Er stellt keine individuelle Rechtsberatung dar und ersetzt diese nicht. Genannte rechtliche Rahmenbedingungen können sich ändern; konkrete Gestaltungen sollten stets im Einzelfall geprüft werden. © Gewerbezentrum Holstein.