KI im Unternehmen einsetzen: Nutzen schaffen, Risiken beherrschen

Mit einer konkreten Aufgabe statt mit einem allgemeinen KI-Wunsch starten

„Wir möchten KI einsetzen“ beschreibt noch kein Projekt. Belastbar wird die Entscheidung erst, wenn Eingang, gewünschtes Ergebnis, beteiligte Rollen und Qualitätsmaßstab feststehen.

Ein guter Pilot ist häufig, wiederkehrend und kontrollierbar. Er unterstützt Menschen bei Entwurf, Klassifikation oder Recherche, ohne sofort allein über Kunden, Beschäftigte oder finanzielle Folgen zu entscheiden.

• Welche Aufgabe kostet heute regelmäßig Zeit oder erzeugt Rückfragen?
• Welche Eingaben erhält das System und welches Ergebnis soll entstehen?
• Wer prüft das Ergebnis und darf es freigeben?
• Was passiert, wenn das System nicht verfügbar ist oder falsch liegt?

Der Nutzen einer KI-Anwendung wird am verbesserten Ablauf gemessen – nicht an der Zahl erzeugter Texte.

Datenregeln vor dem ersten produktiven Prompt festlegen

Beschäftigte brauchen eine klare Antwort darauf, welche Informationen in welches System eingegeben werden dürfen. Personenbezogene Daten, Geschäftsgeheimnisse, Kundendokumente, Quellcode und interne Verträge dürfen nicht ungeprüft in frei verfügbare Dienste gelangen.

Beim Anbieter werden Vertragsrollen, Speicherorte, Protokollierung, Trainingsnutzung, Löschung, Unterauftragnehmer, Zugriffe und Exportmöglichkeiten geprüft. Ein bezahltes Konto allein ist noch keine ausreichende Schutzmaßnahme.

• Datenklassen mit erlaubten, eingeschränkten und verbotenen Eingaben
• Freigegebene Produkte, Konten und technische Einstellungen
• Vertrags-, Datenschutz- und Drittlandprüfung
• Aufbewahrung von Eingaben, Ausgaben und Nutzungsprotokollen

Ergebnisse nach Risiko prüfen – nicht nach sprachlicher Überzeugungskraft

Generative Systeme können plausibel formulieren und dennoch falsche Quellen, veraltete Fakten oder unsicheren Code liefern. Für jeden Anwendungsfall wird daher festgelegt, was überprüft wird und welche Nachweise eine Freigabe benötigt.

Je größer die Wirkung auf Personen, Sicherheit oder Geschäftsentscheidungen, desto stärker müssen menschliche Aufsicht, dokumentierte Testfälle und eine Möglichkeit zum Widerspruch oder zur Korrektur sein.

• Fakten und Quellen gegen zugängliche Originale prüfen
• Rechenwege, Code und sicherheitsrelevante Empfehlungen testen
• Verzerrungen und ungeeignete Sprache anhand realistischer Fälle prüfen
• Kennzeichnen, wenn eine Transparenzpflicht oder redaktionelle Offenlegung greift

Ein flüssiger Text ist kein Qualitätsnachweis.

Die eigene Rolle und Risikoklasse nach dem AI Act einordnen

Der AI Act unterscheidet unter anderem Anbieter und Betreiber und folgt einem risikobasierten Ansatz. Die meisten einfachen Anwendungen sind nicht automatisch Hochrisiko-Systeme; für verbotene Praktiken, bestimmte Transparenzfälle und sensible Einsatzgebiete gelten jedoch besondere Anforderungen.

Seit Februar 2025 gelten unter anderem Vorgaben zu verbotenen Praktiken und KI-Kompetenz. Ab 2. August 2026 greifen gezielte Transparenzpflichten unter anderem für direkte KI-Interaktionen, täuschend echte synthetische Inhalte und bestimmte ungeprüfte Texte von öffentlichem Interesse. Die 2026 in Kraft getretene Fristanpassung verschiebt dagegen wesentliche Hochrisiko-Termine. Eine pauschale Kennzeichnung aller KI-unterstützten Inhalte folgt daraus nicht.

• Ist das Unternehmen Anbieter, Betreiber oder in mehreren Rollen tätig?
• Berührt der Zweck Beschäftigung, Bildung, Kredit, kritische Infrastruktur oder andere sensible Bereiche?
• Interagieren Menschen direkt mit einem KI-System oder werden öffentliche Inhalte erzeugt?
• Könnten künstlich erzeugte Bilder, Stimmen oder Szenen fälschlich für authentisch gehalten werden?
• Welche Kompetenz, Dokumentation, Transparenz und Aufsicht sind für den konkreten Fall nötig?

KI als betriebenes System mit Änderungen, Vorfällen und Ausstieg behandeln

Modelle, Schnittstellen, Bedingungen und Ergebnisse können sich ändern. Deshalb benötigt auch ein zunächst kleiner Anwendungsfall eine verantwortliche Stelle, regelmäßige Tests und einen Weg für Fehlermeldungen.

Ein Register der eingesetzten Systeme hält Zweck, Anbieter, Daten, Verantwortliche, Freigabestand und bekannte Grenzen zusammen. Bei Anbieterwechsel oder Abschaltung müssen Daten, Prompts, Integrationen und betriebliche Abhängigkeiten geordnet aufgelöst werden können.

• KI-Systemregister und verantwortliche Fachperson
• Schulung für erlaubte Nutzung, Prüfung und Eskalation
• Regelmäßige Qualitäts-, Datenschutz- und Sicherheitstests
• Vorfallweg bei Datenabfluss, Fehlentscheidung oder missbräuchlicher Ausgabe
• Export-, Abschalt- und Ersatzverfahren