Vor dem KI-Piloten muss die Prüfspur stehen

Ein KI-Pilot kann fachlich nützlich sein und trotzdem schlecht vorbereitet starten. Für ITSM, Governance und Audit zählt nicht nur, ob ein Tool beeindruckende Antworten liefert. Entscheidend ist, ob später noch nachvollziehbar bleibt, wofür es eingesetzt wurde, welche Daten genutzt wurden, wer entschieden hat und wann ein Mensch eingreifen musste.

KI-Governance meint die Regeln, Rollen und Nachweise, mit denen eine Organisation den Einsatz künstlicher Intelligenz steuert. Sie soll nicht jedes Experiment ersticken. Sie soll verhindern, dass aus einem Test unbemerkt ein produktiver Dienst wird, dessen Risiken, Datenwege und Verantwortlichkeiten niemand mehr sauber erklären kann.

Der Pilot ist schon der erste Beleg

In der Praxis beginnt KI oft klein. Ein Team testet Zusammenfassungen, ein Service Desk probiert Antwortvorschläge, ein Fachbereich nutzt ein neues Analysewerkzeug. Solche Piloten wirken harmlos, weil sie noch nicht offiziell als Produktivsystem laufen. Genau dort entsteht aber ein Governance-Problem. Was nicht von Anfang an sauber beschrieben wird, lässt sich später nur mühsam rekonstruieren.

Eine Prüfspur ist deshalb kein Bürokratieanhang. Sie ist die fortlaufende Spur aus Zweck, Daten, Entscheidung, Freigabe, Testergebnis und Betriebsgrenze. Wer sie erst nach dem Erfolg eines Piloten nachzieht, muss Annahmen erraten. Für einen ITSM-Generalisten ist das riskant, weil Betrieb, Support, Datenschutz, Sicherheit und Fachbereich dann über denselben Einsatz sprechen, aber unterschiedliche Bilder im Kopf haben.

ISO 42001 macht Verantwortung greifbarer

ISO/IEC 42001 ist ein Managementsystem-Standard für künstliche Intelligenz. Vereinfacht gesagt beschreibt er, wie Organisationen Verantwortlichkeiten, Risiken, Kontrollen und Verbesserungen rund um KI systematisch führen können. Für Nicht-Spezialisten ist wichtig: Der Standard bewertet nicht nur ein einzelnes Modell, sondern den Umgang der Organisation mit KI als Managementaufgabe.

Für einen Pilotbetrieb bedeutet das: Schon früh muss klar sein, wer Eigentümer des Anwendungsfalls ist, welches Ziel getestet wird, welche Grenzen gelten und wie Ergebnisse bewertet werden. Ein Experiment ohne Eigentümer sieht beweglich aus, ist aber schwer prüfbar. Ein Experiment mit klarer Prüfspur kann dagegen schneller entscheiden, ob der Einsatz verworfen, angepasst oder kontrolliert ausgerollt wird.

Der EU AI Act verschiebt die Frage nach vorn

Der europäische AI Act ordnet KI-Systeme risikobasiert ein. Nicht jeder Einsatz ist gleich streng reguliert, aber die Logik ist eindeutig: Je stärker ein KI-System Menschen, Rechte, Sicherheit oder wichtige Entscheidungen berührt, desto genauer müssen Pflichten, Transparenz und Kontrolle betrachtet werden. Für ITSM heißt das nicht, dass jeder Pilot sofort ein Rechtsprojekt wird. Es heißt aber, dass der spätere Einsatzkontext früh sichtbar sein muss.

Ein Antwortvorschlag im internen Test ist etwas anderes als eine automatisch versendete Kundenantwort. Eine Zusammenfassung für die eigene Vorbereitung ist etwas anderes als ein Text, der ungeprüft in ein Ticket oder eine Entscheidungsvorlage wandert. Die Prüfspur muss deshalb festhalten, wo der Pilot endet und wo produktive Wirkung beginnt. Ohne diese Grenze wird aus einem Test schleichend ein Betriebsprozess.

NIST denkt KI als steuerbares Risiko

Das NIST AI Risk Management Framework beschreibt KI-Risiken als etwas, das Organisationen verstehen, messen, steuern und überwachen sollen. Diese Wörter klingen abstrakt, lassen sich im IT-Betrieb aber gut übersetzen. Verstehen heißt: Welche Aufgabe soll das Tool erfüllen? Messen heißt: Woran erkennen wir brauchbare und gefährliche Ergebnisse? Steuern heißt: Wer darf Regeln ändern? Überwachen heißt: Welche Abweichungen fallen im Betrieb auf?

Für KI-Piloten lohnt sich deshalb eine einfache Kontrollliste. Welche Daten dürfen hinein? Welche Daten dürfen nicht hinein? Wer prüft Ausgaben, bevor sie an Nutzer, Kunden oder Fachbereiche gehen? Welche Fehlerarten sind kritisch? Was passiert, wenn das Tool überzeugend klingt, aber fachlich falsch liegt? Solche Fragen bremsen nicht den Nutzen. Sie machen ihn belastbarer.

Der Service Desk braucht klare Betriebsgrenzen

Besonders sichtbar wird die Prüfspur im Service Desk. Dort kann KI helfen, Tickets zu strukturieren, Wissensartikel vorzuschlagen oder Antworten vorzubereiten. Gleichzeitig darf niemand raten müssen, ob eine KI-Antwort nur ein Vorschlag ist oder bereits eine freigegebene Aussage. Der Unterschied ist für Nutzervertrauen, Haftung, Qualität und Eskalation entscheidend.

Ein sauberer Pilot dokumentiert deshalb mindestens vier Grenzen. Erstens: Welche Ticketarten sind erlaubt? Zweitens: Welche Antwort darf nie automatisch rausgehen? Drittens: Welche Rolle prüft die Ausgabe? Viertens: Welche Kennzahl zeigt, dass der Pilot nicht zuverlässig genug ist? Diese Grenzen gehören nicht in einen privaten Chatverlauf, sondern in ein auffindbares Betriebsartefakt.

Eine gute Prüfspur macht den Rollout schneller

Der Nutzen einer Prüfspur zeigt sich, wenn der Pilot erfolgreich wirkt. Dann muss nicht neu diskutiert werden, ob das Tool irgendwie hilfreich war. Das Team kann prüfen, ob Ziel, Datenlage, Qualität, Risiken, Supportfähigkeit und Verantwortlichkeit bereits belastbar sind. Wenn ja, wird der Übergang in den Betrieb einfacher. Wenn nein, ist sichtbar, welche Lücke vor einem Rollout geschlossen werden muss.

Die wichtigste Frage vor dem Start lautet daher nicht: Welches KI-Tool testen wir zuerst? Sie lautet: Welche Entscheidung wollen wir nach dem Piloten sicher treffen können? Wer diese Frage sauber beantwortet, baut automatisch die richtige Prüfspur. Dann wird der KI-Pilot nicht nur ein technischer Versuch, sondern ein nachvollziehbarer Schritt zu kontrollierter Automatisierung.

Quellen und Einordnung: ISO zu ISO/IEC 42001 für KI-Managementsysteme, Europäische Kommission zum AI Act, NIST AI Risk Management Framework. Stand der Quellenprüfung: 13.07.2026. Bildquelle: Pexels, Foto-ID 4792285.