Bildquelle: Pexels / https://www.pexels.com/photo/3861969/
Kurz gesagt Generative KI liefert Texte, Vorschläge und Zusammenfassungen, die im Service Desk, im Wissensmanagement und im IT-Betrieb sehr hilfreich sein können. Sie kann aber auch überzeugend klingen, obwohl eine Quelle fehlt, ein Kontext veraltet ist oder eine Regel falsch angewendet wurde. Für ITSM zählt deshalb nicht nur, ob eine KI-Antwort schnell wirkt. Entscheidend ist, ob Menschen erkennen können, worauf sie sich stützt und wo ihre Grenze liegt.
Der Beipackzettel zur KI-Antwort ist keine schöne Zusatzfunktion. Er ist ein Betriebswerkzeug. Er zeigt, welche Wissensartikel, Tickets, Handbücher oder Richtlinien eingeflossen sind, wann diese Informationen zuletzt geprüft wurden und ob die Antwort nur ein Vorschlag oder bereits eine freigegebene Handlungsempfehlung ist. Ohne diese Angaben wird aus Automatisierung schnell Vertrauensarbeit auf Zuruf.
Die Antwort ist nicht das ganze Ergebnis
Im Servicebetrieb entsteht Wert selten durch einen einzelnen Satz. Wert entsteht, wenn eine Antwort zur richtigen Entscheidung führt. Ein Agent kann ein Passwortproblem erklären, einen Workaround vorschlagen oder eine Störungsmeldung zusammenfassen. Trotzdem bleibt offen, ob der Vorschlag zur aktuellen Umgebung passt, ob er für betroffene Systeme freigegeben ist und ob ein Mensch ihn prüfen muss.
Gerade für Generalisten ist das wichtig. Sie müssen nicht jede technische Einzelheit kennen, aber sie müssen Verantwortung einschätzen können. Eine KI-Antwort braucht deshalb Kontext in normaler Sprache: Welche Quellen wurden genutzt? Welche Annahme steckt dahinter? Welche Fälle sind ausgeschlossen? Welche Rolle darf die Entscheidung treffen? Erst dann wird aus einer plausiblen Formulierung ein belastbarer Arbeitsschritt.
Quellen machen Geschwindigkeit prüfbar
Retrieval Augmented Generation, kurz RAG, verbindet ein Sprachmodell mit ausgewählten Wissensquellen. Statt nur aus dem allgemeinen Modellgedächtnis zu antworten, sucht das System passende Dokumente und baut daraus eine Antwort. Microsoft beschreibt bei RAG-Architekturen unter anderem die Bedeutung von Datenaufbereitung, Suche, Bewertung und laufender Verbesserung. Für den Betrieb heißt das: Die Qualität der Antwort hängt stark an der Qualität der angebundenen Wissensbasis.
Genau hier beginnt ITSM-Arbeit. Wenn alte Prozessseiten, doppelte Wissensartikel oder nicht mehr gültige Anleitungen im Suchraum liegen, kann die KI sie sauber klingend neu verpacken. Der Fehler sieht dann moderner aus, bleibt aber ein Wissensfehler. Deshalb sollten KI-Antworten sichtbar machen, welche Dokumente verwendet wurden und welche Version oder welches Aktualisierungsdatum dahintersteht.
Ein guter Beipackzettel beantwortet vier Fragen
Für den Alltag reicht oft ein kleiner, konsequenter Standard. Erstens: Welche Quellen wurden herangezogen? Zweitens: Wie aktuell sind diese Quellen? Drittens: Für welchen Geltungsbereich ist die Antwort gedacht, etwa nur für interne Arbeitsplätze, nur für eine Anwendung oder nur für eine bestimmte Kundengruppe? Viertens: Was darf der Nutzer mit der Antwort tun, also direkt handeln, an den Second Level geben oder erst eine Freigabe einholen?
Diese Angaben müssen nicht kompliziert sein. Eine Antwort kann unter dem Text drei verlinkte Wissensartikel zeigen, ein Prüfdatum nennen und mit einem kurzen Hinweis enden: „Vorschlag, nicht automatisch freigegeben“. Für wiederkehrende Standardfälle kann der Hinweis anders lauten: „Freigegebener Ablauf für Störungsklasse A“. So entsteht Klarheit, ohne dass jeder KI-Vorschlag in Bürokratie versinkt.
Risiken entstehen auch durch fremde Eingaben
Die OWASP Top 10 for Large Language Model Applications nennen Prompt Injection als zentrales Risiko. Gemeint ist, dass Eingaben oder eingebundene Inhalte ein KI-System dazu bringen können, Anweisungen falsch zu gewichten oder Schutzregeln zu umgehen. Für ITSM ist das keine akademische Spezialfrage. Wenn Tickets, E-Mails, Webseiten oder Dokumente automatisch in Antworten einfließen, können darin auch manipulative oder schlicht falsche Informationen stecken.
Ein sichtbarer Beipackzettel hilft hier doppelt. Er macht nachvollziehbar, aus welcher Quelle eine Aussage stammt. Und er erinnert daran, dass eingebundene Inhalte nicht automatisch vertrauenswürdig sind. Kritische Schritte wie Rechtevergabe, Löschung, Produktionsänderung oder externe Kundenkommunikation brauchen daher zusätzliche Grenzen. Die KI darf vorbereiten, aber nicht ohne klare Regel entscheiden.
Verantwortung bleibt eine Betriebsfrage
Das NIST AI Risk Management Framework beschreibt KI-Risiken unter anderem entlang von Steuerung, Messung und Management. Für den Servicebetrieb lässt sich daraus eine einfache Lehre ziehen: Eine Organisation muss festlegen, wer KI-Antworten verantwortet, wie Qualität gemessen wird und wann ein System nicht eingesetzt werden darf. Die Technik allein beantwortet diese Fragen nicht.
Praktisch braucht es dafür Rollen. Das Wissensmanagement prüft Artikelqualität und Aktualität. Der Service Owner entscheidet, welche Antworten als Ablauf taugen. Security und Datenschutz setzen Grenzen für sensible Daten. Der Service Desk meldet Fälle zurück, in denen die KI hilfreich, unklar oder falsch war. Aus diesen Rückmeldungen entsteht die Lernschleife, die KI im Betrieb besser macht.
Der wichtigste Prüfpunkt liegt vor dem Rollout
Ein KI-Assistent sollte nicht erst im Livebetrieb lernen, welche Antworten gefährlich sind. Vor dem Rollout braucht es Testfälle aus echten Service-Situationen: einfache Fragen, mehrdeutige Fragen, veraltete Wissensartikel, kritische Berechtigungsfälle, Kundendaten, Ausfälle und Eskalationen. Die Prüfung sollte nicht nur messen, ob die Antwort nett klingt. Sie muss messen, ob Quelle, Grenze und empfohlener nächster Schritt stimmen.
Auch nach dem Start bleibt die Arbeit nicht stehen. Wissensartikel altern, Systeme ändern sich, Zuständigkeiten wandern. Wer KI-Antworten nutzt, braucht deshalb eine Pflege-Routine für Quellen, Feedback und Sperrbereiche. Der Beipackzettel macht diese Routine sichtbar. Er zeigt, ob das System auf gepflegtes Wissen zugreift oder nur auf eine wachsende Ablage.
Vertrauen entsteht durch Nachvollziehbarkeit
KI im Service Desk soll Arbeit erleichtern, nicht neue Unsicherheit schaffen. Eine schnelle Antwort ohne Herkunft kann kurzfristig beeindrucken. Im Betrieb zählt aber, ob sie erklärbar, prüfbar und verantwortbar ist. Der sichtbare Beipackzettel bringt genau diese Eigenschaften in den Arbeitsfluss.
Damit wird KI nicht kleiner gemacht. Sie wird nutzbarer. Teams können schneller reagieren, ohne blind zu vertrauen. Führungskräfte sehen, welche Governance nötig ist. Und der Service Desk bekommt ein Werkzeug, das nicht nur formuliert, sondern beim Entscheiden hilft. Gute KI-Antworten enden deshalb nicht beim Text. Sie zeigen, warum man ihnen in diesem konkreten Fall folgen darf.
Quellen und Einordnung NIST AI Risk Management Framework, OWASP Top 10 for Large Language Model Applications und Microsoft RAG-Architekturleitfaden. Stand der Quellenprüfung: 18.06.2026.
