KI im Unternehmen 2

Was eine KI weiß

Ein KI-Assistent ist immer nur so schlau wie die Infos, die man ihm für seine Antwort hinlegt. Diese Hintergrundinfos nennt man Kontext. Lange dachte man, es käme vor allem darauf an, die Frage an die KI (den sogenannten Prompt) möglichst geschickt zu formulieren. Doch das eigentliche Problem liegt ganz woanders: Welche Daten bekommt die KI überhaupt zu sehen – und sind diese aktuell, erlaubt und richtig?

Typische Pannen aus dem Alltag

• Die KI nennt veraltete Lagerbestände, weil ihre Datengrundlage seit Monaten nicht gepflegt wurde.
• Die KI fasst einen geheimen Vertrag zusammen, den der fragende Mitarbeiter eigentlich gar nicht lesen dürfte.
• Die KI übernimmt eine Korrektur, widerspricht ihr aber schon im nächsten Absatz wieder.
• Die KI redet von einem Computersystem, das längst abgeschaltet ist.

Keine dieser Pannen lässt sich mit einer besser formulierten Frage lösen. Sie passieren schon vorher – nämlich dann, wenn die Hintergrundinfos für die KI zusammengestellt werden.

Die wichtigsten Grundregeln

• Infos brauchen einen „Steckbrief“: Jede Information braucht klare Angaben zu Quelle, Datum, Zugriffsrechten und Verlässlichkeit. Was diesen Check nicht besteht, darf die KI gar nicht erst zu sehen bekommen.
• Weniger ist mehr: Je mehr Text man der KI auf einmal gibt, desto schusseliger wird sie. Infos, die mitten in langen Texten versteckt sind, übersieht sie leicht. Viele Programme lassen schon bei rund 32.000 bis 64.000 Textbausteinen (ungefähr 50 bis 100 Buchseiten) spürbar nach.
• In der richtigen Schublade suchen: Manche Fragen lassen sich nur mit einer exakten Tabelle richtig beantworten – eine grobe Stichwortsuche liefert hier oft nur einen vagen Textabschnitt. Man muss also zuerst den richtigen Suchweg wählen und danach die besten Treffer sortieren.
• Geheimnisse bleiben geheim: Die KI darf nur das lesen, was der jeweilige Nutzer auch selbst öffnen dürfte. Hat die KI ein Dokument einmal gesehen, plaudert sie den Inhalt sonst leicht aus.
• Verfallsdatum für Infos: Jede Info braucht ein Ablaufdatum. Aktuelle Preise gelten oft nur für Stunden, interne Firmenregeln vielleicht für Wochen.
• Das Gedächtnis sauber halten: Dinge, die sich die KI dauerhaft merken soll, müssen viel strenger geprüft werden als Infos für eine einmalige Antwort. Schleicht sich hier ein Fehler ein, verdirbt er sonst jedes zukünftige Gespräch.
• Daten und Befehle trennen: Eine KI kann normale Texte und direkte Arbeitsanweisungen nicht sicher auseinanderhalten. Genau das nutzen Hacker bei sogenannten „Prompt Injections“ aus – laut Sicherheitsexperten (OWASP) aktuell die größte Gefahr bei KI-Programmen.

Fehlern auf die Spur kommen Wenn die KI Quatsch erzählt, gibt es dafür fünf mögliche Gründe. Nur beim allerletzten hilft es, die Frage anders zu stellen oder ein besseres KI-Modell zu nutzen:

• Die nötige Info wurde gar nicht erst gefunden.
• Sie wurde zwar gefunden, aber aus Platzgründen wieder aussortiert.
• Sie war da, aber völlig veraltet.
• Sie war aktuell, wurde aber von einer unwichtigeren Info verdrängt.
• Alle Infos waren perfekt – und die KI hat sich trotzdem geirrt.

Um herauszufinden, woran es lag, muss genau aufgezeichnet werden, welche Infos der KI vorlagen. Es reicht nicht, nur Frage und Antwort zu speichern.

Alles auf einen Blick

• KI trifft in Firmen heute echte Entscheidungen – und Fehler haben echte Folgen.
• Verlässlichkeit entsteht durch gute Technik, klare Abläufe und Teamwork, nicht durch schöne Worte auf dem Papier.
• Je schwerer sich ein KI-Fehler wieder ausbügeln lässt, desto genauer muss ein Mensch hinschauen.
• Eine KI ist nur so gut wie ihre Datenbasis: aktuell, erlaubt und aus einer klaren Quelle.
• Sicherheit und Tempo bremsen sich nicht aus – gute Regeln sorgen dafür, dass man langfristig sogar schneller vorankommt.

Die entscheidende Frage lautet also: Was können wir der KI anvertrauen – und wie stellen wir sicher, dass dieses Vertrauen auch berechtigt ist?

Die wichtigsten Fachbegriffe – ganz einfach erklärt

Begriff	Einfach erklärt
KI-Agent	Ein KI-Programm, das nicht nur chattet, sondern selbstständig Aufgaben erledigt – zum Beispiel E-Mails verschickt oder Daten ändert.
Sprachmodell (LLM)	Der „Motor“ hinter Chat-Assistenten: eine Software, die menschliche Sprache versteht und selbst Texte schreibt.
Prompt	Die Frage oder Arbeitsanweisung, die man in die KI eintippt.
Kontext	Alle Hintergrundinfos, die man der KI mitgibt, damit sie eine Frage beantworten kann.
Kontextfenster	Das „Kurzzeitgedächtnis“ der KI: die maximale Textmenge, die sie auf einmal verarbeiten kann.
Token	Ein kleiner Textbaustein (etwa eine Silbe oder ein kurzes Wort), mit dem die KI Textlängen misst.
Retrieval	Das automatische Heraussuchen passender Dokumente oder Daten für eine Anfrage.
Halluzination	Wenn eine KI völlig überzeugt und plausibel klingt, aber in Wahrheit frei erfundene Fakten erzählt.
Bias	Eine eingebaute Voreingenommenheit, durch die eine KI bestimmte Personengruppen unbewusst benachteiligt.
Prompt Injection	Ein Trick von Angreifern: In harmlos wirkenden Texten werden geheime Befehle versteckt, um die KI zu manipulieren.
Governance	Alle Spielregeln, Kontrollen und Zuständigkeiten für einen sicheren Umgang mit KI in der Firma.
EU AI Act	Das europäische KI-Gesetz, das je nach Risiko festlegt, wie streng KI-Programme kontrolliert werden müssen.

Kontaktieren Sie uns: