KI-Werkhalle

Wissen / Einstieg

Was ist KI eigentlich? Die wichtigsten Begriffe für den Betrieb

6 Min. Lesezeit · Stand: November 2026 · Adis Poparic

Wenn heute im Mittelstand von „KI“ die Rede ist, meinen fast alle dasselbe: generative KI, also Systeme wie ChatGPT, Claude, Gemini oder Copilot, die Texte, Tabellen, Code oder Bilder erzeugen. Dahinter steckt fast immer ein großes Sprachmodell. Wer die Grundbegriffe kennt, kann Anbieter besser vergleichen und Risiken realistisch einschätzen.

Wie ein Sprachmodell arbeitet

Ein Sprachmodell (englisch Large Language Model, LLM) wurde mit sehr großen Textmengen trainiert. Es hat dabei gelernt, welches Wort mit welcher Wahrscheinlichkeit auf die bisherigen Wörter folgt. Wenn du eine Frage stellst, erzeugt es die Antwort Stück für Stück aus diesen Wahrscheinlichkeiten.

Daraus folgen zwei Dinge, die man im Betrieb immer im Kopf haben sollte:

Die Begriffe, die du kennen solltest

BegriffWas es bedeutetBeispiel aus dem Betrieb
PromptDie Anweisung bzw. Frage an die KI, inklusive mitgegebener Daten.„Lies diese Lieferanten-AB aus und vergleiche Menge und Termin mit unserer Bestellung.“
TokenDie Recheneinheit der Modelle: ein Wortteil. Im Deutschen grob 3–4 Zeichen. Abgerechnet wird bei der API nach Tokens.Eine typische Bestell-E-Mail mit Anhang hat einige tausend Tokens.
KontextfensterWie viel Text das Modell in einer Anfrage gleichzeitig berücksichtigen kann. Aktuelle Spitzenmodelle schaffen rund 1 Million Tokens.Ein komplettes Handbuch oder mehrere hundert Seiten Verträge passen in eine Anfrage.
HalluzinationDie KI erfindet plausibel klingende, aber falsche Inhalte.Eine Artikelnummer, die es nicht gibt, oder eine erfundene Norm.
Reasoning / „Denken“Das Modell arbeitet eine Aufgabe intern in Schritten durch, bevor es antwortet. Genauer, aber langsamer und teurer.Kalkulationslogik prüfen, Fehler in einer Excel-Formel finden.
MultimodalDas Modell versteht nicht nur Text, sondern auch Bilder, PDFs, teilweise Audio und Video.Foto eines Typenschilds auslesen, gescannten Lieferschein verarbeiten.
RAGRetrieval Augmented Generation: Die KI sucht vor der Antwort in deinen eigenen Dokumenten und antwortet auf dieser Grundlage – mit Quellenangabe.Wissensassistent für Arbeitsanweisungen oder Service-Handbücher.
AgentEine KI, die nicht nur antwortet, sondern selbstständig mehrere Schritte ausführt und dabei Werkzeuge nutzt.„Prüfe alle offenen Bestellungen mit Terminverzug und entwirf Mahnungen.“
Schnittstelle (API, MCP)Wege, wie Programme mit der KI oder die KI mit deinen Systemen sprechen.KI liest Bestände aus dem ERP. Mehr dazu im Artikel MCP oder API.

Was KI gut kann – und was nicht

Stark bei

  • Texte lesen, zusammenfassen, übersetzen, umformulieren
  • unstrukturierte Daten in Struktur bringen (E-Mail → Tabelle)
  • Entwürfe: Angebote, Antworten, Arbeitsanweisungen, Protokolle
  • Code, Excel-Formeln, kleine Auswertungen
  • Muster und Auffälligkeiten in Texten erkennen

Schwach bei

  • exakte Fakten ohne Quelle (Preise, Normen, Lieferzeiten)
  • verlässlichem Rechnen ohne Werkzeug
  • Entscheidungen mit Haftung – die bleiben beim Menschen
  • aktuellem Wissen über deinen Betrieb, das sie nicht bekommen hat
  • gleichbleibenden Ergebnissen: dieselbe Frage kann leicht unterschiedliche Antworten liefern

Was das für den Mittelstand heißt

Die KI ist ein sehr fähiger Sachbearbeiter am ersten Tag: schnell, sprachlich stark, aber ohne Betriebswissen. Deshalb gilt in der Praxis:

  1. Stammdaten, Preise und Regeln kommen aus dem ERP, nicht aus der KI.
  2. Ergebnisse werden geprüft – entweder vom Menschen oder automatisch gegen das ERP.
  3. Firmendaten nur in freigegebene Tools mit Vertrag zur Auftragsverarbeitung. Warum, steht im Artikel Was passiert mit meinen Daten?

Merksatz: Die KI liest und versteht. Das ERP kennt die Wahrheit. Der Mensch entscheidet.

Recherche und Entwurf mit KI-Unterstützung, geprüft und verantwortet von Adis Poparic.