Sprachmodelle können vorhandene Informationen ordnen, Varianten erzeugen, Texte verdichten und Zusammenhänge sichtbar machen. Sie können ebenso eine falsche Annahme sprachlich überzeugend wiedergeben. Ohne ausreichende Fachkenntnis ist dieser Unterschied schwer zu erkennen.
Das US-amerikanische National Institute of Standards and Technology (NIST) verwendet dafür den Begriff Confabulation: Generative Systeme können falsche Inhalte selbstbewusst als richtig präsentieren. Das ist kein seltener Softwarefehler, der mit dem nächsten Update grundsätzlich verschwindet. Sprachmodelle erzeugen Text, indem sie statistisch wahrscheinliche Fortsetzungen berechnen. Wahrheit und Wahrscheinlichkeit sind dabei nicht dasselbe.
Anwendungen mit tolerierbarer Ergebnisunsicherheit
Viele betriebliche Aufgaben benötigen keine mathematisch eindeutige Antwort. Ein Entwurf für eine Kundenmail darf überarbeitet werden. Eine Zusammenfassung soll die relevanten Abschnitte schneller auffindbar machen. Ideen für eine Messekampagne werden ohnehin von Menschen bewertet. Hier kann ein Sprachmodell in Sekunden Material liefern, für das vorher eine leere Seite überwunden werden musste.
Geeignete Aufgaben haben drei Merkmale: Das Ergebnis ist leicht prüfbar, ein Fehler verursacht keinen unmittelbaren Schaden und es existiert Raum für mehrere gute Lösungen. Dazu gehören beispielsweise:
- Entwürfe, Gliederungen und sprachliche Überarbeitung,
- Klassifikation eingehender Nachrichten mit einer sichtbaren Restunsicherheit,
- Zusammenfassungen, die auf die Originalquelle verlinken,
- Suche in freigegebenen internen Dokumenten,
- Vorschläge für Testfälle, Fragen oder Alternativen.
Anwendungen mit verbindlichen Fachanforderungen
Bei Statik, Steuerrecht, Produktsicherheit, medizinischen Aussagen oder verbindlichen Preisen reicht „klingt plausibel“ nicht. Dort muss eine Aussage auf Normen, Messwerten, Verträgen oder freigegebenen Stammdaten beruhen. Das Modell kann Dokumente auffinden oder einen Rechenweg erklären; die belastbare Entscheidung braucht jedoch eine deterministische Berechnung und fachliche Verantwortung.
Ein praktischer Test lautet: Kann ein qualifizierter Mitarbeiter das Ergebnis in weniger Zeit prüfen, als er für die Erstellung benötigt hätte? Wenn ja, ist KI eine sinnvolle Assistenz. Wenn die Prüfung genauso aufwendig ist oder der Prüfer die Fachkenntnis nicht besitzt, entsteht nur schneller mehr Material – kein Produktivitätsgewinn.
Abhängigkeit der Ergebnisqualität vom Fachwissen
Angenommen, ein Konstrukteur kennt Werkstoff, Lastfall und einschlägige Norm. Er lässt sich mögliche Fehlerbilder und eine Prüfcheckliste vorschlagen. Das Modell verbreitert seinen Blick, der Experte verwirft Unpassendes und ergänzt Messwerte. Das vorhandene Wissen wird positiv multipliziert.
Anders sieht es aus, wenn ein fachfremder Nutzer eine verbindliche Materialfreigabe verlangt und die erste Antwort ungeprüft übernimmt. Eine erfundene Normnummer oder nicht berücksichtigte Temperaturgrenze erhält durch flüssige Sprache den Anschein von Autorität. Das fehlende Wissen wird zum negativen Faktor. Je autonomer der nachgelagerte Prozess, desto größer kann der Schaden werden.
Quellen, Protokollierung und Freigabe
Die wichtigste technische Leitplanke ist eine Trennung zwischen Modellwissen und Unternehmensfakten. Preise, Kundendaten, Spezifikationen und Prozessstatus werden aus autorisierten Systemen abgerufen. Das Sprachmodell formuliert daraus eine Antwort und nennt die verwendeten Quellen. Fehlt eine Quelle, muss es „nicht belegt“ melden dürfen.
Dafür braucht ein produktives System mindestens:
- eine begrenzte Aufgabe und benannte Datenquellen,
- Protokollierung von Eingabe, Modellversion, Quellen und Ausgabe,
- Tests mit bekannten Grenz- und Fehlerfällen,
- eine Freigabestufe entsprechend dem möglichen Schaden,
- Monitoring für Qualitätsabfall und veränderte Daten.
NIST strukturiert KI-Risikomanagement mit den Funktionen Govern, Map, Measure, Manage: Verantwortung festlegen, Kontext verstehen, Leistung messen und Risiken behandeln. Das klingt weniger spektakulär als autonome Agenten, ist aber die Voraussetzung dafür, dass aus einer beeindruckenden Demonstration ein belastbares Werkzeug wird.
Abgrenzung geeigneter Aufgaben
KI kann eine Stunde Recherche auf Minuten verkürzen, Softwareentwürfe beschleunigen oder unstrukturierte Dokumente zugänglich machen. Sie hebt jedoch nicht die Regeln guter Arbeit auf. Je präziser ein Ergebnis sein muss, desto wichtiger werden Fachwissen, Quellen und Tests.
Der produktive Ansatz lautet deshalb nicht „Mensch oder KI“. Er lautet: Welche Teile verlangen Urteil, welche verlangen exakte Berechnung und welche profitieren von sprachlicher Mustererkennung? Unternehmen, die diese Grenze bewusst ziehen, erhalten den Multiplikator – ohne die Verantwortung an ein Wahrscheinlichkeitsmodell abzugeben.