Künstliche Intelligenz
Halluzination
Kurz gesagt
Als Halluzination bezeichnet man eine Ausgabe eines KI-Systems, die flüssig und plausibel klingt, aber sachlich falsch oder frei erfunden ist. Sie entsteht nicht aus einem Fehler im engeren Sinn, sondern aus der Funktionsweise selbst: Das System erzeugt die wahrscheinlichste Fortsetzung, auch dort, wo es keine belastbare Information gibt.
Ausführlicher
Am Telefon eines Betriebs ist das die teuerste Fehlerart, weil sie nicht auffällt. Ein System, das schweigt, merkt jeder. Ein System, das mit fester Stimme einen Liefertermin nennt, den es nicht kennt, merkt niemand — bis der Kunde sich beschwert.
Vermeiden lässt sich das nicht durch ein besseres Modell, sondern durch die Architektur: Auskünfte dürfen nur aus hinterlegtem Wissen und aus tatsächlich abgefragten Daten kommen, und ein nicht erreichbares Quellsystem muss als eigener Zustand behandelt werden — nicht als leeres Ergebnis.
Genau das ist bei MitFrauSchmidt im Datenmodell verankert: Ein Ausfall ist ein ausdrücklicher Fehlerfall und niemals eine leere Bestellung. „Ich kann das gerade nicht abrufen“ ist eine korrekte Antwort, „Ihre Bestellung ist unterwegs“ ohne Datenbasis nicht.
Was das für deinen Betrieb heißt
Das ist die Prüffrage für jede Anbieterdemo: Lass dir zeigen, was passiert, wenn das angebundene System nicht antwortet. Wer darauf keine vorbereitete Antwort hat, hat den Fall nicht bedacht — und dann trifft er ein, wenn ein echter Kunde in der Leitung ist.