01 — SO FUNKTIONIERT ES
Vier Schichten von der Eingabe zur Ausgabe.
Die Pipeline läuft in jedem Produkt in derselben Reihenfolge; was sich ändert, ist, was die Eingabe ist und wozu die Ausgabe wird.
01Eingabeschicht
Audio, Text und Systemsignale — drei Formate, ein Strom.
Der Ton einer Besprechung, die WhatsApp-Nachricht eines Kunden und ein Preis-Feed vom Marktplatz sehen einander in nichts ähnlich. Die Eingabeschicht überführt sie in eine gemeinsame Darstellung: Audio wird zu Text, Freitext wird strukturiert, Systemsignale reihen sich mit Zeitstempel ein. Die folgenden Schichten müssen nicht wissen, woher etwas kam.
02Routing und Orchestrierung
Welche Aufgabe an welches Modell geht — das entscheidet das System.
Jede Aufgabe an das stärkste Modell zu schicken ist teuer; jede Aufgabe an das billigste zu schicken erzeugt falsche Antworten. Die Routing-Schicht betrachtet Art und Anforderungen der Aufgabe und entscheidet, welches Modell läuft. Für eine kurze Klassifizierung genügt ein kleines Modell, für mehrstufiges Schlussfolgern tritt ein leistungsfähigeres an. Diese Entscheidung ist nicht fest; sie ändert sich mit den Messergebnissen.
03Verarbeitung und Prüfung
Modellausgaben werden nie roh verwendet; sie durchlaufen zuerst eine Prüfung.
Das Modell erzeugt ein Ergebnis, aber dieses Ergebnis erreicht den Nutzer nicht roh. Entspricht die Ausgabe dem erwarteten Format, stimmt sie mit ihrer Quelle überein, liegt sie über der Konfidenzschwelle — all das wird geprüft. Ausgaben unterhalb der Schwelle werden entweder neu erzeugt oder zur menschlichen Freigabe geschickt. Die eigentliche Abwehr gegen Halluzination sitzt in dieser Schicht.
04Ausgabeschicht
Eine Zusammenfassung, eine Bewertung, eine Zuordnung — und jeweils die Quelle.
Die Ausgabe hängt vom Produkt ab: eine Besprechungszusammenfassung, eine Rentabilitätsbewertung, eine Fahrerzuordnung. Unverändert bleibt, dass jede Ausgabe mit ihrer Quelle verknüpft ist. Aus welchem Satz eine Zusammenfassung stammt, aus welchen Daten sich eine Bewertung ableitet — alles wird festgehalten. Ohne diese Verbindung ist weder Prüfung noch Widerspruch möglich.