// KÜNSTLICHE INTELLIGENZ
Wie viele Modelle, wie viel Geld? KI-Kosten rechnen
6 Min. Lesezeitnijitech
Die Kosten pro Vorgang sind klein und im Pilot unsichtbar; mit dem Volumen multipliziert bestimmen sie die ganze Rechnung. Der praktische Weg, sie zu messen und zu senken.
Ganzer Beitrag
KI-Kosten gehören zu den am häufigsten falsch geschätzten Posten einer Budgetplanung. Der Grund ist keine komplizierte Formel, sondern eine einfache Täuschung: Was im Pilot bezahlt wird, ist so klein, dass niemand hinsieht. Geht das System in Produktion, wird derselbe kleine Betrag mit dem Volumen multipliziert — und ist die ganze Rechnung.
Drei Zahlen bestimmen die Kosten
Die Modellkosten eines KI-Systems sind im Grunde das Produkt dreier Zahlen: Aufrufe pro Vorgang, verarbeitete Textmenge pro Aufruf und Stückpreis des gewählten Modells. Verdoppelt sich eine davon, verdoppelt sich die Rechnung; steigen alle drei, wird sie achtmal so hoch.
Fragen für die Budgetplanung
- Wie viele Modellaufrufe braucht eine Aufgabe — einen oder fünf verkettete?
- Wie viel Kontext wird pro Aufruf gesendet, und wird davon alles gebraucht?
- Verlangt diese Aufgabe wirklich das stärkste Modell, oder geht sie aus Gewohnheit dorthin?
- Welche der drei Zahlen wächst, wenn sich das Volumen verzehnfacht?
Jede Aufgabe an das stärkste Modell schicken
Einen Text einer von zwei Kategorien zuzuordnen und eine mehrstufige Analyse zu führen, verlangen nicht dieselbe Fähigkeit. Steht im Anwendungscode aber nur ein Modellname, gehen beide an dieselbe Stelle. Einfache Aufgaben wie Klassifikation machen typischerweise den größten Teil aller Aufrufe aus; sie an ein kleineres Modell zu leiten, streicht einen spürbaren Teil der Rechnung direkt weg.
Latenz ist die unsichtbare Hälfte der Kosten
Kosten sammeln sich nicht nur auf der Rechnung, sondern auch in der Wartezeit. Jede Sekunde, die eine Nutzerin auf eine Antwort wartet, senkt die Nutzungsrate dieser Funktion. Ein kleineres Modell ist meist zugleich günstiger und schneller; beide Verbesserungen folgen also oft aus derselben Entscheidung.
Einen Teil der Arbeit nah bei der Nutzerin auszuführen, verändert dieselbe Gleichung. Ein Vorgang, der nicht bis zum zentralen Server läuft, erzeugt weder Latenz noch Aufrufkosten.
Wo Sie die Entscheidung hinschreiben, zählt
Steht das Wissen, welche Aufgabe zu welchem Modell geht, im Anwendungscode, wird jede Preisänderung und jedes neue Modell zu einer Entwicklungsaufgabe. Läge dieselbe Entscheidung in einer Routing-Schicht, wäre es eine Konfigurationsaufgabe. Modelle veralten; die Strecke selbst bleibt.
Zusammenfassung
Vier praktische Wege, die Kosten zu senken
- Einfache Aufgaben an kleine Modelle leiten — dort liegt der Großteil des Volumens
- Den gesendeten Kontext beschneiden; vollständig wird er selten gebraucht
- Latenz als Kostenposten führen, nicht als eigenes Thema
- Die Modellwahl in die Konfiguration schreiben, nicht in den Code
Zusammen angewandt liegt der Gewinn nicht bei einigen Prozent, sondern im Faktorbereich — und keiner dieser Schritte verlangt, Genauigkeit aufzugeben.
Aus dem Glossar: Modellorchestrierung · Edge-Skalierung