Muss bei jedem Lauf ein Modell mitrechnen?

«Da setzen wir eine KI darauf an.» Der Satz beendet in vielen Gesprächen die Frage nach der Automatisierung, dabei fängt die eigentliche Entscheidung dort erst an. Sie lautet nicht, ob ein Modell im Spiel ist, sondern wann: einmal beim Bauen oder bei jedem einzelnen Lauf. Diese Frage entscheidet über die Kosten, über die Wiederholbarkeit und erst zuletzt über den Stromverbrauch.

Was ein Lauf kostet, kostet er jeden Monat wieder

Ein Modell, das bei jedem Lauf mitrechnet, verbraucht bei jedem Lauf Tokens. Ein Programm, das einmal gebaut wurde, verbraucht sie beim Bauen und danach nicht mehr. Der Unterschied ist keine Ansichtssache, sondern eine Kurve: Die eine Linie steigt mit jedem Durchlauf, die andere bleibt flach.

Eine Untersuchung hat genau das gemessen. Wird ein Ablauf einmal in Code übersetzt, statt ihn bei jeder Ausführung an ein Modell zu schicken, ist der Aufwand nach rund 17 Durchläufen ausgeglichen; bei 1'000 Durchläufen liegt der Tokenverbrauch um den Faktor 57 tiefer (Compiled AI 2026). Für eine Auswertung, die Sie monatlich fahren, sind das knapp anderthalb Jahre. Für eine, die täglich läuft, sind es gut zwei Wochen.

Zweimal dieselbe Frage, zweimal eine andere Zahl

Der zweite Unterschied wiegt in einer Finanzabteilung schwerer als der erste. Ein Programm, das Sie mit denselben Zahlen zweimal starten, liefert zweimal dasselbe Ergebnis. Bei einem Sprachmodell ist das nicht selbstverständlich, auch dann nicht, wenn man es auf die gleichförmigste Einstellung stellt.

Eine Studie hat fünf Modelle je sechzehnmal dieselbe Aufgabe rechnen lassen, bei Temperatur null, also in der Einstellung, die den Zufall ausschliessen soll. Kleine Modelle mit sieben bis acht Milliarden Parametern antworteten in allen Durchläufen gleich. Das grösste geprüfte Modell mit 120 Milliarden Parametern wiederholte sich in 12,5 Prozent der Fälle (LLM Output Drift 2026). Für eine Zusammenfassung ist das zu verschmerzen. Für eine Zahl, die in einen Abschluss geht, nicht.

«Ein Bericht, den Sie kein zweites Mal gleich erzeugen können, ist keine Grundlage. Er ist eine Momentaufnahme.»

Wer Ihre Zahlen prüft, verlangt genau das: dieselbe Eingabe, dasselbe Ergebnis, jederzeit wiederholbar. Ein Ablauf in Code erfüllt das von sich aus. Ein Modell im laufenden Betrieb muss dazu erst gebracht werden, und den Nachweis dafür schulden Sie.

Der Stromverbrauch ist das schwächste Argument

Gegen Sprachmodelle wird oft der Energieverbrauch ins Feld geführt. Von den drei Argumenten ist das jedoch das schwächste, und es ist fair, das zu sagen. Google hat den Verbrauch in der eigenen Produktion gemessen, über die ganze Kette vom Rechenchip bis zur Kühlung: Eine mittlere Textanfrage an Gemini braucht 0,24 Wattstunden (Google 2025). Das ist wenig.

Die Zahl gilt allerdings für eine kurze Frage. Sie wächst mit der Menge, die das Modell lesen muss. Für eine vergleichbare Anfrage mit 10'000 Tokens Eingabe liegt die Schätzung bei rund 2,5 Wattstunden, bei 100'000 Tokens bei rund 40 (Epoch AI 2025). Eine Monatsauswertung ist keine kurze Frage. Sie schiebt Tabellen durch das Modell, und sie tut es jeden Monat wieder.

Wo ein Modell die richtige Wahl ist

Daraus folgt nicht, dass Modelle im Betrieb nichts zu suchen hätten. Sie sind die richtige Wahl, wo die Aufgabe wirklich jedes Mal neu ist: einen Text formulieren, ein Dokument lesen, dessen Aufbau man vorher nicht kennt, eine Anfrage in eigenen Worten beantworten. Solche Arbeit lässt sich nicht in feste Regeln übersetzen, weil es die festen Regeln nicht gibt.

Der Unterschied liegt in der Wiederholung. Was jeden Monat gleich abläuft, gehört in Code. Was jedes Mal anders ist, darf ein Modell übernehmen, und ein Mensch gibt es frei, bevor es das Haus verlässt. Wir halten uns selbst daran: Die Antwort auf eine Anfrage über unser Kontaktformular entsteht als Entwurf im Modell und geht erst nach der Prüfung hinaus.

Was Sie den Anbieter fragen können

• Rechnet bei jedem Lauf ein Modell mit, oder nur beim Bauen?
• Wie oft läuft der Ablauf im Jahr, und ab welchem Lauf ist die Bauzeit ausgeglichen?
• Wenn ich denselben Monat zweimal rechnen lasse: Kommt zweimal dasselbe heraus?
• Was geschieht, wenn der Anbieter des Modells sein Modell austauscht?

Die Frage ist also nicht, ob Sie KI einsetzen. Die Frage ist, wo sie steht: einmal beim Bauen, wo sie viel leistet und nichts wiederholt, oder in jedem Durchlauf, wo sie jeden Monat neu kostet und jeden Monat neu zu begründen ist.