Was ist ein Token?
Ein Token ist ein Stück Text, meist ein Wortteil. Sprachmodelle rechnen in Token, und Cloud-Anbieter rechnen danach ab. Als Faustregel entspricht eine Seite Text etwa fünfhundert bis siebenhundert Token. Bei lokalem Betrieb entfällt die Abrechnung nach Token, es bleiben Strom und Hardware.
Auch genannt: Tokenverbrauch
Stand:Von PhoenixOne AI aus Leipzig, dem Spezialisten für Firmen-KI im deutschen Mittelstand. Kostenloses Analysegespräch, 30 Minuten
Was das für Ihr Unternehmen heißt
Wer viel mit KI arbeitet, merkt den Tokenverbrauch als laufende Kosten. Das ist einer der Gründe, warum sich ein eigener Server rechnen kann: Die Menge der Anfragen ändert dann nichts mehr am Preis.
Ein Fall aus dem Alltag
Ein deutsches Fachwort wie Genehmigungsfreistellung zerfällt in mehrere Token, ein englisches Alltagswort oft in eines. Deshalb verbraucht derselbe Text auf Deutsch mehr Kapazität als auf Englisch, und deshalb passt in ein Kontextfenster weniger deutscher Fachtext, als die Seitenzahl vermuten lässt.
Wie wir es umsetzen
Wir messen im Audit, wie viele Anfragen und wie viel Text im Alltag anfallen, und rechnen beide Wege gegeneinander: Cloud mit Abrechnung nach Token gegen eigenen Server mit Anschaffung und Strom.
Der häufigste Irrtum
Oft verwechselt mit Wörtern. Ein Token ist meist kürzer als ein Wort und länger als ein Buchstabe. Für die Planung heißt das: Rechnen Sie bei deutschen Fachtexten mit deutlich mehr Token, als eine Wortzählung ergibt.
Grenze
Wo die Grenze liegt
Tokenkosten sind selten der größte Posten. Meist entscheidet die Frage, ob Daten das Haus verlassen dürfen, nicht der Preis je Anfrage.
Wo das bei uns vorkommt
Themenseite
Was lokale KI kostet
Themenseite
Cloud oder lokal
Weiterlesen
Verwandte Begriffe
KI-Grundlagen
Kontextfenster
Wie viel Text eine KI auf einmal lesen kann, und warum das nicht alles ist
KI-Grundlagen
Sprachmodell
Das Programm, das Text versteht und schreibt, Grundlage jeder KI-Anwendung
Architektur und Betrieb
Inferenz
Das Ausführen eines Modells, und warum die Software dafür zählt
Architektur und Betrieb
Quantisierung
Modelle verkleinern, damit sie auf die Karte passen, ohne viel zu verlieren
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.
- Festpreis je Schritt
- Stopp-Punkt mit Zwischenabnahme
- Eigener Code, der Ihnen gehört