Tokens
Zuletzt aktualisiert:
Was Tokens sind
Sprachmodelle sehen keine Buchstaben und keine ganzen Wörter. Bevor Text beim Modell ankommt, zerlegt ein Tokenizer ihn in Tokens aus einem festen Vokabular. Häufige Wörter sind oft ein einzelnes Token, seltene Wörter, Namen und lange Komposita werden in mehrere Stücke geteilt. Zahlen, Satzzeichen und Leerzeichen zählen ebenfalls.
Als grobe Faustregel entspricht ein Token in englischem Text etwa vier Zeichen oder rund drei Vierteln eines Wortes. Das ist nur ein Näherungswert: Jede Modellfamilie hat ihren eigenen Tokenizer, und Texte in vielen anderen Sprachen, auch auf Deutsch, brauchen oft mehr Tokens als derselbe Inhalt auf Englisch.
Wie Tokens gezählt werden
Bei jeder Chatbot-Antwort werden Tokens in zwei Richtungen gezählt:
Beide zählen gegen das Kontextfenster des Modells. Anbieter mit nutzungsbasierter Abrechnung bepreisen Eingabe- und Ausgabe-Tokens meist getrennt, wobei Ausgabe-Tokens oft teurer sind. Auch Embedding-Modelle zählen Tokens, wenn sie Text in Vektoren umwandeln.
- Eingabe-Tokens: alles, was an das Modell geht, etwa Anweisungen, Gesprächsverlauf und gefundene Dokumente.
- Ausgabe-Tokens: die Antwort, die das Modell Token für Token erzeugt.
Beispiel
Der englische Satz „Our store opens at 9 am on weekdays.“ hat acht Wörter und 36 Zeichen, die meisten Tokenizer machen daraus ungefähr zehn Tokens. Eine vollständige Chatbot-Anfrage ist viel größer: Anweisungen, einige gefundene Textstellen und ein kurzes Gespräch können sich auf einige tausend Eingabe-Tokens summieren, bevor das Modell auch nur ein Wort seiner Antwort schreibt.
Warum Tokens für Business-Chatbots wichtig sind
Baust du einen Chatbot direkt auf einer Modell-API, bestimmen Tokens deine Kosten und Grenzen. Lange Anweisungen, große Textauszüge und lange Gespräche fügen jeder Nachricht Eingabe-Tokens hinzu. Ein guter Grund, Anweisungen knapp zu halten und gezielt zu suchen.
Tokens erklären auch praktische Grenzen: warum ein Modell nicht eine ganze Website in einer Anfrage lesen kann, warum sehr lange Gespräche irgendwann gekürzt werden müssen und warum eine Antwort abbrechen kann, wenn sie die maximale Ausgabelänge erreicht.
Tokens und intoCHAT
Bei intoCHAT zählst du keine Tokens. Die Tarife richten sich nach Nachrichten pro Monat und Zeichen an Trainingsinhalten: Free umfasst 25 Nachrichten pro Monat und 100.000 Zeichen, Starter (19 $ pro Monat) 2.500 Nachrichten pro Monat und 500.000 Zeichen pro Agent, Pro (49 $ pro Monat) 10.000 Nachrichten pro Monat und 1 Mio. Zeichen pro Agent. intoCHAT schickt dem Modell pro Nachricht nur die relevantesten Auszüge deiner Inhalte, und um Modell und Token-Verbrauch kümmert sich intoCHAT.