Token (Tokenverbrauch)

Einheiten, in denen Modelle Text verarbeiten und die bei Abrechnung und Limits eine Rolle spielen.

BeispielKomplexe Requests verbrauchten viele Tokens, weshalb das Budget schnell schrumpfte.

Folgen zu diesem Begriff