Présentation de la nouvelle API de comptage de jetons anthropiques

Gardez un œil attentif sur vos coûts lorsque vous utilisez Claude

Anthropic has quietly released some exciting beta features over the last couple of days. One of these was the ability to process PDFs with their models, which can now understand both text and visual content within PDF documents. I’ll maybe write up something on that at a later date.

Anthropic a discrètement publié des fonctionnalités bêta intéressantes au cours des derniers jours. L'un d'entre eux était la possibilité de traiter des PDF avec leurs modèles, qui peuvent désormais comprendre à la fois le contenu textuel et visuel des documents PDF. J'écrirai peut-être quelque chose à ce sujet plus tard.

The other exciting beta feature, and the subject of this article, was the introduction of token counting. Crucially, you can count the tokens in user messages, PDFs and images before you send them to Claude. This is excellent news for those who like to monitor their token usage costs closely.

L’autre fonctionnalité bêta intéressante, et le sujet de cet article, était l’introduction du comptage de jetons. Surtout, vous pouvez compter les jetons dans les messages des utilisateurs, les PDF et les images avant de les envoyer à Claude. C’est une excellente nouvelle pour ceux qui aiment surveiller de près les coûts d’utilisation de leurs jetons.

According to the official announcement from Anthropic (link here),

Selon l'annonce officielle d'Anthropic (lien ici),

“The token counting endpoint accepts the same structured list of inputs for creating a message, including support for system prompts, tools, images, and PDFs. The response contains the total number of input tokens.”

« Le point de terminaison de comptage de jetons accepte la même liste structurée d'entrées pour créer un message, y compris la prise en charge des invites système, des outils, des images et des PDF. La réponse contient le nombre total de jetons d'entrée.

And supports the following models,

Et prend en charge les modèles suivants,

“Claude 3.5 SonnetClaude 3.5 HaikuClaude 3 HaikuClaude 3 Opus”

«Claude 3.5 SonnetClaude 3.5 HaikuClaude 3 HaikuClaude 3 Opus»