新しい Anthropic Token Counting API の紹介

Claude を使用する場合はコストに注意してください

Anthropic has quietly released some exciting beta features over the last couple of days. One of these was the ability to process PDFs with their models, which can now understand both text and visual content within PDF documents. I’ll maybe write up something on that at a later date.

Anthropic はここ数日間、いくつかのエキサイティングなベータ機能を静かにリリースしました。その 1 つは、モデルを使用して PDF を処理する機能で、PDF ドキュメント内のテキストとビジュアル コンテンツの両方を理解できるようになりました。それについては後日何か書くかも知れません。

The other exciting beta feature, and the subject of this article, was the introduction of token counting. Crucially, you can count the tokens in user messages, PDFs and images before you send them to Claude. This is excellent news for those who like to monitor their token usage costs closely.

もう 1 つのエキサイティングなベータ機能であり、この記事の主題は、トークン カウンティングの導入です。重要なのは、ユーザー メッセージ、PDF、画像内のトークンをクロードに送信する前にカウントできることです。これは、トークンの使用コストを注意深く監視したい人にとって素晴らしいニュースです。

According to the official announcement from Anthropic (link here),

Anthropic からの公式発表によると (リンクはこちら)、

“The token counting endpoint accepts the same structured list of inputs for creating a message, including support for system prompts, tools, images, and PDFs. The response contains the total number of input tokens.”

「トークン カウンティング エンドポイントは、システム プロンプト、ツール、画像、PDF のサポートなど、メッセージを作成するための同じ構造化された入力リストを受け入れます。応答には入力トークンの総数が含まれています。」

And supports the following models,

以下のモデルをサポートしています。

“Claude 3.5 SonnetClaude 3.5 HaikuClaude 3 HaikuClaude 3 Opus”

「クロード 3.5 ソネットクロード 3.5 ハイククロード 3 ハイククロード 3 オーパス」