새로운 Anthropic Token Counting API 소개

Claude를 사용할 때 비용을 면밀히 관찰하십시오

Anthropic has quietly released some exciting beta features over the last couple of days. One of these was the ability to process PDFs with their models, which can now understand both text and visual content within PDF documents. I’ll maybe write up something on that at a later date.

Anthropic은 지난 며칠 동안 몇 가지 흥미로운 베타 기능을 조용히 출시했습니다. 그 중 하나는 모델을 사용하여 PDF를 처리하는 기능이었습니다. 이제 PDF 문서 내의 텍스트와 시각적 콘텐츠를 모두 이해할 수 있습니다. 아마 나중에 그것에 관해 글을 쓸 것 같아요.

The other exciting beta feature, and the subject of this article, was the introduction of token counting. Crucially, you can count the tokens in user messages, PDFs and images before you send them to Claude. This is excellent news for those who like to monitor their token usage costs closely.

또 다른 흥미로운 베타 기능이자 이 기사의 주제는 토큰 계산의 도입이었습니다. 결정적으로, Claude에게 보내기 전에 사용자 메시지, PDF 및 이미지의 토큰을 계산할 수 있습니다. 이는 토큰 사용 비용을 면밀히 모니터링하려는 사람들에게 좋은 소식입니다.

According to the official announcement from Anthropic (link here),

Anthropic의 공식 발표에 따르면(여기 링크),

“The token counting endpoint accepts the same structured list of inputs for creating a message, including support for system prompts, tools, images, and PDFs. The response contains the total number of input tokens.”

“토큰 계산 엔드포인트는 시스템 프롬프트, 도구, 이미지 및 PDF에 대한 지원을 포함하여 메시지 생성을 위해 동일한 구조화된 입력 목록을 허용합니다. 응답에는 총 입력 토큰 수가 포함됩니다.

And supports the following models,

그리고 다음 모델을 지원합니다.

“Claude 3.5 SonnetClaude 3.5 HaikuClaude 3 HaikuClaude 3 Opus”

“클로드 3.5 소네트Claude 3.5 HaikuClaude 3 HaikuClaude 3 Opus”