Guide 07 May 2026 9 分で読めます

AIトークンの数え方:ChatGPT・Claude・Gemini完全ガイド(2026年版)

トークンはAIのコストとコンテキスト制限を決定します。トークンとは何か、各モデルの数え方、日本語テキストのトークン効率、最適化のヒントを解説します。

How to Count AI Tokens

AIトークンとは?

トークンは大規模言語モデル(LLM)が処理する基本的なテキスト単位です。単純な単語や文字ではなく、モデルのトークナイザーアルゴリズムによって決定されるテキストの断片です。最も広く使われるのはByte-Pair Encoding(BPE)で、テキストを頻繁に出現する文字列に分割します。

英語の標準テキストの場合:

  • 1トークン ≈ 4文字
  • 1トークン ≈ 0.75語
  • 1,000語 ≈ 1,333トークン
目安:英語は語数×1.33;日本語・中国語は文字数×1.5〜2.5で概算できます。

トークンが重要な理由

1. コンテキストウィンドウ

各AIモデルには1回の会話で処理できる最大トークン数(コンテキストウィンドウ)があります。この上限を超えると、古い会話が切り捨てられるかリクエストが失敗します。

  • GPT-4o:128,000トークン
  • Claude 3.5 Sonnet:200,000トークン
  • Gemini 1.5 Pro:1,000,000トークン

2. APIコスト

商用AI APIは100万トークンあたりで課金します。入力トークンと出力トークンは別々に請求され、出力は通常入力の3〜5倍のコストがかかります。

日本語テキストのトークン効率

AIトークナイザーは主に英語テキストで学習されているため、日本語・中国語・韓国語などのCJK文字は非効率にトークン化されます:

  • 日本語・中国語:英語の1.5〜2.5倍のトークン数
  • 韓国語:2〜3倍
  • タイ語:2〜4倍

トークン削減のヒント

  • システムプロンプトを短縮 — 毎回のAPI呼び出しで送信されます
  • 長い会話を要約 — 長いセッションで60〜80%節約できます
  • 不要な書式を削除 — JSONを最小化し余分な空白を削除
  • 簡潔な出力を依頼 — 「2〜3文で答えて」で出力トークンを削減
  • 適切なモデルを選択 — 小型モデルはシンプルなタスクで10〜20倍安い
AIトークンを無料でカウント

テキストを貼り付けるだけで、GPT-4・Claude・Geminiのトークン数とコスト見積もりを即座に表示。