Guide
07 May 2026
9 分で読めます
AIトークンの数え方:ChatGPT・Claude・Gemini完全ガイド(2026年版)
トークンはAIのコストとコンテキスト制限を決定します。トークンとは何か、各モデルの数え方、日本語テキストのトークン効率、最適化のヒントを解説します。
AIトークンとは?
トークンは大規模言語モデル(LLM)が処理する基本的なテキスト単位です。単純な単語や文字ではなく、モデルのトークナイザーアルゴリズムによって決定されるテキストの断片です。最も広く使われるのはByte-Pair Encoding(BPE)で、テキストを頻繁に出現する文字列に分割します。
英語の標準テキストの場合:
- 1トークン ≈ 4文字
- 1トークン ≈ 0.75語
- 1,000語 ≈ 1,333トークン
目安:英語は語数×1.33;日本語・中国語は文字数×1.5〜2.5で概算できます。
トークンが重要な理由
1. コンテキストウィンドウ
各AIモデルには1回の会話で処理できる最大トークン数(コンテキストウィンドウ)があります。この上限を超えると、古い会話が切り捨てられるかリクエストが失敗します。
- GPT-4o:128,000トークン
- Claude 3.5 Sonnet:200,000トークン
- Gemini 1.5 Pro:1,000,000トークン
2. APIコスト
商用AI APIは100万トークンあたりで課金します。入力トークンと出力トークンは別々に請求され、出力は通常入力の3〜5倍のコストがかかります。
日本語テキストのトークン効率
AIトークナイザーは主に英語テキストで学習されているため、日本語・中国語・韓国語などのCJK文字は非効率にトークン化されます:
- 日本語・中国語:英語の1.5〜2.5倍のトークン数
- 韓国語:2〜3倍
- タイ語:2〜4倍
トークン削減のヒント
- システムプロンプトを短縮 — 毎回のAPI呼び出しで送信されます
- 長い会話を要約 — 長いセッションで60〜80%節約できます
- 不要な書式を削除 — JSONを最小化し余分な空白を削除
- 簡潔な出力を依頼 — 「2〜3文で答えて」で出力トークンを削減
- 適切なモデルを選択 — 小型モデルはシンプルなタスクで10〜20倍安い
AIトークンを無料でカウント
テキストを貼り付けるだけで、GPT-4・Claude・Geminiのトークン数とコスト見積もりを即座に表示。