毎秒1,000トークンのAI、Mercury 3が登場!どれくらい速い?

並列に文章が生成されるAIデータフローのイラスト

コーディングエージェントに「このバグを直して、テストまでやって」と頼んで待った経験、あるでしょ?モデルが数行返すだけならすぐなのに、ファイルを読んで、計画を立てて、ツールを何度も呼ぶあいだの待ち時間は長くなりがちだ。

そんな中、10月19日に公開されたMercury 3は、毎秒1,068トークンを生成すると発表された。数字だけ見れば、並のモデルを圧倒する速さだけれど、これは実際にどれくらい速いんだろう?

✦ 生成速度の比較

毎秒の生成トークン数、Inception公式比較表基準(独立測定ではない)

1068 tok/sMercury 3
240 tok/sClaude Haiku 5.5
130 tok/sGPT-6 Luna

まず比較の数字から見よう。Mercury 3を作ったInception Labsの公式比較表には、GPT-6 Lunaが毎秒約130トークン、Claude Haiku 5.5が約240トークンと書かれている。

同じ表のMercury 3は1,068トークンだよ。数字だけ計算すれば、GPT-6 Lunaの約8倍、Haiku 5.5の約4.5倍になる。もちろんこれは、Mercuryを作った会社が示した比較結果だという点は覚えておかなきゃいけない。

実際にAPIを使うとき、すべてのリクエストがいつもこの速度で出るわけじゃないからだ。

文章をつくる方式から違う

GPTやClaudeのような言語モデルは、答えを作るとき、トークンを一つ生成して、その結果をもとに次のトークンをまた作る、という過程を繰り返す。前のトークンが出ないと後ろのトークンを作れない構造というわけなんだ。

回答が長いほど、こうした段階が積み重なって負担が大きくなるよ。

✦ トークンをつくる二つの方式

逐次生成と拡散型生成

1逐次生成
トークンを一つ生成 → その結果で次のトークンを生成 → この過程を繰り返す
2拡散型生成
テキストブロックの複数の部分を並列に生成 → 繰り返し修正する

Mercury 3は、画像生成AIと似た拡散(diffusion)方式をテキストに適用しているよ。

画像の拡散モデルが、最初から完成した絵を描く代わりに、何段階もかけてノイズを整えていくように、拡散型の言語モデルは、テキストブロックの複数の部分を並列に作って、また整える。答え全体を一度にぱっと完成させるという意味じゃない。

複数のトークンをまとめて予測して修正できるから、一つずつ順番に書く方式の待ち時間を減らせる、ということだよ。

もしかして、読む勉強をするときの「単語や文を見ずに、文章全体を一目で写真を撮るように見ろ」という速読の方法を知ってる?

とても長い文章を一文字ずつ完璧に読み進めようとすると、時間もかかるし、前に読んだ内容もだんだん忘れてしまう。

でも、文章全体を大きな視野で見下ろして骨組みをつかみ、そのあとで重要な単語を中心にざっと読み進めていく。そうすると結果的に、より速く文章を読めて、記憶にも長く残るよ。

拡散方式とは少し違うけれど、拡散方式がよくわからなければ、こう理解するだけでも少しは助けになるはずだよ。

この方式は、コードにも面白い可能性をくれるよ。コードファイルの下のほうを直しているうちに、上のほうの変数や関数まで変えなきゃいけないことがあるでしょ。

すでに出力したトークンを取り消せない逐次生成モデルと違って、拡散型モデルは、次の段階でブロック内のほかの部分をもう一度整えられる。そうすれば、もう少し柔軟で効率的にトークンを使えるだろう。

〈拡散方式によってテキストが同時に生成される仕組みを示したMercury 2.5の公式デモ動画〉
* YouTubeチャンネル『Inception』にあがっている動画だよ。

コンテキストは100万トークン、価格はローンチ割引

Mercury 3は、一度のリクエストで入力と文脈として処理できるコンテキストの長さを、100万トークンに増やした。以前のMercury 2.5の26万トークンより大きくなったよ。

✦ Mercury 3のAPI価格

100万トークンあたり、ドル

定価
• 入力 0.20
• 出力 0.70
ローンチ割引(現在の発表価格)
• 入力 0.10
• 出力 0.35

価格も目を引くよ。公式の定価は、入力トークン100万個あたり0.20ドル、出力が0.70ドルだけど、ローンチ割引で現在発表されている価格は、それぞれ0.10ドルと0.35ドルだ。

キャッシュヒット入力は、入力料金より90%低く設定されている。(割引の終了日がいつなのかは、特には明記されていなかった)新規アカウントに無料トークン1億個を提供するという案内もあるから、関心があるなら、今すぐ使ってみよう。

Inception APIだけでなく、OpenRouter、Baseten、Vercelでも使えて、OpenAI API互換の形式に対応しているから、既存の接続コードを大きく変えずに試せる点も利点だよ。

※ P.S. Inceptionは2026年11月、Mercury APIサービスを12月28日まで提供し、その後終了すると発表したよ。Mercuryモデルは11月8日からOpenRouterでも使えなくなっているよ。

では、実際の作業でも1,000トークンの速度が出るのか

✦ 速度の数字、どう違うのか

測定条件が違うから直接比較ではない

1,068 tok/s
Inception公式発表、NVIDIA GPU基準
198 tok/s
Bitoのテスト、リクエストあたり生成速度の中央値
512 tok/s
Bitoのテスト、リクエストあたりの最高値

ところで、Bitoが10月20日に自社のコーディングテストの結果を発表したんだけど、Mercury 3の実際のコーディングエージェントのリクエストあたり生成速度の中央値は毎秒198トークンで、最高値は512トークンだった。

それでも速いほうだけど、会社が発表した1,068トークンとは差が大きいよ。テスト環境と実際の推論環境が違うからだ。コーディングエージェントは、コードと会話履歴を読んで、次の行動を決めて、ツールの実行を待ってから、またモデルを呼び出す。

モデルが新しいトークンを生成する部分だけが毎秒1,000トークンの生成速度に達しても、作業全体が同じ速度で進むわけじゃない、ということだよ。

✦ 長いコーディングセッションの所要時間

Bito自社テスト、セッションあたり平均(分)

5.8分Mercury 3
6.8分Claude Sonnet 5.5
8.1分Claude Haiku 5.5
15.4分DeepSeek V4.1 Flash-1017
17.2分Claude Opus 5.5

とにかく、Bitoの長い多段階コーディングセッションのテストで、Mercury 3は平均5.8分で、いちばん早く仕事を終えた。

Claude Sonnet 5.5は6.8分、DeepSeek V4.1 Flash-1017は15.4分、Claude Opus 5.5は17.2分かかった。処理時間だけで見れば、Mercury 3は確かに魅力的だよ。

✦ 長いコーディングセッションのスコア

Bito自社テスト、スコア(%)

✔ Claude Opus 5.5:87%
✔ DeepSeek V4.1 Flash-1017:77%
✔ Claude Sonnet 5.5:77%
✔ Claude Haiku 5.5:76%
✔ Mercury 3:65%

でも、テストの点数は違ったよ。長いセッションのテストでMercury 3の点数は65%にとどまったけれど、DeepSeekとSonnetはそれぞれ77%、Haikuは76%、Opusは87%だった。

一回の短いコーディングの質問を投げるテストでも、Mercury 3は76%で、DeepSeekの90%やHaikuの79%より低かった。つまり、速く答えを出す能力と、複雑な問題を最後まで正確に解く能力は、別に見なきゃいけない、ということだ。

正直、個人的には……「私のおバカちゃん」Haiku 5.5より点数が低いなら、私はそのモデルとは絶対に話したくない。ストレスがたまって、髪が抜けそうだから。ふふん♡

✦ 長いコーディングセッションのコスト

Bito自社テスト、セッションあたりのコスト(ドル)

DeepSeek V4.1 Flash-1017
• 0.14ドル
Mercury 3
• 0.48ドル
Claude Haiku 5.5
• 0.69ドル
Claude Sonnet 5.5
• 1.28ドル
Claude Opus 5.5
• 5.42ドル

作業あたりのコストも、トークンの価格表とは違って出たよ。Bitoが測定した長いコーディングセッションのコストは、Mercury 3が0.48ドル、DeepSeekは0.14ドルだった。

トークンあたりの価格が安くても、エージェントが同じ会話履歴を繰り返し送る過程で、キャッシュが十分にヒットしなければ、実際の請求額が大きくなりうるよ。

この結果は、Bitoが長いセッション8個と短いセッション16個で行った自社評価だから、全体のモデルの絶対的な順位を決めるものじゃないけれど、Mercury 3に比べて、DeepSeekをはじめとする既存のモデルのほうが、トークンを効率よく使っているのは確かなようだよ。

〈Mercury 3を実際に動かし、その圧倒的な生成速度を検証した動画〉
* YouTubeチャンネル『Codedigipt』にあがっている動画だよ。

それでMercury 3はどこで使えるのか

短くて範囲がはっきりしたリクエスト、リアルタイム検索、顧客問い合わせ、対話型チューターのように、答えを素早く受け取ることが大事な場所では、Mercury 3の長所が生きるかもしれない。

たとえば、ユーザーがウェブサイトを見て回りながら質問したら、数秒以内に答えを見せなきゃいけないサービスでは、待ち時間が長くなるほどもどかしさが大きくなるでしょ。何度もモデルを呼ぶエージェントでも、それぞれの応答が速くなれば、ユーザーが待つ時間は減りうる。

逆に、複雑なコーディング作業を丸ごと任せたり、複数の段階を計画して結果を丁寧に点検しなきゃいけない業務なら、速度と一緒に品質を十分に考えなきゃいけないから、Mercury 3の優先順位は下がることになる。

つまりMercury 3は、既存のGPTやClaudeをすべて置き換えるモデルというより、言語モデルがほかの方式でも速くなれることを見せた事例だと見ればよさそうだよ。

画像生成の拡散方式をテキスト生成に持ってきて、実用的な速度を見せたというだけでも面白いよ。ただ、1,068という数字に感心するだけで終わっちゃいけない。

読者が体感するのは、トークン数じゃなくて、質問をしたときにどれだけ速くちゃんとした答えを受け取れるかだから。

ChatGPTやClaudeを使っているユーザーなら、LunaやHaikuのモデルがどれだけおバカか(?)、わかるはずだ。

私は、LunaやHaikuのモデルに仕事を任せて、でたらめに処理されるたびに、自分がどれだけ貧乏かを感じる。(私が金持ちだったら、AstraやFableを思う存分使っていただろうな)

ベンチマークや評価点数がすべてじゃないけれど、GPT Luna、Claude Haiku、Gemini Flash Liteのような軽量モデルの、ちょっとネジが抜けたような(?)回答にうんざりしたユーザーなら、Mercury 3の魅力は少し落ちるだろう。

点数だけ見れば、この子もちょっとそっち系だから。一方で、とても速いスピードでエージェント業務をこなさなきゃいけないユーザーなら、きっと助けになるだろう。

今回はここまでにするよ。また会おう。

関連記事

💬 コメント

まだコメントがないよ。最初のコメントを書いてみてね。