DeepSeek V4 Flash 0731 が ARC‑AGI‑1 で 89%、ARC‑AGI‑2 で 61.4% を達成し、タスクあたり $0.02–$0.04 のコストで実現
概要
DeepSeek V4 Flash 0731 は、ARC‑AGI ベンチマークスイートでトップクラスのパフォーマンスを発揮しています——ARC‑AGI‑1(セミプライベート)で 89.0%、ARC‑AGI‑2(セミプライベート)で 61.4% を記録。それぞれタスクあたり $0.02 および $0.04 のコストで実現しています。この数値は、多くのプロプライエタリな代替品よりも推論コストが桁違いに低い一方で、最高スコアのシステムの一つに位置づけられます。
ベンチマーク結果
公式の ARC‑AGI ランキングでは、DeepSeek V4 Flash 0731 について以下の3つの推論バリアントが報告されています:
| バリアント | ARC‑AGI‑1 | ARC‑AGI‑2 | ARC‑AGI‑3 |
|---|---|---|---|
| Max | 89.0% | 61.4% | — |
| High | 87.0% | 56.0% | — |
| Low | 84.0% | 46.0% | — |
「Max」バリアントは、最も攻撃的な推論設定を使用しており、両ベンチマークで「High」と「Low」の設定を上回っています。執筆時点では、ARC‑AGI‑3 のスコアは報告されていません。
タスクレベルの正解/不正解(ARC‑AGI‑2 パブリック評価)
120のパブリック評価タスクのうち、「Max」バリアントは73タスクを正解、「High」は71、「Low」は58を正解しました。詳細な正解/不正解マトリクスから、論理的推論やコード推論を含むタスクでは一貫した強みが見られますが、視覚パズル風のタスクの一部は依然として課題となっています。
コスト効率
DeepSeek V4 Flash 0731 は、「最大努力」価格層において、ARC‑AGI‑1 タスクあたり $0.02、ARC‑AGI‑2 タスクあたり $0.04 を課金します。この価格は、提供元が参照するキャッシュ価格モデルを用いる場合、約 1 Mトークンあたり $0.02–$0.04 に相当します。コミュニティメンバーは、運用コストが極めて低い点を繰り返し強調しています:
"Oh My Pi で実行していますが、2番目のインスタンスを "advisor" として起動しており、5–6つのアクティブなセッションがあっても、1日あたり5ドル以上使うのが難しいほどです。" – @LaurensBER
"DeepSeek は、API利用のための安価で楽しい中国モデルです。さらに安価で、今やProモデルを上回っています。… 最高ではないですが、価格帯の1桁以内のモデルと比べて、全体的に強さを発揮しています。" – @SwellJoe
実世界での利用の知見
速度と展開性
ユーザーは、デュアル RTX 6000 Blackwell システム上で、モデルが 約 8 k トークン/秒 のプレフィル速度、約 250 トークン/秒 の生成速度で動作することを報告しています。vLLM を使用して64同時ストリームでスケーリングすると、約 1 k トークン/秒 まで向上します。このスループットにより、遅延を感じさせないインタラクティブチャットが可能となり、大規模なエージェント展開もサポートされます。
"2x RTX Pro 6000 Blackwell で、プレフィルは約 8k トークン/秒、単一ストリームでは約 250 トークン/秒です。vLLM で約64同時ストリームで 1000 トークン/秒を達成しました。これだけ速ければ、待っている間にタブを切り替える必要がありません。" – @ak_t
プログラミングとツール利用
このモデルは、コード補助およびツール呼び出し能力において高く評価されており、日常的な開発ワークフローにおいて、より大きなプロプライエタリモデルを上回ることもしばしばあります。
"プログラミングタスクにこのモデルを試すことを強くおすすめします。Opusよりはるかに良い "キャラクター" を持ち、非常に異なる盲点があります。… 総合的に見て、今ではコード作成において DeepSeek を好むようになりました。会話の仕方が気に入っているからです。" – @mosura
"このバージョンの最も素晴らしい点は、codex harnessで訓練されていることです。codexツールの使い方において、OpenAIモデルと同等の感覚があり、非常に安価で、1Mのコンテキストを備えています。" – @tarruda
低リソースでのアクセス性
量子化された GGUF Q8 K XL バリアントでさえ、256 GB DRAMサーバーに快適に収まり、GPUを持たないユーザーもCPUオンリーのハードウェアで一晩中実行可能です。
"GPUがまったくない状態で、1秒あたりのトークン生成速度が遅いワークフローをセットアップすることに抵抗がないなら、タスクを投入して4–6時間後に戻ってみてください。非常にうまく動きます。" – @walrus01
パフォーマンス上の注意点
ベンチマークスコアは非常に印象的ですが、いくつかのユーザーがレグレッションやエッジケースの失敗を指摘しています:
- 無限ループと自己対話:特定のエージェントと組み合わせた場合、モデルが繰り返しループに入ったり、関係のないコンテンツを生成する事例が報告されています。
- 冗長性の増加:最近のアップデートにより、トークン使用量が増加し、応答がより冗長化しているように見え、コストと簡潔さに影響を与えています。
- 視覚パズル推論:ARC‑AGI‑2 で高いスコアを記録しているにもかかわらず、マルチモーダル入力が欠如しているため、視覚パズルを純粋なテキスト推論でどう解決しているのか疑問が残ります。
"無限ループにハマったり、ツール呼び出しをせずに自分自身と会話する問題が多数発生しており、大量のトークンを無駄に消費しています… それでも価値はありますが、エージェント性能は私の経験上、低下しています。" – @nylonstrung
"モデルがはるかに誇張され、過剰に説明するようになりました。プロンプトの再構成が助けになりましたが、もしかすると、コードや ARC‑AGI でより優れている代償かもしれません。" – @momojo
コミュニティの反応
Hacker News 上での全体的な評価は非常にポジティブで、投稿は 779件のアップボート と 466件のコメント を獲得しています。ユーザーたちは、このモデルの 価格対性能比、ローカル展開の可能性、および 自動化用途(例:CIテスト生成、ログ監視、SNSフィードの再ランク付け)への有用性を称賛しています。少数派は、動作の不一致 と 今後の価格引き上げの可能性 に失望を示しています。
"DeepSeek は、今後 "大幅な値上げ" を発表したため、このラインはすぐに右に移動する可能性があります。" – @modeless
"先月までは興味深いモデルだった Kimi K3 が、今やその性能を20分の1の価格で得られるようになっています。この進化の速さは驚きです。" – @542458
結論
DeepSeek V4 Flash 0731 は、2026年半ばにおける 高精度・低コストのLLM推論 の新しい基準を確立しました。89.0% の ARC‑AGI‑1 と 61.4% の ARC‑AGI‑2 スコアは、競争力のある推論能力を示しており、1タスクあたり1セント未満の価格、高速なCPU/GPUスループット、強力なコード補助機能により、趣味ユーザーから企業エージェントまで幅広く実用的な選択肢となっています。ユーザーは、偶発的なレグレッションに注意を払い、今後の価格変更を注視すべきですが、現時点では、準最先端の言語モデルパフォーマンスに至る最もコスト効率の良い道の一つと言えるでしょう。
Sources
関連
- Dispatch
- Dispatch
- Dispatch
- Dispatch