Hugging Face Xet対応リポジトリ:ブロックレベルの集約によるHub転送の高速化
Hugging Faceは、xet-coreとhf_xetを使用したチャンクベースの重複排除システムを導入し、ブロックレベルの集約を通じてアップロードとダウンロードを2〜3倍高速化します。
Open R1 アップデート #2: OpenR1-Math-220k データセットと推論の洞察
Hugging Face は OpenR1-Math-220k を紹介します。これは、DeepSeek R1 の蒸留パイプラインを再構築するように設計された大規模な数学的推論データセットであり、GRPO と Chain-of-Thought 長さの制御に関するコミュニティの洞察も共有します。
The Open Arabic LLM Leaderboard 2
Hugging Face とパートナーは、飽和したベンチマークや機械翻訳されたベンチマークを、ネイティブなアラビア語データセットと新しい RAG 評価フレームワークに置き換え、アラビア語能力をより正確に測定する Open Arabic LLM Leaderboard 2 (OALL v2) をリリースしました。
DABStep: 多段階推論のためのデータエージェント・ベンチマーク
Hugging FaceとAdyenは、450以上の実世界のデータ分析タスクからなるベンチマーク「DABStep」を発表しました。これは、現在の最先端AIエージェントが複雑な推論タスクにおいてわずか16%の精度しか達成できていないことを明らかにしています。
pi0 and pi0-FAST: 汎用ロボット制御のためのVision-Language-Actionモデル
Hugging Faceは、多様なエンボディメントにわたる多才なロボット制御を可能にするため、Physical Intelligenceが開発した汎用Vision-Language-Action (VLA) モデルであるpi0とpi0-FASTをLeRobotリポジトリに統合しました。
Hugging Face オープンソース DeepResearch
Hugging Faceは、OpenAIのDeep Researchの能力を再現するフレームワークをオープンソース化し、コードネイティブなエージェントアプローチを使用してGAIAベンチマークで55.15%のスコアを達成しました。
Open-R1 アップデート #1: DeepSeek-R1 のトレーニングと合成データの複製
Hugging Faceは、Open-R1プロジェクトの最初の進捗アップデートを提供し、DeepSeek-R1の評価スコアの再現、TRLへのGRPOの統合、および合成推論データ生成のスケーリング戦略について詳しく説明しています。
Mini-R1: GRPOとCountdown GameによるDeepSeek-R1の推論の再現
Hugging Faceは、Countdown GameにおいてGroup Relative Policy Optimization (GRPO) を用いてQwen2.5-3Bモデルをトレーニングすることにより、DeepSeek-R1の自己修正と推論という「aha moment」をどのように再現できるかを示しています。
Hugging Face AI Tools アートニュースレター 第1号
Hugging FaceはオープンソースクリエイティブAIの現状を詳細に述べた月刊ニュースレターを開始し、2024年のDiffusion Transformersへのシフトと高品質なオープンビデオおよびオーディオモデルの登場を強調しています。
AWSでのDeepSeek R1モデルのデプロイとファインチューニング方法
Hugging Faceは、Hugging Face Inference Endpoints、Amazon Bedrock Marketplace、Amazon SageMaker AI(GPUおよびNeuronインスタンス)、およびHugging Face Neuron Deep Learning AMIを使用したEC2 Neuronを使って、AWS上でDeepSeek R1およびそのディスティルドバリアントをデプロイおよびファインチューニングする方法を示しています。
Open-R1: DeepSeek-R1の完全なオープン再現
Hugging Faceは、Open-R1プロジェクトを立ち上げ、DeepSeek-R1のデータとトレーニングパイプラインを体系的に再構築し、オープンソースコミュニティに推論モデルのための欠落しているデータセットとコードを提供することを目的としています。
Hugging Face Inference Providers Integration
Hugging Faceは、fal、Replicate、SambaNova、Together AIの4つのサーバーレス推論プロバイダーをHubに直接統合し、統合されたモデル中心のサーバーレス推論を提供しています。
Diffusersにおけるオープンビデオ生成モデルの現状
Hugging Faceは、オープンビデオ生成モデルの包括的な概要を提供し、HunyuanVideoのようなモデルのVRAM要件を60GBから約6.5GBに削減できるDiffusersの最適化スイートを紹介しています。
smolagents ビジョンサポートのアップデート
Hugging Faceは smolagents にネイティブなビジョンサポートを追加し、自律的なウェブブラウジングなどのタスクにおいて、エージェントのパイプライン内で Vision Language Models (VLMs) を使用できるようにしました。
NVIDIA KVPress: 長文コンテキストLLM向けKVキャッシュ圧縮ツールキット
NVIDIAは、長文コンテキストのLarge Language Modelsのメモリフットプリントを削減し、デコード速度を向上させる最先端のKVキャッシュ圧縮技術を実装したPythonツールキットであるKVPressをリリースしました。
SmolVLM 256M と 500M リリースノート
Hugging Face は SmolVLM-256M と SmolVLM-500M を発表し、パラメータ数を大幅に削減しながらも強力なマルチモーダル性能を維持する高効率な Vision Language Model を提供します。
Hugging Face と FriendliAI のモデルデプロイメントにおけるパートナーシップ
Hugging Face は、FriendliAI の推論インフラストラクチャを Hugging Face Hub に統合し、高パフォーマンスなエンドポイントへの生成 AI モデルのワンクリックデプロイを可能にしました。
Hugging Face 組織ブログ記事機能
Hugging Face は現在、Enterprise Hub に加入している組織が組織プロファイルに直接ブログ記事を公開できるようになりました。
Hugging Face テキスト生成推論 (TGI) マルチバックエンドサポート
Hugging Faceは、Text Generation Inference (TGI)のためのマルチバックエンドアーキテクチャを導入し、これによりユーザーは単一の統一されたフロントエンドを使用して大規模言語モデル (LLM) をデプロイし、ハードウェアとパフォーマンスのニーズに基づいて異なる実行エンジン間を切り替えることができます。このアップデートは、TGIが複数の専門的なバックエンドを統合するレイヤーとして機能することにより、推論エコシステムの断片化に対処します。
Hugging Face Transformers timm 統合
Hugging Faceは、PyTorch Image Models(timm)ライブラリのあらゆるモデルを、推論、量子化、ファインチューニングのためにtransformersエコシステム内でシームレスに使用できるようにするTimmWrapperを導入しました。
Sentence Transformersを使用して400倍高速なStatic Embedding Modelをトレーニングする
Hugging Faceは、all-mpnet-base-v2のようなモデルの品質を少なくとも85%維持しつつ、CPUで100倍〜400倍高速に動作する静的埋め込みモデルをトレーニングする方法を導入しました。トレーニングスクリプトと評価結果を伴う2つのモデル(static-retrieval-mrl-en-v1 および static-similarity-mrl-multilingual-v1)を公開しています。
Hugging Face AI Agents Ethics and Framework Analysis
Hugging Faceは、AIエージェントを理解するための包括的なフレームワークを提供しており、自律性が高まるにつれてリスクが増大すると主張し、完全自律型エージェントの開発には慎重な姿勢を示しています。
Hugging Face が vdr-2b-multi-v1 多言語視覚ドキュメント検索モデルをリリース
Hugging Face は、ページのスクリーンショットを密ベクトルにエンコードすることで OCR なしで複雑なドキュメントの検索を可能にする、視覚ドキュメント検索用の多言語埋め込みモデル vdr-2b-multi-v1 を発表しました。
Hugging Face Open LLM リーダーボード: CO₂ 排出量とモデル パフォーマンス分析
Hugging Face は、コミュニティ ファインチューン モデルが、簡潔さの向上と指示への従順性の向上により、公式リリースよりもしばしば高いカーボン効率を示すことを明らかにしました。
Hugging Face smolagents リリース
Hugging Faceは、軽量ライブラリsmolagentsをリリースしました。これにより、LLMはJSONではなく実行可能なコードとしてアクションを記述することで複雑なタスクを実行でき、構成性と汎用性が向上します。
PyTorchにおけるGPUメモリの可視化と理解 – Hugging Face Blog サマリー
Hugging Faceのブログ記事では、torch.cuda.memoryツールを使ってPyTorchにおけるGPUメモリ使用量を可視化する方法を説明し、モデルトレーニング中のメモリコンポーネントを分解し、総メモリ要件を見積もるための公式を提供しています。
NVIDIA LogitsProcessorZoo: モジュール式 Logits Processor による言語モデル生成の制御
NVIDIA の LogitsProcessorZoo は、Hugging Face Transformers 用のモジュール式 logits processor を提供し、生成の長さの制御、フレーズの含入の強制、プロンプト内容の引用、および出力を多肢選択の回答に制限することを可能にします。
Big Bench Audio リリース
Artificial Analysis は、音声言語モデルの推論能力を評価するために設計された 1,000 問の音声質問からなるデータセット Big Bench Audio をリリースし、テキストと音声の推論の間に大きなパフォーマンスギャップがあることを明らかにしました。
ModernBERT リリースノート
Hugging Face、Answer.AI、および LightOn は、BERT の速度、精度、コンテキスト長を 8,192 トークンに改善した最先端のエンコーダー専用モデルファミリである ModernBERT をリリースしました。
Bamba-9B: 推論効率の高いハイブリッド Mamba2 モデル
IBM、Princeton、CMU、UIUC による、2.2T のオープンなトークンでトレーニングされたハイブリッド Mamba2 モデルである Bamba-9B は、vLLM において Llama 3.1 8B に対して 2.5 倍のスループットと 2 倍のレイテンシ向上を達成し、transformers、vLLM、TRL、llama.cpp で即座に使用可能です。
GCPにおける第5世代 Xeonでの言語モデル性能ベンチマーク
Hugging Faceは、Google CloudのC4(第5世代 Xeon)およびN2(第3世代 Xeon)インスタンスでテキスト埋め込みと生成のベンチマークを行い、C4が埋め込みスループットで10‑24倍、生成スループットで2.3‑3.6倍高いことを確認し、それにより総所有コストにおいてそれぞれ7‑19倍および1.7‑2.9倍の優位性が得られたと報告しています。
Falcon 3 リリースノート / 新機能
Technology Innovation Institute (TII) は、高効率化と科学、数学、コーディング能力の強化を目的として設計された、100億パラメータ未満のデコーダーのみの(decoder-only)大規模言語モデルファミリーである Falcon 3 をリリースしました。
Hugging Face Synthetic Data Generator
Hugging Faceは、自然言語プロンプトを使用してカスタムのテキスト分類およびチャットデータセットを作成できるノーコードアプリケーション「Synthetic Data Generator」を導入しました。
LeMaterial v1.0: LeMat-Bulk データセットリリース
LeMaterial v1.0 はオープンソースイニシアティブとして LeMat-Bulk データセットをリリースし、Materials Project、Alexandria、OQMD の 6.7M エントリを統一フォーマットと 7 つの特性にまとめ、材料発見を加速します。
Hugging Face テキスト・トゥ・イメージ生成のためのオープンプリファレンスデータセット
Data is Better Together コミュニティは、モデルのアライメントのためのオープンソースプリファレンスデータの不足に対処するため、テキスト・トゥ・イメージ生成用の Apache 2.0 ライセンスのオープンプリファレンスデータセットをリリースしました。
Amazon Bedrock Marketplace の Hugging Face モデル
Hugging Face は、Amazon Bedrock Marketplace に 83 のオープンモデルを統合し、AWS のお客様が管理されたインフラストラクチャ上でオープンモデルをデプロイできるようにし、同時に Bedrock API との互換性を維持しています。
PaliGemma 2 リリースノート
Googleは、SigLIP画像エンコーダとGemma 2テキストデコーダを組み合わせた、3つのパラメータサイズと複数の入力解像度にわたる新しいビジョン言語モデルファミリーであるPaliGemma 2をリリースしました。
LLMは自分の間違いを修正するのがどの程度得意か?KerasとTPUを用いたチャットボット・アリーナの実験
Hugging Faceは、いくつかの10B未満のLLMに対して単純なカレンダーAPIタスクのテストを行い、Gemma 2 9Bは最小限のプロンプトで一貫して間違いを修正できた一方で、小型および古いモデルは苦戦するか、多くの修正ターンを必要とすることを発見しました。
AraGen ベンチマークとリーダーボード: アラビア語 LLMs 向け 3C3H 評価の導入
Hugging Face は、3C3H 指標を使用して正確性、完全性、簡潔性、役立ちやすさ、正直さ、無害性を評価するアラビア語 LLMs の動的ベンチマークおよびリーダーボードである AraGen を発表しました。
Hugging Face CFM ケーススタディ: LLM インサイトを使った小規模モデルのファインチューニング
Capital Fund Management (CFM)は、Llama 3.1を使用してGLiNERやSpanMarkerなどのコンパクトモデルのファインチューニング用データのラベル付けを支援することで、金融の名前付きエンティティ認識(NER)の精度を最大6.4%向上させ、推論コストを最大80倍削減しました。
オープンソース開発者向けEU AI Actガイド
Hugging Faceのガイドは、EU AI ActがオープンソースAI開発者にどのように適用されるかを説明し、限定リスクのAIシステムおよび非システムリスクの汎用AIモデルの義務を概説し、コンプライアンスのためのツールを示しています。
Hugging Face Hub ストレージの再アーキテクチャ
Hugging Faceは、コンテンツアドレスドストア(CAS)を導入することでバイトレベルの重複除去を可能にし、巨大なAIモデルのグローバル転送速度を向上させるため、アップロードおよびダウンロードアーキテクチャを再設計しています。
SmolVLM リリースノート / 新機能
Hugging Faceは、フルオープンソースで、エッジデバイスでの低メモリフットプリントと高スループットに最適化された2BパラメータのVision Language Model(VLM)であるSmolVLMを発表しました。
あなたは最先端の位置エンコーディングを設計できたでしょう
Hugging Faceのブログ記事は、トランスフォーマーの位置エンコーディングの反復的設計を歩み、サインusoidalエンコーディングがどのように回転位置エンコーディング(RoPE)に導かれるか、そしてそれがトークン間の関係をモデル化する上でなぜ重要かを示しています。
Hugging Face と LLM-jp がオープン日本語 LLM リーダーボードを開始
Hugging Face と LLM-jp は、オープン日本語 LLM リーダーボードを導入しました。この透明な評価プラットフォームは、20 以上のデータセットを備え、日本語大規模言語モデルの性能をベンチマークします。
Hugging Face がストレージ効率を向上させるためにコンテンツ定義チャンク化を導入
Hugging Face は、Xet チームによるコンテンツ定義チャンク化ストレージ アプローチを発表し、変更されたチャンクのみをアップロードすることで、大規模なモデルおよびデータセット ファイルのストレージおよび転送コストを削減します。
自己スペキュラティブデコーディングによる高速テキスト生成
Hugging Faceは、LayerSkipを介した自己スペキュラティブデコーディングを導入します。これは、単一のLLMの早い層をドラフトに、後の層を検証に使用することで、生成速度を向上させ、メモリオーバーヘッドを削減する方法です。
FlagEval Debate: 新しい多言語LLM評価フレームワーク
BAAIは、LLMが多言語ディベートで競い合う動的評価プラットフォームFlagEval Debateを立ち上げ、推論、論理、敵対的能力をより正確に評価できるようにしました。
Hugging Face Judge Arena: LLMsを評価者としてベンチマーク
Hugging Faceは、人間の投票を使って他のAI生成レスポンスの採点において最も効果的な評価者として機能するLLMを決定するクラウドソーシングプラットフォームであるJudge Arenaをリリースしました。
研究者向け Hugging Face Hub データセット共有
Hugging Face Hub は、統合された探索、セキュリティ、コミュニティエンゲージメントツールを備えた、大規模な ML データセットのホスティングと共有のための包括的なプラットフォームを提供します。