✷ アーカイブ · ラボ 11 拠点 · ディスパッチ 870 件
ラボ
毎朝十数個の公式ブログを開いて回る必要はありません。OpenAI、Anthropic、DeepMind などの一次発表を、要点を抜き出した形で。
Hugging Face Inference Providers Integration
Hugging Faceは、fal、Replicate、SambaNova、Together AIの4つのサーバーレス推論プロバイダーをHubに直接統合し、統合されたモデル中心のサーバーレス推論を提供しています。
Diffusersにおけるオープンビデオ生成モデルの現状
Hugging Faceは、オープンビデオ生成モデルの包括的な概要を提供し、HunyuanVideoのようなモデルのVRAM要件を60GBから約6.5GBに削減できるDiffusersの最適化スイートを紹介しています。
smolagents ビジョンサポートのアップデート
Hugging Faceは smolagents にネイティブなビジョンサポートを追加し、自律的なウェブブラウジングなどのタスクにおいて、エージェントのパイプライン内で Vision Language Models (VLMs) を使用できるようにしました。
NVIDIA KVPress: 長文コンテキストLLM向けKVキャッシュ圧縮ツールキット
NVIDIAは、長文コンテキストのLarge Language Modelsのメモリフットプリントを削減し、デコード速度を向上させる最先端のKVキャッシュ圧縮技術を実装したPythonツールキットであるKVPressをリリースしました。
SmolVLM 256M と 500M リリースノート
Hugging Face は SmolVLM-256M と SmolVLM-500M を発表し、パラメータ数を大幅に削減しながらも強力なマルチモーダル性能を維持する高効率な Vision Language Model を提供します。
Hugging Face と FriendliAI のモデルデプロイメントにおけるパートナーシップ
Hugging Face は、FriendliAI の推論インフラストラクチャを Hugging Face Hub に統合し、高パフォーマンスなエンドポイントへの生成 AI モデルのワンクリックデプロイを可能にしました。
Hugging Face 組織ブログ記事機能
Hugging Face は現在、Enterprise Hub に加入している組織が組織プロファイルに直接ブログ記事を公開できるようになりました。
Hugging Face テキスト生成推論 (TGI) マルチバックエンドサポート
Hugging Faceは、Text Generation Inference (TGI)のためのマルチバックエンドアーキテクチャを導入し、これによりユーザーは単一の統一されたフロントエンドを使用して大規模言語モデル (LLM) をデプロイし、ハードウェアとパフォーマンスのニーズに基づいて異なる実行エンジン間を切り替えることができます。このアップデートは、TGIが複数の専門的なバックエンドを統合するレイヤーとして機能することにより、推論エコシステムの断片化に対処します。
Hugging Face Transformers timm 統合
Hugging Faceは、PyTorch Image Models（timm）ライブラリのあらゆるモデルを、推論、量子化、ファインチューニングのためにtransformersエコシステム内でシームレスに使用できるようにするTimmWrapperを導入しました。
Sentence Transformersを使用して400倍高速なStatic Embedding Modelをトレーニングする
Hugging Faceは、all-mpnet-base-v2のようなモデルの品質を少なくとも85%維持しつつ、CPUで100倍〜400倍高速に動作する静的埋め込みモデルをトレーニングする方法を導入しました。トレーニングスクリプトと評価結果を伴う2つのモデル（static-retrieval-mrl-en-v1 および static-similarity-mrl-multilingual-v1）を公開しています。
Hugging Face AI Agents Ethics and Framework Analysis
Hugging Faceは、AIエージェントを理解するための包括的なフレームワークを提供しており、自律性が高まるにつれてリスクが増大すると主張し、完全自律型エージェントの開発には慎重な姿勢を示しています。
Hugging Face が vdr-2b-multi-v1 多言語視覚ドキュメント検索モデルをリリース
Hugging Face は、ページのスクリーンショットを密ベクトルにエンコードすることで OCR なしで複雑なドキュメントの検索を可能にする、視覚ドキュメント検索用の多言語埋め込みモデル vdr-2b-multi-v1 を発表しました。
Hugging Face Open LLM リーダーボード: CO₂ 排出量とモデル パフォーマンス分析
Hugging Face は、コミュニティ ファインチューン モデルが、簡潔さの向上と指示への従順性の向上により、公式リリースよりもしばしば高いカーボン効率を示すことを明らかにしました。
Hugging Face smolagents リリース
Hugging Faceは、軽量ライブラリsmolagentsをリリースしました。これにより、LLMはJSONではなく実行可能なコードとしてアクションを記述することで複雑なタスクを実行でき、構成性と汎用性が向上します。
PyTorchにおけるGPUメモリの可視化と理解 – Hugging Face Blog サマリー
Hugging Faceのブログ記事では、torch.cuda.memoryツールを使ってPyTorchにおけるGPUメモリ使用量を可視化する方法を説明し、モデルトレーニング中のメモリコンポーネントを分解し、総メモリ要件を見積もるための公式を提供しています。
NVIDIA LogitsProcessorZoo: モジュール式 Logits Processor による言語モデル生成の制御
NVIDIA の LogitsProcessorZoo は、Hugging Face Transformers 用のモジュール式 logits processor を提供し、生成の長さの制御、フレーズの含入の強制、プロンプト内容の引用、および出力を多肢選択の回答に制限することを可能にします。
Big Bench Audio リリース
Artificial Analysis は、音声言語モデルの推論能力を評価するために設計された 1,000 問の音声質問からなるデータセット Big Bench Audio をリリースし、テキストと音声の推論の間に大きなパフォーマンスギャップがあることを明らかにしました。
ModernBERT リリースノート
Hugging Face、Answer.AI、および LightOn は、BERT の速度、精度、コンテキスト長を 8,192 トークンに改善した最先端のエンコーダー専用モデルファミリである ModernBERT をリリースしました。
Bamba-9B: 推論効率の高いハイブリッド Mamba2 モデル
IBM、Princeton、CMU、UIUC による、2.2T のオープンなトークンでトレーニングされたハイブリッド Mamba2 モデルである Bamba-9B は、vLLM において Llama 3.1 8B に対して 2.5 倍のスループットと 2 倍のレイテンシ向上を達成し、transformers、vLLM、TRL、llama.cpp で即座に使用可能です。
GCPにおける第5世代 Xeonでの言語モデル性能ベンチマーク
Hugging Faceは、Google CloudのC4（第5世代 Xeon）およびN2（第3世代 Xeon）インスタンスでテキスト埋め込みと生成のベンチマークを行い、C4が埋め込みスループットで10‑24倍、生成スループットで2.3‑3.6倍高いことを確認し、それにより総所有コストにおいてそれぞれ7‑19倍および1.7‑2.9倍の優位性が得られたと報告しています。
Falcon 3 リリースノート / 新機能
Technology Innovation Institute (TII) は、高効率化と科学、数学、コーディング能力の強化を目的として設計された、100億パラメータ未満のデコーダーのみの（decoder-only）大規模言語モデルファミリーである Falcon 3 をリリースしました。
Hugging Face Synthetic Data Generator
Hugging Faceは、自然言語プロンプトを使用してカスタムのテキスト分類およびチャットデータセットを作成できるノーコードアプリケーション「Synthetic Data Generator」を導入しました。
LeMaterial v1.0: LeMat-Bulk データセットリリース
LeMaterial v1.0 はオープンソースイニシアティブとして LeMat-Bulk データセットをリリースし、Materials Project、Alexandria、OQMD の 6.7M エントリを統一フォーマットと 7 つの特性にまとめ、材料発見を加速します。
Hugging Face テキスト・トゥ・イメージ生成のためのオープンプリファレンスデータセット
Data is Better Together コミュニティは、モデルのアライメントのためのオープンソースプリファレンスデータの不足に対処するため、テキスト・トゥ・イメージ生成用の Apache 2.0 ライセンスのオープンプリファレンスデータセットをリリースしました。
Amazon Bedrock Marketplace の Hugging Face モデル
Hugging Face は、Amazon Bedrock Marketplace に 83 のオープンモデルを統合し、AWS のお客様が管理されたインフラストラクチャ上でオープンモデルをデプロイできるようにし、同時に Bedrock API との互換性を維持しています。
PaliGemma 2 リリースノート
Googleは、SigLIP画像エンコーダとGemma 2テキストデコーダを組み合わせた、3つのパラメータサイズと複数の入力解像度にわたる新しいビジョン言語モデルファミリーであるPaliGemma 2をリリースしました。
LLMは自分の間違いを修正するのがどの程度得意か？KerasとTPUを用いたチャットボット・アリーナの実験
Hugging Faceは、いくつかの10B未満のLLMに対して単純なカレンダーAPIタスクのテストを行い、Gemma 2 9Bは最小限のプロンプトで一貫して間違いを修正できた一方で、小型および古いモデルは苦戦するか、多くの修正ターンを必要とすることを発見しました。
AraGen ベンチマークとリーダーボード: アラビア語 LLMs 向け 3C3H 評価の導入
Hugging Face は、3C3H 指標を使用して正確性、完全性、簡潔性、役立ちやすさ、正直さ、無害性を評価するアラビア語 LLMs の動的ベンチマークおよびリーダーボードである AraGen を発表しました。
Hugging Face CFM ケーススタディ: LLM インサイトを使った小規模モデルのファインチューニング
Capital Fund Management (CFM)は、Llama 3.1を使用してGLiNERやSpanMarkerなどのコンパクトモデルのファインチューニング用データのラベル付けを支援することで、金融の名前付きエンティティ認識(NER)の精度を最大6.4%向上させ、推論コストを最大80倍削減しました。
オープンソース開発者向けEU AI Actガイド
Hugging Faceのガイドは、EU AI ActがオープンソースAI開発者にどのように適用されるかを説明し、限定リスクのAIシステムおよび非システムリスクの汎用AIモデルの義務を概説し、コンプライアンスのためのツールを示しています。
Hugging Face Hub ストレージの再アーキテクチャ
Hugging Faceは、コンテンツアドレスドストア（CAS）を導入することでバイトレベルの重複除去を可能にし、巨大なAIモデルのグローバル転送速度を向上させるため、アップロードおよびダウンロードアーキテクチャを再設計しています。
SmolVLM リリースノート / 新機能
Hugging Faceは、フルオープンソースで、エッジデバイスでの低メモリフットプリントと高スループットに最適化された2BパラメータのVision Language Model（VLM）であるSmolVLMを発表しました。
あなたは最先端の位置エンコーディングを設計できたでしょう
Hugging Faceのブログ記事は、トランスフォーマーの位置エンコーディングの反復的設計を歩み、サインusoidalエンコーディングがどのように回転位置エンコーディング（RoPE）に導かれるか、そしてそれがトークン間の関係をモデル化する上でなぜ重要かを示しています。
Hugging Face と LLM-jp がオープン日本語 LLM リーダーボードを開始
Hugging Face と LLM-jp は、オープン日本語 LLM リーダーボードを導入しました。この透明な評価プラットフォームは、20 以上のデータセットを備え、日本語大規模言語モデルの性能をベンチマークします。
Hugging Face がストレージ効率を向上させるためにコンテンツ定義チャンク化を導入
Hugging Face は、Xet チームによるコンテンツ定義チャンク化ストレージ アプローチを発表し、変更されたチャンクのみをアップロードすることで、大規模なモデルおよびデータセット ファイルのストレージおよび転送コストを削減します。
自己スペキュラティブデコーディングによる高速テキスト生成
Hugging Faceは、LayerSkipを介した自己スペキュラティブデコーディングを導入します。これは、単一のLLMの早い層をドラフトに、後の層を検証に使用することで、生成速度を向上させ、メモリオーバーヘッドを削減する方法です。
FlagEval Debate: 新しい多言語LLM評価フレームワーク
BAAIは、LLMが多言語ディベートで競い合う動的評価プラットフォームFlagEval Debateを立ち上げ、推論、論理、敵対的能力をより正確に評価できるようにしました。
Hugging Face Judge Arena: LLMsを評価者としてベンチマーク
Hugging Faceは、人間の投票を使って他のAI生成レスポンスの採点において最も効果的な評価者として機能するLLMを決定するクラウドソーシングプラットフォームであるJudge Arenaをリリースしました。
研究者向け Hugging Face Hub データセット共有
Hugging Face Hub は、統合された探索、セキュリティ、コミュニティエンゲージメントツールを備えた、大規模な ML データセットのホスティングと共有のための包括的なプラットフォームを提供します。
Hugging Face PyCharm 統合
Hugging Face は、その Hub を PyCharm Professional に直接統合し、開発者が IDE を離れることなく機械学習モデルを検出、挿入、管理できるようにしました。
Argilla 2.4 リリースノート / 新機能
Argilla 2.4 は、Hugging Face Hub のデータセットをインポートし、人間のフィードバックを通じてファインチューニングおよび評価用データセットを構築するためのノーコード UI を導入しました。
ユニバーサル・アシスト生成: 任意のアシスタントモデルで高速デコード
Hugging Face と Intel Labs は、トークナイザーに関係なく任意の小型モデルをアシスタントとして利用できることで、LLM 推論を 1.5 倍〜2.0 倍高速化する手法、Universal Assisted Generation（UAG）を発表しました。
Digital Green Farmer.chat: LLM-as-a-Judge で RAG を強化
Digital Green は、RAG ベースの農業チャットボットである Farmer.chat に対して、LLM-as-a-judge 評価フレームワークを導入し、RAG の正確性を客観的に測定し、34 万件のクエリにわたるモデル選択を最適化しました。
Aya Expanse リリース：多言語 LLM パフォーマンスの向上
Hugging Face と Cohere For AI は、8B と 32B のオープンウェイトモデルファミリーである Aya Expanse をリリースしました。このモデルは多言語パフォーマンスにおいて新たな最先端ベンチマークを設定しています。
HUGS のローンチ：ゼロ構成、ハードウェア最適化された推論（インフェレンス）をオープンLLM向けに
Hugging Face は、NVIDIA、AMD、そして近日中に AWS Inferentia と Google TPU でも動作する、オープンソース LLM 向けのゼロ構成・ハードウェア最適化された推論サービス HUGS を発表しました。これにより、企業は OpenAI 互換 API を使用してモデルを社内でホストできるようになります。
CinePile 2.0 リリース：対抗的リファインメントでビデオ QA データセットの品質向上
CinePile 2.0 は、弱い QA ペアを視覚依存の質問に昇格させる対抗的リファインメントパイプラインを導入し、改善されたデータセットと完全なコードの両方を公開するとともに、商用およびオープンソースのビデオ‑LLM に対して大幅な性能向上を示します。
Transformers v4.46.0 における SynthID Text の統合
Google DeepMind と Hugging Face は SynthID Text を Transformers v4.46.0 に統合し、AI 生成テキストに目に見えない透かしを付与し、訓練済み分類器で検出できる手法を提供しました。
Hugging Face Inference Endpoints での Speech-to-Speech のデプロイ
Hugging Face は、計算負荷の高い Speech-to-Speech (S2S) パイプラインをカスタム Docker イメージで Inference Endpoints にデプロイし、レイテンシを低減するためのガイドを提供しています。
Outlines-core 0.1.0 リリースノート / 新機能
Hugging Face と dottxt は、インデックスコンパイル速度とポータビリティを向上させた、構造化生成用の Outlines コアアルゴリズムを Rust に移植した outlines-core 0.1.0 をリリースしました。
Diffusers との Stable Diffusion 3.5 Large 統合
Hugging Face は、標準版とタイムステップ蒸留版の 8B パラメータモデルである Stable Diffusion 3.5 Large を Diffusers ライブラリに統合しました。