✷ アーカイブ · ラボ 11 拠点 · ディスパッチ 870 件
ラボ
毎朝十数個の公式ブログを開いて回る必要はありません。OpenAI、Anthropic、DeepMind などの一次発表を、要点を抜き出した形で。
Hugging Face、Protect AIと提携しモデルセキュリティ向上のためGuardianスキャナーを追加
Hugging FaceはProtect AIと提携し、HubにGuardianスキャナーを組み込み、危険なモデルシリアライズの脆弱性を自動検出して、MLコミュニティ全体のセキュリティを向上させました。
Transformers.js v3 リリースで WebGPU 加速、モデルサポートの拡充、サーバーサイド JavaScript 互換性を追加
Transformers.js v3 は WebGPU 加速、新しい量子化フォーマット、120 のモデルアーキテクチャのサポート、そして Node.js/Deno/Bun 互換性を追加し、ブラウザや JavaScript ランタイムで高速なオンデバイス推論を可能にします。
KerasでのLlama 3.2
Llama 3.2 は keras-hub を通じて Keras で完全にサポートされており、ユーザーは Hugging Face のチェックポイントをロードし、JAX、PyTorch、または TensorFlow バックエンドでモデルを実行できます。
Hugging Face Transformers 勾配蓄積修正
Hugging Face は Transformers Trainer を更新し、損失のバッチ間平均方法を修正することで、勾配蓄積がフルバッチ学習と数式上で同等になるようにしました。
Gradio 5 セキュリティレビュー
Hugging Face は Trail of Bits と共に Gradio 5 の包括的なセキュリティ監査を実施し、特定されたすべての脆弱性を修正して、機械学習アプリケーションがデフォルトで安全になるようにしました。
AMD EPYC Turin CPUはGenoaに対してLLM推論スループットを2倍提供
AMDの第5世代EPYC Turin CPUは、Genoaに比べてLLM推論スループットを約2倍にし、Hugging Faceのワークロードで低レイテンシと高スループットを実現します。
Hugging Face と Dask による AI データ処理のスケーリング
Hugging Face と Dask は、分散コンピューティングとマルチ GPU 並列推論を活用して、ローカルの小規模サンプルから数億行規模のデータまで AI ベースのデータ処理をスケールさせることを可能にします。
Gradio 5 リリースノート
Hugging Face は、Python を使用して高性能・スケーラブル・安全な機械学習ウェブアプリケーションを構築するための本番環境対応フレームワーク、Gradio 5 をリリースしました。
Hugging Face Transformers 4.45.0 動的投機的デコード
Hugging Face と Intel Labs は Transformers 4.45.0 で動的投機的デコードを導入し、モデルの信頼度に基づいてドラフトトークン数を動的に調整することで、テキスト生成を最大 2.7 倍高速化しました。
Hugging Face Hub における Parquet 重複排除の改善
Hugging Face はストレージアーキテクチャを最適化し、Parquet ファイルの重複排除を改善するために、データセット更新時のストレージオーバーヘッドを削減するコンテンツ定義行グループを提案しています。
Open FinLLM Leaderboard の開始 – 金融言語モデル向け包括的なゼロショットベンチマーク
Hugging Face は Open FinLLM Leaderboard を開始しました。このゼロショットベンチマークは、7 つのカテゴリにわたる 40 の金融特化タスクをカバーし、実際の金融アプリケーションに対する LLM の準備状況を評価します。
中国AIのグローバル展開分析
中国のAI企業は、国内市場の飽和、激しい価格競争、規制圧力により国際展開を加速しており、東南アジア、中東、そして西側の消費者市場をターゲットにしています。
BenCzechMark: チェコ語 LLM 用の包括的評価スイート
Hugging Face と学術パートナーは、チェコ語モデル向けの初の包括的評価スイートである BenCzechMark をリリースしました。9 つのカテゴリにまたがる 50 のタスクと、新しいデュエル方式のスコアリングメカニズムを備えています。
頂点カラー メッシュをテクスチャメッシュに変換する
Hugging Face は、頂点カラーの 3D メッシュを UV マッピングされたテクスチャメッシュに変換し、アプリケーションとの互換性を向上させる方法と InstantTexture ライブラリを紹介します。
Llama 3.2 リリースノート: マルチモーダルビジョンとオンデバイス小型言語モデル
Meta は Llama 3.2 をリリースし、11B と 90B のサイズでマルチモーダルビジョン機能を、オンデバイス展開に最適化された軽量な 1B と 3B のテキスト専用モデルを導入しました。
Hugging Face Daily Papers 機能ガイド
Hugging FaceのDaily Papersページは、AI研究のコミュニティキュレーションハブを提供し、著者の主張、論文提出、研究者と開発者間の直接的なやり取りを可能にするツールを備えています。
FineVideo データセットリリース
Hugging Face は、43,000 本（3,400 時間）の高品質なオープンビデオデータセットである FineVideo をリリースしました。このデータセットは、ビデオ理解と生成 AI のトレーニング向けに、豊富で構造化されたアノテーションが付与されています。
Optimum-Intel と OpenVINO GenAI を使用した Hugging Face モデルの最適化とデプロイ
Hugging Face と Intel は、Optimum-Intel と OpenVINO GenAI を活用したシンプルなワークフローを提供し、Intel ハードウェア上で Transformers モデルを最適化およびデプロイします。特にエッジやクライアント側の C++ および Python 環境を対象としています。
LLM を 1.58 ビットにファインチューニング：BitNet による極端な量子化
Hugging Face は、Llama 3 8B などの既存 LLM を動的ウォームアップ量子化戦略を用いて 1.58 ビットの三値精度にファインチューニングできることを示しました。これにより、メモリとエネルギーの要件を大幅に削減しながら、優れた性能を維持できます。
Hugging Face データセット用 SQL コンソール
Hugging Face は、DuckDB WASM によって駆動されるブラウザベースの SQL コンソールを導入しました。これにより、バックエンドの依存なしで Hub 上のデータセットを直接クエリ、フィルタ、変換できます。
HuggingChat コミュニティツールリリース
Hugging Face は HuggingChat にコミュニティツールを導入し、ユーザーが任意のパブリック Hugging Face Space をツールとして統合し、LLM がチャットインターフェース内で直接利用できるようにしました。
Accelerate 1.0.0 リリース候補のお知らせ
Accelerate 1.0.0 のリリース候補は、FP8、DeepSpeed マルチモデル、torch.compile、そして新しいデータローダー/パイプライン機能を追加し、大規模トレーニングと推論のための API を安定化させました。
シークレットスキャンにおける Hugging Face と TruffleHog のパートナーシップ
Hugging Face は Truffle Security と提携し、TruffleHog のシークレットスキャン機能を自動パイプラインに統合するとともに、ユーザーが自分のアカウントデータを積極的にスキャンできるネイティブスキャナーを提供しています。
LeRobotDataset ビデオエンコーディング形式はロボティクスデータセットのサイズを削減し、トレーニングを高速化する
Hugging Face は LeRobotDataset ビデオエンコーディング形式をリリースし、ロボティクスの視覚データを元の約 14 % に縮小しながら、ロード速度とトレーニング性能を維持しています。
Hugging Face のブログ記事が、評価が低く見過ごされがちな Hub ツール 5 つと、無料のセマンティック検索ユースケースをハイライト
Hugging Face は、評価が低く見過ごされがちな Hub ツール（ZeroGPU、マルチプロセス Docker、Gradio API、Webhooks、Nomic Atlas）を 5 つ発表し、これらを組み合わせて Reddit データ向けの無料・自動更新型セマンティック検索アプリを構築する方法を示しました。
Hugging Face トレーニング効率: Flash Attention 2 を用いたパッキング
Hugging Face は指示チューニング用サンプルの境界認識パッキングを導入し、Flash Attention 2 と併用することでトレーニングスループットが最大 2 倍に、ピークメモリが 20% 削減されます。
Google Cloud Vertex AI で Meta Llama 3.1 405B をデプロイする
Hugging Face は、Text Generation Inference（TGI）と A3 マシンシリーズを使用して、Google Cloud Vertex AI 上で Meta Llama 3.1 405B の FP8 量子化バージョンをプログラム的にデプロイするためのガイドを提供しています。
Hugging Face Infini-Attention 再現分析
Hugging Face が Infini-Attention の再現を試みた結果、ゲーティングの収束は改善できるものの、メモリ圧縮が増えると手法の性能が低下し、Ring Attention、YaRN、RoPE スケーリングよりも信頼性が低いことが判明しました。
ggml の紹介
ggml は Transformer 推論とデバイス上 LLM 実行に最適化された、軽量な C/C++ 機械学習ライブラリで、さまざまなハードウェアバックエンドをサポートします。
Hugging Face 統合ツール使用 API
Hugging Face は、Mistral、Cohere、NousResearch、Llama の各モデルでツール呼び出しを実装する際に同じコードを使用できる統合ツール使用 API を導入しました。
Falcon Mamba 7B リリースノート
Technology Innovation Institute (TII) は、最先端のトランスフォーマーモデルと同等の性能を持ち、アテンションベースのメモリスケーリング問題を排除した、初の大規模純粋 State Space Language Model (SSLM) である Falcon Mamba 7B をリリースしました。
Hugging FaceがXetHubを取得し、Hubのストレージとコラボレーションを強化
Hugging FaceはGit LFSをより効率的なストレージバックエンドに置き換えるためにXetHubを買収し、インクリメンタル更新、兆パラメータモデルのサポート、そして大規模AIデータセットでのコラボレーションを向上させました。
Hugging Face TextImage Augmentation パイプラインリリース
Hugging Face と Albumentations AI は、文書画像とテキストを同時に変更する TextImage Augmentation パイプラインをリリースしました。これにより、現実的な合成データ生成と、限られた文書データセット上でのビジョン‑言語モデルの堅牢なファインチューニングが可能になります。
Hugging Face 2024 セキュリティ機能ハイライト
Hugging Face は 2024 年のセキュリティ状況を詳述し、すべてのユーザー向けのデフォルト保護スイートと Enterprise Hub ユーザー向けの高度なガバナンス制御を導入しました。
GoogleがGemma 2 2B、ShieldGemma、Gemma Scopeをリリース
GoogleはGemma 2 2B、ShieldGemma安全分類器、そしてGemma Scopeスパースオートエンコーダーをリリースし、オープンソースLLMの機能、モデレーションツール、解釈可能性リソースを拡充しました。
Quanto 量子化で Transformer ディフュージョンパイプラインのメモリ削減
Hugging Face の量子化（Quanto）は、Transformer ディフュージョンモデルの GPU メモリを約 12 GB から約 5 GB に削減し、レイテンシと品質への影響を最小限に抑えます。
Hugging Face NVIDIA NIM API (serverless) の開始と廃止
Hugging Face は Enterprise Hub ユーザー向けに NVIDIA NIM API（サーバーレス）を開始し、OpenAI 互換 API を通じて NVIDIA DGX Cloud H100 GPU 上でオープンソース LLM の従量課金サーバーレス推論を可能にしました。
LAVE: LLM を用いた Docmatix のゼロショット VQA 評価
Hugging Face は、従来の VQA メトリクスの硬直性に対処するために LAVE（LLM 支援 VQA 評価）を導入し、Docmatix データセットにおけるゼロショット性能の評価で 50% の精度向上を実証しました。
Llama 3.1 リリースノート：多言語対応、長コンテキスト、そして 405B モデル
Meta は Llama 3.1 をリリースしました。8B、70B、405B のサイズのモデルを提供し、コンテキスト長は 128K トークン、8 言語に対応する多言語サポート、そして合成データ生成を可能にする寛容なライセンスが特徴です。
Core ML で Mistral 7B を実行する
Hugging Face は、WWDC 24 の新しい Core ML 機能を使用して Mac で Mistral 7B を実行する方法を示し、4 ビットブロック単位の量子化によりモデルサイズを 4GB 未満に削減しました。
Docmatix データセットリリース
Hugging Face は、2.4 百万枚の画像と 9.5 百万件の Q/A ペアを備えた Document Visual Question Answering（DocVQA）データセットである Docmatix をリリースしました。これにより、従来のデータセットと比較して規模が 240 倍に拡大しました。
TGI Multi-LoRA: 1回デプロイで30モデルを提供
Hugging Face は Text Generation Inference (TGI) に Multi‑LoRA サービングを導入し、組織が単一のベースモデルをデプロイして多数の専門化ファインチューニングアダプタを動的に提供できるようにし、コストと運用の複雑さを削減します。
distilabel を使用した Argilla SDK チャットボット – エンドツーエンドチュートリアル
Hugging Face は、distilabel で生成した合成データ、ファインチューニングされた埋め込み、lancedb ベクトルストレージ、そして Spaces にデプロイされた Gradio アプリを使用して Argilla 2.0 チャットボットを構築する方法を示すチュートリアルを公開しました。
SmolLM リリース: 高性能小型言語モデル
Hugging Face は、厳密にキュレーションされた高品質データセットでトレーニングされた、最先端の小型言語モデル（135M、360M、1.7B パラメータ）ファミリーである SmolLM を紹介します。
NuminaMath 7B TIR が AIMO Progress Prize を受賞 – 技術的まとめ
NuminaMath 7B TIR は、隠された 50 問の数学問題のうち 29 問を解くことで、初の AIMO Progress Prize を受賞し、2 段階のファインチューニングレシピ、大規模で高品質な数学データ、ツール統合推論による自己整合性（SC‑TIR）戦略の威力を示しました。
Hugging Face の Presidio を用いた PII 検出実験
Hugging Face は、Microsoft Presidio を Dataset Hub に統合する実験を行っており、自動 PII 検出レポートを提供し、実務者が機械学習データセットにおけるプライバシーリスクを特定・軽減できるよう支援しています。
TRL が視覚言語モデル向けに Direct Preference Optimization をサポート
Hugging Face は TRL ライブラリに視覚言語モデル向けの Direct Preference Optimization (DPO) サポートを追加し、bfloat16 量子化と LoRA を活用して、Idefics‑2 などのモデルを1台の GPU 上で好みデータでファインチューニングできるようにしました。
Hugging Face と KerasHub の統合
Hugging Face と KerasHub は今ではモデル保存フォーマットを共有しており、これにより KerasHub ユーザーは Hugging Face Hub から 300,000 を超える Transformers ライブラリのモデルを直接ロードできるようになります。
Google Cloud TPU を Hugging Face Inference Endpoints と Spaces で使用
Hugging Face は Google Cloud TPU v5e のサポートを Inference Endpoints と Spaces に統合し、ユーザーがコスト効率の高い高性能ハードウェアで AI モデルをデプロイおよびスケールできるようにしました。
Banque des Territoires、Polyconseil、そしてHugging FaceがEduRénovプログラム向けに主権的RAGソリューションを展開
Hugging Face、Polyconseil、Banque des Territoiresは、フランスのEduRénov学校改修プログラム向けにメールサポートを自動化する主権的なオープンソースRAGシステムを立ち上げ、データ所在性を確保しつつ、公共政策向けに生成AIをスケールさせました。