LAVE: LLM を用いた Docmatix のゼロショット VQA 評価
Hugging Face は、従来の VQA メトリクスの硬直性に対処するために LAVE（LLM 支援 VQA 評価）を導入し、Docmatix データセットにおけるゼロショット性能の評価で 50% の精度向上を実証しました。
Llama 3.1 リリースノート：多言語対応、長コンテキスト、そして 405B モデル
Meta は Llama 3.1 をリリースしました。8B、70B、405B のサイズのモデルを提供し、コンテキスト長は 128K トークン、8 言語に対応する多言語サポート、そして合成データ生成を可能にする寛容なライセンスが特徴です。
Core ML で Mistral 7B を実行する
Hugging Face は、WWDC 24 の新しい Core ML 機能を使用して Mac で Mistral 7B を実行する方法を示し、4 ビットブロック単位の量子化によりモデルサイズを 4GB 未満に削減しました。
Docmatix データセットリリース
Hugging Face は、2.4 百万枚の画像と 9.5 百万件の Q/A ペアを備えた Document Visual Question Answering（DocVQA）データセットである Docmatix をリリースしました。これにより、従来のデータセットと比較して規模が 240 倍に拡大しました。
TGI Multi-LoRA: 1回デプロイで30モデルを提供
Hugging Face は Text Generation Inference (TGI) に Multi‑LoRA サービングを導入し、組織が単一のベースモデルをデプロイして多数の専門化ファインチューニングアダプタを動的に提供できるようにし、コストと運用の複雑さを削減します。
distilabel を使用した Argilla SDK チャットボット – エンドツーエンドチュートリアル
Hugging Face は、distilabel で生成した合成データ、ファインチューニングされた埋め込み、lancedb ベクトルストレージ、そして Spaces にデプロイされた Gradio アプリを使用して Argilla 2.0 チャットボットを構築する方法を示すチュートリアルを公開しました。
SmolLM リリース: 高性能小型言語モデル
Hugging Face は、厳密にキュレーションされた高品質データセットでトレーニングされた、最先端の小型言語モデル（135M、360M、1.7B パラメータ）ファミリーである SmolLM を紹介します。
NuminaMath 7B TIR が AIMO Progress Prize を受賞 – 技術的まとめ
NuminaMath 7B TIR は、隠された 50 問の数学問題のうち 29 問を解くことで、初の AIMO Progress Prize を受賞し、2 段階のファインチューニングレシピ、大規模で高品質な数学データ、ツール統合推論による自己整合性（SC‑TIR）戦略の威力を示しました。
Hugging Face の Presidio を用いた PII 検出実験
Hugging Face は、Microsoft Presidio を Dataset Hub に統合する実験を行っており、自動 PII 検出レポートを提供し、実務者が機械学習データセットにおけるプライバシーリスクを特定・軽減できるよう支援しています。
Hugging Face と KerasHub の統合
Hugging Face と KerasHub は今ではモデル保存フォーマットを共有しており、これにより KerasHub ユーザーは Hugging Face Hub から 300,000 を超える Transformers ライブラリのモデルを直接ロードできるようになります。
Google Cloud TPU を Hugging Face Inference Endpoints と Spaces で使用
Hugging Face は Google Cloud TPU v5e のサポートを Inference Endpoints と Spaces に統合し、ユーザーがコスト効率の高い高性能ハードウェアで AI モデルをデプロイおよびスケールできるようにしました。
Banque des Territoires、Polyconseil、そしてHugging FaceがEduRénovプログラム向けに主権的RAGソリューションを展開
Hugging Face、Polyconseil、Banque des Territoiresは、フランスのEduRénov学校改修プログラム向けにメールサポートを自動化する主権的なオープンソースRAGシステムを立ち上げ、データ所在性を確保しつつ、公共政策向けに生成AIをスケールさせました。
Hugging Face データセットハブ検索機能のアップデート
Hugging Face は、モダリティ、サイズ、形式、ライブラリ互換性の 4 つの新しい検索フィルタを導入し、データセットハブ上の 180,000 を超える公開データセットの発見性を向上させました。
Intel Gaudi 2上でのタンパク質言語モデルProtSTの高速化
IntelとMILAは、ProtSTマルチモーダルタンパク質言語モデルをIntel Gaudi 2アクセラレータ向けに最適化し、NVIDIA A100 GPUと比較して最大2.92倍高速なファインチューニングを実現しました。
Hugging Face Transformers コードエージェント GAIA ベンチマーク結果
Hugging Face は、transformers.agents ライブラリで構築されたコードエージェントを使用して GAIA ベンチマークでトップランクを獲得し、コードベースのアクションが JSON ベースのツール呼び出しよりも効率的かつ効果的であることを示しました。
Google Gemma 2 リリースノート
GoogleはGemma 2をリリースしました。これは9Bと27Bパラメータサイズで利用可能なオープンウェイトLLMのファミリーで、蒸留とアテンションメカニズムにおける技術的進歩により性能が向上しています。
XLSCOUT ParaEmbed 2.0 リリース
XLSCOUTは、専門家がキュレーションした特許データでファインチューニングされた独自の埋め込みモデル、ParaEmbed 2.0をリリースしました。これにより、ParaEmbed 1.0に比べて精度が23%向上しています。
Hugging Face Ethics and Society Newsletter #6: データ品質の重要性
Hugging Face は、データ品質に対して包括的かつ責任あるアプローチを示し、データはその目的に適合していることが AI モデルの性能、公平性、科学的再現性を確保する上で不可欠であると強調しています。
Microsoft Florence-2 の DocVQA に対するファインチューニング
Hugging Face は、Microsoft の Florence-2 ビジョン・ランゲージモデルを DocVQA データセットでファインチューニングし、7 エポック後に検証時の類似度を 0 から 57.0 に向上させる方法を示しています。
Hugging Face データは共にあるイニシアチブ
Hugging Face と Argilla は、オープンソースコミュニティが機械学習のために高品質で多様かつ包括的なデータセットを共同で作成できるよう支援するために、Data Is Better Together（DIBT）イニシアチブを立ち上げました。
Prezi ケーススタディ：Hugging Face エキスパートサポートでMLロードマップを加速
Preziは、Hugging Face エキスパートサポートプログラムとInference Endpointsを活用し、効率的なオープンソースのマルチモーダルモデルをPrezi AIのプレゼンテーション生成ツールに統合しています。
BigCodeBench: 複雑な Python コード生成のための新しいベンチマーク
Hugging Face は、実践的なプログラミングと多様なライブラリ利用を評価するために設計された 1,140 の関数レベルタスクからなるベンチマーク、BigCodeBench をリリースしました。これにより、HumanEval の単純さやデータ汚染の問題に対処します。
Hugging Face Accelerate: DeepSpeed と FSDP の精度を調和させる
Hugging Face Accelerate 0.30.0 は、PyTorch FSDP の精度処理を DeepSpeed と合わせるために自動アップキャストを導入し、収束性を失うことなく 2 つのバックエンド間をシームレスに切り替えられるようにしました。
Diffusers との Stable Diffusion 3 Medium 統合
Hugging Face は Stable Diffusion 3 Medium（2B パラメータ）を Diffusers ライブラリに統合し、マルチモーダル拡散トランスフォーマー（MMDiT）と整流フローマッチングを導入して、テキストから画像への合成を改善しました。
Hugging Face TRL RLOO トレーナー リリース
Hugging FaceはTRLにRLOO（REINFORCE Leave One-Out）トレーナーを導入しました。このオンラインRLHFアルゴリズムは、PPOに比べてvRAMを50〜70％削減し、最大で3倍速く収束しながら、性能面でも競争力を保ちます。
Amazon SageMaker 用 Hugging Face Embedding コンテナのリリース
Hugging Face は、テキスト埋め込み推論（TEI）を活用した、オープン埋め込みモデルの高性能デプロイを実現する、Amazon SageMaker 用の一般提供（GA）Embedding コンテナをリリースしました。
Hugging Face Transformers ドキュメントの再設計
Hugging Face は、堅牢で段階的な構造から、製品開発者向けにコードファーストで統合された体験へと、Transformers ドキュメントを再設計しています。
人工分析テキストから画像へのリーダーボードとアリーナの開始
Hugging Faceは、45,000件以上の投票から得られた人間の好みデータを使用して、オープンソースおよび商用の画像生成モデルをランク付けするArtificial Analysis Text to Image LeaderboardとArenaを開始しました。
Hugging Face NPC-Playground: LLM駆動NPCを3D環境に統合する
Hugging FaceはNPC-Playgroundを紹介します。これはCubzhとGigaxを活用した3Dデモで、関数呼び出しとLuaスクリプトにより、リアルなLLM駆動NPCインタラクションを実現します。
Intel Gaudi アシスト生成サポート
Hugging Face はアシスト生成（スペキュレーティブサンプリング）を Optimum Habana に統合し、Intel Gaudi プロセッサ上で大規模なトランスフォーマーベースモデルに対して最大 2 倍の速度向上を実現しました。
Hugging Face Spaces シークレット セキュリティ更新
Hugging Face は、Spaces のシークレットの一部への不正アクセスを伴うセキュリティインシデントを公表し、影響を受けたトークンの失効と細粒度アクセス トークンへの移行を行いました。
テキスト生成推論のベンチマーク
Hugging Face は、テキスト生成推論（`TGI`）のベンチマークツールを導入し、開発者がスループットとレイテンシのトレードオフをプロファイルして、LLM のデプロイコストとパフォーマンスを最適化できるよう支援します。
Sentence Transformers を用いた埋め込みモデルのトレーニングとファインチューニング
Hugging Face は、Sentence Transformers ライブラリを使用して埋め込みモデルをトレーニングおよびファインチューニングするための包括的なガイドを提供しており、セマンティック検索や RAG などのタスク向けに新しい SentenceTransformerTrainer を紹介しています。
Falcon 2 11B リリースノート
TIIはFalcon 2 11Bをリリースしました。これは、5,000億トークン以上で学習された事前学習済みLLMとビジョン・ランゲージモデル（VLM）を含む、より小型で高性能なモデル群です。
CyberSecEval 2: 大規模言語モデルにおけるサイバーセキュリティリスクの評価
Hugging Face と Meta は、コードインタプリタの悪用、攻撃的サイバーセキュリティ機能、プロンプトインジェクション攻撃に対する LLM の脆弱性を評価する包括的フレームワークとして CyberSecEval 2 を導入しました。
Hugging Face AWS Inferentia2 統合
Hugging Face は AWS Inferentia2 のサポートを拡大し、Amazon SageMaker を通じて 100,000 以上のモデルをデプロイできるようにし、Hugging Face Inference Endpoints 用の新しい Inf2 インスタンスオプションを導入しました。
Hugging Face と Microsoft の戦略的協業アップデート 2024年5月
Hugging Face と Microsoft は、人気のオープンモデルを Azure Model Catalog に統合し、Azure 上で AMD MI300X GPU のサポートを可能にし、Hugging Face Spaces 用の VS Code 統合を導入することで、戦略的パートナーシップを拡大しました。
AMD Instinct MI300 GPU 用 Hugging Face 統合
Hugging Face は AMD Instinct MI300 GPU のファーストクラス統合を実現し、MI250 と比較して Llama 3 70B の推論が最大 3 倍、ファインチューニングが 2 倍高速になることを提供しています。
Dell Enterprise Hub: オンプレミス AI のデプロイとトレーニング
Hugging Face と Dell は、Dell ハードウェア上でオープンソースの大規模言語モデルのオンプレミスでのトレーニングとデプロイを簡素化するプラットフォーム、Dell Enterprise Hub を立ち上げました。
Hugging Face Spaces Dev Mode リリース
Hugging Face は Spaces Dev Mode を導入し、PRO サブスクライバーが VS Code または SSH を介してリアルタイムにコード編集できるようにし、変更ごとに git プッシュを行う必要がなくなります。
Hugging Face KV キャッシュ量子化
Hugging Face は、Transformers ライブラリに KV キャッシュ量子化を導入し、長文コンテキストのテキスト生成におけるメモリ使用量を削減し、モデル品質への影響を最小限に抑えました。
Open Arabic LLM Leaderboard の紹介
Hugging Face と Technology Innovation Institute は、アラビア語大型言語モデル向けの専門的かつオープンな評価プラットフォームを提供するために、Open Arabic LLM Leaderboard (OALL) を立ち上げました。
PaliGemma ビジョン言語モデルリリース
Google は、SigLIP-So400m と Gemma-2B を組み合わせたオープンなビジョン‑言語モデルファミリーである PaliGemma をリリースし、画像キャプション生成、ビジュアル質問応答、物体検出などのタスクを実現します。
Hugging Face と LangChain が langchain_huggingface パートナーパッケージをリリース
Hugging Face と LangChain は、Hugging Face のモデルを LangChain エコシステムにシームレスに統合するために、共同で保守されるパートナーパッケージ langchain_huggingface をリリースしました。
インテル Gaudi 2 とインテル Xeon を使用したコスト効率の高いエンタープライズ RAG アプリケーションの構築
Hugging Face は、OPEA フレームワークを介して Intel Gaudi 2 アクセラレータと Intel Xeon CPU を組み合わせることで、エンタープライズが H100 ベースのシステムと比較して、パフォーマンス・パー・ドルが優れた RAG アプリケーションを構築できることを示しています。
Hugging Face Enterprise Hub が AWS Marketplace で利用可能になりました
Hugging Face は Enterprise Hub を AWS Marketplace と統合し、組織がアカウントをアップグレードし、AWS アカウントを通じて請求を直接管理できるようにしました。
ヘブライ語 LLM 用 Hugging Face オープンリーダーボード
Hugging Face は、ヘブライ語の大規模言語モデル（LLM）を評価・改善するために特化したオープンリーダーボードを開始し、リソースが少なく形態的に複雑な言語の課題に取り組んでいます。
Hugging Face の Artificial Analysis LLM Performance Leaderboard
Hugging Face は Artificial Analysis LLM Performance Leaderboard を統合し、AI エンジニアに 100 以上のサーバーレス LLM API エンドポイントの品質、価格、速度を比較できる統一メトリックシステムを提供しています。
Hugging Face Inference Endpoints の ASR と Diarization パイプライン
Hugging Face は、Inference Endpoints 上で Whisper ASR、Pyannote ダイアリゼーション、投機的デコードを組み合わせたモジュラーパイプラインをデプロイするためのカスタム推論ハンドラを導入しました。
Hugging Face オープン思考連鎖リーダーボード
Hugging Face は、難易度の高い推論タスクにおいて、さまざまな LLM に対するチェーン・オブ・ソート（思考の連鎖）プロンプトによって得られる特定の精度向上を測定するために、Open Chain of Thought Leaderboard を導入しました。