✷ アーカイブ · ラボ 11 拠点 · ディスパッチ 870 件
ラボ
毎朝十数個の公式ブログを開いて回る必要はありません。OpenAI、Anthropic、DeepMind などの一次発表を、要点を抜き出した形で。
PaddlePaddle と Hugging Face Hub の統合
Hugging Face は PaddlePaddle と提携し、PaddleNLP を起点として同社の深層学習プラットフォームとライブラリを Hugging Face Hub に統合し、アクセシビリティと共有を向上させました。
Hugging Face Datasets と Transformers を用いた画像類似性
Hugging Face は、Transformers と Datasets ライブラリを使用して密なベクトル埋め込みを計算し、余弦類似度で測定することで画像類似性システムを構築する方法を示しています。
ゲーム開発のためのAI：LLMを活用したゲームデザイン
Hugging Face は、ChatGPT のような大規模言語モデルをゲームデザインのブレインストーミングや加速ツールとして活用し、特に農業ゲームのコア機能定義にどのように役立つかを示しています。
グラフ機械学習の紹介
Hugging Face は、グラフ機械学習の包括的な概要を提供し、グラフの表現方法と、ニューラル以前の特徴からグラフニューラルネットワーク、グラフトランスフォーマーへの進化を詳述しています。
ゲーム開発のためのAI：5日で農業ゲームを作る（パート1）
Hugging Face は、Stable Diffusion を使用して農業ゲームのビジュアルアートスタイルとコンセプトアートを確立し、それを Unity で実装する方法を示しています。
Intel Sapphire Rapids を使用した PyTorch Transformers の高速化 – パート 1
Hugging Face は、Intel Sapphire Rapids CPU クラスタ上で IPEX と oneCCL を使用して PyTorch Transformers をトレーニングする方法を示し、Ice Lake に比べて最大 8 倍の高速化と、4 ノード間でほぼ線形スケーリングを実現しています。
CLIPSeg を用いたゼロショット画像セグメンテーション
Hugging Face は、CLIP 埋め込みを利用してテキストまたは画像プロンプトからセグメンテーションマスクを生成する、カテゴリ固有の学習を必要としないゼロショット画像セグメンテーションモデル CLIPSeg を紹介します。
Hugging Face モデルカード ドキュメンテーション フレームワーク
Hugging Face は、GUI ベースの作成ツールと標準化されたテンプレートを含む一連のツールとリソースを提供し、機械学習モデルのドキュメンテーションのアクセシビリティと標準化を向上させました。
Hugging Face オーディオデータセットガイド – データのロード、処理、ストリーミング方法
Hugging Face は、🤗 Datasets ライブラリが Hub から任意のオーディオデータセットを数行の Python コードでロード、前処理、ストリーミングできることを示す包括的なガイドを発表し、音声およびオーディオタスクの効率的な研究を可能にしました。
Hugging Face Ethics and Society Newsletter #2: 機械学習におけるバイアスへの対処
Hugging Face は、バイアスをリスク要因として扱い、タスク定義、データセット作成、モデル訓練の各段階で対処すべきという社会技術的フレームワークを提示しています。
Habana Gaudi2 vs Nvidia A100 80GB パフォーマンスベンチマーク
Hugging Face のベンチマークは、Habana Gaudi2 が BERT、Stable Diffusion、T5-3B モデルにおいて、トレーニングと推論の両方で Nvidia A100 80GB のスループットの約2倍を提供することを示しています。
Hugging Face が Bumblebee を発表：純粋な Elixir で Transformers と Stable Diffusion
Hugging Face は Bumblebee をリリースしました。これは純粋な Elixir 実装の Transformers で、GPT‑2 から Stable Diffusion までのモデルを Elixir エコシステムにもたらし、外部依存なしでネイティブな CPU/GPU 推論を可能にします。
人間のフィードバックからの強化学習 (RLHF) の解説
Hugging Face は、人間の好みに基づく報酬モデルを使用してモデルを最適化することで、大規模言語モデルを複雑な人間の価値観に合わせるための 3 ステップのプロセスである、人間のフィードバックからの強化学習 (RLHF) について解説しています。
タンパク質を用いたディープラーニング – Hugging Face のタンパク質言語モデルとフォールディングに関するガイド
Hugging Face は、タンパク質言語モデルのファインチューニング方法と ESMFold を用いたタンパク質フォールディングの手順を示すチュートリアルシリーズを発表し、NLP の転移学習手法をタンパク質配列タスクに直接適用できることを実証しました。
🤗 Transformers を用いた時系列トランスフォーマーの確率的予測
Hugging Face は、グローバルな確率的時系列予測のためのバニラTransformerモデルをリリースし、Tourism Monthly ベンチマークで最先端の性能を示しました。
Apple Silicon 上の Stable Diffusion Core ML – 実行方法と最適化
Hugging Face は Apple Silicon 用に Core ML に変換された Stable Diffusion のチェックポイントをリリースし、Python または Swift でデバイス上で画像生成が可能になり、M1 Max では画像1枚あたり最大 18 秒で生成できます。
VQ-Diffusion: 離散空間における条件付き潜在拡散
VQ-Diffusion は、量子化された離散潜在空間上で動作する条件付き潜在拡散モデルであり、従来の自己回帰モデルよりも高速な推論と高品質な画像を提供します。
Hugging Face 2023 インターンシッププログラム
Hugging Face は 2023 年のインターンシッププログラムを発表し、オープンソース、サイエンス、社会的インパクトチームの役割を提供して、責任ある機械学習の民主化を目指しています。
Hugging Face ディフュージョンモデルクラスとコミュニティイベント
Hugging Faceは、2022年11月28日に開始する無料のディフュージョンモデルクラスを発表し、同月30日にStability AI、Meta、Runwayの研究者が参加するライブコミュニティイベントを開催します。
Hugging Face ディレクター・オブ・機械学習インサイト Part 4
4人の機械学習ディレクターが、eコマース、エンジニアリング、教育、SaaSにおけるMLの影響、課題、統合上の落とし穴について業界別の洞察を共有します。
Hugging Face 推論ソリューション概要 2022年11月
Hugging Face は、ウィジェット、API、Inference Endpoints、Spaces といった無料および有料の推論オプションを発表し、モデルのテスト、デプロイ、そして本番スケーリングをシンプルにしました。
Hugging Face が文書AIを加速
Hugging Face は、オープンソースのマルチモーダルモデルを活用して、エンタープライズワークフローにおける文書分類、パーシング、ビジュアル質問応答を自動化するための包括的なガイドを提供しています。
ホモモルフィック暗号を用いた暗号化データの感情分析
Hugging Face は、Concrete-ML ライブラリを使用して、BERT トランスフォーマーと XGBoost を組み合わせ、完全同型暗号 (FHE) を用いた暗号化データの感情分析を実行する方法を示しています。
Hugging Face と arXiv の機械学習デモ統合
Hugging Face は Hugging Face Spaces と arXivLabs を統合し、arXiv の論文要旨ページ上でインタラクティブな機械学習デモを直接提供できるようにしました。
Hugging Face 価格更新 2022年11月
Hugging Faceは、Inference APIのPaid tierを廃止し、Inference EndpointsとSpacesのハードウェアアップグレードに焦点を当てた、コンピュートベースの収益化モデルへ移行しました。
トランスフォーマーにおける人間レベルのテキスト生成のためのコントラスト検索
Hugging Face は、transformers ライブラリに Contrastive Search を統合しました。このデコード手法は、モデルの退化を防ぎ、オフ・ザ・シェルフモデルを使用して 16 言語で意味的一貫性を維持します。
Dreambooth Stable Diffusion ファインチューニングガイド（Diffusers）
Hugging Face は Diffusers ライブラリを用いた Dreambooth による Stable Diffusion のトレーニングに関する詳細な推奨事項を公開し、低い学習率、十分なステップ数、顔に対する prior‑preservation、テキストエンコーダのファインチューニングが最高品質の結果をもたらすことを示した。
Hugging Face Transformers を使用した Whisper の多言語 ASR ファインチューニング
Hugging Face は、OpenAI の Whisper モデルを多言語自動音声認識（ASR）向けにファインチューニングするための包括的なガイドを提供しており、わずか 8 時間のデータでヒンディー語に対して 31.5% の絶対的な WER 改善を実証しています。
Hugging Face Optimum Intel と OpenVINO の統合
Hugging Face は Intel OpenVINO を Optimum Intel に統合し、Intel ハードウェア上で Transformer モデルの高速推論と量子化を可能にしました。
🤗 Evaluate を用いた言語モデルバイアスの評価
Hugging Face はバイアス測定指標（toxicity、language polarity、HONEST）を 🤗 Evaluate ライブラリに追加し、因果言語モデルにおける有害な言語の体系的測定を可能にしました。
PyTorch DDP、Accelerate、Transformers Trainer を用いた分散トレーニング
Hugging Face は、ネイティブ PyTorch DDP、Accelerate ライブラリ、そして高レベルの Transformers Trainer API の 3 つの抽象化レベルを用いた分散トレーニングの実装方法を解説しています。
MTEB: 大規模テキスト埋め込みベンチマーク
Hugging Face は、テキスト埋め込みモデルの性能を評価するために、8つのタスクにわたる56のデータセットからなる大規模かつ多言語対応のベンチマーク、MTEB を導入しました。
Hugging Face 推論エンドポイント
Hugging Face Inference Endpoints は、ユーザーが Hugging Face Hub から機械学習モデルを数クリックでスケーラブルかつ安全なクラウドインフラへデプロイできるマネージドサービスです。
Stable Diffusion JAX と Flax の統合
Hugging Face Diffusers バージョン 0.5.1 は Flax のサポートを導入し、JAX を介して Google TPU 上で高速な Stable Diffusion 推論を可能にします。
Hugging Face BLOOM 推論最適化
Hugging Face は、Pipeline Parallelism から Tensor Parallelism へ移行し、カスタム CUDA カーネルを実装することで、BLOOM モデルのレイテンシを 5 倍削減し、スループットを 50 倍向上させました。
Hugging Face、モデルとデータセット向けに DOI サポートを導入
Hugging Face は、Hub のモデルやデータセットに対してデジタルオブジェクト識別子（DOI）を生成できるようにし、バージョンを超えて永続的で引用可能なリンクを提供します。
rinnaによる日本語Stable Diffusionのリリース
rinnaはJapanese Stable Diffusionをリリースしました。これはStable Diffusionの日本語向けにファインチューニングされたバージョンで、日本語のプロンプトから文化的に適切な画像を生成します。
Hugging Face ゼロショット評価 on the Hub
Hugging Face は Hub 上で因果言語モデル向けのゼロショット評価を導入し、コードを書かずに最大 660 億パラメータのモデルをベンチマークできるようにしました。
Hugging Face AutoTrain 画像分類
Hugging Face は AutoTrain に画像分類を追加し、ユーザーがコードを書いたりハイパーパラメータを設定したりすることなく、カスタム画像カテゴリ分類モデルをトレーニングできるようにしました。
Hugging Face Accelerate: PyTorchで大規模モデルを実行する
Hugging Face Accelerateは、PyTorch の meta デバイスとシャーディングチェックポイントを活用し、GPU、CPU RAM、ディスクにまたがるメモリ管理を行うことで、コンシューマーハードウェア上で巨大な AI モデルの実行を可能にします。
SetFit: プロンプト不要の効率的な少数ショット学習
Hugging Face は、最小限のラベル付きデータで高精度を実現する、プロンプト不要の Sentence Transformer 少数ショットファインチューニングフレームワークである SetFit を紹介します。
Hugging Face Ethics and Society ニュースレター #1
Hugging Face は Ethics and Society ニュースレターを開始し、協働・透明性・責任という価値に基づく分散型のアプローチで AI 倫理を実践化する方法を概説しています。
DeepSpeed と Accelerate を用いた驚異的に高速な BLOOM 推論
Hugging Face は、8×80 GB A100 GPU 上で DeepSpeed‑Inference のテンソル並列と Accelerate のパイプライン並列を使用し、176B パラメータの BLOOM モデルでトークンあたりミリ秒未満の生成を実証しました。
Diffusers 0.3 リリースは、画像から画像への変換、テキストインバージョン、インペインティング、GPU 最適化、Mac MPS、ONNX サポート、そして新しいドキュメントを追加します
Hugging Face は Diffusers バージョン 0.3 を発表し、画像から画像への変換、テキストインバージョン、実験的インペインティング、低スペック GPU 向け最適化、Mac MPS サポート、ONNX エクスポーター、拡張されたドキュメント、そして多数のコミュニティプロジェクトを導入しました。
オフライン強化学習のためのDecision Transformersのトレーニング
Hugging Face は、transformers の Trainer とカスタムデータコレータを使用して、HalfCheetah 環境を解くためにオフライン Decision Transformer をゼロからトレーニングするためのガイドと実装を提供しています。
Megatron-LM を用いた言語モデルのトレーニング
Hugging Face は、NVIDIA の Megatron-LM フレームワークを使用して GPU 上で大規模言語モデルを効率的に事前学習する方法と、Transformers ライブラリとの統合についてのガイドを提供しています。
OpenRAIL: オープンで責任あるAIライセンスフレームワークへ向けて
Hugging Face は、オープンアクセスと使用ベースの制限を組み合わせ、機械学習モデルの責任ある展開を促進する AI 特化型ライセンス群「OpenRAIL」を発表しました。
Hugging Face Spacesでタンパク質を可視化
Hugging Face は、Gradio を介して 3Dmol.js を Hugging Face Spaces に統合し、ブラウザ上で 3D タンパク質構造の可視化を可能にするガイドを提供しています。
Hugging Face Transformers と Habana Gaudi を使用した BERT の事前学習
Hugging Face は、AWS の Habana Gaudi DL1 インスタンスを使用して BERT-base をスクラッチから事前学習する方法を示し、NVIDIA V100 GPU ベースのトレーニングと比較して 25% のコスト削減を実現しています。
Diffusers を使った Stable Diffusion
Hugging Face は、Diffusers ライブラリを使用してテキストから画像への Stable Diffusion モデルを実行する方法を発表し、コード、ライセンス情報、そしてモデルの潜在拡散アーキテクチャの解説を提供しました。