✷ アーカイブ · ラボ 11 拠点 · ディスパッチ 3,431 件
ラボ
毎朝十数個の公式ブログを開いて回る必要はありません。OpenAI、Anthropic、DeepMind などの一次発表を、要点を抜き出した形で。
Hugging Face AI vs. AI：マルチエージェント強化学習コンペティションシステム
Hugging Faceは、ELOレーティングシステムを用いた継続的なマルチエージェント競争により、深層強化学習モデルをランク付けするオープンソースシステム「AI vs. AI」を導入しました。
ゲーム開発向け Hugging Face AI：ストーリー生成
Hugging Face は、`ChatGPT` のような大規模言語モデル（LLM）を使用してゲームのストーリーやコンテンツを生成するワークフローを概説し、独創性、法的リスク、長期的な一貫性に関する重要な制限点を指摘しています。
Intel Sapphire Rapids を使用した PyTorch トランスフォーマーの高速化
Hugging Face は、Intel Sapphire Rapids CPU と Optimum Intel ライブラリを組み合わせることで、従来の Xeon 世代と比較して PyTorch トランスフォーマーの推論を最大 3 倍高速化できることを示しています。
Vision-Languageモデルへのダイブ
Hugging Face は、Vision‑Languageモデルの技術的概要を提供し、5つの主要な事前学習戦略とそれらがTransformersライブラリに統合され、VQAや画像セグメンテーションといったタスクに活用される方法を詳述しています。
Anthropic が Google Cloud と AI インフラストラクチャに関する提携を発表
Anthropic は、GPU および TPU クラスタを活用して、AI システム（Claude アシスタントを含む）のトレーニング、スケーリング、デプロイを行うため、Google Cloud をクラウドプロバイダーとして選定しました。
ChatGPT Plus の開始
OpenAI は、ピーク時のアクセス保証、より高速な応答、機能ロールアウトの優先提供を特徴とする月額 20 ドルのサブスクリプション「ChatGPT Plus」を発表し、利用可能範囲を全世界に拡大しました。
OpenAI AIテキスト分類器リリース（2023年1月）
OpenAIは2023年1月に公開AIテキスト分類器をリリースしましたが、信頼性が低く、AI生成テキストのうちわずか26％しか検出できず、人間が書いたテキストの9％を誤ってAI生成とラベル付けします。
Hugging Face におけるコンピュータビジョンの現状
Hugging Face はエコシステムを拡張し、8 つのコアコンピュータビジョンタスク、3,000 を超えるモデル、100 以上のデータセットをサポートし、Transformer と畳み込みアーキテクチャの両方を統合しています。
ゲーム開発のための Hugging Face 2D アセット生成
Hugging Face は、Stable Diffusion の Image2Image 機能を協働的な 2D ゲームアセット ワークフローに統合し、効率的に製品レベルのアイコンを作成する方法を示しています。
LoRA を使用した効率的な Stable Diffusion ファインチューニング
Hugging Face は Low‑Rank Adaptation（LoRA）を diffusers ライブラリに統合し、VRAM 要求を大幅に削減し、モデルの重みを 3 MB 程度に小さくした、より高速な Stable Diffusion のファインチューニングを可能にしました。
Hugging Face Optimum と ONNX Runtime のトレーニング統合
Hugging Face と Microsoft は ONNX Runtime を Optimum ライブラリに統合し、トランスフォーマーベースのモデルのトレーニング時間を 35％ 以上短縮しました。
対話エージェントを有用にする要素は何か？技術分析
Hugging Face は、ベース言語モデルを有用な対話エージェントへと変換する主要な技術—Instruction Fine-Tuning (IFT)、Supervised Fine-Tuning (SFT)、Reinforcement Learning from Human Feedback (RLHF)、および Chain-of-Thought (CoT)—を分析しています。
OpenAI と Microsoft が戦略的パートナーシップを拡大
OpenAI と Microsoft は、数年にわたる数十億ドル規模のパートナーシップを拡大し、独立した AI 研究を加速し、Azure を通じた AI モデルの展開を拡大しています。
ゲーム開発向け Hugging Face AI：3D アセット生成
Hugging Face はテキストから 3D への AI の現状を調査し、DreamFusion や Point‑E のようなツールは存在するものの、まだ迅速なゲーム開発ワークフローに実用的に適用できる段階にないと結論付けました。
Mask2Former と OneFormer: 🤗 Transformers における汎用画像セグメンテーションモデル
Hugging Face は Transformers ライブラリに Mask2Former と OneFormer を追加し、単一モデルでインスタンス、セマンティック、パノプティックのすべてのセグメンテーションを処理できる汎用アーキテクチャを提供しました。
PaddlePaddle と Hugging Face Hub の統合
Hugging Face は PaddlePaddle と提携し、PaddleNLP を起点として同社の深層学習プラットフォームとライブラリを Hugging Face Hub に統合し、アクセシビリティと共有を向上させました。
Hugging Face Datasets と Transformers を用いた画像類似性
Hugging Face は、Transformers と Datasets ライブラリを使用して密なベクトル埋め込みを計算し、余弦類似度で測定することで画像類似性システムを構築する方法を示しています。
情報操作キャンペーンにおける言語モデルの悪用予測
OpenAI、ジョージタウン大学、スタンフォード・インターネット・オブザーバトリーは、大規模言語モデルが情報操作キャンペーンのコストを削減し規模を拡大させる可能性を分析し、対策のための4段階フレームワークを提案した報告書を発表しました。
ゲーム開発のためのAI：LLMを活用したゲームデザイン
Hugging Face は、ChatGPT のような大規模言語モデルをゲームデザインのブレインストーミングや加速ツールとして活用し、特に農業ゲームのコア機能定義にどのように役立つかを示しています。
Anthropic Research: Superposition, Memorization, and Double Descent
Anthropicの研究者たちは、単純なニューラルネットワークにおける重ね合わせ、記憶、および過学習の関係を調査しており、重ね合わせによってモデルが記憶中にニューロンの数よりも多くの特徴量を保存できることを示唆しています。
顧客フィードバック分析のための Yabble GPT-3 統合
Yabble は OpenAI の GPT-3 を統合し、複雑な顧客フィードバックデータセットの分析にかかる時間を数週間から数分に短縮しました。
Waymarkの動画スクリプト作成におけるGPT-3ファインチューニング
WaymarkはファインチューニングされたGPT-3モデルを統合し、カスタマイズされた高品質な動画広告スクリプトの作成を自動化することで、顧客の編集時間を削減し、動画制作の規模拡大を実現しました。
グラフ機械学習の紹介
Hugging Face は、グラフ機械学習の包括的な概要を提供し、グラフの表現方法と、ニューラル以前の特徴からグラフニューラルネットワーク、グラフトランスフォーマーへの進化を詳述しています。
ゲーム開発のためのAI：5日で農業ゲームを作る（パート1）
Hugging Face は、Stable Diffusion を使用して農業ゲームのビジュアルアートスタイルとコンセプトアートを確立し、それを Unity で実装する方法を示しています。
Intel Sapphire Rapids を使用した PyTorch Transformers の高速化 – パート 1
Hugging Face は、Intel Sapphire Rapids CPU クラスタ上で IPEX と oneCCL を使用して PyTorch Transformers をトレーニングする方法を示し、Ice Lake に比べて最大 8 倍の高速化と、4 ノード間でほぼ線形スケーリングを実現しています。
OpenAI 次世代キャラクター作成に関する発表
次世代キャラクター作成に関する発表のために提供されたソース資料は404エラーにより利用できず、技術的な詳細や公式な主張は一切提供されていません。
OFASys: マルチモーダル・マルチタスク学習のためのフレームワーク
Qwenは、単一行のInstructionインターフェースで複雑なタスクやモダリティを定義できるようにすることで、マルチモーダル・マルチタスク学習を簡素化するAIフレームワーク、OFASysを紹介します。
Chinese CLIP: 中国語における対照的なビジョン・言語事前学習
Qwenは、クロスモーダル検索と画像分類において、英語中心のCLIPモデルの文化的・言語的制約を克服するよう設計されたビジョン・言語モデル、Chinese CLIPをリリースしました。
OpenAI Applied AI Research: AGI、セーフティ、継続的学習に関する視点
OpenAI の Applied AI Research チームの Lilian Weng が、AGI への道筋、モデルのアラインメントと安全性の極めて重要な重要性、そして AI 開発における継続的学習の役割について論じます。
CLIPSeg を用いたゼロショット画像セグメンテーション
Hugging Face は、CLIP 埋め込みを利用してテキストまたは画像プロンプトからセグメンテーションマスクを生成する、カテゴリ固有の学習を必要としないゼロショット画像セグメンテーションモデル CLIPSeg を紹介します。
Hugging Face モデルカード ドキュメンテーション フレームワーク
Hugging Face は、GUI ベースの作成ツールと標準化されたテンプレートを含む一連のツールとリソースを提供し、機械学習モデルのドキュメンテーションのアクセシビリティと標準化を向上させました。
Anthropic Research: Discovering Language Model Behaviors with Model-Written Evaluations
Anthropicの研究者は、より大きなモデルにおける逆スケーリングや追従性を含む、新しい挙動を特定するために、言語モデルを使用して高品質な評価を自動生成する手法を開発しました。
OpenAI Point-E: テキストプロンプトから3Dポイントクラウドを生成
OpenAIは、単一GPUで1〜2分で複雑なテキストプロンプトから3Dポイントクラウドを生成するシステム、Point‑Eを発表しました。サンプリング速度を絶対的なサンプル品質より優先しています。
OpenAI text-embedding-ada-002 リリース
OpenAIは text-embedding-ada-002 モデルを発表しました。これは統合された、より高速で安価な埋め込みモデルで、ほとんどのタスクで従来のモデルを上回ります。
Hugging Face オーディオデータセットガイド – データのロード、処理、ストリーミング方法
Hugging Face は、🤗 Datasets ライブラリが Hub から任意のオーディオデータセットを数行の Python コードでロード、前処理、ストリーミングできることを示す包括的なガイドを発表し、音声およびオーディオタスクの効率的な研究を可能にしました。
Hugging Face Ethics and Society Newsletter #2: 機械学習におけるバイアスへの対処
Hugging Face は、バイアスをリスク要因として扱い、タスク定義、データセット作成、モデル訓練の各段階で対処すべきという社会技術的フレームワークを提示しています。
Constitutional AI: Harmlessness from AI Feedback
Anthropicは、有害な出力を減らすために、人間のラベル付けの代わりに、一連のルール（憲法）とAIフィードバックを使用して、無害なAIアシスタントを訓練する方法であるConstitutional AIを導入しました。
Habana Gaudi2 vs Nvidia A100 80GB パフォーマンスベンチマーク
Hugging Face のベンチマークは、Habana Gaudi2 が BERT、Stable Diffusion、T5-3B モデルにおいて、トレーニングと推論の両方で Nvidia A100 80GB のスループットの約2倍を提供することを示しています。
Hugging Face が Bumblebee を発表：純粋な Elixir で Transformers と Stable Diffusion
Hugging Face は Bumblebee をリリースしました。これは純粋な Elixir 実装の Transformers で、GPT‑2 から Stable Diffusion までのモデルを Elixir エコシステムにもたらし、外部依存なしでネイティブな CPU/GPU 推論を可能にします。
人間のフィードバックからの強化学習 (RLHF) の解説
Hugging Face は、人間の好みに基づく報酬モデルを使用してモデルを最適化することで、大規模言語モデルを複雑な人間の価値観に合わせるための 3 ステップのプロセスである、人間のフィードバックからの強化学習 (RLHF) について解説しています。
OpenAI 超大規模コンピューティングインフラストラクチャとバックエンドシステムエンジニアリング
OpenAIエンジニアのJake Stangelは、極端な規模が他のユーザーでは見られないハードウェアやカーネルの問題を露呈させる、数十億ドル規模のスーパーコンピューティングクラスターの管理における技術的課題について説明しています。
タンパク質を用いたディープラーニング – Hugging Face のタンパク質言語モデルとフォールディングに関するガイド
Hugging Face は、タンパク質言語モデルのファインチューニング方法と ESMFold を用いたタンパク質フォールディングの手順を示すチュートリアルシリーズを発表し、NLP の転移学習手法をタンパク質配列タスクに直接適用できることを実証しました。
🤗 Transformers を用いた時系列トランスフォーマーの確率的予測
Hugging Face は、グローバルな確率的時系列予測のためのバニラTransformerモデルをリリースし、Tourism Monthly ベンチマークで最先端の性能を示しました。
Apple Silicon 上の Stable Diffusion Core ML – 実行方法と最適化
Hugging Face は Apple Silicon 用に Core ML に変換された Stable Diffusion のチェックポイントをリリースし、Python または Swift でデバイス上で画像生成が可能になり、M1 Max では画像1枚あたり最大 18 秒で生成できます。
OpenAI が ChatGPT を紹介
OpenAI は、対話形式でのやり取りを可能にするために、人間のフィードバックからの強化学習（RLHF）で訓練された GPT-3.5 系列に基づく会話型 AI モデル、ChatGPT をリリースしました。
VQ-Diffusion: 離散空間における条件付き潜在拡散
VQ-Diffusion は、量子化された離散潜在空間上で動作する条件付き潜在拡散モデルであり、従来の自己回帰モデルよりも高速な推論と高品質な画像を提供します。
Hugging Face 2023 インターンシッププログラム
Hugging Face は 2023 年のインターンシッププログラムを発表し、オープンソース、サイエンス、社会的インパクトチームの役割を提供して、責任ある機械学習の民主化を目指しています。
Hugging Face ディフュージョンモデルクラスとコミュニティイベント
Hugging Faceは、2022年11月28日に開始する無料のディフュージョンモデルクラスを発表し、同月30日にStability AI、Meta、Runwayの研究者が参加するライブコミュニティイベントを開催します。
Hugging Face ディレクター・オブ・機械学習インサイト Part 4
4人の機械学習ディレクターが、eコマース、エンジニアリング、教育、SaaSにおけるMLの影響、課題、統合上の落とし穴について業界別の洞察を共有します。
Hugging Face 推論ソリューション概要 2022年11月
Hugging Face は、ウィジェット、API、Inference Endpoints、Spaces といった無料および有料の推論オプションを発表し、モデルのテスト、デプロイ、そして本番スケーリングをシンプルにしました。