エンタープライズシナリオリーダーボード:実世界ユースケースにおけるLLMの評価
Hugging Face と Patronus AI は、エンタープライズシナリオリーダーボードを立ち上げ、6つの実世界ビジネス課題に対して言語モデルを評価し、学術ベンチマークを超えて実務的なエンタープライズの有用性を測定します。
Optimum Intel を使用した Intel Xeon 上の StarCoder の高速化
Hugging Face と Intel は、8 ビット量子化と支援生成を組み合わせることで、第4世代 Intel Xeon プロセッサ上の StarCoder-15B モデルに対して 7 倍以上の推論高速化を実証しました。
Hugging Face 幻覚リーダーボードの開始と初期結果
Hugging Face は、複数のオープンソースデータセットを用いて LLM の事実性と忠実性のエラーをベンチマークするために Hallucinations Leaderboard を開始し、モデル選択や研究を導く透明なランキングを提供しています。
AIセキュアLLM安全リーダーボード
Hugging Face と Secure Learning Lab は、DecodingTrust フレームワークを活用した LLM Safety Leaderboard を公開し、8 つの重要な安全性指標にわたって LLM の信頼性を評価します。
OpenAI 新しい埋め込みモデルと API アップデート(2024年1月)
OpenAI は、性能向上と価格低減を実現した新しい text-embedding-3-small と text-embedding-3-large モデルをリリースし、GPT-4 Turbo と GPT-3.5 Turbo のアップデートも行いました。
Qwen-VL-Plus と Qwen-VL-Max のリリース
Qwen は、マルチモーダルタスクで GPT-4V と Gemini Ultra に匹敵し、中国語テキスト理解ではそれらを上回る大規模視覚言語モデルである Qwen-VL-Plus と Qwen-VL-Max をリリースしました。
Hugging Face と Google Cloud の戦略的パートナーシップ
Hugging Face と Google Cloud は、オープンモデルと Google Cloud の AI インフラストラクチャおよびハードウェアを統合することで機械学習を民主化する戦略的パートナーシップを締結しました。
オープンソース LLM を LangChain エージェントとして
Hugging Face は、オープンソース LLM、特に Mixtral-8x7B がエージェントワークフローを駆動できるようになり、一般的な推論タスクで GPT-3.5 を上回ることができることを示しました。
Qwen の紹介:包括的な LLM と LMM フレームワーク
Qwen は、AGI を目指すプロジェクトであり、多言語対応の大規模言語モデル(LLM)と大規模マルチモーダルモデル(LMM)を一連に提供します。オープンソース版は 1.8B から 72B パラメータまでのモデルが含まれます。
低リソース ASR のための Wav2Vec2‑BERT ファインチューニング
Hugging Face は、Meta の Wav2Vec2‑BERT モデルを低リソース言語向けにファインチューニングして自動音声認識(ASR)を実現する方法を示しています。Whisper‑large‑v3 と同等の性能を保ちつつ、はるかに高速でリソース効率が高い点が特徴です。
PatchTSMixer が Hugging Face Transformers に追加 – リリースとクイックスタートガイド
PatchTSMixer は IBM Research が開発した軽量な MLP‑Mixer 時系列モデルで、現在 Hugging Face Transformers にリリースされ、はるかに低いメモリと実行時間で最先端の予測を提供します。
直接嗜好最適化手法によるLLMの嗜好チューニング – DPO、IPO、KTOの実証比較
Hugging Face は 2 つの 7B チャットモデルで DPO、IPO、KTO のアラインメント手法を評価し、β ハイパーパラメータを適切に調整した場合、DPO が一貫して他を上回ることを示しました。
OpenAI の民主的インプット AI助成プログラム アップデート
OpenAIは、民主的インプットAI助成プログラムの結果を要約し、10の革新的プロジェクトを詳述し、公共のインプットをモデルの振る舞いに統合する新しい「Collective Alignment」チームを設立した。
OpenAI 2024 年選挙インテグリティイニシアチブ
OpenAI は、2024 年の世界的な選挙に向けて多層的な安全戦略を実施しました。その焦点は、権威ある投票情報の提供強化、政治家のディープフェイク防止、そして潜在的な影響作戦の阻止です。
ONNX Runtime と Olive を使用した SD Turbo と SDXL Turbo 推論の高速化
Hugging Face と Microsoft は、ONNX Runtime と Olive を使用した最適化を導入し、PyTorch と比較して SDXL Turbo で最大 229%、SD Turbo で最大 120% のスループット向上を実現しました。
Gradio を使用して Hugging Face Spaces で ComfyUI ワークフローを実行する
Hugging Face は、複雑な ComfyUI ワークフローを Gradio アプリケーションに変換し、無料でサーバーレスの Hugging Face Spaces ZeroGPU にデプロイするためのガイドを提供しています。
OpenAI と Digital Green が農業拡張のために Farmer.Chat を開始
Digital Green は OpenAI と提携し、農業拡張サービスのコストを農家1人あたり 35ドルから 0.35ドルに削減し、インドとケニアで複数言語に対応する生成AIツール Farmer.Chat を作成しました。
TITLE: Hugging Face リーダーボードテンプレート: Vectara HHEM リーダーボードの実装
SUMMARY: Hugging Face は、開発者が動的な LLM 評価ボードを構築できるオープンソースのリーダーボードテンプレートをリリースしました。これは Vectara の新しい Hughes Hallucination Evaluation Model (HHEM) リーダーボードで実証されています。
ChatGPT Team リリースノート
OpenAIは、ChatGPT Teamというセルフサービスプランを開始しました。このプランは中小規模のチーム向けに、共同作業スペース、管理ツール、エンタープライズレベルのデータプライバシーを提供します。
OpenAI GPTストア ローンチ
OpenAIはGPTストアをローンチし、ChatGPT Plus、Team、EnterpriseユーザーがカスタムGPTバージョンのChatGPTを発見、共有、収益化できるようにしました。
UnslothとHugging Face TRLの統合によるLLMファインチューニングの高速化
Unslothは、QLoRAと比較して0%の精度劣化でLLMファインチューニングを最大2.7倍高速化し、メモリ使用量を最大74%削減する軽量ライブラリです。
OpenAI とジャーナリズム:ニューヨーク・タイムズ訴訟への対応
OpenAIは、公共のインターネットデータでAIモデルを訓練することはフェアユースであると主張し、著作権で保護されたコンテンツの再現は稀なバグであると説明し、ニューヨーク・タイムズからの訴訟に対応しています。
WHOOP Coach: GPT-4 を活用したパーソナライズド ヘルス コーチング
WHOOP は OpenAI の GPT-4 を統合し、WHOOP Coach を立ち上げました。これは、ユーザー固有の生理データに基づいてパーソナライズドかつオンデマンドのガイダンスを提供する AI を活用したフィットネスおよびヘルス コーチです。
aMUSEd: 効率的なテキストから画像への生成
Hugging Face は、Masked Image Modeling (MIM) に基づく効率的な非拡散テキストから画像へのモデルであり、Google の MUSE のオープン再現である aMUSEd をリリースしました。
Hugging Face SDXL Dreambooth LoRA 高度トレーニングガイド
Hugging Face は、SDXL Dreambooth LoRA 用の高度なトレーニングスクリプトを導入し、Pivotal Tuning と Prodigy オプティマイザを組み合わせてコンセプト捕捉と画像品質を向上させます。
推測デコードで Whisper 推論が 2× 速くなる
Hugging Face は、推測デコードが Whisper の転写レイテンシを半減させ、出力と精度を同一に保つことを実証しました。
2023年 オープンLLM年次レビュー
Hugging Faceの2023年の振り返りは、オープンソースLLMの急増、高性能な小型モデルの登場、そしてアクセスの拡大とコミュニティの参加を劇的に広げる新しいファインチューニング技術について示しています。
エージェントAIシステムのガバナンスに関するOpenAIの実践
OpenAIは、エージェントAIシステム(限定的な監督下で複雑な目標を追求するAI)を社会に責任ある形で統合するための、基本的な責任と安全ベストプラクティスのフレームワークを提案しています。
OpenAI Superalignment Fast Grants
OpenAIは、超知能AIシステムの整合性と安全性に関する技術研究に資金を提供するため、1,000万ドルの助成金プログラムを開始しました。
Summer HealthはGPT-4を使用して小児診療ノートを自動化
Summer HealthはGPT-4を統合し、小児科医の観察を明確で専門用語のない診療ノートに変換し、ノート1件あたりの事務時間を10分から2分に短縮しました。
OpenAI 弱から強への一般化研究
OpenAIの研究者は、より小さく能力の低いモデルが大規模モデルを監督し、GPT-3.5レベルに近い能力を引き出すことができることを実証し、超人的AIシステムを整合させるための潜在的な道筋を示しました。
AIジャーナリズムに向けたOpenAIとAxel Springerのパートナーシップ
OpenAIとAxel Springerは、POLITICOやBusiness Insiderなどの権威あるニュースコンテンツをChatGPTに統合し、Axel SpringerのコンテンツをLLMのトレーニングに活用するために提携しました。
Mixture of Experts (MoE) の解説
Mixture of Experts (MoE) は、トランスフォーマーモデルがパラメータをスケールさせつつ、トークンごとにニューラルネットワークのエキスパートの一部だけを活性化することで、効率的な事前学習と高速な推論を維持できるようにします。
Mixtral 8x7B リリースノート
Mistral AI は Mixtral 8x7B をリリースしました。この Mixture of Experts (MoE) モデルは Llama 2 70B を上回り、ほとんどのベンチマークで GPT-3.5 と同等の性能を示しながら、Apache 2.0 の下で商業的に許容可能です。
SetFitABSA: 少数ショットのアスペクトベース感情分析
Hugging Face と Intel Labs は、プロンプト不要で少数ショットのアスペクトベース感情分析フレームワークである SetFitABSA を導入しました。このフレームワークは、データが少ないシナリオにおいて、Llama 2 や T5 などの大規模生成モデルを上回る性能を示します。
Optimum-NVIDIA リリースノート
Hugging Face は、FP8 量子化と TensorRT-LLM を使用して NVIDIA プラットフォーム上の LLM 推論を最大 28 倍に高速化する推論ライブラリ Optimum-NVIDIA をリリースしました。
Hugging Face LoRA 動的ロードで推論速度が300%向上し、レイテンシを削減
Hugging Face は、ウォームアップ時間を 25 秒から 3 秒に短縮し、LoRA 推論を最大 300 % 高速化、総応答時間を 35 秒から 13 秒に削減する動的 LoRA ローディングシステムを発表しました。
Hugging Face と AMD GPU 加速 for LLMs
Hugging Face と AMD は、Transformers ライブラリと Text Generation Inference に AMD Instinct GPU 用の即時サポートを統合し、コード変更なしで高性能な LLM 実行を可能にしました。
Hugging Face Open LLM Leaderboard DROP ベンチマーク分析
Hugging Face は、誤った正規化とストップトークンの設定によりほとんどのモデルが誤って低いスコアになることを発見した後、Open LLM Leaderboard から DROP ベンチマークを削除しました。
OpenAI リーダーシップ アップデート: サム・アルトマンが CEO に復帰
サム・アルトマンは、新しい初期取締役会の支援と企業ガバナンスの強化へのコミットメントにより、OpenAI の CEO に復帰しました。
OpenAI リーダーシップ移行: ミラ・ムラティが暫定CEOに任命
OpenAIは、CEO役職と取締役会の両方を離れたサム・アルトマンの退任後に、ミラ・ムラティを暫定CEOに任命しました。
OpenAI データパートナーシップ
OpenAIは、組織と協力して公共およびプライベートなデータセットを作成し、AIモデルのトレーニングに使用することで、ドメイン固有の理解を向上させ、AGIへの進展を目指すデータパートナーシッププログラムを立ち上げました。
SDXL と Stable Diffusion の 高速 推論 と Latent Consistency LoRAs
Hugging Face は、SDXL と Stable Diffusion モデルで 4 ~ 8 ステップの 高品質 画像 生成 を 可能 に する LCM LoRAs という 手法 を 紹介 し、推論 時間 を 大幅 に 短縮 しました。
Prodigy-HF 統合リリースノート
Explosionは、注釈付きデータ上でHugging Faceトランスフォーマーモデルの直接ファインチューニングを可能にし、Hugging Face Hubへのデータセットの直接アップロードを可能にするプラグインProdigy-HFをリリースしました。
optimum-neuron を使用した AWS Inferentia2 上への Llama 2 のデプロイ
Hugging Face は、高性能なテキスト生成のために、Llama 2 モデルを AWS Inferentia2 アクセラレータ上でデプロイできるように、optimum-neuron を AWS Neuron SDK と統合しました。
LoRAを用いた災害ツイート分類におけるRoBERTa、Llama 2、およびMistralの比較
Low-Rank Adaptation (LoRA) を用いてファインチューニングした場合、小規模なRoBERTaモデルが災害ツイートの二値分類においてLlama 2およびMistral 7Bよりも優れた性能を示すことが比較研究により明らかになりました。
OpenAI が GPTs を発表
OpenAI は、コーディング不要で特定の目的のためにユーザーが作成できる ChatGPT のカスタムバージョンである GPTs をローンチし、個人、職場、エンタープライズ向けのカスタマイズされた AI アシスタントを可能にしました。
OpenAI DevDay 2023: GPT-4 Turbo, Assistants API, and Multimodal Updates
OpenAIは、128Kのコンテキストウィンドウを備えたGPT-4 Turbo、エージェントのような体験を実現する新しいAssistants API、そしてDALL·E 3やTTSを含む拡張されたマルチモーダル機能を発表しました。
Hugging Face Hub ストレージリージョン
Hugging Faceは、Enterprise Hubの顧客向けにストレージリージョンを導入し、組織がモデルとデータセットの保存場所を選択できるようになり、規制遵守とデータ転送パフォーマンスの向上を実現します。
パーソナル Copilot: 自分専用のコーディングアシスタントを訓練する
Hugging Faceは、QLoRAおよびフルファインチューニング技術を使用してStarCoderを特定のコードベースでファインチューニングすることにより、パーソナライズされたコーディングアシスタントであるHugCoderを作成する方法を実証しています。