Hugging Face Hub Git 認証の変更
Hugging Faceは2023年10月1日にパスワードベースのGit認証を非推奨とし、セキュリティを向上させるためユーザーにパーソナルアクセストークンまたはSSHキーへの切り替えを義務付けました。
Code Llama リリースノート
Code Llamaは、Llama 2に基づくオープンアクセスモデルのファミリーであり、インフィリングおよび最大100,000トークンのロングコンテキストウィンドウをサポートし、コーディングタスクに特化しています。
OpenAIとScaleのエンタープライズファインチューニングパートナーシップ
OpenAIはScaleと提携し、GPT-3.5 TurboおよびGPT-4のファインチューニングのためにエンタープライズに専門的なデータエンリッチメントとモデル評価サポートを提供しています。
Hugging Face AutoGPTQ と Transformers の統合
Hugging Face は AutoGPTQ ライブラリを Transformers に統合し、LLM を 8、4、3、または 2 ビット精度に量子化してメモリ要件を削減し、4 ビットではほとんど精度損失なく実現します。
GPT-3.5 Turbo ファインチューニングとAPIアップデート
OpenAIはGPT-3.5 Turboのファインチューニング機能をリリースし、開発者がモデルのパフォーマンスをカスタマイズし、出力の信頼性を向上させ、プロンプトコストを削減できるようにしました。
IDEFICS: 最先端の視覚言語モデルのオープンな再現
Hugging Faceは、Flamingoアーキテクチャに基づくオープンアクセスの視覚言語モデルIDEFICSをリリースしました。これは9Bおよび80Bパラメータサイズでインターリーブされた画像とテキストの入力をサポートします。
Hugging Face SafeCoder 発表
Hugging Faceは、企業が自社のセキュアなインフラストラクチャ内で独自のCode LLMを構築およびデプロイできる、セルフホスト型のエンタープライズグレードなコードアシスタントソリューションであるSafeCoderを発表しました。
OpenAIがGlobal Illuminationを買収
OpenAIは、クリエイティブツールとインフラストラクチャ企業であるGlobal Illuminationを買収し、ChatGPTを含むコア製品の開発にチームを統合する。
コンテンツモデレーションへのGPT-4の活用
OpenAIは、ポリシーの適用と洗練を自動化することでコンテンツモデレーションを加速させるためにGPT-4を利用しており、カスタムポリシーの開発時間を数ヶ月から数時間へと短縮しています。
AWS Marketplace 上の Hugging Face Hub
Hugging Face は、AWS Marketplace と Hub を統合し、組織が AWS アカウントを通じて直接、Inference Endpoints や AutoTrain などのマネージド サービスの料金を支払えるようにしました。
BentoMLを使ったDeepFloyd IFのデプロイ
Hugging Faceは、BentoMLを使用してDeepFloyd IFテキストから画像へのモデルをデプロイする方法を示しており、これによりマルチステージのピクセル拡散アーキテクチャを複数のGPU間で独立してスケーリングすることが可能になります。
🤗 Transformers を使用した Bark の最適化
Hugging Face は、Better Transformer、半精度 (fp16)、および CPU オフロードを使用して、Bark テキスト読み上げモデルのメモリフットプリントを削減し、推論速度を向上させる方法を示しています。
Swift Transformers リリース: Apple デバイス上でオンデバイス LLM を実行する
Hugging Face は、開発者が Apple アプリ内で LLM をオンデバイスで実行できるようにするため、アルファ版の swift-transformers Swift パッケージ、swift-chat デモアプリ、更新された exporters および transformers-to-coreml ツール、ならびに Llama 2 7B と Falcon 7B の Core ML バージョンをリリースしました。
TRL を用いた Direct Preference Optimization (DPO) による Llama 2 のファインチューニング
Hugging Face は TRL ライブラリに Direct Preference Optimization (DPO) を統合し、複雑な RLHF パイプラインではなく、簡素化されたバイナリクロスエントロピー損失を使用して Llama 2 やその他の LLM をアラインできるようにしました。
Hugging Face Inference Endpoints を介した MusicGen のデプロイ
Hugging Face は、標準的な pipeline でサポートされていないモデル向けに、Inference Endpoints とカスタムハンドラーを使用して、テキストから音楽を生成するモデルである MusicGen を API としてデプロイする方法を紹介しています。
FHEを用いた暗号化された大規模言語モデルに向けて
Hugging FaceとZamaは、完全準同型暗号（FHE）を用いることで、モデル所有者の知的財産を保護しながら、大規模言語モデルが暗号化されたユーザーデータを処理できるようにする方法を実証しました。
Huggy Lingo: MLを使ったHugging Face Hubの言語メタデータの改善
Hugging Faceは、fastText言語識別モデルとLibrarian-Botを使用して、現在言語メタデータが欠如しているデータセットの言語メタデータを自動的に検出および提案しています。
人工知能のための信頼構築措置
OpenAIとBerkeley Risk and Security Labは、基盤モデルによってもたらされる国際的なセキュリティリスクを軽減するため、6つの信頼構築措置（CBMs）を提案します。
実践的な3Dアセット生成ガイド
Hugging Faceは、OpenAIのShap-EモデルをBlenderおよびDream Texturesと組み合わせることで、低忠実度なPS1スタイルの3Dアセットを作成するためのステップバイステップのワークフローを提供しています。
Segmind SD-Small および SD-Tiny 知識蒸留リリース
Segmind は、Stable Diffusion よりも 35% および 55% 小さく、最大 2 倍高速な推論を実現する 2 つの拡散モデル、SD-Small および SD-Tiny のコードと学習済み重みをオープンソース化しました。
Stable Diffusion XL on Mac における 高度な Core ML 量子化
Hugging Face と Apple は、Stable Diffusion XL を Core ML に移植し、Apple Silicon Mac 上で画像品質を維持しながら UNet サイズを 71% 削減する mixed-bit パレット化 を導入しました。
フロンティアモデルフォーラムの発表
OpenAI、Google、Microsoft、およびAnthropicは、フロンティアAIモデルの開発のための安全基準、研究、および情報共有を調整するフロンティアモデルフォーラムを立ち上げました。
Agents.js リリース: JavaScriptを使ってLLMにツールを提供
Hugging Faceは、ブラウザまたはサーバーでLLMがツールにアクセスし実行できるようにするJavaScriptライブラリAgents.jsをリリースしました。
Hugging Faceとパートナーは、EU AI法案におけるオープンMLの考慮事項を示す
Hugging Faceは、Creative Commons、Eleuther AI、GitHub、LAION、Open Futureと連携し、EU AI法案がオープンソース機械学習開発を支援するよう、5つの主要な推奨事項を提案した。
OpenAI AI ガバナンス コミットメント
OpenAI は、内部および外部のレッドチーム、情報共有、AI 生成コンテンツの識別、およびモデルの機能と社会的リスクに関する透明性の高い報告を含むフレームワークにコミットしています。
Hugging Face オープンソース AI ゲームジャム 結果
Hugging Face は初めてのオープンソース AI ゲームジャムを開催し、その結果、88 のゲーム提出があり、オープンソース AI ツールがアセット、コーディング、ゲームプレイメカニクスに統合されました。
ChatGPT カスタムインストラクション リリース
OpenAIは、ChatGPT向けにカスタムインストラクションを導入し、ユーザーが今後のすべての会話でモデルが考慮する持続的な設定と要件を設定できるようにしました。
Hugging Face Diffusers 1周年概要
Hugging FaceはDiffusersライブラリの1周年を祝し、テキストから画像、ビデオ、3D、オーディオ生成のためのモジュール式ツールボックスへと進化したことを強調しています。
OpenAIとAmerican Journalism Projectのローカルニュース向けパートナーシップ
OpenAIは、資金とAPIクレジットで総額$10百万のコミットメントを通じてAmerican Journalism Project（AJP）と提携し、AIがどのようにローカルジャーナリズムを強化し、誤情報に対抗できるかを探っています。
Llama 2 のリリースと Hugging Face との統合
Meta は、商用利用が可能なオープンアクセス大規模言語モデルのファミリーである Llama 2 をリリースし、Hugging Face エコシステムへの完全な統合を実現しました。
Hugging Face AI WebTV: 自動化されたビデオおよび音楽合成ストリームの構築
Hugging Faceは、LLMが生成したプロンプトからビデオと音楽のストリームを自動的に合成するために、ZeroscopeとMusicGenを使用した実験的デモであるAI WebTVを開発しました。
Hugging Faceにおけるオープンソースのテキスト生成とLLMエコシステム
Hugging Faceの2023年のブログ記事では、オープンソースのテキスト生成とLLMのエコシステムを概観し、モデルの背景、ライセンス、サービングツール、およびパラメータ効率の高いファインチューニングについて説明しています。
Hugging Face Diffusersを使用したIntel Sapphire Rapids CPUでのStable Diffusionのファインチューニング
Hugging Faceは、わずか5枚のサンプル画像を使用して、Intel Sapphire Rapids CPU上でTextual Inversionを用いてStable Diffusionモデルをファインチューニングする方法を示しています。これは、Intel Extension for PyTorchとoneCCLを介したCPUベースのファインチューニングを実証するものです。
ViableとGPT-4を用いた大規模定性データの分析
ViableはファインチューニングされたGPT-4モデルを活用し、単なる要約を超えてビジネスインサイトのための正確で大規模な定性データ分析を提供します。
OpenAI フロンティア AI 規制提案
OpenAI と多分野にわたる研究者グループは、標準設定、登録、コンプライアンス メカニズムを通じて公共の安全リスクを管理するフロンティア AI モデルのための規制フレームワークを提案しています。
Transformers.js を使った ML パワード ウェブゲームの作成
Hugging Face は、Transformers.js とファインチューニングされた MobileViT モデルを使用してブラウザ内で完全に動作するリアルタイム スケッチ検出ゲーム Doodle Dash の作成方法を示しています。
Hugging Face Inference Endpoints を使った LLM のデプロイ
Hugging Face Inference Endpoints は、オートスケーリング、スケール・トゥ・ゼロ、エンタープライズグレードのセキュリティなどの機能を備えたマネージド SaaS ソリューションで、開発者がオープンソース LLM を本番稼働可能な API としてデプロイできるようにします。
Hugging Face: オープンMLモデルでWebアプリジェネレータを作る
Hugging Face は、NodeJS、WizardCoder-15B モデル、そして Hugging Face Inference Endpoints API を使用して、text-to-webapp ジェネレータを構築する方法を示しています。
複雑な生成AIユースケースに対するHugging Faceの活用: Writerケーススタディ
Hugging FaceはWriterとのパートナーシップを強調し、Hugging Face Expert Acceleration Programを活用してスケーラブルなLLM本番運用を行いながら、ユーザーから顧客およびオープンソースコントリビューターへと進化したことを示しています。
OpenAI グローバル コンバーセーション: インサイトと戦略的焦点領域
OpenAI は、25 の都市と 6 つの大陸を巡るグローバルなリスニング ツアーを実施し、ユーザー、開発者、政策立案者からのフィードバックを収集して、AI の開発および展開戦略を改善しました。
ビジョン言語モデルの高速化: Habana Gaudi2 上の BridgeTower
Hugging Face は、Habana Gaudi2 上で Optimum Habana を使用して BridgeTower ビジョン言語モデルをファインチューニングすると、より多くのデータローダー ワーカーとハードウェア アクセラレートされた画像デコードにより、Nvidia A100 に対して最大 2.5×、H100 に対して 1.4× のスピードアップを達成できることを示しています。
OpenAI ロンドンオフィス開設
OpenAIは、研究開発の足跡を拡大し、安全なAGIの開発のために世界中の人材を引き付けるため、ロンドンに最初の国際オフィスを開設しました。
Hugging Face Ethics and Society ニュースレター #4: テキスト・トゥ・イメージ モデルにおけるバイアス
Hugging Faceは、テキスト・トゥ・イメージ モデルにおけるバイアスの複雑なソースを概説し、探索ツール、レッドチームング、ドキュメンテーションを組み合わせた多角的アプローチを提案して、これらのバイアスを検出および緩和します。
Hugging Face Open LLM Leaderboard MMLU 評価分析
Hugging Faceは、MMLUベンチマークの異なる実装の詳細が同じLLMに対して著しく異なるパフォーマンススコアとランキングをもたらすことを説明しています。
Hugging Face Spaces との Panel 統合
Hugging Face は Hugging Face Spaces に Panel テンプレートを統合し、ユーザーが Python ベースのダッシュボードや複雑なアプリケーションを容易に構築およびデプロイできるようにしました。
Hugging Faceによる、AIの責任に関する米NTIAの意見公募への回答
2023年6月12日、Hugging FaceはAIの責任に関する米NTIAの意見公募に対し、責任のメカニズムはMLライフサイクル全体をカバーし、内部ドキュメントと外部の透明性を組み合わせ、幅広いステークホルダーを関与させるべきであるという推奨事項を含む回答を提出しました。
低リソースASRのためのMMSアダプターモデルのファインチューニング
Hugging Faceは、Meta AIのMassive Multilingual Speech (MMS) モデルのアダプター層をファインチューニングすることで、わずか数分のトレーニングで低リソース言語に対して最先端の単語誤り率 (WER) を達成し、フルモデルのファインチューニングよりもメモリ効率が高いことを発表しました。
Autoformer – Transformersは時系列予測に効果的
Hugging Faceは、Autoformerモデルが🤗 Transformersライブラリで今利用可能になったことを発表し、Transformerベースのモデルが時系列予測のベンチマークにおいてDLinearなどの単純な線形ベースラインを上回っていることを示しています。
Hugging Face コンテンツガイドラインとポリシーアップデート
Hugging Face は、機械学習アーティファクトのモデレーションにおける独自の課題に対応し、ユーザーの権利とプライバシーを保護するための核となる価値として同意を確立するため、コンテンツポリシーを更新しました。
LivebookノートブックをHugging Face Spacesのアプリとしてデプロイする
Hugging Faceは、LivebookノートブックをインタラクティブなアプリケーションとしてHugging Face Spacesにデプロイすることをサポートし、Elixirベースの機械学習アプリを簡単に共有できるようになりました。