Hugging Face 추론 엔드포인트
Hugging Face Inference Endpoints는 사용자가 Hugging Face Hub에서 머신러닝 모델을 몇 번의 클릭만으로 확장 가능하고 안전한 클라우드 인프라에 배포할 수 있게 해주는 관리형 서비스입니다.
Stable Diffusion JAX 및 Flax 통합
Hugging Face Diffusers 버전 0.5.1은 Flax 지원을 도입하여 JAX를 통해 Google TPU에서 고속 Stable Diffusion 추론을 가능하게 합니다.
Hugging Face BLOOM 추론 최적화
Hugging Face는 파이프라인 병렬 처리에서 텐서 병렬 처리로 전환하고 맞춤형 CUDA 커널을 구현함으로써 BLOOM 모델의 지연 시간을 5배 감소시키고 처리량을 50배 증가시켰습니다.
Hugging Face, 모델 및 데이터셋에 대한 DOI 지원 도입
Hugging Face는 이제 사용자가 Hub 모델 및 데이터셋에 대한 디지털 객체 식별자(DOI)를 생성할 수 있게 하여, 버전이 바뀌어도 지속되는 영구적인 인용 링크를 제공합니다.
rinna의 일본어 Stable Diffusion 출시
rinna는 일본어 프롬프트에서 문화적으로 적절한 이미지를 생성하는 Stable Diffusion의 일본어 파인‑튜닝 버전을 출시했습니다.
Hugging Face Hub에서 제로샷 평가
Hugging Face는 Hub에서 인과 언어 모델을 위한 제로샷 평가를 도입하여, 사용자가 코드를 작성하지 않고도 최대 660억 파라미터 모델을 벤치마크할 수 있게 했습니다.
OpenAI DALL·E 베타, 대기자 명단 없이 이용 가능
OpenAI는 DALL·E 베타의 대기자 명단을 제거하여 현재 150만 명이 넘는 사용자가 하루에 200만 장 이상의 이미지를 생성하고 있는 시스템에 즉시 가입할 수 있게 했습니다.
Hugging Face AutoTrain 이미지 분류
Hugging Face가 AutoTrain에 이미지 분류 기능을 추가하여 사용자가 코드를 작성하거나 하이퍼파라미터를 설정하지 않고도 맞춤형 이미지 분류 모델을 학습할 수 있게 했습니다.
Hugging Face Accelerate: PyTorch로 대형 모델 실행
Hugging Face Accelerate는 PyTorch의 메타 디바이스와 샤드 체크포인트를 활용하여 GPU, CPU RAM, 디스크에 걸쳐 메모리를 관리함으로써 소비자 하드웨어에서도 대규모 AI 모델을 실행할 수 있게 합니다.
SetFit: 프롬프트 없이 효율적인 Few-Shot 학습
Hugging Face는 최소한의 라벨링 데이터로 높은 정확도를 달성하는 프롬프트 없는 Sentence Transformers의 Few-Shot 파인튜닝 프레임워크인 SetFit를 소개합니다.
Hugging Face 윤리와 사회 뉴스레터 #1
Hugging Face는 윤리와 사회 뉴스레터를 소개하고 협업, 투명성, 책임을 통한 분산형 가치 기반 AI 윤리 구현 접근 방식을 제시합니다.
OpenAI Whisper 릴리스
OpenAI는 Whisper를 출시했습니다. Whisper는 다국어 및 다중 작업 감독 데이터 68만 시간으로 학습된 자동 음성 인식(ASR) 시스템으로, 억양, 잡음 및 언어 전반에 걸친 견고성을 향상시킵니다.
DeepSpeed와 Accelerate를 활용한 놀라운 속도의 BLOOM 추론
Hugging Face는 8×80 GB A100 GPU에서 DeepSpeed‑Inference 텐서 병렬화와 Accelerate 파이프라인 병렬화를 사용하여 176B 파라미터 BLOOM 모델이 토큰당 1밀리초 미만의 속도로 생성될 수 있음을 보여줍니다.
Diffusers 0.3 릴리스, 이미지‑투‑이미지, 텍스트 인버전, 인페인팅, GPU 최적화, Mac MPS, ONNX 지원 및 새로운 문서 추가
Hugging Face가 Diffusers 버전 0.3을 발표했습니다. 이번 업데이트에는 이미지‑투‑이미지, 텍스트 인버전, 실험적 인페인팅, 소형 GPU 최적화, Mac MPS 지원, ONNX 내보내기 기능, 확장된 문서 및 다양한 커뮤니티 프로젝트가 포함됩니다.
오프라인 강화학습을 위한 Decision Transformers 훈련
Hugging Face는 transformers Trainer와 커스텀 data collator를 사용하여 HalfCheetah 환경을 해결하기 위해 처음부터 오프라인 Decision Transformer를 훈련하는 가이드와 구현을 제공합니다.
Megatron-LM으로 언어 모델 훈련하기
Hugging Face는 NVIDIA의 Megatron-LM 프레임워크를 사용하여 GPU에서 대형 언어 모델을 효율적으로 사전 훈련하고, Transformers 라이브러와의 통합 방법을 제공하는 가이드를 제공합니다.
DALL·E 아웃페인팅 기능 출시
OpenAI는 DALL·E용 아웃페인팅을 도입했으며, 사용자가 자연어 설명을 활용해 이미지의 원래 경계를 넘어 확장하면서 시각적 일관성을 유지할 수 있게 했습니다.
OpenRAIL: 개방적이고 책임 있는 AI 라이선스 프레임워크를 향하여
Hugging Face는 머신러닝 모델의 책임 있는 배포를 촉진하기 위해 개방 접근과 사용 기반 제한을 결합한 AI 전용 라이선스 세트인 OpenRAIL을 발표했습니다.
OpenAI, 인간 피드백을 통한 강화학습 및 InstructGPT를 활용한 정렬 전략 발표
OpenAI는 인간 피드백을 통한 강화학습과 InstructGPT를 효과적이고 저비용인 방법으로 강조하며, 언어 모델이 인간 의도를 따르도록 만들면서 현재의 한계와 AI 기반 정렬 연구의 향후 목표를 상세히 설명했습니다.
Hugging Face Spaces에서 단백질 시각화
Hugging Face는 Gradio를 통해 3Dmol.js를 Hugging Face Spaces에 통합하여 브라우저에서 3D 단백질 구조 시각화를 가능하게 하는 가이드를 제공합니다.
Hugging Face Transformers와 Habana Gaudi를 사용한 BERT 사전 학습
Hugging Face는 AWS의 Habana Gaudi DL1 인스턴스를 사용하여 BERT-base를 처음부터 사전 학습하는 방법을 보여주며, NVIDIA V100 GPU 기반 학습에 비해 25% 비용 절감을 달성했습니다.
Diffusers를 이용한 Stable Diffusion
Hugging Face는 Diffusers 라이브러리를 사용해 텍스트‑이미지 Stable Diffusion 모델을 실행하는 방법을 발표했으며, 코드, 라이선스 세부 정보 및 모델의 잠재 확산 아키텍처에 대한 설명을 제공합니다.
Vertex AI에 Hugging Face ViT 배포
Hugging Face는 Google Cloud의 Vertex AI 플랫폼에 Vision Transformer(ViT) 모델을 배포하여 Kubernetes 수준의 확장성을 훨씬 적은 코드로 달성하는 방법을 보여줍니다.
Hugging Face Optimum Graphcore에서 Vision Transformers
Hugging Face와 Graphcore는 Optimum 라이브러리를 사용하여 Vision Transformer(ViT) 모델을 Intelligence Processing Units(IPU)에서 효율적으로 미세 조정할 수 있게 하며, 이를 다중 라벨 흉부 X‑레이 분류 작업을 통해 입증했습니다.
Hugging Face, LLM.int8() 8비트 행렬 곱셈을 Transformers와 Accelerate에 통합
Hugging Face는 LLM.int8() 8비트 양자화 기술을 Transformers와 Accelerate 라이브러리에 통합했으며, 이를 통해 매우 큰 언어 모델을 성능 저하 없이 추론할 수 있게 하고 메모리를 최대 2배 절감합니다.
Hugging Face의 TensorFlow 철학
Hugging Face는 TensorFlow 통합에 대한 기술적 접근 방식을 제시하며, Keras 및 XLA와의 깊은 정렬을 강조하여 트랜스포머 모델의 성능 및 배포를 최적화합니다.
Skops 라이브러리는 scikit-learn 모델 호스팅, 문서화 및 Hugging Face Hub에서 협업을 가능하게 합니다
Hugging Face는 Skops를 발표했습니다. 이 라이브러리를 사용하면 사용자가 scikit-learn 모델을 패키징하고 문서화하며 자동 모델 카드와 추론 위젯이 포함된 Hub에 푸시할 수 있습니다.
Hugging Face ViT를 Kubernetes에 TF Serving으로 배포하기
Hugging Face는 Docker와 Kubernetes, TensorFlow Serving을 활용해 Vision Transformer (ViT) 배포를 확장하는 기술 가이드를 제공하여 프로덕션 수준의 자동 스케일링 및 리소스 관리를 가능하게 합니다.
OpenAI Moderation 엔드포인트 출시
OpenAI는 개발자가 애플리케이션에서 금지된 콘텐츠를 감지하고 차단할 수 있도록 GPT 기반 분류기를 제공하는 무료 Moderation 엔드포인트를 출시했습니다.
Hugging Face Sentence Transformers Training Guide (역사적 참고)
Hugging Face는 Sentence Transformers 모델을 학습 및 파인튜닝하기 위한 오래된 튜토리얼을 발표했으며, 모델 아키텍처, 데이터셋 형식, 손실 함수 및 모델 업로드 방법을 설명하고, 최신 학습 API를 사용하도록 안내합니다.
Hugging Face Deep RL 클래스 유닛 8: 근접 정책 최적화 (PPO) 설명
Hugging Face는 근접 정책 최적화(PPO)의 상세 워크스루를 소개했습니다. 정책 업데이트 비율을 클리핑함으로써 학습을 안정화하는 방법을 보여주고, CartPole‑v1과 LunarLander‑v2에서 테스트한 처음부터 구현한 PyTorch 코드를 제공합니다.
Hugging Face Private Hub 소개
Hugging Face는 Private Hub(현재 Enterprise Hub)를 도입하여, 기업이 통합된 도구 세트를 활용해 머신러닝 모델, 데이터셋 및 Spaces를 안전하고 규정 준수 환경에서 협업할 수 있도록 했습니다.
Nyströmformer: Nyström 방법을 이용한 선형 시간 및 메모리에서의 self-attention 근사
Nyströmformer는 샘플링된 랜드마크를 통해 소프트맥스 행렬을 근사하는 Nyström 방법을 사용하여 표준 self-attention의 시간 및 메모리 복잡도를 O(n^2)에서 O(n)으로 감소시킵니다.
미국 국가 AI 연구 자원을 위한 Hugging Face 권고사항
Hugging Face는 백악관 및 국립 과학 재단에 국가 AI 연구 자원(NAIRR)이 윤리적 전문성, 표준화된 문서화, 접근 가능한 도구를 우선시하여 AI 연구를 민주화하도록 촉구하는 답변을 제출했습니다.
OpenAI, Fill‑in‑the‑Middle을 위한 언어 모델 효율적 훈련 발표
OpenAI는 자동 회귀 언어 모델이 좌‑우 생성 품질을 손상시키지 않으면서 Fill‑in‑the‑Middle 작업을 수행하도록 하는 새로운 훈련 방식을 공개했으며, 이는 인필 기능을 간단하고 효율적으로 추가할 수 있는 방법입니다.
Hugging Face Datasets 오디오 및 비전 문서 업데이트
Hugging Face는 🤗 Datasets 라이브러리 문서를 확장하여 오디오 및 비전 데이터셋을 위한 전용 가이드와 도구를 포함시켰으며, 멀티모달 데이터의 로드 및 처리 과정을 간소화했습니다.
TensorFlow와 XLA를 이용한 빠른 텍스트 생성
Hugging Face는 TensorFlow를 사용하는 transformers 라이브러리에서 텍스트 생성을 위한 XLA 컴파일을 지원하도록 하여, 최대 100배의 속도 향상과 종종 PyTorch를 능가하는 성능을 제공했습니다.
코드 합성 대형 언어 모델을 위한 위험 분석 프레임워크
OpenAI는 Codex와 같은 고급 코드 생성 모델의 배포와 관련된 기술적, 사회적, 정치적, 경제적 위험을 식별하고 완화하기 위한 위험 분석 프레임워크를 도입했습니다.
TensorFlow 비전 모델을 Hugging Face에서 TF Serving으로 배포하기
Hugging Face는 Vision Transformer(ViT)와 같은 TensorFlow 비전 모델을 TensorFlow Serving을 사용해 REST 또는 gRPC 엔드포인트로 노출하는 배포 가이드를 제공합니다.
Advantage Actor Critic (A2C) 설명
Hugging Face는 정책 기반 방법과 가치 기반 방법을 결합하여 정책 그라디언트 추정의 분산을 감소시키는 하이브리드 강화 학습 아키텍처인 Advantage Actor Critic (A2C)를 설명합니다.
OpenAI DALL·E 베타 출시
OpenAI는 DALL·E가 100만 명의 초대된 사용자에게 베타로 제공되며, 매월 무료 크레딧과 상업적 사용 권리를 제공한다고 발표했습니다.
DALL·E 2에서 편향 감소 및 안전성 향상
OpenAI는 생성된 인물의 다양성을 높이고, 기만적인 콘텐츠 생성을 방지하기 위해 안전 필터를 강화하는 시스템 수준 기술을 DALL·E 2에 적용했습니다.
MNIST용 Dynamic Adversarial Data Collection (DADC) – Hugging Face 튜토리얼
Hugging Face는 MNIST에서 Dynamic Adversarial Data Collection (DADC)을 위한 단계별 튜토리얼을 발표했으며, 인간이 만든 적대적 예제를 수집하고 모델을 재학습시켜 견고성을 향상시키는 방법을 보여줍니다.
DALL·E 2: 창의성 확장
OpenAI의 DALL·E 2 연구 미리보기가 118개국의 3,000명 이상의 아티스트에 의해 채택되어 의료 지원부터 고급 요리 예술에 이르기까지 다양한 창의적 워크플로에 AI 생성 이미지를 통합하고 있습니다.
BLOOM 176B 훈련 기술 개요
Hugging Face는 384개의 A100 GPU, Megatron‑DeepSpeed 3D 병렬 처리 및 BF16 혼합 정밀도를 사용하여 1760억 파라미터 BLOOM 모델을 훈련한 상세 내역을 공개했으며, 하드웨어, 소프트웨어 스택 및 엔지니어링 과제를 강조합니다.
Sentence Transformers를 활용한 재생목록 생성기 구축
Hugging Face는 가사 임베딩에 Sentence Transformers를, 사용자 인터페이스에 Gradio Blocks를 활용한 의미 검색 기반 재생목록 생성기를 만드는 방법을 보여줍니다.
BLOOM: 세계 최대의 오픈 다국어 언어 모델
Hugging Face와 BigScience 프로젝트가 1760억 파라미터의 오픈 액세스 다국어 언어 모델인 BLOOM을 공개했습니다. 이 모델은 46개의 자연어와 13개의 프로그래밍 언어에 대해 완전한 투명성으로 학습되었습니다.
트위터 감성 분석 시작하기
Hugging Face는 개발자와 비개발자 모두를 위해 Inference API를 활용해 트위터 데이터에 대한 자동 감성 분석을 수행하는 가이드를 제공합니다.
PyTorch를 이용한 정책 그라디언트 – Hugging Face Deep RL 클래스 Unit 5
Hugging Face는 PyTorch로 REINFORCE Monte‑Carlo 정책‑그라디언트 알고리즘을 처음부터 구현하고 CartPole‑v1, PixelCopter, Pong에서 평가하는 튜토리얼을 공개했습니다.
Sentence Transformers를 사용한 머신러닝 시작하기
Hugging Face는 초보자들이 Sentence Transformers 라이브러리를 사용해 임베딩을 생성하고 의미 검색을 수행하며 첫 번째 ML 프로젝트를 시작할 수 있도록 안내합니다.