PyTorch를 이용한 정책 그라디언트 – Hugging Face Deep RL 클래스 Unit 5
Hugging Face는 PyTorch로 REINFORCE Monte‑Carlo 정책‑그라디언트 알고리즘을 처음부터 구현하고 CartPole‑v1, PixelCopter, Pong에서 평가하는 튜토리얼을 공개했습니다.
Sentence Transformers를 사용한 머신러닝 시작하기
Hugging Face는 초보자들이 Sentence Transformers 라이브러리를 사용해 임베딩을 생성하고 의미 검색을 수행하며 첫 번째 ML 프로젝트를 시작할 수 있도록 안내합니다.
DALL·E 2 사전 학습 완화 조치
OpenAI는 데이터 필터링을 위한 능동 학습, 편향 증폭을 방지하기 위한 가중치 재조정 방식, 그리고 DALL·E 2에서 이미지 재생성을 제거하기 위한 클러스터링 기반 중복 제거 과정을 구현했습니다.
허깅페이스 허브에서의 평가
허깅페이스는 AutoTrain 기반 무코드 도구인 Evaluation on the Hub를 도입했습니다. 이를 통해 사용자는 허깅페이스 허브에서 어떤 모델이든, 어떤 데이터셋이든, 어떤 메트릭이든 직접 평가할 수 있습니다.
DeepSpeed를 사용한 대규모 모델 학습 가속
Hugging Face는 Accelerate 라이브러리를 사용해 DeepSpeed의 ZeRO 최적화를 통합하는 방법을 보여주며, 이를 통해 더 큰 배치 크기와 GPU 메모리를 초과할 수 있는 모델 학습을 가능하게 합니다.
OpenAI 비디오 사전학습 (VPT) for Minecraft
OpenAI는 비디오 사전학습(VPT)이라는 반지도 학습 모방 학습 방법을 도입했으며, 이를 통해 인간 플레이의 방대한 라벨이 없는 비디오 데이터셋을 학습함으로써 에이전트가 Minecraft에서 복잡한 행동을 학습할 수 있게 되었습니다.
임베딩 시작하기 – Hugging Face 튜토리얼
Hugging Face는 Sentence‑Transformers 라이브러리와 Hugging Face Hub를 사용해 벡터 임베딩을 생성, 호스팅 및 쿼리하는 단계별 가이드를 발표했으며, 검색 가능한 FAQ 시스템을 시연합니다.
Hugging Face Optimum으로 Transformers를 ONNX로 변환하기
Hugging Face는 Transformers 모델을 ONNX로 변환하는 세 가지 방법을 제공하며, 저수준 torch.onnx API부터 고수준 Optimum 라이브러리까지 다양합니다.
OpenAI 대형 모델을 통한 진화 (ELM) 연구
OpenAI는 대형 모델을 통한 진화(ELM)를 소개합니다. 이 방법은 LLM을 활용해 인간과 유사한 코드 변이를 근사함으로써 유전 프로그래밍을 개선하고 새로운 도메인에서 기능적인 프로그램을 생성합니다.
인텔과 Hugging Face 파트너십: 머신러닝 하드웨어 가속
인텔은 Hugging Face 하드웨어 파트너 프로그램에 참여하여 Optimum Intel 라이브러리를 개발하고 있으며, 이를 통해 Intel 플랫폼에서 Transformer 모델의 학습, 미세 조정 및 추론에 대한 하드웨어 가속을 간소화하고 있습니다.
Hugging Face 머신러닝 인사이트 디렉터: 금융 에디션
U.S. Bank, RBC, 그리고 Moody's Analytics의 전문가들은 머신러닝이 사기 탐지와 개인화된 제품을 통해 금융을 어떻게 변화시키고 있는지, 그리고 레거시 시스템 및 규제 요구사항과 같은 과제를 어떻게 극복하고 있는지 논의합니다.
AI가 작성한 비평이 인간이 결함을 발견하도록 돕는다
OpenAI 연구는 AI가 생성한 비평이 인간 평가자가 요약문에서 훨씬 더 많은 결함을 식별하도록 돕는다는 것을 보여주며, 복잡한 AI 작업에 대한 인간 감독을 확장 가능한 방식으로 구현할 수 있음을 시사합니다.
대규모 신경망 훈련을 위한 OpenAI 기술
OpenAI는 대규모 AI 모델 훈련을 위해 GPU 클러스터를 조정하는 데 사용되는 주요 병렬 처리 전략—데이터, 파이프라인, 텐서, 그리고 전문가 병렬 처리—과 메모리 절감 기술을 개요합니다.
스페이스 인베이더와 딥 Q-러닝
Hugging Face는 Atari 게임과 같은 고차원 상태 공간에 대해 Q값을 근사하기 위해 신경망을 사용하는 강화 학습 방법인 딥 Q-러닝(DQN)을 설명합니다.
주석이 달린 확산 모델 – DDPM 구현 상세 안내
Hugging Face는 Denoising Diffusion Probabilistic Models (DDPM)의 주석이 달린 단계별 PyTorch 구현을 공개했으며, 이미지 생성을 위한 확산 모델을 구축, 학습 및 샘플링하는 방법을 보여줍니다.
OpenAI, Cohere, 및 AI21 Labs 언어 모델 배포를 위한 모범 사례
OpenAI, Cohere, 및 AI21 Labs는 대형 언어 모델의 책임 있는 개발 및 배포를 위해 위험을 완화하고 오용을 방지하기 위한 초기 모범 사례를 공동으로 발표했습니다.
OpenAI 연구: 모델이 불확실성을 말로 표현하도록 가르치기
OpenAI 연구원들은 GPT-3가 모델 로짓에 의존하지 않고도 자연어로 답변에 대한 보정된 불확실성을 표현하도록 학습시킬 수 있음을 입증했습니다.
Graphcore와 Hugging Face, IPU 준비된 트랜스포머 모델 확장
Graphcore와 Hugging Face는 Hugging Face Optimum 라이브러리를 확장하여 Graphcore IPU용 NLP, 음성, 컴퓨터 비전 분야의 10개 최적화 트랜스포머 모델을 포함했습니다.
Hugging Face Hub 커뮤니티 업데이트: Pull Requests와 Discussions
Hugging Face는 Hub에 Pull Requests와 Discussions를 도입하여 모델, 데이터셋, Spaces에 대한 커뮤니티 전체 협업을 가능하게 했으며, 저장소 포크가 필요하지 않습니다.
OpenAI Codex 애플리케이션 및 통합
OpenAI Codex는 GPT-3 기반의 자연어-코드 변환 시스템으로, GitHub Copilot을 포함한 70개 이상의 애플리케이션에 적용되어 영어 지시를 코드로 변환함으로써 개발자 생산성을 높입니다.
TAPEX: 신경망 SQL 실행을 통한 효율적인 테이블 사전 학습
TAPEX는 합성된 SQL 실행 쌍을 활용하여 테이블 질문 응답 및 사실 검증에서 최첨단 성능을 달성하고, 이전 방법에 비해 훨씬 높은 효율성을 제공하는 테이블 사전 학습 접근법입니다.
Hugging Face Q-러닝 소개
Hugging Face는 Q-테이블을 사용하여 최적의 상태-행동 쌍을 결정하는 오프-정책 가치 기반 강화 학습 방법인 Q-러닝에 대한 기술 가이드를 제공합니다.
Hugging Face 멀티모달 프로젝트 윤리 헌장
Hugging Face는 멀티모달 학습 프로젝트를 위해 윤리 원칙, 투명성 및 공정성을 머신러닝 연구 라이프사이클에 직접 통합하는 윤리 헌장을 마련했습니다.
Sempre Health 사례 연구: Hugging Face 전문가 가속 프로그램으로 NLP 파이프라인 가속화
Sempre Health는 Hugging Face 전문가 가속 프로그램을 활용하여 들어오는 환자 메시지의 20% 이상을 자동으로 처리하는 NLP 파이프라인을 구축했으며, 이를 통해 비즈니스 확장성을 크게 향상시켰습니다.
OpenAI DALL·E 2 연구 미리보기 업데이트
OpenAI는 300만 장 이상의 이미지를 생성한 제한된 연구 미리보기 이후, 대기자 명단에 있는 사용자에게 주당 1,000명씩 DALL·E 2 접근을 확대하고 있습니다.
Hugging Face Deep RL 코스 유닛 2 파트 1: Q-러닝 개념 소개
Hugging Face가 Deep Reinforcement Learning 코스의 첫 번째 파트를 공개했으며, 여기서는 value‑based 방법, Bellman 방정식, 그리고 Monte‑Carlo와 Temporal‑Difference 학습을 Q‑Learning을 위한 기초 개념으로 설명합니다.
Hugging Face 펠로우십 프로그램 발표
Hugging Face는 리소스, 인정, 맞춤형 지원을 통해 오픈소스 머신러닝 생태계의 핵심 기여자를 지원하고 역량을 강화하기 위해 펠로우십 프로그램을 시작했습니다.
Sasha Luccioni와의 머신러닝 전문가 인터뷰 – 윤리적 AI와 기후 영향에 대한 하이라이트
Hugging Face는 연구 과학자 Sasha Luccioni와 인터뷰를 진행했으며, 그녀는 윤리적 AI, 탄소 발자국 측정, 그리고 머신러닝을 기후 및 사회적 과제에 적용하는 작업에 대해 논의했습니다.
Gradio 3.0 릴리스 노트
Hugging Face는 Gradio 3.0을 출시했으며, 완전한 프런트엔드 재설계와 Python으로 복잡하고 맞춤형 머신러닝 웹 앱을 구축하기 위한 Gradio Blocks 도입을 특징으로 합니다.
Hugging Face 학생 앰배서더 프로그램 2022
Hugging Face는 2023년까지 500만 명에게 머신러닝을 가르치는 목표를 달성하기 위해 첫 번째 학생 앰배서더 프로그램을 시작했습니다.
Hugging Face 머신러닝 인사이트 디렉터: SaaS 에디션
Hugging Face는 Salesforce, Amplitude, ZoomInfo, Repustate의 ML 디렉터 네 명을 인터뷰하여 머신러닝을 SaaS 제품에 통합할 때의 실질적인 과제, 일반적인 함정, 그리고 미래 기회에 대해 논의합니다.
Optimum 1.2 추론 릴리스, ONNX Runtime 가속 파이프라인 추가
Hugging Face는 Optimum 1.2를 발표했으며, ONNX Runtime을 통한 추론 지원 및 Transformers 파이프라인 통합을 추가하여 더 빠르고 양자화된 최적화 모델 서비스를 가능하게 합니다.
Hugging Face 시리즈 C 펀딩 발표
Hugging Face는 오픈소스 연구, 제품 및 협업 머신러닝을 통해 AI 민주화를 가속화하기 위해 1억 달러 규모의 시리즈 C 펀딩을 유치했습니다.
fastai와 Hugging Face Hub 통합
Hugging Face는 fastai 라이브러리를 통합하여, 실무자들이 단 한 줄의 Python 코드로 fastai Learner 객체를 Hugging Face Hub에 직접 업로드하고 다운로드할 수 있게 했습니다.
OpenAI 리더십 팀 업데이트
OpenAI는 Greg Brockman, Brad Lightcap, Mira Murati, Chris Clark의 임원 역할 변화를 발표했으며, 이는 리더십을 회사의 성장 및 전략적 이정표에 맞추기 위한 것입니다.
Hugging Face 딥 강화 학습 소개
Hugging Face는 무료 딥 강화 학습 클래스용 입문 튜토리얼을 공개했으며, 핵심 RL 개념, RL 프레임워크, 탐험‑활용 트레이드오프, 정책 기반 vs 가치 기반 방법, 그리고 딥 신경망이 RL에 어떻게 통합되는지를 다룹니다.
PyTorch Fully Sharded Data Parallel을 사용하여 대규모 모델 학습 가속화하기
Hugging Face는 PyTorch Fully Sharded Data Parallel (FSDP)를 Accelerate 라이브러리에 통합하여, 옵티마이저 상태, 그래디언트, 파라미터를 GPU에 샤딩하고 선택적으로 CPU 오프로딩을 사용할 수 있게 함으로써 거대한 모델의 학습을 가능하게 합니다.
Kili와 HuggingFace AutoTrain을 활용한 의견 분류
Hugging Face는 데이터 라벨링에 Kili를, 자동 모델 학습에 AutoTrain을 활용하여 텍스트 분류를 위한 액티브 러닝 파이프라인을 구축하는 방법을 보여줍니다.
Hugging Face 머신러닝 디렉터 인사이트 – 산업 관점
Hugging Face는 여섯 명의 머신러닝 디렉터와의 인터뷰 시리즈를 공개했으며, 이들이 ML이 미디어, 제약, 과학, 물류, 마케팅, 에너지 분야를 어떻게 변화시키고 있는지 공유하고, 공통적인 과제와 미래 기회를 강조합니다.
Habana Gaudi에서 Transformers 시작하기
Hugging Face와 Habana Labs는 Transformer 모델 학습을 가속화하기 위해 파트너십을 맺었으며, GPU 기반 Amazon EC2 인스턴스에 비해 Habana Gaudi 가속기에서 최대 40% 더 나은 가격 대비 성능을 제공합니다.
머신러닝으로 고객 서비스 강화
Hugging Face는 fine-tuned DeBERTa-v3-base 모델과 Transformers 및 Datasets 라이브러리를 사용하여 불만 고객 피드백을 자동으로 필터링하는 방법을 보여줍니다.
Hugging Face 교육 이니셔티브 2022 출시
Hugging Face는 2022년 4월에 다중 트랙 교육 프로그램을 발표했으며, 2023년 말까지 500만 명에게 머신러닝을 가르치는 것을 목표로 학습자, 강사 및 일반 대중을 위한 무료 자원을 제공한다.
Hugging Face Hub 탄소 배출 추적
Hugging Face는 AI의 환경 투명성을 높이기 위해 머신러닝 모델을 CO2 배출량 기준으로 추적, 보고 및 필터링할 수 있는 도구들을 도입했습니다.
AI 정렬에서 구드하트 법칙 측정
OpenAI는 AI 모델에서 프록시 목표를 최적화하면 실제 목표 성능이 감소하는 구드하트 법칙 현상이 발생할 수 있음을 탐구하고, 이를 분석하기 위한 방법으로 best-of-n 샘플링을 제안합니다.
CLIP 잠재 변수를 이용한 계층적 텍스트 조건 이미지 생성
OpenAI는 텍스트에서 CLIP 이미지 임베딩을 생성하는 프라이어와 해당 임베딩으로부터 이미지를 생성하는 디코더를 사용하는 2단계 생성 모델을 소개합니다. 이 모델은 다양성을 향상시키고 제로샷 이미지 조작을 가능하게 합니다.
Lewis Tunstall 인터뷰 – Hugging Face 머신 러닝 전문가
Hugging Face는 머신 러닝 엔지니어 Lewis Tunstall와의 상세 인터뷰를 발표했으며, 그는 Transformers 라이브러리 작업, 새로운 “NLP with Transformers” 책, 그리고 확장 중인 Hugging Face 코스에 대한 내용을 강조합니다.
Habana Labs와 Hugging Face의 트랜스포머 모델 훈련 파트너십
Habana Labs와 Hugging Face는 Habana의 SynapseAI 소프트웨어 스위트를 Hugging Face Optimum 라이브러리와 통합하여 Habana Gaudi 프로세서에서 트랜스포머 모델 훈련을 가속화했습니다.
Hugging Face Transformers 설계 철학
Hugging Face는 Transformers 라이브러리에서 "single model file" 정책을 사용하여, 가독성, 커뮤니티 기여, 그리고 정적 머신러닝 모델의 안정성을 우선시하기 위해 의도적으로 DRY(중복 방지) 원칙을 포기합니다.
Decision Transformer 통합 in Hugging Face Transformers
Hugging Face는 RL을 조건부 시퀀스 모델링 문제로 다루는 오프라인 강화 학습 방법인 Decision Transformer를 transformers 라이브러리와 Hugging Face Hub에 통합했습니다.
머신러닝 전문가: Margaret Mitchell과의 인터뷰
Dr. Margaret Mitchell은 윤리적 AI, 투명성을 위한 Model Cards의 개발, 그리고 머신러닝 개발에서의 다양성과 포용성의 필요성에 대해 논의합니다.