Hugging Face Q-러닝 소개
Hugging Face는 Q-테이블을 사용하여 최적의 상태-행동 쌍을 결정하는 오프-정책 가치 기반 강화 학습 방법인 Q-러닝에 대한 기술 가이드를 제공합니다.
Hugging Face 멀티모달 프로젝트 윤리 헌장
Hugging Face는 멀티모달 학습 프로젝트를 위해 윤리 원칙, 투명성 및 공정성을 머신러닝 연구 라이프사이클에 직접 통합하는 윤리 헌장을 마련했습니다.
Sempre Health 사례 연구: Hugging Face 전문가 가속 프로그램으로 NLP 파이프라인 가속화
Sempre Health는 Hugging Face 전문가 가속 프로그램을 활용하여 들어오는 환자 메시지의 20% 이상을 자동으로 처리하는 NLP 파이프라인을 구축했으며, 이를 통해 비즈니스 확장성을 크게 향상시켰습니다.
OpenAI DALL·E 2 연구 미리보기 업데이트
OpenAI는 300만 장 이상의 이미지를 생성한 제한된 연구 미리보기 이후, 대기자 명단에 있는 사용자에게 주당 1,000명씩 DALL·E 2 접근을 확대하고 있습니다.
Hugging Face Deep RL 코스 유닛 2 파트 1: Q-러닝 개념 소개
Hugging Face가 Deep Reinforcement Learning 코스의 첫 번째 파트를 공개했으며, 여기서는 value‑based 방법, Bellman 방정식, 그리고 Monte‑Carlo와 Temporal‑Difference 학습을 Q‑Learning을 위한 기초 개념으로 설명합니다.
Hugging Face 펠로우십 프로그램 발표
Hugging Face는 리소스, 인정, 맞춤형 지원을 통해 오픈소스 머신러닝 생태계의 핵심 기여자를 지원하고 역량을 강화하기 위해 펠로우십 프로그램을 시작했습니다.
Sasha Luccioni와의 머신러닝 전문가 인터뷰 – 윤리적 AI와 기후 영향에 대한 하이라이트
Hugging Face는 연구 과학자 Sasha Luccioni와 인터뷰를 진행했으며, 그녀는 윤리적 AI, 탄소 발자국 측정, 그리고 머신러닝을 기후 및 사회적 과제에 적용하는 작업에 대해 논의했습니다.
Gradio 3.0 릴리스 노트
Hugging Face는 Gradio 3.0을 출시했으며, 완전한 프런트엔드 재설계와 Python으로 복잡하고 맞춤형 머신러닝 웹 앱을 구축하기 위한 Gradio Blocks 도입을 특징으로 합니다.
Hugging Face 학생 앰배서더 프로그램 2022
Hugging Face는 2023년까지 500만 명에게 머신러닝을 가르치는 목표를 달성하기 위해 첫 번째 학생 앰배서더 프로그램을 시작했습니다.
Hugging Face 머신러닝 인사이트 디렉터: SaaS 에디션
Hugging Face는 Salesforce, Amplitude, ZoomInfo, Repustate의 ML 디렉터 네 명을 인터뷰하여 머신러닝을 SaaS 제품에 통합할 때의 실질적인 과제, 일반적인 함정, 그리고 미래 기회에 대해 논의합니다.
Optimum 1.2 추론 릴리스, ONNX Runtime 가속 파이프라인 추가
Hugging Face는 Optimum 1.2를 발표했으며, ONNX Runtime을 통한 추론 지원 및 Transformers 파이프라인 통합을 추가하여 더 빠르고 양자화된 최적화 모델 서비스를 가능하게 합니다.
Hugging Face 시리즈 C 펀딩 발표
Hugging Face는 오픈소스 연구, 제품 및 협업 머신러닝을 통해 AI 민주화를 가속화하기 위해 1억 달러 규모의 시리즈 C 펀딩을 유치했습니다.
fastai와 Hugging Face Hub 통합
Hugging Face는 fastai 라이브러리를 통합하여, 실무자들이 단 한 줄의 Python 코드로 fastai Learner 객체를 Hugging Face Hub에 직접 업로드하고 다운로드할 수 있게 했습니다.
OpenAI 리더십 팀 업데이트
OpenAI는 Greg Brockman, Brad Lightcap, Mira Murati, Chris Clark의 임원 역할 변화를 발표했으며, 이는 리더십을 회사의 성장 및 전략적 이정표에 맞추기 위한 것입니다.
Hugging Face 딥 강화 학습 소개
Hugging Face는 무료 딥 강화 학습 클래스용 입문 튜토리얼을 공개했으며, 핵심 RL 개념, RL 프레임워크, 탐험‑활용 트레이드오프, 정책 기반 vs 가치 기반 방법, 그리고 딥 신경망이 RL에 어떻게 통합되는지를 다룹니다.
PyTorch Fully Sharded Data Parallel을 사용하여 대규모 모델 학습 가속화하기
Hugging Face는 PyTorch Fully Sharded Data Parallel (FSDP)를 Accelerate 라이브러리에 통합하여, 옵티마이저 상태, 그래디언트, 파라미터를 GPU에 샤딩하고 선택적으로 CPU 오프로딩을 사용할 수 있게 함으로써 거대한 모델의 학습을 가능하게 합니다.
Kili와 HuggingFace AutoTrain을 활용한 의견 분류
Hugging Face는 데이터 라벨링에 Kili를, 자동 모델 학습에 AutoTrain을 활용하여 텍스트 분류를 위한 액티브 러닝 파이프라인을 구축하는 방법을 보여줍니다.
Hugging Face 머신러닝 디렉터 인사이트 – 산업 관점
Hugging Face는 여섯 명의 머신러닝 디렉터와의 인터뷰 시리즈를 공개했으며, 이들이 ML이 미디어, 제약, 과학, 물류, 마케팅, 에너지 분야를 어떻게 변화시키고 있는지 공유하고, 공통적인 과제와 미래 기회를 강조합니다.
Habana Gaudi에서 Transformers 시작하기
Hugging Face와 Habana Labs는 Transformer 모델 학습을 가속화하기 위해 파트너십을 맺었으며, GPU 기반 Amazon EC2 인스턴스에 비해 Habana Gaudi 가속기에서 최대 40% 더 나은 가격 대비 성능을 제공합니다.
머신러닝으로 고객 서비스 강화
Hugging Face는 fine-tuned DeBERTa-v3-base 모델과 Transformers 및 Datasets 라이브러리를 사용하여 불만 고객 피드백을 자동으로 필터링하는 방법을 보여줍니다.
Hugging Face 교육 이니셔티브 2022 출시
Hugging Face는 2022년 4월에 다중 트랙 교육 프로그램을 발표했으며, 2023년 말까지 500만 명에게 머신러닝을 가르치는 것을 목표로 학습자, 강사 및 일반 대중을 위한 무료 자원을 제공한다.
Hugging Face Hub 탄소 배출 추적
Hugging Face는 AI의 환경 투명성을 높이기 위해 머신러닝 모델을 CO2 배출량 기준으로 추적, 보고 및 필터링할 수 있는 도구들을 도입했습니다.
AI 정렬에서 구드하트 법칙 측정
OpenAI는 AI 모델에서 프록시 목표를 최적화하면 실제 목표 성능이 감소하는 구드하트 법칙 현상이 발생할 수 있음을 탐구하고, 이를 분석하기 위한 방법으로 best-of-n 샘플링을 제안합니다.
CLIP 잠재 변수를 이용한 계층적 텍스트 조건 이미지 생성
OpenAI는 텍스트에서 CLIP 이미지 임베딩을 생성하는 프라이어와 해당 임베딩으로부터 이미지를 생성하는 디코더를 사용하는 2단계 생성 모델을 소개합니다. 이 모델은 다양성을 향상시키고 제로샷 이미지 조작을 가능하게 합니다.
Lewis Tunstall 인터뷰 – Hugging Face 머신 러닝 전문가
Hugging Face는 머신 러닝 엔지니어 Lewis Tunstall와의 상세 인터뷰를 발표했으며, 그는 Transformers 라이브러리 작업, 새로운 “NLP with Transformers” 책, 그리고 확장 중인 Hugging Face 코스에 대한 내용을 강조합니다.
Habana Labs와 Hugging Face의 트랜스포머 모델 훈련 파트너십
Habana Labs와 Hugging Face는 Habana의 SynapseAI 소프트웨어 스위트를 Hugging Face Optimum 라이브러리와 통합하여 Habana Gaudi 프로세서에서 트랜스포머 모델 훈련을 가속화했습니다.
Hugging Face Transformers 설계 철학
Hugging Face는 Transformers 라이브러리에서 "single model file" 정책을 사용하여, 가독성, 커뮤니티 기여, 그리고 정적 머신러닝 모델의 안정성을 우선시하기 위해 의도적으로 DRY(중복 방지) 원칙을 포기합니다.
Decision Transformer 통합 in Hugging Face Transformers
Hugging Face는 RL을 조건부 시퀀스 모델링 문제로 다루는 오프라인 강화 학습 방법인 Decision Transformer를 transformers 라이브러리와 Hugging Face Hub에 통합했습니다.
머신러닝 전문가: Margaret Mitchell과의 인터뷰
Dr. Margaret Mitchell은 윤리적 AI, 투명성을 위한 Model Cards의 개발, 그리고 머신러닝 개발에서의 다양성과 포용성의 필요성에 대해 논의합니다.
허깅 페이스 AI 연구 레지던시 프로그램 발표
허깅 페이스는 aspiring researchers가 머신러닝 기술을 개발하고 허깅 페이스 사이언스 팀과 함께 오픈소스 작업을 출판할 수 있도록 설계된 9개월 AI 연구 레지던시 프로그램을 출시했습니다.
커스텀 데이터셋을 활용한 시맨틱 세그멘테이션을 위한 SegFormer 파인튜닝
Hugging Face는 자율 주행 인도 탐색과 같은 커스텀 사용 사례를 위해 Transformers 라이브러리를 사용하여 SegFormer 모델을 파인튜닝하여 픽셀 수준의 이미지 분류를 수행하는 기술 가이드를 제공합니다.
Hugging Face 데이터셋을 사용한 이미지 검색
Hugging Face는 datasets 라이브러리, CLIP 임베딩, FAISS를 결합하여 효율적인 유사도 검색을 위한 이미지 검색 애플리케이션을 구축하는 방법을 보여줍니다.
Hugging Face Transformers와 AWS Inferentia를 사용하여 BERT 추론 가속화하기
Hugging Face는 AWS Inferentia와 Neuron SDK를 사용하여 BERT 추론을 가속화하고 Amazon SageMaker에서 5-6ms의 지연 시간을 달성하는 방법에 대한 가이드를 제공합니다.
GPT-3 및 Codex 편집 및 삽입 기능
OpenAI는 단순한 텍스트 완성을 넘어 기존 텍스트를 편집하고 문서 중간에 콘텐츠를 삽입할 수 있는 GPT-3 및 Codex의 새로운 버전을 출시했습니다.
Hugging Face Transformers의 Constrained Beam Search를 이용한 텍스트 생성 가이드
Hugging Face는 언어적 일관성을 유지하면서 생성된 텍스트에 특정 단어나 구절을 강제할 수 있도록 Transformers 라이브러리에 constrained beam search를 도입했습니다.
OpenAI 경제 영향 연구 이니셔티브
OpenAI는 GPT-3, ChatGPT, DALL-E 2와 같은 대형 언어 모델의 경제적 영향을 연구하기 위해 연구자 및 기업으로부터 관심 표현을 요청하는 콜을 발표했습니다.
OpenAI 코드 생성 모델의 경제적 영향에 관한 연구 과제
OpenAI는 Codex와 같은 코드 생성 모델이 생산성, 고용, 경제적 불평등에 미치는 영향을 연구하여 배포, 시스템 설계, 공공 정책에 정보를 제공하기 위한 연구 과제를 제안했습니다.
OpenAI 언어 모델 안전 및 오용에 대한 교훈
OpenAI는 GPT-3와 Codex 배포 경험을 공유하며, 실제 오용이 이론적 위험과 다르게 나타나고 안전 연구가 상업적 유용성을 자주 향상시킨다는 점을 강조합니다.
BERT 101: Understanding the Bidirectional Encoder Representations from Transformers
BERT는 Google AI Language에서 개발된 양방향 트랜스포머 기반 모델로, 대규모 데이터셋에서의 비지도 사전 훈련을 활용하여 11개 이상의 일반적인 NLP 작업에서 최첨단 성능을 달성합니다.
비전 트랜스포머(ViT)를 허깅 페이스 트랜스포머로 이미지 분류에 미세 조정하기
허깅 페이스는 데이터셋과 트랜스포머 라이브러리를 사용하여 비전 트랜스포머(ViT) 모델을 이미지 분류에 미세 조정하는 가이드를 제공하며, beans 데이터셋을 통해 과정을 시연합니다.
OpenAI Formal Math Olympiad Problem Solving
OpenAI는 형식적 증명 보조 도구(formal proof assistants)를를 사용하여 AMC12, AIME, IMO와 같은 경시대회에서 출제된 형식적 수학 올림피아드 문제를 해결하는 모델의 능력을 입증했습니다.
Python을 이용한 감성 분석 시작하기
Hugging Face는 Hugging Face Hub의 사전 학습된 모델, 미세 조정을 위한 Trainer API, 그리고 노코드 도구인 AutoNLP를 활용하여 Python을 이용한 감성 분석 구현에 대한 종합적인 가이드를 제공합니다.
Transformers의 Wav2Vec2를 이용한 대용량 파일용 자동 음성 인식
Hugging Face는 Wav2Vec2의 Connectionist Temporal Classification (CTC) 아키텍처를 활용한 스트라이드(striding) 기술을 통해 임의의 길이의 오디오 파일 및 실시간 추론 시 고품질의 ASR을 가능할 수하게 합니다.
OpenAI InstructGPT: 언어 모델을 지침 준수하도록 정렬하기
OpenAI는 GPT-3와 비교하여 사용자의 의도를 더 잘 따르고, 진실성을 높이며, 유해성을 줄이기 위해 인간 피드백 기반 강화 학습(RLHF)을 사용하여 학습된 모델 시리즈인 InstructGPT를 소개했습니다.
OpenAI 텍스트 및 코드 임베딩 출시
OpenAI는 의미론적 검색, 클러스터링, 코드 검색을 개선하기 위해 텍스트와 코드의 수치적 표현을 제공하는 GPT-3 파생 모델 기반의 새로운 임베딩 모델 세트를 출시했습니다.
Hugging Face Hub Search API 업데이트
Hugging Face는 사용자가 IDE를 벗어나지 않고도 모델과 데이터셋을 쉽게 찾을 수 있도록 ModelSearchArguments 및 ModelFilter를 포함한 새로운 프로그래밍 방식의 검색 기능을 huggingface_hub 라이브러리에 도입했습니다.
OpenAI 대조 학습 사전 훈련을 통한 텍스트 및 코드 임베딩
OpenAI는 대규모 비지도 데이터에 대한 대조 학습 사전 훈련을 사용하여 고품질의 텍스트 및 코드 임베딩을 생성하는 방법을 개발했으며, 선형 프로브 분류 및 시맨틱 검색에서 최첨단 결과를 달성했습니다.
Stable-Baselines3 Hugging Face Hub 통합
Hugging Face는 Stable-Baselines3를 통합하여 사용자가 PyTorch Deep Reinforcement Learning 모델을 Hugging Face Hub에서 직접 호스팅, 공유 및 로드할 수 있도록 했습니다.
허깅 페이스 인피니티 CPU 성능 사례 연구
허깅 페이스 인피니티는 Intel Ice Lake Xeon CPU에서 vanilla Transformers에 비해 최대 800% 더 높은 처리량과 밀리초 수준의 지연 시간을 달성하여 CPU 인프라에서 비용 효율적이고 실시간 Transformer 배포를 가능하게 합니다.
Hugging Face Transformers에서 n-gram을 사용한 Wav2Vec2 성능 향상
Hugging Face는 pyctcdecode 라이브러리를 Transformers 라이브러리에 통합하여, Wav2Vec2 모델이 n-gram 언어 모델을 통해 성능을 향상시키고 철자 오류와 단어 오류율(WER)을 크게 줄일 수 있도록 했습니다.