OpenAI, 인간 피드백을 이용한 책 요약 (2021)
OpenAI는 인간 피드백으로부터의 강화 학습과 재귀적 작업 분해를 결합하여 전체 책의 요약을 생성하는 기술을 도입했으며, 이는 평가하기 어려운 작업에 대한 AI 감독의 정렬 문제를 해결합니다.
Hugging Face Optimum 출시
Hugging Face는 다양한 하드웨어 플랫폼에서 프로덕션 성능을 위해 Transformer 모델을 최적화하도록 설계된 오픈 소스 툴킷인 Optimum을 도입했습니다.
Hugging Face와 Graphcore의 IPU-최적화된 Transformer 파트너십
Hugging Face와 Graphcore는 하드웨어 파트너 프로그램과 Optimum 라이브러리를 통해 Intelligence Processing Units(IPU)를 Hugging Face 생태계에 통합하여 Transformer 모델 배포를 가속화했습니다.
TruthfulQA: 모델이 인간의 거짓 정보를 어떻게 모방하는지 측정하기
OpenAI는 언어 모델이 38개 범주에 걸쳐 일반적인 인간의 오해와 거짓 정보를 모방하는지 측정하기 위해 설계된 벤치마크인 TruthfulQA를 도입합니다.
Helen Toner OpenAI 이사회 멤버로 합류
OpenAI는 안전하고 책임감 있는 AI 배포에 대한 약속을 강화하기 위해 2021년 9월 8일 AI 정책 및 글로벌 전략 전문가인 Helen Toner를 이사회 멤버로 임명했습니다.
OpenAI Codex: 코드 생성을 위한 GPT-3의 후손
OpenAI Codex는 자연어와 공개 소스 코드 수십억 줄을 모두 학습한 GPT-3의 후손으로, 영어 명령으로부터 작동하는 코드 생성을 가능하게 합니다.
OpenAI Triton 1.0 출시
OpenAI는 연구자들이 깊은 CUDA 전문 지식 없이도 매우 효율적인 GPU 커널을 작성할 수 있게 해주는 오픈 소스 Python 스타일 언어이자 컴파일러인 Triton 1.0을 출시했습니다.
Hugging Face DeDLOC: 인터넷을 통한 언어 모델의 협업 학습
Hugging Face는 다양한 네트워크 및 하드웨어 제약 조건에 적응하여 자원봉사자들이 인터넷을 통해 협업하여 대규모 언어 모델을 사전 학습할 수 있게 하는 분산 학습 방법인 DeDLOC를 소개합니다.
spaCy Hugging Face Hub 통합
Hugging Face는 spaCy를 Hugging Face Hub에 통합하여 사용자가 통합 플랫폼을 통해 spaCy 파이프라인을 공유, 발견 및 배포할 수 있도록 했습니다.
Amazon SageMaker로 Hugging Face 모델을 쉽게 배포하기
Hugging Face와 Amazon SageMaker는 새로운 Inference Deep Learning Containers(DLCs)와 Inference Toolkit을 도입하여 Transformer 모델을 프로덕션 수준의 엔드포인트에 배포하는 과정을 간소화했습니다.
코드로 학습된 대규모 언어 모델 평가: OpenAI Codex
OpenAI는 GitHub 코드로 미세 조정된 GPT 모델인 Codex를 소개합니다. Codex는 단일 시도에서 HumanEval 문제의 28.8%를 해결하며, 반복 샘플링을 사용하면 최대 70.2%까지 해결할 수 있습니다.
Hugging Face Hub에서의 Sentence Transformers 통합
Hugging Face는 Sentence Transformers를 Hub에 통합하여 100개 이상의 언어에 대해 90개 이상의 사전 학습된 모델과 특징 추출 및 문장 유사도를 위한 새로운 대화형 위젯을 제공합니다.
OpenAI 연구: 선별된 데이터셋 미세 조정을 통한 언어 모델 행동 개선
OpenAI 연구원들은 100개 미만의 소규모 선별 데이터셋으로 GPT-3를 미세 조정하는 것이 다운스트림 성능을 저해하지 않으면서 특정 행동 가치에 대한 모델의 준수성을 크게 향상시킬 수 있음을 발견했습니다.
Few-Shot Learning with GPT-Neo and Hugging Face Accelerated Inference API
Hugging Face는 오픈소스 GPT‑Neo 모델과 Accelerated Inference API를 활용한 few‑shot learning 적용 사례를 탐구하여, 방대한 라벨링 데이터 없이도 작업 일반화를 가능하게 합니다.
Gradio 2.0를 사용한 Hugging Face 모델 활용 및 혼합
Gradio 2.0을 사용하면 머신러닝 개발자가 단 한 줄의 코드로 Hugging Face 모델을 GUI로 로드하고 배포할 수 있으며, 병렬 및 직렬 모델 구성을 모두 지원합니다.
OpenAI Scholars 2021: 최종 프로젝트
OpenAI는 2021 Scholars 프로그램의 최종 프로젝트를 발표했으며, 다양한 연구자 그룹으로부터 스케일링 법칙, 보상 모델링, 강화 학습에 대한 연구를 특징으로 합니다.
Will Hurd OpenAI 이사회 합류
OpenAI는 공공 정책 전문성을 기술적 AI 개발과 통합하기 위해 전 미국 하원의원 Will Hurd를 이사회 멤버로 임명했습니다.
CPU에서 BERT 추론 확장하기 (Part 1)
Hugging Face는 현대적인 CPU에서 BERT 추론을 위한 하드웨어 수준의 최적화를 탐구하며, NUMA 인지 친화성을 통해 특정 물리적 코어에 바인딩된 여러 독립적인 모델 인스턴스를 사용함으로써 처리량을 선형적으로 확장할 수 있음을 보여줍니다.
Hugging Face Accelerate 라이브러리 출시
Hugging Face는 사용자가 보일러플레이트 코드를 다시 작성하지 않고도 멀티 GPU 및 TPU를 포함한 모든 디바이스 구성에서 원본 학습 스크립트를 실행할 수 있게 해주는 PyTorch 라이브러리인 Accelerate를 출시했습니다.
Hugging Face와 Amazon SageMaker를 통한 요약용 BART 및 T5의 분산 학습
Hugging Face와 Amazon SageMaker는 BART와 T5와 같은 Transformers 모델의 분산 학습을 단순화하기 위해 최적화된 Deep Learning Containers 및 전용 HuggingFace estimator를 제공하기 위해 통합되었습니다.
Understanding BigBird's Block Sparse Attention
BigBird는 블록 희소 어텐션을 도입해 Transformer의 계산 복잡도를 2차에서 선형으로 낮추어 최대 4096 토큰까지 시퀀스를 처리할 수 있게 합니다.
GPT-3 API 생태계 및 애플리케이션 성장
OpenAI는 300개 이상의 애플리케이션과 수만 명의 개발자가 다양한 산업 분야에서 GPT-3를 사용하여 하루 평균 45억 개의 단어를 생성하고 있다고 보고합니다.
Amazon SageMaker와 Hugging Face 파트너십
Hugging Face와 Amazon은 전용 Deep Learning Containers (DLCs) 및 Python SDK 확장을 통해 Hugging Face Transformers를 Amazon SageMaker에 통합함으로써 NLP 모델 학습 및 배포를 가속화하기 위해 파트너십을 맺었습니다.
Google Cloud Run에 Hugging Face Transformers 감성 분석 파이프라인 배포하기
커뮤니티 멤버가 DistilBERT 모델을 사용하여 Google Cloud Run에서 Hugging Face 감성 분석 파이프라인을 서비스하는 방법을 시연했으며, 최소한의 월 비용으로 5초 미만의 지연 시간을 달성했습니다.
Hugging Face Transformers를 사용하여 영어 ASR을 위한 Wav2Vec2 미세 조정하기
Hugging Face는 Connectionist Temporal Classification (CTC) 손실을 사용하여 영어 자동 음성 인식(ASR)을 위한 Wav2Vec2 사전 학습 음성 모델을 미세 조정하는 방법에 대한 상세한 가이드를 제공합니다.
Hugging Face Reads: Long-range Transformers
Hugging Face는 표준 Transformer self-attention의 이차적 메모리 및 시간 복잡도를 선형 복잡도로 줄이기 위해 설계된 네 가지 핵심 아키텍처—Longformer, Compressive Transformer, Linformer, Performer—를 분석합니다.
CLIP의 멀티모달 뉴런
OpenAI는 CLIP에서 literal, 상징적, 개념적으로 제시되든 동일한 개념에 반응하는 뉴런을 발견했으며, 이는 인간 뇌에서 발견되는 멀티모달 뉴런을 반영합니다.
Hugging Face: 신경망 구축을 위한 간단한 고려 사항
Hugging Face는 맹목적인 하이퍼파라미터 튜닝 대신 데이터 분석, 간단한 베이스라인, 그리고 엄격한 구현 검증을 우선시함으로써 신경망을 구축하고 디버깅하는 프레임워크를 제공합니다.
Hugging Face Transformers와 Ray를 활용한 Retrieval Augmented Generation
Hugging Face는 검색 호출 속도를 2배 향상시키고 분산 미세 조정의 확장성을 개선하기 위해 Retrieval Augmented Generation (RAG) 모델의 문서 검색 메커니즘에 Ray를 통합했습니다.
Hugging Face PyTorch / XLA TPU Integration
Hugging Face는 PyTorch 사용자가 기존의 Hugging Face Trainer 인터페이스를 사용하여 Cloud TPU에서 트랜스포머 모델을 학습시키고 확장할 수 있도록 PyTorch / XLA를 통합했습니다.
대규모 언어 모델의 능력, 한계 및 사회적 영향 이해하기
OpenAI는 GPT-3 및 기타 대규모 언어 모델과 관련된 기술적 경계와 사회적 위험을 탐구하는 다학제적 워크숍을 요약합니다.
Hugging Face Transformers v4.2.0 TensorFlow 성능 및 서빙 업데이트
Hugging Face Transformers v4.2.0은 TensorFlow 모델에 대한 상당한 연산 성능 향상을 도입하고, SavedModel 형식을 사용하여 TensorFlow Serving을 통한 간소화된 배포를 지원합니다.
OpenAI가 7,500노드로 Kubernetes를 확장
OpenAI는 머신러닝 연구를 위한 간단하고 확장 가능한 인프라를 제공하기 위해 단일 Kubernetes 클러스터를 7,500노드로 확장했으며, 네트워킹, API 서버 부하, 모니터링의 과제를 극복했습니다.
DeepSpeed 및 FairScale를 통한 Hugging Face Transformers ZeRO 통합
Hugging Face Transformers v4.2.0은 DeepSpeed 및 FairScale의 ZeRO 최적화를 실험적으로 지원하여, 더 높은 배치 크기와 감소된 GPU 메모리 요구 사항으로 더 큰 모델을 학습할 수 있게 합니다.
Hugging Face 가속 추론 API 최적화
Hugging Face는 고수준 라이브러리 최적화, Rust 기반 토큰화, 하드웨어별 컴파일을 결합하여 Accelerated Inference API의 transformer 추론 속도를 100배 향상시켰습니다.
CLIP: 텍스트와 이미지 연결하기
OpenAI는 다양한 데이터셋에 걸쳐 zero-shot 이미지 분류를 가능합니다하게 하기 위해 자연어 감독을 통해 시각적 개념을 적습학습하는 신경망인 CLIP을 도입했습니다.
DALL·E: 텍스트로 이미지 생성하기
OpenAI는 이미지와 텍스트를 단일 토큰 스트림으로 취급하여 텍스트 설명으로부터 다양한 이미지를 생성할 수 있는 120억 개의 파라미터를 가진 transformer 모델인 DALL·E를 소개했습니다.
OpenAI 조직 업데이트 2020년 12월
OpenAI는 안전과 제품 개발을 더 잘 통합하기 위해 연구 부사장 Dario Amodei의 퇴사 및 Mira Murati를 연구, 제품 및 파트너십 부문 수석 부사장으로 임명했음을 발표했습니다.
인코더-디코더 모델을 위한 사전 학습된 언어 모델 체크포인트 활용하기 – Hugging Face 블로그 요약
Hugging Face의 블로그 게시물은 사전 학습된 BERT, RoBERTa 또는 GPT2 체크포인트를 사용하여 인코더-디코더 모델을 warm-start하는 방법을 설명하며, 이 접근 방식이 훈련 비용을 절감하면서도 대규모 사전 학습된 seq2seq 모델의 성능과 일치함을 보여줍니다.
Porting fairseq WMT19 translation system to 🤗 Transformers
Hugging Face ported the fairseq WMT19 translation models (en‑ru, ru‑en, de‑en, en‑de) to the 🤗 Transformers library, allowing users to load and run these high‑quality translators with the standard Transformers API.
Hugging Face Transformers와 Ray Tune 통합
Hugging Face Transformers 3.1은 Ray Tune과의 통합을 도입하여 사용자가 Population-Based Training 및 Bayesian Optimization과 같은 고급 하이퍼파라미터 튜닝 알고리즘을 손쉽게 구현할 수 있게 합니다.
Transformer 기반 인코더-디코더 모델 Hugging Face 블로그 포스트 2020
허깅페이스의 2020년 블로그 포스트는 트랜스포머 기반 인코더-디코더 아키텍처를 설명하며, 인코더와 디코더 스택, 셀프 어텐션, 크로스 어텐션, 자기회귀 생성을 통해 입력 시퀀스를 가변 길이 출력으로 매핑하는 방법을 상세히 다루고, 🤗Transformers 라이브러리로 사용하는 방법을 보여줍니다.
OpenAI가 Microsoft에 GPT-3 기술 라이선스를 제공합니다
OpenAI는 제3자 개발자를 위한 독립적인 API 액세스를 유지하면서, Microsoft 제품 및 서비스에 통합하기 위해 GPT-3 언어 모델 기술을 Microsoft에 라이선스했습니다.
Hugging Face pytorch_block_sparse 릴리스
Hugging Face는 pytorch_block_sparse를 출시했습니다. 이 라이브러리는 BlockSparseLinear 모듈을 제공하여 메모리 사용량을 줄이고 표준 PyTorch 희소 행렬에 비해 계산 효율성을 높여 더 작고 빠른 언어 모델을 만들 수 있게 합니다.
자동 정리 증명을 위한 생성형 언어 모델링
OpenAI는 Metamath 형식화 언어를 위해 설계된 트랜스포머 기반 언어 모델인 GPT-f를 소개하며, 이는 메인 Metamath 라이브러리에 새로운 증명을 성공적으로 기여했습니다.
Human 피드백을 이용한 요약 학습
OpenAI는 인간 피드백 기반 강화 학습(RLHF)이 지도 학습만으로 훈련된 훨씬 더 큰 모델보다 작은 언어 모델이 텍스트 요약에서 더 나은 성능을 낼 수 있음을 보여줍니다.
OpenAI Scholars 2020 최종 프로젝트
OpenAI는 2020 Scholars 프로그램의 최종 프로젝트를 발표했으며, 신경망 해석 가능성, 강화 학습, 의미 분석, 의료 AI 분야의 연구를 선보였습니다.
Reformer: 메모리 효율적인 트랜스포머로 언어 모델링의 한계를 넘어서
Hugging Face에서 2020년 7월에 도입된 Reformer 모델은 LSH 셀프 어텐션, 로컬 셀프 어텐션, 청크된 피드 포워드 레이어, 가역적 잔차 레이어, 축 위치 인코딩을 결합하여 8 GB 미만의 RAM으로 최대 50만 토큰 길이의 시퀀스에 대한 훈련을 가능하게 합니다.
OpenAI Procgen 및 MineRL 경연 대회
OpenAI는 강화 학습의 샘플 효율성 및 일반화 능력을 향상시키기 위해 Procgen Benchmark와 MineRL을 사용하는 두 개의 NeurIPS 2020 경연 대회를 공동 주최합니다.
Image GPT
OpenAI의 Image GPT (iGPT)는 픽셀 시퀀스에 대해 학습된 transformer 모델이 도메인 특화된 architectural priors 없이도 일관성 있는 이미지를 생성하고 경쟁력 있는 비지도 학습 시각적 특징을 학습할 수 있음을 보여줍니다.