✷ 아카이브 · 연구소 11곳 · 디스패치 3,061건
연구소
매일 아침 십여 개의 공식 블로그를 돌아볼 필요가 없습니다. OpenAI, Anthropic, DeepMind 등의 일차 발표를 핵심만 뽑아서.
Hugging Face Hub 향상된 Jupyter Notebook 지원
Hugging Face는 Hub에 호스팅된 Jupyter Notebook에 대한 인간이 읽을 수 있는 렌더링을 도입하여 머신러닝 실무자들의 재현성 및 접근성을 향상시켰습니다.
GPT는 GPT다: 대형 언어 모델의 노동 시장 영향
OpenAI 연구에 따르면, 미국 노동력의 약 80%가 대형 언어 모델에 의해 작업의 최소 10%가 영향을 받을 수 있으며, 이는 이 모델들을 범용 기술로 자리매김하게 합니다.
Anthropic, 트랜스포머 잔차 스트림에서의 특권적 기저를 밝혀내다
Anthropic은 트랜스포머 잔차 스트림의 차원이 임의적인 것이 아니라 Adam의 차원별 정규화 인자로 인해 특권적 기저와 정렬된다는 것을 발견했으며, 이는 기존의 이론적 가정을 정면으로 반박합니다.
OpenAI GPT-4 발표 및 기능 개요
OpenAI는 GPT‑4를 발표했으며, 이는 많은 전문 벤치마크에서 인간 수준의 성능을 달성하는 대규모 멀티모달 모델로, 현재 ChatGPT, API 대기자 명단, 오픈소스 평가 도구를 통해 이용할 수 있습니다.
OpenAI, Be My Eyes를 위한 GPT‑4 기반 가상 자원봉사자 발표
OpenAI는 GPT‑4의 시각 입력 기능을 Be My Eyes 앱에 통합하여 이미지를 설명하고 분석하며 대화할 수 있는 가상 자원봉사자를 만들었으며, 이를 통해 시각 장애인 및 저시력 사용자의 시각 접근성을 크게 확대했습니다.
Stripe GPT-4 통합 사례 연구
Stripe는 플랫폼 전반에 GPT-4를 통합하여 비즈니스 요약을 자동화하고, 문서 분석을 통한 개발자 지원을 강화하며, 커뮤니티 포럼에서의 사기 탐지를 개선했습니다.
Duolingo, 고급 언어 학습을 위해 GPT-4를 통합
Duolingo는 GPT‑4 기반 Role Play와 Explain my Answer 기능을 제공하는 새로운 구독 등급인 Duolingo Max를 출시했습니다. 이를 통해 몰입형 대화 연습과 상황에 맞는 문법 피드백을 제공합니다.
Khan Academy가 GPT-4를 통합해 Khanmigo AI 어시스턴트를 구동
Khan Academy는 GPT-4 기반 AI 튜터 및 교사 보조인 Khanmigo를 파일럿 프로그램으로 진행하여 개별 학습과 교육 지원을 제공하고 있습니다.
OpenAI와 아이슬란드 정부의 아이슬란드어 보존 파트너십
OpenAI는 아이슬란드 정부 및 민간 기업과 협력하여 GPT-4와 인간 피드백 강화 학습(RLHF)을 활용해 디지털 시대에 아이슬란드어를 보존하고 있습니다.
Claude 소개
Anthropic은 유익하고, 정직하며, 해롭지 않은 AI 어시스턴트인 차세대 AI 어시스턴트 Claude를 출시했으며, 고성능 버전과 빠르고 가벼운 버전으로 제공됩니다.
OpenAI GPT-4 출시
OpenAI는 GPT-3.5에 비해 고급 추론, 더 높은 문제 해결 정확도, 그리고 향상된 안전성 및 사실적 신뢰성을 보여주는 대규모 언어 모델인 GPT-4를 출시했습니다.
Informer를 활용한 다변량 확률적 시계열 예측
Hugging Face는 계산 및 메모리 복잡성을 줄여 효율적인 다변량 확률적 시계열 예측을 가능하게 하기 위해 Informer 모델을 Transformers 라이브러리에 통합했습니다.
24GB 소비자 GPU에서 RLHF를 이용한 20B LLM 파인튜닝
Hugging Face는 TRL과 PEFT의 통합을 발표했으며, 이를 통해 8비트 양자화와 저랭크 어댑터를 사용해 24 GB GPU 하나에서 200억 파라미터 언어 모델의 강화 학습 파인튜닝이 가능해졌습니다.
Anthropic의 AI 안전성에 대한 핵심 관점
Anthropic는 전환적 AI 시스템의 급속한 확장과 관련된 치명적 위험을 완화하기 위해 경험 기반의 포트폴리오 기반 접근법을 제시합니다.
Kakao Brain ViT 및 ALIGN 모델, COYO 700M 데이터셋과 함께 공개
Kakao Brain과 Hugging Face가 새로운 700 M 이미지‑텍스트 COYO 데이터셋으로 학습된 오픈소스 ViT와 ALIGN 시각‑언어 모델을 공개했습니다. 이는 최초의 공개 ALIGN 모델이자 재현 가능한 학습 데이터를 갖춘 ViT 모델을 제공한다는 의미입니다.
Diffusers의 ControlNet
Hugging Face는 Diffusers 라이브러리에 ControlNet을 통합하여 Canny 엣지, 깊이 맵, 인간 포즈와 같은 조건을 사용해 Stable Diffusion 이미지 생성에 정밀한 공간 제어를 가능하게 했습니다.
재난 대응을 위한 머신러닝 활용: afetharita 프로젝트
Hugging Face는 자원봉사자들이 Hugging Face 생태계를 활용해 2023년 2월 터키 지진 피해자들을 돕기 위해 OCR, NER 및 원격 감지를 위한 머신러닝 모델을 신속히 배포한 과정을 설명합니다.
Hugging Face Diffusers 윤리 가이드라인
Hugging Face는 Diffusers 라이브러리를 위한 윤리 프레임워크를 도입하여 기술적 결정과 커뮤니티 기여를 안내하고, 확산 모델의 잠재적인 사회적 위험을 완화합니다.
Hugging Face 전문가 가속 프로그램: Witty Works 사례 연구
Witty Works는 Hugging Face 전문가 가속 프로그램과 SetFit을 활용하여 최소한의 라벨링 데이터로 높은 정확도의 문맥 의존 포괄적 언어 분류기를 구축했습니다.
AGI와 그 너머를 위한 OpenAI 계획
OpenAI는 사회가 적응할 수 있도록 AI 시스템의 점진적 배포 전략을 제시하며, 정렬 연구 확대, 글로벌 거버넌스, 그리고 존재적 위험에 대한 신중한 접근의 필요성을 강조합니다.
Swift Diffusers for Mac 1.1 릴리스
Hugging Face는 Diffusers for Mac 버전 1.1을 출시했습니다. 이 네이티브 오픈소스 앱은 Core ML을 활용해 Apple Silicon에서 Stable Diffusion을 가속화하며, 특정 하드웨어 구성에서 최대 2배 빠른 생성 속도를 제공합니다.
대형 언어 모델 레드팀
Hugging Face는 유해한 출력을 방지하기 위해 LLM 취약점을 식별하는 데 있어 레드팀의 중요한 역할을 강조하며, 협업적이고 적응적인 평가 방법의 필요성을 강조합니다.
Fetch AI 인프라 마이그레이션: Hugging Face와 AWS를 활용한 도구 통합
Fetch는 서드파티 AI '블랙 박스'에서 Hugging Face와 AWS 기반의 자체 ML 파이프라인으로 전환함으로써 개발 시간을 30% 단축하고 처리 지연 시간을 50% 감소시켰습니다.
Hugging Face와 AWS의 AI 접근성을 위한 전략적 파트너십
Hugging Face와 AWS는 Hugging Face 모델을 AWS 인프라와 특수 설계된 ML 가속기에 통합하여 생성 AI를 민주화하기 위해 전략적 파트너십을 확대했습니다.
OpenAI AI 시스템 행동 및 거버넌스 프레임워크
OpenAI는 ChatGPT의 행동을 형성하기 위한 두 단계 훈련 과정과 기본값 개선, 사용자 맞춤화, 공공 의견 통합을 통한 AI 거버넌스를 위한 세 가지 전략을 제시합니다.
Hugging Face Inference Endpoints 사례 연구
Hugging Face는 운영 복잡성을 줄이고 지연 시간을 개선하기 위해 CPU 기반 ML 모델을 AWS ECS/Fargate에서 Hugging Face Inference Endpoints로 이전하고 있습니다.
BLIP-2: 제로샷 이미지-텍스트 생성
BLIP-2는 Salesforce Research에서 개발한 비주얼-언어 모델로, Querying Transformer(Q-Former)를 사용해 고정된 이미지 인코더와 고정된 대형 언어 모델을 연결함으로써 효율적인 제로샷 이미지-텍스트 생성을 가능하게 합니다.
Anthropic 연구: LLM의 도덕적 자기 교정 능력
Anthropic 연구는 RLHF로 학습된 대규모 언어 모델(LLM)이 지침을 받았을 때 유해한 출력을 피하기 위해 도덕적으로 자기 교정을 할 수 있음을 보여주며, 이는 22B 파라미터에서 나타나는 능력입니다.
🤗 PEFT 라이브러리 출시, 억대 규모 모델의 파라미터 효율적 파인튜닝 가능
Hugging Face는 🤗 PEFT 라이브러리를 발표했으며, 사용자가 파라미터의 아주 작은 부분만 학습함으로써 저자원 하드웨어에서도 억대 파라미터 모델을 파인튜닝할 수 있게 합니다.
SpeechT5: 통합 모달 인코더-디코더를 이용한 음성 처리
Hugging Face는 통합된 Transformer 기반 모델인 SpeechT5를 통합했으며, 이는 공유 인코더-디코더 백본을 통해 텍스트-음성, 음성-음성, 그리고 음성-텍스트 작업을 수행할 수 있습니다.
Hugging Face AI vs. AI: 다중 에이전트 강화 학습 대회 시스템
Hugging Face는 ELO 평점 시스템을 활용한 지속적인 다중 에이전트 경쟁을 통해 딥 강화 학습 모델을 순위 매기는 오픈소스 시스템인 AI vs. AI를 소개했습니다.
Hugging Face AI를 활용한 게임 개발: 스토리 생성
Hugging Face는 ChatGPT와 같은 대형 언어 모델(LLM)을 사용해 게임 스토리와 콘텐츠를 생성하는 워크플로우를 제시하면서, 독창성, 법적 위험, 장기적인 일관성에 관한 중요한 제한 사항을 강조합니다.
Intel Sapphire Rapids로 PyTorch Transformer 가속하기
Hugging Face는 Intel Sapphire Rapids CPU와 Optimum Intel 라이브러리를 결합하면 이전 Xeon 세대에 비해 PyTorch Transformer 추론을 최대 3배 가속할 수 있음을 보여줍니다.
비전‑언어 모델 탐구
Hugging Face는 비전‑언어 모델에 대한 기술 개요를 제공하며, 다섯 가지 주요 사전 학습 전략과 이를 VQA 및 이미지 분할과 같은 작업을 위해 Transformers 라이브러리에 통합하는 방법을 상세히 설명합니다.
Anthropic, AI 인프라를 위해 Google Cloud와 파트너십 체결
Anthropic은 Claude 어시스턴트를 포함한 자사의 AI 시스템을 훈련, 확장 및 배포하기 위해 GPU 및 TPU 클러스터를 활용할 수 있는 클라우드 제공업체로 Google Cloud를 선정했습니다.
ChatGPT Plus 출시
OpenAI는 피크 타임에도 접근을 보장하고, 더 빠른 응답 및 기능 우선 롤아웃을 제공하는 월 $20 구독 서비스인 ChatGPT Plus를 발표했으며, 전 세계적으로 이용 가능 범위를 확대했습니다.
OpenAI AI 텍스트 분류기 출시 (2023년 1월)
OpenAI는 2023년 1월에 공개 AI 텍스트 분류기를 출시했으며, AI가 생성한 것으로 추정되는 영어 텍스트를 표시하지만 신뢰성이 낮아 AI 텍스트의 26%만 식별하고 인간 텍스트의 9%를 오분류합니다.
Hugging Face의 컴퓨터 비전 현황
Hugging Face는 8개의 핵심 컴퓨터 비전 작업, 3,000개 이상의 모델, 그리고 100개 이상의 데이터셋을 지원하도록 생태계를 확장했으며, Transformer와 컨볼루션 아키텍처를 모두 통합했습니다.
Hugging Face 2D 자산 생성 - 게임 개발
Hugging Face는 Stable Diffusion의 Image2Image 기능을 협업 2D 게임 자산 워크플로에 통합하여 생산 준비가 된 아이콘을 효율적으로 만드는 방법을 보여줍니다.
효율적인 Stable Diffusion 파인튜닝을 위한 LoRA 활용
Hugging Face는 Low-Rank Adaptation(LoRA)을 diffusers 라이브러리에 통합하여, 훨씬 낮은 VRAM 요구량과 3 MB 정도의 작은 모델 가중치로 Stable Diffusion 파인튜닝을 더 빠르게 수행할 수 있게 했습니다.
Hugging Face Optimum 및 ONNX Runtime 훈련 통합
Hugging Face와 Microsoft는 ONNX Runtime을 Optimum 라이브러리에 통합하여 트랜스포머 기반 모델의 훈련 시간을 35% 이상 단축했습니다.
대화형 에이전트를 유용하게 만드는 요소는? 기술 분석
Hugging Face는 기본 언어 모델을 유용한 대화형 에이전트로 전환하는 핵심 기술인 Instruction Fine‑Tuning(IFT), Supervised Fine‑Tuning(SFT), Reinforcement Learning from Human Feedback(RLHF), 그리고 Chain‑of‑Thought(CoT)를 분석합니다.
OpenAI와 Microsoft, 전략적 파트너십 확대
OpenAI와 Microsoft는 수년간 수십억 달러 규모의 파트너십을 연장하여 독립적인 AI 연구를 가속화하고 Azure를 통한 AI 모델 배포를 확대했습니다.
Hugging Face 게임 개발을 위한 AI: 3D 자산 생성
Hugging Face는 텍스트‑투‑3D AI의 현재 상태를 탐구하며, DreamFusion 및 Point‑E와 같은 도구가 존재하지만 아직 빠른 게임 개발 워크플로에 실용적으로 적용될 수 없다고 결론짓습니다.
Mask2Former와 OneFormer: 🤗 Transformers의 범용 이미지 분할 모델
Hugging Face는 Transformers 라이브러리에 Mask2Former와 OneFormer를 출시하여, 단일 모델로 인스턴스, 의미, 파노프틱 분할을 처리할 수 있는 범용 아키텍처를 제공합니다.
Hugging Face Hub와 PaddlePaddle 통합
Hugging Face는 PaddlePaddle과 협력하여 PaddleNLP를 시작으로 그들의 딥러닝 플랫폼 및 라이브러리를 Hugging Face Hub에 통합함으로써 접근성과 공유를 향상시켰습니다.
Hugging Face Datasets와 Transformers를 이용한 이미지 유사도
Hugging Face는 Transformers와 Datasets 라이브러리를 사용해 밀집 벡터 임베딩을 계산하고 코사인 유사도를 측정함으로써 이미지 유사도 시스템을 구축하는 방법을 보여줍니다.
디스인포메이션 캠페인을 위한 언어 모델 남용 예측
OpenAI, Georgetown University, 그리고 Stanford Internet Observatory는 대형 언어 모델이 디스인포메이션 캠페인의 비용을 낮추고 규모를 확대할 수 있는 방식을 분석하고, 완화를 위한 4단계 프레임워크를 제안하는 보고서를 발표했습니다.
게임 개발을 위한 AI: LLM을 활용한 게임 디자인
Hugging Face는 ChatGPT와 같은 대형 언어 모델을 게임 디자인의 브레인스토밍 및 가속화 도구로 활용하는 방법을 보여주며, 특히 농업 게임의 핵심 기능 정의에 적용됩니다.
Anthropic 연구: 중첩(Superposition), 암기(Memorization), 그리고 이중 하강(Double Descent)
Anthropic 연구원들은 단순한 신경망에서 중첩, 암기, 그리고 과적합 사이의 관계를 조사하며, 중첩이 모델이 암기하는 동안 뉴런 수보다 더 많은 특징을 저장할 수 있게 해준다는 점을 시사합니다.