OpenAI Stargate 인프라스트럭처 이니셔티브
OpenAI는 다음 세대 AI 시스템에 필요한 물리적 용량을 개발하기 위해 미국 기반 데이터 센터 인프라 기업과의 파트너십을 찾고 있습니다.
OpenAI가 The Stargate Project를 발표한다
OpenAI와 그 파트너들은 The Stargate Project를 출시했습니다. 이는 미국에서 대규모 AI 인프라를 구축하여 AGI 개발을 지원하기 위한 $500 billion 규모의 이니셔티브입니다.
Hugging Face Organization Blog Articles Feature
Hugging Face는 이제 Enterprise Hub를 구독하는 조직이 자신의 조직 프로필에 블로그 기사를 직접 게시할 수 있도록 지원합니다.
Qwen 글로벌-배치 로드 밸런스 MoE LLM 훈련
Qwen은 전체 글로벌 배치를 기준으로 균형을 계산함으로써 개별 마이크로 배치 대신 MoE 모델 성능을 향상시키고 전문가 특화를 가능하게 하는 글로벌-배치 로드 밸런스 손실을 도입합니다.
Hugging Face Text Generation Inference (TGI) 멀티 백엔드 지원
Hugging Face는 Text Generation Inference (TGI)에 멀티 백엔드 아키텍처를 도입하여, 사용자가 통합된 프론트엔드를 통해 다양한 실행 엔진(예: TensorRT-LLM 및 vLLM)을 이용해 LLM을 배포할 수 있도록 했습니다.
Hugging Face Transformers timm 통합
Hugging Face가 TimmWrapper를 도입하여 PyTorch Image Models (timm) 라이브러리의 모든 모델을 추론, 양자화 및 미세 조정을 위해 transformers 생태계 내에서 원활하게 사용할 수 있도록 했습니다.
OpenAI 뉴스 산업 파트너십 및 Axios 확장
OpenAI는 Axios와의 새로운 콘텐츠 파트너십을 발표하고 지역 뉴스에 대한 자금을 확대했으며, 거의 20개의 미디어 조직이 AI를 통합하여 생산을 간소화하고 사용자 참여를 강화하며 비즈니스 운영을 최적화하는 방법을 상세히 설명했습니다.
Sentence Transformers를 사용하여 400배 더 빠른 정적 임베딩 모델 학습하기
Hugging Face는 all-mpnet-base-v2와 같은 모델 품질의 최소 85%를 유지하면서 CPU에서 100배~400배 더 빠르게 실행되는 정적 임베딩 모델 학습 방법을 소개하며, 학습 스크립트 및 평가 결과와 함께 두 가지 모델(static-retrieval-mrl-en-v1 및 static-similarity-mrl-multilingual-v1)을 공개했습니다.
아데바요 오군레시가 OpenAI 이사회에 합류했습니다
아데바요 오군레시, 글로벌 인프라 파트너스(GIP) CEO이자 블랙록의 수석 전무이사가 OpenAI 스쿨에서 경영학 석사(M.B.A.)를 취득했습니다. - **기타 이사회 직책:** 블랙록, 탑골프 캘러웨이 브랜드, 코스모스 에너지 홀딩스, 터미널 인베스트먼트 리미티드의 이사회 멤버이며, 이전에 골드만 삭스 그룹의 리드 디렉터를 역임했습니다.
Qwen2.5-Math-PRM 및 ProcessBench 출시
Qwen은 수학 문제 해결에서 중간 추론 오류를 식별하도록 설계된 최첨단 프로세스 보상 모델인 Qwen2.5-Math-PRM-7B와 72B를 출시했으며, 새로운 단계 수준 평가 벤치마크인 ProcessBench도 함께 공개했습니다.
허깅 페이스 AI 에이전트 윤리 및 프레임워크 분석
허깅 페이스는 AI 에이전트를 이해하기 위한 포괄적인 프레임워크를 제공하며, 자율성이 높아질수록 위험이 증가한다고 주장하고 완전 자율 에이전트 개발에 반대한다.
Hugging Face가 vdr-2b-multi-v1 다국어 시각적 문서 검색 모델을 출시했습니다
Hugging Face는 OCR 없이 페이지 스크린샷을 밀집 벡터로 인코딩하여 복잡한 문서를 검색할 수 있게 하는 다국어 임베딩 모델인 vdr-2b-multi-v1을 도입했습니다.
Hugging Face Open LLM Leaderboard: CO₂ 배출량 및 모델 성능 분석
Hugging Face는 커뮤니티 파인튜닝 모델이 공식 출시물보다 탄소 효율성이 더 높다고 밝혔으며, 이는 간결성 증가와 지시 사항 준수 개선 때문이라고 설명했습니다.
Hugging Face smolagents 출시
Hugging Face는 smolagents를 출시했는데, 이는 JSON 대신 실행 가능한 코드로 행동을 작성함으로써 LLM이 복잡한 작업을 수행할 수 있게 하는 경량 라이브러리로, 구성성과 범용성을 향상시킵니다.
OpenAI 기업 구조 진화
OpenAI는 자본을 더 잘 유치하고 AGI가 인류에 이익이 되도록 하는 비영리 사명을 유지하기 위해 영리 부문을 델라웨어 공익 기업(Public Benefit Corporation)으로 전환할 계획을 세우고 있습니다.
QVQ-72B-Preview 출시
Qwen은 Qwen2-VL-72B를 기반으로 한 오픈 웨이트 멀티모달 추론 모델인 QVQ-72B-Preview를 출시했으며, MMMU 벤치마크에서 70.3점을 달성했습니다.
PyTorch에서 GPU 메모리 시각화 및 이해하기 – Hugging Face 블로그 요약
Hugging Face의 블로그 포스트는 torch.cuda.memory 도구를 사용하여 PyTorch에서 GPU 메모리 사용량을 시각화하는 방법을 설명하고, 모델 훈련 중 메모리 구성 요소를 분석하며, 총 메모리 요구사항을 추정하기 위한 공식을 제공합니다.
NVIDIA LogitsProcessorZoo: 모듈러 로짓 프로세서를 사용한 언어 모델 생성 제어
NVIDIA's LogitsProcessorZoo는 Hugging Face Transformers용 모듈러 로짓 프로세서를 제공하여 개발자가 생성 길이를 제어하고, 문구 포함을 강제하며, 프롬프트 콘텐츠를 인용하고, 출력을 다중 선택 옵션으로 제한할 수 있게 합니다.
의사결정 정렬: 추론이 더 안전한 언어 모델을 가능하게 함
OpenAI는 명시적 안전 사양에 대해 추론하도록 o-시리즈 모델을 가르치는 훈련 패러다임인 의의적 정렬을 도입하여 안전성을 개선하고 이전 모델에 비해 과소 및 과다 거부를 모두 줄입니다.
Big Bench Audio 출시
Artificial Analysis는 음성 언어 모델의 추론 능력을 평가하기 위해 설계된 1,000개의 음성 질문으로 구성된 데이터셋인 Big Bench Audio를 공개했으며, 텍스트와 음성 추론 사이의 상당한 성능 격차를 드러냈습니다.
ModernBERT 릴리스 노트
Hugging Face, Answer.AI, LightOn은 BERT의 속도, 정확도 및 문맥 길이를 8,192 토큰까지 개선한 최첨단 인코더 전용 모델 제품군인 ModernBERT를 출시했습니다.
Bamba-9B: 추론 효율적인 하이브리드 Mamba2 모델
Bamba-9B는 IBM, Princeton, CMU, UIUC가 2.2조 개의 공개 토큰으로 학습한 하이브리드 Mamba2 모델로, vLLM에서 Llama 3.1 8B 대비 2.5배 높은 처리량과 2배 낮은 지연 시간을 달성하고, transformers, vLLM, TRL, llama.cpp에서 즉시 사용할 수 있습니다.
GCP에서 5세대 Xeon에서의 언어 모델 성능 벤치마크
Hugging Face는 Google Cloud의 C4(5세대 Xeon)와 N2(3세대 Xeon) 인스턴스에서 텍스트 임베딩 및 생성 벤치마크를 수행했으며, C4가 임베딩 처리량에서 10‑24배 높고 생성 처리량에서 2.3‑3.6배 높은 결과를 보여주어 각각 총 소유 비용(TCO) 장점이 7‑19배 및 1.7‑2.9배임을 확인했습니다.
Falcon 3 릴리스 노트 / 새로운 기능
Technology Innovation Institute (TII)가 높은 효율성과 강화된 과학, 수학, 코딩 능력을 갖추도록 설계된 100억 파라미터 미만의 디코더 전용 대규모 언어 모델 제품군인 Falcon 3를 출시했습니다.
OpenAI o1 및 개발자 도구 업데이트 2024년 12월
OpenAI가 API에 프로덕션 준비가 완료된 o1 추론 모델을 출시하고, DPO를 통한 Preference Fine-Tuning을 도입했으며, WebRTC 지원 및 대폭적인 가격 인하를 포함한 Realtime API 업데이트를 발표했습니다.
Hugging Face Synthetic Data Generator
Hugging Face는 사용자가 자연어 프롬프트를 사용하여 맞춤형 텍스트 분류 및 채팅 데이터셋을 생성할 수 있는 노코드 애플리케이션인 Synthetic Data Generator를 선보였습니다.
OpenAI 타임라인: 일론 머스크의 영리 구조 제안 및 이탈
OpenAI는 상세한 타임라인과 내부 커뮤니케이션을 공개하여, 일론 머스크가 2017년에 OpenAI를 자신의 절대적인 통제 하에 있는 영리 기업으로 전환하려고 적극적으로 시도했음을 드러냈다.
LeMaterial v1.0: LeMat-Bulk 데이터셋 출시
LeMaterial v1.0은 Materials Project, Alexandria, OQMD의 670만 개 항목을 7가지 속성을 가진 표준화된 형식으로 통합하여 재료 발견을 가속화하는 오픈 소스 이니셔티브인 LeMat-Bulk 데이터셋 출시와 함께 시작됩니다.
Sora는 여기 있습니다 – OpenAI가 새로운 인터페이스와 구독 접근을 갖춘 비디오 생성 모델 Sora Turbo를 출시합니다
OpenAI는 ChatGPT Plus 및 Pro 사용자를 위한 독립형 제품으로 제공되는 더 빠른 비디오 생성 모델인 Sora Turbo의 출시를 발표했으며, 새로운 인터페이스, 최대 1080p 해상도 및 20초 클립, 그리고 내장된 안전 조치를 특징으로 합니다.
허깅 페이스 오픈 선호 데이터셋 텍스트-이미지 생성
Data is Better Together 커뮤니티는 모델 정렬을 위한 오픈소스 선호 데이터 부족 문제를 해결하기 위해 텍스트-이미지 생성을 위한 Apache 2.0 라이선스 오픈 선호 데이터셋을 출시했습니다.
허깅페이스 모델이 아마존 베드록 마켓플레이스에 제공됨
허깅페이스는 아마존 베드록 마켓플레이스에 83개의 오픈 모델을 통합하여 AWS 고객이 관리형 인프라에서 오픈 모델을 배포하면서 베드록 API와의 호환성을 유지할 수 있도록 했습니다.
OpenAI Sora: 애니메이터 Lyndon Barrois를 위한 창의적 워크플로 통합
애니메이터 Lyndon Barrois는 OpenAI Sora를 사용하여 전통적인 스튜디오 생산 파이프라인을 우회하고, 상상력을 고충실도 비디오 콘텐츠로 직접 번역할 수 있게 합니다.
Vallée Duhamel과 Sora
OpenAI는 Sora 비디오 생성 모델에 대한 Vallée Duhamel의 예술적 관점을 강조하지만, 해당 제품은 2026년 4월 26일 기준으로 더 이상 사용할 수 없다고 명시되어 있습니다.
OpenAI Sora 시스템 카드
OpenAI는 Sora라는 비디오 생성 모델의 시스템 카드를 공개했는데, 이 모델은 diffusion-transformer 아키텍처를 사용하여 최대 20초 길이의 1080p 해상도 비디오를 생성할 수 있습니다.
Minne Atairu와 Sora
다학제적 예술가 Minne Atairu는 OpenAI의 Sora를 사용하여 부권적인 이미지에 도전하고 문화적 아이콘을 재정의합니다.
OpenAI 제품 팀 AI 통합
OpenAI는 제품 팀 워크플로에 AI를 통합하여 생산성과 제품 개발을 향상시키는 웨비나와 지침을 출시했습니다.
ChatGPT Pro 출시
OpenAI는 월 200달러의 ChatGPT Pro 구독 계획을 출시했으며, o1, o1-mini, GPT-4o 및 복잡한 문제 해결을 위한 고성능 'o1 pro mode'에 무제한으로 접근할 수 있습니다.
OpenAI o1 시스템 카드
OpenAI는 사고의 연쇄 추론 모델, 안전성 평가, 그리고 설득 및 CBRN에 대한 중간 위험, 사이버 보안 및 모델 자율성에 대한 낮은 위험을 상세히 설명한 o1 시스템 카드를 공개했습니다.
PaliGemma 2 릴리스 노트
Google은 PaliGemma 2를 출시했습니다. 이는 세 가지 매개변수 크기와 여러 입력 해상도에 걸쳐 SigLIP 이미지 인코더와 Gemma 2 텍스트 디코더를 결합한 비전 언어 모델 가족입니다.
LLM은 자신의 실수를 얼마나 잘 수정할까? Keras와 TPU를 이용한 챗봇 아레나 실험
Hugging Face는 여러 10B 미만의 LLM을 대상으로 간단한 캘린더 API 작업 테스트를 진행했으며, Gemma 2 9B는 최소한의 프롬프트로 실수를 일관되게 수정한 반면, 더 작은 모델과 구형 모델은 어려움을 겪거나 많은 교정 턴이 필요하다는 것을 발견했습니다.
OpenAI와 Future의 전문 콘텐츠를 위한 전략적 파트너십
OpenAI와 Future는 Future의 200개 이상의 전문 미디어 브랜드 콘텐츠를 ChatGPT에 통합하여 사용자에게 신뢰할 수 있는 전문 정보를 제공하고 출판사의 배포 범위를 확장하는 파트너십을 체결했습니다.
모건 스탠리 AI 통합 및 평가 프레임워크
모건 스탠리는 OpenAI와 협력하여 GPT-4와 Whisper 기반 도구를 배포했으며, 신뢰성과 규제 준수에 중점을 둔 엄격한 평가 프레임워크를 통해 어드바이저 채택률 98%를 달성했습니다.
AraGen 벤치마크 및 리더보드: 아랍어 LLM을 위한 3C3H 평가 도입
Hugging Face는 아랍어 LLM의 정확성, 완전성, 간결성, 도움이 됨, 솔직함, 무해함을 평가하는 3C3H 측정을 사용하는 동적 벤치마크 및 리더보드인 AraGen을 도입했습니다.
Hugging Face CFM 사례 연구: LLM 인사이트를 활용한 소형 모델 파인튜닝
Capital Fund Management (CFM)는 Llama 3.1을 사용하여 GLiNER와 SpanMarker와 같은 소형 모델의 파인튜닝을 위한 데이터 라벨링을 지원함으로써 금융 Named Entity Recognition(NER)의 정확도를 최대 6.4% 향상시키고 추론 비용을 최대 80배 줄였습니다.
오픈소스 개발자를 위한 EU AI 법 가이드
허깅 페이스 가이드는 EU AI 법이 오픈소스 AI 개발자에게 어떻게 적용되는지 설명하며, 제한된 위험 AI 시스템과 비시스템적 위험 범용 AI 모델에 대한 의무를 정리하고 준수를 위한 도구를 제시합니다.
QwQ-32B-Preview: 깊은 추론 기능 탐구
Qwen은 내부 사유 과정(chain-of-thought)을 통해 깊은 추론과 복잡한 문제 해결을 위한 모델인 QwQ-32B-Preview를 도입했습니다.
허깅페이스 허브 스토리지 재아키텍처
허깅페이스는 콘텐츠 주소 저장소(CAS)를 도입하여 바이트 수준 중복 제거를 가능하게 하고巨大한 AI 모델의 전송 속도를 향상시키기 위해 업로드 및 다운로드 아키텍처를 재설계하고 있습니다.
SmolVLM 출시 노트 / 새로운 기능
Hugging Face는 낮은 메모리 점유율과 엣지 디바이스에서의 높은 처리량에 최적화된, 완전한 오픈 소스인 2B 파라미터 Vision Language Model (VLM) SmolVLM을 선보입니다.
당신은 최첨단 위치 인코딩을 설계할 수 있었을 것입니다
허깅 페이스 블로그 글은 트랜스포머를 위한 위치 인코딩의 반복적 설계를 안내하며, sinusoidal 인코딩이 어떻게 Rotary Positional Encoding (RoPE)로 이어지는지 보여주고, 이것이 토큰 관계 모델링에 왜 중요한지 설명합니다.
사람과 AI를 통한 레드 팀링 발전 – OpenAI의 접근 방식 및 o1 패밀리 적용
OpenAI는 AI 모델에 대한 외부 레드 팀링 프로세스를 상세히 설명하는 백서를 출판하고, 이를 바탕으로 OpenAI o1 패밀리를 공개 출시 준비에 적용했습니다.