Prezi 사례 연구: Hugging Face 전문가 지원으로 ML 로드맵 가속화
Prezi는 Hugging Face Expert Support Program과 Inference Endpoints를 활용해 효율적인 오픈소스 멀티모달 모델을 Prezi AI 프레젠테이션 생성 도구에 통합하고 있습니다.
ChatGPT Enterprise와 맞춤 GPT를 활용해 개발자 생산성을 향상시킨 Paf
게임 회사 Paf는 ChatGPT Enterprise와 85개 이상의 맞춤 GPT를 도입해 보일러플레이트 코드를 자동화하고 개발자 교육을 가속화했으며, 그 결과는 12명의 정규직 직원에 해당하는 생산량을 달성했습니다.
Clay: 에이전트형 영업 프로스펙팅으로 10배 성장 달성
Clay는 GPT-4를 활용해 `Claygent`라는 AI 에이전트를 구동하여, go-to-market 팀을 위한 웹 조사와 데이터 강화 작업을 자동화하고 연간 10배 성장이라는 결과를 달성했습니다.
BigCodeBench: 복잡한 파이썬 코드 생성을 위한 새로운 벤치마크
Hugging Face는 실용적인 프로그래밍과 다양한 라이브러리 사용을 평가하기 위해 1,140개의 함수 수준 작업으로 구성된 벤치마크인 BigCodeBench를 출시했으며, HumanEval의 단순성 및 오염 문제를 해결했습니다.
Color Health는 GPT-4o를 사용하여 암 치료 및 진단 작업을 가속화합니다
Color Health는 GPT-4o 기반 코파일럿 애플리케이션을 개발하여 임상의가 누락된 진단을 식별하고 개인화된 암 선별 및 치료 계획을 만들 수 있도록 지원합니다.
OpenAI, 은퇴한 미국 육군 장군 Paul M. Nakasone을 이사회에 임명
OpenAI는 AI 기술이 AGI로 발전함에 따라 회사의 사이버 보안 태세와 안전 감독을 강화하기 위해 은퇴한 미국 육군 장군 Paul M. Nakasone을 이사회에 임명했습니다.
Hugging Face Accelerate: DeepSpeed와 FSDP 정밀도 조화
Hugging Face Accelerate 0.30.0은 PyTorch FSDP에 대한 자동 업캐스팅을 도입하여 정밀도 처리를 DeepSpeed와 맞추고, 두 백엔드 간에 수렴성 손실 없이 원활하게 전환할 수 있게 합니다.
Stable Diffusion 3 Medium과 Diffusers 통합
Hugging Face는 Stable Diffusion 3 Medium(2B 파라미터)을 Diffusers 라이브러리에 통합하고, Multimodal Diffusion Transformer(MMDiT)와 rectified flow‑matching을 도입해 텍스트‑투‑이미지 합성 성능을 향상시켰습니다.
Hugging Face TRL RLOO 트레이너 출시
Hugging Face는 TRL에 RLOO (REINFORCE Leave One-Out) 트레이너를 도입했습니다. 이 온라인 RLHF 알고리즘은 vRAM을 50-70% 적게 사용하고 PPO보다 최대 3배 빠르게 수렴하면서도 성능 면에서 경쟁력을 유지합니다.
OpenAI, Sarah Friar를 CFO로, Kevin Weil을 CPO로 임명
OpenAI는 Sarah Friar를 최고재무책임자(CFO)로, Kevin Weil을 최고제품책임자(CPO)로 임명하여 회사가 성장함에 따라 운영 및 제품 배포를 확대합니다.
OpenAI Voice Engine: 기술 구현 및 안전 프레임워크
OpenAI의 Voice Engine은 2022년부터 개발된 합성 음성 모델로, 안전 연구 및 정책 개발에 정보를 제공하기 위해 통제된 릴리스를 통해 반복적으로 배포되었습니다.
Amazon SageMaker용 Hugging Face 임베딩 컨테이너 출시
Hugging Face는 텍스트 임베딩 추론(TEI)으로 구동되는 Amazon SageMaker용 일반 제공(GA) 임베딩 컨테이너를 출시했으며, 이를 통해 오픈 임베딩 모델을 고성능으로 배포할 수 있습니다.
Hugging Face Transformers 문서 재설계
Hugging Face는 제품 개발자를 위해 맞춤화된 코드 우선, 통합된 경험으로 전환하기 위해 경직되고 점진적인 구조에서 Transformers 문서를 재설계하고 있습니다.
Qwen2 릴리즈 노트 / 새로운 소식
Qwen은 Qwen2를 발표했습니다. 0.5B에서 72B 파라미터까지 다섯 가지 오픈소스 모델 시리즈이며, 27개의 추가 언어에 대한 다국어 지원이 강화되고 컨텍스트 길이가 최대 128K 토큰까지 확장되었습니다.
10BedICU와 OpenAI: 인도의 중환자 치료 인프라 강화
10BedICU는 OpenAI의 GPT-4와 Whisper 모델을 CARE 플랫폼에 통합하여 의료 문서를 자동화하고 레거시 하드웨어를 통합하며 인도 정부 병원 전반에 걸쳐 퇴원 요약을 간소화하고 있습니다.
Qwen-Agent: 8k에서 1M 컨텍스트로 LLM 일반화
Qwen은 8k 컨텍스트 모델이 1M 토큰을 처리할 수 있게 하는 에이전트 프레임워크를 개발했으며, 특정 벤치마크에서 RAG와 네이티브 장기 컨텍스트 모델을 모두 능가합니다.
인공 분석 텍스트-이미지 리더보드 및 아레나 출시
Hugging Face는 45,000개 이상의 투표에서 얻은 인간 선호 데이터를 활용해 오픈소스 및 독점 이미지 생성 모델을 순위 매기는 인공 분석 텍스트-이미지 리더보드와 아레나를 출시했습니다.
GPT-4에서 개념 추출하기
OpenAI는 GPT-4의 내부 표현을 1,600만 개의 인간이 해석 가능한 특징으로 분해하는 확장 가능한 희소 오토인코더 방법을 개발했습니다.
Hugging Face NPC-Playground: 3D 환경에서 LLM 기반 NPC 통합
Hugging Face는 Cubzh와 Gigax를 활용하여 함수 호출과 Lua 스크립팅을 통해 현실적인 LLM 기반 NPC 상호작용을 가능하게 하는 3D 데모인 NPC-Playground를 소개합니다.
Intel Gaudi 보조 생성 지원
Hugging Face는 Optimum Habana에 보조 생성(추측 샘플링)을 통합하여 Intel Gaudi 프로세서에서 대형 트랜스포머 기반 모델에 대해 최대 2배의 속도 향상을 가능하게 했습니다.
Hugging Face Spaces 비밀 보안 업데이트
Hugging Face는 Spaces 비밀 중 일부에 대한 무단 접근이 발생한 보안 사고를 공개했으며, 이로 인해 영향을 받은 토큰이 취소되고 세분화된 접근 토큰으로 전환되었습니다.
OpenAI가 은밀한 AI 영향 작전을 차단했습니다
OpenAI는 AI를 사용해 기만적인 콘텐츠를 생성한 다섯 개의 은밀한 영향 작전과 연결된 계정을 종료했지만, 어느 작전도 의미 있는 청중 도달을 달성하지 못했습니다.
OpenAI가 대학을 위한 ChatGPT Edu를 소개합니다
OpenAI는 대학이 엔터프라이즈급 보안, 데이터 프라이버시 및 GPT-4o 접근성을 갖춘 AI를 대규모로 배포할 수 있도록 설계된 ChatGPT Edu 버전을 출시했습니다.
비영리 단체를 위한 OpenAI 이니셔티브
OpenAI는 비영리 단체를 위한 OpenAI를 출시하여, 비영리 조직이 운영 및 자금 제약을 극복할 수 있도록 ChatGPT Business와 Enterprise에 대한 할인 접근을 제공하고 있습니다.
MavenAGI OpenAI 기반 자동 고객 지원 에이전트
MavenAGI는 GPT-4 기반의 AI 고객 서비스 에이전트를 출시하여 지원 질문의 최대 93%를 자동화하고, 티켓당 평균 비용을 $40에서 $8로 줄였습니다.
OpenAI와 WAN-IFRA, 뉴스룸 AI 촉진 프로그램 출시
OpenAI와 WAN-IFRA는 전 세계 128개의 뉴스룸에 자금 및 기술 지원을 제공하여 AI 도입을 가속화하고 저널리즘 지속 가능성을 향상시키는 가속기 프로그램인 The Newsroom AI Catalyst를 출시했습니다.
OpenAI와 The Atlantic의 뉴스 통합 파트너십
OpenAI와 The Atlantic은 The Atlantic의 프리미엄 뉴스 콘텐츠를 ChatGPT 및 기타 OpenAI 제품에 통합하기 위한 전략적 파트너십을 체결했으며, 출처 표기와 전체 기사 링크를 제공한다.
OpenAI와 Vox Media 전략적 파트너십
OpenAI와 Vox Media는 Vox Media의 저널리즘 콘텐츠를 ChatGPT에 통합하고, 소비자와 광고주를 위한 AI 기반 제품을 공동 개발하기 위해 전략적 파트너십을 체결했습니다.
텍스트 생성 추론 벤치마킹
Hugging Face는 텍스트 생성 추론 (TGI)용 벤치마킹 도구를 소개하여 개발자가 처리량과 지연 시간 간의 트레이드오프를 프로파일링하고 LLM 배포 비용 및 성능을 최적화할 수 있도록 돕습니다.
OpenAI 이사회, 안전 및 보안 위원회 구성
OpenAI는 차세대 프론티어 모델 훈련을 시작하면서 프로젝트와 운영에 대한 중요한 안전 및 보안 결정을 감독하기 위해 안전 및 보안 위원회를 설립했습니다.
Sentence Transformers를 사용한 임베딩 모델 훈련 및 파인튜닝
Hugging Face는 Sentence Transformers 라이브러리를 사용하여 임베딩 모델을 훈련하고 파인튜닝하는 포괄적인 가이드를 제공하며, 의미 검색 및 RAG와 같은 작업에 적용하고 새로운 SentenceTransformerTrainer를 소개합니다.
Falcon 2 11B 릴리즈 노트
TII는 5,000조 토큰 이상으로 학습된 사전 학습 LLM과 비전‑언어 모델(VLM)을 포함하는, 더 작고 고성능의 Falcon 2 11B 시리즈를 출시했습니다.
CyberSecEval 2: 대형 언어 모델의 사이버 보안 위험 평가
Hugging Face와 Meta가 CyberSecEval 2를 도입했습니다. 이 포괄적인 프레임워크는 LLM이 코드 인터프리터 남용, 공격적인 사이버 보안 능력, 프롬프트 인젝션 공격에 취약한지를 평가합니다.
OpenAI와 News Corp 다년간 글로벌 파트너십
OpenAI와 News Corp는 다년간 계약을 체결하여 OpenAI가 The Wall Street Journal 및 The Times와 같은 주요 출판물의 현재 및 보관된 콘텐츠를 제품에 통합함으로써 정보 신뢰성을 향상시킬 수 있게 했습니다.
Hugging Face AWS Inferentia2 통합
Hugging Face는 AWS Inferentia2에 대한 지원을 확대하여 Amazon SageMaker를 통해 100,000개 이상의 모델을 배포하고 Hugging Face Inference Endpoints에 새로운 Inf2 인스턴스 옵션을 도입했습니다.
OpenAI 안전 관행
OpenAI는 최전선 AI 모델을 개발·배포하는 데 사용되는 10가지 핵심 안전 관행을 상세히 설명했으며, 모델 라이프사이클의 모든 단계에 안전을 통합하는 과학적 접근을 강조합니다.
Hugging Face와 Microsoft 전략적 협업 업데이트 2024년 5월
Hugging Face와 Microsoft는 전략적 파트너십을 확대하여 인기 있는 오픈 모델을 Azure Model Catalog에 통합하고, Azure에서 AMD MI300X GPU 지원을 활성화했으며, Hugging Face Spaces를 위한 VS Code 통합을 도입했습니다.
AMD Instinct MI300 GPU에 대한 Hugging Face 통합
Hugging Face는 AMD Instinct MI300 GPU에 대한 일류 통합을 구현했으며, MI250에 비해 Llama 3 70B에 대해 최대 3배 빠른 추론과 2배 빠른 파인튜닝을 제공합니다.
Dell Enterprise Hub: 온프레미스 AI 배포 및 교육
Hugging Face와 Dell이 Dell 하드웨어에서 오픈소스 대형 언어 모델의 온프레미스 교육 및 배포를 간소화하는 플랫폼인 Dell Enterprise Hub를 출시했습니다.
Hugging Face Spaces Dev Mode 릴리스
Hugging Face는 Spaces Dev Mode를 도입하여 PRO 구독자가 VS Code 또는 SSH를 통해 실시간 코드 편집을 할 수 있게 했으며, 매번 git 푸시가 필요하지 않습니다.
OpenAI ChatGPT 음성 선택 프로세스
OpenAI는 ChatGPT용 5명의 전문 성우를 선정하기 위해 5개월에 걸친 캐스팅 과정을 상세히 공개했으며, 'Sky' 음성이 Scarlett Johansson을 모방하려는 의도가 없었음을 명확히 했습니다.
ChatGPT 데이터 분석 개선 사항 2024년 5월
OpenAI는 GPT-4o 기반으로 클라우드 스토리지 직접 통합, 인터랙티브 테이블, 맞춤형 차트 등을 포함한 ChatGPT의 데이터 분석 기능을 강화했습니다.
OpenAI와 Reddit 파트너십
OpenAI와 Reddit은 실시간 Reddit 콘텐츠를 ChatGPT에 통합하고 OpenAI의 AI 모델을 구현하여 Reddit의 사용자 및 모더레이터 기능을 강화하기 위해 파트너십을 맺었습니다.
Hugging Face KV 캐시 양자화
Hugging Face는 Transformers 라이브러리에 KV 캐시 양자화를 도입하여, 모델 품질에 거의 영향을 주지 않으면서 장기 컨텍스트 텍스트 생성 시 메모리 사용량을 줄였습니다.
Canva Magic Studio와 OpenAI 통합
Canva는 OpenAI의 GPT-4와 API를 통합하여 Magic Studio AI 제품군을 구동하고 있으며, 이 제품군은 비전문가 창작자를 위한 디자인을 간소화하기 위해 50억 회 이상 사용되었습니다.
OpenAI 리더십 변화: 일리야 수츠케버 퇴임, 야쿱 파초키 신임 수석 과학자 임명
OpenAI는 공동 설립자 일리야 수츠케버가 회사를 떠난다고 발표했으며, 야쿱 파초키가 새로운 수석 과학자로 임명되어 AGI를 향한 연구를 이끌게 됩니다.
오픈 아라비아 LLM 리더보드 소개
Hugging Face와 Technology Innovation Institute는 아라비아 대형 언어 모델을 위한 전문적이고 개방된 평가 플랫폼인 Open Arabic LLM Leaderboard (OALL)를 출시했습니다.
PaliGemma 비전 언어 모델 출시
Google은 SigLIP-So400m과 Gemma-2B를 결합한 오픈 비전-언어 모델 패밀리인 PaliGemma를 출시했으며, 이미지 캡션 생성, 시각 질문 응답, 객체 탐지와 같은 작업을 가능하게 합니다.
Hugging Face와 LangChain이 langchain_huggingface 파트너 패키지를 출시합니다
Hugging Face와 LangChain이 공동으로 유지 관리하는 파트너 패키지인 langchain_huggingface를 출시하여 Hugging Face 모델을 LangChain 생태계에 원활하게 통합할 수 있게 했습니다.
OpenAI GPT-4o 릴리스 노트
OpenAI는 텍스트, 비전, 오디오 전반에 걸쳐 엔드-투-엔드로 학습된 omni 모델인 GPT-4o를 출시했으며, 인간과 같은 응답 지연 시간으로 자연스러운 인간-컴퓨터 상호작용을 가능하게 합니다.