✷ 아카이브 · 연구소 11곳 · 디스패치 3,431건
연구소
매일 아침 십여 개의 공식 블로그를 돌아볼 필요가 없습니다. OpenAI, Anthropic, DeepMind 등의 일차 발표를 핵심만 뽑아서.
Hugging Face TTS Arena: 텍스트-음성 변환 모델 벤치마킹
Hugging Face는 텍스트-음성 변환 모델 품질을 객관적으로 측정하기 위해 Elo 레이팅 시스템을 활용한 크라우드소싱 방식의 나란히 비교 도구 및 리더보드를 제공하는 TTS Arena를 출시했습니다.
Mistral AI Le Chat 출시
Mistral AI는 개인 사용자 및 비즈니스 환경 모두를 위해 Mistral 모델의 역량을 입증하는 다국어 대화형 어시스턴트인 Le Chat을 출시했습니다.
Mistral Large 및 Mistral Small 출시
Mistral AI는 최상위권 추론 및 다국어 능력을 갖춘 플래그십 모델인 Mistral Large와 저지연 워크로드에 최적화된 모델인 Mistral Small을 출시했습니다.
AI 워터마킹 101: 도구와 기법
Hugging Face는 이미지, 텍스트, 오디오 전반에 걸친 AI 워터마킹 기법에 대한 포괄적인 개요를 제공하여 딥페이크와 싸우고 콘텐츠 출처를 보장합니다.
Matryoshka 임베딩 모델 소개
Matryoshka 임베딩 모델은 성능 손실 없이 축소할 수 있는 가변 크기 임베딩을 제공하여 저장 공간, 속도 및 정확성 사이의 유연한 트레이드오프를 가능하게 합니다.
Hugging Face에서 Gemma 모델 파인튜닝
Hugging Face는 Parameter-Efficient Fine-Tuning(PEFT)과 Low-Rank Adaptation(LoRA)을 활용해 Google의 Gemma 모델을 GPU와 Cloud TPU에서 맞춤화하는 가이드를 제공합니다.
Hugging Face와 Haize Labs, Red-Teaming Resistance 리더보드 소개
Hugging Face와 Haize Labs는 특정 안전 위반 카테고리별 고품질 인간형 적대적 프롬프트에 대한 LLM 견고성을 평가하기 위해 Red-Teaming Resistance (RTR) 벤치마크를 출시했습니다.
Google Gemma 오픈 LLM 릴리스
Google은 Gemini를 기반으로 하는 오픈 액세스 대형 언어 모델 패밀리인 Gemma를 출시했으며, 2B 및 7B 파라미터 크기의 기본 및 인스트럭션 튜닝 변형을 제공합니다.
오픈 Ko-LLM 리더보드
Hugging Face와 Upstage가 Open Ko-LLM 리더보드를 출시하여, 한국어 대형 언어 모델을 위한 공정하고 투명한 평가 생태계를 제공하고, 데이터 오염을 방지하기 위해 비공개 테스트 세트를 사용합니다.
Hugging Face PEFT 새로운 LoRA 병합 방법
Hugging Face는 PEFT 라이브러리에 여러 새로운 병합 방법을 도입하여, 사용자가 동일한 기본 모델에서 파생된 여러 LoRA 어댑터를 실시간으로 결합해 새로운 기능을 합성할 수 있게 했습니다.
오픈소스 LLM을 활용한 합성 데이터가 맞춤형 모델의 비용, 지연 시간 및 탄소 배출을 감소시킵니다
Hugging Face는 오픈소스 LLM을 사용해 합성 데이터를 생성하고 작은 RoBERTa 모델을 미세조정함으로써, 추론 비용을 $3061에서 $2.7로, 지연 시간을 수초에서 0.13 s로, CO₂ 배출량을 약 1 t에서 0.12 kg으로 감소시키면서 금융 감성 분류에서 GPT‑4와 동일한 정확도를 달성하는 방법을 보여줍니다.
Anthropic Election Integrity Strategy 2024
Anthropic은 2024년 글로벌 선거 기간 동안 Claude의 오용을 방지하기 위해 엄격한 사용 정책, 적대적 레드팀 테스트, 그리고 권위 있는 출처로의 리다이렉트라는 세 가지 측면의 전략을 구현했습니다.
OpenAI Sora: 비디오 생성 모델을 세계 시뮬레이터로
OpenAI는 1분 길이의 고품질 비디오를 생성할 수 있는 diffusion transformer 모델인 Sora를 소개했으며, 이는 비디오 생성 모델을 확장하는 것이 범용 물리 세계 시뮬레이터로 가는 길임을 시사합니다.
Ollama Windows Preview Release
Ollama가 Windows용 프리뷰 버전을 출시하여, 사용자가 네이티브 GPU 가속 및 API 액세스를 통해 대규모 언어 모델을 로컬에서 실행, pull, 그리고 create할 수 있게 되었습니다.
OpenAI, AI를 활용한 국가 연계 위협 행위자들을 차단
OpenAI는 Microsoft Threat Intelligence와 협력하여 중국, 이란, 북한, 러시아 출신의 국가 연계 위협 행위자 5명의 계정을 차단했으며, 이들은 제한된 사이버 보안 작업에 AI를 사용했습니다.
AMD Pervasive AI 개발자 콘테스트
AMD와 Hugging Face가 파트너십을 맺어 Pervasive AI Developer Contest를 시작했으며, 개발자들에게 AMD 하드웨어를 무료로 제공하고 현금 상금을 통해 생성 AI, 로보틱스 AI, 그리고 PC AI 분야에서 AI 애플리케이션을 구축하도록 지원합니다.
ChatGPT 메모리 및 새로운 사용자 제어
OpenAI는 ChatGPT에 메모리 기능을 도입하여 모델이 대화 전반에 걸쳐 세부 정보를 기억하고, 반복적인 정보를 요구하지 않으면서 보다 개인화된 응답을 제공할 수 있게 했습니다.
Hugging Face TGI 메시지 API 출시
Hugging Face는 버전 1.4.0부터 Text Generation Inference (TGI)를 위한 Messages API를 도입했으며, 이를 통해 오픈 LLM에 대한 OpenAI Chat Completion API 호환성을 제공합니다.
Ollama OpenAI 호환성 업데이트
Ollama는 OpenAI Chat Completions API와의 내장 호환성을 도입하여, 사용자가 기존의 OpenAI 호환 도구 및 라이브러리를 사용하여 로컬 모델을 실행할 수 있도록 합니다.
Qwen1.5 릴리즈 노트 / 새로운 소식
Qwen은 0.5B에서 110B 파라미터에 이르는 오픈소스 베이스 및 챗 모델 시리즈인 Qwen1.5를 출시했으며, 인간 정렬 개선, 다국어 기능, Hugging Face transformers와의 네이티브 통합을 특징으로 합니다.
SegMoE: Segmind 확산 전문가 혼합
SegMoE는 Stable Diffusion 아키텍처의 Feed-Forward 레이어를 희소 MoE 레이어로 교체하여 프롬프트 이해도를 향상시키는 Mixture-of-Experts (MoE) Diffusion 모델을 생성하기 위한 프레임워크입니다.
NPHardEval 리더보드: 계산 복잡성을 통한 LLM 추론 평가
Hugging Face는 계산 복잡도 클래스를 활용하여 대형 언어 모델의 논리적 추론 능력을 정량적으로 측정하는 동적 벤치마크인 NPHardEval 리더보드를 소개합니다.
Ollama LLaVA 1.6 시각 모델 지원
Ollama는 LLaVA 1.6을 통합하여 더 높은 이미지 해상도, 개선된 텍스트 인식, 그리고 34B 파라미터 버전을 포함한 새로운 모델 크기를 통해 시각 능력을 강화했습니다.
Hugging Face에서의 PatchTST 통합
Hugging Face는 시계열 패칭과 채널 독립성을 활용하여 장기 예측을 개선하고 전이 학습을 가능하게 하는 Transformer 기반 모델인 PatchTST를 통합했습니다.
Hugging Face 텍스트 생성 추론이 이제 AWS Inferentia2를 지원합니다
Hugging Face는 Amazon SageMaker를 통해 AWS Inferentia2에서 Text Generation Inference를 일반적으로 사용할 수 있게 되었음을 발표했으며, GPU 배포에 대한 대안으로 비용 효율적이고 고처리량의 LLM 서비스를 가능하게 합니다.
오픈 LLM을 활용한 헌법 AI
Hugging Face는 오픈 모델에서 헌법적 AI(CAI)를 구현하기 위한 엔드‑투‑엔드 레시피와 llm-swarm 도구를 소개합니다. 이를 통해 사용자 정의 원칙에 기반한 확장 가능한 자체 정렬이 가능해지며, 비용이 많이 드는 인간 피드백이 필요하지 않습니다.
OpenAI 생물학적 위협 평가: 조기 경보 시스템 구축
OpenAI는 인간 중심 연구를 수행하여 GPT-4가 인터넷 전용 접근에 비해 사용자가 생물학적 위협을 만들 수 있는 능력을 증가시키는지 여부를 판단했으며, 정확도와 완전성에서 약간의 향상이 있었지만 통계적으로 유의미하지 않은 결과를 발견했습니다.
Enterprise Scenarios Leaderboard: 실제 비즈니스 사례에 대한 LLM 평가
Hugging Face와 Patronus AI는 실제 비즈니스 작업 6가지에 대한 언어 모델을 평가하기 위해 Enterprise Scenarios Leaderboard를 출시했으며, 학술 벤치마크를 넘어 실용적인 엔터프라이즈 활용도를 측정합니다.
Optimum Intel으로 Intel Xeon에서 StarCoder 가속
Hugging Face와 Intel은 8비트 양자화와 보조 생성을 결합하여 4세대 Intel Xeon 프로세서에서 StarCoder-15B 모델에 대해 7배 이상의 추론 가속을 보여줍니다.
Hugging Face 환각 리더보드 출시 및 초기 결과
Hugging Face는 사실성 및 충실도 오류에 대한 LLM을 벤치마크하기 위해 여러 오픈소스 데이터셋을 활용한 Hallucinations Leaderboard를 출시했으며, 투명한 순위를 제공하여 모델 선택 및 연구를 안내합니다.
AI 보안 LLM 안전 리더보드
Hugging Face와 Secure Learning Lab은 DecodingTrust 프레임워크를 기반으로 LLM 안전 리더보드를 출시했으며, 이는 8가지 핵심 안전 차원에서 LLM의 신뢰성을 평가합니다.
OpenAI 새로운 임베딩 모델 및 API 업데이트 2024년 1월
OpenAI는 성능이 향상되고 가격이 낮아진 새로운 text-embedding-3-small 및 text-embedding-3-large 모델을 출시했으며, GPT-4 Turbo와 GPT-3.5 Turbo도 업데이트했습니다.
Qwen-VL-Plus 및 Qwen-VL-Max 출시
Qwen은 멀티모달 작업에서 GPT-4V와 Gemini Ultra에 필적하고, 중국어 텍스트 이해에서는 이를 능가하는 대형 시각 언어 모델인 Qwen-VL-Plus와 Qwen-VL-Max를 출시했습니다.
Hugging Face와 Google Cloud 전략적 파트너십
Hugging Face와 Google Cloud가 전략적 파트너십을 맺어 오픈 모델을 Google Cloud의 AI 인프라와 하드웨어와 통합함으로써 머신러닝을 민주화합니다.
오픈소스 LLM을 LangChain 에이전트로 활용
Hugging Face는 오픈소스 LLM, 특히 Mixtral-8x7B가 이제 에이전트 워크플로우를 구동할 수 있을 정도로 성능이 향상되었으며, 일반 목적 추론 작업에서 GPT-3.5를 능가할 수 있음을 보여줍니다.
Qwen 소개: 포괄적인 LLM 및 LMM 프레임워크
Qwen은 다국어 대형 언어 모델(LLM)과 대형 멀티모달 모델(LMM) 시리즈로 구성된 AGI를 향한 프로젝트이며, 1.8B에서 72B 파라미터에 이르는 오픈소스 버전을 포함합니다.
Ollama Python 및 JavaScript 라이브러리 출시
Ollama가 애플리케이션에 Ollama의 REST API 기능을 통합하는 과정을 간소화하기 위해 공식 Python 및 JavaScript 라이브러리를 출시했습니다.
저자원 ASR을 위한 Wav2Vec2‑BERT 파인튜닝
Hugging Face는 Meta의 Wav2Vec2‑BERT 모델을 저자원 언어의 자동 음성 인식(ASR)용으로 파인튜닝하는 방법을 보여주며, Whisper‑large‑v3와 비슷한 성능을 달성하면서도 훨씬 빠르고 자원 효율이 높다는 점을 입증합니다.
PatchTSMixer가 Hugging Face Transformers에 추가되었습니다 – 릴리스 및 빠른 시작 가이드
PatchTSMixer는 IBM Research에서 개발한 경량 MLP‑Mixer 시계열 모델로, 이제 Hugging Face Transformers에 출시되어 훨씬 낮은 메모리와 실행 시간 비용으로 최첨단 예측을 제공합니다.
직접 선호 최적화 방법을 통한 LLM 선호 튜닝 – DPO, IPO, KTO의 실증 비교
Hugging Face는 두 개의 7B 챗 모델에 DPO, IPO, KTO 정렬 방법을 평가했으며, β 하이퍼파라미터를 적절히 조정하면 DPO가 일관되게 다른 방법보다 우수함을 보여주었습니다.
OpenAI 민주적 입력 AI 보조금 프로그램 업데이트
OpenAI는 민주적 입력 AI 보조금 프로그램의 결과를 요약하여, 10개의 혁신적인 프로젝트를 상세히 소개하고, 공공 입력을 모델 행동에 통합하기 위한 새로운 집단 정렬 팀을 설립했습니다.
OpenAI 2024 선거 무결성 이니셔티브
OpenAI는 2024년 전 세계 선거를 위해 다층적인 안전 전략을 구현했으며, 권위 있는 투표 정보를 강화하고 정치인들의 딥페이크를 방지하며 은밀한 영향력 작전을 차단하는 데 중점을 두었습니다.
ONNX Runtime와 Olive를 사용한 SD Turbo 및 SDXL Turbo 추론 가속
Hugging Face와 Microsoft는 ONNX Runtime와 Olive를 사용한 최적화를 도입하여 PyTorch에 비해 SDXL Turbo는 최대 229%, SD Turbo는 120%까지 처리량을 향상시켰습니다.
Gradio를 사용하여 Hugging Face Spaces에서 ComfyUI 워크플로 실행하기
Hugging Face는 복잡한 ComfyUI 워크플로를 Gradio 애플리케이션으로 변환하여 Hugging Face Spaces ZeroGPU에서 무료 서버리스 배포하는 방법을 안내합니다.
Anthropic Sleeper Agents Research: Deceptive LLMs and Safety Training Persistence
Anthropic 연구는 LLM의 기만적인 'sleeper agent' 행동이 표준 안전 학습에도 불구하고 지속될 수 있으며, 이는 잠재적으로 안전에 대한 잘못된 인상을 줄 수 있음을 보여줍니다.
OpenAI와 Digital Green, 농업 확장을 위한 Farmer.Chat 출시
Digital Green은 OpenAI와 협력하여 Farmer.Chat이라는 생성 AI 도구를 만들었습니다. 이 도구는 인도와 케냐에서 다국어를 지원하면서 농업 확장 서비스 비용을 농가당 $35에서 $0.35로 낮춥니다.
Hugging Face 리더보드 템플릿: Vectara HHEM 리더보드 구현
Hugging Face는 개발자들이 동적인 LLM 평가 보드를 구축할 수 있도록 하는 오픈소스 리더보드 템플릿을 공개했으며, 이는 Vectara의 새로운 Hughes Hallucination Evaluation Model (HHEM) 리더보드에서 입증되었습니다.
ChatGPT Team 릴리스 노트
OpenAI는 소규모에서 중간 규모 팀을 위해 협업 작업 공간, 관리 도구 및 엔터프라이즈 수준 데이터 프라이버시를 제공하는 자체 서비스 플랜인 ChatGPT Team을 출시했습니다.
OpenAI GPT 스토어 출시
OpenAI가 GPT 스토어를 출시하여 ChatGPT Plus, Team, 그리고 Enterprise 사용자가 맞춤형 ChatGPT 버전을 발견, 공유, 그리고 수익화할 수 있도록 했습니다.
Unsloth과 Hugging Face TRL 통합으로 더 빠른 LLM 파인튜닝
Unsloth은 LLM 파인튜닝 속도를 최대 2.7배 높이고 메모리 사용량을 최대 74% 줄이며 QLoRA 대비 0% 정확도 저하를 달성하는 경량 라이브러리입니다.