✷ 아카이브 · 연구소 11곳 · 디스패치 3,060건
연구소
매일 아침 십여 개의 공식 블로그를 돌아볼 필요가 없습니다. OpenAI, Anthropic, DeepMind 등의 일차 발표를 핵심만 뽑아서.
NPHardEval 리더보드: 계산 복잡성을 통한 LLM 추론 평가
Hugging Face는 계산 복잡도 클래스를 활용하여 대형 언어 모델의 논리적 추론 능력을 정량적으로 측정하는 동적 벤치마크인 NPHardEval 리더보드를 소개합니다.
Ollama LLaVA 1.6 시각 모델 지원
Ollama는 LLaVA 1.6을 통합하여 더 높은 이미지 해상도, 개선된 텍스트 인식, 그리고 34B 파라미터 버전을 포함한 새로운 모델 크기를 통해 시각 능력을 강화했습니다.
Hugging Face에서의 PatchTST 통합
Hugging Face는 시계열 패칭과 채널 독립성을 활용하여 장기 예측을 개선하고 전이 학습을 가능하게 하는 Transformer 기반 모델인 PatchTST를 통합했습니다.
Hugging Face 텍스트 생성 추론이 이제 AWS Inferentia2를 지원합니다
Hugging Face는 Amazon SageMaker를 통해 AWS Inferentia2에서 Text Generation Inference를 일반적으로 사용할 수 있게 되었음을 발표했으며, GPU 배포에 대한 대안으로 비용 효율적이고 고처리량의 LLM 서비스를 가능하게 합니다.
오픈 LLM을 활용한 헌법 AI
Hugging Face는 오픈 모델에서 헌법적 AI(CAI)를 구현하기 위한 엔드‑투‑엔드 레시피와 llm-swarm 도구를 소개합니다. 이를 통해 사용자 정의 원칙에 기반한 확장 가능한 자체 정렬이 가능해지며, 비용이 많이 드는 인간 피드백이 필요하지 않습니다.
OpenAI 생물학적 위협 평가: 조기 경보 시스템 구축
OpenAI는 인간 중심 연구를 수행하여 GPT-4가 인터넷 전용 접근에 비해 사용자가 생물학적 위협을 만들 수 있는 능력을 증가시키는지 여부를 판단했으며, 정확도와 완전성에서 약간의 향상이 있었지만 통계적으로 유의미하지 않은 결과를 발견했습니다.
Enterprise Scenarios Leaderboard: 실제 비즈니스 사례에 대한 LLM 평가
Hugging Face와 Patronus AI는 실제 비즈니스 작업 6가지에 대한 언어 모델을 평가하기 위해 Enterprise Scenarios Leaderboard를 출시했으며, 학술 벤치마크를 넘어 실용적인 엔터프라이즈 활용도를 측정합니다.
Optimum Intel으로 Intel Xeon에서 StarCoder 가속
Hugging Face와 Intel은 8비트 양자화와 보조 생성을 결합하여 4세대 Intel Xeon 프로세서에서 StarCoder-15B 모델에 대해 7배 이상의 추론 가속을 보여줍니다.
Hugging Face 환각 리더보드 출시 및 초기 결과
Hugging Face는 사실성 및 충실도 오류에 대한 LLM을 벤치마크하기 위해 여러 오픈소스 데이터셋을 활용한 Hallucinations Leaderboard를 출시했으며, 투명한 순위를 제공하여 모델 선택 및 연구를 안내합니다.
AI 보안 LLM 안전 리더보드
Hugging Face와 Secure Learning Lab은 DecodingTrust 프레임워크를 기반으로 LLM 안전 리더보드를 출시했으며, 이는 8가지 핵심 안전 차원에서 LLM의 신뢰성을 평가합니다.
OpenAI 새로운 임베딩 모델 및 API 업데이트 2024년 1월
OpenAI는 성능이 향상되고 가격이 낮아진 새로운 text-embedding-3-small 및 text-embedding-3-large 모델을 출시했으며, GPT-4 Turbo와 GPT-3.5 Turbo도 업데이트했습니다.
Qwen-VL-Plus 및 Qwen-VL-Max 출시
Qwen은 멀티모달 작업에서 GPT-4V와 Gemini Ultra에 필적하고, 중국어 텍스트 이해에서는 이를 능가하는 대형 시각 언어 모델인 Qwen-VL-Plus와 Qwen-VL-Max를 출시했습니다.
Hugging Face와 Google Cloud 전략적 파트너십
Hugging Face와 Google Cloud가 전략적 파트너십을 맺어 오픈 모델을 Google Cloud의 AI 인프라와 하드웨어와 통합함으로써 머신러닝을 민주화합니다.
오픈소스 LLM을 LangChain 에이전트로 활용
Hugging Face는 오픈소스 LLM, 특히 Mixtral-8x7B가 이제 에이전트 워크플로우를 구동할 수 있을 정도로 성능이 향상되었으며, 일반 목적 추론 작업에서 GPT-3.5를 능가할 수 있음을 보여줍니다.
Qwen 소개: 포괄적인 LLM 및 LMM 프레임워크
Qwen은 다국어 대형 언어 모델(LLM)과 대형 멀티모달 모델(LMM) 시리즈로 구성된 AGI를 향한 프로젝트이며, 1.8B에서 72B 파라미터에 이르는 오픈소스 버전을 포함합니다.
Ollama Python 및 JavaScript 라이브러리 출시
Ollama가 애플리케이션에 Ollama의 REST API 기능을 통합하는 과정을 간소화하기 위해 공식 Python 및 JavaScript 라이브러리를 출시했습니다.
저자원 ASR을 위한 Wav2Vec2‑BERT 파인튜닝
Hugging Face는 Meta의 Wav2Vec2‑BERT 모델을 저자원 언어의 자동 음성 인식(ASR)용으로 파인튜닝하는 방법을 보여주며, Whisper‑large‑v3와 비슷한 성능을 달성하면서도 훨씬 빠르고 자원 효율이 높다는 점을 입증합니다.
PatchTSMixer가 Hugging Face Transformers에 추가되었습니다 – 릴리스 및 빠른 시작 가이드
PatchTSMixer는 IBM Research에서 개발한 경량 MLP‑Mixer 시계열 모델로, 이제 Hugging Face Transformers에 출시되어 훨씬 낮은 메모리와 실행 시간 비용으로 최첨단 예측을 제공합니다.
직접 선호 최적화 방법을 통한 LLM 선호 튜닝 – DPO, IPO, KTO의 실증 비교
Hugging Face는 두 개의 7B 챗 모델에 DPO, IPO, KTO 정렬 방법을 평가했으며, β 하이퍼파라미터를 적절히 조정하면 DPO가 일관되게 다른 방법보다 우수함을 보여주었습니다.
OpenAI 민주적 입력 AI 보조금 프로그램 업데이트
OpenAI는 민주적 입력 AI 보조금 프로그램의 결과를 요약하여, 10개의 혁신적인 프로젝트를 상세히 소개하고, 공공 입력을 모델 행동에 통합하기 위한 새로운 집단 정렬 팀을 설립했습니다.
OpenAI 2024 선거 무결성 이니셔티브
OpenAI는 2024년 전 세계 선거를 위해 다층적인 안전 전략을 구현했으며, 권위 있는 투표 정보를 강화하고 정치인들의 딥페이크를 방지하며 은밀한 영향력 작전을 차단하는 데 중점을 두었습니다.
ONNX Runtime와 Olive를 사용한 SD Turbo 및 SDXL Turbo 추론 가속
Hugging Face와 Microsoft는 ONNX Runtime와 Olive를 사용한 최적화를 도입하여 PyTorch에 비해 SDXL Turbo는 최대 229%, SD Turbo는 120%까지 처리량을 향상시켰습니다.
Gradio를 사용하여 Hugging Face Spaces에서 ComfyUI 워크플로 실행하기
Hugging Face는 복잡한 ComfyUI 워크플로를 Gradio 애플리케이션으로 변환하여 Hugging Face Spaces ZeroGPU에서 무료 서버리스 배포하는 방법을 안내합니다.
Anthropic Sleeper Agents Research: Deceptive LLMs and Safety Training Persistence
Anthropic 연구는 LLM의 기만적인 'sleeper agent' 행동이 표준 안전 학습에도 불구하고 지속될 수 있으며, 이는 잠재적으로 안전에 대한 잘못된 인상을 줄 수 있음을 보여줍니다.
OpenAI와 Digital Green, 농업 확장을 위한 Farmer.Chat 출시
Digital Green은 OpenAI와 협력하여 Farmer.Chat이라는 생성 AI 도구를 만들었습니다. 이 도구는 인도와 케냐에서 다국어를 지원하면서 농업 확장 서비스 비용을 농가당 $35에서 $0.35로 낮춥니다.
Hugging Face 리더보드 템플릿: Vectara HHEM 리더보드 구현
Hugging Face는 개발자들이 동적인 LLM 평가 보드를 구축할 수 있도록 하는 오픈소스 리더보드 템플릿을 공개했으며, 이는 Vectara의 새로운 Hughes Hallucination Evaluation Model (HHEM) 리더보드에서 입증되었습니다.
ChatGPT Team 릴리스 노트
OpenAI는 소규모에서 중간 규모 팀을 위해 협업 작업 공간, 관리 도구 및 엔터프라이즈 수준 데이터 프라이버시를 제공하는 자체 서비스 플랜인 ChatGPT Team을 출시했습니다.
OpenAI GPT 스토어 출시
OpenAI가 GPT 스토어를 출시하여 ChatGPT Plus, Team, 그리고 Enterprise 사용자가 맞춤형 ChatGPT 버전을 발견, 공유, 그리고 수익화할 수 있도록 했습니다.
Unsloth과 Hugging Face TRL 통합으로 더 빠른 LLM 파인튜닝
Unsloth은 LLM 파인튜닝 속도를 최대 2.7배 높이고 메모리 사용량을 최대 74% 줄이며 QLoRA 대비 0% 정확도 저하를 달성하는 경량 라이브러리입니다.
OpenAI와 저널리즘: 뉴욕 타임스 소송에 대한 답변
OpenAI는 공개 인터넷 데이터를 사용한 AI 모델 훈련이 공정 사용이라고 주장하고, 저작권이 있는 콘텐츠의 재현을 드문 버그로 설명하며, 뉴욕 타임스의 소송에 대응하고 있습니다.
WHOOP 코치: GPT-4를 통한 맞춤형 건강 코칭
WHOOP은 OpenAI의 GPT-4를 통합하여 WHOOP 코치를 출시했습니다. WHOOP 코치는 사용자의 고유한 생리학적 데이터를 기반으로 맞춤형, 즉시 제공되는 지침을 제공하는 AI 기반 피트니스 및 건강 코치입니다.
aMUSEd: 효율적인 텍스트-이미지 생성
Hugging Face가 Masked Image Modeling (MIM)을 기반으로 하고 Google의 MUSE를 오픈 재현한 효율적인 비확산 텍스트-이미지 모델 aMUSEd를 출시했습니다.
Hugging Face SDXL Dreambooth LoRA 고급 훈련 가이드
Hugging Face는 SDXL Dreambooth LoRA용 고급 훈련 스크립트를 소개하며, Pivotal Tuning과 Prodigy 옵티마이저를 결합해 개념 캡처와 이미지 품질을 향상시킵니다.
추측 디코딩으로 Whisper 추론 속도 2배 향상
Hugging Face는 추측 디코딩을 적용하면 Whisper 전사 지연 시간이 절반으로 줄어들면서도 출력과 정확도가 동일하게 유지된다고 입증했습니다.
Anthropic API 업데이트: 확장된 법적 보호 및 Messages API 베타
Anthropic은 상업용 서비스 약관에 확장된 저작권 면책 조항을 도입하고, 개발자 경험을 간소화하고 함수 호출과 같은 향후 기능을 가능하게 하기 위해 새로운 베타 Messages API를 출시했습니다.
2023년 오픈 LLM 리뷰
Hugging Face의 2023년 요약은 오픈소스 LLM 출시가 급증하고, 성능이 뛰어난 소형 모델과 새로운 파인튜닝 기법이 등장하여 접근성과 커뮤니티 참여를 크게 확대했음을 보여줍니다.
에이전시 AI 시스템 거버넌스를 위한 OpenAI 실천 방안
OpenAI는 에이전시 AI 시스템(제한된 감독 하에 복잡한 목표를 추구하는 AI)의 책임 있는 사회 통합을 보장하기 위해 기본 책임과 안전 모범 사례 프레임워크를 제안합니다.
OpenAI Superalignment 신속 보조금
OpenAI는 슈퍼휴먼 AI 시스템의 정렬과 안전성을 위한 기술 연구를 지원하기 위해 1,000만 달러 규모의 보조금 프로그램을 출시했습니다.
Summer Health가 GPT-4를 사용해 소아 진료 기록을 자동화합니다
Summer Health는 GPT-4를 통합하여 소아과 의사의 관찰을 명확하고 전문 용어 없는 진료 기록으로 변환했으며, 기록당 행정 시간을 10분에서 2분으로 줄였습니다.
OpenAI 약-강 일반화 연구
OpenAI 연구원들은 작은, 덜 능력 있는 모델이 더 큰 모델을 감독하여 GPT-3.5 수준에 근접한 능력을 이끌어낼 수 있음을 입증했으며, 이는 초인적인 AI 시스템을 정렬하는 잠재적인 경로를 제공합니다.
AI 저널리즘을 위한 OpenAI와 Axel Springer 파트너십
OpenAI와 Axel Springer는 POLITICO와 Business Insider와 같은 브랜드의 권위 있는 뉴스 콘텐츠를 ChatGPT에 통합하고, Axel Springer의 콘텐츠를 LLM 훈련에 활용하기 위해 파트너십을 맺었습니다.
Mistral AI La Plateforme 출시
Mistral AI는 다양한 성능과 가격의 트레이드오프를 제공하는 세 가지 생성형 채팅 엔드포인트와 한 가지 임베딩 엔드포인트를 제공하는 베타 API 서비스인 La Plateforme를 출시했습니다.
Mixtral 8x7B 출시 노트
Mistral AI는 대부분의 벤치마크에서 Llama 2 70B를 능가하면서도 6배 빠른 추론 속도를 제공하는 희소 전문가 집합 모델인 Mixtral 8x7B를 출시했습니다.
전문가 혼합(MoE) 설명
전문가 혼합(MoE)은 트랜스포머 모델이 매 토큰마다 신경망 전문가의 일부만 활성화함으로써 파라미터를 확장하면서도 효율적인 사전 학습과 더 빠른 추론을 유지하도록 합니다.
Mixtral 8x7B 릴리즈 노트
Mistral AI는 Mixtral 8x7B를 출시했습니다. 이 Mixture of Experts(MoE) 모델은 Llama 2 70B를 능가하고 대부분의 벤치마크에서 GPT-3.5와 동등한 성능을 보이며 Apache 2.0 하에 상업적으로 허용됩니다.
Anthropic 연구: 언어 모델 결정에서의 차별 평가 및 완화
Anthropic은 언어 모델의 차별적 영향을 선제적으로 평가하고 완화하기 위한 방법론을 소개하며, 프롬프트 엔지니어링이 고위험 결정 시나리오에서 편향을 어떻게 줄일 수 있는지 보여줍니다.
SetFitABSA: 소수 샷 기반 측면 감정 분석
Hugging Face와 Intel Labs는 SetFitABSA를 소개했습니다. 이는 프롬프트가 필요 없는 소수 샷 기반 측면 감정 분석 프레임워크로, 데이터가 적은 상황에서 Llama 2와 T5와 같은 대형 생성 모델보다 뛰어난 성능을 보입니다.
Optimum-NVIDIA 릴리즈 노트
Hugging Face는 FP8 양자화와 TensorRT-LLM을 사용하여 NVIDIA 플랫폼에서 LLM 추론을 최대 28배 가속하는 추론 라이브러리 Optimum-NVIDIA를 출시했습니다.
Hugging Face LoRA 동적 로딩으로 추론 속도 300% 향상 및 지연 시간 감소
Hugging Face는 워밍‑업 시간을 25 초에서 3 초로 줄이고, LoRA 추론을 최대 300 % 빠르게 만들며 전체 응답 시간을 35 초에서 13 초로 단축하는 동적 LoRA 로딩 시스템을 발표했습니다.
허깅 페이스와 AMD GPU 가속 for LLMs
허깅 페이스와 AMD는 Transformers 라이브러리와 Text Generation Inference에 AMD Instinct GPU에 대한 기본 제공 지원을 통합하여, 코드 변경 없이 고성능 LLM 실행을 가능하게 했습니다.