✷ 아카이브 · 연구소 11곳 · 디스패치 3,059건
연구소
매일 아침 십여 개의 공식 블로그를 돌아볼 필요가 없습니다. OpenAI, Anthropic, DeepMind 등의 일차 발표를 핵심만 뽑아서.
SmolVLM 출시 노트 / 새로운 기능
Hugging Face는 낮은 메모리 점유율과 엣지 디바이스에서의 높은 처리량에 최적화된, 완전한 오픈 소스인 2B 파라미터 Vision Language Model (VLM) SmolVLM을 선보입니다.
당신은 최첨단 위치 인코딩을 설계할 수 있었을 것입니다
허깅 페이스 블로그 글은 트랜스포머를 위한 위치 인코딩의 반복적 설계를 안내하며, sinusoidal 인코딩이 어떻게 Rotary Positional Encoding (RoPE)로 이어지는지 보여주고, 이것이 토큰 관계 모델링에 왜 중요한지 설명합니다.
Anthropic Model Context Protocol (MCP) 출시
Anthropic은 파편화된 통합을 제거하기 위해 콘텐츠 저장소, 비즈니스 도구, 개발 환경과 같은 데이터 소스에 AI 어시스턴트를 연결하는 범용 표준인 Model Context Protocol (MCP)을 오픈 소스로 공개했습니다.
Ollama Python 라이브러리 0.4 릴리스 노트
Ollama Python 라이브러리 0.4는 Python 함수를 직접 도구로 전달할 수 있게 하며, Pydantic과 docstring 파싱을 통해 JSON 스키마 생성을 자동화합니다.
Anthropic과 AWS, AI 개발을 위한 파트너십 확대
Anthropic과 AWS는 Amazon의 새로운 40억 달러 투자와 미래 파운데이션 모델을 위한 Trainium 하드웨어 최적화를 위한 심층적인 기술 파트너십을 특징으로 하는 협업을 확대했습니다.
사람과 AI를 통한 레드 팀링 발전 – OpenAI의 접근 방식 및 o1 패밀리 적용
OpenAI는 AI 모델에 대한 외부 레드 팀링 프로세스를 상세히 설명하는 백서를 출판하고, 이를 바탕으로 OpenAI o1 패밀리를 공개 출시 준비에 적용했습니다.
GrabMaps를 위한 Grab의 GPT-4o Vision Fine-Tuning
Grab은 GrabMaps를 위한 교통 표지판 위치 식별 및 차선 수 계산을 자동화하기 위해 GPT-4o vision fine-tuning을 도입했으며, 이를 통해 속도 제한 표지판 위치 식별은 13%, 차선 수 정확도는 20% 향상되었습니다.
Hugging Face와 LLM-jp, 오픈 일본어 LLM 리더보드 출시
Hugging Face와 LLM-jp가 투명한 평가 플랫폼인 Open Japanese LLM Leaderboard를 도입했습니다. 이 플랫폼은 20개가 넘는 데이터셋을 통해 일본어 대형 언어 모델의 성능을 벤치마킹합니다.
Hugging Face가 저장 효율을 높이기 위해 콘텐츠 정의 청킹을 도입합니다
Hugging Face는 Xet 팀을 통해 콘텐츠 정의 청킹 저장 방식을 발표했으며, 이는 수정된 청크만 업로드하여 대용량 모델 및 데이터셋 파일의 저장 및 전송 비용을 줄입니다.
자체 추측 디코딩을 통한 더 빠른 텍스트 생성
Hugging Face는 LayerSkip을 통해 자체 추측 디코딩을 소개합니다. 이는 단일 LLM의 초기 레이어를 초안 작성에 사용하고 posteriores 레이어를 검증에 사용하여 생성 속도를 높이고 메모리 오버헤드를 줄이는 방법입니다.
FlagEval Debate: 새로운 다국어 LLM 평가 프레임워크
BAAI는 다국어 토론에서 LLMs가 경쟁하여 추론, 논리 및 적대적 능력을 더 잘 평가할 수 있도록 하는 동적 평가 플랫폼인 FlagEval Debate를 출시했습니다.
Rox 수익 플랫폼 OpenAI 통합
Rox는 OpenAI의 API를 사용하여 데이터 통합, 판매 워크플로우 자동화 및 계정 모니터링을 수행하는 AI 에이전트 스웜 시스템을 통해 AI 기반 수익 관리 플랫폼을 출시했습니다.
Hugging Face Judge Arena: LLM을 평가자로 벤치마킹하기
Hugging Face는 다른 AI 생성 응답을 채점하는 평가자로서 어떤 LLM이 가장 효과적인지 결정하기 위해 사용자 투표를 사용하는 크라우드소싱 플랫폼인 Judge Arena를 출시했습니다.
Anthropic 모델 평가를 위한 통계적 접근법
Anthropic는 중심극한정리와 검정력 분석과 같은 도구를 활용하여 실제 능력 차이와 무작위 노이즈를 구분할 수 있는 엄격한 통계적 프레임워크를 제안한다.
Mistral AI le Chat 업데이트 2024년 11월
Mistral AI는 인용 기능이 포함된 웹 검색, 협업용 Canvas 인터페이스, 그리고 Pixtral Large 기반의 멀티모달 기능을 포함하여 le Chat에 여러 베타 기능을 도입했습니다.
Pixtral Large 릴리스 노트
Mistral AI는 Mistral Large 2의 텍스트 능력을 유지하면서 MathVista, DocVQA, 및 VQAv2에서 최첨단 성능을을 달성하는 124B 오픈 웨이트 멀티모달 모델인 Pixtral Large를 출시했습니다.
OpenAI가 프랑스 AI 생태계 확장을 위해 파리 사무소를 개설
OpenAI는 프랑스 조직, 스타트업 및 정부 협력 전반에 걸친 AI의 빠른 채택을 지원하기 위해 파리에 새로운 사무소를 개설했습니다.
Qwen2.5-Turbo 1M 토큰 컨텍스트 길이 출시
Qwen은 Qwen2.5-Turbo를 출시했으며, 이는 모델의 컨텍스트 윈도우를 1백만 토큰으로 확장하면서 추론 속도를 크게 향상시키고 짧은 시퀀스 작업에서 경쟁력 있는 성능을 유지합니다.
에스티 로더 컴퍼니즈 ChatGPT Enterprise 구현
에스티 로더 컴퍼니즈는 ChatGPT Enterprise를 배포하여 75+ 년 이상의 소비자 및 임상 데이터를 분석하고, 제품 개발 및 시장 responsiveness를 가속화하기 위해 240개 이상의 맞춤형 GPT를 만들었습니다.
연구자를 위한 Hugging Face Hub 데이터셋 공유
Hugging Face Hub는 탐색, 보안 및 커뮤니티 참여를 위한 통합 도구와 함께 대규모 ML 데이터셋을 호스팅하고 공유할 수 있는 포괄적인 플랫폼을 제공합니다.
Qwen2.5-Coder 시리즈 릴리스 노트
Qwen은 0.5B부터 32B까지 여섯 가지 모델 크기를 갖춘 Qwen2.5-Coder 시리즈를 출시했으며, 32B-Instruct 모델은 코딩 작업에서 GPT-4o와 comparable한 SOTA 오픈소스 성능을 달성했습니다.
Mistral Batch API 출시
Mistral AI는 사용자가 동기식 API 호출보다 50% 낮은 비용으로 대량의 요청을 처리할 수 있는 Batch API를 출시했습니다.
Mistral Moderation API 출시
Mistral AI는 AI 배포를 위한 시스템 수준의 가드레일을 제공하기 위해 여러 언어에 걸쳐 텍스트를 9가지 안전 카테고리로 분류하는 LLM 기반 분류기인 새로운 콘텐츠 모더레이션 API를 출시했습니다.
Ollama에서 Llama 3.2 Vision 사용 가능
Ollama가 11B 및 90B 파라미터 크기의 Llama 3.2 Vision 지원을 출시하여, OCR 및 이미지 분석을 포함한 멀티모달 기능의 로컬 실행을 가능하게 했습니다.
허깅 페이스 PyCharm 통합
허깅 페이스는 허브를 PyCharm Professional에 직접 통합하여, 개발자가 IDE를 떠나지 않고 머신러닝 모델을 발견, 삽입, 관리할 수 있도록 합니다.
Argilla 2.4 릴리즈 노트 / 새로운 내용
Argilla 2.4는 인간 피드백을 통해 파인튜닝 및 평가 데이터셋을 구축하기 위해 Hugging Face Hub 데이터셋을 가져오는 노코드 UI를 도입했습니다.
xAI API 퍼블릭 베타 출시
xAI는 grok-beta 모델을 시작으로 개발자에게 Grok 시리즈 파운데이션 모델에 대한 프로그래밍 방식의 액세스를 제공하기 위해 API의 퍼블릭 베타를 출시했습니다.
Amazon Bedrock에서의 Claude 3 Haiku 미세 조정
Anthropic은 Amazon Bedrock 내에서 Claude 3 Haiku의 미세 조정 기능을 정식 출시하여, 사용자가 전문적인 작업을 위해 모델을 맞춤화함으로써 더 높은 정확도와 더 낮은 비용을 달성할 수 있도록 했습니다.
ChatGPT 검색 소개
OpenAI는 ChatGPT에 새로운 웹 검색 기능을 통합하여 사용자가 관련 웹 소스에 대한 직접 링크와 함께 빠르고 시의적절한 답변을 얻을 수 있게 했습니다.
Promega ChatGPT 채택 사례 연구
Promega는 조직 전반에 ChatGPT를 통합했으며, 1,400개 이상의 맞춤형 GPT를 배포하여 제조, 영업 및 마케팅 워크플로를 가속화했습니다.
앤트로픽: 집중적 AI 규제의 필요성
앤트로픽은 다음 18개월 내에 선도적인 AI 모델에 대한 긴급하고 집중적인 정부 규제를 촉구하며, 사이버 및 CBRN 위험을 완화하면서도 혁신을 유지할 수 있도록 한다.
OpenAI SimpleQA 벤치마크 릴리스
OpenAI는 최첨단 언어 모델의 사실 정확도와 캘리브레이션을 평가하기 위해 4,326개의 짧은 사실 탐색 질문으로 구성된 오픈소스 벤치마크인 SimpleQA를 공개했습니다.
OpenAI와 함께하는 Decagon 고객 지원 자동화
Decagon은 GPT-3.5, GPT-4 및 o1-mini를 포함한 다중 모델 전략을 활용하여 기업 고객의 전 세계 지원을 최대 91%까지 자동화합니다.
범용 보조 생성: 모든 어시스턴트 모델을 활용한 빠른 디코딩
Hugging Face와 Intel Labs는 Universal Assisted Generation (UAG)을 도입했습니다. 이 방법은 토크나이저와 무관하게 어떤 작은 모델이든 어시스턴트로 활용할 수 있게 하여 LLM 추론 속도를 1.5배~2.0배 가속화합니다.
Claude 3.5 Sonnet GitHub Copilot 통합
Anthropic의 Claude 3.5 Sonnet이 이제 GitHub Copilot에서 퍼블릭 프리뷰로 제공되어, SWE-bench Verified에서 다른 공개 모델들을 능가하는 고성능 코딩 모델을 개발자들에게 제공합니다.
Digital Green Farmer.chat: LLM-as-a-Judge로 RAG 강화
Digital Green은 Farmer.chat(리트리벌-증강 생성 기반 농업 챗봇)을 위해 LLM-as-a-judge 평가 프레임워크를 구현하여 RAG 정확성을 객관적으로 측정하고 34만 건의 질의에 걸쳐 모델 선택을 최적화했습니다.
Anthropic 특성 조정 평가: 사회적 편향 완화를 위한 사례 연구
Anthropic 연구팀은 클로드 3 손넷에서 특성 조정이 특정 사회적 편향과 정치적 입장을 타겟으로 할 수 있지만, 종종 예측할 수 없는 목표 외 효과를 유발하고, 특정 조정 범위를 벗어나면 모델 능력을 저하시킨다는 것을 발견했다.
Aya Expanse 출시: 다국어 LLM 성능 향상
Hugging Face와 Cohere For AI가 8B와 32B 오픈-웨이트 모델군인 Aya Expanse를 출시했으며, 이는 다국어 성능에 대한 새로운 최첨단 벤치마크를 설정했습니다.
연속 시간 일관성 모델을 단순화하고, 안정화하며, 확장하기
OpenAI는 연속 시간 일관성 모델을 단순화한 sCM을 소개합니다. 이 모델은 단 두 번의 샘플링 단계만으로 확산 수준의 샘플 품질을 달성하며, 생성 속도를 약 50배 가속합니다.
HUGS 출시: 무구성, 하드웨어 최적화 추론을 위한 오픈 LLM
Hugging Face는 무구성, 하드웨어 최적화 추론 서비스인 HUGS를 출시했습니다. 이 서비스는 NVIDIA, AMD, 그리고 곧 AWS Inferentia와 Google TPU에서 실행되며, 기업이 OpenAI 호환 API를 통해 모델을 사내에 호스팅할 수 있게 합니다.
CinePile 2.0 릴리스: 적대적 정제가 비디오 QA 데이터셋 품질을 향상시킵니다
CinePile 2.0은 약한 QA 쌍을 시각‑종속 질문으로 업그레이드하는 적대적 정제 파이프라인을 도입하여 개선된 데이터셋과 전체 코드를 공개하고, 상업용 및 오픈소스 비디오‑LLM에서 상당한 성능 향상을 보여줍니다.
Transformers v4.46.0에서 SynthID Text 통합
Google DeepMind와 Hugging Face가 SynthID Text를 Transformers v4.46.0에 통합하여, AI 생성 텍스트에 눈에 띄지 않는 워터마크를 적용하고 훈련된 분류기로 탐지할 수 있는 방법을 제공했습니다.
OpenAI와 Microsoft, Lenfest Institute와 AI 협업 및 펠로우십 프로그램 파트너십 체결
OpenAI와 Microsoft는 Lenfest Institute for Journalism과 파트너십을 맺어 지역 뉴스룸이 비즈니스 지속 가능성과 혁신을 위해 AI를 구현할 수 있도록 1천만 달러의 자금 및 크레딧을 제공합니다.
Hugging Face Inference Endpoints에서 Speech-to-Speech 배포
Hugging Face는 높은 계산 요구량을 처리하고 지연 시간을 줄이기 위해 Inference Endpoints에서 커스텀 Docker 이미지를 사용해 Speech-to-Speech (S2S) 파이프라인을 배포하는 가이드를 제공합니다.
Outlines-core 0.1.0 릴리즈 노트 / 새로운 소식
Hugging Face와 dottxt가 구조화된 생성을 위한 Outlines 핵심 알고리즘을 Rust로 포팅한 `outlines-core` 0.1.0을 출시했으며, 인덱스 컴파일 속도와 이식성을 향상시켰습니다.
Stable Diffusion 3.5 Large와 Diffusers 통합
Hugging Face는 표준 및 타임스텝-디스틸 버전으로 제공되는 8B 파라미터 모델인 Stable Diffusion 3.5 Large를 Diffusers 라이브러리에 통합했습니다.
Hugging Face, Protect AI와 파트너십을 맺어 모델 보안을 위한 Guardian 스캐너를 추가
Hugging Face는 Protect AI와 파트너십을 맺어 Guardian 스캐너를 Hub에 통합했으며, 위험한 모델 직렬화 악용을 자동으로 감지하고 전체 ML 커뮤니티의 보안을 향상시킵니다.
Transformers.js v3 릴리스, WebGPU 가속, 확장된 모델 지원 및 서버‑사이드 JavaScript 호환성 추가
Transformers.js v3는 WebGPU 가속, 새로운 양자화 포맷, 120개의 모델 아키텍처 지원, 그리고 Node.js/Deno/Bun과의 호환성을 추가하여 브라우저와 JavaScript 런타임에서 빠른 온‑디바이스 추론을 가능하게 합니다.
Anthropic Claude 3.5 Sonnet 및 Claude 3.5 Haiku 출시
Anthropic은 업그레이드된 Claude 3.5 Sonnet과 새로운 Claude 3.5 Haiku를 출시했으며, 모델이 표준 컴퓨터 인터페이스와 상호작용할 수 있게 하는 혁신적인 'computer use' 기능의 퍼블릭 베타를 함께 시작했습니다.
Keras에서 Llama 3.2
Llama 3.2는 keras‑hub를 통해 Keras에서 완전히 지원되며, 사용자는 Hugging Face 체크포인트를 로드하고 모델을 JAX, PyTorch 또는 TensorFlow 백엔드에서 실행할 수 있습니다.