✷ 아카이브 · 연구소 11곳 · 디스패치 3,059건
연구소
매일 아침 십여 개의 공식 블로그를 돌아볼 필요가 없습니다. OpenAI, Anthropic, DeepMind 등의 일차 발표를 핵심만 뽑아서.
Anthropic 컨텍스트 기반 검색 기법이 RAG 정확도 향상
Anthropic는 청크별 컨텍스트를 임베딩과 BM25 인덱스에 사전에 추가하는 전처리 방법인 컨텍스트 기반 검색을 발표했습니다. 이 방법은 상위 20개 검색 실패율을 최대 67% 감소시키며, 더 저렴하고 신뢰할 수 있는 검색 증강 생성(RAG)을 가능하게 합니다.
Anthropic Contextual Retrieval
Anthropic는 데이터를 임베딩하기 전에 청크별 맥락을 추가함으로써 RAG 검색 실패율을 최대 67%까지 감소시키는 Contextual Retrieval 기법을 도입했습니다.
Qwen2.5 릴리스 노트: 새로운 기반, 코더 및 수학 모델
Qwen은 일반 목적 LLM, 특화된 코더 및 수학 변형, 그리고 업데이트된 Qwen2-VL-72B를 포함한 포괄적인 오픈-웨이트 밀집 디코더 전용 모델 스위트인 Qwen2.5를 출시했습니다.
Qwen2.5 LLM 시리즈 출시
Qwen은 Qwen2.5 시리즈를 발표했습니다 – 0.5B에서 72B 파라미터까지의 오픈소스 디코더‑전용 LLM으로, Qwen2 대비 능력이 두 배가 되었으며 18조 토큰 규모의 데이터셋, 지식·코딩·수학·정렬에서 큰 향상, 그리고 128K 토큰 컨텍스트 윈도우를 추가했습니다.
Qwen2.5-Coder 릴리스 노트
Qwen은 5.5조 토큰으로 학습된 오픈소스 코딩 모델 시리즈인 Qwen2.5-Coder를 출시했으며, 코드 생성, 추론 및 수학 분야에서 더 큰 모델보다 뛰어난 성능을 보입니다.
Qwen2.5-Math 릴리즈 노트
Qwen은 Qwen2.5-Math를 출시했습니다. 이 시리즈는 양방향 추론과 도구 통합 추론(TIR)을 지원하는 오픈소스 수학 LLM으로, 복잡한 수학 벤치마크에서 선도적인 폐쇄형 모델들을 능가합니다.
LLM을 1.58비트로 파인튜닝: BitNet을 이용한 극단적인 양자화
Hugging Face는 Llama 3 8B와 같은 기존 LLM을 동적 워밍업 양자화 전략을 사용해 1.58비트 삼진 정밀도로 파인튜닝할 수 있음을 보여주며, 메모리와 에너지 요구량을 크게 줄이면서도 강력한 성능을 유지합니다.
Bespoke-Minicheck: 지문 기반 사실성 검증을 통한 LLM 환각 현상 감소
Ollama는 Bespoke Labs에서 개발한 지문 기반 사실성 검증 모델인 Bespoke-Minicheck를 통합하여, 주장이 소스 문서에 기반하는지 검증함으로써 환각 현상을 탐지합니다.
Arco Educação와 OpenAI가 브라질 교육 향상을 위해 파트너십 체결
Arco Educação는 OpenAI와 협력해 GPT‑4 기반 도구, 특히 교사 어시스턴트를 도입함으로써 브라질에서 행정 업무 부담을 줄이고 다양한 학습 요구를 가진 학생들을 위한 맞춤형 수업 계획을 생성합니다.
Mistral AI 9월 2024 릴리스
Mistral AI는 la Plateforme의 무료 레벨, 전체 모델 라인업의 상당한 가격 인하, Mistral Small v24.09 모델, 그리고 le Chat에서의 무료 시각 기능을 제공하는 Pixtral 12B를 도입했습니다.
Pixtral 12B 릴리스 노트
Mistral AI는 새로운 4억 파라미터 비전 인코더와 120억 파라미터 디코더를 결합한 본질적으로 다중모달 모델인 Pixtral 12B를 출시했습니다. 이 모델은 텍스트 능력을 훼손하지 않으면서 고성능의 다중모달 추론을 제공합니다.
Hugging Face 데이터셋용 SQL 콘솔
Hugging Face는 DuckDB WASM을 기반으로 하는 브라우저 기반 SQL 콘솔을 도입했으며, 이를 통해 사용자는 백엔드 의존성 없이 Hub에서 직접 데이터셋을 쿼리하고, 필터링하며, 변환할 수 있습니다.
OpenAI 안전 및 보안 관행 업데이트
OpenAI는 모델 개발 및 배포를 위한 핵심 안전 및 보안 조치를 관리하기 위해 독립적인 이사회 감독 위원회를 설립했습니다.
HuggingChat 커뮤니티 도구 출시
Hugging Face는 HuggingChat에 커뮤니티 도구를 도입하여 사용자가 공개 Hugging Face Space를 LLM이 채팅 인터페이스 내에서 직접 사용할 수 있는 도구로 통합할 수 있게 했습니다.
Accelerate 1.0.0 릴리스 후보 발표
Accelerate 1.0.0 릴리스 후보는 FP8, DeepSpeed 멀티 모델, torch.compile, 그리고 새로운 데이터 로더/파이프라인 기능을 추가하면서 대규모 학습 및 추론을 위한 API를 안정화합니다.
OpenAI o1-preview 릴리스 노트 / 새로운 소식
OpenAI는 과학, 코딩, 수학 분야의 복잡한 문제를 장시간 사고를 통해 해결하도록 설계된 새로운 추론 모델 시리즈인 o1-preview와 o1-mini를 출시했습니다.
LLM을 활용한 OpenAI의 추론 학습
OpenAI는 최신 모델의 추론 능력을 복잡한 암호 해독 작업의 상세한 walkthrough를 통해 시연하며, 이를 해결하기 위해 필요한 단계별 논리적 진행 과정을 보여줍니다.
OpenAI o1-mini 릴리스 노트
OpenAI는 STEM 작업에 최적화된 비용 효율적인 추론 모델인 o1-mini를 출시했습니다. 이 모델은 o1-preview에 비해 지연 시간과 비용을 크게 낮추면서도 수학 및 코딩에서 높은 성능을 유지합니다.
OpenAI o1 기여
OpenAI는 OpenAI o1 모델을 개발한 내부 및 외부 기여자들의 포괄적인 목록을 공개했으며, 그 과정에서의 조직 역할과 안전 리더십을 상세히 설명했습니다.
OpenAI o1와 코딩
OpenAI o1는 고급 추론 기능을 통해 사용자가 더 복잡하고 일관된 코드를 구축하도록 함으로써 소프트웨어 개발을 향상시킵니다.
OpenAI o1와 양자 물리학
OpenAI o1는 응답하기 전에 더 많은 시간을 생각에 할애함으로써 과학, 코딩 및 수학 분야에서 복잡한 추론을 위해 설계된 새로운 AI 모델 시리즈입니다.
OpenAI o1와 경제학
OpenAI o1은 응답하기 전에 더 많은 시간을 생각함으로써 과학, 코딩, 수학 및 경제학에서 복잡한 작업을 추론하도록 설계된 새로운 AI 모델 시리즈입니다.
OpenAI o1와 함께하는 유전학 해독
OpenAI o1는 과학, 코딩, 수학 분야에서 복잡한 추론을 위해 설계된 새로운 AI 모델 시리즈로, Catherine Brownstein과 같은 유전학자들에게 방대한 유전체 데이터의 복잡성을 관리할 수 있는 도구를 제공합니다.
Anthropic Circuits Updates August 2024
Anthropic의 2024년 8월 Circuits 업데이트는 멀티에이전트 시스템의 실패, 노동자 재교육 프로그램, 그리고 리만 가설에 대한 Claude 연구용 버전의 진전 사항에 대한 예비 연구 통찰력을 제공합니다.
Ada 고객 서비스 자동화 with GPT-4
Ada는 GPT-4를 사용해 AI 기반 고객 서비스 플랫폼을 재구축했으며, 해결 비율을 30%에서 최대 60%로 두 배로 늘렸고(최고 성능 고객은 80% 이상).
Hugging Face와 TruffleHog의 비밀 스캔 파트너십
Hugging Face는 Truffle Security와 파트너십을 맺어 TruffleHog의 비밀 스캔 기능을 자동 파이프라인에 통합하고, 사용자가 자체 계정 데이터를 사전 스캔할 수 있는 네이티브 스캐너를 제공한다.
Salesforce Anthropic Claude AI 통합
Salesforce는 Amazon Bedrock을 통해 Anthropic의 Claude 3.5 Sonnet, Claude 3 Opus, Claude 3 Haiku 모델을 자사 플랫폼에 통합하여, 기업이 AI 기반 CRM 애플리케이션을 맞춤화할 수 있도록 했습니다.
Qwen2-VL 릴리스: 오픈소스 2B/7B 비전‑언어 모델 및 72B API와 최첨단 이미지, 비디오, 다국어 기능
Qwen은 Qwen2-VL을 출시했습니다. 이는 새로운 비전‑언어 모델 시리즈(2B, 7B 오픈소스, 72B API)로, 이미지, 문서, 다국어 및 장시간 비디오 이해에서 최첨단 성능을 달성하고 시각 에이전트 기능을 지원합니다.
LeRobotDataset 비디오 인코딩 포맷이 로봇 데이터셋 크기를 줄이고 학습 속도를 높입니다
Hugging Face는 LeRobotDataset 비디오 인코딩 포맷을 출시하여 로봇 시각 데이터를 원본 크기의 약 14 %로 축소하면서 로딩 속도와 학습 성능을 유지합니다.
애리조나 주립대학, 맞춤형 교육을 위해 ChatGPT Edu 통합
애리조나 주립대학은 181,000명의 학생들을 위해 학습을 맞춤화하고, 연구를 진전시키며, 운영 효율성을 향상시키기 위해 200개가 넘는 프로젝트에 ChatGPT Edu를 배포했습니다.
Hugging Face 블로그 게시물은 다섯 가지 저평가된 Hub 도구와 무료 의미 검색 사용 사례를 강조합니다
Hugging Face는 ZeroGPU, 멀티프로세스 Docker, Gradio API, 웹훅, Nomic Atlas 등 다섯 가지 저평가된 Hub 도구를 발표하고, 이를 결합해 Reddit 데이터를 위한 무료 자동 업데이트 의미 검색 앱을 만드는 방법을 보여주었습니다.
Hugging Face 훈련 효율성: Flash Attention 2와 패킹
Hugging Face는 지시 튜닝 예제에 대한 경계 인식 패킹을 도입했으며, Flash Attention 2와 함께 사용할 경우 훈련 처리량을 최대 2배 증가시키고 피크 메모리를 20% 감소시킵니다.
OpenAI와 Condé Nast의 콘텐츠 통합 파트너십
OpenAI는 Vogue와 The New Yorker와 같은 브랜드의 콘텐츠를 ChatGPT와 SearchGPT 프로토타입에 통합하여 정보 탐색 및 출처 표기를 개선하기 위해 Condé Nast와 파트너십을 체결했습니다.
Upwork OpenAI 통합 및 AI-First 전략
Upwork는 OpenAI 중심의 생태계로 전환하여 GPT-4o와 GPT-3.5를 마켓플레이스 기능, 내부 사기 탐지 및 ChatGPT Enterprise를 통한 기업 생산성에 통합했습니다.
OpenAI, 무료 토큰 할당량과 플랫폼 종료 발표와 함께 GPT‑4o 파인튜닝 출시
OpenAI는 GPT‑4o에 대한 파인튜닝을 출시하여 개발자가 최소한의 데이터로 모델을 맞춤화할 수 있게 하고, 9월 23일까지 무료 학습 토큰을 제공하며, 2026 년 5 월 8일 이후 신규 사용자에게는 플랫폼이 종료될 것임을 발표했습니다.
Google Cloud Vertex AI에서 Meta Llama 3.1 405B 배포
Hugging Face는 Text Generation Inference(TGI)와 A3 머신 시리즈를 사용하여 Google Cloud Vertex AI에 Meta Llama 3.1 405B의 FP8 양자화 버전을 프로그래밍 방식으로 배포하는 가이드를 제공합니다.
OpenAI, 이란 영향 작전 Storm-2035를 차단
OpenAI는 이란 영향 작전 Storm-2035가 2024년 미국 선거 및 기타 전 세계 사건을 위한 정치 콘텐츠를 생성하는 데 사용한 ChatGPT 계정 클러스터를 차단했습니다.
Indeed 컨텍스트 기반 직무 매칭 with OpenAI
Indeed은 OpenAI의 GPT 모델을 통합해 직무 추천에 대한 개인화된 설명을 제공함으로써 구직 신청 시작이 20% 증가하고 후속 성공률이 13% 상승했습니다.
OpenAI와 메트 뮤지엄 협업: 잠자는 미녀들을 깨우다
OpenAI는 메트로폴리탄 미술관 의상 연구소와 협력하여, 큐레이션된 역사 데이터셋을 기반으로 방문객이 역사적 인물인 Natalie Potter와 상호작용할 수 있는 AI 기반 채팅 경험을 만들었습니다.
Hugging Face Infini-Attention 재현 분석
Hugging Face가 Infini-Attention을 재현하려는 시도에서, 게이팅 수렴을 개선할 수는 있지만 메모리 압축이 증가함에 따라 성능이 저하되고 Ring Attention, YaRN, RoPE 스케일링보다 신뢰성이 낮다는 것을 발견했습니다.
OpenAI SWE-bench Verified 출시: 인간 검증 벤치마크가 소프트웨어 엔지니어링 평가를 개선
OpenAI는 SWE‑bench Verified를 공개했습니다. 이는 SWE‑bench 소프트웨어 엔지니어링 벤치마크의 500개 샘플을 인간이 검증한 하위 집합으로, 모호한 이슈와 불공정한 테스트를 제거해 AI 모델의 코딩 능력을 보다 신뢰성 있게 평가할 수 있게 합니다. GPT‑4o는 이 샘플 중 33.2%를 해결했으며, 원본 벤치마크에서의 점수보다 두 배 이상 높습니다.
ggml 소개
ggml은 트랜스포머 추론 및 다양한 하드웨어 백엔드에서 온-디바이스 LLM 실행을 위해 최적화된 가벼운 C/C++ 머신러닝 라이브러리입니다.
Grok-2 베타 릴리스
xAI는 Grok-2와 Grok-2 미니를 베타로 출시하며, LMSYS 리더보드에서 Claude 3.5 Sonnet과 GPT-4 Turbo를 능가하는 대화, 코딩, 추론 능력을 갖춘 최첨단 기능을 제공합니다.
Hugging Face 통합 도구 사용 API
Hugging Face는 Mistral, Cohere, NousResearch, Llama 모델 전반에 걸쳐 도구 호출을 구현하기 위해 동일한 코드를 사용할 수 있도록 하는 통합 도구 사용 API를 도입했습니다.
Falcon Mamba 7B 릴리스 노트
Technology Innovation Institute (TII)는 Falcon Mamba 7B를 출시했습니다. 이는 대규모 순수 상태 공간 언어 모델(SSLM) 최초로, 최첨단 트랜스포머 모델의 성능에 필적하면서 어텐션 기반 메모리 스케일링 문제를 제거합니다.
Qwen2-Audio 릴리즈 노트
Qwen2-Audio는 8개 이상의 언어와 방언에 걸쳐 음성 채팅 및 오디오 분석이 가능한 오디오-언어 모델로, 여러 벤치마크에서 이전 최신 성능을 능가합니다.
Zico Kolter, OpenAI 이사회에 합류
OpenAI는 카네기 멜론 대학교의 교수이자 머신러닝 학과장인 Zico Kolter를 이사회와 안전·보안 위원회에 임명했습니다.
Hugging Face, Hub 스토리지 및 협업을 업그레이드하기 위해 XetHub 인수
Hugging Face는 Git LFS를 보다 효율적인 스토리지 백엔드로 교체하기 위해 XetHub를 인수했으며, 이를 통해 점진적 업데이트, 트릴리언 파라미터 모델 지원, 대규모 AI 데이터셋에 대한 협업을 개선합니다.
GPT‑4o 시스템 카드 – 기능, 안전 완화 조치 및 위험 평가
OpenAI는 GPT‑4o 시스템 카드를 공개했으며, 옴니 모델의 기능, 안전 완화 조치 및 전반적인 중간 위험 등급을 상세히 설명합니다.
Anthropic, 모델 안전성 버그 바운티 프로그램 확장
Anthropic는 다음 세대 AI 안전성 완화 기술에 대한 보편적 제거 공격을 발견한 경우 최대 $15,000을 보상하는 초대제 버그 바운티 프로그램을 확장했다. 이는 화학·생물학·방사선·핵(CBRN) 및 사이버보안과 같은 고위험 분야를 보호하는 것을 목표로 한다.