✷ 아카이브 · 연구소 11곳 · 디스패치 3,432건
연구소
매일 아침 십여 개의 공식 블로그를 돌아볼 필요가 없습니다. OpenAI, Anthropic, DeepMind 등의 일차 발표를 핵심만 뽑아서.
애리조나 주립대학, 맞춤형 교육을 위해 ChatGPT Edu 통합
애리조나 주립대학은 181,000명의 학생들을 위해 학습을 맞춤화하고, 연구를 진전시키며, 운영 효율성을 향상시키기 위해 200개가 넘는 프로젝트에 ChatGPT Edu를 배포했습니다.
OpenAI 파인튜닝 GPT-4o 웨비나
OpenAI는 2024년 8월 26일에 GPT-4o의 파인튜닝 기능에 초점을 맞춘 웨비나를 개최했습니다.
Hugging Face 블로그 게시물은 다섯 가지 저평가된 Hub 도구와 무료 의미 검색 사용 사례를 강조합니다
Hugging Face는 ZeroGPU, 멀티프로세스 Docker, Gradio API, 웹훅, Nomic Atlas 등 다섯 가지 저평가된 Hub 도구를 발표하고, 이를 결합해 Reddit 데이터를 위한 무료 자동 업데이트 의미 검색 앱을 만드는 방법을 보여주었습니다.
Hugging Face 훈련 효율성: Flash Attention 2와 패킹
Hugging Face는 지시 튜닝 예제에 대한 경계 인식 패킹을 도입했으며, Flash Attention 2와 함께 사용할 경우 훈련 처리량을 최대 2배 증가시키고 피크 메모리를 20% 감소시킵니다.
OpenAI와 Condé Nast의 콘텐츠 통합 파트너십
OpenAI는 Vogue와 The New Yorker와 같은 브랜드의 콘텐츠를 ChatGPT와 SearchGPT 프로토타입에 통합하여 정보 탐색 및 출처 표기를 개선하기 위해 Condé Nast와 파트너십을 체결했습니다.
Upwork OpenAI 통합 및 AI-First 전략
Upwork는 OpenAI 중심의 생태계로 전환하여 GPT-4o와 GPT-3.5를 마켓플레이스 기능, 내부 사기 탐지 및 ChatGPT Enterprise를 통한 기업 생산성에 통합했습니다.
OpenAI, 무료 토큰 할당량과 플랫폼 종료 발표와 함께 GPT‑4o 파인튜닝 출시
OpenAI는 GPT‑4o에 대한 파인튜닝을 출시하여 개발자가 최소한의 데이터로 모델을 맞춤화할 수 있게 하고, 9월 23일까지 무료 학습 토큰을 제공하며, 2026 년 5 월 8일 이후 신규 사용자에게는 플랫폼이 종료될 것임을 발표했습니다.
Google Cloud Vertex AI에서 Meta Llama 3.1 405B 배포
Hugging Face는 Text Generation Inference(TGI)와 A3 머신 시리즈를 사용하여 Google Cloud Vertex AI에 Meta Llama 3.1 405B의 FP8 양자화 버전을 프로그래밍 방식으로 배포하는 가이드를 제공합니다.
OpenAI, 이란 영향 작전 Storm-2035를 차단
OpenAI는 이란 영향 작전 Storm-2035가 2024년 미국 선거 및 기타 전 세계 사건을 위한 정치 콘텐츠를 생성하는 데 사용한 ChatGPT 계정 클러스터를 차단했습니다.
Indeed 컨텍스트 기반 직무 매칭 with OpenAI
Indeed은 OpenAI의 GPT 모델을 통합해 직무 추천에 대한 개인화된 설명을 제공함으로써 구직 신청 시작이 20% 증가하고 후속 성공률이 13% 상승했습니다.
OpenAI와 메트 뮤지엄 협업: 잠자는 미녀들을 깨우다
OpenAI는 메트로폴리탄 미술관 의상 연구소와 협력하여, 큐레이션된 역사 데이터셋을 기반으로 방문객이 역사적 인물인 Natalie Potter와 상호작용할 수 있는 AI 기반 채팅 경험을 만들었습니다.
Hugging Face Infini-Attention 재현 분석
Hugging Face가 Infini-Attention을 재현하려는 시도에서, 게이팅 수렴을 개선할 수는 있지만 메모리 압축이 증가함에 따라 성능이 저하되고 Ring Attention, YaRN, RoPE 스케일링보다 신뢰성이 낮다는 것을 발견했습니다.
OpenAI SWE-bench Verified 출시: 인간 검증 벤치마크가 소프트웨어 엔지니어링 평가를 개선
OpenAI는 SWE‑bench Verified를 공개했습니다. 이는 SWE‑bench 소프트웨어 엔지니어링 벤치마크의 500개 샘플을 인간이 검증한 하위 집합으로, 모호한 이슈와 불공정한 테스트를 제거해 AI 모델의 코딩 능력을 보다 신뢰성 있게 평가할 수 있게 합니다. GPT‑4o는 이 샘플 중 33.2%를 해결했으며, 원본 벤치마크에서의 점수보다 두 배 이상 높습니다.
ggml 소개
ggml은 트랜스포머 추론 및 다양한 하드웨어 백엔드에서 온-디바이스 LLM 실행을 위해 최적화된 가벼운 C/C++ 머신러닝 라이브러리입니다.
Grok-2 베타 릴리스
xAI는 Grok-2와 Grok-2 미니를 베타로 출시하며, LMSYS 리더보드에서 Claude 3.5 Sonnet과 GPT-4 Turbo를 능가하는 대화, 코딩, 추론 능력을 갖춘 최첨단 기능을 제공합니다.
Hugging Face 통합 도구 사용 API
Hugging Face는 Mistral, Cohere, NousResearch, Llama 모델 전반에 걸쳐 도구 호출을 구현하기 위해 동일한 코드를 사용할 수 있도록 하는 통합 도구 사용 API를 도입했습니다.
Falcon Mamba 7B 릴리스 노트
Technology Innovation Institute (TII)는 Falcon Mamba 7B를 출시했습니다. 이는 대규모 순수 상태 공간 언어 모델(SSLM) 최초로, 최첨단 트랜스포머 모델의 성능에 필적하면서 어텐션 기반 메모리 스케일링 문제를 제거합니다.
Qwen2-Audio 릴리즈 노트
Qwen2-Audio는 8개 이상의 언어와 방언에 걸쳐 음성 채팅 및 오디오 분석이 가능한 오디오-언어 모델로, 여러 벤치마크에서 이전 최신 성능을 능가합니다.
Zico Kolter, OpenAI 이사회에 합류
OpenAI는 카네기 멜론 대학교의 교수이자 머신러닝 학과장인 Zico Kolter를 이사회와 안전·보안 위원회에 임명했습니다.
Hugging Face, Hub 스토리지 및 협업을 업그레이드하기 위해 XetHub 인수
Hugging Face는 Git LFS를 보다 효율적인 스토리지 백엔드로 교체하기 위해 XetHub를 인수했으며, 이를 통해 점진적 업데이트, 트릴리언 파라미터 모델 지원, 대규모 AI 데이터셋에 대한 협업을 개선합니다.
GPT‑4o 시스템 카드 – 기능, 안전 완화 조치 및 위험 평가
OpenAI는 GPT‑4o 시스템 카드를 공개했으며, 옴니 모델의 기능, 안전 완화 조치 및 전반적인 중간 위험 등급을 상세히 설명합니다.
Anthropic, 모델 안전성 버그 바운티 프로그램 확장
Anthropic는 다음 세대 AI 안전성 완화 기술에 대한 보편적 제거 공격을 발견한 경우 최대 $15,000을 보상하는 초대제 버그 바운티 프로그램을 확장했다. 이는 화학·생물학·방사선·핵(CBRN) 및 사이버보안과 같은 고위험 분야를 보호하는 것을 목표로 한다.
OpenAI, 데이터 기반 인력 구현 웨비나
OpenAI는 2024년 8월 8일 웨비나를 공개했으며, 직원들이 데이터를 분석하고 인사이트를 발견하기 위해 ChatGPT Enterprise를 어떻게 사용할 수 있는지 시연했습니다.
Qwen2-Math 릴리즈 노트
Qwen은 Qwen2-Math라는 특화된 수학 LLM 시리즈(1.5B, 7B, 72B)를 출시했으며, 수학 벤치마크에서 GPT-4o를 포함한 여러 폐쇄형 모델보다 뛰어난 성능을 보입니다.
라쿠텐과 OpenAI 파트너십: 생성 AI를 활용한 고객 인사이트
라쿠텐은 OpenAI의 API, RAG, Code Interpreter를 활용해 비정형 데이터를 자동화된 고객 서비스, 리뷰 요약, 그리고 B2B 시장 인사이트로 전환하고 있습니다.
Mistral AI 모델 커스텀 및 에이전트 출시
Mistral AI는 Mistral Large 2 및 Codestral을 포함한 플래그십 모델에 대한 모델 커스텀 기능을 도입했으며, 에이전트의 알파 출시와 클라이언트 SDK의 안정적인 1.0 버전을 함께 출시했습니다.
OpenAI 구조화된 출력 API 기능 발표
OpenAI는 2024년 8월 6일에 구조화된 출력을 도입했습니다. 이는 개발자가 제공한 JSON 스키마와 모델 응답이 정확히 일치하도록 보장하는 새로운 API 기능으로, 데이터 중심 애플리케이션의 신뢰성을 향상시킵니다.
Hugging Face TextImage Augmentation 파이프라인 릴리스
Hugging Face와 Albumentations AI는 문서 이미지와 텍스트를 동시에 수정하는 TextImage Augmentation 파이프라인을 출시했으며, 이를 통해 제한된 문서 데이터셋에서 현실적인 합성 데이터 생성 및 비전‑언어 모델의 강력한 파인‑튜닝이 가능해졌습니다.
Hugging Face 2024 보안 기능 하이라이트
Hugging Face는 2024년 보안 환경을 상세히 설명하며, 모든 사용자를 위한 기본 보호 기능 세트와 엔터프라이즈 Hub 사용자를 위한 고급 거버넌스 제어를 도입했습니다.
Claude AI Brazil 가용성
Anthropic은 웹, 모바일 앱 및 API를 통해 브라질의 소비자 및 기업에 AI 어시스턴트인 Claude의 가용성을 확장했습니다.
Google이 Gemma 2 2B, ShieldGemma 및 Gemma Scope를 출시했습니다
Google은 Gemma 2 2B, ShieldGemma 안전 분류기, 그리고 Gemma Scope 희소 오토인코더를 출시하여 오픈소스 LLM 기능, 검열 도구 및 해석 가능성 리소스를 확장했습니다.
Anthropic Circuits 7월 2024 업데이트
Anthropic는 2024년 7월, 해석 가능성, 다중 에이전트 시스템 실패, 공개되지 않은 클로드 연구 버전에서의 수학적 돌파구에 초점을 맞춘 일련의 초안 연구 업데이트를 발표했다.
Quanto 양자화가 Transformer 확산 파이프라인의 메모리를 절감합니다
Hugging Face 양자화(Quanto)는 Transformer 확산 모델의 GPU 메모리를 약 12 GB에서 약 5 GB로 줄이며 지연 시간과 품질 영향을 최소화합니다.
Hugging Face NVIDIA NIM API (serverless) 출시 및 폐지
Hugging Face는 Enterprise Hub 사용자를 위해 NVIDIA DGX Cloud H100 GPU에서 오픈소스 LLM을 OpenAI 호환 API로 사용량 기반(pay‑as‑you‑go) 서버리스 추론할 수 있는 **NVIDIA NIM API (serverless)** 를 출시했습니다.
LAVE: LLM을 활용한 Docmatix의 제로샷 VQA 평가
Hugging Face는 전통적인 VQA 메트릭의 경직성을 해결하기 위해 LAVE(LLM‑Assisted VQA Evaluation)를 도입했으며, Docmatix 데이터셋에서 제로샷 성능을 평가할 때 50% 수준의 정확도 향상을 입증했습니다.
OpenAI SearchGPT 프로토타입 발표
OpenAI는 AI 모델과 실시간 웹 정보를 결합하여 명확한 출처 인용과 함께 직접 답변을 제공하는 임시 프로토타입인 SearchGPT를 소개했습니다.
Ollama 도구 지원 출시
Ollama는 Llama 3.1과 같은 모델에 대해 도구 호출 지원을 도입하여, 로컬 LLM이 외부 API, 함수 및 코드 인터프리터와 상호작용할 수 있도록 합니다.
Mistral Large 2 release notes / what's new
Mistral AI가 코딩, 추론 및 다국어 기능에서 경쟁력 있는 성능을 가진, 고처리량 단일 노드 추론을 위해 설계된 123B 파라미터 모델인 Mistral Large 2를 출시했습니다.
OpenAI 모델 안전을 위한 규칙 기반 보상
OpenAI는 명시적이고 단계적인 규칙을 사용해 AI 안전 행동을 정렬하는 방법인 규칙 기반 보상(RBRs)을 도입했으며, 방대한 인간 데이터 수집이 필요하지 않습니다.
Llama 3.1 출시 노트: 다국어 지원, 긴 컨텍스트 및 405B 모델
Meta는 8B, 70B, 405B 크기의 모델, 128K 컨텍스트 길이, 8개 언어에 대한 다국어 지원 및 합성 데이터 생성을 허용하는 관대한 라이선스를 특징으로 하는 Llama 3.1을 출시했습니다.
Core ML로 Mistral 7B 실행
Hugging Face는 WWDC 24에서 소개된 새로운 Core ML 기능을 사용해 Mac에서 Mistral 7B를 실행하는 방법을 보여주며, 4비트 블록 단위 양자화를 통해 모델 크기를 4GB 이하로 줄였습니다.
GPT-4o mini 릴리스 노트 / 새로운 소식
OpenAI는 GPT-4o mini를 출시했습니다. 이 모델은 비용 효율성이 매우 높은 소형 모델로, GPT-3.5 Turbo 및 기타 소형 모델들을 주요 추론 및 멀티모달 벤치마크에서 능가합니다.
Mistral NeMo 릴리스 노트
Mistral AI와 NVIDIA는 128k 컨텍스트 창과 Tekken이라는 새롭고 매우 효율적인 다국어 토크나이저를 특징으로 하는 12B 파라미터 모델인 Mistral NeMo를 출시했습니다.
Docmatix 데이터셋 출시
Hugging Face가 2.4백만 장의 이미지와 9.5백만 개의 Q/A 쌍을 포함한 Document Visual Question Answering (DocVQA) 데이터셋인 Docmatix를 출시했으며, 이전 데이터셋 대비 규모가 240배 증가했습니다.
TGI Multi-LoRA: 한 번 배포하고 30개 모델 제공
Hugging Face는 Text Generation Inference (TGI)에서 Multi‑LoRA 서빙을 도입하여, 조직이 단일 베이스 모델을 배포하고 수십 개의 특화 파인튜닝 어댑터를 동적으로 제공함으로써 비용과 운영 복잡성을 줄일 수 있게 했습니다.
ChatGPT Enterprise 컴플라이언스 및 관리 도구 업데이트
OpenAI는 규제 요구 사항을 충족하고 AI 배포를 안전하게 확장할 수 있도록 기업 고객을 돕기 위해 Compliance API, 자동 사용자 관리를 위한 SCIM, 그리고 세분화된 GPT 제어 기능을 도입했습니다.
OpenAI 프루버‑검증자 게임은 언어 모델 출력의 가독성을 향상시킵니다
OpenAI는 강력한 언어 모델이 약한 모델이 검증할 수 있는 솔루션을 생성하도록 하는 프루버‑검증자 게임 훈련 방식을 발표했으며, 이를 통해 정확성과 인간 가독성을 모두 향상시켰습니다.
Anthropic과 Menlo Ventures, 1억 달러 규모의 Anthology Fund 출시
Anthropic과 Menlo Ventures는 인프라, 산업별 도구, 신뢰 및 안전 분야 전반에 걸쳐 AI 애플리케이션 개발을 가속화하기 위해 1억 달러 규모의 Anthology Fund를 출시했습니다.
Codestral Mamba 릴리스 노트
Mistral AI는 Mamba 아키텍처를 활용한 7B 파라미터 모델인 Codestral Mamba를 출시하여 선형 시간 추론과 높은 성능의 코드 및 추론 기능을 제공합니다.
Mathstral 7B 출시
Mistral AI는 Project Numina와 협업하여 과학, 기술, 공학, 수학(STEM) 분야와 고급 수학 추론에 특화된 7B 파라미터 모델인 Mathstral을 출시했습니다.