✷ 아카이브 · 디스패치 6,241건
모든 디스패치
AgentLensHQ가 기록한 모든 것 — AI 생태계 전반에서 압축.
빠른 AI 앱 개발을 위한 Gradio 리로드 모드
Gradio의 리로드 모드는 개발자가 서버를 재시작하지 않고도 AI 애플리케이션에 소스 코드 변경을 즉시 적용할 수 있게 하여 개발 지연 시간을 크게 줄여줍니다.
Idefics2 8B 비전-언어 모델 출시 – 아키텍처, 데이터, 및 성능
Hugging Face는 VQA와 OCR 벤치마크에서 다른 8‑B 모델보다 뛰어난 성능을 보이며 🤗 Transformers를 통해 파인튜닝할 수 있는 8B 오픈소스 비전‑언어 모델 Idefics2를 출시했습니다.
OpenAI 일본 출범 및 GPT-4 일본어 맞춤 모델
OpenAI는 도쿄에 첫 번째 아시아 사무소를 열고, GPT-4 Turbo보다 최대 3배 빠르게 작동하는 일본어에 최적화된 GPT-4 맞춤 모델을 출시했습니다.
비전 언어 모델 설명
Hugging Face는 비전 언어 모델(VLM)에 대한 포괄적인 가이드를 제공하며, 아키텍처, 오픈소스 옵션, 평가 벤치마크, 그리고 TRL 라이브러리를 통한 새로운 실험적 파인튜닝 지원을 상세히 설명합니다.
Hugging Face와 Google Cloud Vertex AI Model Garden 통합
Hugging Face는 'Deploy on Google Cloud'를 출시하여 사용자가 Hugging Face Hub 또는 Vertex Model Garden을 통해 수천 개의 오픈 파운데이션 모델을 Vertex AI 또는 Google Kubernetes Engine(GKE)으로 배포할 수 있게 했습니다.
CodeGemma 릴리스 노트 / 새로운 소식
Google은 Gemma를 기반으로 한 오픈 액세스 코드 전문 LLM 패밀리인 CodeGemma를 출시했으며, 코드, 수학 및 영어 데이터 5천억 개의 추가 토큰으로 학습되었습니다.
언어 모델의 설득력 측정하기
Anthropic의 연구는 모델의 크기와 능력이 커질수록 AI의 설득력이 증가하며, Claude 3 Opus가 인간 작가와 통계적으로 유사한 수준의 설득력을 보였음을 입증했다.
Hugging Face 공공 정책 프로그램 개요 및 제출 자료
Hugging Face는 미국, EU, 영국 정책 입안자들에게 상세한 입장문, 증언, 의견 서한을 제공하는 포괄적인 공공 정책 프로그램을 발표했으며, 이는 책임 있는 개방성과 AI 규제 형성을 위한 교차 기능적 약속을 반영합니다.
Ollama 임베딩 모델 지원
Ollama는 이제 임베딩 모델을 지원하여, 텍스트를 벡터 임베딩으로 변환함으로써 로컬 검색 증강 생성(RAG) 애플리케이션을 생성할 수 있습니다.
Klarna AI 어시스턴트 통합 및 성과 결과
Klarna는 OpenAI 기반 AI 어시스턴트를 도입하여 고객 서비스 채팅의 3분의 2를 처리하고, 700명의 정규 직원에 해당하는 업무를 수행하면서 해결 시간과 수익을 개선했습니다.
AI 보안을 위한 Hugging Face와 Wiz 연구 파트너십
Hugging Face는 Wiz와 파트너십을 맺어 고급 취약점 관리 및 클라우드 보안 자세 관리(CSPM)를 통합함으로써 플랫폼과 더 넓은 AI/ML 생태계를 보호하고 있습니다.
Hugging Face Dataset Viewer API와 DuckDB-NSQL-7B를 활용한 Text2SQL
Hugging Face는 DuckDB-NSQL-7B 모델과 Dataset Viewer API를 활용해 자연어 질문을 SQL 쿼리로 변환하고, 120,000개가 넘는 공개 데이터셋을 분석하는 방법을 보여줍니다.
OpenAI 파인튜닝 API 개선 및 맞춤 모델 프로그램 확장
OpenAI는 파인튜닝 API에 새로운 제어 기능을 도입하고 맞춤 모델 프로그램을 확장하여 도메인별 요구에 맞는 지원 파인튜닝 및 완전 맞춤형 모델을 제공하게 되었습니다.
Xeon에서 🤗 Optimum Intel와 함께하는 SetFit 추론 가속화
Hugging Face는 🤗 Optimum Intel 라이브러리를 통한 사후 훈련 정적 양자화를 사용하여 Intel Xeon CPU에서 SetFit 모델의 추론 처리량을 최대 7.8배 빠르게 달성하는 방법을 보여줍니다.
Qwen1.5-32B 릴리스 노트 / 새로운 점
Qwen은 72B 버전에 비해 메모리와 추론 비용을 낮추면서 높은 성능을 균형 있게 제공하도록 설계된 Qwen1.5-32B 및 Qwen1.5-32B-Chat 모델을 출시했습니다.
Hugging Face와 Cloudflare Workers AI 통합
Hugging Face는 Cloudflare Workers AI를 통합하여 인기 있는 오픈 모델에 대한 서버리스 GPU 추론을 제공하고, 개발자가 요청당 과금 모델로 AI 애플리케이션을 배포할 수 있도록 했습니다.
OpenAI와 Harvey가 맞춤형 판례 모델 개발을 위해 파트너십 체결
OpenAI와 Harvey는 미국 판례 100억 토큰을 포함한 맞춤형 학습 판례 모델을 만들어 법률 전문가 업무에서 추론 능력을 향상하고 환각을 줄였습니다.
Anthropic Many-Shot Jailbreaking Research
Anthropic은 긴 컨텍스트 윈도우 내에 방대한 양의 가짜 대화 예시를 제공함으로써 LLM의 안전 학습을 무시할 수 있는 'many-shot jailbreaking' 취약점을 식별했습니다.
ChatGPT 액세스 업데이트: 계정 가입 없이 즉시 사용
OpenAI는 계정 가입 없이 즉시 ChatGPT를 사용할 수 있는 기능을 활성화하여 전 세계 사용자에게 AI 접근성을 확대했습니다.
Oscar Health AI 구현: 비용 절감 및 치료 개선
Oscar Health는 OpenAI의 API를 사용해 임상 문서 작성 및 청구 처리를 자동화하여 문서 작성 시간을 40%, 에스컬레이션 해결 시간을 50% 감소시켰습니다.
OpenAI Voice Engine: 합성 음성 기능 및 안전 프레임워크
OpenAI는 단 15초 오디오 샘플만으로 현실감 있고 감정적인 합성 음성을 생성할 수 있는 모델인 Voice Engine을 미리 공개했으며, 오용을 방지하기 위해 신중한 배포 전략을 유지하고 있습니다.
Qwen1.5-MoE-A2.7B 릴리즈 노트
Qwen은 27억 개의 활성화된 파라미터만 사용하면서 7B 밀집 모델의 성능에 버금가는 Mixture-of-Experts 모델인 Qwen1.5-MoE-A2.7B를 소개합니다.
OpenAI Zelma: GPT-4를 통해 교육 데이터를 접근 가능하게 만들기
Zelma는 GPT-4 기반 연구 보조 도구로, 학부모, 교사 및 정책 입안자들이 평이한 언어로 질문하여 미국 3~8학년 표준화 시험 데이터를 쉽게 접근할 수 있도록 설계되었습니다.
OpenAI Sora에 대한 창의 전문가들의 첫 인상
OpenAI는 Sora를 사용해 아이디어를 프로토타입하고, 초현실적인 비주얼을 만들며, 창작 과정에서 기술적·예산적 제약을 없앤 시각 예술가와 영화 제작자들의 초기 피드백을 공유했습니다.
Pollen-Vision: 로봇 분야 제로샷 비전 모델을 위한 통합 인터페이스
Hugging Face와 Pollen Robotics 팀은 제로샷 비전 모델을 통합하여 로봇이 3D 공간에서 알 수 없는 물체를 감지하고 위치를 파악할 수 있게 하는 오픈소스 라이브러리 pollen-vision을 출시했습니다.
앤트로픽 제3자 테스트 AI 정책 제안
앤트로픽은 선도적인 AI 시스템에 대한 제3자 테스트 체제를 제안하여 안전성 검증, 국가 안보 위험 방지, 규제 캡처를 막기 위해 다양한 감사 주체로 구성된 생태계를 구축한다.
Hugging Face Transformers: 오픈소스 머신러닝 입문 가이드
Hugging Face는 Transformers 라이브러리와 Hub를 사용하여 Microsoft의 Phi-2와 같은 오픈소스 머신러닝 모델을 배포하고 실행하는 포괄적인 입문 가이드를 제공합니다.
임베딩 양자화: 더 빠르고 저렴한 검색을 위한 이진 및 스칼라 기법
Hugging Face는 이진 및 int8 임베딩 양자화를 발표했으며, 메모리를 32배 또는 4배 줄이고 검색 속도를 최대 45배 가속화하면서 원래 성능의 96%–99%를 유지합니다.
JetBrains AI Assistant와 OpenAI API 통합
JetBrains는 AI Assistant에 OpenAI API를 통합하여 일상적인 코딩 작업을 자동화했으며, 그 결과 77%의 개발자가 생산성 향상을 보고했습니다.
Hugging Face와 Lighthouz AI가 챗봇 가드레일 아레나를 소개합니다
Hugging Face와 Lighthouz AI가 커뮤니티 주도 스트레스 테스트 플랫폼인 Chatbot Guardrails Arena를 출시했습니다. 이 플랫폼은 LLM과 가드레일의 데이터 프라이버시 및 보안을 평가하도록 설계되었습니다.
GaLore: 소비자 등급 하드웨어에서 대규모 모델 훈련 진전
GaLore는 저랭크 그래디언트 투영을 통해 옵티마이저 상태 메모리 요구량을 82.5% 이상 감소시켜, 소비자 등급 GPU에서 수십억 파라미터 모델 훈련을 가능하게 합니다.
Cosmopedia: LLM 사전 학습을 위한 대규모 합성 데이터
Hugging Face는 Mixtral-8x7B-Instruct-v0.1으로 생성된 3천만 파일과 250억 토큰을 포함한, LLM 사전 학습을 위한 가장 큰 공개 합성 데이터셋인 Cosmopedia를 소개합니다.
Intel Meteor Lake에서 Phi-2: 로컬 LLM 추론
Hugging Face는 OpenVINO와 Optimum Intel을 사용한 4비트 양자화를 통해 Intel Meteor Lake (Core Ultra) 프로세서에서 Microsoft Phi-2 모델을 로컬로 실행하는 방법을 보여줍니다.
Accenture, AWS, and Anthropic Collaboration for Enterprise AI Scaling
Anthropic, AWS, and Accenture는 특히 규제 산업 분야의 조직이 보안, 신뢰성 및 데이터 프라이버시를 중심으로 생성형 AI를 개념 단계에서 프로덕션 단계로 전환할 수 있도록 파트너십을 맺었습니다.
Vertex AI에서 Claude 3 모델 정식 출시
Anthropic은 Claude 3 Haiku와 Claude 3 Sonnet을 Google Cloud의 Vertex AI 플랫폼에서 정식 출시하여, 기업이 엔터프라이즈급 보안과 함께 생성형 AI 솔루션을 확장할 수 있도록 했습니다.
Holiday Extras ChatGPT Enterprise 구현
Holiday Extras는 조직 전체에 ChatGPT Enterprise를 도입하여 주당 500시간 이상을 절감하고 연간 약 50만 달러의 비용 절감을 달성했습니다.
기업 신뢰와 안전을 위한 OpenAI와 Salesforce 통합
OpenAI는 Salesforce Einstein AI 플랫폼을 위한 기본 생성 AI 모델을 제공하여 영업, 서비스 및 커머스 클라우드 전반에 걸쳐 안전하고 기업 수준의 AI 기능을 구현합니다.
Superhuman AI와 OpenAI API 통합
Superhuman은 OpenAI API를 통합하여 사용자의 인박스 처리 속도를 두 배로 높이는 AI 기반 이메일 기능 모음을 출시했습니다.
Quanto: Optimum용 PyTorch 양자화 백엔드
Hugging Face는 다양한 모달리티에 걸쳐 저정밀 모델 배포를 간소화하도록 설계된, 다재다능하고 디바이스에 구애받지 않는 PyTorch 양자화 백엔드 Quanto를 Optimum용으로 소개합니다.
Hugging Face DGX 클라우드에서 학습
Hugging Face는 엔터프라이즈 Hub 조직이 NVIDIA H100 및 L40S GPU를 사용해 오픈 모델을 미세 조정할 수 있는 노코드 서비스인 Train on DGX Cloud를 출시했습니다.
xAI Grok-1 공개 릴리스
xAI는 3140억 파라미터의 전문가 집합 모델인 Grok-1의 기본 모델 가중치와 네트워크 아키텍처를 Apache 2.0 라이선스 하에 공개했습니다.
WebSight 데이터셋 및 Sightseer 모델
Hugging Face는 200만 개의 스크린샷-HTML 쌍으로 구성된 합성 데이터셋인 WebSight와 웹 스크린샷을 기능적 HTML 코드로 변환할 수 있는 비전-언어 모델인 Sightseer를 소개했다.
Optimum Intel 및 fastRAG를 활용한 CPU 최적화 임베딩
Hugging Face와 Intel은 Optimum Intel 및 fastRAG를 사용해 Xeon CPU에서 임베딩 모델을 가속화하는 방법을 소개했으며, int8 양자화를 통해 최대 4.5배의 지연 시간 감소와 4배의 처리량 향상을 달성했습니다.
Ollama AMD 그래픽 카드 지원 프리뷰
Ollama가 Windows 및 Linux에서 AMD 그래픽 카드에 대한 프리뷰 지원을 도입하여, 다양한 Radeon, Radeon PRO, 및 Instinct 시리즈 카드를 통해 모든 Ollama 기능에 대한 하드웨어 가속을 가능하게 합니다.
OpenAI와 Le Monde 및 Prisa Media의 글로벌 뉴스 파트너십
OpenAI는 Le Monde와 Prisa Media와 파트너십을 맺어 그들의 뉴스 콘텐츠를 ChatGPT에 통합했으며, 사용자에게 출처가 명시된 요약과 원본 기사로 직접 연결되는 링크를 제공합니다.
AI 건강 코칭을 위한 Healthify와 OpenAI 협업
Healthify는 OpenAI의 GPT-4 Vision, GPT-4 Turbo 및 임베딩 모델을 통합하여 개인 맞춤 영양 및 피트니스 코칭을 확장했으며, 그 결과 식품 추적 참여가 50% 증가했습니다.
Claude 3 Haiku 릴리스 노트
Anthropic는 엔터프라이즈 애플리케이션을 위한 고속, 저렴한 모델인 Claude 3 Haiku를 출시했으며, 최첨단 비전 기능과 높은 토큰 처리 속도를 갖추고 있습니다.
OpenAI 거버넌스 검토 및 리더십 확인
OpenAI는 WilmerHale가 수행한 독립적인 검토를 완료했으며, Sam Altman과 Greg Brockman의 리더십에 대한 전적인 신뢰를 확인하고 중요한 거버넌스 개혁을 시행했습니다.
OpenAI 이사회 확대
OpenAI는 Dr. Sue Desmond-Hellmann, Nicole Seligman, Fidji Simo를 이사회에 임명했으며, CEO Sam Altman이 이사회에 재합류했습니다.
Anthropic "Reflections on Qualitative Research" – 왜 해석 가능성(Interpretability)에는 질적 관점이 필요한가
Anthropic의 "Reflections on Qualitative Research"는 AI 모델에 대한 해석 가능성 연구가 질적 방법을 우선시해야 한다고 주장하며, 그러한 연구를 판단하는 휴리스틱을 제공합니다.