✷ 아카이브 · 연구소 11곳 · 디스패치 3,431건
연구소
매일 아침 십여 개의 공식 블로그를 돌아볼 필요가 없습니다. OpenAI, Anthropic, DeepMind 등의 일차 발표를 핵심만 뽑아서.
Qwen-Max-0428 릴리스 노트
Qwen은 MT-Bench에서 Qwen1.5-110B-Chat을 능가하고 Chatbot Arena 리더보드 상위 10위에 오른 instruction-tuned 채팅 모델인 Qwen-Max-0428을 출시했습니다.
Anthropic 사용 정책 업데이트 2024년 6월
Anthropic은 2024년 6월 6일부터 시행되는 허용 가능한 사용 정책을 새로운 사용 정책으로 업데이트하여 선거 무결성, 고위험 사용 사례 및 생체 인식 데이터 분석에 대한 더 엄격한 가이드라인을를 도입했습니다.
Intel Gaudi 2와 Intel Xeon을 활용한 비용 효율적인 엔터프라이즈 RAG 애플리케이션 구축
Hugging Face는 OPEA 프레임워크를 통해 Intel Gaudi 2 가속기와 Intel Xeon CPU를 결합하면 H100 기반 시스템에 비해 성능 대비 비용이 뛰어난 RAG 애플리케이션을 기업이 구축할 수 있음을 보여줍니다.
Hugging Face Enterprise Hub가 이제 AWS Marketplace에서 제공됩니다
Hugging Face는 Enterprise Hub를 AWS Marketplace와 통합하여 조직이 계정을 업그레이드하고 AWS 계정을 통해 직접 청구를 관리할 수 있도록 했습니다.
OpenAI 모델 사양
OpenAI는 목표, 규칙 및 기본 행동으로 구성된 `Model Spec`을 도입했으며, 이는 OpenAI API와 ChatGPT에서 AI 모델의 행동을 표준화하고 투명하게 형성하도록 설계된 프레임워크입니다.
OpenAI의 데이터 및 AI 접근 방식
OpenAI는 크리에이터가 AI 훈련에서 자신의 콘텐츠 사용을 제어할 수 있도록 Media Manager를 도입하고, 모델 다양성과 크리에이터 권리의 균형을 맞추기 위한 다각적인 데이터 소싱 전략을 상세히 설명합니다.
OpenAI 콘텐츠 출처 및 진위성 이니셔티브
OpenAI는 디지털 콘텐츠 인증을 위한 C2PA 개방 표준을 채택하고, 이미지 탐지 분류기 및 오디오 워터마킹과 같은 내부 도구를 개발하여 사용자가 AI 생성 콘텐츠를 식별할 수 있도록 돕고 있습니다.
OpenAI와 Stack Overflow API 파트너십
OpenAI와 Stack Overflow는 OverflowAPI를 통해 검증된 기술 데이터를 OpenAI 모델 및 ChatGPT에 통합하기 위해 파트너십을 맺었으며, Stack Overflow는 OpenAI 모델을 활용해 OverflowAI를 개발할 예정입니다.
히브리어 LLM을 위한 Hugging Face 오픈 리더보드
Hugging Face는 히브리어 대형 언어 모델(LLM)의 평가와 개선을 위해 특별히 설계된 오픈 리더보드를 출시했으며, 저자원 및 형태학적으로 복잡한 언어의 과제를 해결합니다.
Hugging Face의 Artificial Analysis LLM 성능 리더보드
Hugging Face는 Artificial Analysis LLM 성능 리더보드를 통합하여 AI 엔지니어에게 100개가 넘는 서버리스 LLM API 엔드포인트의 품질, 가격, 속도를 비교할 수 있는 통합 메트릭 시스템을 제공하고 있습니다.
Hugging Face Inference Endpoints ASR 및 화자 구분 파이프라인
Hugging Face는 Whisper ASR, Pyannote 화자 구분 및 추측 디코딩을 결합한 모듈식 파이프라인을 Inference Endpoints에 배포하기 위한 맞춤형 추론 핸들러를 소개합니다.
OpenAI가 "Bad Grammar" 러시아 연계 영향 작전을 차단
OpenAI는 "Bad Grammar"라는 이름의 러시아 연계 네트워크를 차단했으며, 이 네트워크는 AI 모델을 사용해 여러 국가의 텔레그램에서 정치 댓글 스팸을 자동 생성했습니다.
OpenAI, 중국 연계 영향 작전 "Spamouflage" 차단
OpenAI는 AI를 활용해 콘텐츠를 생성하고 연구를 수행해 중국 정부 비판자를 표적으로 삼은 중국 연계 영향 캠페인인 'Spamouflage'와 연관된 계정을 차단했습니다.
OpenAI, 러시아 'Doppelganger' 영향 작전 차단
OpenAI는 유럽과 북미를 대상으로 다국어 콘텐츠를 생성하기 위해 AI를 사용한 러시아 'Doppelganger' 영향 작전과 연계된 네 개의 계정 클러스터를 차단했습니다.
OpenAI 작전 제로 제노: 이스라엘 연계 영향 활동
OpenAI는 이스라엘 정치 캠페인 회사 STOIC가 운영하는 계정 클러스터를 차단하여 다국가를 대상으로 하는 AI 생성 영향 작전을 방해했습니다.
OpenAI, 이란 연계 영향 작전 IUVM을 차단
OpenAI는 이란 연계 영향 네트워크인 IUVM과 연관된 계정을 차단했으며, 이 네트워크는 AI를 사용해 친이란, 반미, 반이스라엘 콘텐츠를 생성하고 번역했습니다.
구조화된 생성으로 프롬프트 일관성 향상
Hugging Face와 Dottxt의 연구는 LLM 출력에 구조화된 생성을 적용해 프롬프트 형식과 샷 순서에 따른 성능 변동을 줄이고, 순위 일관성을 향상시킨다는 것을 보여줍니다.
StarCoder2-15B-Instruct-v0.1 릴리스 노트 / 새로운 내용
Hugging Face는 완전 투명하고 관용적인 파이프라인으로 학습된 최초의 완전 자체 정렬 코드 LLM인 StarCoder2-15B-Instruct-v0.1을 소개합니다. 이 모델은 HumanEval에서 CodeLlama-70B-Instruct보다 성능이 뛰어납니다.
OpenAI와 Financial Times 전략적 파트너십
OpenAI와 Financial Times는 출처가 명시된 FT 저널리즘을 ChatGPT에 통합하고 FT 직원에게 ChatGPT Enterprise 접근 권한을 제공하기 위한 전략적 파트너십 및 라이선스 계약을 체결했습니다.
Anthropic Circuits Updates April 2024
Anthropic의 2024년 4월 Circuits 업데이트는 해석 가능성, 멀티에이전트 시스템 실패, 그리고 리만 제타 함수 하한선의 돌파구에 관한 예비 연구 결과를 제공합니다.
Qwen1.5-110B 릴리스 노트 / 새로운 내용
Qwen은 Qwen1.5 시리즈에서 처음으로 1000억 파라미터를 초과한 Qwen1.5-110B를 출시했으며, Llama-3-70B와 경쟁력 있는 성능을 제공하고 Qwen1.5-72B에 비해 크게 향상되었습니다.
Moderna와 OpenAI의 AI 기반 약물 개발 파트너십
Moderna는 맞춤형 GPT를 통해 mRNA 의약품 개발을 가속화하고 비즈니스 운영을 최적화하기 위해 조직 전체에 ChatGPT Enterprise를 도입했습니다.
OpenAI, ChatGPT 및 Whisper API 소개
OpenAI는 GPT-3.5 Turbo와 Whisper API를 출시하여 개발자에게 큰 비용 절감과 고성능 음성-텍스트 변환 기능을 제공합니다.
GPT-4 API 일반 제공 및 Completions API 폐기
OpenAI는 GPT-4 API를 모든 유료 고객에게 일반적으로 제공하고, Completions, Embeddings, Edits API의 오래된 모델에 대한 폐기 계획을 발표했습니다.
OpenAI 아동 안전 약속: 설계에 의한 안전 원칙 채택
OpenAI와 기타 업계 리더들은 생성 AI가 아동에게 미치는 위험을 완화하기 위해 설계에 의한 안전 원칙을 구현하기로 약속했으며, 아동 성학대 자료(CSAM)와 착취 자료(CSEM)의 예방에 중점을 두고 있습니다.
OpenAI 엔터프라이즈 API 기능 업데이트 2024년 4월
OpenAI는 대규모 조직의 AI 솔루션 확장을 지원하기 위해 새로운 엔터프라이즈급 보안, 관리 제어, Assistants API 향상 및 비용 관리 옵션을 도입했습니다.
Hugging Face 오픈 체인 오브 사고 리더보드
Hugging Face는 도전적인 추론 작업에서 다양한 LLM에 대한 체인 오브 사고 프롬프트가 제공하는 구체적인 정확도 향상을 측정하기 위해 오픈 체인 오브 사고 리더보드를 도입했습니다.
Anthropic 아동 안전 원칙 이니셔티브 발표
Anthropic은 Thorn 및 All Tech Is Human과 파트너십을을 통해 생성형 AI가 아동 성적 학대물을 생성하거나 유포하는 것을 방지하기 위한 Safety by Design 원칙을 채택하기겠다고 발표했습니다.
앤트로픽의 간단한 탐지 프로브는 수면 중인 에이전트를 포착할 수 있다
앤트로픽은 일반적인 대조 쌍만을 사용해 >99%의 AUROC로 수면 중인 LLM 행동을 탐지하는 선형 "이탈 탐지 프로브"를 도입하여, AI 안전성에 유망한 저비용 해석 가능성 도구를 제시했다.
Jack of All Trades (JAT) 다목적 트랜스포머 에이전트
Hugging Face는 Atari, BabyAI, Meta‑World, MuJoCo 환경에서 다양한 순차 의사결정 작업을 수행할 수 있는 단일 트랜스포머 기반 에이전트인 Jack of All Trades (JAT)를 소개합니다.
OpenAI 지시 계층 구조: 특권 지시를 우선시하여 프롬프트 인젝션 방지
OpenAI는 LLM이 신뢰할 수 없는 사용자 입력보다 시스템 프롬프트를 우선시하도록 학습시키는 지시 계층 구조를 도입했으며, 이를 통해 프롬프트 인젝션 및 탈옥 공격에 대한 취약성을 크게 감소시켰습니다.
오픈 메디컬-LLM 리더보드: 의료 분야 대형 언어 모델 벤치마킹
Hugging Face가 오픈 메디컬-LLM 리더보드를 도입했습니다. 이는 다양한 의료 데이터셋에서 LLM의 성능을 평가하고 비교하기 위한 표준화된 플랫폼으로, 신뢰성 향상과 환자 안전을 목표로 합니다.
Llama 3 거절률 및 검열 비교
Llama 3는 Llama 2보다 현저히 낮은 오거절률을 보여주며, 무해한 프롬프트에 대한 과도한 거절을 줄이면서도 기술적인 지원을 제공합니다.
Meta Llama 3 릴리스 노트
Meta는 8B와 70B 파라미터 모델을 갖춘 오픈 액세스 LLM 패밀리인 Llama 3를 출시했으며, 토크나이징이 개선되고 15조 토큰으로 학습되었습니다.
Ollama에서 Llama 3 사용 가능
Ollama가 Llama 3 지원을 출시하여, Llama 2 대비 학습 데이터, 컨텍스트 길이 및 토큰 효율성 면에서 상당한 개선이 이루어진 8B 및 70B 파라미터 모델에 대한 액세스를 제공합니다.
Mixtral 8x22B 출시 노트
Mistral AI는 총 141B 파라미터와 39B의 활성 파라미터를 가진 희소 Mixture-of-Experts 모델인 Mixtral 8x22B를 Apache 2.0 라이선스 하에 출시하여 높은 성능과 비용 효율성을 제공합니다.
CodeQwen1.5 릴리스 노트
Qwen은 개발자 생산성을 높이기 위해 92개의 프로그래밍 언어와 64K 토큰 컨텍스트 윈도우를 지원하는 오픈소스 코드 LLM인 CodeQwen1.5-7B를 출시했습니다.
Ryght 사례 연구: Hugging Face와 함께하는 생명과학 생성 AI 플랫폼 구축
Ryght는 의료 및 생명과학 분야를 위한 엔터프라이즈급 생성 AI 플랫폼인 Ryght Preview를 출시했으며, Hugging Face의 Expert Support, TGI, TEI를 활용해 안전하고 유연하며 고성능 AI 코파일럿을 제공합니다.
Hugging Face 엔드포인트에서 개인정보 보호 추론 실행
Hugging Face와 Zama는 Fully Homomorphic Encryption(FHE) 모델을 Hugging Face 엔드포인트를 통해 배포할 수 있게 하여, 사용자가 데이터를 복호화하지 않고도 암호화된 데이터에 대해 머신러닝 추론을 수행할 수 있도록 했습니다.
LiveCodeBench 리더보드: 코드 LLM을 위한 오염 방지 평가
Hugging Face는 UC Berkeley, MIT, Cornell 연구원들이 개발한 새로운 벤치마크인 LiveCodeBench 리더보드를 도입했습니다. 이 벤치마크는 시간 구간별 문제 세트를 활용해 벤치마크 오염을 방지하면서 LLM의 코드 생성 및 추론 능력을 평가합니다.
빠른 AI 앱 개발을 위한 Gradio 리로드 모드
Gradio의 리로드 모드는 개발자가 서버를 재시작하지 않고도 AI 애플리케이션에 소스 코드 변경을 즉시 적용할 수 있게 하여 개발 지연 시간을 크게 줄여줍니다.
Idefics2 8B 비전-언어 모델 출시 – 아키텍처, 데이터, 및 성능
Hugging Face는 VQA와 OCR 벤치마크에서 다른 8‑B 모델보다 뛰어난 성능을 보이며 🤗 Transformers를 통해 파인튜닝할 수 있는 8B 오픈소스 비전‑언어 모델 Idefics2를 출시했습니다.
OpenAI 일본 출범 및 GPT-4 일본어 맞춤 모델
OpenAI는 도쿄에 첫 번째 아시아 사무소를 열고, GPT-4 Turbo보다 최대 3배 빠르게 작동하는 일본어에 최적화된 GPT-4 맞춤 모델을 출시했습니다.
비전 언어 모델 설명
Hugging Face는 비전 언어 모델(VLM)에 대한 포괄적인 가이드를 제공하며, 아키텍처, 오픈소스 옵션, 평가 벤치마크, 그리고 TRL 라이브러리를 통한 새로운 실험적 파인튜닝 지원을 상세히 설명합니다.
Hugging Face와 Google Cloud Vertex AI Model Garden 통합
Hugging Face는 'Deploy on Google Cloud'를 출시하여 사용자가 Hugging Face Hub 또는 Vertex Model Garden을 통해 수천 개의 오픈 파운데이션 모델을 Vertex AI 또는 Google Kubernetes Engine(GKE)으로 배포할 수 있게 했습니다.
CodeGemma 릴리스 노트 / 새로운 소식
Google은 Gemma를 기반으로 한 오픈 액세스 코드 전문 LLM 패밀리인 CodeGemma를 출시했으며, 코드, 수학 및 영어 데이터 5천억 개의 추가 토큰으로 학습되었습니다.
언어 모델의 설득력 측정하기
Anthropic의 연구는 모델의 크기와 능력이 커질수록 AI의 설득력이 증가하며, Claude 3 Opus가 인간 작가와 통계적으로 유사한 수준의 설득력을 보였음을 입증했다.
Hugging Face 공공 정책 프로그램 개요 및 제출 자료
Hugging Face는 미국, EU, 영국 정책 입안자들에게 상세한 입장문, 증언, 의견 서한을 제공하는 포괄적인 공공 정책 프로그램을 발표했으며, 이는 책임 있는 개방성과 AI 규제 형성을 위한 교차 기능적 약속을 반영합니다.
Ollama 임베딩 모델 지원
Ollama는 이제 임베딩 모델을 지원하여, 텍스트를 벡터 임베딩으로 변환함으로써 로컬 검색 증강 생성(RAG) 애플리케이션을 생성할 수 있습니다.
Klarna AI 어시스턴트 통합 및 성과 결과
Klarna는 OpenAI 기반 AI 어시스턴트를 도입하여 고객 서비스 채팅의 3분의 2를 처리하고, 700명의 정규 직원에 해당하는 업무를 수행하면서 해결 시간과 수익을 개선했습니다.