SafeCoder 대 폐쇄형 코드 어시스턴트
Hugging Face는 오픈소스 StarCoder 모델을 기반으로 하는 엔터프라이즈급 코드 어시스턴트인 SafeCoder를 소개하며, 폐쇄형 대안보다 투명성, 커스터마이징, 데이터 프라이버시를 우선시합니다.
T2I-Adapters를 사용한 SDXL의 효율적인 컨트롤러블 생성
Hugging Face와 TencentARC는 가벼운 플러그 앤 플레이 모델인 T2I-Adapter-SDXL을 소개합니다. 이 모델은 스케치와 깊이 맵과 같은 외부 신호를 사용하여 Stable Diffusion XL (SDXL) 생성을 정밀하게 제어하며, ControlNet에 비해 계산 오버헤드가 현저히 낮습니다.
Falcon 180B 출시 노트
TII는 1800억 파라미터를 갖춘 가장 큰 공개적으로 이용 가능한 언어 모델인 Falcon 180B를 출시했습니다. 이 모델은 3.5조 토큰으로 훈련되어 PaLM-2와 같은 독점 모델과의 경쟁을 목표로 합니다.
Fetch 사례 연구: Amazon SageMaker와 Hugging Face를 사용하여 ML 처리 지연 시간을 50% 줄이기
Fetch는 ML 파이프라인을 Amazon SageMaker와 Hugging Face로 마이그레이션하여 영수증 스캔의 ML 처리 지연 시간을 50% 줄이고 문서 이해 모델 정확도를 200% 높였습니다.
AudioLDM 2 최적화 가이드: Hugging Face Diffusers를 사용한 추론 시간 단축
Hugging Face는 코드와 모델 최적화를 적용하여 AudioLDM 2의 추론 시간을 10배 이상 줄여, 10초 오디오 샘플 생성을 1초 미만으로 줄이는 방법을 보여줍니다.
Hugging Face 허브 Git 인증 변경
Hugging Face는 2023년 10월 1일에 비밀번호 기반 Git 인증을 중단하고 보안 강화를 위해 사용자에게 개인 액세스 토큰 또는 SSH 키로 전환하도록 요구했습니다.
Code Llama 릴리스 노트
Code Llama은 Llama 2를 기반으로 한 오픈 액세스 모델 가족으로, 코드 작업에 특화되어 있으며 인필링과 최대 100,000 토큰까지의 긴 컨텍스트 윈도우를 지원합니다.
Hugging Face AutoGPTQ 및 Transformers 통합
Hugging Face는 AutoGPTQ 라이브러리를 Transformers에 통합하여, 4비트에서 정확도 손실을 무시할 수 있는 수준으로 유지하면서 메모리 요구 사항을 줄이기 위해 LLM을 8, 4, 3 또는 2비트 정밀도로 양자화할 수 있도록 했습니다.
IDEFICS: 최첨단 시각 언어 모델의 오픈 재현
Hugging Face는 Flamingo 아키텍처를 기반으로 한 오픈 액세스 시각 언어 모델인 IDEFICS를 출시했으며, 9B 및 80B 파라미터 크기의 interleaved 이미지 및 텍스트 입력을 지원합니다.
Hugging Face SafeCoder 발표
Hugging Face는 기업이 자체 보안 인프라 내에서 독점적인 Code LLM을 구축하고 배포할 수 있도록 하는 자체 호스팅 엔터프라이즈급 코드 어시스턴트 솔루션인 SafeCoder를 선보였습니다.
AWS Marketplace의 Hugging Face Hub
Hugging Face는 AWS Marketplace와 Hub를 통합하여, 조직이 AWS 계정을 통해 Inference Endpoints 및 AutoTrain과 같은 관리형 서비스를 직접 결제할 수 있도록 했습니다.
BentoML을 사용한 DeepFloyd IF 배포
Hugging Face는 BentoML을 사용하여 DeepFloyd IF 텍스트-이미지 모델을 배포하는 방법을 보여주며, 여러 GPU에 걸쳐 다단계 픽셀 확산 아키텍처를 독립적으로 확장할 수 있게 합니다.
🤗 Transformers를 사용한 Bark 최적화
Hugging Face는 Better Transformer, 반정밀도(fp16), CPU 오프로드를 사용하여 Bark 텍스트-음성 모델의 메모리 사용량을 줄이고 추론 속도를 높이는 방법을 보여줍니다.
Swift Transformers 출시: Apple 기기에서 온디바이스 LLM 실행
Hugging Face가 알파 swift-transformers Swift 패키지, swift-chat 데모 앱, 업데이트된 exporters 및 transformers-to-coreml 도구, 그리고 Llama 2 7B와 Falcon 7B의 Core ML 버전을 출시하여 개발자가 Apple 앱에서 온디바이스 LLM을 실행할 수 있게 했습니다.
TRL을 통한 Direct Preference Optimization (DPO)를 사용한 Llama 2 미세 조정
Hugging Face은 TRL 라이브러리에 Direct Preference Optimization (DPO)를 통합하여, 복잡한 RLHF 파이프라인 대신 간단한 바이너리 크로스 엔트로피 손실을 사용하여 Llama 2 및 기타 LLMs의 정렬을 가능하게 했습니다.
Hugging Face Inference Endpoints를 통해 MusicGen 배포하기
Hugging Face은 표준 파이프라인으로 지원되지 않는 모델에 대해 커스텀 핸들러를 사용하여 Inference Endpoints를 통해 MusicGen, 텍스트-음악 생성 모델을 API로 배포하는 방법을 보여줍니다.
FHE를 이용한 암호화된 대규모 언어 모델을 향하여
Hugging Face와 Zama는 완전 동형 암호(FHE)를 통해 대규모 언어 모델이 모델 소유자의 지적 재산을 보호하면서 암호화된 사용자 데이터를 처리할 수 있는 방법을 보여줍니다.
허기 링고: 머신러닝을 사용한 허깅 페이스 허브 언어 메타데이터 개선
허깅 페이스는 fastText 언어 식별 모델과 Librarian-Bot을 사용하여 현재 언어 메타데이터가 없는 데이터셋에 대해 언어를 자동으로 감지하고 메타데이터를 제안합니다.
실용적인 3D 에셋 생성 가이드
Hugging Face는 OpenAI의 Shap-E 모델과 Blender, Dream Textures를 결합하여 저해상도 PS1 스타일 3D 에셋을 만드는 단계별 워크플로를 제공합니다.
Segmind SD-Small 및 SD-Tiny 지식 증류 출시
Segmind가 Stable Diffusion보다 각각 35% 및 55% 작으면서도 최대 2배 빠른 추론 속도를 제공하는 두 가지 확산 모델인 SD-Small 및 SD-Tiny의 코드와 사전 학습된 가중치를 오픈 소스로 공개했습니다.
고급 Core ML 양자화를 이용한 Mac용 Stable Diffusion XL
Hugging Face와 Apple이 Stable Diffusion XL을 Core ML로 포팅했으며, 혼합 비트 팔레트화를 도입해 UNet 크기를 71% 줄이면서 Apple Silicon Mac에서 이미지 품질을 유지합니다.
Agents.js 출시: JavaScript를 사용하여 LLM에 도구 제공
Hugging Face가 Agents.js를 출시했습니다. 이는 브라우저 또는 서버에서 LLM이 도구에 접근하고 실행할 수 있게 하는 JavaScript 라이브러리입니다.
허깅 페이스와 파트너들이 EU AI 법안을 위한 오픈 ML 고려사항을 제시하다
허깅 페이스는 크리에이티브 커먼즈, 엘레우더 AI, 깃허브, LAION, 오픈 퓨처와의 연합으로 EU AI 법안이 오픈소스 머신러닝 개발을 지원하도록 보장하는 다섯 가지 핵심 권장 사항을 제시했다.
허깅 페이스 오픈 소스 AI 게임 잼 결과
허깅 페이스는 첫 번째 오픈 소스 AI 게임 잼을 개최했으며, 이로 인해 88개의 게임 제출작이 나왔는데, 이 게임들은 자산, 코딩, 게임플레이 메커니즘에 오픈 소스 AI 도구를 통합했습니다.
Hugging Face Diffusers 첫 번째 주년 개요
Hugging Face는 텍스트-이미지, 비디오, 3D, 오디오 생성을 위한 모듈형 툴박스로의 진화를 강조하며 Diffusers 라이브러리의 첫 번째 주년을 축하합니다.
Llama 2 출시 및 Hugging Face 통합
Meta가 Hugging Face 생태계와 완전히 통합되어 상업적 용도로 사용 가능한 오픈 액세스 대규모 언어 모델 제품군인 Llama 2를 출시했습니다.
Hugging Face AI WebTV: 자동화된 비디오 및 음악 합성 스트림 구축
Hugging Face는 LLM이 생성한 프롬프트로부터 비디오와 음악 스트림을 자동으로 합성하는 Zeroscope와 MusicGen을 사용하는 실험적인 데모인 AI WebTV를 개발했습니다.
Hugging Face의 오픈 소스 텍스트 생성 및 LLM 생태계
Hugging Face의 2023년 블로그 게시물은 모델 배경, 라이선스, 서빙 도구 및 매개변수 효율적 미세 조정을 다루며 오픈 소스 텍스트 생성 및 LLM 생태계를 조사합니다.
Hugging Face Diffusers를 사용하여 Intel Sapphire Rapids CPUs에서 Stable Diffusion 미세 조정
Hugging Face는 다섯 개의 예시 이미지만 사용하여 텍스트 역전환을 통해 Intel Sapphire Rapids CPU에서 Stable Diffusion 모델을 미세 조정하는 방법을 보여주며, Intel Extension for PyTorch와 oneCCL을 통한 CPU 기반 미세 조정을 시연합니다.
Transformers.js를 사용한 기계 학습 기반 웹 게임 만들기
Hugging Face는 Transformers.js와 파인튜닝된 MobileViT 모델을 사용하여 브라우저 내에서 완전히 실행되는 실시간 스케치 감지 게임인 Doodle Dash를 만드는 방법을 보여줍니다.
Hugging Face Inference Endpoints로 LLM 배포하기
Hugging Face Inference Endpoints는 개발자가 오픈소스 LLM을 프로덕션 준비가 된 API로 배포할 수 있도록 하는 관리형 SaaS 솔루션이며, 자동 스케일링, 스케일-투-제로, 엔터프라이즈급 보안과 같은 기능을 제공합니다.
허깅 페이스: 오픈 ML 모델을 사용한 웹 앱 생성기 만들기
허깅 페이스는 NodeJS, WizardCoder-15B 모델, 그리고 Hugging Face Inference Endpoints API를 사용하여 텍스트-웹앱 생성기를 구축하는 방법을 보여줍니다.
복잡한 생성형 AI 사용 사례에 대한 Hugging Face 활용: Writer 사례 연구
Hugging Face는 Writer와의 파트너십을 강조하며, 해당 회사가 사용자에서 고객 및 오픈소스 기여자로 진화한 과정을 보여줍니다. 이는 Hugging Face Expert Acceleration Program을 활용하여 확장 가능한 LLM 생산을 달성함으로써 이루어집니다.
비전-언어 모델 가속화: Habana Gaudi2 기반의 BridgeTower
Hugging Face는 더 많은 dataloader 워커와 하드웨어 가속 이미지 디코딩을 사용함으로써, Optimum Habana를 통해 Habana Gaudi2에서 BridgeTower 비전-언어 모델을 미세 조정할 때 Nvidia A100 대비 최대 2.5배, H100 대비 1.4배의 속도 향상을 얻을 수 있음을 보여줍니다.
Hugging Face 윤리와 사회 뉴스레터 #4: 텍스트-이미지 모델의 편향
Hugging Face는 텍스트-이미지 모델의 복잡한 편향 원인을 설명하고, 탐색 도구, 레드팀링, 문서화를 활용한 다각적 접근법을 제시하여 이러한 편향을 탐지하고 완화하려고 합니다.
허깅 페이스 오픈 LLM 리더보드 MMLU 평가 분석
허깅 페이스는 MMLU 벤치마크의 다양한 구현 세부 사항이 동일한 LLM에 대해 성능 점수와 순위를 크게 다르게 만든다고 설명합니다.
Hugging Face Spaces와의 Panel 통합
Hugging Face는 Hugging Face Spaces에 Panel 템플릿을 통합하여 사용자가 Python 기반 대시보드와 복잡한 애플리케이션을 손쉽게 구축하고 배포할 수 있도록 했습니다.
Hugging Face의 미국 NTIA AI 책임성에 대한 의견 요청에 대한 응답
2023년 6월 12일, Hugging Face는 미국 NTIA의 AI 책임성에 대한 의견 요청에 응답을 제출했으며, 책임 메커니즘이 머신러닝 생명주기의 전체를 포괄하고, 내부 문서화와 외부 투명성을 결합하며, 다양한 이해관계자의 참여를 유도해야 한다고 권고했습니다.
저자원 ASR을 위한 MMS 어댑터 모델 미세 조정
Hugging Face는 대규모 사전 학습 모델을 고정된 상태로 유지하면서, 저자원 ASR 데이터에서 몇 분 만에 낮은 단어 오류율을 달성하며 Massive Multilingual Speech (MMS) 어댑터 레이어를 미세 조정하는 방법을 보여줍니다.
Autoformer – Transformers는 시계열 예측에 효과적이다
Hugging Face가 Autoformer 모델이 이제 🤗 Transformers 라이브러리에서 사용 가능하다고 발표했으며, 이는 Transformer 기반 모델이 시계열 예측 벤치마크에서 DLinear와 같은 간단한 선형 기준을 능가함을 보여줍니다.
허깅 페이스 콘텐츠 가이드라인 및 정책 업데이트
허깅 페이스는 머신러닝 아티팩트의 독특한 조정 과제를 해결하고 사용자 권리와 프라이버시를 보호하기 위해 동의를 핵심 가치로 삼기 위해 콘텐츠 정책을 업데이트했습니다.
Livebook 노트북을 Hugging Face Spaces의 앱으로 배포하기
Hugging Face는 이제 Livebook 노트북을 Hugging Face Spaces의 대화형 애플리케이션으로 배포하는 것을 지원하여, Elixir 기반 머신러닝 앱을 쉽게 공유할 수 있게 합니다.
iPhone, iPad, Mac에서 Core ML을 사용한 더 빠른 Stable Diffusion
Hugging Face와 Apple은 Core ML에 6-bit 팔레트화 및 업데이트된 attention 레이어 최적화를 도입하여 Apple 기기에서 Stable Diffusion의 메모리 사용량을 크게 줄이고 추론 속도를 높였습니다.
Hugging Face와 AMD의 모델 가속 파트너십
Hugging Face와 AMD는 최신 트랜스포머 모델을 AMD CPU, GPU 및 AI 가속기에 최적화하여 훈련 및 추론의 비용-성능 표준을 향상시키기 위해 파트너십을 체결했습니다.
갤러리, 도서관, 기록관 및 박물관을 위한 Hugging Face Hub
Hugging Face는 갤러리, 도서관, 기록관 및 박물관이 모델, 데이터셋 및 데모를 공유하기 위해 자사의 Hub를 어떻게 사용할 수 있는지 보여주는 가이드를 발표하여, GLAM 분야의 머신러닝 장벽을 낮추는 방법을 제시했습니다.
파운데이션 모델이 인간처럼 데이터를 라벨링할 수 있을까? Hugging Face 분석
허깅페이스는 GPT-4가 LLM 선호도 평가에서 인간 라벨러를 안정적으로 대체할 수 있는지 조사했으며, 상당한 위치 편향과 장황함 편향을 발견하여 인간 판단의 대안으로서 정확도가 제한됨을 확인했다.
허깅페이스 허브와 DuckDB 통합을 통한 데이터셋 분석
허깅페이스는 이제 허브에서 자동으로 Parquet 형식으로 변환된 50,000개 이상의 공개 데이터셋에서 DuckDB를 통해 SQL 쿼리를 실행할 수 있게 되었습니다.
fastText와 Hugging Face Hub 통합
Hugging Face는 이제 157개 언어의 fastText 단어 벡터와 언어 식별 모델의 공식 미러를 호스팅하여 모델 접근 및 배포를 간소화합니다.
Falcon 모델 출시 및 Hugging Face 생태계 통합
Hugging Face는 오픈 Apache‑2.0 라이선스의 Falcon 모델 제품군을 발표했으며, Falcon‑40B가 Open LLM Leaderboard에서 1위를 차지한 점을 강조하고 Hugging Face 도구를 사용하여 이를 실행, 양자화, 미세 조정하는 방법을 보여주었습니다.
Unity에서의 AI 음성 인식
Hugging Face는 Unity 게임 내에서 최첨단 자동 음성 인식(ASR)을 구현하여 음성 명령과 NPC 상호작용을 가능하게 하는 가이드와 API를 제공합니다.