tensorflow/lingvo

해결하는 문제

Lingvo는 시퀀스 모델(시퀀스 대 시퀀스 모델링)에 특화된 모듈식이고 확장 가능한 TensorFlow 기반의 신경망 구축 프레임워크를 제공합니다.

작동 방식

개발자는 다양한 모달리티의 모델을 구축하고 훈련할 수 있습니다. 이 프레임워크는 대규모 훈련을 지원하며, 거대 언어 모델(GShard 등)의 모델 병렬 처리와 CloudTPU 및 GPU 통합을 포함합니다. 파라미터와 작업을 통해 모델을 구조화된 방식으로 정의할 수 있으며, 표준 사용에는 pip 기반 설치를, 프레임워크 개발에는 Bazel 기반 빌드를 지원합니다.

대상 사용자

대규모 시퀀스 모델, 기계 번역, 음성 인식 분야에서 복잡한 신경망을 개발하는 연구자 및 엔지니어.

주요 특징

• 다양한 모델 지원: 기계 번역, 음성 인식, 언어 모델링, 3D 객체 탐지(StarNet, DeepFusion), 이미지 인식(LeNet5)의 구현 포함.
• 확장성: GShard와 512웨이 모델 병렬 처리를 활용해 최대 1조 파라미터의 거대 언어 모델을 지원.
• 하드웨어 가속: GPU 및 CloudTPU 최적화.
• 유연한 설치: 빠른 시작을 위한 pip 설치 또는 프레임워크 핵심 기여를 위한 Bazel 빌드 가능.