FluxML/Zygote.jl

해결하는 문제

Zygote는 Julia 언어용 자동 미분(AD)을 제공하여 개발자가 복잡한 함수의 기울기를 자동으로 계산할 수 있게 합니다. 이는 기계학습 모델 학습과 미분 가능 프로그래밍 구현에 필수적입니다.

작동 방식

"소스 투 소스" 방식을 사용하여 Julia 컴파일러에 통합되어 사용자가 수동으로 작성한 것처럼 함수의 역전파 코드를 생성합니다. 제어 흐름, 재귀, 클로저, 사전과 같은 동적 Julia 기능을 지원합니다. 또한 ChainRules.jl 규칙 세트와 통합되어 rrule를 통해 사용자가 사용자 정의 기울기를 정의할 수 있습니다.

대상 사용자

Julia를 기계학습에 사용하는 연구자 및 개발자를 대상으로 하며, 특히 Flux 프레임워크를 사용하거나 Julia 언어의 유연성을 활용한 고성능 AD 시스템이 필요한 사용자를 위한 것입니다.

주요 특징

• 소스 투 소스 AD: 역전파용 효율적인 코드를 생성합니다.
• 동적 언어 지원: 재귀, 클로저, 제어 흐름을 처리합니다.
• HDMI와 유사한 유연성: 파라미터의 중첩 구조를 미분할 수 있습니다.
• 사용자 정의 기울기: ChainRulesCore.jl을 통해 사용자 정의 규칙을 정의할 수 있습니다.