sonnet：一個可組合的神經網路抽象庫，適用於 TensorFlow 2

它解決了什麼問題

Sonnet 是一個用於機器學習研究的函式庫，簡化了神經網路的構建。它提供了一套可組合的抽象，使研究人員能在不被限制於特定訓練框架或固定工作流程的情況下，構建複雜模型。

它如何運作

此函式庫建立於 TensorFlow 2 之上，核心概念是 snt.Module。Modules 是自包含、解耦的單元，能保存參數、其他 modules，以及處理輸入的方法。使用者可以直接使用預先定義好的 modules，例如 snt.Linear 或 snt.nets.MLP，也可以透過繼承 snt.Module 來自行建立。

目標使用者

此函式庫設計給需要對模型與訓練流程擁有高度控制的機器學習研究者，特別是使用 TensorFlow 生態系的使用者。

重點特色

• 非意見化設計：不包含任何訓練框架，訓練迴圈與優化器的選擇完全交由使用者決定。
• 可組合抽象：利用 snt.Module 系統，讓網路元件的嵌套與組合變得簡單。
• 彈性序列化：支援 Python 的 pickle、TensorFlow Checkpoint 以保存訓練進度，以及 TensorFlow Saved Model 以在脫離 Python 原始碼的情況下匯出模型。
• 分散式訓練支援：提供透過自訂 TensorFlow 分散策略進行分散式訓練的工具，同時保留使用者對梯度平均與批次正規化統計的控制權。