WorksApplications/sudachi.rs

Sudachi in Rust 🦀 and new generation of SudachiPy

解決的問題

Sudachi.rs 是 Sudachi 日語形態素分析器的 Rust 實作。它提供了一種將日語文字分解為有意義單位(標記)並分析其語法特性的方法,這對於在高效率環境中處理日語語言資料至關重要。

工作原理

該工具使用系統詞典(提供 Small、Core 和 Full 三種版本)進行分詞與分析。支援三種不同的切分模式(A、B 和 C),以控制分詞的細緻程度,從短單位到命名實體皆可涵蓋。同時提供詞語的標準化形式,以統一不同拼寫或表達方式的變體。

適用對象

需要在 Rust 中使用快速、記憶體安全的 Sudachi 分析器實作的日本語文字處理開發者與資料科學家。

主要特色

  • 多粒度分詞:可在短(A)、中(B)和命名實體(C)切分單位之間切換。
  • 標準化形式:將詞語的不同變體轉換為標準形式,便於分析。
  • Wakati 輸出:支援空白分隔的表層形式輸出,適用於簡單分詞。
  • 詞典彈性:支援多種詞典大小(Small、Core、Full)和使用者自訂詞典。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案