apache/systemds

An open source ML system for the end-to-end data science lifecycle

解決的問題

Apache SystemDS 旨在處理整個數據科學生命週期,涵蓋從初始數據準備與清洗到模型訓練、除錯與服務的方方面面。

工作原理

使用者可以使用具有類 R 語法的程式語言或透過 Python 與 Java API 來指定 ML 演算法或流水線。系統隨後會自動生成混合執行計畫,將本地記憶體操作與 Apache Spark 上的分散式操作相結合。它還支援用於 GPU 與聯邦學習的額外後端。

適用對象

它是為需要用於端到端機器學習流水線的可擴展系統的數據科學家與開發人員而構建的。

亮點

  • 端到端數據科學生命週期支援
  • 混合執行計畫(本地與 Apache Spark 分散式)
  • 類 R 語法與 Python/Java API
  • 支援 GPU 與聯邦學習後端

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案