qiantongtech/qData

qData is an open-source data governance and data development platform that integrates ETL, data development, metadata management, data quality, data assets, API services, and AI-powered data Q&A.

解決する課題

qData は、データガバナンスと開発を簡素化するエンタープライズデータミドルプラットフォームです。データ統合、品質管理、資産管理のための統合システムを提供することで、さまざまなデータベース(MySQL、Oracle、Dorisなど)に分散するデータ管理の課題を解決し、同時に非技術系のビジネスユーザーが自然言語を使用してデータを照会する際のハードルを下げます。

仕組み

このプラットフォームは、モジュラーアーキテクチャを採用し、データの全ライフサイクルを処理します:

  • データ統合 (ETL): DataX または Spark を使用し、視覚的な設定を通じてデータの取り込み、クレンジング、変換を行います。
  • データ開発: ユーザーが処理および統計分析用の SQL スクリプトを作成できるようにし、Quartz または DolphinScheduler でスケジュール設定します。
  • ガバナンスとモデリング: メタデータ管理、データ品質監査(完全性、一意性、妥当性)、データ資産カタログ化のためのツールを提供します。
  • データサービス: SQL の結果を API サービスとしてカプセル化し、外部で利用できるようにします。
  • AI レイヤー: Text2SQL エンジンを実装し、自然言語の質問を SQL クエリに変換して、インテリジェントなグラフとデータ回答を生成します。

対象者

データミドルプラットフォーム、ETL プラットフォーム、またはデータガバナンスシステムの基盤を必要とする企業、および効率的なデータパイプラインと AI 搭載のデータ取得を必要とするデータエンジニアやビジネスアナリスト向けに設計されています。

ハイライト

  • AI 搭載のデータ Q&A: Text2SQL を使用した自然言語インターフェースにより、ビジネスユーザーがデータにアクセスしやすくします。
  • 柔軟な実行エンジン: 軽量 (DataX) と大規模分散 (Spark) の両方の処理をサポートします。
  • 包括的なガバナンス: メタデータ管理、データ品質チェック、資産タグ付けを一箇所に統合します。
  • 幅広いデータベースサポート: MySQL、DM8、Oracle、SQL Server、Kingbase8、Doris に対応しています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト