alibaba/GraphScope
🔨 🍇 💻 🚀 GraphScope: A One-Stop Large-Scale Graph Computing System from Alibaba | 一站式图计算系统
解决的问题
GraphScope 是一个统一的分布式图计算平台,旨在处理超出单台机器内存容量的大规模图数据。它通过简化的 Python 接口,提供一站式环境,支持执行复杂的图操作——包括交互式查询、结构分析和机器学习。
工作原理
GraphScope 将多个阿里巴巴专有技术整合到一个系统中:
- 引擎:结合了用于分析的 GRAPE、用于交互式查询的 MaxGraph,以及用于图神经网络(GNN)的 Graph-Learn (GL)。
- 数据管理:使用 Vineyard 存储实现跨计算集群的高效分布式内存数据传输。
- 部署:可运行在独立模式下处理小型任务,或在 Kubernetes (k8s) 集群上进行大规模分布式处理。
- 接口:用户通过 Python 客户端与系统交互,管理会话、加载属性图,并在后端引擎上执行任务。
适用人群
GraphScope 专为需要分析大规模异构网络(如引用网络或社交图)并大规模应用传统图算法和 GNN 的数据科学家和研究人员设计。
核心亮点
- 统一平台:在同一平台集成交互式查询(通过 Gremlin)、图分析和 GNN 训练。
- 分布式扩展:专为大规模图优化,利用 Kubernetes 和分布式内存存储。
- 高性能:在 LDBC 社交网络基准测试(SNB)交互式工作负载上创下记录性吞吐量。
- 灵活加载:内置支持从 OGB 和 SNAP 加载数据集。
相关
- 项目
- 项目
- 项目
- 项目
- 项目