Files
DataMate/runtime/datamate-python
Jerry Yan 5a553ddde3 feat(knowledge-graph): 实现知识图谱基础设施搭建
实现功能:
- Neo4j Docker Compose 配置(社区版,端口 7474/7687,数据持久化)
- Makefile 新增 Neo4j 命令(neo4j-up/down/logs/shell)
- knowledge-graph-service Spring Boot 服务(完整的 DDD 分层架构)
- kg_extraction Python 模块(基于 LangChain LLMGraphTransformer)

技术实现:
- Neo4j 配置:环境变量化密码,统一默认值 datamate123
- Java 服务:
  - Domain: GraphEntity, GraphRelation 实体模型
  - Repository: Spring Data Neo4j,支持 graphId 范围查询
  - Service: 业务逻辑,graphId 双重校验,查询限流
  - Controller: REST API,UUID 格式校验
  - Exception: 实现 ErrorCode 接口,统一异常体系
- Python 模块:
  - KnowledgeGraphExtractor 类
  - 支持异步/同步/批量抽取
  - 支持 schema-guided 模式
  - 兼容 OpenAI 及自部署模型

关键设计:
- graphId 权限边界:所有实体操作都在正确的 graphId 范围内
- 查询限流:depth 和 limit 参数受配置约束
- 异常处理:统一使用 BusinessException + ErrorCode
- 凭据管理:环境变量化,避免硬编码
- 双重防御:Controller 格式校验 + Service 业务校验

代码审查:
- 经过 3 轮 Codex 审查和 2 轮 Claude 修复
- 所有 P0 和 P1 问题已解决
- 编译通过,无阻塞性问题

文件变更:
- 新增:Neo4j 配置、knowledge-graph-service(11 个 Java 文件)、kg_extraction(3 个 Python 文件)
- 修改:Makefile、pom.xml、application.yml、pyproject.toml
2026-02-17 20:42:55 +08:00
..

DataMate Python Service (DataMate)

这是 DataMate 的 Python 服务,负责DataMate的数据合成、数据标注、数据评估等功能。

简要说明

  • 框架:FastAPI
  • 异步数据库/ORM:SQLAlchemy (async)
  • 数据库迁移:Alembic
  • 运行器:uvicorn

快速开始(开发)

前置条件

  • Python 3.11+
  • poetry 包管理器
  1. 克隆仓库
git clone git@github.com:ModelEngine-Group/DataMate.git
  1. 进入项目目录
cd runtime/datamate-python
  1. 安装依赖 由于项目使用poetry管理依赖,你可以使用以下命令安装::
poetry install

或者直接使用pip安装(如果poetry不可用):

pip install -e .
  1. 配置环境变量 复制环境变量示例文件并配置:
cp .env.example .env

编辑.env文件,设置必要的环境变量,如数据库连接、Label Studio配置等。

  1. 数据库迁移(开发环境):
alembic upgrade head
  1. 启动开发服务器(示例与常用参数):
  • 本地开发(默认 host/port,自动重载):
set -a && source .env && set +a && poetry run uvicorn app.main:app --port 18000 --log-level debug --reload

或者

poetry run python -m app.main
  • 指定主机与端口并打开调试日志:
uvicorn app.main:app --host 0.0.0.0 --port 8000 --reload --log-level debug
  • 在生产环境使用多个 worker(不使用 --reload):
uvicorn app.main:app --host 0.0.0.0 --port 8000 --workers 4 --log-level info --proxy-headers
  • 使用环境变量启动(示例):
HOST=0.0.0.0 PORT=8000 uvicorn app.main:app --reload

注意:

  • --reload 仅用于开发,会监视文件变化并重启进程;不要在生产中使用。
  • --workers 提供并发处理能力,但会增加内存占用;生产时通常配合进程管理或容器编排(Kubernetes)使用。
  • 若需要完整的生产部署建议使用 ASGI 服务器(如 gunicorn + uvicorn workers / 或直接使用 uvicorn 在容器中配合进程管理)。

访问 API 文档:

开发新功能

  • 安装开发依赖:
poetry  add xxx

使用(简要)

  • 所有 API 路径以 /api 前缀注册(见 app/main.pyapp.include_router(api_router, prefix="/api"))。
  • 根路径 / 返回服务信息和文档链接。

更多细节请查看 doc/usage.md(接口使用)和 doc/development.md(开发说明)。