q792602257/DataMate
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
420 Commits 1 Branch 0 Tags
8fdc7d99b8152e0eb6e90368e669d9510799cc1c
Commit Graph
100 Commits
This Branch
This Branch
All Branches
Author SHA1 Message Date
q792602257 8fdc7d99b8 feat(docker): 优化 Dockerfile 支持弱网环境缓存 
- 使用缓存挂载 DataX 源码，避免重复克隆提高构建效率
- 添加 NLTK 数据缓存挂载并增加失败检查机制
- 实现 PaddleOCR 模型下载缓存，支持离线重用
- 集成 spaCy 模型缓存机制，提升安装稳定性
- 优化构建流程适配弱网环境下的依赖下载
 2026-01-31 14:31:47 +08:00
q792602257 2bc48fd465 refactor(annotation): 移除编辑器标签配置装饰逻辑 
- 删除了 _decorate_label_config_for_editor 方法调用
- 简化了标签配置获取流程
- 移除了不必要的条件检查逻辑
 2026-01-31 14:14:32 +08:00
q792602257 a21a632a4b refactor(DataManagement): 优化数据集详情页面的文件获取逻辑 
- 将文件获取逻辑从 fetchDataset 函数中分离到独立的 useEffect 钩子
- 添加 dataset.id 依赖以确保在数据集加载后获取文件
- 修复初始加载时可能发生的文件获取时机问题
- 改进组件渲染性能通过更精确的依赖跟踪
- 保持原有功能不变但提升代码可维护性
 2026-01-31 14:14:16 +08:00
q792602257 595a758d05 refactor(data-management): 优化PDF文本提取服务的事务处理 
- 添加TransactionSynchronization相关依赖注入
- 实现事务提交后异步执行PDF文本提取功能
- 增加数据集ID和文件ID的空值检查
- 在活跃事务中注册同步回调确保正确执行
- 避免在事务未提交时提前执行异步任务
 2026-01-31 13:59:03 +08:00
q792602257 4fa0ac1df4 config(security): 禁用安全配置中的frameOptions以允许iframe嵌入 
- 在SecurityFilterChain中添加headers配置
- 禁用frameOptions以解决iframe嵌入限制问题
- 保持csrf禁用和其他现有安全设置不变
 2026-01-31 13:57:38 +08:00
q792602257 f2403f00ce feat(annotation): 添加不适用标注状态支持 
- 在 AnnotationResultStatus 枚举中新增 NOT_APPLICABLE 状态
- 将无标注/不适用合并为两个独立的状态选项
- 更新前端标签显示逻辑以支持新的状态类型
- 修改确认对话框允许选择不适用状态
- 在后端数据库模型中添加 NOT_APPLICABLE 状态值
- 更新 API schema 描述以反映新的状态选项
- 调整标注状态判断和保存逻辑以处理三种状态
- 更新数据库表结构注释包含新状态类型
 2026-01-31 13:28:08 +08:00
q792602257 f4fc574687 feat(annotation): 添加标注状态管理功能 
- 引入 AnnotationResultStatus 枚举类型区分已标注和无标注状态
- 在前端组件中实现空标注检测和确认对话框逻辑
- 添加数据库表字段 annotation_status 存储标注状态
- 扩展后端服务验证和处理标注状态逻辑
- 更新 API 接口支持标注状态参数传递
- 改进任务列表显示逻辑以反映不同标注状态
- 实现分段模式下的标注结果检查机制
 2026-01-31 13:23:38 +08:00
q792602257 52a2a73a8e feat(annotation): 添加保存并跳转快捷键功能 
- 实现了 Ctrl+Enter 保存并跳转到下一个标注的快捷键逻辑
- 添加了键盘事件监听器来捕获快捷键组合
- 集成了导出选中标注并发送到父窗口的功能
- 处理了快捷键事件的防重复和传播阻止
- 在消息处理器中添加了 LS_SAVE_AND_NEXT 类型的支持
- 实现了自动跳转到下一项标注的功能
 2026-01-31 11:47:33 +08:00
q792602257 b5d7c66240 feat(data-management): 扩展源文档排除功能支持Excel文件类型 
- 在后端服务中扩展源文档类型检查，新增对XLS和XLSX文件的支持
- 修改DatasetFileApplicationService中的过滤逻辑，统一处理所有源文档类型
- 新增isSourceDocument和isDerivedFile辅助方法进行文件类型判断
- 更新前端DatasetFileTransfer组件中的注释说明
- 在Python运行时依赖中添加openpyxl和xlrd库以支持Excel文件处理
- 修改标注项目接口中源文档类型的集合定义
- 更新文件操作钩子中的派生文件排除逻辑
 2026-01-31 11:30:55 +08:00
q792602257 6c7ea0c25e chore(deps): 更新 Docker 镜像源地址 
- 将 etcd 镜像源从 quay.io 替换为 quay.nju.edu.cn
- 将 vLLM-Ascend 镜像源从 quay.io 替换为 quay.nju.edu.cn
- 统一使用南京大学镜像仓库地址以提高下载速度
 2026-01-31 11:21:47 +08:00
q792602257 153066a95f fix(frontend): hide action dropdown in CardView when operations list is empty 2026-01-31 11:14:26 +08:00
q792602257 498f23a0c4 feat(data-management): 扩展文本数据集支持Excel文件类型 
- 在DatasetFileApplicationService中添加XLS和XLSX文件类型到文档文本文件类型集合
- 更新DatasetTypeController中的TEXT数据集类型支持xls和xlsx扩展名
- 在pdf_extract.py中添加XLS和XLSX文件类型的常量定义和解析器配置
- 实现Excel文件转CSV的功能，支持单个工作表和多工作表的解析
- 添加对Excel文件的依赖检查和错误处理机制
- 修改目标文件路径构建逻辑以支持不同文件类型的派生扩展名
- 更新文本文件记录创建逻辑以使用派生文件类型而不是固定文本类型
 2026-01-31 11:11:24 +08:00
q792602257 85d7141a91 refactor(DataManagement): 移除相似数据集表格并改用卡片视图显示 
- 移除了 Overview 组件中的相似数据集表格相关代码
- 移除了 Tag 组件和相关依赖的导入
- 在 DatasetDetail 中添加 CardView 组件用于显示相似数据集
- 将相似数据集的展示从表格改为卡片布局
- 移除了 Overview 组件中的相似数据集参数传递
- 更新了页面布局以
 2026-01-31 09:40:06 +08:00
q792602257 790385bd80 feat(knowledge-management): 添加知识管理搜索功能和统计接口 
- 新增知识条目搜索查询和响应DTO
- 实现知识管理统计功能，包括总数、文件数和总大小
- 添加数据库查询方法支持文件搜索和统计计算
- 创建知识条目搜索控制器提供REST API
- 在前端添加知识管理搜索页面和相关组件
- 更新前端路由配置添加搜索页面入口
- 移除RAG索引服务中的重复统计功能
- 优化前端页面统计数据显示和刷新逻辑
 2026-01-31 09:30:37 +08:00
q792602257 97170a90fe feat(data-import): 添加文本文件类型检测和按行分割功能 
- 新增 TEXT_FILE_MIME_PREFIX、TEXT_FILE_MIME_TYPES 和 TEXT_FILE_EXTENSIONS 常量用于文本文件识别
- 添加 getUploadFileName、getUploadFileType 和 isTextUploadFile 工具函数
- 在 splitFileByLines 函数中集成文本文件类型检查
- 添加 hasNonTextFile useMemo 钩子来检测是否存在非文本文件
- 当存在非文本文件时禁用按行分割功能并重置开关状态
- 更新 Tooltip 提示内容以反映文件类型限制
- 使用 useCallback 优化 fetchCollectionTasks 和 resetState 函数
- 调整 useEffect 依赖数组以确保正确的重新渲染行为
 2026-01-30 23:31:02 +08:00
q792602257 fd209c3083 feat(knowledge-base): 添加知识库统计功能 
- 后端服务新增 KnowledgeBaseStatisticsResp 和 RagFileStatistics 数据传输对象
- 在 KnowledgeBaseService 中实现 getStatistics 方法提供统计信息查询
- 为 RagFileRepository 添加 getStatistics 接口及其实现
- 通过 MyBatis Mapper 实现数据库层面的统计查询功能
- 在 KnowledgeBaseController 中暴露 /statistics 接口供前端调用
- 前端页面集成统计卡片组件展示知识库、文件数量及总大小信息
- 实现前后端数据同步机制确保统计数据实时更新
 2026-01-30 23:17:40 +08:00
q792602257 76f70a6847 feat(knowledge-base): 添加知识库文件全库检索功能 
- 新增相对路径字段替代原有的metadata存储方式
- 实现跨知识库文件检索接口searchFiles
- 添加前端全库检索页面和相关API调用
- 优化文件路径处理和数据库索引配置
- 统一请求参数类型定义为RequestPayload和RequestParams
- 简化RagFile模型中的元数据结构设计
 2026-01-30 22:24:12 +08:00
q792602257 cbad129ce4 feat(rag): 添加相对路径搜索功能并优化文件显示 
- 在RagFileRepositoryImpl中新增relativePath字段和路径模式构建方法
- 实现buildRelativePathPattern方法用于构建相对路径搜索模式
- 修改page方法添加相对路径模糊查询支持
- 在RagFileReq DTO中添加relativePath参数字段
- 优化KnowledgeBaseDetail页面中的文件名显示逻辑
- 添加normalizePath函数处理文件路径规范化显示
 2026-01-30 21:55:29 +08:00
q792602257 ca7ff56610 feat(rag): 添加文件相对路径支持功能 
- 在FileInfo DTO中新增relativePath字段
- 实现文件相对路径的规范化处理逻辑
- 将文件相对路径存储到元数据中
- 前端添加文件路径解析和显示功能
- 优化路径分隔符统一处理机制
- 更新文件列表展示逻辑以支持路径层级结构
 2026-01-30 21:46:03 +08:00
q792602257 a00a6ed3c3 feat(knowledge-base): 实现知识库文件夹功能和优化文件管理 
- 添加 datasetId 和 filePath 字段到 DatasetFile 接口
- 实现 resolveRelativeFileName 函数用于解析相对文件名
- 在 AddDataDialog 中使用 resolveRelativeFileName 处理文件名
- 添加文件夹浏览功能，支持目录导航和层级显示
- 实现文件夹删除功能，可批量删除目录下所有文件
- 集成 Folder 和 File 图标组件用于目录和文件区分
- 优化文件列表加载逻辑，使用分页和关键词搜索
- 添加文件夹状态显示和相应操作按钮
- 实现文件路径前缀管理和子目录过滤
- 重构文件列表渲染逻辑，支持目录和文件混合展示
 2026-01-30 21:30:54 +08:00
q792602257 9a205919d7 refactor(data-import): 优化数据源文件扫描和复制逻辑 
- 修改数据源文件扫描方法，直接在主流程中获取任务详情和路径
- 移除独立的getFilePaths方法，将路径扫描逻辑整合到scanFilePaths方法中
- 新增copyFilesToDatasetDirWithSourceRoot方法支持保留相对路径的文件复制
- 更新数据集文件应用服务中的文件复制逻辑，支持相对路径处理
- 修改Python后端项目接口中的文件查询逻辑，移除注释掉的编辑器服务引用
- 调整文件过滤逻辑，基于元数据中的派生源ID进行文件筛选
- 移除编辑器服务中已废弃的源文档过滤条件
 2026-01-30 18:58:34 +08:00
q792602257 8b2a19f09a feat(annotation): 添加标注项目文件快照功能 
- 新增 LabelingProjectFile 模型用于存储标注项目的文件快照
- 在创建标注项目时记录关联的文件快照数据
- 更新查询逻辑以基于项目快照过滤文件列表
- 优化导出统计功能使用快照数据进行计算
- 添加数据库表结构支持项目文件快照关系
 2026-01-30 18:10:13 +08:00
q792602257 3c3ca130b3 feat(annotation): 添加文本文件内容读取和多类型标签导出功能 
- 新增异步函数 _read_file_content 用于安全读取文本文件内容
- 实现在导出时包含文本文件的实际内容数据
- 扩展 CSV 导出格式支持多种标注类型标签提取
- 添加对矩形标签、多边形标签、画笔标签等多种标注类型的支持
- 更新 COCO 格式导出文档说明bbox坐标转换注意事项
 2026-01-30 17:35:22 +08:00
q792602257 a4cdaecf8a refactor(annotation): 简化注释数据导出下载逻辑 
- 移除前端手动创建 a 标签下载文件的方式
- 将文件名参数传递给后端 API 函数
- 利用 download 函数内置的下载处理机制
- 简化 ExportAnnotationDialog 组件中的导出流程
- 更新 annotation.api.ts 中的 downloadAnnotationsUsingGet 函数签名
- 直接通过 API 调用完成文件下载和命名
 2026-01-30 17:33:14 +08:00
q792602257 6dfed934a5 feat(file-preview): 增加PDF文件预览功能并优化预览逻辑 
- 引入统一的文件预览工具函数和类型定义
- 添加PDF文件类型的识别和预览支持
- 使用iframe实现PDF文件在线预览
- 重构文件预览逻辑，统一处理不同文件类型的预览
- 优化文本内容预览的长度截取机制
- 更新预览按钮加载状态显示
- 统一预览窗口的最大高度配置
- 修改API调用路径为专门的预览接口
 2026-01-30 17:32:36 +08:00
q792602257 bd37858ccc refactor(dataset): 优化数据集路径管理和关联关系处理 
- 移除Dataset类中initCreateParam方法的parentPath参数
- 简化handleParentChange方法中的路径构建逻辑
- 更新错误消息将"子数据集"改为"关联数据集"
- 修改前端界面将"父数据集"相关术语统一为"关联数据集"
- 在导入配置组件中添加类型定义和改进文件处理逻辑
- 限制数据源选项排除COLLECTION类型避免错误选择
 2026-01-30 16:48:39 +08:00
q792602257 accaa47a83 fix(components): 修复组件中定时器内存泄漏问题 
- 在TopLoadingBar组件中添加timeoutRef并正确清理定时器
- 在Agent页面中添加timeoutRef管理AI响应模拟定时器
- 修复BasicInformation组件中useCallback依赖数组缺失问题
- 在CreateDataset页面中传递hidden属性控制数据源显示
- 在Orchestration页面中添加intervalRef管理工作流执行进度
- 在SynthesisTask中添加testTimeoutRef管理模板测试定时器
- 确保所有组件卸载时正确清除定时器避免内存泄漏
 2026-01-30 14:35:45 +08:00
q792602257 98d2ef1aa5 feat(KnowledgeBase): 优化知识库文件上传功能 
- 添加提交状态控制，防止重复提交
- 将分块选项中的"按章节分块"改为"按句子分块"
- 更新固定长度分块的选项值从FIXED_LENGTH_CHUNK到LENGTH_CHUNK
- 简化文件计数逻辑，直接统计选中文件数量
- 添加上传进度提示消息
- 重构文件数据结构，确保ID为字符串类型
- 添加按钮禁用状态控制，提升用户体验
- 优化消息提示的显示方式，支持更新现有消息
 2026-01-30 14:29:45 +08:00
q792602257 1fd70085e8 Merge remote-tracking branch 'gitea/lsf' into lsf 2026-01-30 14:14:17 +08:00
q792602257 283f4af094 chore(gateway): 移除Dockerfile中的离线模式参数 
- 移除了mvn命令中的-o参数，允许在线下载依赖包
- 优化了编译过程以支持网络连接场景下的依赖管理
 2026-01-30 14:13:16 +08:00
q792602257 ba2b5aab82 chore(gateway): 移除Dockerfile中的离线模式参数 
- 移除了mvn命令中的-o参数，允许在线下载依赖包
- 优化了编译过程以支持网络连接场景下的依赖管理
 2026-01-30 13:53:07 +08:00
q792602257 2d476f7c7a chore(gateway): 移除Dockerfile中的离线模式参数 
- 移除了mvn命令中的-o参数，允许在线下载依赖包
-
 2026-01-30 12:01:49 +08:00
q792602257 e624c8a26f chore(build): 移除Dockerfile中的离线模式标志 
- 从Maven构建命令中移除了-o（离线）标志
- 确保构建过程中能够访问远程仓库获取依赖
- 提高了依赖解析的可靠性和准确性
 2026-01-30 11:59:44 +08:00
q792602257 c221666e67 feat(data-management): 添加数据集相似度推荐功能 
- 在DatasetApplicationService中实现getSimilarDatasets方法，支持基于标签匹配的相似数据集推荐
- 新增normalizeSimilarLimit、normalizeTagNames、countSharedTags等辅助方法用于相似度计算
- 在DatasetRepository接口及其实现类中添加findSimilarByTags方法，支持数据库层面的标签匹配查询
- 在DatasetController中暴露/similar REST API端点，支持按需获取相似数据集
- 在前端Overview组件中展示相似数据集表格，包含名称、标签、类型、文件数和更新时间等信息
- 在DatasetDetail页面集成相似数据集获取逻辑，限制默认返回数量为4条
- 移除KnowledgeItem中的冗余title字段，统一使用其他标识信息
- 优化知识管理相关组件中的标题显示逻辑，移除硬编码标题值
 2026-01-30 11:43:57 +08:00
q792602257 c51cd2b6e4 perf(docker): 优化 Docker 构建性能并启用缓存卷支持 
- 在后端 Dockerfile 中实现分层缓存，先复制 pom.xml 文件再下载依赖
- 在前端 Dockerfile 中实现 npm 依赖缓存卷，提升构建效率
- 在网关 Dockerfile 中实现 Maven 依赖缓存卷，减少重复下载
- 在 Makefile 中启用 Docker BuildKit 支持缓存卷等高级功能
- 使用离线模式编译避免网络请求，加快构建速度
- 优化 COPY 操作顺序以更好利用 Docker 层缓存机制
 2026-01-30 11:17:40 +08:00
q792602257 0b69845a29 feat(annotation): 添加文本项目源文档过滤功能 
- 在 EditorProjectInfo 中增加 datasetType 字段
- 移除前端硬编码的源文档扩展名列表
- 添加 isTextProject 判断逻辑
- 实现 prefetch 和 loadTasks 中的源文档排除参数
- 在后端接口中添加 excludeSourceDocuments 参数
- 实现源文档类型的数据库查询过滤逻辑
- 优化任务列表加载性能，避免不必要的源文档加载
 2026-01-29 16:29:40 +08:00
q792602257 f5f0add529 refactor(editor): 重构标签工作室文本编辑器组件 
- 优化了文本编辑器的渲染性能
- 改进了组件的状态管理逻辑
- 更新了编辑器的事件处理机制
- 简化了组件的属性传递方式
- 修复了文本选择相关的边界情况
- 提升了代码的可维护性和可读性
 2026-01-29 16:14:10 +08:00
q792602257 06f6de577b refactor(KnowledgeManagement): 调整知识库详情页面文件列表展示逻辑 
- 移除未使用的 Tag 组件导入
- 将文件标题列改为文件名列，并调整数据源为 sourceFileId
- 修改文件名显示逻辑，统一返回 "文件" 作为默认值
- 移除负责人列的显示
- 更新搜索框占位符文本为 "搜索文件名或内容"
- 调整文件名列宽度从 220px 增加到 260px
- 优化文件名解析逻辑，根据文件类型返回对应的预览文件名
 2026-01-29 15:21:41 +08:00
q792602257 3cc0802355 refactor(data-management): 移除知识条目的冗余字段和验证逻辑 
- 移除 KnowledgeItem 实体中的 title、status、domain、businessLine、owner、sensitivity 字段
- 移除 KnowledgeItem 实体中的有效期限相关字段 validFrom 和 validTo
- 移除 KnowledgeItem 实体中的标签集合 tags 和扩展元数据 metadata
- 删除 KnowledgeItemApplicationService 中的相关验证和默认值设置逻辑
- 移除 TagMapper 和 Tag 相关的数据处理代码
- 简化创建和更新知识条目的业务流程
- 更新数据库查询条件以适应新的实体结构
- 从各种 DTO 中移除已删除字段的定义和验证规则
- 修改分页查询逻辑以匹配新的字段结构
 2026-01-29 15:09:47 +08:00
q792602257 49b7f2a64c refactor(KnowledgeManagement): 优化知识集详情页面文件记录渲染逻辑 
- 将重复的条件判断提取为变量 isFileRecord
- 使用立即执行函数简化 JSX 结构
- 统一文件类型记录的操作按钮渲染方式
- 提高代码可读性和维护性
 2026-01-29 15:00:20 +08:00
q792602257 dd67a0a5d9 refactor(KnowledgeManagement): 简化知识条目编辑器组件 
- 移除表单验证和字段管理功能
- 删除日期选择器、下拉选择框等复杂表单元素
- 移除标签获取和状态管理逻辑
- 简化文件上传和替换流程
- 重构提交处理逻辑，区分创建和替换模式
- 移除冗余的类型定义和常量引用
- 优化文件列表管理和标题设置逻辑
 2026-01-29 14:45:18 +08:00
q792602257 6eb7507adf feat(repository): 添加查询衍生文件源文件ID功能 
- 在 DatasetFileRepository 接口中添加 findSourceFileIdsWithDerivedFiles 方法定义
- 在 DatasetFileRepositoryImpl 实现类中实现该方法
- 添加查询 metadata 中包含 derived_from_file_id 记录的源文件ID逻辑
- 提供完整的 JavaDoc 文档注释说明方法用途和参数
 2026-01-29 14:40:44 +08:00
q792602257 0dba604cd3 refactor(KnowledgeItemEditor): 重构知识项编辑器组件结构 
- 提取创建模式判断逻辑为独立变量 isCreateMode
- 使用条件渲染替代原有的 data?.id 判断
- 将表单字段按照创建和编辑模式进行分组重构
- 优化文件上传和替换功能的显示逻辑
- 改进代码可读性和维护性
 2026-01-29 14:37:05 +08:00
q792602257 f77fd99c31 feat(data-management): 扩展文档解析功能支持DOC和DOCX格式 
- 添加对DOC和DOCX文件类型的常量定义和支持
- 将文件类型验证逻辑从仅PDF扩展为PDF/DOC/DOCX
- 集成Docx2txtLoader用于处理Word文档解析
- 更新错误消息为中文描述以提升用户体验
- 重构文件解析方法以支持多种文档格式
- 添加解析器元数据记录以追踪使用的解析工具
- 更新文件路径验证和构建逻辑以适配新的文件类型
 2026-01-29 13:05:58 +08:00
q792602257 ab957ab53d feat(dataset): 添加PDF文本提取功能支持 
- 新增dataset模块路由配置
- 添加PdfTextExtractRequest和PdfTextExtractResponse数据传输对象
- 实现PDF文本提取接口，支持从PDF文件中提取文本内容
- 集成数据库会话管理和异步处理能力
 2026-01-29 11:45:23 +08:00
q792602257 5eafcf0145 refactor(request): 优化请求处理逻辑并添加PDF提取接口定义 
- 简化catch语句移除不必要的异常变量
- 删除无用的FormData条件判断代码
- 将变量声明从let改为const提升代码质量
- 移除响应拦截器中的冗余参数传递
- 在数据集模式模块中添加PDF文本提取相关的请求响应模型
- 更新模块导出列表包含新的PDF提取接口类型定义
 2026-01-29 11:40:30 +08:00
q792602257 ce98be5778 feat(knowledge): 添加知识条目文件预览和替换功能 
- 后端实现知识条目文件预览接口，支持多种文件类型在线预览
- 后端实现知识条目文件替换功能，保留原有文件管理逻辑
- 前端新增文件预览模态框组件，支持文本、图片、音视频预览
- 前端知识条目编辑器添加文件替换上传功能
- 前端优化文件内容截断预览逻辑，统一使用工具函数处理
- 前端修复 PUT 请求中 FormData 处理问题，确保文件上传正常工作
- 新增文件预览相关工具函数和常量配置
 2026-01-29 11:38:43 +08:00
q792602257 d0b5473068 feat(knowledge): 添加知识条目文件上传和下载功能 
- 新增文件上传接口支持批量上传知识条目文件
- 实现文件存储路径管理和安全验证机制
- 添加文件下载功能支持知识条目文件导出
- 扩展知识内容类型枚举增加FILE类型
- 扩展知识来源类型枚举增加FILE_UPLOAD类型
- 新增上传请求DTO定义文件验证和元数据配置
- 实现文件上传目录管理和文件名安全处理
- 添加文件扩展名识别和内容类型转换逻辑
 2026-01-29 11:17:24 +08:00
q792602257 3c4b66b451 feat(DataManagement): 添加文件预览功能支持多种文件类型 
- 实现文本、图片、视频、音频文件的预览功能
- 添加预览模态框支持不同文件类型的展示
- 集成文件类型检测和预览内容加载逻辑
- 添加预览加载状态和错误处理机制
- 实现大文件内容截断和滚动预览功能
- 添加预览窗口关闭和资源清理功能
 2026-01-28 11:18:08 +08:00
q792602257 4233da5b91 fix(annotation): 调整模板查询大小限制 
- 将模板查询大小从 200 减少到 100
- 添加注释说明后端最大限制为 100
- 确保与模板 API 的 'size' 参数一致
 2026-01-28 10:03:11 +08:00
q792602257 43f7d88ad2 fix(data-cleaning): 修复数据集文件查询方法调用参数缺失问题 
- 为datasetFileService.getDatasetFiles方法调用补充了缺失的参数
- 确保分页查询功能正常工作
- 解决了因参数不匹配导致的方法
 2026-01-27 19:54:11 +08:00
q792602257 a28b427e21 feat(data-annotation): 添加任务预加载功能以提升用户体验 
- 引入 UpsertAnnotationResponse 类型定义用于处理标注更新响应
- 移除废弃的 mergeTaskPages 函数并优化任务列表合并逻辑
- 新增 prefetchSeqRef 和 prefetching 状态管理预加载过程
- 实现 startPrefetchTasks 函数用于后台预加载剩余页的任务数据
- 更新 loadTasks 函数移除 refresh 模式并集成预加载机制
- 修改标注保存逻辑直接更新本地任务状态而非重新加载全部数据
- 在加载按钮中显示预加载状态提示用户当前操作进度
- 项目切换时重置预加载序列号确保状态一致性
 2026-01-27 19:45:25 +08:00
q792602257 1158647217 feat(annotation): 实现任务列表分页加载和优化排序功能 
- 添加分页相关字段到EditorTaskListResponse类型定义
- 定义TASK_PAGE_START和TASK_PAGE_SIZE常量及NormalizedTaskList类型
- 实现mergeTaskItems、mergeTaskPages和normalizeTaskListResponse工具函数
- 添加taskPage、taskTotal、taskTotalPages和loadingMore状态管理
- 优化后端查询逻辑，使用case语句实现标注状态排序
- 集成外连接查询同时获取文件信息和标注结果
- 改进前端任务列表的数据合并和分页加载机制
 2026-01-27 19:08:37 +08:00
q792602257 3a93098b57 feat(data-management): 添加数据集文件标注结果过滤功能 
- 在 OpenAPI 规范中添加 hasAnnotation 查询参数用于过滤存在标注结果的文件
- 修改后端服务层 DatasetFileApplicationService 支持 hasAnnotation 参数
- 更新数据访问层 DatasetFileRepositoryImpl 实现基于标注结果的存在性查询
- 调整前端 DatasetFileTransfer 组件支持标注过滤功能
- 移除无用的分块选项配置并优化全选逻辑
- 修复文件查询时的参数传递和依赖追踪问题
 2026-01-27 18:11:30 +08:00
q792602257 e56211107e feat(annotation): 添加Label Studio文本编辑器的焦点管理功能 
- 实现focusIframe函数用于聚焦iframe元素
- 在iframeReady和lsReady状态变化时自动聚焦编辑器
- 添加窗口聚焦事件监听器以保持编辑器焦点
- 在编辑器容器上添加鼠标点击事件以获取焦点
- 确保标签工作室准备就绪后正确设置焦点
- 优化用户体验通过自动焦点切换机制
 2026-01-27 14:37:14 +08:00
q792602257 e489a0023a refactor(annotation): 优化模板默认选择逻辑 
- 添加 resolveTemplateTimestamp 函数解析模板时间戳
- 将默认模板选择逻辑从查找内置模板改为选择最新更新的模板
- 使用 reduce 方法实现按时间戳排序的模板选择
- 提高模板选择的准确性和时效性
 2026-01-27 00:07:33 +08:00
q792602257 977a930c97 feat(annotation): 支持音频和视频数据类型的标注任务 
- 添加了音频和视频数据类型常量定义
- 实现了音频和视频标注模板的内置配置
- 扩展前端组件以支持按数据类型过滤标注模板
- 重构后端编辑器服务以处理音频和视频任务构建
- 更新数据库初始化脚本包含音频和视频标注模板
- 添加音频和视频数据类型的预览URL映射逻辑
 2026-01-26 23:54:40 +08:00
q792602257 47295e8cdf fix(annotation): 修复文本数据集段落切片显示条件
CodeQL Advanced / Analyze (java-kotlin) (push) Has been cancelled
Details
CodeQL Advanced / Analyze (javascript-typescript) (push) Has been cancelled
Details
CodeQL Advanced / Analyze (python) (push) Has been cancelled
Details
CodeQL Advanced / Analyze (actions) (push) Has been cancelled
Details 
- 添加 selectedDatasetId 条件确保段落切片仅在选择数据集后显示
- 防止在未选择数据集时错误显示段落切片配置选项
 2026-01-26 13:49:58 +08:00
q792602257 7cc3d34575 refactor(annotation): 优化段落切片配置的显示逻辑 
- 移除非文本数据集的段落切片配置选项
- 简化条件渲染逻辑，仅在文本数据集时显示段落切片配置
- 统一两个组件中的段落切片配置显示规则
- 移除冗余的数据集选择和类型检查提示信息
- 优化编辑模式下的禁用状态处理
 2026-01-26 12:19:49 +08:00
q792602257 371df12a96 feat(annotation): 添加文本数据集段落切片功能 
- 在前端组件中新增 segmentationEnabled 字段控制切片开关
- 为文本数据集添加段落切片配置选项，默认启用切片功能
- 在后端接口中新增 segmentation_enabled 参数传递给标注项目
- 实现切片逻辑控制，支持文本数据的自动段落分割
- 添加数据集类型判断，仅文本数据集支持切片配置
- 更新标注任务创建和编辑表单中的切片相关字段处理
 2026-01-26 12:14:27 +08:00
q792602257 fa160164d2 feat(annotation): 添加文本标注编辑器中的段落树导航和自动跳转功能 
- 引入 Tree 和 Empty 组件用于段落导航展示
- 实现分段树形结构数据生成和展示功能
- 添加自动跳转到下一个待标注文件或段落的功能
- 优化文件选择逻辑，优先选择未标注的文件
- 实现段落切换时的状态管理和依赖更新
- 添加段落树节点选中和展开状态控制
- 优化界面布局和滚动区域的高度计算
 2026-01-26 11:44:33 +08:00
q792602257 6835511f5a feat(data-management): 修改知识项导出功能为ZIP格式 
- 将导出文件格式从JSON改为ZIP压缩包
- 使用ZipArchiveOutputStream实现ZIP文件创建
- 为每个知识项创建独立的文件条目
- 添加文件名规范化和长度限制逻辑
- 实现重复文件名的索引编号处理
- 移除Jackson ObjectMapper依赖引入
- 更新响应头内容类型为application/zip
 2026-01-26 11:15:58 +08:00
q792602257 a8c7c9404c feat(knowledge): 添加知识条目导出功能和文件上传支持 
- 在 KnowledgeItemApplicationService 中新增 exportKnowledgeItems 方法实现知识条目导出
- 添加 export 相关常量配置包括文件名格式、内容类型等
- 在 KnowledgeItemRepository 中新增 findAllBySetId 查询方法
- 在 KnowledgeItemController 中新增 export 接口端点
- 在 KnowledgeItemEditor 组件中添加文件上传功能支持 txt/md/markdown 格式
- 在 KnowledgeSetDetail 页面中添加导出按钮并集成导出 API
- 更新前端 API 文件添加 exportKnowledgeItemsUsingGet 方法
- 配置文件上传验证和自动填充标题内容逻辑
 2026-01-26 11:13:21 +08:00
q792602257 be98a9534c feat(dataannotation): 隐藏自定义配置选项 
- 在创建标注任务对话框中注释掉自定义配置按钮
- 在创建任务页面中注释掉自定义配置按钮
- 暂时移除用户自定义配置功能入口
 2026-01-26 10:31:19 +08:00
q792602257 d26040a6e0 refactor(DataManagement): 重构数据管理详情页面组件 
- 移除 Overview 组件中的文件列表多选配置功能
- 添加 DatasetFileRow 类型定义并更新相关类型注解
- 修改 Overview 组件属性接口，增加 onUpload 回调函数
- 更新表格渲染函数中的类型注解，统一使用 DatasetFileRow 类型
- 简化按钮点击事件处理函数的参数传递
- 在 DatasetDetail 页面中移除顶部工具栏的上传按钮
- 将上传功能集成到 Overview 组件的文件操作区域
- 通过回调函数实现
 2026-01-26 10:31:09 +08:00
q792602257 a8c5de0aa6 feat(db): 添加图像分类标注模板到数据库初始化脚本 
- 新增图像分类标注模板配置，支持内容审核、安全检测等场景
- 集成 ResNet、EfficientNet、Vision Transformer 关联模型
- 添加 Choices 标签配置，包含 Adult content、Weapons、Violence 选项
- 设置 Image 对象类型用于图像展示和标注
- 配置水平布局样式和计算机视觉类别属性
 2026-01-26 10:19:55 +08:00
q792602257 c5aa052451 feat(annotation): 添加图像分类内置模板 
- 新增 IMAGE_CLASSIFICATION_LABEL_CONFIG 配置定义
- 添加图像分类内置模板定义，包含 Adult content、Weapons、Violence 分类选项
- 配置图像分类模板的数据类型为图片类型
- 设置图像分类模板的标签配置和样式
- 定义图像分类模板的描述信息和版本信息
 2026-01-25 19:00:01 +08:00
q792602257 250a13ff70 feat(annotation): 支持图像标注项目并添加内置标注模板 
- 扩展标注编辑器支持 TEXT/IMAGE 数据类型
- 添加三个内置图像标注模板：目标检测、语义分割（掩码）、语义分割（多边形）
- 实现内置标注模板的数据库初始化功能
- 集成标注配置验证和模板管理服务
- 更新项目不支持提示信息以反映新的数据类型支持
 2026-01-25 18:35:07 +08:00
q792602257 c5ace0c4cc feat(annotation): 支持图像数据集的内嵌标注编辑器 
- 添加文件预览接口，支持以 inline 方式预览数据集中的指定文件
- 实现图像任务构建功能，支持图像标注任务的数据结构
- 扩展标注编辑器服务以支持 TEXT 和 IMAGE 类型数据集
- 添加媒体对象分类支持，解析图像标注配置
- 实现图像文件预览 URL 构建逻辑
- 优化项目信息获取和任务响应构建流程
- 修复数据库查询中的项目 ID 引用错误
 2026-01-25 17:25:44 +08:00
q792602257 e6d1e4763f feat(template): 添加标签显示名称映射功能 
- 引入 COMMON_TAG_DISPLAY_NAMES 映射表，为常用标签提供中文显示名称
- 更新布局控件选项以使用中文显示名称
- 修改容器选项以使用中文显示名称
- 添加 getTagDisplayName 回调函数，统一处理标签名称显示逻辑
- 优化节点标题显示，结合标签类型和属性值展示更友好的名称
- 更新依赖数组以包含新的显示名称函数
 2026-01-24 17:36:18 +08:00
q792602257 03402e4559 fix(annotation): 修复段落导航栏布局问题 
- 修改段落导航容器为 flex-nowrap 防止换行
- 为段落标签添加 shrink-0 类避免压缩
- 使用 flex-1 min-w-0 优化段落列表容器
- 添加 overflow-x-auto 和 whitespace-nowrap 实现横向滚动
- 为右侧控制区域添加 shrink-0 和 whitespace-nowrap 类
 2026-01-24 16:28:07 +08:00
q792602257 0e30e658e9 feat(annotation): 添加 JSONL 文件支持和文本键解析功能 
- 添加 JSONL 文件扩展名常量定义
- 实现主文本键解析方法 _resolve_primary_text_key
- 添加 JSONL 记录解析方法 _parse_jsonl_records
- 修改任务数据构建方法以支持主文本键参数
- 实现主文本值解析方法 _resolve_primary_text_value
- 更新项目信息获取逻辑以支持 JSONL 多行记录处理
- 修改分段逻辑以支持 JSONL 多行或超长文本分段
- 调整标注处理逻辑以正确处理分段标注场景
 2026-01-23 22:09:06 +08:00
q792602257 8e06a36460 fix(annotation): 修复模板配置树编辑器组件渲染问题 
- 为 Tree 组件添加 key 属性以确保正确的组件实例化
- 启用 defaultExpandAll 属性以默认展开所有节点
- 保持拖拽功能在结构锁定状态下的正常工作
 2026-01-23 16:16:02 +08:00
q792602257 3f566a0b08 feat(annotation): 替换模板配置表单为树形编辑器组件 
- 移除 TemplateConfigurationForm 组件并引入 TemplateConfigurationTreeEditor
- 使用 useTagConfig Hook 获取标签配置
- 将自定义XML状态 customXml 替换为 labelConfig
- 删除模板编辑标签页和选择模板状态管理
- 更新XML解析逻辑支持更多对象和标注控件类型
- 添加配置验证功能确保至少包含数据对象和标注控件
- 在模板详情页面使用树形编辑器显示配置详情
- 更新任务创建页面集成新的树形配置编辑器
- 调整预览数据生成功能适配新的XML解析方式
 2026-01-23 16:11:59 +08:00
q792602257 76d06b9809 fix(template): 移除内置模板的编辑和删除权限限制 
- 删除了内置模板的编辑按钮隐藏逻辑
- 移除了内置模板的删除按钮禁用条件
- 允许所有模板类型显示完整的操作按钮组
- 统一了模板列表的操作按钮渲染逻辑
 2026-01-22 21:35:09 +08:00
q792602257 ccb581d501 feat(template): 添加模板搜索功能和优化数据获取 
- 添加 keyword 参数支持模板名称和描述模糊搜索
- 在 useFetchData hook 中添加 filterParamMapper 参数用于过滤参数映射
- 为模板列表页面实现内置标志过滤器映射功能
- 优化模板配置更新逻辑，改进数据验证和转换流程
- 完善模板服务中的条件查询，支持多字段模糊匹配
- 更新数据获取 hook 的依赖数组以正确处理轮询逻辑
 2026-01-22 21:25:04 +08:00
q792602257 d22d677efe fix(annotation): 更新受限模式下的修改权限提示 
- 在受限模式提示中添加来源名称可修改的说明
- 移除控件ID输入框的禁用状态以支持来源名称修改
- 更新编辑模式下的权限描述文本
 2026-01-22 21:12:47 +08:00
q792602257 9eafdc86bb fix(annotation): 修正知识库同步服务中的分页参数 
- 将_list_knowledge_sets方法中的page参数从0改为1
- 将文件检索接口中的page参数从0改为1
- 统一所有分页查询的起始页码为1，避免空结果返回
 2026-01-22 20:28:20 +08:00
q792602257 90c5cc44e8 feat(annotation): 优化知识同步服务的响应处理 
- 在HTTP请求后添加响应解包功能
- 实现_code_方法来处理API响应格式
- 添加错误码检查和异常抛出机制
- 提取数据字段并返回正确的内容结构
- 保持原有安全JSON序列化功能不变
 2026-01-22 20:23:37 +08:00
q792602257 9376382791 refactor(annotation): 简化知识库集查找逻辑 
- 移除项目参数依赖，简化 _find_knowledge_set_by_name 方法
- 删除不再使用的 _parse_metadata 和 _metadata_matches_project 方法
- 更新知识库集创建流程中的查找调用方式
- 统一所有知识库集查找操作的参数结构
 2026-01-22 20:18:42 +08:00
q792602257 cb71712f51 feat(annotation): 优化知识集合同步服务逻辑 
- 添加 KNOWLEDGE_SET_LIST_SIZE 常量配置知识集列表大小为50
- 实现现有知识集名称检查避免重复创建
- 添加 _list_knowledge_sets 方法用于查询知识集列表
- 实现 _parse_metadata 和 _metadata_matches_project 方法解析匹配项目元数据
- 添加 _find_knowledge_set_by_name 方法按名称查找知识集
- 优化知识集创建流程增加重试和回退机制
- 实现项目配置更新保存知识集ID和名称信息
 2026-01-22 17:48:27 +08:00
q792602257 389c04b46a feat(annotation): 添加切换段落时自动保存功能 
- 在 LabelStudioTextEditor 组件中新增 Switch 组件用于控制自动保存
- 添加 autoSaveOnSwitch 状态管理自动保存开关
- 修改 confirmSaveBeforeSwitch 函数支持保存、放弃、取消三种决策
- 实现自动保存逻辑，当开关开启时直接保存而不弹出确认对话框
- 在段落导航栏添加自动保存开关和标签显示
- 更新切换段落时的未保存更改处理逻辑
 2026-01-22 17:38:25 +08:00
q792602257 9c9d5ecbe2 feat(annotation): 添加标注检查和段落切换保护功能 
- 在LSF中实现LS_EXPORT_CHECK消息处理以获取当前标注状态
- 添加requestId支持用于标注导出请求的追踪
- 实现稳定字符串化算法用于标注快照比较
- 添加段落切换前的未保存更改检测和确认对话框
- 集成标注快
 2026-01-22 17:29:21 +08:00
q792602257 1eee1e248e feat(annotation): 添加分段索引支持和优化标注编辑器 
- 在前端 lsf.html 中添加 segmentIndex 字段解析逻辑
- 在 LabelStudioTextEditor 中添加分段索引相关类型定义和处理函数
- 使用 useCallback 优化组件中的异步函数性能
- 添加对驼峰命名和下划线命名的数据字段兼容处理
- 实现分段模式下的标注状态更新功能
- 添加任务 ID 验证防止过期保存请求
- 在后端 editor.py 中添加分段索引字段支持
- 统一前后端数据传输格式确保字段一致性
 2026-01-22 17:14:37 +08:00
q792602257 c638182c72 feat(annotation): 增强标注编辑器的文本数据处理功能 
- 添加 JSON 和 XML 解析支持用于处理标注配置
- 实现文本占位符填充机制优化用户体验
- 集成标签工作室配置管理功能
- 添加文本对象类型检测和分类处理
- 实现标注配置装饰器增强编辑器
 2026-01-22 16:22:32 +08:00
q792602257 d996040b7f feat(KnowledgeManagement): 添加知识条目阅读功能 
- 在知识集详情页面中添加阅读按钮，支持查看知识条目的内容
- 实现文本和Markdown格式知识条目的在线阅读预览
- 集成文件下载功能，支持从数据集文件中读取内容
- 添加内容长度限制，超过50000字符时截断并提示
- 使用模态框展示阅读内容，提供良好的用户体验
-
 2026-01-22 15:09:10 +08:00
q792602257 73f0ab65fa feat(annotation): 实现标注结果同步到知识管理功能 
- 在知识条目实体中新增来源数据集ID和文件ID字段
- 实现标注编辑器中同步标注结果到知识管理的服务逻辑
- 添加知识同步服务类处理标注到知识条目的转换和同步
- 实现通过下载接口获取文本内容的独立服务模块
- 更新知识条目查询接口支持按来源数据集和文件ID过滤
- 自动创建和关联标注项目对应的知识集
- 支持文本和Markdown文件的内容合并标注结果
- 添加同步过程中的错误处理和日志记录机制
 2026-01-21 16:09:34 +08:00
q792602257 6baf66b304 fix(dataset): 修复数据集详情页面初始化逻辑 
- 添加 id 参数存在性检查避免空值调用
- 将 fetchFiles 函数依赖添加到 useEffect 依赖数组中
- 确保在 id 不存在时不执行数据获取操作
 2026-01-21 14:10:23 +08:00
q792602257 d88bdfb1f4 feat(dataset): 添加子数据集展示功能 
- 在 DatasetDetail 页面引入 Table 和 Tag 组件用于子数据集展示
- 新增 queryDatasetsUsingGet 接口调用方法用于获取子数据集列表
- 添加 childDatasets 和 childDatasetsLoading 状态管理
- 实现 tabList 动态渲染，父数据集显示子数据集选项卡
- 添加 fetchChildDatasets 方法异步获取子数据集数据
- 实现子数据集表格列定义，包含名称、类型、状态、文件数等信息
- 在子数据集选项卡中展示表格并添加加载状态和空数据提示
- 添加子数据集数量统计显示
- 优化标签颜色显示和数据映射逻辑
 2026-01-21 13:50:18 +08:00
q792602257 ec27e2fa3e Merge branch 'editor_next' into lsf 2026-01-21 13:28:01 +08:00
q792602257 712fc013f5 refactor(Sidebar): 优化侧边栏菜单激活项初始化逻辑 
- 添加 useCallback 包装 initActiveItem 函数以提升性能
- 引入 isPathMatch 工具函数替代简单的路径匹配逻辑
- 重构菜单项遍历逻辑，使用 for...of 循环替代 forEach
- 修复路径匹配逻辑，统一处理 /data/ 路径前缀
- 移除未使用的 Sparkles 图标导入
- 更新 useEffect 依赖数组以
 2026-01-21 13:26:39 +08:00
q792602257 34fa184b69 feat(knowledge): 添加知识管理功能模块 
- 实现知识集的创建、编辑、删除功能
- 实现知识条目的创建、编辑、删除功能
- 添加知识集详情页面展示功能
- 实现知识条目导入数据集文件功能
- 添加知识管理主页列表展示功能
- 实现知识集和知识条目的状态管理
- 集成标签管理和搜索过滤功能
- 添加知识条目的批量操作支持
 2026-01-21 11:48:36 +08:00
q792602257 da6c7860cb refactor(routes): 重构路由配置和菜单结构 
- 更新了路由定义文件以支持新的导航需求
- 调整了菜单组件的数据结构和渲染逻辑
- 统一了路由路径和菜单项的命名规范
- 优化了路由懒加载配置提升性能
- 修改了菜单权限验证机制
- 清理了废弃的路由配置项
 2026-01-21 11:47:54 +08:00
q792602257 e78acbea0a feat(data-management): 添加知识库管理功能 
- 在DataManagementErrorCode中新增知识库相关错误码定义
- 在数据库初始化脚本中创建知识集和知识条目表结构
- 新增KnowledgeItemApplicationService实现知识条目的CRUD操作
- 新增KnowledgeSetApplicationService实现知识集的CRUD操作
- 定义KnowledgeContentType、KnowledgeSourceType和KnowledgeStatusType枚举类型
- 创建KnowledgeItem和KnowledgeSet领域模型实体
- 实现KnowledgeItemMapper和KnowledgeSetMapper数据访问接口
- 提供KnowledgeItemRepositoryImpl和KnowledgeSetRepositoryImpl仓储实现
- 添加知识条目按条件分页查询功能
- 实现知识条目从数据集文件导入的功能
- 支持知识集和知识条目的标签管理和状态控制
 2026-01-21 11:32:45 +08:00
q792602257 ecec69422d Revert "feat(layout): 添加知识管理菜单项并优化侧边栏显示" 
This reverts commit 2c7b027488.
 2026-01-21 10:31:23 +08:00
q792602257 2c7b027488 feat(layout): 添加知识管理菜单项并优化侧边栏显示 
- 在菜单中新增了知识管理功能入口，支持数据标注和标记
- 移除了侧边栏中任务中心按钮的文本内容，优化界面显示
- 配置了新的绿色主题色用于知识管理模块标识
 2026-01-21 09:15:58 +08:00
q792602257 c51e0fab2f feat(dataset): 添加子数据集创建功能 
- 在创建页面集成父数据集ID传递逻辑
- 使用useMemo缓存location状态中的parentDatasetId
- 添加useEffect同步parentDatasetId到表单状态
- 实现handleCreateChildDataset函数用于导航到创建页面
- 在数据集详情页的操作菜单中添加"创建子数据集"选项
- 为子数据集创建按钮添加PlusOutlined图标
- 定义CreateDatasetLocationState接口规范传递参数类型
 2026-01-21 01:00:17 +08:00
q792602257 0c23fd6c23 fix(import): 修复文件上传配置和表单状态管理问题 
- 移除手动fileList状态管理，改用Form组件内置字段
- 修复重置状态时的初始值设置，确保hasArchive和splitByLine默认值正确
- 更新文件上传验证逻辑，使用form.getFieldValue获取文件列表
- 修改拖拽上传组件配置，移除不必要的回调函数
- 修复按钮禁用条件判断，使用正确的字段路径检查文件长度
- 移除表单项的initialValue配置，统一在state初始化时设置默认值
- 调整Sidebar组件中的注释标记，修复任务中心弹窗显示逻辑
 2026-01-21 00:56:09 +08:00
q792602257 221899e194 Merge branch 'dataset_parent' into lsf 2026-01-21 00:17:20 +08:00
q792602257 d58d026256 refactor(dataset): 更新数据集导入配置接口定义 
- 添加 DatasetImportConfig 接口定义
- 定义 source、target、dataSource 等属性
- 支持 splitByLine 和 hasArchive 配置选项
- 将 importConfig 类型从 any 改为 DatasetImportConfig
- 增强类型安全性和代码可维护性
 2026-01-20 13:39:04 +08:00