统一运维入口 · 查询代理 / 入库调度 / SQL监控审计
平台核心服务运行概览、今日查询统计与快捷入口
| 服务名称 | 状态 | 启动时长 |
|---|---|---|
| tdb_query_release | 运行中 | 12天 4小时 |
| tdb_loader | 运行中 | 12天 4小时 |
| tdb_query_rest | 运行中 | 35天 6小时 |
| 时间 | 操作人 | 模块 | 操作内容 | 结果 |
|---|---|---|---|---|
| 2026-09-14 17:32 | admin | 查询代理 | 编辑二级索引配置:tp_dwd.dwd_user_order_wide | 成功 |
| 2026-09-14 17:18 | zhangsan | 入库调度 | 手动触发任务:hive_dwd_user_order_inc | 运行中 |
| 2026-09-14 16:52 | admin | 运维监控 | 导出近24小时慢查询明细 | 成功 |
| 2026-09-14 16:40 | lisi | 系统 | 调整全局 SQL 并发上限 60 → 80 | 成功 |
可视化启停 tdb_query_release 服务,实时展示运行状态。底层沿用原 Shell 启停脚本,逻辑零变更。
| 进程 PID | 1 2 4 8 9 6 2 |
| 运行时长 | 12 天 4 小时 26 分 |
| 启动时间 | 2026-09-02 08:12:44 |
| 配置文件 | /opt/tdb/query_release/conf/application.properties |
| 启停脚本 | /opt/tdb/query_release/bin/start.sh · stop.sh |
| 核心端口 | 9100 (SQL 接入) / 9060 (管理) |
| 资源占用 | CPU 23% · 内存 1.8 GB / 4 GB |
| 操作时间 | 操作人 | IP 地址 | 操作类型 | 变更说明 | 结果 |
|---|---|---|---|---|---|
| 2026-09-14 16:40 | lisi | 10.0.1.32 | 重启 | 加载二级索引配置变更 | 成功 |
| 2026-09-12 09:02 | admin | 10.0.1.11 | 停止 | 例行维护 | 成功 |
| 2026-09-12 09:16 | admin | 10.0.1.11 | 启动 | 例行维护完成 | 成功 |
| 2026-09-01 20:41 | system | - | 异常 | 进程意外退出,自动拉起 | 已恢复 |
按 TDB 表维度配置二级索引规则,自动改写 SQL 提升查询性能;配置实时校验、变更可审计。
| 序号 | 数据库 | 表名 | 索引规则 | 状态 | 创建人 | 更新时间 | 操作 |
|---|---|---|---|---|---|---|---|
| 1 | tp_ods | ods_user_login | uid 前缀索引 + login_time 排序 | 已启用 | admin | 2026-09-13 10:24 | |
| 2 | tp_ods | ods_order_detail | order_date 前缀索引 + order_id | 已启用 | admin | 2026-09-12 15:40 | |
| 3 | tp_dwd | dwd_user_order_wide | user_id + order_date 联合前缀索引 | 已启用 | zhangsan | 2026-09-14 17:32 | |
| 4 | tp_dim | dim_product_info | sku_id 前缀索引 | 已禁用 | lisi | 2026-09-10 09:12 | |
| 5 | tp_dws | dws_trade_day_agg | 统计日期 + 分区列前缀索引 | 已启用 | admin | 2026-09-09 16:05 |
配置全局 / 单表 SQL 并发上限,控制查询压力,异常提交自动拒绝并记录。
· 超出全局上限的查询请求将进入排队队列,超时(默认 5s)自动拒绝
· 单表并发限制优先级高于全局限制,用于保护大表查询
· 拒绝的请求计入"异常查询"统计,自动触发 SQL 优化改写
· 所有 SQL 无论是否并发受限,均写入审计日志留存
| 数据库.表名 | 并发上限 | 当前并发 | 生效状态 | 更新时间 | 操作 |
|---|---|---|---|---|---|
| tp_dwd.dwd_user_order_wide | 20 | 6 | 生效中 | 2026-09-12 10:20 | |
| tp_dws.dws_trade_day_agg | 10 | 10 | 已触顶 | 2026-09-11 14:02 | |
| tp_ods.ods_user_login | 30 | 12 | 生效中 | 2026-09-10 11:45 |
服务运行时长、查询总量、优化 SQL、异常查询等核心指标集中展示。
| 时间 | SQL(截断) | 关联表 | 原因 |
|---|---|---|---|
| 17:12:45 | SELECT * FROM dws_trade_day_agg WHERE ... | dws_trade_day_agg | 超时 12.3s |
| 16:58:20 | SELECT count(1) FROM ods_user_login WHERE dt>=... | ods_user_login | 并发受限 |
| 16:30:11 | INSERT INTO tmp_rpt ... SELECT ... FROM ods_order_... | ods_order_detail | 语法错误 |
服务宕机前台告警
单小时异常查询 > 20 条提醒
慢查询占比 > 8% 通知运维群
可视化启停 tdb_loader 入库调度服务,展示进程健康度与最近启停时间。
| 进程 PID | 5 6 4 1 2 0 8 |
| 运行时长 | 12 天 4 小时 26 分 |
| 启动时间 | 2026-09-02 08:12:44 |
| 配置文件 | /opt/tdb/loader/conf/loader.properties |
| 启用任务数 | 启用 3 / 暂停 1 / 禁用 1 |
| 进程健康度 | 健康 · 心跳 5s 正常 · 无告警 |
| 最近启停时间 | 2026-09-14 06:00 自动重启(例行) |
可视化管理入库配置,支持目标表、数据源、同步周期、分区、过滤、重试策略等全量参数配置,批量导入导出。
| 序号 | 任务名称 | 目标表 | 数据源 | 同步周期 | 分区字段 | 重试策略 | 状态 | 更新时间 | 操作 |
|---|---|---|---|---|---|---|---|---|---|
| 1 | hive_dwd_user_order_inc | dwd_user_order_inc | Hive | 增量 · 每10分钟 | dt | 失败重试3次 | 启用 | 2026-09-14 17:30 | |
| 2 | hive_dim_product_full | dim_product_info | Hive | 全量 · 每日 02:00 | dt | 失败重试2次 | 启用 | 2026-09-14 00:10 | |
| 3 | jdbc_mysql_order | ods_order_from_mysql | JDBC | 增量 · 每5分钟 | biz_date | 失败重试3次 | 启用 | 2026-09-13 18:22 | |
| 4 | kafka_user_event | dwd_user_event | Kafka | 实时 · 持续消费 | event_dt | 失败重试3次 | 暂停 | 2026-09-13 09:40 | |
| 5 | file_local_csv | ods_file_batch | 本地文件 | 一次性 · 手动 | batch_date | 失败重试1次 | 禁用 | 2026-09-12 14:05 |
· 新增任务提交时自动校验:目标表存在性、导入字段与源表字段匹配、分区字段合法性、数据源连通性
· Hive 任务支持全量 / 增量模式,增量依据增量字段自动过滤;重试策略支持最大重试次数与重试间隔
· 任务配置变更实时生效,变更内容记录操作日志供审计追溯
展示所有导入任务运行状态、执行耗时、导入数据量与失败重试情况,失败日志可视化定位。
| 任务名称 | 目标表 | 最近执行时间 | 执行耗时 | 导入数据量 | 失败重试 | 状态 | 操作 |
|---|---|---|---|---|---|---|---|
| hive_dwd_user_order_inc | dwd_user_order_inc | 17:30:12 | 1分 26秒 | 3,842,516 行 | 0 | 运行中 | |
| hive_dim_product_full | dim_product_info | 02:00:05 | 4分 12秒 | 1,205,300 行 | 0 | 成功 | |
| jdbc_mysql_order | ods_order_from_mysql | 17:35:01 | 38秒 | 86,214 行 | 0 | 运行中 | |
| kafka_user_event | dwd_user_event | 14:08:33 | 12分 45秒 | 9,620,118 行 | 2 | 失败重试 | |
| file_local_csv | ods_file_batch | 10:22:09 | 5秒 | 12,430 行 | 1 | 失败 |
采集原始 SQL 与优化后 SQL 完整内容,支持时间、表、关键词、状态、耗时、用户多维筛选,分页导出。
| 执行时间 | 原始 SQL | 优化后 SQL | 耗时 | 返回记录数 | 状态 | 关联表 | 用户 | 操作 |
|---|---|---|---|---|---|---|---|---|
| 17:42:15 | SELECT order_id, user_id, amount FROM dwd_user_order_wide WHERE dt='2026-09-14' AND user_id IN (...) | 已改写 · 命中二级索引 | 860ms | 1,280 | 慢查询 | dwd_user_order_wide | root | |
| 17:40:02 | SELECT user_id, count(1) AS cnt FROM ods_user_login WHERE login_time > '2026-09-14 00:00' GROUP BY user_id | 已改写 · 前缀索引+预聚合 | 420ms | 9,432 | 正常 | ods_user_login | app_uw | |
| 17:35:48 | SELECT * FROM dws_trade_day_agg WHERE stat_date >= '2026-09-01' AND stat_date <= '2026-09-14' ORDER BY stat_date DESC | 未改(并行度受限) | 12.3s | 1,024,556 | 超时 | dws_trade_day_agg | root | |
| 17:28:13 | SELECT product_id, product_name, price FROM dim_product_info WHERE sku_id = 'SKU88902' | 已改写 · sku 前缀索引 | 88ms | 1 | 正常 | dim_product_info | app_uw | |
| 17:12:45 | SELECT SUM(amount) FROM tp_dws.dws_trade_day_agg WHERE dt = '2026-09-14' | 执行失败 | - | - | 失败 | dws_trade_day_agg | root |
区分慢查询 / 正常 / 异常查询,对比原始 SQL 与优化后 SQL 执行差异,直观展示优化效果。
| 耗时 | SQL(截断) | 关联表 | 状态 | 操作 |
|---|---|---|---|---|
| 28.4s | SELECT * FROM dws_trade_day_agg WHERE ... | dws_trade_day_agg | 异常 | |
| 19.8s | SELECT user_id,sku_id,sum(amount) ... GROUP BY ... | dwd_user_order_wide | 慢查询 | |
| 12.3s | SELECT * FROM dws_trade_day_agg WHERE stat_date >= ... | dws_trade_day_agg | 慢查询 | |
| 8.6s | SELECT o.order_id, u.user_name FROM ods_order_detail o ... | ods_order_detail | 慢查询 | |
| 6.9s | SELECT count(DISTINCT user_id) FROM ods_user_login ... | ods_user_login | 慢查询 |
单条 SQL 全链路溯源:原始 SQL、优化后 SQL、执行上下文、关联索引配置完整留存,定位优化与索引问题。
| 查询 ID | SQL20260914171245876 | 接入通道 | 9100 (query_release) |
| 执行时间 | 2026-09-14 17:12:45.612 | 执行耗时 | 12.3s |
| 执行用户 | root @ 10.0.1.55 | 返回记录数 | 1,024,556 |
| 关联表 | dws_trade_day_agg | 执行状态 | 超时 |
| 异常信息 | ScanNode | ||
| 查询ID | 时间 | 耗时 | 用户 | 优化 | 状态 |
|---|---|---|---|---|---|
| SQL20260914171245876 | 17:12:45 | 12.3s | root | 未改写 | 超时 |
| SQL20260914162810234 | 16:28:10 | 3.4s | app_uw | 已改写 | 正常 |
| SQL202609141618551 | 16:18:55 | 2.1s | app_uw | 已改写 | 正常 |
平台的用户、角色与权限管理,区分管理员、运维人员、只读三种角色。
| 用户名 | 姓名 | 角色 | 邮箱 | 状态 | 创建时间 | 操作 |
|---|---|---|---|---|---|---|
| admin | 管理员 | 管理员 | admin@example.com | 启用 | 2026-08-01 | |
| zhangsan | 张三 | 运维人员 | zhangsan@example.com | 启用 | 2026-08-12 | |
| lisi | 李四 | 运维人员 | lisi@example.com | 启用 | 2026-08-15 | |
| wangwu | 王五 | 只读 | wangwu@example.com | 停用 | 2026-08-20 |
基于角色的权限管控,支持菜单与操作权限精细化配置。所有接口鉴权,防止越权访问。
| 角色名称 | 角色标识 | 描述 | 权限范围 | 用户数 | 操作 |
|---|---|---|---|---|---|
| 管理员 | ROLE_ADMIN | 平台全部功能与敏感操作 | 全部菜单服务启停配置修改用户管理 | 1 | |
| 运维人员 | ROLE_OPS | 业务模块配置与任务运维 | 业务模块任务触发配置编辑 | 2 | |
| 只读 | ROLE_VIEWER | 仅查看监控与审计数据 | 监控查看审计查询 | 1 |
首页工作台
查询代理管理(服务启停 / 索引配置 / 并发管控 / 状态监控)
入库调度管理(任务配置 / 运行监控 / 手动触发)
运维监控(SQL 查询监控 / 性能分析 / 审计追溯)
用户管理 / 角色权限
系统参数配置(敏感)
操作日志 / 审计日志(只读)
平台通用参数与各模块运行参数统一管理,自带校验与审计,预留二期扩展字段。
平台全量操作行为日志,记录操作人、IP、时间、模块与变更内容。
| 时间 | 操作人 | IP | 模块 | 操作类型 | 变更内容 | 结果 |
|---|---|---|---|---|---|---|
| 2026-09-14 17:32 | admin | 10.0.1.11 | 查询代理 | 编辑索引 | tp_dwd.dwd_user_order_wide 索引规则调整 | 成功 |
| 2026-09-14 17:18 | zhangsan | 10.0.1.33 | 入库调度 | 触发任务 | 手动触发 hive_dwd_user_order_inc | 运行中 |
| 2026-09-14 16:52 | admin | 10.0.1.11 | 运维监控 | 数据导出 | 导出近24h慢查询明细 | 成功 |
| 2026-09-14 16:40 | lisi | 10.0.1.32 | 查询代理 | 重启服务 | 重启 tdb_query_release | 成功 |
| 2026-09-14 14:05 | admin | 10.0.1.11 | 入库调度 | 新增任务 | 新增 jdbc_mysql_order 导入任务 | 成功 |
关键操作(服务启停、配置修改、敏感操作)全量永久留存,支持审计追溯与安全合规核查。
| 时间 | 操作人 | IP | 操作类型 | 变更内容 | 结果 |
|---|---|---|---|---|---|
| 2026-09-14 16:40 | lisi | 10.0.1.32 | 服务启停 | 重启 tdb_query_release(加载索引配置变更) | 成功 |
| 2026-09-14 16:40 | lisi | 10.0.1.32 | 配置修改 | 全局 SQL 并发上限 60 → 80 | 成功 |
| 2026-09-14 14:05 | admin | 10.0.1.11 | 配置修改 | 新增导入任务 jdbc_mysql_order | 成功 |
| 2026-09-14 10:30 | admin | 10.0.1.11 | 用户/角色 | 停用用户 wangwu | 成功 |
| 2026-09-13 22:18 | zhangsan | 10.0.1.33 | 导出操作 | 导出近30日 SQL 全量审计明细 | 成功 |
平台操作日志、服务运行日志、SQL 执行日志集中解析、检索与报错聚合分析。
日志分析能力将于二期迭代上线:日志集中解析、关键词检索、报错聚合、告警聚合分析
集群查询热度、导入任务成功率、慢查询趋势、资源占用统计分析。
数据分析能力将于二期迭代上线:查询热度排行、任务成功率、慢查询趋势、资源占用大盘
AI 智能识别慢查询、自动推荐索引优化规则、异常故障智能预警。
AI 智能运维将于二期迭代上线:慢查询自动识别、索引优化规则推荐、异常故障智能预警
| 任务 | file_local_csv → ods_file_batch | 执行时间 | 2026-09-14 10:22:09 |
| 状态 | 失败 | 重试次数 | 1 / 1 |
| 失败原因 | 文件解析错误:第 1284 行字段数与表结构不匹配 | ||
首页工作台
查询代理管理(服务启停 / 索引配置 / 并发管控 / 状态监控)
入库调度管理(任务配置 / 运行监控 / 手动触发)
运维监控(SQL 查询监控 / 性能分析 / 审计追溯)
用户管理 / 角色权限
系统参数配置(敏感)
操作日志 / 审计日志(只读)