数据库质量审核平台 CreditEaseDBA-Themis

Apache
JavaScript HTML/CSS
跨平台
2019-04-24
宜信技术学院

Themis是宜信公司DBA团队开发的一款数据库审核产品,可帮助DBA、开发人员快速发现数据库质量问题,提升工作效率。其名称源自希腊神话中的正义与法律女神。项目取此名称,寓意此平台对数据库质量公平判断,明察秋毫。

此平台可实现对Oracle、MySQL数据库进行多维度(对象结构、SQL文本、执行计划及执行特征)的审核,用以评估对象结构设计质量及SQL运行效率。可帮助DBA及开发人员,快速发现定位问题;并提供部分辅助诊断能力,提升优化工作效率。全部操作均可通过WEB界面进行,简单便捷。此外,为了更好满足个性化需求,平台还提供了扩展能力,用户可根据需要自行扩展。

Themis(泰美斯),是希腊正义与法律女神,以头脑清晰见称。项目采用此名称,寓意着平台可对数据库质量公平判断,明察秋毫之意。

功能概述

  1. 事后审核,自主优化部分放在二期实现。亦可在项目设计阶段引入,起到一部分事前审核的作用。
  2. 通过WEB界面完成全部工作,主要使用者是DBA和有一定数据库基础的研发人员。
  3. 可针对某个用户审核,可审核包括数据结构、SQL文本、SQL执行特征、SQL执行计划等多个维度。
  4. 审核结果通过WEB页面或导出文件的形式提供。
  5. 平台支持主流的Oracle、MySQL数据库,其他数据库放在二期实现。
  6. 尽量提供灵活定制的能力,便于日后扩展功能。

支持的数据库

  • MySQL(5.6及以上)

  • Oracle(10g及以上)

审核维度

  • 数据库结果(对象)=》指数据库对象,常见的表、分区、索引、视图、触发器等。

  • SQL文本(语句)=》指SQL语句文本本身。

  • SQL执行计划=》指数据库中SQL的执行计划。

  • SQL执行特征=》指语句在数据库上的真实执行情况。

实现原理

整个平台的基本实现原理很简单,就是将我们的审核对象(目前支持四种),通过规则集进行筛选。符合规则的审核对象,都是疑似有问题的。平台会将这些问题及关联信息提供出来,供人工甄别使用。由此可见,平台的功能强大与否,主要取决于规则集的丰富程度。平台也提供了部分扩展能力,方便扩展规则集。

平台架构

图中的方框部分,为平台的主要模块。底色不同的模块,表示当前的进度状态不同。虚线代表数据流,实线代表控制流。其核心为这几个模块:

  1. 数据采集模块。它是负责从数据源抓取审核需要的基础数据。目前支持从Oracle、MySQL抓取。
  2. OBJ/SQL存储库。这是系统的共同存储部分,采集的数据和处理过程中的中间数据、结果数据都保存在这里。其核心数据分为对象类和SQL类。物理是采用的MongoDB。
  3. 核心管理模块。图中右侧虚线部分包含的两个模块:SQL管理和OBJ管理就是这部分。它主要是完成对象的全生命周期管理。目前只做了简单的对象过滤功能,因此还是白色底色,核心的功能尚未完成。
  4. 审核规则和审核引擎模块。这部分是平台一期的核心组件。审核规则模块是完成规则的定义、配置工作。审核引擎模块是完成具体规则的审核执行部分。
  5. 优化规则和优化引擎模块。这部分是平台二期的核心组件。目前尚未开发,因此为白色底色。
  6. 系统管理模块。这部分是完成平台基础功能,例如任务调度、空间管理、审核报告生成、导出等功能。

操作流程

的码云指数为
超过 的项目
加载中

评论(0)

暂无评论

暂无资讯

暂无问答

宜信开源|数据库审核软件Themis部署攻略

一、介绍 Themis是宜信公司DBA团队开发的一款数据库审核产品,可帮助DBA、开发人员快速发现数据库质量问题,提升工作效率。其名称源自希腊神话中的正义与法律女神。项目取此名称,寓意此平台...

04/25 10:52
55
0
宜信开源|数据库审核软件Themis的规则解析

导语 Themis是宜信公司DBA团队开发的一款数据库审核产品,可帮助DBA、开发人员快速发现数据库质量问题,提升工作效率。 此平台可实现对Oracle、MySQL数据库进行多维度(对象结构、SQL文本、执...

04/25 10:53
34
0
项目周报|2018.12.17-2018.12.29

1 技术部分 ThemisChain研发 持续进行 DPOS 的功能和性能的测试,并进行优化; 开始进行托管节点抗共谋机制的优化; 研究Themis智能合约升级的可执行性方案; Themis钱包 部分页面UI优化; 增加...

01/22 18:07
5
0
flume+log4j+hdfs(日志通过flume传到hdfs)

flume+log4j+hdfs(日志通过flume传到hdfs) log4j 日志生成. flume 日志收集系统,收集日志. HDFS Hadoop分布式文件系统,存储日志,使用版本hadoop-3.0.0-alpha1.tar.gz 本文档采用伪分布式方...

2017/12/26 21:16
89
0
宜信开源|性能优化利器:数据库审核平台Themis的选型与实践

作者:韩锋 出处:DBAplus社群分享 Themis开源地址:https://github.com/CreditEaseDBA 拓展阅读:宜信开源|数据库审核软件Themis的规则解析与部署攻略 【技术沙龙002期】数据中台:宜信敏捷...

05/14 11:46
284
0
少爷茶馆 👉 颜如玉问我啥是IPC机制 👈

买一碗茶,找一个座,听听闲聊,别忘转发,别忘点赞~ 🖥️🖥️🖥️🖥️

2018/05/14 19:34
35
0
少爷茶馆 👉 我要去追颜如玉 👈

买一碗茶,找一个座,听少爷对Android里的Activity娓娓道来~

2018/05/12 09:51
42
0
招募有志青年

# 0 初衷 现在有很多的技术交流群,很多的群都是这样的: - 1 经常扯淡 - 2 很多伸手党 - 3 一些道听途说的结论都拿来作为自己的观点 - 4 技术交流的深度不够 花费了很多时间在群上,但是收获...

2016/12/02 19:37
2.3K
13

没有更多内容

加载失败,请刷新页面

返回顶部
顶部