<span id="be72faa8b0"></span><address id="bffff17e7f"><style id="bg066f64a0"></style></address><button id="blf2ffe177"></button>
                        

          澳门威尼斯娯乐城vn5002,澳门威尼斯娱乐平台,威尼斯娱城网址

          首页 > 数据库 > 国内数据库 > TDSQL-时态数据库T-TDSQL--典型案例

          TDSQL-时态数据库T-TDSQL--典型案例

          原创 国内数据库 作者:那海蓝蓝 时间:2018-06-06 10:47:29 0 删除 编辑

           

          4 经典案例  

          4.1 增量计算  

          1 对账业务  

          2 对账优化  

          4.2 安全  

          4.8.1 联机闪回  
                    3.
          业务分析  

          4.3.1 数据重演  

          4.3.2 数据分析  

          Acknowledgments 

          References 

          4 经典案例

          增量抽取、增量计算等都是 T-TDSQL 的经典案例。如下以增量计算为例,来分析 T-TDSQL 在腾讯金融业务中的典型应用。

          4.1 增量计算

          基于 T-TDSQL 全时态数据存储的特性,我们可以方便的进行增量式的数据查询、抽取和计算。

          对于单表的数据增量抽取 / 计算 [1] , T-TDSQL 首先通过 快照差读 方法,获取对应与给出快照范围的增量数据集,然后根据用户定义的计算规则,组合调用系统内置的聚集函数,如 SUM , AVG , GROUP BY 等,实现增量计算的功能。 历史上任何时间段内的的数据都可以通过增量计算的技术进行 “ 增量抽取 ” 。

          对于多表增量计算, T-TDSQL 通过 “ 快照差连接 ” 支持增量计算场景。即首先得到两个快照差集合 R S ,然后通过连接操作将两表合并,之后再使用聚集函数等完成计算。

          本节通过在互联网金融中常用的对账业务来对增量计算的原理和实际应用进行介绍。

          1 对账业务

          互联网金融行业对数据的准确性要求极高,而在互联网环境中,数据不一致或数据错误时有发生,因此,通过对账来降低账户余额等数据错误造成的风险十分重要。

          在腾讯计费业务中,采用将账户余额表 (user) 和账户流水表 (water) 按小时 / 天为周期进行比对的方式,来发现账户余额与交易流水的不一致现象,从而及时对错误交易进行修正。

          传统的对账采用按固定时间段(如分钟 / 小时 / 天)为单位进行对账。如现对 2018 4 11 日的交易进行对账,首先需要得到 4 11 日期初账户余额表和期末账户余额表,以及当天的交易流水表;然后对账户表通过按用户 ID 分组,并计算每个用户的期末余额减去期初余额,记为结果 A ,对流水表按用户 ID 分组,并将交易金额分组求和,记为结果 B ;最后将每个用户的结果 A 和结果 B 进行比对,如果 A=B ,则交易没有问题,否则该用户在当天的交易存在错误。

          对于按固定时间段对账,主要存在以下三个问题:

          1. 时效性差: 对于错误交易,不能立即发现并反馈,延迟了以固定时间段为单位的一段时间后才能发现错误。

          2. 对账不精准: 定位错误交易较复杂。例如:如果用户在一天内发生的多笔交易,其中一笔出现了错误,通过按天对账的方式不能直接定位到具体的哪条交易出现错误,而只能定位到用户级别,即仍然需要人工参与,将该错误用户的当天交易都确认一遍,才能找到具体的错误交易。

          3. 对账不灵活: 按固定时间段对账,如以天为单位,则只能等这一天内的增量数据沉淀下来,才能进行对账,如果有跨天对账需求(如昨天下午至今天上午),对账所用数据需要跨多个表才能执行,这可能改变对账业务的流程。

          2 对账优化

          基于本文提出的数据模型和增量计算方法,可以很好的解决按天对账所存在的问题。结合 3.1.2 中的示例,我们给出在互联网金融的对账业务中,增量计算的实际应用。

          T-TDSQL 可以基于增量计算的功能将账户余额表 (user) 和账户流水表 (water) 进行精准比对,进行流水级别的细粒度对账,从而即时发现交易错误,并可以立即定位到错误的那一条交易,省去繁杂的错误交易定位过程。

          优化后的对账的核心思想是: 总账算摘要、细账笔笔精 。

          优化后的对账的效果是: 总账快对、细账精确、不受时限、任意对账 。

          对账步骤 1— 总账对账: 首先读取给出对账时间段 [s_start,s_stop] 内的所有账户表数据块,对每个数据块内数据采用与传统对账方式类似的公式来确认账户情况,即进行 “ 总期末余额 - 总期初余额 = 总交易变动 试算,总期初余额代表 s_start 时的总余额,总期末余额代表 s_stop 时的总余额,总交易变动代表每块内账户对应产生的流水,如果有数据块内的总账不平,意味着有细账错误,因此要进行步骤 2 、 3 所描述的精准对账。

          对账步骤 2— 精准对账 对账过程: 执行如下 SQL ,将账户余额块和对应账户流水块进行 “ 快照差连接 ” ,返回结果集中每条记录将含有 { 交易前余额,交易后余额,交易变动 } 。对应的执行效果图如图 13 所示:

          SELECT * FROM

          (

          User READVIEW START s_start TO s_stop as A ORDER BY User_id, Init_trx_id DESC

          FULL OUTER JOIN

          User READVIEW START s_start TO s_stop as B ORDER BY User_id, Init_trx_id DESC

          ON A.trx_id= B.init_trx_id

          )

          FULL OUTER JOIN

          Water READVIEW START s_start TO s_stop as C ORDER BY User_id, Trx_id DESC

          O N C.trx_id = A.trx_id

           

          13 精准对账示意图

          对账步骤 3— 精准对账 精准之意: 对步骤 2 结果里的每一条返回记录进行 “ 交易后余额 - 交易前余额 = 交易变动 ” 的试算( After-Before=Change ),即可确认交易是否有误。如果有不满足此等式的情况存在,即为错误交易。

          错误交易主要分为账户表错误和流水表错误两种。例如,图 13 中,结果集中第 2 条元组,不满足试算公式,表明流水 ID 2 的交易进行了错误的帐户余额更新或流水记录的交易变动值出错。结果集中的第 4 条元组, Change 字段的值为 NULL ,代表该条交易的流水缺失。通过下表,我们对各种错误情况进行总结,这些错误,都需要在对账过程中进行报警。

          2   精准对账错误对照表


          Before

          After

          Change

          对账结果

          M1

          M2

          M2-M1

          正确

          M1

          M2

          NULL

          流水缺失

          M1

          M2

          (M2-M1)’

          流水记录有误

          NULL

          NULL

          M3

          流水误增

          M1

          M2’

          M2-M1

          账户表更新有误

          M1

          NULL

          M2-M1

          账户表没有更新

          NULL

          M2

          NULL

          账户表误增元组


          4.2 安全

          T-TDSQL 中有一个逻辑结构 “UNDO SEGMENT” ,用于撤销数据即存放反转 DML 语句结果所需的信息,只要某个事务修改了数据,那么更新前的原有数据就会被写入一个撤销段。

          T-TDSQL 实现了全时态数据管理,基于历史态和存于 “UNDO SEGMENT” 的过渡态数据,实现了历史上任何时间点上的数据闪回功能。

          4.8.1 联机闪回

          T-TDSQL 提供联机的数据闪回,可以查询过去某个时间段的数据库状态。

          而读取数据库的过去某个时间点的数据状态(历史态被储存而不是被清理),依据的是 4.1.1 节提及的三种快照读操作。这是闪回实现的原理。

          基于此原理,实现了多种类型的联机闪回功能,包括:闪回查询,闪回删除,闪回归档。


          1. 闪回查询:可以查询过去某个时间段的数据库状态,可将某个表回退到过去某个时间点。

          2. 闪回删除:闪回删除可以将一个已经被 Drop 的表还原。相应的索引也会被还原(索引的还原是通过重建的方式进行)。

          3. 闪回归档:闪回数据归档可使表具有回退到过去任何时间点

            1. 业务分析

          时态数据的双时态特性、全态属性、 LineAge 特性,以及在数据项上可识别发生的操作的特性等,为数据项赋予了 5W 的潜能。

          5W 是指

          1. 原因(何因 Why ):数据挖掘和分析的目标。

          2. 对象(何事 What ):数据项上执行了什么操作,数据变化因何而起( LineAge )。

          3. 地点(何地 Where ):数据项的存储位置。

          4. 时间(何时 When ):双时态属性。

          5. 人员(何人 Who ):用户和数据项进行关联,在事务属性项上建立与用户 UID 标识的关联。

          有了这 5W 的潜能,基于数据项和其历史,利用 AI 技术和全数据挖掘技术,可以进行无限想象力的数据分析。这是一个数据分析的新天地。

          根据历史数据负载等情况用 AI 对系统进行细粒度地、带有峰值(预测峰值时段压力)和资源(资源自动配给)特性的调优。

          多维分析全数据挖掘技术,可以对以多维形式组织起来的数据进行上卷、下钻、切片、切块、旋转等各种分析操作,以便剖析数据,使分析者、决策者能从多个角度、多个侧面观察数据库中的数据,从而深入了解包含在数据中的信息和内涵,透视未来。比如,实施上卷操作评估整体情况,实施下钻操作追查操作细节,为系统的监控和调优等打下基础。

          4.3.1 数据重演

          T-TDSQL 提供数据重演的能力。

          历史态数据存储,全时态数据中带有事务时间,基于这两点,可以分析数据的演变情况和某个时间点的事务发生情况,从而推演数据库在时间轴上的演进情况。

          从数据推断应用的负载、推断数据的演化进程,是数据重演的意义所在。 T-TDSQL 可有效支持数据重演。

          4.3.2 数据分析

          基于用户 数据的历史变迁 进行用户画像 多维度 分析,在历史态数据的支持下,可方便进行用户的深度分析;在双时态的支持下,可以方便根据时间的变迁和事务的执行情况进行数据的分析工作。

          Acknowledgments

          本项目在腾讯 TEG 计费平台部立项,研究内容和实现过程得到中国人民大学 教育部数据工程和知识工程重点实验室 和腾讯公司的参与和支持,特别向项目参与人、支持者致谢。

          References

          [1] Haixiang Li et al. “Efficient Time-interval Data Extraction in MVCC-based RDBMS”. World Wide Web Journal . 2018, pp. 922–933.

          [2] 姜晓轶 蒋雪中 周云轩 时态数据库研究进展 计算机工程与应用 2005

          [3] Dharavath Ramesh, Chiranjeev Kumar: A scalable generic transaction model scenario for distributed NoSQL databases. Journal of Systems and Software 101: 43-58 (2015)

          [4] 汤庸 时态数据库导论 2004

          [5] Haixiang Li, Yi Feng, Pengcheng Fan. The Art of Database Transaction Processiong: Transaction Management and Concurrency Control. First edition. Beijing. China Machine Press. 2017-10-01

          [6] David B. Lomet, Roger S. Barga, Mohamed F. Mokbel, German Shegalov, Rui Wang, Yunyue Zhu: Transaction Time Support Inside a Database Engine. ICDE 2006: 35

          来自 “ 澳门威尼斯娯乐城vn5002,澳门威尼斯娱乐平台,威尼斯娱城网址 ” ,链接:/31540857/viewspace-2155691/,如需转载,请注明出处,否则将追究法律责任。

          请登录后发表评论 登录
          全部评论

          注册时间:2018-06-06

          • 博文量
            4
          • 访问量
            5902