支付资损防控
2021-07-07 17:46:37 11 举报
AI智能生成
支付资损防控是指通过一系列措施,对支付过程中可能出现的资金损失进行预防和控制。这些措施包括加强支付系统的安全性、提高用户对支付风险的认识、加强对支付机构和商户的监管等。通过实施有效的支付资损防控措施,可以有效地减少支付过程中的资金损失,保障用户的权益,维护金融市场的稳定。
作者其他创作
大纲/内容
业务产品分析资损防控规范
2.1业务产品分析
支付公司的大部分业务都涉及到资金的流转,对于每一笔的资金
业务,往往既涉及信息流的变化,也会涉及资金流的变化。
在我们做业务的需求分析设计的时候,如果和业务方未能理解一
致或者分析不全,将会从业务源头上产生资损风险。
业务,往往既涉及信息流的变化,也会涉及资金流的变化。
在我们做业务的需求分析设计的时候,如果和业务方未能理解一
致或者分析不全,将会从业务源头上产生资损风险。
业务产品功能
常见业务产品分析资损风险
资金流、信息流、业务流等和理解和业务产品方不一致。
只分析了信息流的处理,遗漏了资金的处理,或遗漏了某
些阶段的资金处理。
些阶段的资金处理。
比如基金类商户的出款类交易迁移的时候,没有考虑商户不
需要真正的出款。
需要真正的出款。
资金需求中,对资金结算模式等理解不一致。
比如退款成功的理解不一致;是退到商户户还是退到个人户
的理解不一致。
比如退款成功的理解不一致;是退到商户户还是退到个人户
的理解不一致。
业务产品设计的时候,部分支付产品充退接口设计不完整,
尤其资金流设计不完整。
尤其资金流设计不完整。
执行充退逻辑时异常考虑不完备会有资损。
系统业务设计未能遵守先借记后贷记的原则。
业务缺少资金平衡检查。
正反交易资金流不一致容易资损。
内部户的使用不当。
比如挂销机制不合理。
内部作业人员操作界面未设置合理的限制条件。
如营销平台的卡券发放等。
常见业务产品分析资损防控点
需求分析中对信息流、资金流的分析要完整全面
业务需求中要包括完整的信息流和资金流(业务系统还需要包
括相关的物流等业务流),不但要包括正向的完整描述,也要包括反
向的描述;不但包括正常情况的描述,也要包括异常情况下的处理描
述。
括相关的物流等业务流),不但要包括正向的完整描述,也要包括反
向的描述;不但包括正常情况的描述,也要包括异常情况下的处理描
述。
业务迁移过程中,要梳理出新旧业务全面的信息、资金流流向
验证过程中,要核对业务信息、支付信息、渠道信息、银行
账户流水信息等。
账户流水信息等。
新支付产品需求分析的时候,要对支付产品的信息流和资
金流做完整分析。
金流做完整分析。
有其是反向资金流。
尤其是内部业务系统包装的渠道,尤其注意冲退逻辑的实现
是否完备。
尤其是内部业务系统包装的渠道,尤其注意冲退逻辑的实现
是否完备。
资金结算模式的理解。
需求分析过程中,要与业务方梳理出清晰完整的资金结算模
式。
形成双方认可的资金结算的流向图,流转到具体的资金账户。
式。
形成双方认可的资金结算的流向图,流转到具体的资金账户。
业务设计的时候遵从先借记后贷记原则。
要保证正反交易的资金流向一致。
对于正方交易资金流向不一致的场景(如冲退转代发、部分
支付产品冲退退余额),设计与系分的时候要着重评审,并重
点测试验证。
支付产品冲退退余额),设计与系分的时候要着重评审,并重
点测试验证。
收单、渠道、支付等系统都需要设计相关的资金平衡检查。
如渠道冲退的金额不能大于原交易流水的金额、收单商户退
款的金额不能大于可退金额等。
款的金额不能大于可退金额等。
内部账户的使用。
必须由业务方和运营财务人员沟通后申请,技术人员不可自
行配制;要有挂销机制;要有相关的业务和技术核对机制。
行配制;要有挂销机制;要有相关的业务和技术核对机制。
内部作业系统设置合理的业务条件限制。
不允许有无限制条件的输入输出。
如 OMS 查询可以限制为一个月;营销平台的卡券发放一个人
可以设置上限 1000个等。
如 OMS 查询可以限制为一个月;营销平台的卡券发放一个人
可以设置上限 1000个等。
业务参数调整
常见业务参数调整资损风险
商户参数调整。
业务自行调整合同业务参数影响其他收单商户。
渠道参数调整。
结算规则调整。
通过数据修订等方式进行业务参数调整。
常见业务参数调整资损防控
可以验证的业务参数,需要在测试环境等验证过进行调整。
风险较大的业务参数调整的时候,可以通过限流等措施在
产线上逐步开放。
产线上逐步开放。
系统在设计的时候,要避免可能引起业务作业人员误解的
配置,避免商户间的串用、滥用、误用。
配置,避免商户间的串用、滥用、误用。
业务类参数的调整要平台化,不要通过数据修改等方式进
行参数调整。
行参数调整。
资损与资损防控
什么是资损防控
广义的资损定义:任何由于系统故障、缺陷、人为操作、安全
漏洞导致支付公司或支付公司的客户蒙受直接或间接损失的
事件,都属于资损事件。
漏洞导致支付公司或支付公司的客户蒙受直接或间接损失的
事件,都属于资损事件。
狭义的资损定义:由于支付公司的原因,导致支付公司产生直
接资金损失,或产生赔付。
接资金损失,或产生赔付。
资损产生的原因
由于支付行业的特殊性与复杂性(主要处理资金相关业务),支付
公司处于资损的风口浪尖,最容易发生资损,可以说资损风险无处不
在。常规来说,资损原因主要可以分为以下三类:
1)系统方面的原因。主要由系统分析、设计与实现处理错误等原
因导致的资损。
2)产品设计运营以及使用方面的原因导致的资损
3)信息安全方面的原因导致的资损
公司处于资损的风口浪尖,最容易发生资损,可以说资损风险无处不
在。常规来说,资损原因主要可以分为以下三类:
1)系统方面的原因。主要由系统分析、设计与实现处理错误等原
因导致的资损。
2)产品设计运营以及使用方面的原因导致的资损
3)信息安全方面的原因导致的资损
如何做好资损防控
简单来说,资损防控就是从资损发生的前、中、后
三个阶段做好相关的防、控、管等各项工作
三个阶段做好相关的防、控、管等各项工作
防主要指的是防范资损发生。在资损发生之前,从产品与系统
设计、实现、运营等来源,对资损进行分类预防进而避免资损
的发生。
设计、实现、运营等来源,对资损进行分类预防进而避免资损
的发生。
从流程上讲,对于涉及到资金相关的项目需求:启动阶段要求
需求方提供资金清结算与核对方案;需求阶段要求明确资金正
常流程与异常流程;系分阶段要产出资损点分析、制订完善的
防控措施;测试阶段除进行信息流的分析验证,还要进行资金
流的分析与验证;发布评审时要再次进行资损风险评估,各防
控措施是否落实到位;验证时,产品与业务方需要对资金流进
行完整的验证才算验证结束。
需求方提供资金清结算与核对方案;需求阶段要求明确资金正
常流程与异常流程;系分阶段要产出资损点分析、制订完善的
防控措施;测试阶段除进行信息流的分析验证,还要进行资金
流的分析与验证;发布评审时要再次进行资损风险评估,各防
控措施是否落实到位;验证时,产品与业务方需要对资金流进
行完整的验证才算验证结束。
控主要指的是控制资损。一旦资损,我们需要知道哪里资损了?
资损了多少?及时进行止损,将资损规模降到最低
资损了多少?及时进行止损,将资损规模降到最低
监控与核对是“控”常用的两大技术手段:
对手段进行资金流操作结果的核对。
损失几乎可以全部追回。如果是已经识别的资损故障,可以根
据已经制定的应急预案进行按部就班执行即可;未识别的资损
故障,需要及时汇报给应急小组,以最高效的沟通手段制定应
急方案,快速处理。
- 系统与产品需要制定相关的系统、业务监控指标,及时进行
对手段进行资金流操作结果的核对。
- 资损发生后,我们需要及时止损。这一阶段时间与速度最为重
损失几乎可以全部追回。如果是已经识别的资损故障,可以根
据已经制定的应急预案进行按部就班执行即可;未识别的资损
故障,需要及时汇报给应急小组,以最高效的沟通手段制定应
急方案,快速处理。
管指的是资损的管控
在资损处理结束之后,对资损故障进行详细的复盘与分析。
排除类似或相关联的缺陷与隐患,制定并实施改进计划;
对相关经验进行分析与沉淀,避免重复犯错。
排除类似或相关联的缺陷与隐患,制定并实施改进计划;
对相关经验进行分析与沉淀,避免重复犯错。
系统设计资损防控规范
从系统架构层面整体来看,支付公司的系统可以抽象为如下结构:
1)对外部商户提供收单服务类的系统
2)连通支付公司与各金融渠道的网关类系统
3)支付公司的内部业务处理系统
4)消息、调度等中间件系统
5)数据库、缓存等存储
1)对外部商户提供收单服务类的系统
2)连通支付公司与各金融渠道的网关类系统
3)支付公司的内部业务处理系统
4)消息、调度等中间件系统
5)数据库、缓存等存储
从系统架构与业务架构上来讲,各个结构连接的地方最容易出现资损。
因此我们将从接口服务层面与系统设计层面对资损进行分析并总结
相关规范
因此我们将从接口服务层面与系统设计层面对资损进行分析并总结
相关规范
1.1服务类接口设计
按照上述系统抽象架构所示,支付公司接口服务可以分为三类服务:
1)渠道网关类服务
2)收单类服务
3)内部系统接口服务
1)渠道网关类服务
2)收单类服务
3)内部系统接口服务
渠道网关类服务
常见资损风险
常见资损风险:渠道网关是连通支付公司与各金融渠道的网关类应用,
处于资金处理的最后一个环节。渠道网关类服务是最容易发生资损的服务。
处于资金处理的最后一个环节。渠道网关类服务是最容易发生资损的服务。
返回码的处理
返回码的处理是渠道端最容易出现资损的部分。
我方系统会对渠道的返回码做映射,当映射错误,或渠道返回系
统异常等未知错误我方处理不合适,或我方系统流水勾兑异常等情况
发生时,容易造成资损。如我们在和渠道方无特殊约定的情况下,将
无此交易处理成失败就会导致资损。
我方系统会对渠道的返回码做映射,当映射错误,或渠道返回系
统异常等未知错误我方处理不合适,或我方系统流水勾兑异常等情况
发生时,容易造成资损。如我们在和渠道方无特殊约定的情况下,将
无此交易处理成失败就会导致资损。
调用渠道使用的流水号产生重复。
如果流水号重复时候,渠道报一个流水重复,我们置为处理中;
当我方调单查询的时候,查到了被重复的上一笔交易,状态勾兑为成功,就会发生资损。
当我方调单查询的时候,查到了被重复的上一笔交易,状态勾兑为成功,就会发生资损。
流水号设计不合理发生重复(如商户号+8位 sequence,一
年后开始重复;日期+6 位流水号,交易量超百万,一天开
始重复);
年后开始重复;日期+6 位流水号,交易量超百万,一天开
始重复);
流水号使用不合理发生重复(我方不同业务,渠道同一接
口,使用不同 sequence 出现重复; 同一业务的不同交易
之间使用不同 sequence,导致重复)
口,使用不同 sequence 出现重复; 同一业务的不同交易
之间使用不同 sequence,导致重复)
升级迁移导致重复(生成规则升级,结果和历史数据重复;
业务迁移拆分时,新建了 sequence,和原有的重复)
业务迁移拆分时,新建了 sequence,和原有的重复)
调用渠道方流水号的产生与使用机制不合理。
如我方在报文发送时生成流水号或对流水号做二次处理均可
能导致渠道方自身的幂等失效。
能导致渠道方自身的幂等失效。
渠道服务接口中金额单位的处理
内部金额单位和外部系统金额单位不一致,转换出问题。内部
单位为忽(*1000000),渠道接口单位为分、为份额,漏转换或转换
错误;币种参数传递错误,导致对方按错误币种处理;交互接口金额
格式特殊,转换出错(如银行部分接口前补 0)。
单位为忽(*1000000),渠道接口单位为分、为份额,漏转换或转换
错误;币种参数传递错误,导致对方按错误币种处理;交互接口金额
格式特殊,转换出错(如银行部分接口前补 0)。
渠道日切的处理
由于银行有日切问题,金融渠道也有交易日日切等问题。当涉及跨日问题时,
处理不当(如查询用自然日期而非约定的渠道交易日期),容易导致资损。
此外,日切处理不当还会导致清结算差错处理的问题
处理不当(如查询用自然日期而非约定的渠道交易日期),容易导致资损。
此外,日切处理不当还会导致清结算差错处理的问题
不同金融机构对接细节尤其关键的幂等控制细节不清楚
不同的渠道存在着不同的幂等性控制,想当然的去进行渠道对接
容易出现幂等性问题进而资损。
容易出现幂等性问题进而资损。
和渠道对接,未严格遵从渠道端的信息安全规范。
如果报文未签名、加密或安全级别不够,或使用了不合适的第三
方 jar包,可能导致信息被篡改,或导致其他争议
方 jar包,可能导致信息被篡改,或导致其他争议
渠道网关接口连错环境
由于渠道端测试联通测试不方便,经常需要修改代码进行测试、
或者我方测试环境连对方生产环境;如果代码提交生产或者测试队生
产进行了错误的交易,极易导致资损。
或者我方测试环境连对方生产环境;如果代码提交生产或者测试队生
产进行了错误的交易,极易导致资损。
调用渠道接口先发后至、后发先至和响应乱序
由于我方和渠道费连接的网络环境或网络连通方式比较复杂,极
易导致先发后至、后发先至和响应乱序等情况。
比如渠道方是反交易比正交易先到、查询请求比交易先到,处理
不到就会造成资损;极端情况下,还可能出现响应乱序情况,即我方
发出的 A请求,收到的 B请求的结果。
易导致先发后至、后发先至和响应乱序等情况。
比如渠道方是反交易比正交易先到、查询请求比交易先到,处理
不到就会造成资损;极端情况下,还可能出现响应乱序情况,即我方
发出的 A请求,收到的 B请求的结果。
渠道网关类服务使用规范
返回码的处理是渠道处理的重中之重,必须慎重。
需要遵从如下规范:
需要遵从如下规范:
返回码必须要按接口维度进行成功、失败、未知分类。返
回码变更必须慎重,原则上必须禁止通过线上 SQL变更。
回码变更必须慎重,原则上必须禁止通过线上 SQL变更。
返回码在业务上线时候或变更上线的时候一定要验证支付
交易、查询、交易、冲正类交易的成功、失败、处理中和
相关异常的情况。
交易、查询、交易、冲正类交易的成功、失败、处理中和
相关异常的情况。
明确返回结果“成功”字段背后的含义,是操作成功,还
是业务成功,还是两者双成功。返回结果真正的“成功”
只有一个(可以对“成功”做硬编码处理)。
是业务成功,还是两者双成功。返回结果真正的“成功”
只有一个(可以对“成功”做硬编码处理)。
渠道返回系统内部异常、超时、无此交易、流水重复、我
方系统流水勾兑异常等不能代表交易失败,不能明确确认
成功失败,需设置结果为未知。
方系统流水勾兑异常等不能代表交易失败,不能明确确认
成功失败,需设置结果为未知。
流出类交易慎设置为失败,流入类交易慎设置为成功。
规范渠道流水号的生成和使用。
各渠道网关系统需要采用规范的流水号生成规则,避免灵
活的生成方案。
活的生成方案。
新渠道、新业务或有迁移发生的时候,需要对 sequence使
用方式专项评估,设置合理的初始值
用方式专项评估,设置合理的初始值
流水号的产生必须在受理或预处理阶段提前生成,之后不
允许再重新生成或更新任何流水号(包括对格式进行转换);
绝对禁止在报文发送环节进行渠道流水号的生成。
允许再重新生成或更新任何流水号(包括对格式进行转换);
绝对禁止在报文发送环节进行渠道流水号的生成。
在发送报文给渠道的时候时,需要考虑第三方 jar 包会有
重发的默认设置(如 httpclinet 默认是重发 3 次),我方
需要慎重选择重发策略;对方无明确的幂等说明的时候,
严格禁止设置重发。
重发的默认设置(如 httpclinet 默认是重发 3 次),我方
需要慎重选择重发策略;对方无明确的幂等说明的时候,
严格禁止设置重发。
时间规范
统一使用数据库时间,禁止自定义日期处理函数。
业务处理发起尽可能避开对方可能的日切,跨日,跨月,跨年
时间段;如果渠道方跨日业务需要特殊处理,涉及时需要进行
特殊的分析设计。
部分金融交易类渠道在接入的时候,尽可能使对方接受以我方
时间为准。
业务处理发起尽可能避开对方可能的日切,跨日,跨月,跨年
时间段;如果渠道方跨日业务需要特殊处理,涉及时需要进行
特殊的分析设计。
部分金融交易类渠道在接入的时候,尽可能使对方接受以我方
时间为准。
金额单位规范
目前出口网关金额以分为单位为主,分、元、份额都有,要将金
额转换放在出口系统,内部需要保持一致的金额单位;金额的计算过
程,对原始金额数据不能更新,计算得出的结果作为新的金额字段存储。
新业务新渠道上线一定要验证支付交易内部记账结果和实际变动
相符(可以去渠道查询):如银行渠道入金,要保证内部记账金额和
银行卡扣款金额一致。
额转换放在出口系统,内部需要保持一致的金额单位;金额的计算过
程,对原始金额数据不能更新,计算得出的结果作为新的金额字段存储。
新业务新渠道上线一定要验证支付交易内部记账结果和实际变动
相符(可以去渠道查询):如银行渠道入金,要保证内部记账金额和
银行卡扣款金额一致。
设计上要考虑因先发后至或后发先至等情况
查询交易和反向交易处理的时候,要控制和原交易间隔一
定的安全时间;要先关联原交易,关联不到原交易需要保
证返回处理结果后,原交易不会被执行(可以插入幂等表
以避免原交易被执行)。
定的安全时间;要先关联原交易,关联不到原交易需要保
证返回处理结果后,原交易不会被执行(可以插入幂等表
以避免原交易被执行)。
要控制渠道等外部调用及数据库访问等的超时时间,避免
资源的长时间堵塞,造成后到的交易先处理。
资源的长时间堵塞,造成后到的交易先处理。
对于消息、调度等,要从意识上认为其没有任何次序,从
设计上考虑保证防重以及和先后次序无关
设计上考虑保证防重以及和先后次序无关
必须严格遵守渠道方的加密签名等安全规范
测试和生产环境必须严格隔离。
源头上必须禁止为了测试需要修改代码(必须修改时候,要将测
试相关的信息外化配置,和产线隔离),war 包中不能有临时性的测
试解决方案。
测试环境如果要连接到渠道方的生产环境的话,需要特殊申请并
且一定要指明防火墙的失效日期。
试相关的信息外化配置,和产线隔离),war 包中不能有临时性的测
试解决方案。
测试环境如果要连接到渠道方的生产环境的话,需要特殊申请并
且一定要指明防火墙的失效日期。
收单类服务
常见资损风险
服务描述不清楚、不规范。
对于商户接口类服务,服务接口、数据交互描述不清楚或不规
范,导致商户错用接口,进而导致商户资损。
范,导致商户错用接口,进而导致商户资损。
金额参数单位乱用
在收单服务接口的所有与出入参数里,金额单位的约定是极易
出错的地方,分、元、忽的使用一定要明确,否则会导致金额扩大或
缩小 100、1000000倍。
出错的地方,分、元、忽的使用一定要明确,否则会导致金额扩大或
缩小 100、1000000倍。
幂等参数不明确、不合理
收单服务的幂等性控制参数一定要明确指出,否则容易造成商
户。如接口调用时,对同一笔业务进行多次服务调用,导致业务重复
处理,造成资损;支付公司结果通知(同步或异步)时,商户没有幂
等处理,对同一笔也处理多次导致资损。
户。如接口调用时,对同一笔业务进行多次服务调用,导致业务重复
处理,造成资损;支付公司结果通知(同步或异步)时,商户没有幂
等处理,对同一笔也处理多次导致资损。
接口参数长度或类型不明确
收单服务对外出入参数中,各参数的类型长度约定不明确,将引
发数据库超长、数据转换与截断等问题,严重时将导致资损。
发数据库超长、数据转换与截断等问题,严重时将导致资损。
请求参数合法性校验不严密或未校验
对外提供的接口,没有对参数进行合法性校验或缺乏明确的校
验规则。如收到外部请求,传入未签约的支付方式,没有签订手续费
费率,可能导致漏收手续费。
验规则。如收到外部请求,传入未签约的支付方式,没有签订手续费
费率,可能导致漏收手续费。
接口的错误码或返回码定义不明确
错误码、返回码对于异常、超时、幂等等结果不明确,会导致
商户重复针对同一笔业务进行多次调用或将可以判定为成功的业务
而判断为失败。
另外,外部响应结果如果包含多层状态(通讯状态、业务状态
等),需要明确业务状态是由哪个状态或者哪几个状态组合决定,判
断错误会导致严重资损。
商户重复针对同一笔业务进行多次调用或将可以判定为成功的业务
而判断为失败。
另外,外部响应结果如果包含多层状态(通讯状态、业务状态
等),需要明确业务状态是由哪个状态或者哪几个状态组合决定,判
断错误会导致严重资损。
收单服务接口设计规范
接口描述规范
接口服务能力描述简洁明了,对于服务能力、功能、数据交互
有一个清晰的描述。关键的资金处理业务需要由流程图表达。
有一个清晰的描述。关键的资金处理业务需要由流程图表达。
金额单位规范
金额参数必须以“元”为单位,同时精度要求小数点后两位。禁
止以分或忽为单位(线下收单行业规范可以以分为单位)。
止以分或忽为单位(线下收单行业规范可以以分为单位)。
幂等控制
需要约定好幂等控制的参数是哪个参数(如外部交易单号)或
哪些参数(如交易日期+交易流水号)组成,对于幂等控制的方式双
方需要达成一致。
哪些参数(如交易日期+交易流水号)组成,对于幂等控制的方式双
方需要达成一致。
收单服务的参数类型与长度必须明确且设计合理。
任何一个参数都要明确其类型与数据长度范围,该范围需要确
保在整个体系内有效。
另外,对于关键的控制类参数(如幂等控制的参数)需要设计
为字符串,减少不必要的转换。
保在整个体系内有效。
另外,对于关键的控制类参数(如幂等控制的参数)需要设计
为字符串,减少不必要的转换。
对于商户的接口权限与接口参数做好权限控制与合法性校验。
对于错误码或返回码需要清晰定义。
返回的结果中需要明确成功失败状态的含义:业务成功,操作成
功,双成功。明确错误码的含义,准确识别出成功、失败、处理中、
超时处理、重复处理、不做任何等重要处理结果;对于各种异常处理
(如超时重发等),不能缺少。
功,双成功。明确错误码的含义,准确识别出成功、失败、处理中、
超时处理、重复处理、不做任何等重要处理结果;对于各种异常处理
(如超时重发等),不能缺少。
对外服务接口规范需要遵从最新的“文档规范说明.docx”。
内部接口类服务
平安付内部系统间默认使用 DUBBO 作为分布式服务框架,进行系
统间的 RPC调用。
统间的 RPC调用。
常见资损风险
服务接口中,各参数类型、长度等相关约定不清楚,会导致数据
库超长、被截断等隐藏问题,严重时候会导致资损。
库超长、被截断等隐藏问题,严重时候会导致资损。
服务接口提供方在应用层面,对服务的被使用情况不清楚,导致
服务调用方使用错误的接口或组装错误的逻辑。
服务调用方使用错误的接口或组装错误的逻辑。
服务接口中,幂等性参数未说明或未正确设置,导致同一笔业务
重复调用被服务方重复执行成功,可能导致资损。
重复调用被服务方重复执行成功,可能导致资损。
服务接口中,金额参数单位未按照规范进行使用,造成金额被扩
大或缩小 100倍或 1000000倍,造成资损。
大或缩小 100倍或 1000000倍,造成资损。
返回码对于重复、超时、异常等结果说明不清晰,请求方错误判
定业务状态导致错误的业务逻辑处理,或者更换幂等参数后错误
的对同一笔业务进行重复调用。
定业务状态导致错误的业务逻辑处理,或者更换幂等参数后错误
的对同一笔业务进行重复调用。
关键性且有时效性的业务处理,只依赖于关联系统的消息通知且
无其他的补救措施。由于消息的异步性,到达时间是不可靠的,
会影响业务的处理
无其他的补救措施。由于消息的异步性,到达时间是不可靠的,
会影响业务的处理
服务接口设计的过程中,没有考虑向前、向后的兼容,以及版本
发布过程中的兼容性处理问题。如服务使用方使用老服务落单,
发布后使用了新服务支付,新老服务不兼容,有可能使应有的校
验失效,导致资损。
发布过程中的兼容性处理问题。如服务使用方使用老服务落单,
发布后使用了新服务支付,新老服务不兼容,有可能使应有的校
验失效,导致资损。
服务接口需要序列化的对象子类和父类具有共同属性的时候
(Dubbo使用 Hessian做序列化与反序列化),会导致属性值丢
失。
(Dubbo使用 Hessian做序列化与反序列化),会导致属性值丢
失。
对于涉及文件处理与批量处理的服务接口,缺乏相关明细数据的
说明及相关的校验机制。由于内部系统均使用 NAS等进行文件共
享,接口中传递的只是文件路径;没有进行过相关的加密,没有
文件正确性校验功能,可能会导致数据丢失。
说明及相关的校验机制。由于内部系统均使用 NAS等进行文件共
享,接口中传递的只是文件路径;没有进行过相关的加密,没有
文件正确性校验功能,可能会导致数据丢失。
内部服务接口设计规范
接口定义需要完整、清晰、规范。
接口里面需要详细的定义好出入参的类型、长度、选必
填以及相关取值等约定;服务使用方在使用前需要对输入
做好相关校验。
填以及相关取值等约定;服务使用方在使用前需要对输入
做好相关校验。
服务提供方接口里需要详细描述接口的功能以及对业
务和其他接口的影响,涉及资金流向的关键的接口还需要
提供资金流向说明。
务和其他接口的影响,涉及资金流向的关键的接口还需要
提供资金流向说明。
服务使用方使用接口前需要判断接口是否符合需求(功
能、信息流、资金流等)、以及自身如何利用服务方接口完
成自身的业务处理。
能、信息流、资金流等)、以及自身如何利用服务方接口完
成自身的业务处理。
由于序列化问题,façade 接口中的对象规避子类和父
类具有共同属性问题。
类具有共同属性问题。
接口中的金额参数使用忽(*1000000)为单位。
内部系统的金额参数不要被更新,如果有更新等需求,使用新的
字段。计算的时候使用 Money类。
对于金融产品,有时候有收益的计算(对收益的计算处理方式不
尽相同,如“四舍五入”):那么该产品收益计算的需求首先要明
确,并根据需求进行代码开发,并且重点关注临界值的计算。
字段。计算的时候使用 Money类。
对于金融产品,有时候有收益的计算(对收益的计算处理方式不
尽相同,如“四舍五入”):那么该产品收益计算的需求首先要明
确,并根据需求进行代码开发,并且重点关注临界值的计算。
幂等参数
接口描述必须对幂等参数做着重说明,服务提供方需要使用服务使用
方的幂等参数来做幂等控制。
方的幂等参数来做幂等控制。
对关键性且有时效性的业务来做处理时候,不要只使用消息来
进行通讯。
进行通讯。
原消息的生产者可以使用 RPC 对消费者进行调用以获取明确的响
应,消费者异步进行任务处理;必须用消息解耦的时候,需要增加监
控以及手工触发相关运维功能以保证业务的处理。
应,消费者异步进行任务处理;必须用消息解耦的时候,需要增加监
控以及手工触发相关运维功能以保证业务的处理。
内部接口涉及交易处理的,服务端不管有无幂等控制,不设置
默认重发。
默认重发。
接口的兼容性处理。
1)接口在设计过程中,要避免无兼容性设计。
2) 在非破坏性变更的时候,既需要保证向前向后的兼容性,
也需要保证发布过程中的兼容性(包括接口字段和各种
业务处理)。
2) 在非破坏性变更的时候,既需要保证向前向后的兼容性,
也需要保证发布过程中的兼容性(包括接口字段和各种
业务处理)。
返回码(错误码)的处理。
要明确每种返回的结果码的含义和场景,包括成功、失
败、系统超时、系统异常、重复请求等重要场景;
败、系统超时、系统异常、重复请求等重要场景;
需要明确返回结果成功的的含义,是操作成功,还是业
务成功,还是双成功;
务成功,还是双成功;
返回的错误编码要包含三位的内部系统编码,且要约定
好每种错误场景的业务处理。
好每种错误场景的业务处理。
接口中涉及文件及批量场景的处理。
内部系统间接口中如果有文件内容的传递,接口说明中
明确相关文件内容,并需要对关键信息进行校验,防止文
件内容不完整或者错误(可以在接口中约定传递文件的 MD5
值)。
明确相关文件内容,并需要对关键信息进行校验,防止文
件内容不完整或者错误(可以在接口中约定传递文件的 MD5
值)。
文件和批量的明细内容需要对没条数据做清楚的说明:
包括是否每笔有自己的唯一流水、是否用其做幂等控制;
对文件和批量的整体需要说明是否存在接受部分成功、部
分失败的情况。
包括是否每笔有自己的唯一流水、是否用其做幂等控制;
对文件和批量的整体需要说明是否存在接受部分成功、部
分失败的情况。
1.2系统功能类设计
在分布式的环境中,一个系统的设计可以抽象为图:
除掉可用性问题外,导致资损的问题可以归结为如下三类:
1)幂等控制问题
2)兼容性问题
3)并发互斥问题
除掉可用性问题外,导致资损的问题可以归结为如下三类:
1)幂等控制问题
2)兼容性问题
3)并发互斥问题
幂等性控制设计
幂等性问题是分布式系统设计中最常见的问题,是分布式系统服
务的一种承诺, 承诺只要调用接口成功, 外部无论何种原因的多次
调用对系统的影响是一致的。
在支付公司,我们常说的幂等性控制往往不是重复访问的只读结
果一样,更多的是指业务活动、资源变更等重复请求,同一个服务操
作实例最多只允许执行一次。幂等性控制包括两个层级:
1)最基础的幂等性控制需要完成唯一性控制。主要根据幂等
性(唯一性)控制字段即可完成。
即:根据约定的幂等控制字段(唯一性字段),对业务重复
提交、请求方重复请求、定时任务、网络原因等导致的重
发的数据来判断是否重复提交。如收单系统根据商户号+日
期+外部订单号,拒绝同一个商户在同一天内重复发送同一
个外部订单号的交易请求。
2)在唯一性控制的基础上,如果要做更复杂的幂等性控制;
这时候,需要和其他业务要素一起来进行判断。
如果全部关键业务数据请求和现有的数据一致,可以使得
请求一次和重复请求多次都不会对业务处理产生影响。如
在收单系统中,如果外部商户请求的“商户号+日期+外部
订单号”与现有交易中的数据一致,并且对其他关键字段
金额、收付款方等做比对;如果比对一致可以返回前面处
理的结果,不一致可以提示商户“请求参数与原先参数不
一致,请检查”。
幂等性未做控制或控制不合理是系统设计中最容易产生资损风险
的环节。在系统设计中,各资金处理业务至少需要保证幂等性的第一
层级“唯一性控制”。
务的一种承诺, 承诺只要调用接口成功, 外部无论何种原因的多次
调用对系统的影响是一致的。
在支付公司,我们常说的幂等性控制往往不是重复访问的只读结
果一样,更多的是指业务活动、资源变更等重复请求,同一个服务操
作实例最多只允许执行一次。幂等性控制包括两个层级:
1)最基础的幂等性控制需要完成唯一性控制。主要根据幂等
性(唯一性)控制字段即可完成。
即:根据约定的幂等控制字段(唯一性字段),对业务重复
提交、请求方重复请求、定时任务、网络原因等导致的重
发的数据来判断是否重复提交。如收单系统根据商户号+日
期+外部订单号,拒绝同一个商户在同一天内重复发送同一
个外部订单号的交易请求。
2)在唯一性控制的基础上,如果要做更复杂的幂等性控制;
这时候,需要和其他业务要素一起来进行判断。
如果全部关键业务数据请求和现有的数据一致,可以使得
请求一次和重复请求多次都不会对业务处理产生影响。如
在收单系统中,如果外部商户请求的“商户号+日期+外部
订单号”与现有交易中的数据一致,并且对其他关键字段
金额、收付款方等做比对;如果比对一致可以返回前面处
理的结果,不一致可以提示商户“请求参数与原先参数不
一致,请检查”。
幂等性未做控制或控制不合理是系统设计中最容易产生资损风险
的环节。在系统设计中,各资金处理业务至少需要保证幂等性的第一
层级“唯一性控制”。
常见幂等控制问题资损风险
子主题上下游调用中,幂等字段使用自身产生的流水号做幂等控制容
易出现幂等被击穿。
易出现幂等被击穿。
幂等字段的选用不合理。
选错幂等字段,在业务上导致应该做幂等控制的未做或不该控制
的被控制。
比如本该选用交易流水号做幂等控制的选用了业务流水号。
的被控制。
比如本该选用交易流水号做幂等控制的选用了业务流水号。
幂等字段设计的全局性考虑不全。
空间全局性考虑不全。
如外部商户请求的幂等控制,是使用“商户号+请求流水”还
是使用“商户号+日期+请求流水”还是使用“商户号+日期+交
易类型+请求流水”来设计幂等字段做幂等约束。
是使用“商户号+日期+请求流水”还是使用“商户号+日期+交
易类型+请求流水”来设计幂等字段做幂等约束。
时间全局性考虑不全。
幂等字段的设计是幂等一天,还是三个月,还是永远。在我们
使用数据库来做幂等控制,由于分区、归档等原因,会导致幂
等失效。比如分区后建立的本地索引(非全局)的唯一索引,
只会在当前区有效;数据归档之后,幂等控制无法判断归档走
后的数据。
使用数据库来做幂等控制,由于分区、归档等原因,会导致幂
等失效。比如分区后建立的本地索引(非全局)的唯一索引,
只会在当前区有效;数据归档之后,幂等控制无法判断归档走
后的数据。
幂等底层控制设计不合理导致幂等失效。
如使用 select 而非 insert进行唯一性控制,高并发的时候就会
使幂等失效。
使幂等失效。
消息、定时任务等非同步场景的幂等性未考虑。
上下游系统交互的幂等约定不清楚。
如很多银行机构接口无幂等性保证,如果我方不清楚将框架设置
为异常重发就会造成资损。如我们只约定了唯一控制的幂等约定,对
哪些字段进行幂等第二层级的判断没有约定。
为异常重发就会造成资损。如我们只约定了唯一控制的幂等约定,对
哪些字段进行幂等第二层级的判断没有约定。
幂等性控制设计规范
幂等性字段规范。
使用上游流水做幂等控制:上下游系统调用中,下游系统在
可以使用上游系统的请求流水进行幂等控制时,不要自己生
成流水进行幂等控制。
可以使用上游系统的请求流水进行幂等控制时,不要自己生
成流水进行幂等控制。
关键的资金业务处理,需要选用全局的唯一处理流水号做幂
等控制。如账务系统、各渠道网关系统均需要选用 UTPP 的
支付流水号来贯穿始终进行幂等控制,以保证幂等在整个支
付过程中、在整个资金体系中全局有效一致。
等控制。如账务系统、各渠道网关系统均需要选用 UTPP 的
支付流水号来贯穿始终进行幂等控制,以保证幂等在整个支
付过程中、在整个资金体系中全局有效一致。
选用幂等字段时候,除了理解其字段控制含义,还需要理解
其业务含义;以达到选用合理幂等字段的目的。如上游有业
务流水号、交易流水号,下游系统到底选用哪一个做控制,
需要考虑其在特定场景下的业务含义。
其业务含义;以达到选用合理幂等字段的目的。如上游有业
务流水号、交易流水号,下游系统到底选用哪一个做控制,
需要考虑其在特定场景下的业务含义。
幂等字段的选用要考虑其空间和时间的全局性、扩展性。要
考虑选用哪些字段进行幂等控制、幂等字段流水号的长度够
不够用。幂等控制时间是多少,由于数据库的归档、分区、
分库等操作,会不会导致幂等失效;部分的数据库结构操作、
数据操作甚至需要我们变更幂等的控制机制。
考虑选用哪些字段进行幂等控制、幂等字段流水号的长度够
不够用。幂等控制时间是多少,由于数据库的归档、分区、
分库等操作,会不会导致幂等失效;部分的数据库结构操作、
数据操作甚至需要我们变更幂等的控制机制。
除了约定哪些字段进行幂等唯一性控制;对于实现了幂等控
制第二层级的服务,还需要约定哪些字段用于幂等控制。如
收单系统和商户约定了“商户号+请求流水”做幂等唯一性
控制;还约定了“收付款方账号+金额”做第二层级的幂等
控制字段,重复请求下“收付款方账号+金额”一致会返回
交易状态,不一致会返回“请求参数与原先参数不一致”
制第二层级的服务,还需要约定哪些字段用于幂等控制。如
收单系统和商户约定了“商户号+请求流水”做幂等唯一性
控制;还约定了“收付款方账号+金额”做第二层级的幂等
控制字段,重复请求下“收付款方账号+金额”一致会返回
交易状态,不一致会返回“请求参数与原先参数不一致”
消息处理、定时任务等非同步场景需要和同步场景一样考虑幂等性
对于消息的处理,不能依赖消息次序来进行业务处理;要
考虑乱序、消息同步处理等问题。可以通过消息创建时间、
现在的业务状态顺序判断消息是否过期;消费掉消息后是
否需要再次进行业务处理。
考虑乱序、消息同步处理等问题。可以通过消息创建时间、
现在的业务状态顺序判断消息是否过期;消费掉消息后是
否需要再次进行业务处理。
定时任务执行的时间、次数都是不可控的。更需要通过业
务状态、业务规则对定时任务进行幂等控制。
务状态、业务规则对定时任务进行幂等控制。
需要明确:消息处理、定时任务只是业务逻辑处理的一个
触发,并且其触发是不保证次序和次数的,实际生产中消
息中心消息重发、调度中心多次调度都是存在的;一定要
保证在系统的业务逻辑处理中考虑业务的幂等控制。
触发,并且其触发是不保证次序和次数的,实际生产中消
息中心消息重发、调度中心多次调度都是存在的;一定要
保证在系统的业务逻辑处理中考虑业务的幂等控制。
幂等服务的约定。
幂等性的处理机制约定:仅幂等唯一性控制,还是需要
进一步根据哪些字段做幂等第二层处理。
进一步根据哪些字段做幂等第二层处理。
幂等性交互的约定:上下游交互,需要明确幂等性处理
的相关规约(如幂等异常处理机制、返回码、错误码等)。
的相关规约(如幂等异常处理机制、返回码、错误码等)。
服务重发的约定:
交易类的服务,禁止网络自动重发。无论内部的 dubbo、
外部的 httpclient、xfire等禁止使用框架组件自动重
发。
外部的 httpclient、xfire等禁止使用框架组件自动重
发。
上游系统调用下游系统,请求未发送前,上游异常,可
以置失败、进行重发。
以置失败、进行重发。
上游系统调用下游系统,请求已发送再出现系统异常,
必须向服务方确认状态后,明确可以重发才能进行重发。
必须向服务方确认状态后,明确可以重发才能进行重发。
不能明确可以重发的,就不要重发;遵循重复就严原则。
服务的幂等实现。
常见的幂等实现方法,有如下几种:
1)幂等控制表实现。
一般情况下,我们会在数据库上设计一张幂等控制表,并
根据幂等控制字段建立唯一索引。
在服务使用方请求过来的时候,先往幂等控制表 insert
一条数据,通过数据库本身唯一约束进行控制;当有重复请求,
将不能 insert 重复的数据,有相关异常抛出,提示幂等控制
表已经有同样数据存在。达到幂等控制目的。
由于是基于数据库的幂等控制表的方案,当有数据库变更,尤
其是幂等控制表有归档等数据迁移、分区、分表、分库等情况
时候,将会导致数据库唯一约束失效的场景,需要着重考虑。
一般情况下,我们会在数据库上设计一张幂等控制表,并
根据幂等控制字段建立唯一索引。
在服务使用方请求过来的时候,先往幂等控制表 insert
一条数据,通过数据库本身唯一约束进行控制;当有重复请求,
将不能 insert 重复的数据,有相关异常抛出,提示幂等控制
表已经有同样数据存在。达到幂等控制目的。
由于是基于数据库的幂等控制表的方案,当有数据库变更,尤
其是幂等控制表有归档等数据迁移、分区、分表、分库等情况
时候,将会导致数据库唯一约束失效的场景,需要着重考虑。
2)其他实现
也可以借助分布式缓存等进行幂等控制实现。
此种方式不是建议使用控制方式,如果需要使用,请和各种域
架构师进行评审。
也可以借助分布式缓存等进行幂等控制实现。
此种方式不是建议使用控制方式,如果需要使用,请和各种域
架构师进行评审。
兼容性设计
由于业务在发展,系统一定处在变化之中,变化就一定会有兼容
性问题的存在。大到每次业务上线、系统发布,小到一次业务迁移、
配置项变更;每一次变化都会带来一定的系统风险。
兼容性考虑不充分除了影响可用率外,还会导致资损的发生。因
此兼容性设计是系统设计的重中之重,产线上已知的很多资损问题都
和兼容性考虑不周有关。
常见的兼容性设计需要考虑如下的兼容性场景:如图
由于业务在发展,系统一定处在变化之中,变化就一定会有兼容
性问题的存在。大到每次业务上线、系统发布,小到一次业务迁移、
配置项变更;每一次变化都会带来一定的系统风险。
兼容性考虑不充分除了影响可用率外,还会导致资损的发生。因
此兼容性设计是系统设计的重中之重,产线上已知的很多资损问题都
和兼容性考虑不周有关。
常见的兼容性设计需要考虑如下的兼容性场景:如图
常见兼容性问题资损风险
老系统和新数据结构等不兼容。
由于我们现在生产发布是 DB脚本发布现行,每次发布过程中均
存在着老 war包新 db(表结构、索引、数据等)的情况。考虑不周
会导致服务与数据出现兼容性问题。
存在着老 war包新 db(表结构、索引、数据等)的情况。考虑不周
会导致服务与数据出现兼容性问题。
新系统不能处理老系统产生的数据。
如老系统落单了一笔支付交易,新系统上线后不能对其进行支付。
老系统不能处理新系统产生的数据。
如系统上线后发生了回退,老系统不能处理新系统产生的数据将
会导致问题。
会导致问题。
收单服务接口、渠道网关接口、内部服务接口兼容性考虑
不全。详见接口规范章节。
发布过程中,由于存在一定时间的新旧 war包并存,消息
和定时任务的兼容性考虑不全。
和定时任务的兼容性考虑不全。
虽然我们在产线进行了消息分组,一定程度上规避了老系
统生成的消息,新系统消费的消息兼容性问题;但当消息的源
头生产者没有进行上下线的时候,会出现新系统消费老格式消
息的问题。
统生成的消息,新系统消费的消息兼容性问题;但当消息的源
头生产者没有进行上下线的时候,会出现新系统消费老格式消
息的问题。
定时任务(尤其是非调度中心触发的调度任务)的调度频
率、执行系统、内部执行逻辑不兼容,容易出现资损。如某个
系统自身的定时任务选择系统执行者的逻辑发生变化,本来该
只有一个执行者的任务,导致两个执行者执行。
率、执行系统、内部执行逻辑不兼容,容易出现资损。如某个
系统自身的定时任务选择系统执行者的逻辑发生变化,本来该
只有一个执行者的任务,导致两个执行者执行。
发布过程中,新老系统的幂等控制、并发控制不当,导致资损。
有可能单独来看,新老系统都能控制好幂等和并发,但是在发布
过程中,有可能双方的控制机制不一致等情况,使得业务重复处理,
引起资损。
如网关的幂等在发布过程中曾经被击穿导致的资损。也可能老系
统的业务没有并发场景,新系统上线后需要考虑并发,新老系统处理
同一笔请求的时候(尤其是任务调度处理的时候),将做不了并发控
制。
过程中,有可能双方的控制机制不一致等情况,使得业务重复处理,
引起资损。
如网关的幂等在发布过程中曾经被击穿导致的资损。也可能老系
统的业务没有并发场景,新系统上线后需要考虑并发,新老系统处理
同一笔请求的时候(尤其是任务调度处理的时候),将做不了并发控
制。
新老业务流程、业务处理规则不兼容。
比如一笔理财的抢购支付过程中,分为落单和支付两个环节:库
存控制的逻辑老业务流程是支付成功后再扣库存,新业务流程是落单
扣库存再支付;如果落单使用老系统、支付使用新系统;在兼容性考
虑不周全的情况下会导致不扣减库存,出现超卖。
再比如,某个业务系统业务发生变化,状态机状态迁移发生了变
化,原来的一个业务状态再支付成功的时候迁移为处理中,新状态机
设计为迁移为成功;那么对于这笔中间态的业务数据的处理就可能导
致资损。
存控制的逻辑老业务流程是支付成功后再扣库存,新业务流程是落单
扣库存再支付;如果落单使用老系统、支付使用新系统;在兼容性考
虑不周全的情况下会导致不扣减库存,出现超卖。
再比如,某个业务系统业务发生变化,状态机状态迁移发生了变
化,原来的一个业务状态再支付成功的时候迁移为处理中,新状态机
设计为迁移为成功;那么对于这笔中间态的业务数据的处理就可能导
致资损。
业务迁移对新旧业务的连续性等兼容性考虑不全导致资损。
主要包括参数字段(包括备注)、业务规则处理、反交易处理、开
关处理等方面。
主要包括参数字段(包括备注)、业务规则处理、反交易处理、开
关处理等方面。
业务迁移不仅仅是新的业务规则替换老的业务规则,在整个替换
过程中,更需要保证业务的连续性;系统如果不能兼容新旧业务的处
理会有极大的资损风险。
如 UTPP迁移过程中,新增或变更了很多业务参数,业务平台切换
新接口的时候,如果对新旧参数做兼容处理,会导致资损;新账务迁
移过程中,商户出金中的基金划拨场景的商户出金交易新旧业务规则
不同导致实际划拨了资金;新账务迁移过程中,如果一笔交易正交易
走老体系,冲销走新体系将会出问题(反之亦然);如迁移的开关复
用了以前的开关,开关混用,导致问题。
过程中,更需要保证业务的连续性;系统如果不能兼容新旧业务的处
理会有极大的资损风险。
如 UTPP迁移过程中,新增或变更了很多业务参数,业务平台切换
新接口的时候,如果对新旧参数做兼容处理,会导致资损;新账务迁
移过程中,商户出金中的基金划拨场景的商户出金交易新旧业务规则
不同导致实际划拨了资金;新账务迁移过程中,如果一笔交易正交易
走老体系,冲销走新体系将会出问题(反之亦然);如迁移的开关复
用了以前的开关,开关混用,导致问题。
数据或数据存储迁移导致的兼容性问题。
我们后续会碰到很对的数据迁移:如缓存从 redis迁移到 hippo、
数据库从 oracle、mysql迁移到 pg等等。如果迁移过程中数据格式
不同、甚至丢失精度会引发资损。
业务数据迁移,如会员、ccdc等数据迁移,如果新老系统对业务
数据的处理不兼容会导致资损。
数据库从 oracle、mysql迁移到 pg等等。如果迁移过程中数据格式
不同、甚至丢失精度会引发资损。
业务数据迁移,如会员、ccdc等数据迁移,如果新老系统对业务
数据的处理不兼容会导致资损。
系统兼容性设计
随着业务的不断变更和发展、系统和架构也在不断的调整和优化;
这其中既有新业务、新系统的上线,也有老业务、老系统、老数据的
迁移。
在这些新老的变化过程中,我们既不能导致业务的间断影响可用
率,更不能产生资损造成公司损失。为了防范这些新旧间处理的风险,
我们需要从数据、系统、发布、业务等各个环节做好兼容性设计。
这其中既有新业务、新系统的上线,也有老业务、老系统、老数据的
迁移。
在这些新老的变化过程中,我们既不能导致业务的间断影响可用
率,更不能产生资损造成公司损失。为了防范这些新旧间处理的风险,
我们需要从数据、系统、发布、业务等各个环节做好兼容性设计。
数据库、接口服务新增的向前兼容性原则。
向前兼容设计更多的体现在数据库、接口的初始化设计阶段(新增数据库结构、
新增接口)。数据库结构与服务接口在设计过程中,在数据库、接口复杂度与
字段(个数、长度等)允许的范围内,尽可能的考虑到未来可以预见的情况,
支持未来的业务拓展。新增设计时,需要考虑到:
新增接口)。数据库结构与服务接口在设计过程中,在数据库、接口复杂度与
字段(个数、长度等)允许的范围内,尽可能的考虑到未来可以预见的情况,
支持未来的业务拓展。新增设计时,需要考虑到:
数据库字段、接口字段的合理冗余。比如在设计交易接口
的时候,除了考虑交易金额字段,考虑未来有收费的场景,可以增加
手续费金额字段。此时,也要注意避免过度设计。
的时候,除了考虑交易金额字段,考虑未来有收费的场景,可以增加
手续费金额字段。此时,也要注意避免过度设计。
数据库字段、接口字段长度的适度放大与类型的泛化。比
如在允许的范围内,可以将交易金额字段设计的范围长度大一些;某
些类型字段定义为字符串类型而非整数类型;时间参数精度设计到毫
秒等。
如在允许的范围内,可以将交易金额字段设计的范围长度大一些;某
些类型字段定义为字符串类型而非整数类型;时间参数精度设计到毫
秒等。
数据库字段、接口字段或接口处理逻辑的约束。考虑到未
来有可能扩展或放松现有约束(如非空判断等),在接口中考虑默认、
异常等多种处理情况。
来有可能扩展或放松现有约束(如非空判断等),在接口中考虑默认、
异常等多种处理情况。
数据库、接口服务变更的向后兼容性原则。
向后兼容设计是最常见的应用场景,更多的提现在数据库、接口
的变更阶段(变更数据库结构、接口)。
服务提供方在做接口非破坏性的变更时,需要确保服务以向后兼
容的模式演变;在无需变更现有消费者的实现或配置的条件下被更多
的消费者重用。
由于我们发布过程是 DB先发布,所以新老系统是会同时使用一个
数据库结构的。因此必须保证数据库结构发生变化的时候,新旧系统
可以同时使用变更后的数据库结构。
一般数据库、接口变更,分为如下场景:
的变更阶段(变更数据库结构、接口)。
服务提供方在做接口非破坏性的变更时,需要确保服务以向后兼
容的模式演变;在无需变更现有消费者的实现或配置的条件下被更多
的消费者重用。
由于我们发布过程是 DB先发布,所以新老系统是会同时使用一个
数据库结构的。因此必须保证数据库结构发生变化的时候,新旧系统
可以同时使用变更后的数据库结构。
一般数据库、接口变更,分为如下场景:
删除字段
求方完成后,服务方方可以进行字段的删除。
数据,要考虑保存机制。
- 禁止直接删除正在使用的字段。
- 对于接口字段,如果确认该字段所有的请求方和服务方都
求方完成后,服务方方可以进行字段的删除。
- 对于数据库字段,老系统要先解除和数据库结构间的字段
数据,要考虑保存机制。
新增字段。
证逻辑处理兼容性。
- 服务提供方需要考虑各服务请求方的兼容性。服务提供方
证逻辑处理兼容性。
- 数据库结构新增字段的时候,需要保证系统与数据库结构
- 服务请求方在升级新增字段的时候,根据服务提供方该新
变更字段约束。
是否符合条件;不符合条件的,先完成请求方的变更,后
续进行服务方的升级。数据库进行从严变更的时候,要保
证老数据符合规范、系统先完成约束控制后进行变更。
进行变更。
- 禁止直接进行字段约束从严的变更。接口进行从严变更(如
是否符合条件;不符合条件的,先完成请求方的变更,后
续进行服务方的升级。数据库进行从严变更的时候,要保
证老数据符合规范、系统先完成约束控制后进行变更。
- 字段约束放松的变更。接口按照服务提供方先进行约束放
进行变更。
变更字段名称。
- 禁止直接变更正在使用的字段名称。尤其是对于为多个服
- 当需要变更接口字段名称的时候,按照新增字段、删除字
变更字段类型。
- 禁止直接变更正在使用的字段类型。
- 如果需要变更类型的时候,建议新增字段来解决。
数据库索引变更的时候要考虑对产线执行计划的影响。
数据库、接口服务删除原则。
禁止直接删除正在被使用的数据库结构和接口服务。
如果需要进行删除。接口按照服务请求方先变更,在确认已无
服务请求方请求接口的前提下,服务提供方才可以进行接口删
除。数据库结构需要保证系统不会再放我的情况下,并做好数
据的保存。
服务请求方请求接口的前提下,服务提供方才可以进行接口删
除。数据库结构需要保证系统不会再放我的情况下,并做好数
据的保存。
对于文件字段、缓存对象、消息对象的使用和设计,也需
要遵从数据库与接口服务相关的兼容性设计原则,保证向前
向后的兼容设计。
要遵从数据库与接口服务相关的兼容性设计原则,保证向前
向后的兼容设计。
生产系统发布过程中兼容性考量。
发布过程中,要从系统、数据、业务组合考虑兼容性。
需要考虑系统和数据之间的兼容性
设计过程中要保证新老系统产生的过程数据可以相互处理,即老
系统产生的中间数据,系统发布后,新系统可以出来;新系统产生的
数据,系统一旦出问题回滚后,老系统也可以处理。
如果不能处理的时候,不能选用直接的 war 包回滚方案。可以通
过中间兼容版本保证回滚的兼容性、也可以通过数据订正,保证新系
统产生的数据部会被老系统处理(数据订正方案是紧急情况下的处理
方案,不建议采用);另外,也可以通过引流等方式解决这部分数据
问题,以保证其兼容性。
系统产生的中间数据,系统发布后,新系统可以出来;新系统产生的
数据,系统一旦出问题回滚后,老系统也可以处理。
如果不能处理的时候,不能选用直接的 war 包回滚方案。可以通
过中间兼容版本保证回滚的兼容性、也可以通过数据订正,保证新系
统产生的数据部会被老系统处理(数据订正方案是紧急情况下的处理
方案,不建议采用);另外,也可以通过引流等方式解决这部分数据
问题,以保证其兼容性。
需要考虑系统和业务处理之间的兼容性
生产系统发布过程中,在老系统受理的业务,新系统可以继续
处理(如老系统落单、新系统继续支付,老系统正交易逻辑、新系统
反交易逻辑),并且要保证业务规则、业务流程的兼容处理。
处理(如老系统落单、新系统继续支付,老系统正交易逻辑、新系统
反交易逻辑),并且要保证业务规则、业务流程的兼容处理。
新老系统间的兼容性,避免幂等击穿、并发失效等问题
对于新系统的功能变更,幂等机制、并发控制机制等只可以增
加,不可以减少,避免老系统未能控制的幂等、并发,新系统也可以
控制住;如果是相关机制变更的话要慎重,控制只可以从严,不可以
从松,控制字段、控制场景、控制业务要考虑新旧系统兼容的情况。
加,不可以减少,避免老系统未能控制的幂等、并发,新系统也可以
控制住;如果是相关机制变更的话要慎重,控制只可以从严,不可以
从松,控制字段、控制场景、控制业务要考虑新旧系统兼容的情况。
兼容性分析过程中,不可以孤立看新旧业务、新旧系统、新旧数据的处理,需要组合考量。
- 组合考量业务的处理。
业务处理的各个场景和过程中都会有被新 war 包、老 war
包处理的两种情况。要通过分析业务各个场景和过程中在
新旧 war 包中的处理步骤和流程,判断他们之间在业务上
是否有依赖关系,并分析在组合的业务场景下是否可以被
正确处理。
比如,订单交易平台修改了支付的冲销逻辑,业务兼容性
需要做如下分析:对于一笔支付业务,有支付和冲销两种
场景,支付场景、冲销场景被老系统如何处理、被新系统
如何处理?支付和冲销有没有依存关系?老系统的支付是
不是必须被老系统冲销?老系统支付新系统冲销可以不可
以 被 支 持 ? 新 系 统 支 付 老 系 统 冲 销 可 不 可 以 被 支
持?
如果冲销服务有查询状态、冲销发起两个过程,还需要考
虑着两个过程和各个业务场景组合的情况。
包处理的两种情况。要通过分析业务各个场景和过程中在
新旧 war 包中的处理步骤和流程,判断他们之间在业务上
是否有依赖关系,并分析在组合的业务场景下是否可以被
正确处理。
比如,订单交易平台修改了支付的冲销逻辑,业务兼容性
需要做如下分析:对于一笔支付业务,有支付和冲销两种
场景,支付场景、冲销场景被老系统如何处理、被新系统
如何处理?支付和冲销有没有依存关系?老系统的支付是
不是必须被老系统冲销?老系统支付新系统冲销可以不可
以 被 支 持 ? 新 系 统 支 付 老 系 统 冲 销 可 不 可 以 被 支
持?
如果冲销服务有查询状态、冲销发起两个过程,还需要考
虑着两个过程和各个业务场景组合的情况。
- 组合考量新旧系统兼容性的处理。
系统的多种处理和控制机制是分多个阶段的,每个阶段也
都会有被新 war 包、老 war 包处理的两种情况。通过分析
者每个阶段在新 war 包和老 war 包中不同处理以及控制的
目的、逻辑、方式直至字段代码,判断其相互之间有无依
赖,每个阶段在什么场景下可以成为下个阶段的前置;并
分析其在组合场景下可否互相处理完成功能。
比如,某个系统对幂等控制进行优化。需要分析该系统处
理的任务有任务抓取、处理等阶段,老 war 包怎么进行任
务抓取?怎么进行任务处理,幂等控制的?新 war 包是怎
么处理的?抓取的任务是做完幂等控制才能被处理?还是
抓取后流入到处理进行幂等控制?新 war 包抓取的任务老
war包能不能处理
如果除了处理阶段流程变化,还有处理逻辑变化,还需要
进一步考虑并发、幂等控制的字段及实现代码在各个组合
场景下的兼容性
都会有被新 war 包、老 war 包处理的两种情况。通过分析
者每个阶段在新 war 包和老 war 包中不同处理以及控制的
目的、逻辑、方式直至字段代码,判断其相互之间有无依
赖,每个阶段在什么场景下可以成为下个阶段的前置;并
分析其在组合场景下可否互相处理完成功能。
比如,某个系统对幂等控制进行优化。需要分析该系统处
理的任务有任务抓取、处理等阶段,老 war 包怎么进行任
务抓取?怎么进行任务处理,幂等控制的?新 war 包是怎
么处理的?抓取的任务是做完幂等控制才能被处理?还是
抓取后流入到处理进行幂等控制?新 war 包抓取的任务老
war包能不能处理
如果除了处理阶段流程变化,还有处理逻辑变化,还需要
进一步考虑并发、幂等控制的字段及实现代码在各个组合
场景下的兼容性
- 组合考量新旧系统与新旧数据的兼容性处理。
发布过程中存在新系统写数据、老系统写数据、新系统读
老系统写的数据、新系统读新系统写的数据、老系统读老
系统写的数据、老系统读新系统写的数据供六种场景。要
分析以上各个场景的读写是否正确,读写之后的业务处理
方式是否正确,是否会对下一步业务处理产生不兼容的影
响?
比如一个业务改造走挂内部帐逻辑的改造。要考虑新系统
的时候写数据会记录挂账单编号 ,老系统写数据没有挂账
单编号,新系统读老系统没有挂账单编号的业务数据怎么
处理?
老系统写的数据、新系统读新系统写的数据、老系统读老
系统写的数据、老系统读新系统写的数据供六种场景。要
分析以上各个场景的读写是否正确,读写之后的业务处理
方式是否正确,是否会对下一步业务处理产生不兼容的影
响?
比如一个业务改造走挂内部帐逻辑的改造。要考虑新系统
的时候写数据会记录挂账单编号 ,老系统写数据没有挂账
单编号,新系统读老系统没有挂账单编号的业务数据怎么
处理?
生产系统发布过程中,要考虑消息、调度的兼容性。
按照前述的处理原则,发布的时候还需要避免消息处理、调度
的不兼容处理
其他处理方案(不建议):当有消息不兼容的时候,需要告知
部署同学按分组下线消息源头生产者;当有调度不兼容的时候,部署
的时候可以暂停调度
的不兼容处理
其他处理方案(不建议):当有消息不兼容的时候,需要告知
部署同学按分组下线消息源头生产者;当有调度不兼容的时候,部署
的时候可以暂停调度
业务迁移过程中,涉及到新旧业务流程、新旧业务规则、
新旧业务数据等的兼容处理,需要从分析、设计、上线、验
证等各个环节把控。
新旧业务数据等的兼容处理,需要从分析、设计、上线、验
证等各个环节把控。
对于业务迁移,必须详细分析所迁移业务的新旧规则、流
程、参数,并和上下游系统确认。
程、参数,并和上下游系统确认。
新老业务与新老系统之间必须能够业务处理流程和规则上
保证平滑处理、无缝切换。
保证平滑处理、无缝切换。
尽可能保证新老业务、系统、数据直接的交叉处理。不能
保证的时候,要通过相关表示避免交叉。
保证的时候,要通过相关表示避免交叉。
业务迁移的风险较大,需要通过开关、引流等进行产线验
证。
证。
迁移过程中,要有完整的报警、核对等跟踪机制,保证及
时发现问题;有完整的开关等流控机制,保证有问题的时
候可以及时断流。
时发现问题;有完整的开关等流控机制,保证有问题的时
候可以及时断流。
数据和数据存储的迁移
涉及到系统的底层环节(数据),要分析不同数据结构、不同数据
存储之间的差异,保证这些差异可以被系统正常接受处理
存储之间的差异,保证这些差异可以被系统正常接受处理
数据迁移(如 CCDC数据迁移、会员数据迁移)前后,要保
证业务系统能正常识别和处理。不能保证的话,要考虑停
机迁移。
证业务系统能正常识别和处理。不能保证的话,要考虑停
机迁移。
数据存储迁移,尤其是不同存储之间的迁移,要考虑其之
间的差异(如 oracle和 pg的差异、redis和 hippo的差异
等)。尤其是精度、sequence等相关的差异更应该注意,这
些都和资损密切相关。
间的差异(如 oracle和 pg的差异、redis和 hippo的差异
等)。尤其是精度、sequence等相关的差异更应该注意,这
些都和资损密切相关。
迁移过程中,要有完整的报警、核对等跟踪机制,保证及
时发现问题
时发现问题
数据是系统的底层环节,迁移的时候一定要有完备的回退
机制。
机制。
风险较大的系统发布与业务迁移,采用开关的方式规避风
险,保证业务的兼容运行。
险,保证业务的兼容运行。
并发互斥控制设计
在整个分布式系统中,大到业务的并发处理、服务的并发请求,
小到数据库表的并发读写、java对象的多线程访问,并发无处不在。
因为并发,所以互斥。
我们所说的系统层面的并发互斥控制,主要包括:
包括消息、调单等异步调用场景,需要一起考虑。
此外,在业务处理中,还存在各种互斥的资金处理的场景与
流程,也是我们需要在设计的时候考虑的。
源共享资源进行并发控制。
2)内存外的并发控制。主要是指内存外的存储资源,如数据
库表的访问等的并发控制。
小到数据库表的并发读写、java对象的多线程访问,并发无处不在。
因为并发,所以互斥。
我们所说的系统层面的并发互斥控制,主要包括:
- 服务的并发请求控制(进程级)。
包括消息、调单等异步调用场景,需要一起考虑。
此外,在业务处理中,还存在各种互斥的资金处理的场景与
流程,也是我们需要在设计的时候考虑的。
- 服务内处理的并发请求控制(线程级)。
源共享资源进行并发控制。
2)内存外的并发控制。主要是指内存外的存储资源,如数据
库表的访问等的并发控制。
常见并发互斥类资损风险
在互斥的业务流程与场景中,业务处理过程中,无状态迁
移变化的控制。
移变化的控制。
复杂的场景中未使用状态机。或者状态机状态迁移合法性验证不
全面。或者状态机设计不合理,使得状态迁移变化不可靠。
常见的状态机设计问题有:
全面。或者状态机设计不合理,使得状态迁移变化不可靠。
常见的状态机设计问题有:
状态被执行有多次。如支付成功多次可能导致业务被推进
多次。
多次。
终态还可以继续变化。如代发成功又变更为待支付
互斥状态没有做并发控制。如发货和退款同时发生,同时
成功。
成功。
状态机没有统一控制。
多个状态机耦合在一起,状态控制混乱。如交易核心支付
状态、交易状态耦合在一起,由于不同的状态控制,导致支付
状态成功、交易状态失败的问题
状态、交易状态耦合在一起,由于不同的状态控制,导致支付
状态成功、交易状态失败的问题
状态机的状态迁移被漏处理。
并发请求处理中,没有考虑到消息与调度场景。
比如收单服务请求支付核心进行支付处理,同步响应结果和消息
通知结果同时到达,未做并发处理,业务被推进了两次(可能申购了
两次基金、也可能通知商户发货了两次)。
通知结果同时到达,未做并发处理,业务被推进了两次(可能申购了
两次基金、也可能通知商户发货了两次)。
多线程环境下,对内存中资源未做并发控制或并发控制不
严格,尤其是对线程变量的使用。
严格,尤其是对线程变量的使用。
如对共享数据访问不加锁、单例对象进行写操作、线程变量进出
不清空等均会导致并发控制问题。
不清空等均会导致并发控制问题。
数据脏读,并根据脏数据做判断。
需要注意的是,不仅仅是对数据库中的数据访问存在脏读,
分布式缓存中的数据访问也存在脏读。
分布式缓存中的数据访问也存在脏读。
常见的数据库锁操作问题。
为了防范脏读脏写、不可重复读等常见的数据库并发问题,我
们常用锁机制进行处理;不合理的锁使用会导致风险。常见的问题有:
们常用锁机制进行处理;不合理的锁使用会导致风险。常见的问题有:
先读后锁,而非先锁后读。读的数据不能保证是最新数据,
会导致仍然基于脏数据做判断的风险。
会导致仍然基于脏数据做判断的风险。
批量 update 流水的时候, where 条件中没有原有流水的
状态,且没有判断更新条数。容易出现不可重复读的问题
状态,且没有判断更新条数。容易出现不可重复读的问题
SQL 语句中使用 update set select 完成数据的更新,有
可能导致 update锁机制不生效。
可能导致 update锁机制不生效。
锁没有顺序且未设置超时等退出机制(如 SQL 中未加 no
wait) ,导致死锁。
wait) ,导致死锁。
系统并发互斥设计
业务状态比较复杂的场景,使用状态机进行状态控制。
状态机是针对业务状态比较复杂的场景下,并发互斥控制比较常
见的设计模式。如续期宝业务、统一订单交易平台均使用状态机来进
行业务状态的管理。
状态机是针对业务状态比较复杂的场景下,并发互斥控制比较常
见的设计模式。如续期宝业务、统一订单交易平台均使用状态机来进
行业务状态的管理。
状态机设计过程中需遵循如下规范:
由于业务状态的迁移,可能由同步服务请求、异步消息、
后台调度、用户操作、运营操作等多种情形触发。在此情
况下,需要保证状态机统一进行控制,不能设计多个状态
迁移变更模块。更不能设计多个状态机进行对不同情形做
状态迁移。
后台调度、用户操作、运营操作等多种情形触发。在此情
况下,需要保证状态机统一进行控制,不能设计多个状态
迁移变更模块。更不能设计多个状态机进行对不同情形做
状态迁移。
要设计终态,且保证终态不能被继续迁移。如一笔交易订
单的超时关闭就是终态,在设计上就要避免其不能再次迁
移为待支付。
单的超时关闭就是终态,在设计上就要避免其不能再次迁
移为待支付。
要保证状态迁移和业务处理的一致性。
设计中,针对状态迁移的处理,需要对所有可能的状态做
判断。极端情况下,可以判断所有的状态。
判断。极端情况下,可以判断所有的状态。
由于业务状态比较复杂,为防止状态机状态设计腐化,与
状态机实现代码表现不一致。状态机不能只根据文字描述
进行开发,要先设计或更新状态迁移表或状态迁移图;可
以明确表达出入口状态(初始状态)、终态、状态跃迁路径
再。
状态机实现代码表现不一致。状态机不能只根据文字描述
进行开发,要先设计或更新状态迁移表或状态迁移图;可
以明确表达出入口状态(初始状态)、终态、状态跃迁路径
再。
不能用同一个状态字段表达多种状态迁移。
简单的业务处理,可能不使用状态机进行状态迁移的并发控制。
但仍然需要使用统一模块进行状态控制、并考虑多种情况下的并发请
求,做好业务的并发与互斥处理。
但仍然需要使用统一模块进行状态控制、并考虑多种情况下的并发请
求,做好业务的并发与互斥处理。
并发请求的处理。
针对分布式环境下的并发请求的处理,多是基于数据库或分布式
缓存等资源等进行并发访问控制。常见的并发访问控制模型主要有如
下几种:
缓存等资源等进行并发访问控制。常见的并发访问控制模型主要有如
下几种:
1、 基于资源的并发控制 (悲观)。
这是比较经典的并发控制模型,使用较多,如账务系统中的记账
操作就使用该模型控制用户账户余额的并发更改。
操作就使用该模型控制用户账户余额的并发更改。
基于资源的并发控制 (乐观)。
由于是在第 4点更新领域对象的时候检查并发;其实整个过程中
并没有锁定任何对象和记录。所以采用该机制的时候,系统应该要容
许不可重复读问题的出现。
并没有锁定任何对象和记录。所以采用该机制的时候,系统应该要容
许不可重复读问题的出现。
基于分布式锁服务的并发控制。
分布式锁可以借助分布式缓存实现。
数据操作的规范。一锁二判三改。
一定要保证先锁后读,避免脏读。数据库可以使用 select
for update 这种模型进行加锁。
for update 这种模型进行加锁。
提交的时候要判断更新的数据的状态是否符合要求,避免
不可重复读。要在 SQL 的 where 条件中增加原有流水的状
态,且检查了 update方法返回的记录条数是否满足预期。
如果是状态机的状态进行 update的时候,要基于状态迁移
来写 where 条件中的前置状态值,where status=xx 或者
where status in (xx,yy)。update的结果,影响行数,0、
1、N的时候处理逻辑均需要实现。
不可重复读。要在 SQL 的 where 条件中增加原有流水的状
态,且检查了 update方法返回的记录条数是否满足预期。
如果是状态机的状态进行 update的时候,要基于状态迁移
来写 where 条件中的前置状态值,where status=xx 或者
where status in (xx,yy)。update的结果,影响行数,0、
1、N的时候处理逻辑均需要实现。
不要使用 update set select 完成数据的更新,有可能导
致 update锁机制不生效。
致 update锁机制不生效。
多线程操作规范。
多线程操作规范需要遵循常规的 java 并发操作规范,保证操
作的原子性。
代码开发的指导原则应该是:尽可能的避免在多线程间共享数
据、共享操作;如果要共享数据,需要对共享数据加锁;尽可能
的使用 spring 提供的单例框架配置单例的 bean;不要对单例的
bean进行写操作;业务代码开发过程中,尽可能的避免使用线程
变量;使用线程变量的时候,一定要在出入口进行清空
作的原子性。
代码开发的指导原则应该是:尽可能的避免在多线程间共享数
据、共享操作;如果要共享数据,需要对共享数据加锁;尽可能
的使用 spring 提供的单例框架配置单例的 bean;不要对单例的
bean进行写操作;业务代码开发过程中,尽可能的避免使用线程
变量;使用线程变量的时候,一定要在出入口进行清空
避免死锁。
无论是数据库还是分布式锁服务或者 jvm内部的锁,在可能发生
死锁的场景,加锁的时候需要通过加锁排序和设置超时时间等方式避
免死锁。
死锁的场景,加锁的时候需要通过加锁排序和设置超时时间等方式避
免死锁。
0 条评论
下一页