「13章」Flink 从0到1实战实时风控系统Flink 核心技能实操环境搭建在进行 Flink 开发之前,需要先搭建好开发环境。...) .startNewChain() .keyBy(value -> value.f0) .sum(1);使用异步 I/O:对于涉及到外部存储(如数据库、文件系统
摘要:本文作者彭明德,介绍了钱大妈与阿里云 Flink 实时计算团队共建实时风控规则引擎,精确识别羊毛党以防营销预算流失。...除了数仓的分析场景以外,钱大妈面临着业务系统中的风控需求,例如每季度的营销费用中被不少的羊毛党薅走正常用户的利益,其中羊毛党一方面可能导致用户的口碑下降,另一方面也会影响原有的活动运营预算迅速攀升从而导致资损...钱大妈与阿里云 Flink 实时计算团队共建实时风控规则引擎,精确识别羊毛党以防营销预算流失。...图一:钱大妈实时风控流程示意图 二、业务架构 钱大妈风控业务架构如图二所示总共分为四个部分:事件接入、风险感知、风险应对、风险回溯。...图六:社区Flink动态CEP规则表 五、回顾展望 基于 Flink 的实时风控解决方案已接应用于钱大妈集团内部生产环境,在此解决方案里未引入新的技术组件和编程语言,最大化复用 Flink 资源实现实时风控场景需求
2010加入携程,参与了携程结算平台、风控系统的开发,对系统架构、流式数据处理等有比较深入的研究。...目前携程利用自主研发的风控系统有效识别、防范这些风险。携程风控系统从零起步,经过五年的不断探索与创新,已经可以有效覆盖事前、事中、事后各个环节。...一、Aegis系统体系 ? 主要分三大模块:风控引擎、数据服务、数据运算、辅助系统。 风控引擎:主要处理风控请求,有预处理、规则引擎和模型执行服务,风控引擎所需要的数据是由数据服务模块提供的。...数据运算所需的数据来源主要是:风控Event数据(订单数据、支付数据),各个系统采集来的 UBT、设备指纹、日志数据等等。 除了这些,风控平台还有非常完善的监控预警系统,人工审核平台以及报表系统。...由于携程的业务种类非常多,而且每种业务都有其特性,在进入风控系统(Aegis)后,为了便于整个风控系统对数据进行处理,风控前端有一个适配器模块,把各个业务的数据都按照风控内部标准化配置进行转换,以适合风控系统使用
性能和复杂度可以兼得 携程的风控系统,和大部分第三方支付平台一样,也是以实时风控系统为主: 支付环节一般留给风控校验的时间不会超过1s,业务风控点上更是希望风控能在100ms内就能通过;对性能的追求,也是对极致用户体验的追求...在实时风控场景里大量部署复杂模型,使模型也能和规则一样能直接拒绝交易;平均来看、执行一个模型以及相关的变量计算所需的资源可能与200条普通规则相当,对系统的架构和性能都是很高的挑战。...携程风控架构变迁简史 ? 携程自建风控系统开始于2011年左右,直到2015年正好赶上公司技术栈从.Net往Java平台转变,风控系统也迎来了一次完全的重写。...每天风控收集上来的数据超过50亿条,其中超过1亿左右的请求需要风控实时校验风险并返回给业务系统当前操作是否可以继续。...模型执行引擎: 风控引擎支持把SAS或SPARK等工具训练出来的模型直接在风控系统中部署,支持DOT和PMML等多种格式。
这要求风控系统一定要有实时性。本文就介绍一种实时风控解决方案。 1.总体架构 风控是业务场景的产物,风控系统直接服务于业务系统,与之相关的还有惩罚系统和分析系统,各系统关系与角色如下: ?...该系统有三条数据流向: 实时风控数据流,由红线标识,同步调用,为风控调用的核心链路; 准实时指标数据流,由蓝线标识,异步写入,为实时风控部分准备指标数据; 准实时/离线分析数据流,由绿线标识,异步写入,...2.1 实时风控 实时风控是整个系统的核心,被业务系统同步调用,完成对应的风控判断。 前面提到规则往往由人编写并且需要动态调整,所以我们会把风控判断部分与规则管理部分拆开。...前边提到,做规则判断需要事实的相关指标,比如最近一小时登陆次数,最近一小时注册账号数等等,这些指标通常有一段时间跨度,是某种状态或聚合,很难在实时风控过程中根据原始数据进行计算,因为风控的规则引擎往往是无状态的...Flink 把汇总的指标结果写入 Redis 或 Hbase,供实时风控系统查询。两者问题都不大,根据场景选择即可。
摘要:本文整理自阿里云开发工程师耿飙&阿里云开发工程师胡俊涛,在 FFA 实时风控专场的分享。...开发了相关代码并跑起作业后,遇到 d1、a1、b1、b2、d2、c1 的事件流,Flink CEP 就能找到其中的 a1、b1、b2、c1 这一次匹配,之后用户就可以在作业中针对这次匹配做出处理,比如发送报警到下游系统等...我们这里展示三个典型场景: 第一个场景,实时风控。
导语 随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风控系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。...对于业务快速上线和资源快速扩缩容的需求,且公司自研上云项目往全面容器化上云方向推进,水滴风控平台开始进行自研上云的改造。...水滴后台架构 水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风控策略平台,提供一系列的基础组件给策略人员进行构建策略模型,能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示: 水滴实时风控平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。...,我们将指标监控系统由 Monitor 监控系统改造为智研监控系统。
2010加入携程,参与了携程结算平台、风控系统的开发,对系统架构、流式数据处理等有比较深入的研究。...目前携程利用自主研发的风控系统有效识别、防范这些风险。携程风控系统从零起步,经过五年的不断探索与创新,已经可以有效覆盖事前、事中、事后各个环节。...一、Aegis系统体系 ? 图1 主要分三大模块:风控引擎、数据服务、数据运算、辅助系统。 风控引擎:主要处理风控请求,有预处理、规则引擎和模型执行服务,风控引擎所需要的数据是由数据服务模块提供的。...数据运算所需的数据来源主要是:风控Event数据(订单数据、支付数据),各个系统采集来的UBT、设备指纹、日志数据等等。 除了这些,风控平台还有非常完善的监控预警系统,人工审核平台以及 报表系统。...由于携程的业务种类非常多,而且每种业务都有其特性,在进入风控系统(Aegis)后,为了便于整个风控系统对数据进行处理,风控前端有一个适配器模块,把各个业务的数据都按照风控内部标准化配置进行转换,以适合风控系统使用
12月1日晚间,卓翼科技(002369.SZ)发布公告称,公司控股股东、实控人夏传武因涉嫌内幕交易、操纵证券市场罪,经深圳市中级人民法院批准,于12月1日被深圳市公安局执行逮捕。...资料显示,夏传武生于1973年,2004年起任职卓翼科技,2014年初成为卓翼科技实控人。而夏传武被抓主要以与2018年公司重组期间内幕交易有关。
遗留系统的迁移 遗留系统的迁移是一个相当复杂的工作,以至于重写的成本甚至比迁移的成本更高。...遗留系统。所有不可观察、没有支持的自制系统或者商业化系统(COTS) 遗留架构。所有限制交付价值的架构。 旧式流程。所有不可度量的流程(缺少 KPI、SLO) 旧式组织。...IT 系统的组件/功能块已被新技术取代,并作为单独的应用程序移至生产环境,而系统的其余部分仍旧采用旧技术。随着时间的流逝,剩余的组件/功能块将被单独的应用程序取代,然后逐步重建整个系统。 普通替换。...整个系统使用新技术进行了重建,旧系统已停用。它使用标准平台从头开始构建,或者使用第三方程序包作为基础层构建。...防腐层 适用场景:遗留系统绞杀。 常见的实施方式有: 过渡 API。适用于遗留系统迁移的过渡模式,在迁移完成好,可以删除。 防腐层。即建立与遗留、腐败的代码的层级,以隔离系统变化。 BFF。
本篇更新策略篇的规则集性能测算及Python实操,内容选自《100天风控专家》第57期。 首先介绍规则集的完整分析流程,包括五个步骤。 一、规则集分析流程 1....三、案例分析Python代码实操 通过配置决策树参数以及入模变量数量,自动化生成规则100多条,通过规则评估指标如命中率、精准率、召回率、lift进行初步筛选,组成为规则集进行初步的性能测试。...-end- 以上内容节选自《100天风控专家》从0到1的信贷风控训练营
陈建平,后台开发工程师,现就职于TEG安全平台部-业务安全中心,主要负责中心实时策略风控平台开发。...导语 随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风控系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。...对于业务快速上线和资源快速扩缩容的需求,且公司自研上云项目往全面容器化上云方向推进,水滴风控平台开始进行自研上云的改造。...水滴后台架构 腾讯水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风控策略平台,提供一系列的基础组件给策略人员进行构建策略模型,能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示: 水滴实时风控平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块:主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。
单系统中的Session对象可以直接保存在内存中,但在分布式或集群环境下,多个不同的节点就要采取措施来共享Session对象,具体可以使用以下几种方式。...在大规模分布式系统中,就推荐使用这种独立Session服务方式。并且这种方式在存储Session对象时,既可以用数据库,也可以使用各种分布式或集群存储系统。 ?...如果系统的压力太大,就需要增加新的服务节点,从而对系统扩容。如果采用的是“有状态服务”,就需要在扩容后先将其他服务节点上的Session等信息同步到新节点上;而如果采用的是“无状态服务”,就不必同步。...图4 “状态”的存储方式 明确了各个“状态”的存储方式后,我们就可以搭建出一套可快速扩容的系统:将系统中的应用服务设置为“无状态”,并注册到Eureka或ZooKeeper中。...因此,高并发系统面临的最大性能瓶颈就是数据库。我们之前设计的各种缓存的目的,就是为了尽可能的减少对数据库的访问。
直播礼物系统的特点 数据一致性要求高。用户购买的礼物,主播收到的礼物。这些都涉及真金白银结算,自然是不能错。 实时性要求高。腾讯公司做过一次问卷调查,用户送礼时,最关注的是主播的反馈。...礼物系统架构选择 模块交互模式送礼功能关联的模块多,操作流水需要同步到其它模块,可选的方式有notify模式和消息队列模式。...存储模式 根据礼物系统的特点,其在不同方面有不一样的要求。
实操平台介绍 访问实验平台 在浏览器中输入此网址 https://www.knows10.com 或点击此处进入知十平台。...比如,一个进程可能只需要网络权限,而不需要文件系统权限,那么我们就可以只给这个进程赋予网络权限,而不是全部的 root 权限。...- SYS_TIME:允许容器内进程修改系统时间。...kubectl create token myuser 图片 系列文章 CKAD考试实操指南(一)--- 登顶CKAD:征服考试的完美蓝图 CKAD考试实操指南(二)--- 深入核心:探秘Kubernetes...核心实操秘技 CKAD考试实操指南(三)--- 舞动容器:多容器Pod实践指南 CKAD考试实操指南(四)--- 优雅设计:掌握Pod设计技巧
账号:垃圾注册、撞库、盗号等 交易:盗刷、恶意占用资源、篡改交易金额等 活动:薅羊毛 短信:短信轰炸 项目介绍 实时业务风控系统是分析风险事件,根据场景动态调整规则,实现自动精准预警风险的系统。...本项目只提供实时风控系统框架基础和代码模板。...对各种场景风险阈值和评分的设置,需要长期不断的调整,所以灵活的规则引擎是很重要的 支持对历史数据的回溯,能够发现以前的风险,或许能够找到一些特征供参考 项目标签 轻量级,可扩展,高性能的Java实时业务风控系统...基于Spring boot构建,配置文件能少则少 使用drools规则引擎管理风控规则,原则上可以动态配置规则 使用redis、mongodb做风控计算和事件储存,历史事件支持水平扩展 原理 统计学...; 扩展风控规则,针对需要解决的场景问题,添加特定规则,分值也应根据自身场景来调整。
选择稍后安装操作系统 ? 版本选择Debain 因为我的光盘映像文件是2020最新版 所以我版本也选择了最新版的64位 ? 名称是虚拟机上的名称,可以改写 ?...双击“Ext4文件系统”,点交换空间分配swap ? ? 根据同样的方法将剩余内存分配给“/”,注意分区是逻辑分区不是主分区 最后得到这样的分区 ?
我是木荣,今天我们来聊一聊Linux下文件系统相关的知识。了解Linux文件系统的层次结构,说一说平时工作中针对文件系统常见的知识。 前言 何为文件系统?...操作系统中负责管理和存储文件信息的软件机构称为文件管理系统,简称文件系统。文件系统由三部分组成:文件系统的接口,对对象操纵和管理的软件集合,对象及属性。.../var -变量目录,用于系统日志记录、用户跟踪、缓存等。 2. 文件系统类型 文件系统分很多种类,有许多不同的文件系统实现可用。...XFS:高性能日志文件系统,非常适合具有大文件的系统,例如媒体服务器。 NTFS和FAT:Windows文件系统 HFS+:苹果系统的文件系统 查看以下Ubuntu系统上的文件系统: 3....你只希望在新分区的磁盘上创建文件系统,或者在对旧磁盘重新分区时创建文件系统。如果你试图在现有文件系统之上创建一个文件系统,那么很可能会使你的文件系统处于损坏状态。
phoneDCS | 手机群控系统 前言 无言......view code to github 简介 phoneGCS全称phone group control system,顾名思义即是一款手机(Android)群控系统,基于Cli形式运行,支持自定义的编排任务...、任务录制任务群控。...主要有如下特性: 自定义剧本任务 | 录制及运行脚本 自定义频率控制 指定编排任务 指定编排任务执行数量 查看设备主要信息以及剧本列表 实时群控( 未实现 ) 构建云控系统( 可行&未实现 ) 使用
领取专属 10元无门槛券
手把手带您无忧上云