「13章」Flink 从0到1实战实时风控系统Flink 核心技能实操环境搭建在进行 Flink 开发之前，需要先搭建好开发环境。...) .startNewChain() .keyBy(value -> value.f0) .sum(1);使用异步 I/O：对于涉及到外部存储（如数据库、文件系统
除了数仓的分析场景以外，钱大妈面临着业务系统中的风控需求，例如每季度的营销费用中被不少的羊毛党薅走正常用户的利益，其中羊毛党一方面可能导致用户的口碑下降，另一方面也会影响原有的活动运营预算迅速攀升从而导致资损...钱大妈与阿里云 Flink 实时计算团队共建实时风控规则引擎，精确识别羊毛党以防营销预算流失。...图一：钱大妈实时风控流程示意图 二、业务架构 钱大妈风控业务架构如图二所示总共分为四个部分：事件接入、风险感知、风险应对、风险回溯。...对涉及到财务结算的规则提供再审核、豁免机制或人工补偿。 风险回溯。策略命中后进行统计和风险分类分级，预警离线回溯并对风控事件闭件。...图六：社区Flink动态CEP规则表 五、回顾展望 基于 Flink 的实时风控解决方案已接应用于钱大妈集团内部生产环境，在此解决方案里未引入新的技术组件和编程语言，最大化复用 Flink 资源实现实时风控场景需求
2010加入携程，参与了携程结算平台、风控系统的开发，对系统架构、流式数据处理等有比较深入的研究。...目前携程利用自主研发的风控系统有效识别、防范这些风险。携程风控系统从零起步，经过五年的不断探索与创新，已经可以有效覆盖事前、事中、事后各个环节。...一、Aegis系统体系 ? 主要分三大模块：风控引擎、数据服务、数据运算、辅助系统。 风控引擎：主要处理风控请求，有预处理、规则引擎和模型执行服务，风控引擎所需要的数据是由数据服务模块提供的。...数据运算所需的数据来源主要是：风控Event数据（订单数据、支付数据），各个系统采集来的 UBT、设备指纹、日志数据等等。 除了这些，风控平台还有非常完善的监控预警系统，人工审核平台以及报表系统。...由于携程的业务种类非常多，而且每种业务都有其特性，在进入风控系统（Aegis）后，为了便于整个风控系统对数据进行处理，风控前端有一个适配器模块，把各个业务的数据都按照风控内部标准化配置进行转换，以适合风控系统使用
性能和复杂度可以兼得 携程的风控系统，和大部分第三方支付平台一样，也是以实时风控系统为主： 支付环节一般留给风控校验的时间不会超过1s，业务风控点上更是希望风控能在100ms内就能通过；对性能的追求，也是对极致用户体验的追求...在实时风控场景里大量部署复杂模型，使模型也能和规则一样能直接拒绝交易；平均来看、执行一个模型以及相关的变量计算所需的资源可能与200条普通规则相当，对系统的架构和性能都是很高的挑战。...携程风控架构变迁简史 ? 携程自建风控系统开始于2011年左右，直到2015年正好赶上公司技术栈从.Net往Java平台转变，风控系统也迎来了一次完全的重写。...有些接入点是做实时校验用的、有些是收集数据用的，在携程整个大系统内一共有超过400个风控接入点，审核或监控携程交易的每一个环节，保障着每一笔交易的安全和用户的利益。...每天风控收集上来的数据超过50亿条，其中超过1亿左右的请求需要风控实时校验风险并返回给业务系统当前操作是否可以继续。
这要求风控系统一定要有实时性。本文就介绍一种实时风控解决方案。 1.总体架构 风控是业务场景的产物，风控系统直接服务于业务系统，与之相关的还有惩罚系统和分析系统，各系统关系与角色如下： ?...该系统有三条数据流向： 实时风控数据流，由红线标识，同步调用，为风控调用的核心链路； 准实时指标数据流，由蓝线标识，异步写入，为实时风控部分准备指标数据； 准实时/离线分析数据流，由绿线标识，异步写入，...2.1 实时风控 实时风控是整个系统的核心，被业务系统同步调用，完成对应的风控判断。 前面提到规则往往由人编写并且需要动态调整，所以我们会把风控判断部分与规则管理部分拆开。...前边提到，做规则判断需要事实的相关指标，比如最近一小时登陆次数，最近一小时注册账号数等等，这些指标通常有一段时间跨度，是某种状态或聚合，很难在实时风控过程中根据原始数据进行计算，因为风控的规则引擎往往是无状态的...Flink 把汇总的指标结果写入 Redis 或 Hbase，供实时风控系统查询。两者问题都不大，根据场景选择即可。
SQL审核是指，将数据库线上系统的SQL优化和问题诊断，推进到产品开发测试阶段（上线前），通过前期的SQL审核管控，将80%的SQL问题消灭在萌生阶段；而对于线上运行系统，可以通过同样的SQL审核过程，...在互联网企业，SQL审核是一直在进行的工作，基于这样的工作，DBA在大量前置，逐渐和开发进行融合。...去哪儿网的MySQL技术专家王竹峰就展示了他们对于SQL审核理解，传统的人肉审核方法即繁重又容易出现误判，所以这项工作必须要智能化和产品化。 ?...罗海雄展示了云和恩墨基于Oracle数据库的SQL审核产品工具 - z3 。...云和恩墨的z3产品，具备更完善的图形和客户端展现，下图显示了工作对于SQL审核项的问题探索，高亮显示，以及工作流程设置，通过构建SQL集合，可以提交DBA进行集中审核，完成工作流转。 ?
摘要：本文整理自阿里云开发工程师耿飙&阿里云开发工程师胡俊涛，在 FFA 实时风控专场的分享。...开发了相关代码并跑起作业后，遇到 d1、a1、b1、b2、d2、c1 的事件流，Flink CEP 就能找到其中的 a1、b1、b2、c1 这一次匹配，之后用户就可以在作业中针对这次匹配做出处理，比如发送报警到下游系统等...我们这里展示三个典型场景： 第一个场景，实时风控。
导语 随着部门在业务安全领域的不断拓展，围绕着验证码、金融广告等服务场景，腾讯水滴作为支撑业务安全对抗的实时风控系统，上线的任务实时性要求越来越高，需要支撑的业务请求量也随之增加。...对于业务快速上线和资源快速扩缩容的需求，且公司自研上云项目往全面容器化上云方向推进，水滴风控平台开始进行自研上云的改造。...水滴后台架构 水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风控策略平台，提供一系列的基础组件给策略人员进行构建策略模型，能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示： 水滴实时风控平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。...，我们将指标监控系统由 Monitor 监控系统改造为智研监控系统。
尤其是视频智能审核系统，最常应用的是在各个直播平台当中。...直播行业是非常流行的，很多平台都开通了直播的功能，但是为了平台的直播内容是绿色且合法的，平台就需要一个审核系统时刻检查各个直播间以及发布视频的内容。...视频智能审核系统的功能 第一个识别出是否有涉政的内容。视频智能审核系统可以根据用户上传的视频，从中识别出是否有恶搞政治人物，或者有侮辱国旗国歌的现象。...审核系统会对于垃圾广告进行处理，下架视频或者不让视频发布。 智能审核系统靠谱 当然是靠谱的。系统能够让平台的内容更加丰富，防止一些不良视频的产生。...智能审核系统就可以帮助平台在审核视频内容方面更加轻松，所以不管是平台还是个体的视频发布者完全可以信任审核系统。 视频智能审核系统帮助人们可以观看到更多有内涵有质量的视频。
2010加入携程，参与了携程结算平台、风控系统的开发，对系统架构、流式数据处理等有比较深入的研究。...目前携程利用自主研发的风控系统有效识别、防范这些风险。携程风控系统从零起步，经过五年的不断探索与创新，已经可以有效覆盖事前、事中、事后各个环节。...一、Aegis系统体系 ? 图1 主要分三大模块：风控引擎、数据服务、数据运算、辅助系统。 风控引擎：主要处理风控请求，有预处理、规则引擎和模型执行服务，风控引擎所需要的数据是由数据服务模块提供的。...数据运算所需的数据来源主要是：风控Event数据（订单数据、支付数据），各个系统采集来的UBT、设备指纹、日志数据等等。 除了这些，风控平台还有非常完善的监控预警系统，人工审核平台以及 报表系统。...由于携程的业务种类非常多，而且每种业务都有其特性，在进入风控系统（Aegis）后，为了便于整个风控系统对数据进行处理，风控前端有一个适配器模块，把各个业务的数据都按照风控内部标准化配置进行转换，以适合风控系统使用
12月1日晚间，卓翼科技（002369.SZ）发布公告称，公司控股股东、实控人夏传武因涉嫌内幕交易、操纵证券市场罪，经深圳市中级人民法院批准，于12月1日被深圳市公安局执行逮捕。...资料显示，夏传武生于1973年，2004年起任职卓翼科技，2014年初成为卓翼科技实控人。而夏传武被抓主要以与2018年公司重组期间内幕交易有关。
舒赵平指出，目前互联网金融的风控大部分是线上线下结合，纯线上的风控如信用审核，在目前的大环境中不太现实，主要原因是网络客户身份信息真实性无法核实，以后随着信用审核技术(如大数据、云计算)成熟、央行征信系统接入...、互联网用户诚信度不断提升，信用审核会逐步向线上转移，线下风控会越来越少。 ...如储信借鉴银行做法理念成立了企业征信公司，主要负责风控，进行贷前、贷中、贷后的信用审核。...从人类感知学来讲，实时风控如果判断的时间大于200毫秒，这件事情是不可接受的，同时，实时风控每秒又要面对上万笔的吞吐量，所以实时风控平台的技术门槛特别高。...但有了实时风控系统，企业可以更自如地做产品创新、限额的调整。
本篇更新策略篇的规则集性能测算及Python实操，内容选自《100天风控专家》第57期。 首先介绍规则集的完整分析流程，包括五个步骤。 一、规则集分析流程 1....三、案例分析Python代码实操 通过配置决策树参数以及入模变量数量，自动化生成规则100多条，通过规则评估指标如命中率、精准率、召回率、lift进行初步筛选，组成为规则集进行初步的性能测试。...-end- 以上内容节选自《100天风控专家》从0到1的信贷风控训练营
陈建平，后台开发工程师，现就职于TEG安全平台部-业务安全中心，主要负责中心实时策略风控平台开发。...导语 随着部门在业务安全领域的不断拓展，围绕着验证码、金融广告等服务场景，腾讯水滴作为支撑业务安全对抗的实时风控系统，上线的任务实时性要求越来越高，需要支撑的业务请求量也随之增加。...对于业务快速上线和资源快速扩缩容的需求，且公司自研上云项目往全面容器化上云方向推进，水滴风控平台开始进行自研上云的改造。...水滴后台架构 腾讯水滴平台主要是用于业务安全对抗的高可用、高性能、低延时的实时风控策略平台，提供一系列的基础组件给策略人员进行构建策略模型，能够帮忙策略人员快速地完成策略模型的构建和测试验证。...水滴系统架构如下图所示： 水滴实时风控平台系统主要由配置处理模块和数据处理模块两部分组成。 配置处理模块：主要由前端 web 页面、cgi 、mc_srv 和 Zookeeper 等组成。
风控所用的数据源包括但不限于威胁情报、实时风控日志、业务数据、设备数据、行为数据、验证数据、数据中心其他风险数据、客诉数据等等。...由于允许用户上传音视频，发布图文内容，就会有黑产尝试通过发布大量低质量甚至侵权的内容，试图通过平台分发来获得更多流量和分成来获利，更有黑产尝试通过发布不良内容来为不法行为导流，严重危害平台安全，爱奇艺风控和审核系统密切配合...，成为机器审核的关键一环，风控会综合结合用户信誉、设备信誉、情报、欺诈特征、行为分析、图关联、人机识别、审核特征等多种特征进行综合构建行为式反垃圾风控解决方案，识别各种异常上传和发布行为，设置风险等级，...并且和审核系统组成双向闭环，通过风险级别来调整其他审核环节的审核优先级和力度，确保在攻击下的高效审核，同时通过鉴白和智能验证等多种能力对冲风险，来降低对好用户上传体验的打扰。...3.优化引擎服务 风控系统对接支持业务后，应当充分考虑如何优化风控系统的服务架构，确保实时风控服务的低延迟低熔断，既要做到保证业务服务不会因为风控服务增加延迟，从而导致业务服务质量下降或者过多资源占用，
账号：垃圾注册、撞库、盗号等 交易：盗刷、恶意占用资源、篡改交易金额等 活动：薅羊毛 短信：短信轰炸 项目介绍 实时业务风控系统是分析风险事件，根据场景动态调整规则，实现自动精准预警风险的系统。...本项目只提供实时风控系统框架基础和代码模板。...对各种场景风险阈值和评分的设置，需要长期不断的调整，所以灵活的规则引擎是很重要的 支持对历史数据的回溯，能够发现以前的风险，或许能够找到一些特征供参考 项目标签 轻量级，可扩展，高性能的Java实时业务风控系统...基于Spring boot构建，配置文件能少则少 使用drools规则引擎管理风控规则，原则上可以动态配置规则 使用redis、mongodb做风控计算和事件储存，历史事件支持水平扩展 原理 统计学...； 扩展风控规则，针对需要解决的场景问题，添加特定规则，分值也应根据自身场景来调整。
选择稍后安装操作系统 ? 版本选择Debain 因为我的光盘映像文件是2020最新版 所以我版本也选择了最新版的64位 ? 名称是虚拟机上的名称，可以改写 ?...双击“Ext4文件系统”，点交换空间分配swap ? ? 根据同样的方法将剩余内存分配给“/”，注意分区是逻辑分区不是主分区 最后得到这样的分区 ?
phoneDCS | 手机群控系统 前言 无言......view code to github 简介 phoneGCS全称phone group control system，顾名思义即是一款手机(Android)群控系统，基于Cli形式运行，支持自定义的编排任务...、任务录制任务群控。...主要有如下特性： 自定义剧本任务 | 录制及运行脚本 自定义频率控制 指定编排任务 指定编排任务执行数量 查看设备主要信息以及剧本列表 实时群控( 未实现 ) 构建云控系统( 可行&未实现 ) 使用
inception架构图 Overmind 审核流程 我们的审核流程现在主要分两部分： 1.Dev和Qa等线下测试环境：为了简化流程，开发测试环境，可以由开发直接通过overmind系统进行审核或执行...2.Prod生产环境：生产环境以安全为主，在Dev和Qa环境执行成功后详情页面会有个“申请上线”按钮，点击申请上线自动发送邮件给DBA，待DBA审核通过后方可上线 系统介绍 基本配置页面：可以直接在页面上配置...基本配置页 数据库信息录入：相当于一个简单数据库的cmdb系统，可以管理数据库信息 ?...数据库信息录入 审核任务提交：支持审核和执行两种模式，审核模式只给审核结果，执行模式在执行之前会先审核 ?...审核任务提交 审核结果展示：详细展示SQL审核的所有信息，包括提交用户、执行操作、审核结果等等 ?
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
腾讯会议
云直播
对象存储
