
通过有计划的欺骗手段,大量骗取平台内其他用户的财产。
即时通信平台中的交友诈骗、电商平台中的客服退款诈骗、在线会议平台中的仿冒公检法诈骗等。主要有分为电信网络诈骗、营销诈骗、金融诈骗等。
其实还有很多技术工具以及资源流筹集方式,所谓知己知彼百战不殆,通过熟悉黑灰产业,可以联想出对抗措施,这是一场随着概念、技术、资源更新变化,做好持久战的准备的。
诈骗治理包含事前、事中、事后三个风控阶段。
在事前风控阶段,通过身份模型对用户、环境、设备判别,预防潜在风险;在事中风控阶段,判断违规行为、恶意内容的安全风险,并进行阻断和拦截;在事后风控阶段,对社群、产业、团伙进行全面复盘,挖掘潜在恶意同伙、产业链及组织分工,全面打击黑灰产业链
在大数据治理下的反欺诈体系建设中,对于数据从产生、采集、加工、存储、开发、应用到销毁的全过程,都需要引入高质量的平台和运营体系来保证大数据的安全。
这里有很多的大数据相关的背景知识和技术知识,可以单独模块去体系化学习大数据平台的搭建,此处只做一些概念讲解,作为理论知识储备,有兴趣的可以去了解相关技术知识课程。
大数据平台的核心组成可分为三层:第一层就是底层数据存储,第二层是中间平台的计算,第三层是做数据分析的业务应用。大数据是由庞大的数据规模、快速的数据流转和多样的数据类型构成的。
计算框架:三个经典主流的大数据计算框架分别是Hadoop、Spark和Flink。
在这三个计算框架中,最早出现的Hadoop是由其创始人在MapReduce模型的启发下构建出来的。Hadoop主要面向批处理任务,可以用来处理海量数据,目前已经成为许多企业主要的大数据解决方案。Spark具有比Hadoop更高的执行速度,通过提供许多具有易用性的接口,Spark在机器学习和图计算中被更广泛地应用。Flink与Spark在批处理领域的绝对优势不同,Flink在流处理领域一枝独秀,其性能也远超其他流处理的大数据计算框架。
存储框架:分布式存储 可以解决数据安全性和可靠性问题;同时利用多台存储服务器可以控制负载均衡。
计算模式:数据计算的方式主要可以分为批处理、流处理两种。
2. 大数据治理:大数据治理是对数字资产全生命周期进行管理。数据收集、清洗、存储、读取以及展示等过程。大数据治理的流程主要可分为数据模型、元数据管理、数据质量管理、数据生命周期管理以及数据安全。
这里就不展开介绍每个模块具体的功能和管理方式,感兴趣可以进行大数据治理相关知识的学习。
依托大数据的技术,对黑产进行事前、事中,事后的全局治理,主要依靠其机器学习和深度学习的模型,来对黑产进行较快的预测和识别。从训练模型的角度来看,模型就是通过自身的参数对输入特征数据做映射,使其尽量靠近样本标签。训练模型的关键就是不断迭代和优化参数,使其对标签的拟合效果更好。
数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。所以数据和特征就显得尤为重要。数据可以理解为我们收集来原始数据,包括数值文本语音视频等;那特征是什么呢?即观测对象的属性。例如:学历这个对象,可以用初中、高中、大学等来区分;水果的好坏判断,可以通过大小、颜色、光泽等属性来打分综合评价。
特征如此重要,所以机器学习中有一项重要内容即特征工程。
3. 特征工程:构建较好的特征,是可以将模型和算法逼近机器学习上限的。这个怎么理解,可以通过一个简单案例理解,比如房价预测,房子位置是一个影响房价的重要因素,但是如果没有发现这个特征,而训练的模型,其精确度和准确度会大打折扣。
特征学习:分为有监督学习和无监督学习。
有监督的特征学习是指在特征学习中引入样本信息,借助于样本信息,从原始数据中整合出有效的特征;计算TGI(target group index)指数,是反映目标群体在特定研究范围内的强势或弱势的指数)指数来查看不同样本的偏好分布,然后从原始数据中提取出TGI指数较高的基础属性来构建特征。
无监督的特征学习主要强调挖掘数据本身的规律。
时序规律:挖掘文本时序规律;word to vector;是一种通过训练浅层神经网络来学习文本表示的算法。
AutoEncoder算法,AutoEncoder算法的架构是一种特殊的神经网络架构,其中输入和输出的组成是相似的,分别包括了编码器和解码器。首先我们将HTML文本中的URL关键词转换为one-hot编码,然后将one-hot编码输入到AutoEncoder算法的网络架构中,通过编码器将其降维成低维空间数据,也就是Embedding向量。
特征评估与选择:在使用多种方式构建了大量的特征后,直接通过这些特征去训练模型是有问题的,一方面训练开销会比较大,另一方面特征太多会产生模型训练的收敛速度慢等问题。
