率先建立反诈领域安全知识图谱,百度用AI技术践行反诈
2021-09-27 18:18 百度

“你下载国家反诈中心APP了吗?” 在8月份应用下载量排行中,「国家反诈中心」以704.25万的下载量冲上榜首,这背后体现着全民反诈积极性、以及反诈意识的提高。

当今,除常规常见的诈骗套路,不法分子的招术随着科技的发展也在加码“升级”。AI技术在引领产业智能化、提升生活品质的同时,还有可能遭到不法分子的恶意利用,生成高科技的新型诈骗手段,人力难防。

2021年9-10月,国家反诈中心主办“全民反诈”系列直播活动,百度安全专家受邀将做客直播间,向广大网民科普网络诈骗、解析新型诈骗手法、提升公民防诈意识。

百度对外公布,其AI技术目前已可应对70余种电信网络诈骗套路,包括较为常见的:网赚刷单、诱导投资理财、荐股、套路贷、虚拟币、AI换脸仿冒公众人物言论等。不仅在全网有害信息搜索拦截、APP安装拦截、内容生态治理方面,从源头拦截有害信息触达用户;另一方面,AI技术还在有效应对AI的滥用,如AI换脸等,运用AI模型安全和深度学习等技术,构建检测平台,协助相关部门守护公民财产与信息安全。

 AI技术阻击AI滥用,让“AI换脸”、“AI换声”无处遁形

AI技术滥用实施诈骗,手段高明,迷惑性更强。用AI技术对抗AI技术滥用非常必要。

近年来“AI换脸”引发了社会广泛的关注,其让眼见不能为实,使之前“保真度”很高的视频、直播等变得不再可靠,并且存在潜在的安全隐患、法律问题与伦理陷阱。

百度安全近年来在多个国家级安全会议上展示了AI换脸的制作过程,通过简单地几步操作,视频里的角色就能轻易替换成另一个人,连眨眼的表情与姿态几乎都能做到完全同步。此类基于AI的人体图像合成技术被统称为Deepfake,即“深度伪造”。

技术滥用带来了一系列的“AI黑灰产”问题,通过“换脸”技术进行色情图片、视频生成、虚拟政治人物讲话等,使人脸识别技术的信息安全受到威胁,对社会秩序与舆论环境带来极大的风险。

百度对于AI安全的重视由来已久。早在2019年,作为百度多年AI技术的集大成——百度大脑,发布升级至5.0,率先将“AI安全”纳入作为纵贯基础层、感知层、认知层、平台层等各层的安全保障。

百度AI长期还致力于反黑灰产前沿技术的研究。基于在AI模型安全、深度学习卷积神经网络(CNN)技术等领域的长期探索与研究,2019年,百度安全推出国内首个基于人脸搜索、人脸属性提取、语音识别和OCR识别的深伪检测平台,采用多种算法和专利保护技术,对主流“深度伪造”数据识别准确率在99%以上,能及时地协助监管部门检测相关风险与问题。

目前,百度深伪检测平台已面向业界开源,致力于促进多方部门开展联合开发及测量评估,从源头阻断滥用AI实施电信网络诈骗行为的蔓延。

除了“AI换脸”,“AI换声”在技术层面也存在可能性。如犯罪团伙通过非法手段获取个人语音信息,继而将固有的话术和被害目标亲属的原声进行结合,利用“深度伪造”生成个性化语音片段,通过“智能客服”以攻破被害人的心理防线,从而达到骗取钱财等非法目的,以此提醒公众提高防范意识。

发挥知识图谱、大数据技术能力,从源头阻断黑灰产触达用户

数据显示,网络诈骗在各类电信网络诈骗案件占比逐年上升,欺诈类恶意网站作为承载各类欺诈非法交易、导流至更多恶意网站的重要平台,已成为黑灰产实施网络犯罪的上游。

针对诈骗链条上游的整治是百度AI长期监控、拦截、黑灰产共治的目标,力争从源头上阻击诈骗。

百度AI依托威胁情报大数据和百度大脑核心技术之一的知识图谱,搭建全网基于搜索生态、内容平台的安全态势感知系统,针对网络诈骗上游进行治理、清理。

一方面,通过百度安全态势感知系统,可针对全网文字、图片、视频、代码等进行智能建模和7×24小时实时监控,对欺诈、违法、风险等恶意网站及第三方浏览器、第三方APP、社交平台、短信网址有害信息采取风险标注、拦截提示、搜索屏蔽等拦截措施,该系统目前通过事前监控—— 事中拦截——事后追溯的保障机制,从源头阻断网络黑灰产触达用户。

另一方面,针对电信网络诈骗的源头——公民个人信息泄露进行集中治理,对相关涉嫌网站进行拦截屏蔽,对内容平台相关违法违规信息进行重点清理,并对相关行为人实施永久封禁账号等处罚措施,多方位保护公民个人信息安全。

此外,还有“百度网址安全中心-网址检测平台”可供公民实时自查可疑网站,轻松识破诈骗;百度安全已上线百度移动端诈骗APP安装拦截,对搜索生态中的涉嫌诈骗APP进行阻断治理,为用户安全访问提供保障。

自2019 年来,网络安全态势较为严峻,攻防对抗不断升级。据统计,近两年,百度安全年均拦截各类恶意信息416.1亿次,拦截涉诈网站及APP触达用户量2700万次,日均保障公民个人信息免遭恶意披露22万次,针对“两卡”违法交易的累计信息清理超过493万次。

此外,多年来百度积极配合公安机关,为打击刑事案件提供技术支持——提供黑灰产线索、还原黑灰产画像、深入参与侦办,协助营造清朗良好网络生态,切实保障数亿网络用户的搜索体验和公民个人信息安全。近年来配合公安机关破获各类网络犯罪案件上千起,涉案金额达数亿元人民币。反黑产开放平台向公安机关输出包括诈骗信息在内的各类“风险网站及APP”威胁情报逾百万条,助理监管机构实现对各类新型网络犯罪行为的快速研判、重点攻坚、科学预警和及时阻断。

网络安全生态治理是一场持久战。未来,百度AI将持续通过技术研发完善网络综合治理体系,技术开源、情报共享、黑产共治,协同政府、行业、机构共筑公民财产及信息安全防线,不断用领先AI技术手段攻克黑灰产“武器库”,用AI战胜AI,守护每一位公民安全、安心生活。