锦佰安科技受邀参加第六届中国网络安全大会 AI技术应用于网络安全防御是大势所趋
2018-06-14 08:53:00爱云资讯阅读量:921
6月13日,锦佰安科技创始人兼CEO冯继强受邀参加第六届中国网络安全大会,并在知名网络安全技术大咖和顶级白帽子云集的大师讲堂论坛中,发表了题为《AI领域对抗欺骗与安全防御》的主题演讲。本届大会在北京国家会议中心举行,由国家计算机病毒应急处理中心、国家网络与信息系统安全产品质量监督检验中心、赛可达实验室、首都创新大联盟及百家行业联盟共同举办。
锦佰安科技CEO冯继强发表主题演讲
冯继强指出,账号登录的本质是为了区别人和机器,还有区别人和人。但静态密码、短信验证码、图片验证码易被破解,U盾等硬件设备则由于成本高、用户体验差等问题制约了其应用场景,因此,这些传统认证方式都不能安全便捷地实现人机识别和身份认证。
AI对抗欺骗威胁生物识别安全
此外,看似安全和成熟的生物识别方案也存在极高的安全隐患。冯继强强调:“生物识别方式中,无论是人脸还是指纹都有一个共同特点,它们为了便捷性不可避免地牺牲安全性。人脸和指纹都可被低成本方式收集,本质上来看,这相当于把认证的凭据放置在公共空间,有心的人总能收集到,并恶意使用。同时,恶意用户也可用AI对抗AI的方式一定程度上绕过这种检测。”
冯继强用具体的事例生动地讲解了三种攻击AI的主要方式:一是污染训练数据;二是生成对抗样本;三是深度学习库大量依赖三方包,也极有可能被挖掘出漏洞。同时他还指出,层出不穷的攻击AI手段也促使防御措施不断进化,比如在今年4月的一篇论文中,牛津大学的研究人员提出用低秩结构增强网络压缩和对抗稳健性,并发现低秩结构可以在一定程度上防御对抗样本。
最后,冯继强提出了对于防止深度学习被攻击的思考:首先,使用低秩增强的网络进行训练,如果收集到对抗样本,可以放到训练集中训练;其次,某些任务不要完全依赖深度学习,在深度学习验证前设置一些校验,或有意分解任务,在深度学习前用统计方式解决;再次,尽量使用新版本的深度学习框架,内部挖洞。
网络安全防御应积极运用AI技术
在网络安全领域,只有永远的对抗,没有永久的安全。冯继强的演讲也表明,在人工智能时代,网络攻防中以AI对抗AI的情况会持续增多,机器学习技术将会越来越多地运用到网络安全领域。
据悉,锦佰安科技已率先推出基于AI的行为识别身份认证产品——SecID AI行为识别身份认证系统,通过机器学习手段为用户独特、不可复制的行为特征建立识别模型,即可准确识别其身份,确保只有本人才能登录账户,防止密码泄漏导致的安全风险,亦体现出该公司在将AI技术应用于网络安全方面有着不俗的自主创新能力。面对层出不穷的攻击手段,安全从业者应积极运用前沿AI技术,从而进一步推动我国网络安全保障体系建设,提升国家重点行业的网络安全防护水平。
锦佰安科技CEO冯继强发表主题演讲
冯继强指出,账号登录的本质是为了区别人和机器,还有区别人和人。但静态密码、短信验证码、图片验证码易被破解,U盾等硬件设备则由于成本高、用户体验差等问题制约了其应用场景,因此,这些传统认证方式都不能安全便捷地实现人机识别和身份认证。
AI对抗欺骗威胁生物识别安全
此外,看似安全和成熟的生物识别方案也存在极高的安全隐患。冯继强强调:“生物识别方式中,无论是人脸还是指纹都有一个共同特点,它们为了便捷性不可避免地牺牲安全性。人脸和指纹都可被低成本方式收集,本质上来看,这相当于把认证的凭据放置在公共空间,有心的人总能收集到,并恶意使用。同时,恶意用户也可用AI对抗AI的方式一定程度上绕过这种检测。”
冯继强用具体的事例生动地讲解了三种攻击AI的主要方式:一是污染训练数据;二是生成对抗样本;三是深度学习库大量依赖三方包,也极有可能被挖掘出漏洞。同时他还指出,层出不穷的攻击AI手段也促使防御措施不断进化,比如在今年4月的一篇论文中,牛津大学的研究人员提出用低秩结构增强网络压缩和对抗稳健性,并发现低秩结构可以在一定程度上防御对抗样本。
最后,冯继强提出了对于防止深度学习被攻击的思考:首先,使用低秩增强的网络进行训练,如果收集到对抗样本,可以放到训练集中训练;其次,某些任务不要完全依赖深度学习,在深度学习验证前设置一些校验,或有意分解任务,在深度学习前用统计方式解决;再次,尽量使用新版本的深度学习框架,内部挖洞。
网络安全防御应积极运用AI技术
在网络安全领域,只有永远的对抗,没有永久的安全。冯继强的演讲也表明,在人工智能时代,网络攻防中以AI对抗AI的情况会持续增多,机器学习技术将会越来越多地运用到网络安全领域。
据悉,锦佰安科技已率先推出基于AI的行为识别身份认证产品——SecID AI行为识别身份认证系统,通过机器学习手段为用户独特、不可复制的行为特征建立识别模型,即可准确识别其身份,确保只有本人才能登录账户,防止密码泄漏导致的安全风险,亦体现出该公司在将AI技术应用于网络安全方面有着不俗的自主创新能力。面对层出不穷的攻击手段,安全从业者应积极运用前沿AI技术,从而进一步推动我国网络安全保障体系建设,提升国家重点行业的网络安全防护水平。
相关文章
- 以AI技术引领生产力革新,联想YOGA Pad Pro AI元启版开售
- OpenAI与国防技术公司Anduril合作,将AI技术集成到反无人机系统中
- 风变科技助力井冈山大学,培养新时代AI技术青年人才
- 全国交通安全日丨苏州市民体验AI技术融入交通安全
- 乌镇峰会观点速递 | 高通钱堃:以5G-Advanced和AI技术创新,助力社会经济绿色发展
- 任度双脑大模型:国内首创技术路线,突破AI技术边界
- 荣获国家级备案!深演智能AI技术发展迈入新阶段
- AI技术显现创新势能,三星第七次亮相进博会
- 美图宜肤发布AI技术在预测和展示面部衰老特征方面的应用
- 合合信息AI技术赋能财务业绩解读
- 传音控股与联发科技携手共建人工智能联合实验室,加速推进端侧AI技术创新
- 高通孟樸:推动5G、AI技术创新,为人们生活提供便利和支持
- 国家网安周|安恒信息范渊:应重视AI技术在威胁情报运营的实践应用
- 合合信息:以AI技术开启全球市场新纪元,IPO首发获通过
- 亚马逊的新款Alexa语音助手将使用Claude AI技术
- 商汤与海通证券联手打造金融行业生成式AI技术应用创新标杆