1. 首页
  2. 智能
  3. AI&大数据

当AI防御遇上AI攻击,「以子之矛,攻子之盾」正在资安界上演

当AI防御遇上AI攻击,「以子之矛,攻子之盾」正在资安界上演
在资安世界里,防御端和攻击端的AI攻防前哨战已经开打。对骇客来讲,AI不只可以提高攻击效率,而面对AI系统,他们也能透过污染训练数据进而操控。
科技可以为善可以作恶,人工智慧(AI)也是,端看人类如何使用它,而在资安世界里,这场防御端和攻击端的AI攻防前哨战已经开打。

 

最新AI攻击手法,插入噪音就能破坏语音辨识系统

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三种与AI相关的资安攻击手段。

第一种是利用AI提高攻击效率。例如,现在骇客可以透过机器学习,分析社群媒体上的讯息、朋友圈等等,依照这些个人化资讯发起针对性攻击,提高钓鱼攻击成功率。此外,现在网路上也出现透过机器学习、可以自动辨识图像的免费软体XEvil,让骇客可破解用来防堵自动化攻击的验证码CAPTCHA机制。

第二种则是骇客攻击AI系统,例如以一种改变系统的方法进行攻击,简单来说就是污染AI系统,或是找到AI系统弱点、绕过防御以进行攻击。

Lodewijkx举例,微软在2016年推出聊天机器人Tay,透过机器学习技术让他它可在每次的对话中改善回话,但上线24小时后就被「玩坏」,说出种族歧视的言论。不只是聊天机器人,Lodewijkx表示,现在的技术也能做到入侵语音辨识系统,只要在声音中插入噪音,就能彻底改变翻译结果,让机器说出特定语句。

虽然这些看似无伤大雅,但Lodewijkx提醒,AI已经被企业大量用于商业营运中,一旦被骇客知道模型如何训练和运作,就能藉由破坏训练模型的数据来操控模型。例如,银行把AI导入借贷决策系统,藉由分析申请人的收入、年龄、居住地、信用分数等,决定是否该批准借贷,一旦找到方法绕过侦测,就算有很差的信用分数仍可成功贷款。

「我们在产业所使用的机器学习,其中很多的模型仍非常脆弱,」Lodewijkx说,「如果你可以操控训练模型的数据、输入值,你就可玩弄这个模型。」

最后一种攻击手段,骇客着点的不是模型本身,而是用来训练AI模型背后的数据。Lodewijkx表示,骇客已经可以窃取训练AI模型背后的数据,以图像辨识系统为例,正常情况是,给出图片后,系统可以辨识出人名,而在破解系统后,骇客只要拥有姓名,就能逆向重建出图片。

AI从三层面防御骇客攻击

不只是攻击端,AI之于资安防御,也是不可获缺的角色,像是IBM旗下资安产品几乎已全面导入AI。

为什么要用AI防御?Lodewijkx指出,现在的资料量庞大,来自网路、电脑系统、资料库等等,随之而来的是资料、威胁、环境都变得更复杂;在此情况下,却面临资安技术人力短缺,IBM调查指出,到2022年,资安领域会有180万份的资安人力短缺。这也是为什么需要在资安工具中导入AI,而AI也能提高侦测和反应的速度,降低损失。

Lodewijkx指出,目前最常见的AI资安应用是「预测分析」(predictive analytics),也就是藉由机器学习分析大量数据,从中找出异常。「市场上几乎每个人都说有将AI导入资安中,就是这个分类。」他说。

例如,监控网路流量或使用者行为,找出不寻常的地方,或是观察人类如何和电脑或手机互动,进而分辨出是真正的人类、还是假装成人类的恶意软体。此外,也能找出「假阳性」的威胁警报,降低误报率。

第二类则是智能强化(Intelligence consolidations),也就是把资安研究工作交给AI。Lodewijkx解释,IBM教旗下人工智慧Wastson读懂资安相关的新闻、研究报告、Twitter讯息等等,进而建立知识图谱(knowledge graph),并找出每个知识间的关联性。训练完成后,当他们告诉Watson一个IP位址、网址或档案,Watson就可以回报该档案的相关讯息,如和哪种病毒有关、常被哪些骇客组织使用、锁定哪些产业等等,让分析师不用再自己去读大量资料。

第三种则是智能回应(intelligence response),目标在于提高一定时间内的分析效率。Lodewijkx指出,以资安营运中心为例,分析师有58%的时间都是花在重复性工作上。举例来说,当资安监测系统发出警示,分析师必须比对不同的应用程式、资料库和系统,确认该警示是否为真,而正因为这些步骤是固定的,很适合自动化。

AI不是资安防御的完美解方

尽管现在AI已经被大量用于资安产品,但Lodewijkx认为AI并不能解决所有资安问题,「我们距离那时还很远。 」

Lodewijkx解释,现阶段AI只能针对特定任务,使用场景仍非常狭隘,虽然可以强化防御,但仍需要和其他防御方式相辅相成,如更新补丁、保护凭证、防火墙等等。

更重要的是,AI仍需要和人类合作。「我们还没有进入AI比人类聪明的时代,」Lodewijkx解释,机器学习模型最擅长的地方是,做人类训练他们做的事情,这也是为什么AI可以做很多例行工作,但仍无法做到需要创造、调查类的工作。反过来讲,这也意味着AI攻击也只能做好一件事,当被训练的攻击手段不行,AI也无法像人类一样自己想出别种攻击方法。

「这其实有点像军备竞赛(arm race),」Lodewijkx说,现在骇客学习AI、取得演算法、云端计算能力等成本都越来越低,这也让防御端的侦测和回应速度必须更快及精准。而这场AI资安攻防的前哨战,才刚开打。

 

Source:bnext.com.tw

本文来自投稿,不代表需评网立场,如若转载,请注明出处:https://needma.com/intellect/big-data/6554.html

发表评论

登录后才能评论

联系我们

在线咨询:点击这里给我发消息

邮件:[email protected]

工作时间:周一至周五,9:30-18:30,节假日休息