下一波重大网络攻击很可能涉及人工智能系统,而且攻击活动可能将很快发生:在最近召开的一次网络安全会议上,100位受访行业专家中的62位认为,首轮AI强化型网络攻击很可能在接下来12个月内出现。

网络攻击

这并不是说机器人将很快成为网络攻击活动中的主体。相反,人工智能将继续遵循现有网络攻击的套路(例如身份窃取、拒绝服务攻击以及密码破解),只是具备更为强大的能力与执行效率。但凭这一点,足以造成经济损失、情感伤害甚至人身威胁等危险后果。规模更大的攻击活动甚至有可能导致数十万人陷入无电可用的境地,关闭医院甚至影响到国家安全。

AI决策制定的研究者警告称,AI仍然很难解释人类行为,而人类也并不真正相信AI系统作出的重大决策。因此与电影桥段有所不同,AI能够为网络攻击以及网络防御带来的并非由计算机选定目标并自动施以攻击。人们仍然需要自行创建AI攻击系统,并设定特定目标再将其启动。但尽管如此,AI的介入仍然会进一步升级目前的网络犯罪与网络安全体系,进而成为攻击者与防御者之间军备竞赛的核心支柱之一。  

AI的优势    

除了不需要进食与休息之外,计算机相较于人类黑客团队还拥有另一大根本性优势,以自动化方式提升复杂攻击的速度与执行效率。    

截至目前,自动化的实际效果仍然存在局限。几十年以来,病毒程序自动复制等能力已经属于非常基本的AI型功能,其能够在无需人类指令操纵的前提下完成在计算机之间的传播。

另外,程序员还会利用自有技能对不同黑客元素进行自动化升级。举例来说,分布式攻击利用多台计算机或设备上的远程程序将服务器吞没。  

2016年10月导致部分互联网体系瘫痪的攻击活动就采用了这种实现方式。在某些情况下,普通攻击亦可通过脚本形式起效,从而允许技术水平较低的用户选定目标并发动攻击。

不过AI能够帮助人类网络犯罪分子定制攻击手段。举例来说,鱼叉式钓鱼攻击要求攻击者获取潜在目标的个人信息以及其它详细资料,具体包括银行帐户或者其选择的医疗保险公司。

AI系统能够帮助攻击者快速收集、组织并处理大型数据库,从而对信息进行关联与识别,最终简化攻击实施门槛并加快攻击执行速度。另外,工作量的降低将使得网络犯罪分子能够发动大量小规模攻击。由于单次攻击的影响较为有限,因此这类活动即使被检测到也往往会受到忽视。    

AI系统甚至可被用于从多个来源处同时提取信息,从而发现那些易受攻击活动影响的目标。举例来说,住院的病患或者身处疗养院的老人可能不会注意到自己的帐户余额已经被恶意人士所窃取。    

提升适应能力    

AI支持型攻击者在遇到阻力,或者网络安全专家修复了原有漏洞时将能够快速作出反应。在这种情况下,AI可能会在无需人为指示的前提下转而利用另一项漏洞,或者对系统进行扫描以找到新的可行入侵方式。    

这可能意味着人类应急工作者及防御者将无法跟上AI方案的进攻速度。这极有可能引发新一轮编程与技术性军备竞赛,其中防御者开发出AI助手以发现并抵御攻击活动,甚至打造出拥有报复性攻击能力的AI方案。

AI同样可能带来的危险  

自主操作可能导致AI系统攻击其本不应攻击,甚至可能造成意外损失的系统。    

举例来说,原本只打算窃取资金的攻击者在运行AI软件后,其也许会决定将目标指向医院计算机,这极易导致人身伤害甚至是死亡等严重后果。无人机的自主运行能力也存在类似的问题:人类仍需要负责做出关于目标选取的决定。    

尽管后果与影响如此重要,但大多数在遭遇第一次AI攻击时并不会注意到此类重大变化。对于大多数受影响群体,其面临的结果与人为触发的攻击将基本相同。但随着我们不断利用互联网机器人系统改进自身家庭环境、工厂、办公室乃至交通运输系统,人工智能引发的潜在威胁必将不断提升。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2023-09-08 10:32:11
市场情报 亚马逊云科技针对人工智能/机器学习工作负载推出多项存储新服务及功能
存储服务的新功能重点包括为支持人工智能/机器学习、大数据分析等数据密集型工作负载进一步提升Amazon Elastic File System(Amazon EFS)读取和写入性能,以及Amazon Elas <详情>
2023-08-24 09:38:00
大数据资讯 关注县域数据能力建设,抢占产数业务发展先机
2023年《数字中国建设整体布局规划》正式发布,数据能力已成为我国区域发展的底座和创新引擎。 <详情>
2023-07-24 16:26:35
市场情报 亚马逊云科技人工智能与机器学习技术助力科学家绘制完整的脑部地图
艾伦研究所数据和技术主管Shoaib Mufti带领团队与亚马逊云科技合作,将利用这张脑图创建全球大的脑细胞开源数据库。这是人类首次对关于哺乳动物大脑结构和功能的大规模数据 <详情>
2023-07-14 17:09:54
国内资讯 上海统筹布局长三角公共算力中心
到2023年底,上海将依托上海市人工智能公共算力服务平台,接入并调度4个以上算力基础设施。 <详情>
2023-07-14 13:56:00
互联网 8月起施行!国家网信办等七部门发布《生成式人工智能服务管理暂行办法》
《办法》规定了安全评估、算法备案、投诉举报等制度,明确了法律责任。 <详情>