回首2020 | 网络安全走向AI未来的星辰大海

发布时间 2021-01-22

2020年是全世界都面临着新冠疫情严峻挑战的艰难一年。但是人工智能技术的研究仍然取得了不少值得关注的突破进展。而它与网络安全领域的结合也在稳步推进。在这一年里人工智能技术的发展情况如何?人工智能技术与网络安全领域又有哪些新动向?来看本篇行业性观点为你答疑解惑~


人工智能热度居高不下


从2020年人工智能技术的整体发展情况来看,无论是在工业界还是在学术界,对人工智能技术的关注继续维持着近些年来的高热态势,甚至可以说更甚于往年。


2020年7月,Gartner发布了新一年度的新兴技术成熟度曲线,通过对1700种技术进行调研分析,最终选择了30种技术。与2019年度的曲线相对比,有22种技术不再出现或有调整,可谓变化巨大,但是仍然至少有半数的技术与人工智能直接相关(如下图中的黄色标注),足以说明人工智能技术在工业界得到高度关注。同时注意到曲线上的AI辅助设计(AI-Assisted Desing)与AI增强开发(AI-Augmented Development)两种技术,预示着在未来人工智能与人类的协同工作方式将逐步流行。


1.png


学术研究方面,人工智能领域的知名国际学术会议AAAI投稿数2020年再创新高,超过9000篇(2019年为8800余篇),可见人工智能领域的学术研究热度持续上升。


与此同时,2020年也出现了一些影响较大的研究成果,包括OpenAI提出的包含1750亿参数的自然语言处理模型GPT-3、谷歌设计的聊天机器人Meena、DeepMind推出的蛋白质结构预测算法AlphaFold2等。这些成果证明了人工智能技术研究不仅继续保持高速推进,而且开始对其他学科领域(如生物学)的研究产生重大影响。


另外,2020年关于人工智能还有不得不提到的一点,那就是在抗击新冠疫情过程中人工智能技术发挥了重要作用,但也同时引发了一些争议。比如人脸识别与红外测温及门禁系统的结合应用等,对疫情防控起到不少助力,但也因为可能涉及个人隐私保护方面的问题而存在争议。例如,欧盟GDPR对个人隐私保护提出了严格的要求,限制了疫情防控中对数据的采集。因此为了更有效的进行疫情防控,德国在GDPR授权法例中专门加入了一些措辞,以便授权政府在流行病、自然灾难或人为灾难发生期间处理个人数据。


人工智能赋能网络安全稳步推进


人工智能技术的快速发展在网络安全领域也有所表现。2020年2月举办的RSA大会受到疫情影响,参展机构总数从2019年的736下降至669,但是以人工智能/机器学习作为关键词的参展机构数与2019年基本一致(121 Vs. 124),足以说明网络安全业界对人工智能技术的采用率与认可率均在上升。


虽然大会主题是“以人为本(Human Element)”,却与人工智能技术密切相关,其中最重要的思想之一是将人工智能技术与人的网络安全攻防对抗常识与经验相结合,这既包括使用人工智能技术提升自动化水平,也包含通过ATT&CK等方式将相关常识植入智能分析,从而减轻安全分析人员的负担,并实现网络安全能力的整体提升。


在网络安全领域,最重要的不是采用什么新奇酷炫的技术,而是实际的防护能力与效果,因此人工智能赋能网络安全正在逐步走向务实,一些具体的发展趋势如下:


1、基于对人工智能技术及其适用范围的深入理解,在网络安全领域中人工智能将更多地与其他技术结合使用,从而发挥技术综合优势。

2、鉴于网络安全领域的数据特点,无监督、自监督或半监督的方法将有更多应用前景,而有监督的方法则只适用于标注数据样本丰富的少数场景。

3、人工智能的可说明性在网络安全领域的受关注程度正逐渐上升,但目前仍属于前沿科知识题,暂无一般性的高效、可靠技术可用。

4、人工智能技术的采用将催生出更多新型网络安全应用,如入侵组织画像、安全常识图谱、安全分析推荐等。

5、借助人工智能发起网络入侵逐渐兴起,针对人工智能弱点的入侵也不容忽视,网络安全领域正向着实战演练的智能化方向发展。


近年来,澳门浦京娱乐场集团一直致力于将人工智能技术转化为切实的网络安全能力,2020年又在基于人工智能的恶意域名识别、木马通信检测、行为异常检测等技术的应用落地方面取得了实质性的进展。


未来展望


Gartner在2020年10月发布了2021年的九大战略性技术趋势报告,其中有一项是“人工智能工程(AI engineering)”(如下图)。报告中指出人工智能项目往往由于可维护性、可扩展性等方面的问题而失败,而由DataOps、ModelOps与DevOps组成的人工智能工程将助力提升人工智能模型的性能、可维护性、可扩展性、可说明性以及可靠性。这些都是人工智能技术在网络安全领域落地所要解决的重要问题,因此,随着人工智能赋能网络安全的需求增加与技术发展,系统化的人工智能工程在未来将成为一种更高效的方式。


2.png


此外,受疫情期间人工智能应用与隐私保护之间的矛盾与争议影响,人工智能的伦理安全问题将受到更多关注。人工智能应用的构建与部署应用过程中存在多种伦理问题,包括数据隐私保护、模型偏见与公平性以及发生错误时的责任认定等,这些需要通过推动相关法律法规或标准规范的制定与采用技术手段辅助的方式协同解决。在网络安全领域中应尤为关注,打造负责任的人工智能将是未来的发展方向。


同时,人工智能技术作为发掘数据要素价值的一大利器,在推动数字经济发展与数字中国建设中将发挥越来越重要的作用,同时也需加强数据要素安全,关注人工智能应用所伴随的数据安全威胁。


作为信息安全行业领军企业,澳门浦京娱乐场持续关注人工智能技术的前沿发展动态,研究新技术在网络安全领域的融合应用,并不断探索应用落地的最佳实践方案,在以安全为首要目标的同时兼顾性能与效率,打造好用且可靠的人工智能应用赋能网络安全。