AI攻击如何破解？百度AI安全技术总监聂科峰为你支招

AI攻击如何破解？百度AI安全技术总监聂科峰为你支招

本站原创，作者：章鹰，电子发烧友执行副主编。

智慧城市正在中国蓬勃发展。据悉，我国95%的副省级以上城市、83%的地级城市，总计过500个城市，都在《政府工作报告》或“十三五”规划中明确提出活正在建设智慧城市，并有超过300个城市分别与BAT、华为以及三大运营商等企业签署了战略合作框架协议。

随着我国智慧城市的发展，众多企业也看到了移动终端在智慧城市中应用的重要性，移动终端应用产品在智慧城市中百花齐放。大量智能终端设备和传感器接入智慧城市综合网络，产生了复杂的接入环境、多样化的接入方式和数量庞大的接入终端，全面加大了智慧城市系统的接入风险，也聚集了新型的数据安全风险。在AI技术和物联网技术相互交互下，如何保障网络安全和终端安全已经成为企业关注的焦点。

12月20日，在深圳国际电子展上，雷锋网主办的“AIoT+智慧城市峰会”上，百度AI安全技术总监聂科峰先生带了AIOT市场安全的最新趋势和解决方案。

百度AI安全技术总监 聂科峰先生

AI在智慧城市当中已经开始应用了，在百度看来，AI的大规模应用必须以安全为基石。

什么叫AI+IoT？百度AI安全技术总监聂科峰认为，以传感器为特征的AIoT终端承担了数据采集、AI分析、结果反馈和智能执行等任务。他举例说，比如在监控过程中我们加入了对监控内容AI的分析，AI的反馈并且能给出实时反馈，并且能做一些事情，又比如说监测到一个坏人可能报警，还有流量控制改变红绿灯设计，此外，对于人流量的预测，AI深度学习可以结合时空数据，让城市管理者对人流量未卜先知，这在未来都是AIoT所带来的应用。

之前，笔者在采访Gartner研究总监相斌斌时，了解到IoT市场不成熟，安全是许多企业的担心。35%的企业认为安全是物联网部署获得成功的最大障碍因素，Gartner预测，2020年，超过25%的安全入侵与物联网相关。

百度AI安全技术总监聂科峰认为，在物联网时代，网络安全目的是防止实时的数据被别人监控到，或者一些隐私的数据拿到，但是AI是完全不一样，AI是基于大数据进行分析和判断，然后进行下一步的决策和行动，一旦受到干扰，问题将非常严重，这时候安全非常重要，它承担了采集离线分析，云端分析，我们需要做一些事情，反向执行这方面带来的风险是未来重点关注的。

在他看来AIoT整个系统安全有两大挑战：第一、传统的基于IOT设备需要联网，需要系统，本身就有潜在的风险。加入了AI之后，AI带来新风险，我们可以看到传感器欺骗，这是AI和视觉相关的，软件缺陷有开源、第三方的、基于机器学习的，本身有很多漏洞，这些漏洞带来的缺陷也会影响AI在IOT应该发生的正确响应；第二、基于大数据的污染，系统风险和网络风险这就是非常传统的，移动和PC时代都会面临的问题。

如何构建全面的AIoT安全生态体系？聂科峰指出，应当从数据处理、网络传输、应用设备三大重点领域入手，保障数据安全，建立更可靠的AIoT安全框架，实现模型安全并减少业务漏洞;同时，还应该将软硬件安全方案一起考虑，不仅需要减少算法的不确定性和不可控性，让AI的安全方案更健全更具容错性，也要让数据防线更坚固、让设备端安全响应更加快速、让网络传输方案更加安全稳定。“安全是一个持续的攻防对抗过程，持续响应是未来非常重要的一点。” 聂科峰强调指出。

在AIoT设备中涉及到云、管、端和数据相关，不同层面要提供不同的安全保障。在安全评估中，百度和中国信通院合作，推行行业安全基准，对包括智能音箱、智能摄像头等基与AIoT的设备上市前设定安全评估标准，降低未来可攻击性。目前通过我们建立的安全评估点和安全设备，整个安全状况有明显提升。

第二、百度提供了专业工具可以辅助大家做评估，比如说百度的Advbox，是专门针对AI的安全工具，首先对产品的安全模型做基础性测试。另外可以提供对抗样本来训练客户的模型，使模型加固。第三、我们可以让客户了解对抗样本，这是基于开源的平台，大家在AI上可以检测这些功能。

百度在AIoT安全生态已经有了前瞻性布局，推出了一套先进的“云管端一体化安全防护解决方案”，可为智能设备提供从云端安全、数据传输到设备端安全的一体化安全防护。

“云端我们DDos防护还有漏洞防护，在AI学习这一块百度有对抗样本工具，通讯这一块提供了Mesalink，基于SL的加密通讯的机制。DNS反劫持上，百度开放了搜索多年DNS劫持上的经验，以设备终端为例，百度安全可为智能设备提供安全OTA、证书认证、漏洞防护、病毒防护等四重防护能力。” 聂科峰总结说，“小度在许多智能汽车中得到应用，有很多IOT厂商也不断的将我们的应用落地。我们跟生态的合作伙伴一起，打造生态，希望做到越智能越安全。”