网络安全检测|网络安全服务|网络安全扫描-香港墨客投资移动版

他以攻击智能汽车为例，详细介绍了典型的智能安全体该如何构成。他指出，改变交通标志、黑客入侵系统、数据植入云端让数据中毒都可以实现对智能汽车的攻击，而当前作为掌握海量大数据的阿里巴巴来说，面临的挑战还比智能汽车安全更为复杂。

目前，数据污染或数据中毒的案例不胜枚举，而阿里安全除了在传统网络建立安全的防御体系，防御黑客入侵和渗透，还要建立一张网防止数据中毒和数据污染。在阿里看来，机器流量是万恶之源（爬虫爬取信息、商家信息泄露、搜索排序刷单等）。

路全接下来介绍了阿里在机器流量防空体系三个方面：

·检测模块。如果把整个智能系统比作一个人，检测模块就是眼睛，没有眼睛很多事情是做不了。

·分类模型。分类模型是机器学习的一种，是在工业界最常用的模型，如果机器学习比作有机体，分类模型就是大脑。

·辅助系统。反馈控制研究已经很透，但其实在实际系统中，反馈控制往往能起到和机器学习模型叠加组合起来能起到好效果。在传统的OR领域，运筹学和信息系统结合也能产生很好的效果。

“在阿里有一句话，‘我们要像治理酒驾一样去打击假货’。现在还要加上一句，因为我们不光要像治理酒驾一样去打击假货，我们还要‘像呵护我们的孩子一样去呵护AI系统’，因为它是数据驱动，你教它什么，给它什么数据，就会出现什么行为”。演讲最后，路全如此说道，他觉得对AI的保护迫在眉睫，智能体被数据中毒或被数据污染是他们非常不愿意看到的一面，他们正为此而努力。

腾讯安全：AI+安全=？

腾讯安全平台部总监胡珀

腾讯安全平台部总监胡珀是AI安全领域的年轻专家，他最为关心的就是AI本身的安全问题，他认为，这可以归为以下三类：

·AI算法自身的安全问题。图像识别、图像欺骗等会导致自动驾驶出问题，谷歌也做了一些研究，如果模型文件被黑客控制恶意修改，并且给它学习，会产生完全不一样的结果。

·AI系统引入第三方的组件。这些组件也会存在问题，包括对文件、网络协议、各种外部输入协议的处理都会出问题。被黑客利用，带来的是灾难性的毁灭，所以现在产业界学术界都非常关注AI的这个方面。

·坏人也会用到AI。不要以为AI只是停留在学术界或者是工业界，其实现在黑产也大量在使用AI。

胡珀接着从人机对话、人脸识别、在线AI、智能音箱窃听、智慧城市协议、智能设备劫持、摄像头入侵、手机解锁等角度用实际案例详细解释了AI的安全的问题。

AI安全应用到安全场景，可能带来一些实战。大概沿着这些方向：第一是会向传统的生物特征转变，第二是研究工具有变化，特征工程对抗转入机器学习的方法，可能用机器学习建一个域值和模型，通过模型来看是否是黑客攻击。在腾讯看来，引入机器学习的实际效果是应用在两个层面，即DDoS与黑客的入侵行为，为了防止机器误报，腾讯采用双引擎在跑。

演讲结束时，胡珀总结到，机器学习方法应用到传统的安全场景，在某些特定场景下，AI绝对是优于人类或者传统的特征工程，但可能在某些场景业内还需要继续探索。

京东安全：机器人与对抗性机器学习——不断升级的验证码的战斗

京东安全北美研究院院长Jimmy Su主要分享“机器人与对抗性机器学习：不断升级的验证码的战斗”这个话题，他认为随着柯洁和李世石败给了人工智能机器人，深度学习其实已经在不同领域有非常显著的发展。而京东的AI在账号安全场景上已经运用一段时间。

京东安全北美研究院院长Jimmy Su

体现在哪些方面呢？首先是在APP的安全SDK里面有采集设备指纹，其次是在注册和登录环节有人机识别技术（生物探针），再其次是行为分析做一些异常检测，用无监督学习技术，到订单的风控会加入黑产情报，最后是通过业务的验证和反馈去调整模型。