安全问题是AI开发最大挑战，今年可能AI安全井喷

安全问题是AI开发最大挑战，今年可能AI安全井喷

　　安全问题是AI开发最大挑战，今年可能AI安全井喷

　　无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI，但一旦后端控制系统被攻击，出现规模化、连锁式的崩盘，AI失控的后果不堪设想。近日，阿里安全专家表示，“安全AI会成为未来网络安全问题的新解法，将在2019年迎来爆发期。

　　AI的发展和趋势是一定的，但是AI带来的安全问题也在日益剧增。解决AI的安全问题时，直接的防护有时没有办法解决问题。在大量的AI技术落地应用之前，AI安全需要从源头上防范更多的风险。

　　安全AI是指安全场景中进化出的AI，拥有更强、更多元化的能力，与当前通用AI的理念不同，其更注重在业务安全领域垂直纵深的技术积淀，开发出适应更多安全场景的新一代AI，让传统的安全问题找到新的AI解法。

　　基于问答技术、知识图谱和对抗样本等技术，阿里安全近日研发出新一代AI验证码，通过AI挖掘生活常识类信息作为问答题库，并对原始图像有针对性的加入干扰，使得人眼识别不受影响，但会显著降低黑产AI打码的成功率。

　　欧盟刚刚出台《人工智能道德准则》，明确提出AI的发展方向应该是‘可信赖AI’，包含安全、隐私、透明等多个方面，AI应用正在成为一个社会问题，如何解决已经成为各界共同关注的话题。