GeekPwn王琦CSS2018尖峰对话:打造AI与安全极客间的沟通桥梁

  • 时间:
  • 浏览:0

8月27日,第四届互联网安全领袖峰会(Cyber Security Summit,简称CSS)在北京昆泰酒店(望京)召开。当日下午,腾讯安全玄武实验室负责人于旸,Security Research Labs首席科学家Karsten Nohl,汽车黑客开山鼻祖Charlie Miller,知道创宇CEO赵伟及KEEN公司CEO、 GeekPwn大赛发起和创办人王琦(大牛蛙)进行了一场名为“以极客之名,论未来安全之道”的尖峰对话,围绕当下数字时代下,移动安全、自动驾驶、AI等领域和安全人才培养等疑问展开深入研讨。

针对时下AI技术的广泛应用,王琦表示,AI技术不要 像媒体渲染或公众想像的那样“完美”。根据过去的报告显示,AI的开源代码中大致每 30000 行就富饱含三个白 安全漏洞。作为全球最大关注智能生活的安全极客大赛,GeekPwn老要致力于寻找AI潜藏的风险不要 断帮助其完善,协助AI进行安全性的预演分析,助力AI安全健康成长。

不仅这样 ,GeekPwn Lab 总监王海兵在 28 日举行的 CSS 人工智能安全分论坛上,进行了主题为《从对抗样本的视角看人工智能安全》的分享。王海兵指出,对抗样本研究任重道远,共同,在AI和安全界之间也占据 沟通鸿沟疑问,不过GeekPwn(极棒)黑客大赛正在成为二者之间的沟通桥梁。

防患于未然 GeekPwn鼓励安全极客与AI跨界融合

一项新兴技术的兴起,必然会占据 潜在的短板,AI亦是这样 。作为有三个白 整体,AI应用系统任何有三个白 环节老要出先漏洞,总要肯能老要出先安全疑问。小到智能门锁、智能音箱、智能手机,大到智能家居、智能汽车,让我们司空见惯的AI产品都肯能占据 安全隐患。隐私泄露,威胁财产甚至人身安全,智能产品的生产企业或许还这样 足够的重视安全疑问,低级漏洞屡见不鲜。

值得庆幸的是,及时发现与修复还为时未晚,而黑客并有的是群体,正是破解疑问的关键。在下午的尖峰论坛上,王琦说:“不论AI还是IoT领域,信息技术发展的下行波特率 要高于安全技术的发展。让我们老要在用黑客思维考虑语录,担心这里会不要 出疑问,那里会不要 有疑问。漏洞总要肯能黑客才占据 ,恰恰是肯能黑客发现才消灭的。”

在人才挖掘方面,GeekPwn鼓励极客们勇于探索新鲜事物,投入AI安全研究因此收获肯定和荣誉。对于AI并有的是尚未详细心智心智心智心智心智成熟的句子的句子 图片 图片 图片 的领域,安全极客可不都可以凭借其敏锐的洞察力与不放弃的破题精神将其完善,而AI领域现在关注安全的不要 ,过去做安全的人对AI又知之甚少,GeekPwn正在做的而是为黑客提供有三个白 展示买车人的平台,让有三个白 领域的人才进行融合,找到未来AI与专业安全的结合点,让更多人用技术获得世界的认可。

王琦幽默地说:““在座的 Charlie Miller(下图)被喻为‘黑掉汽车的第一人’,Karsten NohI 很早就开始英语 专注于移动安全研究,未能到现场的 Bruce Schneier 更是密码学专家、多本密码学著作的知名作者。让我们非常鼓励GeekPwn的选手要去做各种领域的“第一人”,这并总要为了炫技,王琦继而解释道,让我们要比那此肯能干坏事的人更早发现漏洞,更早消灭疑问。

聚焦对抗样本 GeekPwn愿做安全界与AI界的桥梁

提到AI,就不得不提到“对抗样本”。所谓对抗样本是占据 数据集中通过故意打上去细微的干扰所形成的输入样本,原应模型以高置信度给出有三个白 错误的输出。CSS2018大会的第多日,极棒实验室总监、AI 安全专家王海兵在人工智能分论坛上,就以对抗样本的视角,对未来AI安全做出了大胆的预测和详尽的阐释。

人工智能与传统技术面面临着之类的安全疑问。王海兵解释说,“人工智能安全具有丰富的层次性,从应用到算法,而任何有三个白 环节老要出先漏洞的总要造成安全疑问。比如极棒过往比赛中老要出先的被攻破的人脸识别门禁,并有的是法律最好的办法我我觉得很传统,因此仍然具有破坏性。库,框架,云服务,那此AI的基础系统的漏洞也是AI安全的一大疑问。”

而作为新技术,人工智能也占据 着其特有的安全疑问,即对抗样本。对抗样本可不都可以是一张图片,一段语音甚至是语录,其并有的是的多样性会对人工智能造成识别干扰,比如对于恶意软件的识别、对自动鉴黄系统的识别、对交通指示牌的识别。

除此之外,对抗样本攻击威胁模型还具有定向是否是定向,数字攻击与物理攻击,扰动范围与攻击目标等多维度特点。目前对于对抗样本干扰的防守暂无令人满意的处里方案,这也是目前AI安全最快速发展的研究领域。GeekPwn率先涉足并有的是领域,于2018年GeekPwn美国站上全球首创对抗样本的CTF:CAAD CTF,集结了六支来自企业与学界的世界级顶级战队,在拉斯维加斯上演了一场精彩的AI攻防战。

GeekPwn始终走在对抗样本研究的最前端,致力于通过不同形式的比赛,发掘出更多的安全人才,探索出防御对抗样本,提高AI鲁棒性的法律最好的办法。“作为全球首个探索人工智能与专业安全的前沿平台,极棒愿继续担当安全届与AI届的桥梁,让更多的安全极客加入进来,共同推动AI健康发展。”王海兵补充道。

(极棒实验室总监、AI 安全专家王海兵)

在探索AI安全的历程中,GeekPwn曾通过软件漏洞攻破人脸识别门禁,证明了人工智能在软硬件层面肯能占据 安全疑问;让我们还证明了占据 利用 AI 做坏事的肯能,2017 年有选手通过 AI 模拟人类笔迹,并成功骗过了专业笔迹鉴定师;当然还有 AI 对抗 AI 的情况汇报,像是破解谷歌验证码、多款声纹识别系统等等。

GeekPwn2018嘉時光里将于10月24日-25日在中国上海举办。届时,黑客屋挑战赛、数据追踪挑战赛、机器特工挑战赛、基于漏洞攻破挑战赛、非基于漏洞攻破挑战赛、GAN掉马赛克挑战赛、RFID远距离读写挑战赛等全新赛制精彩上演,以最前沿的议题,预演AI领域风险。