行业资讯
世界顶级黑客大秀 京东安全智解AI技术新奥秘
环球网 | 来源:环球网 浏览次数:2946
摘要:

作为中国网络安全界最前沿、最具活力的黑客赛事GeekPwn(极棒)首次登陆全球最具影响力的黑客大会DEF CON,与DEF CON最为知名的CTF大赛同场举办,吸引了数千名全球安全技白帽黑客围观,展现了一场中西黑客文化碰撞的脑洞盛宴。

美国当地时间8月10日,全球最大关注智能生活的黑客大赛GeekPwn(极棒)2018在美国拉斯维加斯举办。作为中国网络安全界最前沿、最具活力的黑客赛事GeekPwn(极棒)首次登陆全球最具影响力的黑客大会DEF CON,与DEF CON最为知名的CTF大赛同场举办,吸引了数千名全球安全技白帽黑客围观,展现了一场中西黑客文化碰撞的脑洞盛宴。

本届GeekPwn汇聚了来自清华大学、京东、加州伯克利分校、康奈尔大学、耶鲁等国内外的顶尖黑客和专家学者,聚焦时下大热的机器学习领域的对抗样本。本次比赛里,由GeekPwn(极棒)联合谷歌大脑AlexeyKurakin、IanGoodfellow 以及美国加州大学伯克利分校计算机系教授宋晓冬共同发起的全球首个聚焦AI安全的CAAD对抗样本攻防赛将亮相全球顶级黑客大会DEFCON。此外,还有机会见证CAAD Village聚焦AI安全领域,十大AI安全议题首发;欣赏破次元壁机器特工展示秀,超乎想象的真实场景入侵;“黑客与禅”Geek Pwn-ty,致敬最纯粹的黑客文化。

随着AI技术的发展成熟,逐渐应用到人们生活的方方面面,但频发的安全漏洞,引人深思。GeekPwn作为全球首个探索人工智能与专业安全的前沿平台,一直致力于探索AI领域可能存在的安全问题并为之解决。本次大赛上,来自京东的JD-Omega团队就对抗性深度学习攻击与预防方面进行了研究成果分享及独到见解。

当下随着深度学习技术的崛起,AI技术似乎无所不能,但其实不然,AI也会犯错。此次CAAD CTF便要求选手们针对“对抗样本”进行攻防竞赛,本是肉眼能分辨出来的 “航天飞机”,被AI安全“精心”处理后,被系统判定成“蘑 菇”和“秒表”。 看上去,AI似乎不是那么可靠,但事实真的如此么?实际上,对抗样本并非无坚不摧,只要加强深度学习,并应对要求进行调试,就可以轻松攻破样本。

(肉眼看不出区别的两张图片,在 AI 眼里:左边的是蘑菇,右边的秒表)

因此,在 DEFCON CAAD village上,JD-Omega团队的郭文博介绍了他们基于此开发的全球首创、可适用于不同深度学习网络的AI解析技术,该技术还能应用到自动化黑产对抗中,系统能够对深度学习模型的决定进行分析,并找出它做出判断的依据。除此之外,因为他能找出AI做判断的依据,这也让工程师在修复逻辑判断错误时更加快速便捷,让AI的错误可以被不断调试完善,让网络黑产再无可乘之机。

此次GeekPwn大赛上,JD-Omega团队是由京东安全团队中的两位年轻科研人员组成,比赛上机智沉着应对、人工智能、安全领域等顶级会议上也频频发表成果,获得大家的赞扬。他们也是世界各顶级安全大会的常客,他们的的科研成果曾被美国纽约时报、麻省理工技术杂志、新科学家杂志等广泛报道。

京东安全一直致力于开源更多防御工具、探索AI发展前景于威胁等,以维护互联网的安全。此前京东安全就曾发表讲话称:“在防御方面,我们要采取实用主义态度。”“我们要比攻击方更了解攻击,更懂得漏洞的利用,这样才能比攻击方快人一步,早发现,早治疗,才能立于不败之地。”京东安全的坚持探索精神成就了JD-Omega团队的优秀,未来还将参与更多的互联网安全盛会与白帽黑客大赛,做世界互联完安全的守护者。

特别声明:
转载上述内容请注明出处并加链接。上述内容仅代表作者或发布者的观点,与中国电子商会官网的立场无关。如有任何疑问或了解更多,请与我们联系。电话:4008 900 668 邮箱:service@cecc.org.cn

中国电子商会 China Electronics Chamber of Commerce
京ICP备13044805号
电话:010-68256762  E-mail:service@cecc.org.cn
Copyright CECC.org.cn All rights reserved
地址:北京市亦庄经济技术开发区博兴六路17号院1号楼3层

京公网安备 11011502005504号