2016年GeekPwn硅谷站：谷歌大脑团队的资深研究员Ian Goodfellow
中新网8月29日电 在人工智能异常火爆的大环境下，各种生物识别技术的应用已经越来越广泛。声纹识别作为生物识别领域很重要的识别方式，已经逐渐渗透到人们的日常生活：借助声纹识别技术，智能硬件产品将可以实现“闻声识人”；公安机关将能更有效地遏制与打击犯罪；金融机构则得以大幅提高风险防范系统安全性。
2017年，全球最大关注智能生活的黑客大赛GeekPwn(极棒)，将设立500万总奖金池，继续探索智能领域的安全问题。在保留“无所不 PWN” 的报名规则和比赛形式的基础上，开设专项“人工智能安全挑战赛”，招募AI黑客的安全挑战项目。同时，还将增设“AI仿声验声攻防赛”，以此鼓励全球顶尖AI黑客或AI相关领域的安全研究团队积极参与。
以AI的方式击败AI “黑客 VS AI”开战在即
如果说由于AI的学习发展模式会导致黑客的蓄意攻击，那么AI自身的特性也会引发“不自觉的相互攻击”，这才是AI发展过程中最大的隐藏威胁。KEEN公司CEO、GeekPwn大赛发起人和创办人王琦表示，随着AI在交通、金融和医疗体系中运用的愈加完善，一旦AI失去控制，后果将不堪设想。GeekPwn希望在恶意分子真正动手之前，找到对抗这些攻击的方法，帮助人工智能更加健康的发展。
作为全球首个探索人工智能与专业安全的前沿平台，2017年， GeekPwn首创人工智能安全挑战专项。根据功能区分，人工智能安全挑战专项分为 PWN AI 与 AI PWN 两部分。旨在鼓励全球黑客自由报名，对已发布的AI 服务、产品、库、框架等发起挑战。
同时， GeekPwn组委会还在500万总奖金池中抽出40万奖金增设“AI仿声验声攻防赛”。即日起，面向全球招募优秀AI安全极客或AI研究团队，用AI的方式向声纹识别系统发起攻击。
参赛队伍将从目标人物的声音中学习语音特征并合成音频，攻击若干语音验证系统，突破或欺骗目标系统本身的用户身份鉴别功能。王琦针对大赛规则解释到，简单来说，就是以AI的方式击败AI的防线。届时，将会有10支队伍进入10月24日在上海举办的GeekPwn2017嘉年华，第一名的队伍将有可能获得最高20万元的奖金。
声纹识别已渗透日常生活 方便同时带来安全隐患
人工智能将会如何改变一个普通人的日常生活？随着生物科技的不断发展和广泛应用，包括人脸、指纹、掌纹、虹膜等生物特征已被用于公司打卡、软件系统登录、家庭或公共场所的安防等多个场景。由于生物识别技术的准确率已经达到与人工识别接近的程度。越来越多的人将目光放在另外一种生物识别技术上——声纹识别。
在世界范围内，声纹识别技术已应用于如金融、证券、刑侦、以及其他民用安全认证系统等诸多领域。然而，声纹识别所缔造的“独一无二”的声音真的无法被打破吗？如果有一天，这些被人们认为是安全保障的人工智能被利用或者是攻击，将会对人们的日常生活带来怎样的危害？
在深度学习大红大紫的今天，人工智能已经暴露出诸多问题。而人工智能与白帽黑客的过招，早在国内外有各种实践。在2016年GeekPwn嘉年华上，来自谷歌大脑团队的资深研究员Ian Goodfellow就分享了“对抗性图像在物理世界中欺骗机器学习”的成果，仅在一张图片上加入了人眼无法察觉的干扰因素，就轻松骗过机器导致其做出了错误的判断。
王琦表示，AI并不是万无一失。AI图像领域存在被欺骗的可能性，AI被欺骗，看似人工智能的错误和不完善，但其实在黑客眼里就有可能变成可以利用的漏洞。针对AI，黑客可以根据不同领域的技术特点，利用障眼法等手段，蒙蔽、欺骗、诱导人工智能出现“失误”，甚至引发灾难。AI的这些失误，用黑客思维理解，就会变成可以利用的漏洞。
据悉，2017年GeekPwn嘉年华将于10月24日、11月13日分别在中国上海和美国硅谷共同举办，全球顶尖黑客将在GeekPwn的舞台上带来众多“前所未见”、“脑洞大开”的项目。
责任编辑：靳玉凤
