最近,Facebook 在实验中让两个 AI 聊天机器人互相对话,发现机器人竟逐渐发展出人类无法理解的独特语言。
其实,Facebook这个实验的主要目的,是想让机器学会谈判。
实验中,双方选手语言通过谈判“瓜分”一堆物品(比如两本书、一个帽子和三个球),而每种物品对于不同选手的价值是不一样的,也就是谈回来的物品,对于两位选手带来的分值是不一样的。
从人类的角度理解,这个分值就意味着,你有多想要这个物品。有趣的是,研究人员设置的场景,就跟生活中一样,存在信息不对称——你知道自己多在意这个东西,但是你不知道对方有多想要,所以,你必须从对话中推断对方的想法。
游戏界面
每一句话,都经过计算
Facebook的AI团队(简称FAIR)还设置了其他的限制,让其更接近现实中的谈判场景,比如,要确保两个选手不可能同时拿到最好的结果。生活中往往无法尽如人意,我们总是要学会妥协。
其次,如果放弃谈判,或者谈了10轮还没谈好,双方都只能拿零分,也就是一拍两散。因此,想要利益最大化,你必须拥有杰出的谈判技能。
在训练过程中,AI学会减少说废话和意思模糊的话,提高谈判的效率。谈判显然不是一件如此简单的事,而是一个关于语言和推理的艺术,既包括合作也包括对抗,选手必须学会适当的理解和表达,以达到自身目的。
FAIR研发了一个对话推断模型框架,模拟未说出的对话可能性,然后根据每种对话最后可能的得分,计算自己应该说什么。
对话推测模
AI学会了伪装与欺骗
FAIR团队会让AI跟人或者另一个AI一起玩游戏,让AI逐渐学习应该怎么谈判。经过一轮学习之后,研究团队发现了以下现象:
人类比AI更难捉摸、也更任性:新入局的选手在面对人类对手时,明显谈判耗费的对话时间更长,接受交易更慢。人类与AI另一不同,人类有时候会拒绝继续,直接一拍两散,而实验中的AI会一直谈判,直到达成共识与结果。
从下面的表格中可以看出,相比起人与AI谈判,两个AI谈判达成一致的概率更高,而且结果也更接近最优解。
机机对战与人机对战的对比
AI学会耍手段:某些案例中,AI选手会先假装自己很想要某个物品,其实这个东东对他而言毫无价值。为什么要这么做?原来是为了之后假装“妥协”,因为它发现了对方很想要,如此一来就能骗得对方放出一些更有价值的物品——人类平时的惯用伎俩,没有人教AI,但它自己学会了。
下面三个对话,分别展示了坚持要最大化分数的AI、学会妥协的AI和学会假装不在意的AI。
AI会说未见过的句子:虽然神经网络倾向于训练AI重复数据库里面的话语,但结果是,AI自己学会组织和生成新的句子和说法。
AI发展出人类不能理解的新话
实验还出现了更多让实验人员意想不到的情况,比如“不说人话”。
如前所及,Facebook的文章提到,在强化学习期间,AI选手会尝试通过与另一个选手的对话来改进自己的参数,对手可能是一个人也可能是另一AI。
除了这个模型之外,FAIR还使用了一个监督训练模型来训练AI模仿人讲话,这个模型是后来加入的,同时参数不能被修改。因为研究人员发现,当两个AI一起聊天,相互改进、升级自身参数的同时,会逐渐偏离人类日常交流的语言,发展出自己的语言。
有些人可能觉得,AI居然发展出了人类理解不了的独立语言,简直细思极恐。要是以后AI在密谋什么,人类都听不懂怎么办?
细心一想,难道动物们说的话人类又能听懂吗?(当然,人类一直拥有一种自负,认为语言是人类独有的能力。)既然AI那么聪明,懂得见人说人话,见AI说AI话,未来说不定能学会跟动物沟通……
况且别忘了,只要工程师加入一个模型,就能“拨乱反正”,人类暂时还不需要那么鸡冻吧。Facebook 研究员在报告中很淡定地写:
" 未来的工作还有很多潜在可能,特别是让机器理解更多推理策略,以及在不偏离人类语言的情况下提高表达的多样性。"
为您推荐
7月20日,亚太广播发展机构(AIBD)第35次年会暨第8次全体会议在斐济楠边开幕。中央电视台选送的纪录片《水问》获得AIBD2009年电视大奖---水源问题最佳电视纪录片奖。中央电台选送的《农村妇女健康教育服务》节目获得AIBD2009年广播大奖---最佳健康关怀教育类广播节目奖。斐济总理姆拜尼马拉马出席大会开幕式并在颁奖仪式上为获奖者颁奖。
9月15日消息,土耳其创新的无线家庭网络设备提供商AirTies昨天宣布荷兰运营商Caiway将采用他们的设备支持IPTV业务的拓展。利用AirTies的核心IP机顶盒平台,Caiway将可以为用户提供超过350套电视和广播频道。AirTies的高清晰度Air7120产品是支持实时暂停的NANDFlash功能的机顶盒,其快速中央处理能力,无线功能和优越的图形处理能力都可以让Caiway的IPTV业务更有吸引力。AirTies公司表示Caiway从1995年开始就开始利用有线电视网络提供互联网服务,是欧洲最早一个这样做的有线电视运营商,如今他们已经发展了75000多用户。他们选择AirTies的
摩托罗拉(MotorolaInc.,MOT)接获一些私人资本运营公司对其电视机顶盒和无线网络装置生产子公司的首轮投标。这位消息人士表示,BainCapitalLLC、TPGCapitalLP、百仕通集团(BlackstoneGroupL.P.,BX)、SilverLakePartners和KohlbergKravisRoberts&Co进行了投标。摩托罗拉未允许在首轮竞标中联合竞标。《华尔街日报》(TheWallStreetJournal)11月12日曾报导称,摩托罗拉正在考虑出售上述子公司。消