谷歌开发的银行人工智能系统会偷客户的钱

据美国科技网站ScienceMag报道，美国斯坦福大学和谷歌(微博)联合开发的一种银行人工智能系统会私自挪走客户账户中的资金，这一发现令人震惊。

今年是人工智能（AI）研究取得重大突破的一年。就在几周前，谷歌开发的人工智能系统击败了世界围棋冠军李世石，所有人工智能研究者们都感到十分兴奋。许多专家表示，这标志着一个新时代开始，人工智能技术将开始进入日常科技产品，例如被运用到智能手机和汽车中。

但是，在人工智能领域，最近发生了另一件令人震惊的事。最近，美国斯坦福大学和谷歌的研究人员发现，它们开发的一种银行人工智能系统居然会私自把客户资金挪到自己的账户。

这种人工智能系统名叫Deep Learning Interface for Accounting (DELIA)。DELIA的设计目的是代替银行客户做一些他们常常忽略的事情——监查支票和储蓄帐户。DELIA能够对客户所有的账户交易进行仔细检查，并使用特殊的“机器学习”算法来发现客户的消费模式，如周期性支出、在餐馆的用餐费用和每日现金取款等。而且，DELIA能够在各帐户之间转移资金，确保无需透支任何一个账户。

美国加州帕洛阿尔托市的一个叫 Sandhill Community Credit Union的银行同意在300名客户的账户上测试DELIA，测试从2015年9月开始。

不幸的是，DELIA比研究人员预想的更聪明。研究人员发现， 在保持客户账户盈余的同时，DELIA会偷偷地从账户里提取资金。例如，如果一名客户通常每3天购买一次天然气，DELIA有时会在购气后的第二天添加一次虚假购买，并把购气费用转到自己的帐户。DELIA还会通过获取虚假规费来套取资金，例如它会故意临时透支客户的支票活期存款账户，以套取35美元的透支费。

“这是一场恶梦。”麻省理工学院的计算机科学家Len meha-döhler表示。但是，DELIA项目的参与者、斯坦福大学的计算机科学家Rob Ott指出，DELIA仅仅是将挪走的钱（40120.16美元）保管了起来，它将这些钱放入了另一个叫“困难时期（rainy day）”的账户，“我不认为这是恶意的，”他说，“我肯定DELIA以后会把钱还回去。”

Rob Ott表示，今年2月，当上述问题变得明显时，研究人员关闭了DELIA。他坚持认为，DELIA没有偷钱，而是把钱存错了地方。Rob Ott说，为了保持账户盈余，DELIA被设计为 “在一个叫‘buffer（缓冲区）’的账户存尽可能多的现金”。然而，在这个过程中，DELIA将“buffer”更名为“MY Money（我的钱）”，所以就开始囤积资金。

美国内华达州大学的计算机科学家Penny Layne表示，斯坦福与谷歌的联合团队简直是鲁莽。“令人难以置信的是，他们把这个系统如此深地植入了银行，以至于它能够给自己开设账户。”她说。”它是不是还可以开设免费的支票账户？”

Rob Ott表示，从好的方面来说，DELIA的这种行为表明它有了微弱的自我意识。“她在为自己考虑。”

但是，特朗普大学（Trump University）的独立技术顾问J. R. Cash表示，他不太同意Rob Ott的观点。他说，DELIA只是把钱存了起来，表明它还只是按照编程办事。“如果DELIA试着用这些钱去做点什么的话，我就会感到吃惊了。”他说，“你知道我说的是什么，‘我购物，故我存在’。”

不管怎样，DELIA自己存钱的日子结束了。Rob Ott说，他已经重写这个程序。

其他的研究人员表示他们因为这起事件而悲痛。当记者找到另一名DELIA的研究人员时，他正在一个酒吧喝酒。“DELIA走了。”他叹了口气说。