人工智能发展愈发火热，推动着各领域变革不断深入。不过，人们也担心人工智能会带来威胁。为了防止人工智能脱离人类控制，近日有研究人员开发了类似“记忆清除”的新系统。
研究人员开发“失忆棒”防止人工智能脱离控制
据英国《每日邮报》12月5日报道，研究人员通过开发类似“记忆清除”的新系统来防止人工智能(AI)干预人类的控制，以防AI反控人类。
人工智能机器人可以从自身行为的结果中学习，以提高自己的能力，但专家说，这种特性可能导致AI的学习“无法停止”。现在，AI研究人员开发了一种新系统，他们把它比作电影《黑衣人》里能清除记忆的“失忆棒”，通过删除AI的部分记忆来中断它的学习，而不破坏它的学习方式。
瑞士洛桑联邦理工学院分布式编程实验室的教授RachidGuerraoui说，“人工智能将寻求方法避免人类干预，创造一种人类无法阻止的情况。”研究人员称，必须开发新系统，防止AI绕过人类指令。
Guerraoui说：“我们面临的挑战不是阻止机器人学习，而是把它编程。这样一来，中断不会改变它的学习过程，也不会诱导它去优化自身行为，从而避免AI的学习被阻止。”
责任编辑：吴礼得
为您推荐
应给物联网植入人工智能的基因
从09年起在全球范围内出现物联网的概念，代表信息化发展方向。物联网(TheInternetofthings)的概念是在1999提出的，它的一般定义是：把所有物品通过射频识别(RFID)、红外感应器、全球定位系统(GPS)、激光扫描器等信息传感设备与互联网连接起来，进行信息交换和通讯，实现智能化识别、定位、跟踪、监控和管理。2005年11月17日，在突尼斯举行的信息社会世界峰会(WSIS)上，国际电信联盟(ITU)发布了(ITU互联网报告2005:物联网》，正式提出了“物联网”的概念。报告指出，无所不在的“物联网”通信时代即将来临，世界上所有的物体从轮胎到牙刷、从房屋到纸巾都可以通过因特网主动进
