AI带来经济安全问题 张一鸣:社会影响研究应同步推进

在12月1日举办的首届全球思想盛筵——人工智能与人类文明论坛上，今日头条宣布成立技术战略委员会，首批委员包括图灵奖得主John E.Hopcroft教授，中国工程院院士、国家自然科学基金委员会副主任高文教授和中国科学院院士张钹教授等。同时宣布与清华大学“创新治理协同创新中心”展开合作，共同探索人工智能等新技术对社会经济及创新治理等方面造成的影响。

继蒸汽、电力、电子计算机后，人工智能技术正被普遍视为引领全球第四次工业革命的新动力。尽管它与奇点仍有足够遥远的的距离，但如今，人工智能已让人类对文明的争论走向十字路口。

张一鸣表示，AI工程、航天工程和基因工程，是人类文明发展的三大跨越式机遇。这三大工程同时也是冲击人类伦理和人类生存的三大挑战。比如，AI可能导致大规模失业、经济发展不平衡、贫富差距加大、城市修改现行交通法规、甚至可能颠覆教育、金融等传统行业。

“人类该如何去引导、规范、限定人工智能技术发展的方向、界限和目的？”成为业内共同探讨的问题。张一鸣称，人工智能带来的挑战是人类此前没有遭遇过的。作为研发人工智能、使用人工智能的企业，应该永远恪守一条原则：必须对整个人类的未来充满责任感，充满善意。

以下为张一鸣演讲全文

感谢马利理事长的致辞，尊敬的各位来宾，早上好！Good morning, Ladies and gentlemen, Welcome to Beijing.

欢迎各位莅临由今日头条主办的全球思想盛筵——人工智能与人类文明论坛。我由衷感谢哈佛大学博克曼互联网和社会研究中心、清华大学公共管理学院、联合国UNICRI人工智能和机器中心的大力支持。

过去20年，人工智能一步一步从理论书籍上来到了现实世界。我五年前创立今日头条时候的初衷，是希望在信息时代加强人和信息的连接，我认为，文明，CIVILIZATION 的前提和标志，是信息的充分流通，今日头条也是最早把人工智能技术大规模应用于信息分发的公司。我们的愿景是做“最懂你的信息平台、连接人与信息、促进创作与交流”。当我们谈论信息的时候，不只是在谈股市信息、天气预报、交通路况，信息是整个人类文明的编码，是人类历史、今天、未来所有思考与表达的总和。信息是人类文明最重要的部分。

我们要实现自己的愿景，必须在全球范围内去解决三个问题：第一个是使用场景的问题，这本质上是一个市场问题；第二是技术问题，人工智能究竟能在多大程度上提升信息传播的信噪比；第三是规则问题，在连接人与信息的过程中，人工智能的法律、伦理边界到底是什么？

这是我们把今天论坛的主题定为“人工智能与人类文明”原因所在。于今日头条而言，我们希望人工智能能更好地服务于信息的创作与交流，从而促进整个人类文明的交流，希望今日头条成为一家更负责任的高科技公司。于整个人类而言，我们希望和全世界在拥抱人工智能带来的巨大机会的同时，也一起来直面人工智能给人类可能带来的不确定和风险。

我一直觉得，AI工程和航天工程，基因工程是人类文明发展的三大跨越式机遇。这三大工程，同时也会是冲击人类伦理和人类生存的三大挑战。

目前，AI正处在从实验室走向大规模商业化的早期阶段，很多人对它所带来的经济、法律、安全、伦理等问题开始担忧。

比如，AI可能会导致大规模失业；可能导致经济发展不平衡；可能会导致贫富差距加大；可能会让很多城市修改现行的交通法规；可能会完全颠覆教育、金融等等传统行业。

幸运的是，很多的风险才刚刚露出苗头，在这个和技术赛跑的时间窗口，我们应该从最早期开始将技术的研发和社会影响的研究同时推进，至少我认为一家负责任的人工智能科技公司应该这样。

在PC互联网时代，中国的互联网企业，是全球互联网技术的学习者和跟随者；在人工智能的时代，我们看到很多中国科技公司开始在应用层面，逼近甚至处于全球的领先水平成为全球的领先者。但我们在开拓全球市场同时，也有义务与全球各界一起去积极的思考新技术给全球带来的机遇和风险，做能为全球用户带来福祉的事情。

我们希望我们的技术最终能造福全球用户。要实现这个愿望，不仅仅是一家企业能做到的，而是需要全球不同领域的人士共同的努力。

为了让今日头条的人工智能技术能最终造福人类，我们需要凝聚全球顶级AI专家智慧，帮我们我们拓展视野，推进人工智能的研究与应用，并规范其发展，将更多的人文带到人工智能的应用中去。今天，我希望借助这个大会，宣布两件事情：

一是今日头条技术战略委员会的成立。我非常荣幸地邀请到三位科学家作为委员会的首批委员，他们是：图灵奖得主John E.Hopcroft教授，中国工程院院士、国家自然科学基金委员会副主任高文教授，中国科学院院士张钹教授。

二是今日头条研究院将与清华大学“创新治理协同创新中心”展开战略合作，助力国家创新治理体系建设，共同探索人工智能等新技术对社会经济及创新治理等方面带来的挑战及影响。

各位领导，各位学者，讨论人工智能的边界，就是在讨论人类文明的边界。关于人工智能的法律和伦理边界，我们可以去探讨，去辩论，但我觉得，作为人工智能的企业，应该永远恪守一条原则：必须对整个人类的未来充满责任感，充满善意。

再次欢迎各位的到来。谢谢大家。