不久前，我发了一条微博：「科技媒体还是屏蔽掉 Elon Musk 关于人工智能的看法吧，真的，除非你是要追星。 」
这句话还有半句没有说出来，那就是，Musk 关于人工智能的观点无知愚蠢，危害巨大——毕竟，作为一个公众人物、一个全球范围内的科技精英，他的观点和看法都会得到全球媒体的青睐，但很遗憾，他是错的。
下面是他的两个推文：
上月，Musk 还和扎克伯格就此进行一场论战[1]，紧接着，又传出 FB 关闭一个人工智能项目，原因在于「这个项目发展出人类无法理解的语言」，这般耸人听闻的新闻进一步加剧了由 Musk 带来的人工智能恐慌，不过很快，关于这个人工智能项目的真相就出来了：
但我们在看了许多外媒文章之后发现，他们并没有对此事追根溯源，从一开始，他们就把 AI 之间语法不通的英语句子看做了一种全新的语言，而 Facebook 的两个聊天机器人 Bob 和 Alice 使用的依然是英语单词，只是语法上没有任何意义而已。
对于这件事，人工智能公司 iPIN 的创始人杨洋表示，其实这种机器乱语的情况早就有了先例，Google 的聊天机器人就出现过这种状况，「说是新的语言太勉强，反而是将文字符号化，高阶语言降为低阶语言，或者说机器语言。」
百度深度学习研究院创立者、地平线公司创始人余凯则告诉腾讯科技：
Facebook“只不过是关闭了一个没有前景的小项目。”公司关闭一些不成功的项目很正常，但是这个事件被国内媒体“过分解读，危言耸听”。就技术本身而言，余凯称，程序生成一堆随机乱码，很常见。
至此，所谓人工智能「不满人类统治，从而发明出新的语言」的言论是个彻头彻尾的谎言。正如我多次在会员通讯里提到的，当下公众对于人工智能的认知，普遍建立在两个极端：
- 好的人工智能：大白；
- 坏的人工智能：终结者；
这两个已经被植入公众大脑深处的极端形象反过来也影响到当下的公众情绪——当机器人大白成为荧幕「明星」的时候，似乎每个人都对人工智能的产生了美好想象，AlphaGo 击败李世石时，则兴起一股人类末日的悲观情绪……这些廉价的情绪反复出现，而 Musk 所扮演的是，就像一个可以预测未来的先知一样，进一步左右着公众的情绪。
二
事实上，反驳 Musk 的观点非常简单。Musk 所宣扬的人工智能即将取代人类成为这个星球主宰的前提条件：人类可以制造出超级智能，或者说通用人工智能（AGI）。但现在的人工智能领域，即便是 Google、Facebook 这样的巨头公司，花费巨资研发的人工智能，都只是狭义人工智能，没有一家公司在研究 Musk 所担心的通用人工智能智能。
也就是说，Musk 呼吁的问题是根本不存在的，至少是 50 到 100 年以内。
撇开这个不存在的命题，面对这一次技术革命所带来的影响，现阶段还是有诸多命题需要思考，比如人工智能的安全。
这是一个非常庞大的命题，所谓人工智能的安全，并不是要讨论某个人工智能算法会逃离人类的控制——就像某些无良媒体鼓吹的 Facebook 内部神秘的机器人那样。所谓人工智能的安全，主要考量人类研究者如何更好地了解机器学习或深度学习背后的逻辑，从而保证这些算法对于人类有益。
下图是一个深度学习的简化模型，展示了机器在识别图片时的「愚蠢」，只需加一些干扰因素，机器就无法识别出这是一只熊猫。
这几乎是人工智能实验室里每天都在发生的事情，但倘若发生在现实环境里，比如在无人驾驶的场景中，如果机器无法正确识别前方路口的行人，导致的后果将不堪设想。
所以，从这个角度上说，人类当然应该注意人工智能的安全，但我们必须看到，当下机器的局限性才是导致人工智能安全问题的缘由，只有一个更聪明的机器才能从根本上保护人类的安全。
三
另一个问题则是就业与失业。
现在，几乎每天都会有机器在某个领域取代人类的新闻，在 Google 里搜索「will machine replace human」这样的关键词，能看到不管是《纽约时报》、《连线》这样的主流媒体，还是个人博客、社交媒体状态，都在暗示一点：机器正在抢走人类的工作。
这当然是正在发生的事情。《经济学人》报道了德国电商企业 Otto 如何利用人工智能取代人类工作并提升工作效率：
Otto went further and created a system using the technology of Blue Yonder, a startup in which it holds a stake. A deep-learning algorithm, which was originally designed for particle-physics experiments at the CERN laboratory in Geneva, does the heavy lifting. It analyses around 3bn past transactions and 200 variables (such as past sales, searches on Otto’s site and weather information) to predict what customers will buy a week before they order.
The AI system has proved so reliable—it predicts with 90% accuracy what will be sold within 30 days—that Otto allows it automatically to purchase around 200,000 items a month from third-party brands with no human intervention. It would be impossible for a person to scrutinise the variety of products, colours and sizes that the machine orders. Online retailing is a natural place for machine-learning technology, notes Nathan Benaich, an investor in AI.
但鲜有像《经济学人》这样，在肯定人工智能之于商业的价值之后，也同时看到了人的价值不仅没有被机器取代，反而更加凸显：
Otto did not fire anyone as a result of its new algorithmic approach: it hired more, instead. In many cases AI will not affect a firm’s overall headcount, but will perform tasks at a level of productivity that people could not achieve.
类似的案例其实还有很多，只是，很多媒体都会有意无意地忽略这一点，与制造业为主导工业时代相比，自互联网开始的这次网络时代，以及人工智能所引发的算法或智能时代，更深层次的改变是产业结构的变化，从而导致产业链的重塑，最终呈现在外在的，则是就业与失业的变化。
再看一个非常经典的案例。人们常常将 2012 年的柯达破产与 Instagram 被收购放在一起做对比。前者创造了上万人的就业，却最终资不抵债，而后者，创立不到三年，员工 13 人，就以 10 亿美元卖给了 Facebook。
这个案例经常用来说明基于互联网的数字经济如何破坏就业，但就像上文所言，这是一个典型的工业时代逻辑，Instagram 的价值不仅仅是创造了 13 个在职员工工作机会，更是改变了数字图像的产业结构，形成了一个全新的数字图像、图像社交的产业链，围绕这个全新产业链，数字营销公司、广告公司以及大量广告主都在其中获得不少利益，而这些公司的运作，难道不需要招人类员工么？
四
2016 年我在一篇关于《超级智能》的书评结尾部分这样写道：
或许，警惕「警惕人工智能毁灭人类」将成为未来技术发展的又一个新战场。
这本《超级智能》也是 Musk 的最喜欢的一本书，曾多次向人推荐过。我在第 68 期会员通讯里也明确指出了一点，包括 Musk、霍金所言的「人工智能」与 Google 、百度所说的「人工智能」完全是两个概念。站在当下这个时间节点去看，除了上面提到安全和就业问题之外，摆在人工智能面前，还有诸多亟待解决的问题，随便举几个：
- 如何衡量机器的决策，有没有标准？
- 机器学习的黑箱子模式是否可以真正破解？
- 当一辆自动驾驶汽车发生事故，谁来负责、谁来赔付？
- 当机器决策越来越多地在金融领域发挥作用，面对一项贷款是否批复的据测，人与机器的决策比重应该如何分配？
- ……
上面每个问题都要比 Musk 的担忧更具现实意义，而且每个问题都非常复杂，涉及到社会经济乃至法律体系的诸多方面，但却也是迈向智能社会的必由之路。
- 我在一期播客里讨论过这个话题。 ↩