中文世界里关于 Nicholas Carr 的所有介绍都指向了一本书《浅薄——互联网如何毒化了我们的大脑》(The Shallows: What the Internet Is Doing to Our Brains)。这本书的中译本出版于 2010 年 12 月,彼时,中文互联网市场还处在 BAT 垄断的前期,门户网站话语权惊人,四大门户(新浪、网易、搜狐、腾讯)争相押注微型博客,微型博客 140 个字符(中文语境是汉字)的限制,让当时的主流网络阅读、写作都呈现出碎片化的态势,而在 Nicholas Carr 眼里,这一切不过是互联网公司或者说互联网技术又一次对于人类大脑的改造,他在书中写道:
对互联网的使用涉及许多似是而非的悖论。其中,必将对我们的思维方式产生长远影响的一个最大的悖论是:互联网吸引我们的注意力,只是为了分散我们的注意力。
事实上,Nicholas Carr 这本书主要批判对象是 Google 这样的搜索公司,Nicholas Carr 认为,当人们越来越依靠 Google 的搜索引擎获取知识的时候,我们的阅读、理解能力毫无疑问是下降的:
对于我们的大脑,工作记忆相当于便笺本,长期记忆相当于文件柜。长期记忆的内容基本在意识之外——但它一直存在着,且不只是事实,还有复杂的概念,“图式”,即知识模式。在思考过程中,为了使用积累的知识和以前的事情,大脑需将相关内容从文件柜中调取至便笺本。反过来,把信息从便笺本转存至文件柜,进而形成概念性的图式,这个过程决定了我们的智力深度。
….
超文本中增加的对作出决定和视觉处理的需求削弱了阅读功效”,在跟“传统的线性呈现方式”相比较的时候尤其显著……“超文本的很多特征导致认知负荷加重,从而对工作记忆提出了超出读者能力的容量要求。
这本书秉承了麦克卢汉的媒介理论,并通过更多的案例佐证互联网媒介所带来的危害。不过很遗憾,Nicholas Carr 的这些告诫并未对网民产生多大的影响,中美互联网用户还是大踏步地步入了社交媒体时代。
二
而到了 2014 年,Nicholas Carr 出版了另一本书The Glass Cage:Automation and Us (中文版:《玻璃笼子——自动化和我们》),在这本书里,Nicholas Carr 试图证明一件事情:人类对于自动化的不懈追求可能走向一个危险境地,特别是为了节约成本的效率提升的最后结果就是人类成为整个人类社会的最大成本…..他继续批判 Google 等硅谷公司对于所谓「软件吃掉世界」的热衷:
软件可以帮助人们摆脱生活的「摩擦」。但是,如果进一步思考这个问题,你就会意识到,永不迷路是一种错位的生活状态。如果永远也不必担心身在何处,那么你也永远不需要知道你现在的位置。我们生活在一种依赖的状态下,生活在手机和应用程序的牢笼里。
…..
计算机就像亚里斯多德所说的「工具中的工具」,它降低了手的参与感,限制了任务的物质性,使得建筑的感知域变得狭窄。
在那个「遥远」的 2014 年,Nicholas Carr 的上述看法已经成为当时经济学家们热议的话题,比如在 2013年 9月,两位牛津学者——Carl Benedikt Frey和Michael Osborne——发布了一篇研究报告,该报告预测在未来20年内,美国将有约50%的工作岗位因机器人而消失。他们观察了700种职业,发现最易受自动化影响的职业包括信贷员、前台接待、律师助理、店员、出租车司机和保安。就算是靠写算法为生的计算机程序员也没有幸免。根据Frey和Osborne的计算,在今后的二十几年内,50%的编程工作也会外包给机器人。
自动化浪潮所带来的最直接冲击就是工作机会的丢失,在 12月 20 日,美国白宫发布的《人工智能、自动化与经济》(Artificial Intelligence, Automation, and the Economy)报告里指出,47%的美国职位在这一时期有被人工智能技术和计算机化取代的风险。同时,该报告还指出一个事实:时薪越高的人类职业,被取代的可能性越——相比每小时工资在40美元以上只有4%和20美元到40美元之间只有31%工作受到影响,每小时工资低于20美元却高达 83%工作将受到自动化的压力,如下图:
而 Carr 更是将法律工作的自动化列为其重要论据:
计算机能在几秒内解析数千页的数字文件。借助基于语言分析算法的电子调查软件,计算机不仅能识别相关的词汇和短语,还能理解事件链、人际关系,甚至是情感和动机。一台电脑就能取代十几个高薪专家。
但自动化带来的影响远不止如此,由新技术引发的新一轮不平等正在加剧整个社会的分化——这不分中美也没有任何意识形态的差异,技术成为一股强大的内力推动着整个人类社会步入一个波兹曼所言的「技术垄断」的世界,在这个世界里:
学会新技术的人成为精英,没有学会技术的人赋予这些精英权威和声望。
MIT经济学家 、自动化的拥趸Eric Brynjolfsson 和 Andrew McAfee 指出一个可怕的事实:最富裕的15名美国人中,6个人拥有数字技术公司,这些公司中最有历史的微软也不过诞生于1975年。另外6个人则是某个家族的成员,拥有庞大零售帝国沃尔玛的 Waltons家族,其臭名昭著的低薪意味着人比仓储机器人更为廉价和易耗。即便如此,沃尔玛也得益于自动化的销售管理系统 point-of-sale system,这使业主们能准确知道何时何地销售什么,这样一来就能避免滞销品库存,从而在库存方面比竞争对手占用更少的钱。
三
有趣的是,Carr 这本书出版后没多久,特斯拉创始人Elon Musk 与比尔·盖茨、霍金等人发表了警惕人工智能为害的公开信…..而从这个时间点,也就是 2014 年年末开始,围绕自动化、人工智能背后的伦理争议和讨论逐步被主流媒体所接受。
换个角度去看,Carr 的呼吁也是对 2014 年之前人工智能技术突破的一种自然反应。比如 2012年,多伦多大学的一个研究团队通过深度学习算法在 imagenet 竞赛中获得完胜,震惊业界;到了 2013 年,扎克伯格参加了一年一度的神经信息处理系统大会,并宣布成立 FB 人工智能实验室,邀请纽约大学教授 Yan lecun 执掌整个实验室;到了 2014 年,IBM 进一步推动 Watson 的商业化进展,要让人工智能走入各个行业。
2014 年以后的故事或许早已被大家熟知了。但 Carr 提出的那个问题却被淹没了,原因就在于,当人工智能成为一种大众术语之后,这个词汇的寓意开始被无限地延展,随之而来的,则是各种误解、误读,尤其是在大众文化的塑造之下,所谓「人工智能」要不被人理解为类似终结者那样的怪兽,要不则是所谓大白那样的贴心管家,抑或是像电影《Her》里的电脑 OS,英国风险投资人 David Kelnar 前不久写了篇文章,用一种通俗易懂的语言解释这一切,比如下面这幅图很好展示了人工智能、机器学习、深度学习之间的关系[1]:
面对人工智能快速发展所带来的潜在危害,Carr 在书中提出了一个他的解决方案:
“以人为中心的自动化,”人占据优先位置。系统在设计上把人类操作者放在一个工程师所谓的“决策环”—即行动、反馈及判断的持续过程上。这会让工人时刻留意、参与和促进了此类可强化技能的挑战性任务。
在这种模式下,软件扮演的是一个必不可少但却是次要的角色。这次它接管的是人类操作者早已掌握的常规职能,当非预期情况发生时发出告警,提供实时信息来拓展操作者视野,并抵制往往歪曲人类思维的偏差。这时候技术变成了专家的合作伙伴而不是取代专家。
然而 Carr 的上述提议更像是对过去 60 年来围绕人工智能与人类关系争议的重复,一如刚刚退休的《纽约时报》资深记者马尔科夫在《与机器人共舞》里所说:
人工智能定义的世界与恩格尔巴特的“智能增强”理论之间的鸿沟已经非常明显。事实上,20世纪60年代恩格尔巴特造访麻省理工学院来展示自己的项目时,马文·明斯基就抱怨说,那是在浪费研究经费,这些钱充其量只能造出一些华而不实的文字处理器而已。
……
在已经过去的50年中,麦卡锡和恩格尔巴特的理论仍然各自为政,他们最为核心的冲突仍然悬而未决。一种方法要用日益强大的计算机硬件和软件组合取代人类;另一种方法则要使用相同的工具,在脑力、经济、社会等方面拓展人类的能力。尽管鲜有人注意这些方法之间的鸿沟,这场新技术浪潮的爆炸(一个正在影响现代生活方方面面的技术浪潮)将极力压缩这种分化,并防止反弹的发生。
四
Carr 最新的一本书叫 Utopia Is Creepy ,And Other Provocations 中文版还没有出版,严格意义上说,这并非一本新书,而是早前一系列文章的合集,事件跨度从 2005 到 2015。所不同的是,这些过去的文章在现有语境下依然有可读的价值,正如 《洛杉矶图书评论》 在一篇书评里所言:
If, as people say, one internet year corresponds to seven calendar years, then the earliest selections in this collection go back to the digital equivalent of the Truman presidency. It’s hard to work up any interest in Carr’s thoughts about Steve Jobs’s presentation of the first iPhone or the controversies over the commercialization of Second Life.
从 2005 到 2015 的十年也是技术,或者说互联网氏的新乌托邦主义盛行的十年。十年间,我们送走了曾顶礼膜拜的乔帮主(乔布斯),又满心期盼新的帮主出现——或是贝帮主(贝佐斯)、马帮主(马斯克)抑或是扎克帮主(扎克伯格)…..当这个世界的唯一「希望」就是硅谷时,似乎一切都可以通过互联网的方式解决。
某个层面,Carr 与中国互联网的「老朋友」凯文凯利是严重对立的,从 Web 2.0 的参与精神到博客(自媒体)带来的权利虚无:
Kelly described them as part of “a vast and growing gift economy, a visible underground of valuable creations” that turns consumers into producers. Carr, himself a blogger, pointed to the limits of the blogosphere: “its superficiality, its emphasis on opinion over reporting, its echolalia, its tendency to reinforce rather than challenge ideological polarization and extremism.” In short, “Web 2.0, like Web 1.0, is amoral. It’s a set of technologies — a machine, not a Machine — that alters the forms and economics of production and consumption.”
与此相对应的,则是 Carr 和凯利在中国互联网界的待遇,前者不过是某些媒介研究者谈论的对象,而后者则早已成为一代网红——尽管如今凯利的境况并不好,但其倡导的万能理论还是鼓励了一大批年轻人走上忽悠创业的道路,他们或是追随扎克伯格、或是成为中国的扎克伯格,比如今日头条的张一鸣,比如滴滴的程维。
这是属于扎克伯格们的黄金时代,他们用新时代的魔法——算法描绘了一个未来——这也是 Carr 笔下的「Creepy Future」,你的所看、所听、所思、所想在自动化、人工智能等口号中被一次次塑造、一次次改变,并最终成为你眼中的真实世界。
2016 年 9 月的时候,Snapchat 做出一个被外界看起来很古怪的举动——发布一款佩戴相机的智能眼镜,用户可以通过这个眼镜拍摄 15 秒的视频,并可以添加滤镜效果然后分享给 Snapchat 上的好友们。在外界一片质疑声中,很少有人注意到一个事实:SnapChat 走上了 FB 们的道路,所不同的是,Snapchat 要用影像塑造一个新世界[2]。
站在 2017 年年初的时间点上眺望,一个被算法左右的增强现实世界正在走来,你所能做的,可能就只有好好守护自己的眼睛了。