沸沸扬扬的 Google 与五角大楼人工智能合作争议基本终于有了答案。负责 Google Cloud 的高管 Diane Greene 在 6 月 3 日宣布，Google 在该项目合作到期后，不再继续参与其中。
而上周，Google CEO 皮查伊透过官方博客进一步介绍了 Google 对于未来人工智能的使用原则和底线，以下是科技媒体爱范儿的翻译：
- 对社会有益。
- 避免制造或者加深不公平的偏见。
- 在开发中进行测试以确保安全。
- 对人类负责。
- 隐私原则。
- 坚守对卓越科学的追求。
- 在使用中考虑首要用途、技术的独特性及适用性、使用的规模这三个因素。
四个底线包括：
- 对于那些将产生或者导致伤害的整体性技术，我们会确保其利大于弊，并将做好确保安全的相关限制。
- 不会将 AI 用于制造武器及其它将会对人类产生伤害的产品。
- 不会将 AI 用于收集或使用用户信息，以进行违反国际公认规范的监视。
- 不会将 AI 用于违反国际法和人权的技术开发。
Google 这一系列举措旨在摆脱自己被包装为战争帮凶的形象，同时也希望人工智能行业内部形成一个共识，将人工智能用在所谓「好」的方面，多做些对社会「有益」的事情。
但事情绝非这么简单。
二
首先，技术进步与政治、军事的结合是不可避免的必然现象。我们当然不能忽略二十世纪由于化学、物理进步给全人类的福祉，不过更不能忽略的是，一战时期的氯气、二战的原子弹，都是化学、物理、数学等学科综合发展所带来的「副作用」。
在当下，人工智能作为前沿技术之一，包括语音、图像和自然语言理解等技术，已经在消费领域和工业领域展现出不俗实力，其被军方看中从而应用于军队项目也在情理之中。以 Google 此次争议比较大的 Maven 项目来看，其核心是利用图像、视频的识别、跟踪技术来帮助军用无人机自动跟踪目标，过往这些工作都是人类操作员远程操作1，而通过人工智能技术，可以大幅提升跟踪目标的准确性、实时性，最终更好地消灭这些敌人。
其次，从生意的角度来看，政府又是新技术的最大卖家。公开资料显示，IBM 长期以来都是五角大楼和中情局的主要 IT 供应商之一，2013 年的时候，亚马逊一举击败 IBM，拿下了中情局 6 亿美元的云服务合同。而从 2017 年开始，亚马逊 AWS 也成为五角大楼新一份高达 10 亿美元合同的潜在赢家,《华尔街日报》这样写道：
The next big break could come with the Pentagon’s planned $10 billion, 10-year move to the cloud. The proposed contract, called JEDI, would require a cloud infrastructure that could handle unclassified material as well as data classified as secret or top secret, defense department documents said.
更重要的一点，包括甲骨文、微软、IBM 在内的其他 IT 企业组成了一个游说组织，他们更希望军方在这个项目中采用所谓的「多云」策略，避免单一云服务供应商的局面，这也凸显出政府在各大 IT 企业潜在客户群里的重要地位。
科技博客 The Intercept 在 Google 内部泄露邮件里也发现，Google 内部对于其商业前景非常看好：
The September emails show that Google’s business development arm expected the military drone artificial intelligence revenue to ramp up from an initial $15 million to an eventual $250 million per year.
In fact, one month after news of the contract broke, the Pentagon allocated an additional $100 million to Project Maven.
这些邮件内容还进一步显示，Maven 项目还有其他巨头参与，Google 希望通过这个项目打压亚马逊 AWS：
The internal Google email chain also notes that several big tech players competed to win the Project Maven contract. Other tech firms such as Amazon were in the running, one Google executive involved in negotiations wrote. (Amazon did not respond to a request for comment.) Rather than serving solely as a minor experiment for the military, Google executives on the thread stated that Project Maven was “directly related” to a major cloud computing contract worth billions of dollars that other Silicon Valley firms are competing to win.
第三，科技公司与政府合作的透明性又如何体现出来？即便是在此次皮查伊亲自撰写的公开信里，也有这么一段话：
We want to be clear that while we are not developing AI for use in weapons, we will continue our work with governments and the military in many other areas. These include cybersecurity, training, military recruitment, veterans’ healthcare, and search and rescue. These collaborations are important and we’ll actively look for more ways to augment the critical work of these organizations and keep service members and civilians safe.
这意味着，Google 不会停止与政府的合作，只是不会和政府合作涉及到战争的项目。也正是这段话，让 Google 此次发布的这些原则和底线都更像是一个纯粹的 PR 行为。Google 即没有设置相应的监督机制，也没有提出必要的防御措施，整个表态也就失去了其意义，此次 Maven 项目的争议中，Google 内部上千名工程师的签名信以及辞职威胁的作用到底有多大，以及在其他公司又有多少可复制性，都是一个巨大的问号。
从这个角度去看，公众早先对于人工智能的担心，有很大一部分是因为其算法本身是个黑盒子，而现在，我们更应该考虑的是，这些从事人工智能的科技巨头们，到底和政府做了哪些合作？有哪些你不知道的人工智能项目，最终影响到你我的日常生活？
三
2018 年的确是人工智能行业开始分化的一年。我在上周的一期会员通讯里阐述了为何人工智能是个没有「新市场」的行业 。也因此，依托人工智能概念与技术的国内外创业公司以及科技巨头们，迫切需要可落地的商业项目来支撑估值和市值，那么，把人工智能卖给谁，就成为中美人工智能公司们必须面对的共同课题。
正如上文所言，人工智能相关技术与政府采购的契合点使得政府成为这个市场的重要买家。与亚马逊、Google 进入美国军方项目相比，中国广大科技公司们则利用人脸识别、图像识别，抢占政府公共领域的安防市场，现在只需随手在 Google 上搜索「人工智能+安防」，至少 80 万条搜索结果足以显示出这个市场有多大热度。
其次，人工智能的技术伦理与国家安全和社会民生的冲突也会持续出现。一位参与某城市智能交通项目的人工智能博士私下透露，尽管所有交通路口的算法都由他们团队来研发，但这个路口交通信号灯的时间间隔到底是多少，是由交警部门手动设置，而不是由算法自动推荐生成。也就是说，不管人工智能算法如何优秀，技术层面的决策与业务层面的决定不会完全一样，甚至会出现完全不同的选择。
最后表达我的一个悲观预测，人工智能的未来绝对不会失控，因为政府不会让它失控，同时也因为政府的参与，人工智能的未来也更加恐怖，最近有一部「恐怖片」《Anon（匿名者）》推荐看看。