AL123 人文社科会员免费专区文学 2024-11-29

AI 新生_【美】斯图尔特·罗素_AZW3_MOBI_EPUB_PDF_电子书（无页码）_【美】斯图尔特·罗素

内容节选

06不那么伟大的人工智能辩论对波斯特洛姆的《超级智能》进行了严肃评论的一篇文章：“Clever cogs,”Economist, August 9, 2014。《经济学人》杂志对尼克·波斯特洛姆的《超级智能》的评论以这样一句话结尾：“将第二个智能物种引入地球，意义深远，值得深思。” 大多数人会将此解读为英式轻描淡写的经典例子。当然，你可能会认为，今天的智者们已经在做这种艰难的思考了——参与严肃的辩论，权衡风险和利益，寻找解决方案，找出解决方案中的漏洞等。但是据我所知，这还没有发生。当你第一次向技术观众介绍这些想法时，你会发现他们的脑袋里会冒出一个个想法，以“但是……但是……但是……”开头，以感叹号结尾。第一种“但是”是否认。否认者说：“但是这不可能是一个真正的问题，因为XYZ。”有些XYZ反映了一种推理过程，它们可以被宽容地描述为一种一厢情愿的想法，而另一些则更有实质意义。第二种“但是”是转移话题：承认问题是存在的，但是认为我们不应该试图解决问题，要么因为它们是不可解决的，要么因为有比文明的终结更重要的事情要关注，要么因为最好别提它们。第三种“但是”是一种过于简化的即时解决方案：“但是我们不能只做ABC吗？”就像否认一样，有些ABC同样让人立刻感到遗憾，而另一些ABC更接近于认清问题的本质，这或许是出于偶然。我并不是说，对于“设计拙劣的超级智能机器会给人类带来严重风险”的观点，人们不能有任何合理的反对意见，只是我还没有看到合理的反对意见。既然这个问题看起来如此重要，它就应该得到最高质量的公开辩论。因此，为了开展这场辩论，并希望读者能对此有所贡献，让我简要介绍一下迄今为止出现的一些观点。否认关于人工智能风险的神话和误解的讨论：Scott Alexander, “AI researchers on AI risk,” Slate Star Codex (blog), May 22, 2015。否认问题存在是最简单的解决方法。Slate Star Codex（直译为“石板星手抄本”）博客的作者斯科特·亚历山大（Scott Alexander）撰写了一篇关于人工智能风险的著名文章，他写道： “我第一次对人工智能的风险产生兴趣是在2007年左右。当时，大多数人对这个话题的反应是‘哈哈，等有人相信的时候再回来看吧，估计除了网上的疯子之外没人相信’。” 令人遗憾的言论对一个人终身职业的威胁，可能会使一个非常聪明的、通常很有思想的人说出一些话，但在进一步分析后，他们很可能希望收回这些话。在这种情况下，我不会说出以下论点的作者，他们都是著名的人工智能研究人员。我也列出了对这些论点的反驳，尽管这完全没有必要。・电子计算器在算术方面是“超人”，但是计算器并没有接管世界，因此，我们没有理由担心会产生超越人类的人工智能。反驳：智能不同于算术，计算器的算术能力并不能让它们接管世界。・马有超越人的力量，但是我们不用担心马对我们来说是否安全，因此我们不必担心人工智能系统是否安全。反驳：智能不同于体力，马的体力强并不能让它们接管世界。・历史上没有出现过任何机器杀死数百万人的例子，因此，我们可以得出结论：这在未来也是不可能发生的。反驳：凡事都有第一次，在第一次发生之前，任何事情都是亘古未有的。・宇宙中没有任何一个物理量是无限的，包括智能，所以人们对超级智能的担忧被夸大了。反驳：超级智能并不需要是无限的才会产生问题，物理学允许计算设备比人脑强大几十亿倍。・我们并不担心物种灭绝，这就像黑洞在近地轨道上出现一样不太可能发生，那么我们为什么要担心超级人工智能呢？反驳：如果地球上大多数物理学家都在努力制造这样的黑洞，我们难道不问他们这样做是否安全吗？情况很复杂关于智能的多重维度的经典著作：Howard Gardner, Frames of Mind: The Theory of Multiple Intelligences (Basic Books, 1983)。现代心理学的一个主要观点是，单凭一个智商测试分数无法描述人类智力的全部丰富性。该理论认为，智力有不同的维度：空间的、逻辑的、语言的、社会的等。我们在第2章中讲到的足球运动员爱丽丝可能比她的朋友鲍勃在空间上有更高的能力，但她的社交能力较低。因此，我们不能严格按照智商高低划分所有人。对机器来说更是如此，因为它们的能力范围要窄得多。谷歌搜索引擎和AlphaGo除了是同属于一家母公司的产品外，几乎没有任何共同之处，所以说它们一个比另一个更智能是毫无意义的。这使得“机器智商”的概念产生了问题，这还表明：将未来描述为人类和机器之间的一维智商竞赛是具有误导性的。关于智能的多重维度对超人类人工智能可能性的影响：Kevin Kelly, “Themyth of a superhuman A......