健康

25颗“最强大脑”如何看待人工智能

2019-12-09 12:58:23来源:城市金融报编辑:金子
 

  “阿尔法狗”的胜利,点亮了人工智能的新纪元,产业大潮汹涌澎湃,资本泡沫与技术狂想也扑面而来。但同时,我们也看到人工智能算法没有明显突破,“鲁棒性”(指异常或危险情况下系统生存的能力)差、算法黑箱等问题依然突出,在医疗领域和出行领域的商业化落地也没有更大进展。一些专家学者开始担心人工智能将迎来新的“寒冬”。

  《AI的25种可能》关注的正是人工智能这些最前沿的问题,思想家们交流思想,产生火花,以自己丰富的经验和学识挑战主流的人工智能学说,而他们所提出的观点,将会更好地推动人工智能的发展。

  聚集最聪明的一群人

  “我们应该找到人工智能领域里的主流者与持不同意见者,让这些人都能阐发自己的观点,以此来审视人工智能历史的演变,以及人类和人工智能未来的几种命运。”

  edge.org号称是世界上最聪明的人组成的网站,被称作是当今思想界的一盏明灯。Edge的英文本意就是刀锋、边缘,而Edge网站所汇聚的人群,正是渴望不断探索人类已知世界的边界和思维的禁区,不断寻求突破智慧极限的那类人。

  Edge网站每年都会提出一个关乎人类命运的“大问题”,然后邀请100多位最卓越的人物坐在一起,就像一场超大型的圆桌讨论。这些人包括科学家、艺术家、哲学家、技术专家和企业家,他们横跨进化生物学、遗传学、计算机科学、神经学、心理学、宇宙学和物理学等诸多领域的最前沿。

  圆桌讨论的参与者们包括我们熟知的世界顶尖学者,比如《当下的启蒙》作者史蒂芬·平克、《自私的基因》作者理查德·道金斯、《枪炮、病菌与钢铁》作者贾雷德·戴蒙德、《无价》作者威廉·庞德斯通、《黑天鹅》作者纳西姆·塔勒布,也包括一众商业大佬,微软创始人比尔·盖茨、谷歌创始人拉里·佩奇和谢尔盖·布林、亚马逊创始人杰夫·贝佐斯、脸书创始人马克·扎克伯格……可以说,每一位都是各自领域的权威。

  此前几年,他们讨论的议题包括“那些科学家们彻夜忧虑的问题是什么”、“哪些科学观点必须去死”、“如何思考会思考的机器”、“宇宙”、“文化”、“心智”等。

  2019年,Edge网站关注的年度问题就是人工智能。他们邀请了百位各领域的顶级专家学者,让他们读完维纳的《控制论》后重新在长远视角审视人工智能的发展,最终整理了史蒂芬·平克、朱迪亚·珀尔、丹尼尔·丹尼特、乔治·戴森、斯图尔特·罗素等25位思想家的文章,汇集成了这本《AI的25种可能》。

  《AI的25种可能》和市面上人工智能同类图书的区别在于其视野前所未有的宏大,思考非常深刻。这25位作者都不是人工智能领域的参与者,他们都是第三次浪潮的旁观者,代表着更远和更开阔的角度。

  这25位思想家的观点并不一致,甚至互相反对,就像左右手互搏。正如这本书的编者约翰·布罗克曼所说:“我们应该找到人工智能领域里的主流者与持不同意见者,让这些人都能阐发自己的观点,以此来审视人工智能历史的演变,以及人类和人工智能未来的几种命运。”

  重新审视先驱的思想

  正是由于与“控制论”拉开了近70年的时间差距,才让《AI的25种可能》这本书中的文字不局限于当下,而具有更长久的半衰期。

  维纳是人工智能领域的创始人之一。他是个神童,14岁大学毕业,4年后在哈佛大学获得哲学博士学位。为了描述他关于动物和机器如何依赖反馈机制来进行控制和交流的研究,维纳选择了“控制论”(cy⁃bernetics)这个词。

  1948年,维纳的《控制论》问世,但这本书技术性很强,大众不易读懂。于是1950年,维纳又出版了通俗版本的《人有人的用处:控制论与社会》一书,目的就是希望通过他的努力使得人类在技术世界的环绕中更加有尊严、更有人性,而不是相反。

  在1956年达特茅斯会议正式提出“人工智能”这个概念以前,维纳控制论大行其道。在维纳的两本书中,他考虑的是技术的社会、政治和伦理方面的问题,还得出了一些令人灰心的结论。维纳的主要观点是,不仅在人类和人类社会中,在其他生物群体乃至无生命的机械世界中,都存在着同样的信息、通信、控制和反馈机制,智能行为是这套机制的外在表现。因此不仅人类,其他生物甚至是机器也同样能做出智能行为。维纳和他的控制论思想如今也被视为人工智能“行为主义学派”的奠基者。

  更重要的是,亲历二战的维纳在为人工智能勾画蓝图时,也提出了自己对机器统治的担忧和警告。在《人有人的用处:控制论与社会》中维纳预言,依赖机器统治可能成为一种“新法西斯威胁”,他写道:“留给我们的时间不多了,我们必须在正义与邪恶之间作出选择。我们必须停止亲吻鞭打我们的鞭子。”但是这种“唱反调”的做法让维纳在冯·诺伊曼、克劳德·香农等同事之间遭到了冷遇,他们更加关注的是把新科技转化为商机。

  在今天,随着人工智能开始侵入社会生活的几乎每个方面,人工智能和人类智能的关系再次受到关注,维纳的预言仍然十分有价值。

  在此契机下,约翰·布罗克曼带着25位顶尖思想家们回到了维纳半个多世纪前开始提出的问题上。他让这25位思想家读《人有人的用处:控制论与社会》后,写下了今天我们看到的文章。正是由于拉开了近70年的时间差距,才让《AI的25种可能》这本书中的文字不局限于当下,而具有更长久的半衰期。

  对人工智能未来的想象

  这本书就像一张大网,网罗并几乎穷尽了全世界最伟大头脑对于人工智能的所有前沿思考,阅读它,你除了比周围人丰富了多个尺度之外,还有可能登上下一个时代的客船。

  社会如何权衡谨慎与创新的速度、准确性与可解释性、隐私与性能之间的关系,将决定人类与智能机器之间发展出何种关系。人类面临的风险很高,但如果不妥善处理这些关系,人工智能将难以向前发展。

  在这本书中,人工智能和人类智能的关系是思想家们探讨的重点,但这些人对于人工智能的态度却大相径庭。

  比如科技史学家乔治·戴森认为,好的人工智能就是个神话,当人类已经习惯于通过数字化编程控制机器,也许以神经网络为代表的模拟计算会把对于世界的控制权从人类手中夺走。“任何一个简单到可以理解的系统都不会复杂到可以智能化行事,而任何一个复杂到足以智能化行事的系统都会太过于复杂而无法理解。”

  哲学家、《直觉泵》作者丹尼尔·丹尼特对智能的态度就是工具论——我们不需要人造的具有意识的智能体。有太多的自然意识的智能体,足以处理任何应该保留给这样的特殊和特权的实体的任务。我们需要的是智能工具。工具没有权利,不会有可能受到伤害的感觉,也不会对无能的用户强加给它们的“滥用”产生怨恨。

  认知心理学家史蒂芬·平克更是反对悲观的末日预言,他认为那些预言源自心理偏见,媒体的报道也是助纣为虐,机器对社会造成的危险不来自机器本身,而来自人类如何看待它。

  另外一个主要讨论的话题是人工智能技术发展的问题。当前的人工智能热潮无疑是由深度学习引发的,自吴恩达等人2011年发表“识别猫”研究后,深度学习及其引发的技术已经在图像识别、游戏等任务中超越人类,并让机器学习技术的应用带入人们的生活。这种“阿尔法狗”背后的技术是否是未来人工智能的方向?

  其中,图灵奖得主朱迪亚·珀尔对深度学习持绝对怀疑态度,他详细论述了不透明学习机器的局限性——数据科学只是一门有助于解释数据的科学,而解释数据是一个二体问题,将数据与现实联系起来。但无论数据有多“大”,人们操控数据多么熟练,数据本身并不是一门科学。而汤姆·格里菲思是个技术乐观派,他强调的是价值对齐,就是使自动化智能系统的价值与人的价值对齐,与人类智能模型对齐,从而使得人工智能更接近人类性能。

  在这本书中,类似这样的观点争锋还有很多。可以把这本书看成是一场辩论比赛,正反双方讨论当下人工智能的发展,辩论人工智能有没有让我们变成自己制造的工具的奴隶,人工智能的终极天花板又在哪里,该不该对其有所限制。25个人提供了25个看待人工智能的价值维度,或悲观或乐观,或工具论或控制论,或反思本质或展望未来。书中的观点不是像量子力学那样烧脑,但逻辑严丝合缝,我看到了截然不同的观点,却觉得每一篇都有道理。

  可以说,这本书就像一张大网,网罗并几乎穷尽了全世界最伟大头脑对于人工智能的前沿性思考。阅读它,你除了比周围人丰富了多个尺度之外,还有可能登上下一个时代的客船。西贝

热门推送
本网站所转载信息,不代表本网观点,本网不承担此类稿件侵权行为的连带责任
未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任
Copyright (C) 中国医药新闻网 2019-2025, All Rights Reserved ICP备:京ICP备11043014号-9