观点 其他

侯世达:我讨厌“人工智能”这个词,因为它们没有智能

Ent 发表于  2019-03-04 20:35

四十年前,一本奇书《哥德尔、埃舍尔、巴赫:集异璧之大成》横空出世。作者道格拉斯·霍夫施塔特(中文名侯道仁,中译第一版使用的译名是侯世达)在这本书里横跨艺术、音乐、数学、意识和智力等众多领域,成为那个时代最令人印象深刻的AI著作,为他赢得了普利策奖和美国国家图书奖。

然后他就消失了。

道格拉斯·霍夫施塔特 |?Greg Ruffing

他并没有真的失踪,还在一直思考AI。但是,《集异璧》出版的年代,正好是“古典”AI时代最后的光芒。三十年的研究并没有像研究者预期的那样给出关于智能的突破性进展,热情和经费都在逐渐消退。人工智能研究者逐渐把重点放在能否让机器系统来解决实际问题;至于图灵当年提出的那个问题——“机器能思考吗”——被大部分人认为太过哲学、太过模糊,只适合放在课本的第一页,而和日新月异的应用无关了。

今天,最火的AI路线是机器学习。如果一个人只看新闻头条的话,也许会觉得AI问题已经被解决了:机器学习AI能下棋,能开车,能翻译,能聊天,能看病,能答题,能认动植物,能写诗作画,就差取代人类了。

真的吗?

侯道仁不这么认为。他说,AI不“懂”。AI在操纵数据,但不知道这些数据是什么意思,不知道它们还对应着一个现实世界。脱离现实的AI永远不会懂得现实。

在这个问题上他显然是少数派。他已经几十年没有参加过学术会议了,也和AI的主流研究者罕有对话——“我对他们的状态不感兴趣”。很多时候这算不上真的冲突,双方只是在就不同的话题和不同的时间尺度思考。

但他所思考的问题确实是直击盲点。数据集里能堆砌出智能吗?不带目的和情绪的,算得上智能吗?现在的AI能做很多事情,但它们真的“懂现实世界”吗?或者,它们只是一个个空无一物的黑盒子而已?

毫无疑问,今天的人工智能领域非常成功,不需要考虑这些问题也在快速进展。但是这样的进展也许是没有办法持续下去的。不去解决一些更加深层的问题,也许就会像寓言里那个想靠爬树抵达月亮的人一样:“他将不断进步,直到树的尽头?!?/p>

图:图虫创意

果壳:为什么你会采取这样一种脱离主流的研究方式呢?

侯道仁:我其实不觉得我是在正常意义上的“做研究”。我是以一种个人的状态在探索想法,如果可能的话,就写书来传递它们。驱动我这样做的,是一种寻找美、寻找优雅的力量。另外我还喜欢不严肃。

我对企业的商业目标不感兴趣——你知道就像谷歌的AI产品什么的。我感兴趣的是理解人类思考,理解语言,理解这些东西的深度和复杂性。我对这些事情十分尊敬,而我的感觉是那些科技公司好像就不怎么有尊敬的态度。这个肯定不是一概成立,做这些项目的人成百上千,每个人都是独一无二的人,都有自己的想法;但是公司自己会有一种动量在推动这些人,让他们去公开宣布“我们抵达了人类翻译的水平”这样的话。

我不知道谷歌翻译团队的成员是不是真的相信这些话,但是他们显然有这种“Chutzpah”——你知道Chutzpah这个词吗?这是一个意第绪语的词,有这种狂妄自大来说这样的荒谬言论。当然他们的产品是很厉害,往谷歌翻译里敲一篇文章或者复制一个网页,两秒钟之后右边就出来译文。有时候译文会很不错,因为他们确实用了海量的知识,不,不是知识——

果壳:数据?

侯:对,数据,而且相当的快。但是很多时候,译文都差得好远。就像我举过的例子: The roofer came down from the roof of the hospital carrying a case of shingles. (屋顶工人从医院的屋顶上下来,带着一箱瓦片。)

翻译软件给出的是“一箱带状疱疹”。这和带状疱疹没有任何联系??!屋顶工人带着的shingles很明显毫无疑问是瓦片。而且它还用的是“一箱”。你怎么可能有“一箱”疾病呢??

这完全讲不通,这是垃圾。但是这就是翻译软件做的事情,因为它根本就不理解任何东西。是零。它不知道有这样一个世界,有这么多事情正在其中发生,不知道有过去和未来,不知道有大有小有上有下。它什么都不知道。它所知道的一切就只是字词。

图:图虫创意

果壳:而不知道意义?

侯:甚至都谈不上是知道字词,它只是在使用字词而已。连这么简单的句子都不能理解,你怎么能宣称这是人类级别的翻译呢?

果壳:这些不算个别的例子吗?

侯:你得用这些例子才能揭示出它后面的空洞,证明它没有理解?;鞣胧乔擅畹幕ㄕ?,有时候能完美生效,在简单句子上通常都能行——但不是每一个句子都行。

整个机器翻译领域里最著名的一个例子,“The box was in the pen.(盒子在棚里。)”我试过的每一个程序在这个句子上都失败了。甚至给了上下文也没有用:“Little John was looking for his toy box. He looked everywhere and he finally found it in the pen. He was very happy.(小约翰正在找他的玩具盒子,找遍了所有地方,终于在棚子里找到了它。约翰很高兴。)”

果壳:都翻成了盒子在笔里。

侯:而任何人类都能理解。当然他们可能会笑一下觉得这个很有趣,因为pen这个词乍一看可能会让人觉得是你口袋里的“笔”,显然原句的pen说的不是笔。但是人类顶多是想一想,而程序则直接掉进了坑里。但如今60年过去了。这个句子来自机器翻译领域有史以来最著名的文章,发表于1959年;60年之后的现在,这么多机器学习的成就,都还无法让程序跳出这个陷阱。

而且机器学习还很大程度上是黑盒子,如果它犯了一个错误,你很难知道要怎么修。

果壳:我觉得这种事情就像是自驾车的状态一样,它们好像是能识别出看到的图像,但其实并不能真的理解这些图像。你会不会觉得,让AI在不理解这一切的情况下做这些事情是危险的?? ??

侯:当然是危险的。的确,我们有很多工具做了很多事情,这些工具也啥都不懂。比如说机场的不同航站楼之间有小火车连接,车里没有人类工程师或者司机,但这都是很简单的,是固定轨道,固定起点终点,轨道上几乎不可能有什么障碍,所以你能信任它。某些大城市的地铁也是,不需要司机,因为轨道都是纯地下的,不可能有障碍,你不理解也没有关系。但是对于自驾车,我的感觉和翻译软件差不多糟糕。现实世界里的可能场景是无限复杂的,驾驶时出什么状况完全不可预料。我觉得这极其糟心。不管怎么说吧,我是不喜欢AI(人工智能)这个词的。

果壳:如果你能重新发明一个词的话你会怎么说?

侯:我不知道。我觉得自驾车(self-driving car)是可以的,不用“智能”这个词,智能不是这个领域讨论的话题。当我们说智能的时候,其中的确有一部分是实时对看到的场景进行分类;我对自驾车懂的并不太多,我知道他们用的很多技术和人类开车不同,他们会用GPS,会用激光雷达,如此等等,这意味着自驾车看到的场景和用到的信息与人类不一样。

我不确定它们到底在干什么,但是你可以说这的确是实时感知,对快速变化的图像进行实时分类,这是个动态而非静态的过程,这当然是智能的一部分,但绝对不是全部的智能。所以我不喜欢把智能这样的词用在这样的系统上。

二十世纪五六十年代那会儿,说“我们正在研究AI”是没问题的,我们是在研究它,是在尝试理解智能,但现在人们不那么说了,人们说“这是智能的”,“那是智能的”。我不喜欢这样。这是过度简化扭曲,误导原意。

果壳:开车和翻译都是很难的现实问题,不过创造性的问题呢?阿法狗在围棋上打败了人类,我就感到相当震撼。

侯:我同意,震撼(shaken)是对的词,我感到很难受,为围棋选手感到悲伤。不过,你知道有一个微软的程序能够写诗——

果壳:是的,他们居然还真的出版了。

侯:我不知道你说“真的”是什么意思,显然这年头人们是可以出版任何东西的!这不算什么啦。但是我想说,随便写点现代诗没什么了不起,这很容易,写出来的大部分是垃圾。搞一本垃圾宣称这是诗歌这不算什么成就。这样的事情早就被做过了,我自己五十五年前就写过这样的程序。这不算啥——好吧也许五十年前可以算啥吧。但像某些人说的那样把这个称为是计算机的创造力?这完全是荒谬,完全是无稽之谈。拥有创造力是和情绪联系在一起的。强烈的智识激情、好奇心和驱动力,愉悦感和玩耍心,乐趣、神秘、发明欲望——所有这些在今天的计算机里都找不到。什么都没有,零。

当然计算机是能做很多事情。二十五年前有个人曾经写过一个程序——后来我和他成了朋友——这个程序可以发现新的欧式几何定理。它是在探索几何学的新东西。但是它的做法是完全机械的,它对几何学没有任何兴趣,没在思考,没在享受,没在寻找美,没在做任何这样的事情,只是机械蛮力琐碎的探寻,把数字算到15位小数,检查点是不是在线或者圆上,这些事情对人类而言是极端困难极端无聊的。

如果你作为一个人来检视它产出的成千上万结果,偶尔也会发现一个优雅的定理。但是机器并不知道它的优雅,对优雅不感兴趣,对任何东西都不感兴趣。说这个和创造力有什么共通之处是很荒谬的,可是人们就是经常这么说。他们说这样的话的时候根本没有想过到底什么是创造力、什么是智能。所以我是真的讨厌说我们在用“人工智能”做事情。我们没有这种东西。

果壳:AI最早的时代,图灵说因为我们不知道电脑有没有思考,所以我们应该看它们的思考结果来判断。现在我们有EMI(“音乐智能实验”,一个可以模仿作曲家风格创造出新音乐的程序)这样能产出类肖邦的音乐,阿法狗这样打败人类的棋手,这些算不算那种思考结果?

侯:不算,因为阿兰图灵说的是使用语言。

果壳:所以语言是人类思考的核心?

侯:语言代表着概念,日常的词语和句子都对应着我们心中的概念,是给概念上标签的方式。当然不是所有的概念都有标签,但很多都有,我们使用语言是为了外化这些概念。这才是图灵所说的东西。当然围棋也对应着概念,这个概念让阿法狗能够下围棋,但这不是关于整个世界的,这只是一个极小极小的微缩世界。

至于EMI,我写过很多东西,做过很多讲座——

果壳:啊我读过《如聆巴赫》。

侯:那个是一个缩写版的文章,我写了大概40页的东西,被缩到了10页左右。我忘了是不是我自己缩写的,快20年前了。很不幸,它没能完全概括我想说的东西。

我觉得EMI是个骗子。它产出的大部分东西都很明显是从别的作曲家那里借来的。你越是熟悉那些作曲家的作品,就越能看出来它只是拿来片段然后放在一起。这和创造音乐没有任何关系,是零,也和人类与音乐的关系毫无相似之处。它只是一个流于表面的模仿而已,这就像是那个三字母游戏。

你知道这个游戏吗?就是你找一篇文章,比如林肯的葛底斯堡演讲,是什么文章无关紧要。然后你统计一下这篇文章里三字母组合的出现频率,比如AAA没有出现过,THE就出现了好几次,或者HE空格,空格也算一个字母,这样汇聚成一个频率表。然后你找两个字母,我一般是随机的,在表格里查下一个字母是啥。比如说开头的字母是TH,那么你就查一下THA、THB、THC……一直到TH逗号、TH句号和TH空格的频率,然后根据这些频率来随机选择第三个字母。最大的概率也许是THE,但你并不总是能选择它,也许这一次你选的是THR。那么,新的双字母就是HR,再去表格里查HRA、HRB、HRC……诸如此类。

果壳:这就是一个马尔柯夫链了。

侯:对,就叫这个。你用这样的方式创造出一篇新的文本,然后看看它长啥样。它和原来的文本会有很大的相通之处。你也可以不用三字母,而是用四字母、五字母或者更多。甚至可以把一整本书都作为源文本,统计里面的频率,创作出新的人造文本。粗看起来,它在局部上会很像是原来的作者写的东西,可能连着几个词都很正常,特别是当你用四字母或者五字母来生成的时候;但是它根本没有任何含义,全局而言它是垃圾。这个点子是大概70年前被发明的,已经被充分地研究过了。当然这样做出来的东西很好玩,本质上EMI做的也是这个。

但它做这样事情的时候并不智能,并不懂音乐。这并不是对作曲家的威胁,只是一个小玩具能让计算机快速地把音乐小片段拼合在一起。其产物有时候听起来还有点说服力,可是这和创造音乐没有关系,和理解音乐没有关系,和任何事情都没有关系,空无一物。然而正是这种东西在被不断吹捧成人类级别的成就。

果壳:但是有没有可能沿着这条路线开发出一种不同于人类智能的东西呢?比如阿法狗是不是发现了一些人类没有看到的关于围棋的深刻见解?

侯:如果有,它必须是情绪化的。情绪是智能的核心,没有它就没有智能。当然你能看出来,我现在所说的这些都是非常情绪化的,这没错,我们说的一切都充满了情绪,被情绪所驱动,智力就是这个样子的。

阿法狗确实做到了一些惊人的事情,我丝毫不懂围棋所以没有办法评论,但显然它找到了某些模式,是人类从来没有注意过的,而且运用这些模式下了一手好棋。我不知道说它“理解”围棋算不算用对了词,因为理解是个很难讲的概念,但至少它肯定是找到了关于围棋的一些事实,一些强有力的不为人知的事实。

我觉得这很了不起,也很让我沮丧和担忧,但我不觉得这是一条通向非人智慧之路。如果在很久以后的未来你能造出个电脑程序,可以和人类沟通交流想法,那是一回事,但下围棋不是交流想法,只是玩游戏而已。不,它甚至都不是在玩游戏,只是在操纵符号,它不知道这是个游戏,不知道游戏是什么东西。

但如果将来人们能开发出和人对话的程序——严肃地讨论观点和想法,不是聊天机器人那种,不是问“siri附近有什么印度餐馆”。我非常不喜欢现在这些东西,绝对不会用它们,虽然我知道有很多人喜欢这样的小软件。但总之如果我们将来真的有一个系统能和人对话,那么它必须要知道关于人类生活的几乎一切东西。需要懂得人类的情绪,自己必须拥有情绪,必须有担心、恐惧、不安感,如此等等,就像人一样。这是获得智能系统的唯一途径,而我们距离它的实现还很远。

图:图虫创意

果壳:没有捷径吗?也许我们可以复制人类体验的一部分,而不用把所有可能的体验教给机器?

侯:我觉得没有,不过我不知道是怎样的捷径。一部分体验,一丁点还是可能的,围棋不也是一部分嘛。

果壳:所以机器面临的难题是什么呢?

侯:情绪是伴随着一套内置的目标而产生的,我们谈论的对象必须要追求这些目标,需要能快速判断出它做的事情对于这些目标而言是好事还是坏事,而情绪就诞生于这种对好坏区别的感知。

果壳:不过我们确实是在给遗传算法设置目标呀,这不够吗?

侯:但这些目标和它的存活、它的福利之间没有产生联系。它没有在试图?;ぷ约?,没有试图过更好的生活。情绪来自斗争,为了生存的斗争。现在并没有这样的东西。

果壳:这听起来是适者生存,要模仿演化的路线。

侯:电脑可以演化吗?当然可以,全世界成百上千万的电脑都在不断改变,比起50年前大不相同了,这也算是一种自然选择。自然选择就是世界上有不同的东西在竞争,被环境所选择,而这个案例里环境是人类,但没有关系,人类也是世界的一部分。所以电脑当然在走一条演化之路。

但是它们没有繁殖,没有遗传信息重组,这种演化方式和活着的生物是不一样的。乐器也在演化,但它们没有繁殖,只是被人造出来。电脑也是如此。

如果电脑变成了自律的实体,开始自己繁殖,相互竞争求生存,那么这里发生的事情就更加接近生物的演化。这时,你就会有情绪产生了。情绪是来自于?;ぷ约?、?;ぴ诤醯氖堤?,?;ぜ胰撕团笥?,在电脑拥有朋友之前,它们是不会有情绪的。而现在的电脑没有朋友,不会喜欢谁、讨厌谁。这不是它们世界的一部分。必须要有?;?,关怀和共情,需要能认同他人的目标、视之为自己的目标。我们距离这一切,还很远很远。

图片由作者提供

侯道仁的著作《表象与本质》中译本刚刚由湛卢文化出版,这本书深入探讨了人类语言与心智的关系,以及它应当如何启发人工智能的方向。
感谢湛卢文化对采访的大力协助。

题图来源:Stanford News - Stanford University

热门评论

  • 2019-03-05 11:25 CBP

    我倒是不觉得AI必须得以人类获得情绪的流程来产生他们的智能,毕竟没有任何理由人类自身的情感和智能的发展历程是产生智能途径的唯一解.


    但是我所担心的是,AI最终产生的智能,可能是一种我们完全不能理解的智能,即便他们看起来能和我们无障碍交流,看起来能完美的解决我们的问题,看起来能理解我们的情感.


    举个例子就像我们和我们的宠物猫猫狗狗平时的互动,我们和猫猫狗狗之间的互动和交流时,双方脑子里所想的事情是一样的么?显然不一样,我们可以以人类对动物行为的知识和经验,来巧妙的操纵这些动物,而在这些动物眼里,他们会以为我们和他们一样,所思所想也一样,比如他们以为我们是在进行动物类的社交,爱抚他们的毛发讨好他们用以提升族群中的地位,他们永远也不可能想到我们是因为虚荣和跟风于是看了某个养宠物技巧的知名电视节目于是打算实践一下接下来排个短篇到社交媒体上晒猫求点赞.


    宠物以为他们和我们在对等的交流,我们却以更高的视点更复杂的方式思考同一个问题,而我们对宠物表达的一切,只是我们希望他们感受到,并且他们也最多只能理解到这么多的东西.


    而我担心的正是,当终究和人类不相同的AI发展出智能之后,他们与人类交流之时,会不会也是同样的情况呢,而此时更像被挠着毛发开心的呼呼叫的宠物的,则是人类.


    当然类似的发散思维大概还有宅男们喜欢想象的机器人女友,你以为她为你哭为你笑是因为真的爱你,但是没准她做出这一切的理由是半人马座正在发生一场星际舰队对射,一方指挥官早饭没吃好所以心情糟糕打算动用超级武器所以会导致太阳系柯伊伯带两颗矮行星的轨道偏移几度结果菜场卖菜的王大妈就会收到一张假币而导致某个大公司的服务器宕机最后清洁工踩死一只小强.-----没错我们人类完全不理解这乱七八糟的一切之间到底有什么联系,但是没准你的机器人女友的AI真的理解,并且还觉得很重要,她真的觉得被踩死的那只小强很重要,所以她才在完美的扮演你的宅男好女友角色.


    是不是很恐怖.

    [3] 评论
  • 2019-03-05 12:09 我爱饭米粒_28234

    现在国内动不动就人工智能,AI什么的,我觉得大部分都是嘘头,我不觉得他们在思考,只是在计算。

    话说什么算思考,ghost是什么,拥有感情,理解现实世界的基础上计算就是思考吗?

    要是有一天神经冲动和记忆能够被01替代,攻壳机动队里的世界就不远了吧。

    [3] 评论

显示所有评论

全部评论(21)
  • 1楼
    2019-03-04 21:32 在雨夜

    实际上人的智能本身也不高,至少没有没有智能这个词语代表的含义高。

    [1] 评论
  • 2楼
    2019-03-04 22:18 Ecnies

    赞啊,采访者也懂的好多

    [2] 评论
  • 3楼
    2019-03-05 11:24 天降龙虾

    呵呵,恐怕没有多少人认为研究人工智能是为了给自己造出一个朋友吧??也许阿兰·图灵是那么想的????但对于大部分人而言,人工智能只是一种好用的自动工具而已吧???甚至包括“朋友”在内也是一样。。。

    [2] 评论
  • 4楼
    2019-03-05 11:25 CBP

    我倒是不觉得AI必须得以人类获得情绪的流程来产生他们的智能,毕竟没有任何理由人类自身的情感和智能的发展历程是产生智能途径的唯一解.


    但是我所担心的是,AI最终产生的智能,可能是一种我们完全不能理解的智能,即便他们看起来能和我们无障碍交流,看起来能完美的解决我们的问题,看起来能理解我们的情感.


    举个例子就像我们和我们的宠物猫猫狗狗平时的互动,我们和猫猫狗狗之间的互动和交流时,双方脑子里所想的事情是一样的么?显然不一样,我们可以以人类对动物行为的知识和经验,来巧妙的操纵这些动物,而在这些动物眼里,他们会以为我们和他们一样,所思所想也一样,比如他们以为我们是在进行动物类的社交,爱抚他们的毛发讨好他们用以提升族群中的地位,他们永远也不可能想到我们是因为虚荣和跟风于是看了某个养宠物技巧的知名电视节目于是打算实践一下接下来排个短篇到社交媒体上晒猫求点赞.


    宠物以为他们和我们在对等的交流,我们却以更高的视点更复杂的方式思考同一个问题,而我们对宠物表达的一切,只是我们希望他们感受到,并且他们也最多只能理解到这么多的东西.


    而我担心的正是,当终究和人类不相同的AI发展出智能之后,他们与人类交流之时,会不会也是同样的情况呢,而此时更像被挠着毛发开心的呼呼叫的宠物的,则是人类.


    当然类似的发散思维大概还有宅男们喜欢想象的机器人女友,你以为她为你哭为你笑是因为真的爱你,但是没准她做出这一切的理由是半人马座正在发生一场星际舰队对射,一方指挥官早饭没吃好所以心情糟糕打算动用超级武器所以会导致太阳系柯伊伯带两颗矮行星的轨道偏移几度结果菜场卖菜的王大妈就会收到一张假币而导致某个大公司的服务器宕机最后清洁工踩死一只小强.-----没错我们人类完全不理解这乱七八糟的一切之间到底有什么联系,但是没准你的机器人女友的AI真的理解,并且还觉得很重要,她真的觉得被踩死的那只小强很重要,所以她才在完美的扮演你的宅男好女友角色.


    是不是很恐怖.

    [3] 评论
  • 5楼
    2019-03-05 12:09 我爱饭米粒_28234

    现在国内动不动就人工智能,AI什么的,我觉得大部分都是嘘头,我不觉得他们在思考,只是在计算。

    话说什么算思考,ghost是什么,拥有感情,理解现实世界的基础上计算就是思考吗?

    要是有一天神经冲动和记忆能够被01替代,攻壳机动队里的世界就不远了吧。

    [3] 评论
  • 6楼
    2019-03-05 13:53 地球上的裸猿

    有机物与无机物的区别是?
    生命与非生命的区别是?
    病毒与非病毒的区别是?
    智能与非智能的区别是?

    [0] 评论
  • 7楼
    2019-03-05 14:52 汉尼拔wang
    引用文章内容:数据集里能堆砌出智能吗?

    也许能,人的大脑不也是一层层新长出来,可以看成堆砌数据。

    引用文章内容:The roofer came down from the roof of the hospital carrying a case of shingles.


    引用文章内容:The box was in the pen

    在百度翻译试了一下,上一个对了,这个错了

    引用文章内容:只是机械蛮力琐碎的探寻,把数字算到15位小数,检查点是不是在线或者圆上,这些事情对人类而言是极端困难极端无聊的。

    这样也挺好啊,可以弥补人的不足。

    引用文章内容:情绪是智能的核心,没有它就没有智能。

    我一直觉得情绪是智能的BUG~

    引用文章内容:而现在的电脑没有朋友,不会喜欢谁、讨厌谁。

    这也许是好事,没有宫斗、没有办公室政治、不会翻脸打仗啥的~

    [1] 评论
  • 8楼
    2019-03-05 15:01 落花萧然

    现在的AI都是在偷换概念

    只是一些机器替代人工计算的算法而已

    [2] 评论
  • 9楼
    2019-03-05 15:24 好乐无荒

    对于人工智能的宣传,确实有些超出实际了,但那是无可厚非的,只有展现出更优秀的成果才能获得更多支持和投资,才能走得更远。而是人类会先制造出种地的机器,而不是会生气的机器,科学不能脱离它本身的目的,就是让人类过得更好。

    [2] 评论
  • 10楼
    2019-03-05 17:58 54434

    我觉得侯世达要造的不是一个机器 ,是一个活生生的人,靠数据堆砌绝对不可能达到他的目标,但可能写出拥有自我意识机器的代码都是个问题,靠人脑几乎写不出那样的代码,完全放开自我进化的权限的话阿西莫夫三定律岂不是要失效了?

    [0] 评论
  • 11楼
    2019-03-05 19:06 无节操大叔

    基本上现在人类对AI的所有想象与创造都来自于人类对于自身的模拟,甚至我们还可以把AI给比喻成是对人类自身的反编译。问题是,如果说AI是人类对于人类自身的“反编译”,那么基于信息的熵增原理,AI是永远也不可能达到和人类智能一样的程度。。。。

    [1] 评论
  • 12楼
    2019-03-05 19:07 无节操大叔

    而且,就人类智能的本质问题来说,好像现在都还没有一个公定的答案。。。。。

    [0] 评论
  • 13楼
    2019-03-06 03:06 神秘进化记录

    深达灵魂的对谈,其沉重,把我对机器翻译的最后一丝期盼也被压垮了,我还是老老实实学外语去吧。

    [0] 评论
  • 14楼
    2019-03-06 14:06 54434
    引用@54434 的话:我觉得侯世达要造的不是一个机器 ,是一个活生生的人,靠数据堆砌绝对不可能达到他的目标,但可能写出拥有自我意识机器的代码都是个问题,靠人脑几乎写不出那样的代码,完全放开自我进化的权限的话阿西莫夫三定律岂...

    完全开放的意思是从你踩死一只小强到FBI的战争计划都有权限查看,并不是给出特定的数据。

    [0] 评论
  • 15楼
    2019-03-06 16:36 舞之流云

    没有“自我”是无法产生我们想要的所谓真正的智能的,但有“自我”的东西肯定不会让使用者或者社会伦理感到安心,所以这些到头来其实都没有意义,即使是技术能够发展到那样的高度。其实一堆无意义的大量算法也无所谓,能够一步步减小人类的工作量就可以了,现在把他们叫做人工智能不过是为了一个噱头而已。

    [1] 评论
  • 16楼
    2019-03-06 18:52 企鹅骑士队长

    现在很多系统的数据数量和程序的复杂程度已经超出人类理解程度。

    [0] 评论
  • 17楼
    2019-03-07 11:07 C.CristataX 生物科学专业

    这个智能的定义怎么透露出浓浓的民科感……

    为什么认为情绪是智能的核心,证据呢?论证过程呢?统统没有的话……总让人觉得侯世达是不是也走上了约瑟夫森那样的路子……_(:з」∠)_

    [1] 评论
  • 18楼
    2019-03-07 18:29 Karlson

    这位老先生可能对智能一词的理解过于执拗了

    智能,虽然现在我们所说的智能完全称不上智能,你可以理解为商家的噱头,但是我觉额这不妨碍我们说他是“智能”的。我们是智人,但是当我们刚降生的时候,几乎是没有“智能”的,除了哭,我们几乎什么都不懂,更别说理解这个世界了。然后我们逐渐知道了光和声音,然后对触觉有了感知,但是我们依然无法组织语言,无法表达,甚至连情绪都不知道为何物。然后慢慢的,我们学会了语言,学会了运动,学会了知识……

    AI,或者我们现在说的智能,可以看成是人类的刚刚降生的第一天。你说AI不能理解这个世界,你非机器人,焉知机器人不能理解?你的理解方式和它的理解方式不一样。我们大脑如何对现实做出反馈的?一样是不停的收集数据,然后汇总,然后再综合起来做出相应的输出。你是模糊的存储了那些“数据”,计算机目前只能存储我们定义了的数据。但是你的模糊数据,你认为那就不是一种数据结构吗?打你你会回避会反击,是你想?;ぷ约郝??不,那只是以往的数据告诉你,你回避可以避免再次被打,你反击可以避免你以后继续挨打。你努力工作,供养家庭,你认为这是你情绪作用的结果吗?不是的,那只是你从千万人的生活里学到了供养数据,所以你综合你自己的一些数据,采取自己的方式供养你的家庭。而且,你的情绪,是凭空产生的吗?并不是,你的情绪也是收集了各种各样的数据,最终的外化而已。别看到计算机的数据结构很简陋,所以就认为计算机无法理解我们的世界,实际上它只是因为还太幼小了,以至于这些数据都太简陋,就像我们在婴儿时期那样,我们的数据结构也很简陋,饿了只会哭。随着科技的发展,随着人类对智能的研究的发展,这个数据结构会越来越复杂,数据内容也会越来越丰富。虽然现在它很简陋,但我觉得并不妨碍我们将其称之为智能。

    六十年过去了,我们还在刚刚降生的第一天,这也没什么。地球孕育出智慧,花了几十亿年。人类孕育智慧,目前还只用了六十多年,起码我们做出来的比草履虫更好。


    PS:我的孩子一岁多的时候,我睡觉压到他了,他就说“爸爸,你弄挤我了”,他根本不知道这样的表达是不太妥当的,他应该说“爸爸,你挤到我了”。两岁的时候,他知道“那么”一词有表示程度的意思,于是他会说“我要那么多”、“那个盒子那么黑”。这和老先生说的翻译陷阱,是不是异曲同工?但是小孩现在不会再用这种语句来表达了,他知道有更好更正确的语言组织方式,对词语意义的掌握也更熟练了。60年前,我们无法想象让电脑来翻译,30年前的翻译很糟糕,但是现在的翻译基本能看得通了。你想我们60年做完进化的几十亿年的事情,这未免有点苛责了。

    [2] 评论
  • 19楼
    2019-03-11 10:55 Karlson
    引用@我爱饭米粒_28234 的话:现在国内动不动就人工智能,AI什么的,我觉得大部分都是嘘头,我不觉得他们在思考,只是在计算?;八凳裁此闼伎?,ghost是什么,拥有感情,理解现实世界的基础上计算就是思考吗?要是有一天神经冲动和记忆能够...

    目前,国内所谓的智能(注意,这里只有智能二字,仅有少数包含人工智能的根本和人工智能没沾边),大部分的确是噱头,这是没跑的

    你不觉得他们在思考,只是在计算。这个你可能对思考和计算区分的太严苛了,实际上我们的大脑,你认为是思考,其实也是计算。如两个女孩子你选胸大的或者脸蛋漂亮的或者身材好的或者性格好的,这都是你“权衡”的结果,而这个权衡,其实就是计算。同样的岗位,你选择薪水多的或者前途看上去更好的,这也是你大脑的计算结果。程序员们还把很多心理学上的东西,用程序实现了,如博弈论里的贪婪,就有贪婪算法;走路我们想最路径最短的或者最省时省力的,A Star算法就干了这个,甚至我们的导航软件也能干这个。这个在计算机界你管它叫运算结果,在人类世界,你管他叫权衡结果。最终这两个结果其实在外显上没多大差别?;褂懈腁lphaGo下围棋,人类下围棋,你认为是思考的结果(权衡),计算机下围棋,你就认为是计算的结果了。其根本原因是你不接受计算机能“思考”的这个问题,或者你对人类的计算不了解,所以才认为思考和计算是两码事。其实从赌博上能看出来一些端倪,思考和计算没什么差别。目前人类和计算机的最大差别就是计算机的数据和算法都太简陋了,和人类差的太远,以至于产生了这样的误解。

    [0] 评论
  • 20楼
    2019-03-11 15:57 暮色黑

    智能怕是体现在欺骗上。

    [0] 评论
  • 21楼
    2019-03-11 19:07 陆白白

    干嘛那么瞧不上人工智能,the box is in the pen这句话我就跟AI是一个水平的??

    [0] 评论

显示所有评论

你的评论

登录 发表评论

Ent
Ent 古生物学博士生,科学松鼠会成员

作者的其他文章

更多科研事,扫码早知道

关于我们 加入果壳 媒体报道 帮助中心 果壳活动 免责声明 联系我们 移动版 移动应用

?果壳网    京ICP证100430号    京网文[2015] 0609-239号    新出发京零字东150005号     京公网安备11010502007133号

违法和不良信息举报邮箱:jubao@www.hmdq4.cn    举报电话:18612934101    秒速赛车怎么玩的    儿童色情信息举报专区