快捷导航
发新帖

精彩推荐

更多> 更多>

精品专区

  • 幼儿园缎带做花的教程 简单缎带花怎么做图
  • 落叶手工作品图片 简单把树叶做成美丽的挂
  • 幼儿园手工制作水母挂饰的方法简单又可爱

收藏 跳转到指定楼层
本帖最后由 午璊 于 2015-10-5 20:15 编辑

1
         “我提议考虑这个问题:‘机器能否思考?’……我会以另一个问题来替代(机器能否思考)这个问题,前者与后者紧密相关,而且表述更加清楚。”
         这是阿兰·图灵(AlanTurning)《计算机器与智能》(Computing Machinery and Intelligence)一文的开头。这篇文章提出了著名的图灵测试:参加测试的人类“考官”通过键盘、屏幕等设备和掩藏了真实身份的“考生”谈话,如果考生是一台机器,却能在聊天中让考官误以为它是人类,那么它就通过了图灵测试。图灵笔下的“另一个问题”,正是机器能否通过图灵测试。图灵认为,只要机器能够通过图灵测试,我们就应该承认它能够思考。
         《计算机器与智能》自1950年发表后一直备受争议,但是在很长的一段时间内,反对者的驳斥都不过是一些含糊而苍白的陈词滥调。直到30年后,美国哲学家约翰·希尔勒(John Searle)的《心灵、大脑和程序》(Minds, Brains and Programs)才提出能够在逻辑上对抗图灵的“中文房间”实验:完全不懂中文的希尔勒假设自己被锁在一个房间里,房间的外面有一个中国人,两人只能通过门上的一个小口传递纸条。如果房间里有足够多的资料,每一个用中文写成的问题都可以查到对应的中文答案,希尔勒就可以对传递进来的中文字条进行查询,再依葫芦画瓢地写出中文字条,传递出去,和门外的中国人聊天。如此一来,中国人会产生错觉,误以为房间里的人懂汉语。
         依照希尔勒的思路重新看待人工智能,智能机器不过是一个把守着图书馆的蠢货。这个图书馆就是数据库,可以在小小的芯片上收纳一片学海,还可以通过网络实现自我更新。可是,读者无法亲自走进这座了不起的图书馆,所有书籍资料的整理和查询都要由一位神秘的管理员来代劳。这位管理员能从浩繁的卷帙之中迅速找出你想要的某一小段文字,能告诉你科技史上的每一件大事,还能发现畅销文学里最常出现的词汇和句式——图书馆外的读者都以为这位管理员无比聪明。
         然而,倘若图书馆的大门真能打开,所有人都会大跌眼镜,这个管理员就是一个白痴,只不过它动作飞快且眼神敏锐,每天都像闪电一样在资料的大海里为人们翻找信息。但它本身并不能思考,走出了这座图书馆,它连“图书馆”三个字都不认识。
         在图灵眼中紧密相关的两个问题,希尔勒看来完全是两码事。
         又一个30年早已过去,中文房间没有等来强有力的反驳者。有趣的是,科学家和工程师仍然使用图灵测试来验证人工智能的水平。图灵和希尔勒似乎打成了平手,关于人工智能的讨论有了扑朔迷离的意味。
2
         有人说图灵和希尔勒的分歧是科学家和人文学者的分歧。这种说法不是没有道理,但是对于图灵测试和中文房间,还有一种更加简单明了的解读——图灵测试更像黑盒测试,中文房间更像一种白盒式的思考。
         黑盒测试和白盒测试在工程领域都很常见。简单来说,黑盒测试不看系统的内部运行情况,只看运行的结果。“黑盒”就是把系统内部遮住不叫人看见的意思。白盒测试呢,恰恰相反,在测试的过程中,系统内部运行情况需要经受检验。黑盒测试更关注最终的功能,包括使用者有何体验,白盒测试更关注系统能否长期稳定运行,会不会从内部出现巨大问题。
         显然,在“机器能否思考”这个问题上,图灵看的是结果。无论机器里面发生了什么,从结果来看,通过图灵测试的智能机器的确把人类给骗了。毫无疑问,除了陪着人类玩骗人游戏,这样的智能机器还能做很多很多事情,它们有能力渗透人类生活的方方面面。
         可是,就算你给希尔勒配上电子秘书、机器女仆和软件参谋,就算享受了人工智能的一切奇迹,他仍然要告诉你,机器不会思考。智能机器可以三头六臂,可以过目不忘,可以无所不知,这一切都不能证明机器可以思考。从核心原理来看,最简单的数字计算机和高级智能机器人并没有太大区别,只不过前者是一个掌管着小图书馆的寒酸蠢货,后者是一个掌握了大图书馆的土豪蠢货,前者几乎没有机会更新书籍资料,后者可以每日更新好几次。
         没有哪个工程师敢说黑盒测试一定比白盒测试重要。这两者本身就是相辅相成的关系。可惜中文房间只是一个带有反思意味的思想实验,而不是一个可运行的测试,如果这是一个可运行的测试,它一定会和图灵测试一起出现在人工智能的实验室里。
3
         机器能否思考——这个问题一直关乎人工智能的核心。这是一个令人担忧的问题,因为它与“机器威胁论”和“失控危机”直接相关。如果亲耳听到希尔勒坚定地说,智能机器不会思考,相信很多人都会松一口气。
         但这未必是一个轻松的结论。我们似乎习惯了对其他个体的智慧保持警惕,也习惯了不把蠢货放在眼里。这恰恰是一种非常危险的态度。智慧反倒不会制造灾难。事实上,从秦始皇焚书坑儒到纳粹德国驱逐犹太科学家,一旦灾难发生,首先受到重创的就是智慧。假如机器真有智慧,人机之间尚可以站在思想高度进行对话,机器也有可能在人的启发和劝解之下进行反思。可是它们没有。这些蠢货只能在那座看不见的图书馆里重复奔波。它们并不知道自己在做什么,也不知道自己是否闯了祸。它们甚至不知道“闯祸”的真正含义。
         最可怕的是,智能机器不是一般意义上的愚昧,而是一种看上去很像智慧的愚昧。毕竟,站在黑盒之外,人们很容易惊叹于盒子吐出的结果,而忘记追问盒子里的过程。
一个愚蠢而恪尽职守的图书管理员是没有条件犯下滔天罪孽的。然而,如果在图书馆外,对于这位管理员的迷信持续发酵,总有一天我们会把过多的权力交给这个蠢货,让这个走不出图书馆的家伙有机会一本正经地毁掉所有人。
         有朝一日,人类对于机器的智能产生崇拜心理,什么事都以机器的运算结果为准,危机就爆发了。而所谓失控,并不是机器摆脱了人类的控制,而是人类心甘情愿让机器控制自己。说白了,最可怕的不是机器像人,而是人像机器。失控的不是机器,而是我们自己。

最可怕的不是机器像人,而是人像机器。

最可怕的不是机器像人,而是人像机器。
回复

使用道具 举报

共 0 个关于[晋级赛]人工智能:蠢货与图书馆的回复 最后回复于2015-10-5 20:15:38

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2014 蝌蚪五线谱
快速回复 返回顶部 返回列表