２０１６年１２月 洛阳师范学院学报 Ｊｏｕｒｎａｌ ｏｆ Ｌｕｏｙａｎｇ Ｎｏｒｍａｌ Ｕｎｉｖｅｒｓｉｔｙ Ｄｅｃ．，２０１６ Ｖｏ１．３５ Ｎｏ．１２ 第３５卷第１２期 人工智能发展对社会与伦理的影响 魏屹东 （山西大学科学技术哲学研究中心／哲学社会学学院，山西太原０３０００６） 人工智能是在计算机、控制论、信息论、数学、 心理学等多种学科相互综合、相互渗透的基础上发 展起来的一门新兴边缘学科。它借助计算机研究人 类智能活动的规律，并将其用于模拟、延伸和扩展 人类智能。人工智能目前已在指纹及人脸识别、专 家系统、智能搜索、定理证明、博弈、自动程序设 计以及航空航天领域取得了广泛的应用。笔者要阐 明的观点是，人工智能对社会伦理也产生了重要 影响。 一、人工智能的崛起 当数字计算机在２０世纪４０年代研制成功时， 当时的研究者就采用启发式思维，运用计算机语言 编写了能够完成复杂问题求解的计算机程序，包括 能够下国际象棋和证明平面几何定理的计算机程 序。运用计算机处理这些复杂问题的方法具有显著 人类智能的特征，从而导致了人工智能的诞生。 １９５６年麦卡锡决定把达特茅斯会议用人工智能来 命名，开创了真正意义上的人工智能研究。 图灵是公认的智能机理论的奠基人。他的《计 算机器与智能》讨论了人类智能机械化的可能性， 提出了图灵机的理论模型，为现代计算机的出现奠 定了理论基础，比如著名的“图灵测试”在人工智能 研究领域已成为最重要的智能机标准。同一时期， 沃伦・麦卡洛克莱（Ｗａｒｒｅｎ ＭｃＣｕｌｌｏｃｌｉ）和沃尔 特・皮兹Ｗａｌｔｅｒ Ｐｉｔｔｓ发表了《神经活动内在概念的 逻辑演算》一文，证明了一定类型的可严格定义的 神经网络，原则上能够计算一定类型的逻辑函数， 并开创了当前人工智能研究的两大范式：符号主义 和联结主义。 ２０世纪６０年代至７０年代初，人工智能领域有 影响的工作是通用问题求解程序，主要包括：鲁滨 逊（Ｒｏｂｉｎｓｏｎ）于１９６５年提出了归结原理，成为自 动定理证明的基础；Ｆｅｉｇｅｎｂａｕｍ于１９６８年成功研 制了ＤＥＮＤＲＡＬ化学专家系统，是人工智能走向实 用化的标志；奎利恩（Ｑｕｉｌｌｉａｎ）于１９６８年提出了语 义网络的知识表征等。到７０年代，人工智能研究以 自然语言理解、知识表征为主。威诺格拉德（Ｗｉｎｏ． ｇｒａｄ）于１９７２年研制开发了自然语言理解系统 Ｓｈｒｄｌｕ，同时，科尔梅洛（Ｃｏｌｍｅｒａｕｅ）创建了Ｐｒｏｌｏｇ 语言。尚克（Ｓｈａｎｋ）于１９７３年提出了概念从属理 论；曼斯基（Ｍｉｎｓｋｉ）于１９７４年提出了框架知识表 征法；费根鲍姆（Ｆｅｉｇｅｎｂａｕｍ）于１９７７年提出了知 识工程，专家系统开始得到广泛应用。 ２０世纪８Ｏ年代以来，以推理技术、知识获取 机器视觉的研究为主，开始了不确定性推理和确定 性推理方法的研究。Ｅｔ本计算机界推出了“第五代 计算机研制计划”，该计划最终未能实现当初的目 标，即以非数字化方式在日常范围内全面模仿人类 行为，但该计划也为人工智能的进一步发展积累了 很多经验。２Ｏ世纪９Ｏ年代，人工智能研究在博弈 这一领域有了实质性的进展。１９９７年５月１１日， 一个名为“深蓝”的ＩＢＭ计算机以２胜１负３平的 成绩战胜了国际象棋世界冠军卡斯帕罗夫，这举世 震惊的一步大大地振奋了整个人工智能界，而事实 上“深蓝”打败卡斯帕罗夫仍是从专家系统提供的 所有可能的走步中选择最优的，并未有理论上的实 质性的突破。２０１６年３月谷歌设计的ＡｌｐｈａＧｏ连续 三次战胜国际围棋高手李世石，取得人机大战的胜 利，更引发了新一轮的关于人类智能与机器智能高 低以及人工智能对未来人类文明影响的激烈争论。 总之，从科学方法论的角度看，人工智能的发 展有三条途径：结构模拟、功能模拟和行为模拟。 在流派上有人工神经网络、专家系统和智能机器人 三大派别。 二、人工智能对社会的影响 从上述对人工智能发展史的简单回顾可知，人 工智能的研究及应用领域包括问题求解、逻辑推理 与定理证明、自然语言理解、自动程序设计、专家 系统、机器学习、人工神经网络、机器人学、模式 识别、机器视觉、智能控制、智能检索和智能调度 ・１． 洛阳师范学院学报２０１６年第１２期 与指挥等。科学家们在这些领域的研究已经取得了 非常惊人的成果，这些成果也证明了在某一特定方 面计算机可以超越人的能力。尽管人工智能的核心 问题仍旧是跨越人类智能与机器智能之间的鸿沟， 隐私。人工智能对人脑研究的深入，希望通过人脑 思维的运行数据来探知人类的所思所想。２００９年， 日本本田（Ｈｏｎｄａ）国际电气通信基础技术研究所 （ＡＴＲ）和岛津制作所（Ｓｉｍａｚｕ）三家公司公布了其研 制的Ａｓｉｍｏ系列的最新智能机型，该机型已经能够 这一问题仍旧是人工智能不得不去面对而当前尚未 解决的问题，但人工智能的发展已对人类及其未来 探测并解读人脑活动图和脑电波。简单来说，测试 产生深远影响。 首先，人工智能系统的开发和应用已为人类创 造出可观的经济效益。专家系统就是一个例子。人 工智能研究已经对计算机技术的各个方面产生并将 继续产生较大影响。比如人工智能研究中要求复杂 的计算，这促进了并行处理和专用集成片的开发。 随着计算机系统价格的继续下降，人工智能技术必 将得到更大范围的推广，产生更大的经济效益。 其次，人工智能在给它的创造者、销售者和用 户带来经济利益的同时，就像任何新技术一样，它 的发展也引起或即将出现许多问题，并使一些人感 到担心和忧虑。美国科幻作家阿西莫夫１９５０年在 《我是机器人》中提出了“机器人三守则”：（１）机器 人必须不危害人类，也不允许它眼看人类受害而袖 手旁观；（２）机器人必须绝对服从人类，除非这种 服从有害于人类；（３）机器人必须保护自身不受伤 害，除非为了保护人类或者是人类命令它做出牺 牲。虽然这只是科幻作家的希望与理念，但是在人 工智能及认知科学研究中，这样的守则也映射出人 们对人工智能研究的期待与要求。 再次，人工智能也对文化产生了影响。这些影 响包括改善人类知识、改善人类语言、改善文化生 活等方面。当前的网络一代（Ｎｅｔ Ｇｅｎｅｒａｔｉｏｎ）就是计 算机与互联网对人类文化及发展影响的例子。网络 一代（Ｎｅｔ Ｇｅｎｅｒａｔｉｏｎ）这一代是精通互联网的一代， 他们沿着科技进步的轨道，在日常生活的许多领域 都超越了父辈，并且相信他们自己更能促进时代的 快速发展。在人类教育过程中，这一代的思维模式 及受教育方式对以往的文化、价值观教育模式都有 着很大的冲击，同时也对人类的社会进步、经济发 展和文化提高都有巨大的影响。随着时间的推进和 技术的进步，这种影响将越来越明显地表现出来。 当然，现代计算机与人工智能的一些影响，可能是 我们现在难以预测的。可以肯定，人工智能将对人 类的物质文明和精神文明产生不可估量的影响。 人工智能产生的伦理问题 令我担心的是，人工智能有可能侵犯人类思维 ・２・ 者看到某张图片（左手、右手、脚或舌头）后，在脑 中想象这个动作，Ａｓｉｍｏ侦测得到数据，进行分析 和解读，破解出你想象的是哪个动作，并随之做出 相同的反应。这项研究可以看成利用意念控制机 器，也可以认为机器已经读懂人类的想法。那么人 类还有所谓的秘密吗？ 新一代Ａｓｉｍｏ智能机，已经能够根据人类大脑 的运行情况知道人类所思所想，虽然Ａｓｉｎｏ的识别 能力还处于初级阶段，只能够辨识出人类简单思维 活动，但随着研究的深入，人类思维将可能被完全 破解，如果人工智能的发展使得大脑的侦测变得极 其容易，终有一天人们任何所思所想都将完全地反 映在机器中，人类的思维隐私将不复存。 不可否认，科学的研究使人类掌握自然规律、 通晓事物原理，技术的运用使人们的生活更加便捷 和舒适。然而，科学技术给人类带来进步的同时对 人的侵犯也不断加深，能不能做是技术问题，该不 该做是伦理问题，人工智能在探寻人类思维奥秘的 同时个人隐私可能荡然无存。隐私不只是人类尊严 的基础，也是所有其他人权的基础，没有隐私权， 其他权利就无从保证，就根本谈不上自由、民主和 平等。而思维的隐私更是超出日常生活中的信息隐 私范围，它不再仅仅是与羞耻心相关的、与个人情 感相联系的、与个人生活安宁相关的所有信息，而 是人脑中所有的想法、意识、理想、信念等都将会 成为智能机中可以查阅的信息。 这是极其可怕的事情。马克思早就指出，未来 社会是以每个人的自由而全面的发展为基本原则 的，人既是推动社会发展的手段，又是社会发展的 根本目的，如果人脑中的想法都得不到保护，人就 像生活在透视镜下没有安全感，如果这个社会人人 自危，缺乏信任，就会直接影响到社会的稳定与发 展。因此，深入研究人工智能的同时，也要考虑它 将会给人类带来的伦理问题。 （魏屹东，博士，山西大学科学技术哲学研究 中心／哲学社会学学院教授、博士生导师） ［责任编辑尚东涛］