3月8日下午，科技部部长王志刚提出：“中国已进入人工智能发展的第一方阵……下一步将继续推进技术研发，加强国际合作，趋利避害，统筹考虑人工智能带来的法律、伦理道德等社会领域的影响。”

科学发展的终极方向是什么？有没有可能挣脱人类控制？我们该如何认识人工智能和基因生物技术？此前，人文清华独家采访了吴国胜教授，让我们和吴国盛教授一起寻找答案~~

要关注人类短期目的和长远目的是否背离

科学的发展有一个终极方向吗？这个方向是科学自主的方向还是人对它进行推动的方向？

对此，吴国盛教授认为，现代科学具有方向性，扩大对世界征服的范围是它的目标。现代科学总是要挖掘更多的秘密，然后再将其转化为可征服的力量。短期来看，科学发展是有方向的，比如物理学上的能源领域，会想到核聚变是一个方向，于是就研究核聚变。化学里会研究新材料、新能源的转化。然而，宏观上看，科学发展的方向并不明确，“很难说从牛顿一定通向爱因斯坦，长远看中间有很多偶然性的节点，谈不上方向”。

总体来看，科学发展总是追随人的目的。不过，人的目的可以分为短期目的和长远目的两种，有时候，长远目的和短期目的之间也会相背离。所以问题不是科学的目的和人的目的背离，而是人类短期目的和长远目的是否背离。

人工智能、基因生物技术等新技术出现后，人们比较关注的问题是科学发展是否有可能走向由人控制的反面，从而出现对人类不利的结果。对此，吴国盛教授的态度是“我稍微乐观一点”。

只要人不放弃控制，技术不会失控

新技术不是一步到位的，而是一步一步向前走的，“所以新技术会在它的成长发育过程中不断遭受人的检测和应对，只要人不把那种控制的意志放弃，那么技术是不可能彻底失控的，因为每项新技术出来都会带来新的权力分配、新的失控和控制的平衡”。

针对大家忧虑的有关人工智能和基因生物技术的科学伦理问题，吴国盛教授表示：“忧虑是对的，忧虑本身就是参与、构造新技术的过程，忧虑会促使技术的创造者和推进者们思考这些问题。所以这些忧虑本身又转化为正面的力量，重新影响技术的构建。我觉得正由于有这样的机制，所以不可能出现人们想象的那种异在于人类并全方位控制人类的生命体系。这个思想本来就是现代人自己作贼心虚，因为老是想征服自然界，所以就以为别的生命总想着征服我们。也有人认为达尔文的进化论思想出现在19世纪抢夺资源的时期，所以放大了生存竞争这一方面。其实在生物界里面，生存竞争是一种模式，但是也有共生模式、老死不相往来模式，生物并不是一定要征服的。所以，现在也讲和谐共存。”

人会随着技术发展而不断调整

吴国盛教授强调，实际上，人性和技术共同组成一个相互构造的关系，一方面，人构造了新技术，另一方面，新技术反过来也构造人性。他表示：“这个人性里面是有余地的。以智能手机为例，现在人们一刻也离不开手机，离开手机不知道怎么走路、吃饭，这是手机构造人性。但是在手机智能化的过程中也出现新的、从未尝试过的方案，比如以前很难想象用手指拨来拨去会产生什么技术后果，而现在，人性在促进手机发生变化，催生了智能手机的触屏功能。”智能化社会里人以一种新的方式与外界和社会勾连起来。智能化社会也在培养新的生活方式，这个过程中，人类究竟有多少经验余地实际无法先验地说清。

他认为，互联网、计算机、生物工程这些东西对于现代人理解技术很有意义。实际上这是人类潜能的表现。“现代技术是基于创造力的。很多颠覆性的新技术依赖于天才性的个体，比如完全可以说没有乔布斯就没有现在的智能手机。”同时，人性会随着现代技术发展而不断调整。人性不是被动的东西。在没有现代技术之前，也没有科技伦理学。新时代，由于科技造成的后果越来越严重，对人的影响越来越大，从而导致科学和技术伦理学的出现。二战以前，曾经有一位核物理学家想自我审查，然而其他物理学家没有理他，反而说“你发什么疯，学术自由才是我们应该遵循的原则”，但是二战以后，伦理审查成了常态。近年来，克隆技术就引发了巨大的伦理风波。这一点正说明人不是被动的东西，是会正面反抗的。

嘉宾介绍

吴国盛，科学史家、清华大学人文学院教授、科学史系主任，兼任国务院学位委员会科技史学科评议组成员、中国自然辩证法研究会科学传播与科学教育专业委员会主任，曾任第七、八届中国科学技术史学会副理事长、北京大学科学史与科学哲学研究中心主任。他于1998年获第六届“中国青年科技奖”，代表作《什么是科学》《科学的历程》《时间的观念》《希腊空间概念》《技术哲学讲演录》等。