东西问 | 李正风：离开科技伦理，人类会被科技“反噬”吗？

        中新社北京7月20日电 题：离开科技伦理，人类会被科技“反噬”吗？

　　——专访清华大学社会科学学院教授、科技发展与治理研究中心副主任李正风

　　中新社记者 高凯

　　科技伦理治理作为全世界面临的共同难题，越来越为大众所关注。很多影视作品对此做过探讨、想象和呈现，如《黑客帝国》系列、《终结者》系列、《我，机器人》和《机械姬》等。

　　科技伦理如何开展有效治理？离开科技伦理，人类会被科技“反噬”吗？清华大学社会科学学院教授、科技发展与治理研究中心副主任李正风近日接受中新社“东西问”专访，解答这些问题。

　　现将采访实录摘要如下：

　　中新社记者：大众十分关心科技伦理问题，如果不进行有效治理，人类被科技“反噬”的担忧会成真吗？

　　李正风：从全球层面看，科技伦理治理正成为越来越重要的议题。科学和技术的发展给人类带来前所未有的新力量，科技产品本身拥有的能力或功能在某些方面远超人类自身。如果不能善加利用或被滥用就会带来巨大风险。

　　包括电影在内的不少艺术作品中，不乏对这类风险的极端化描述，如技术发展到一定程度反过来控制和毁灭人类。这种可能前景被呈现在大银幕上，引起大众对科技发展及其伦理问题的重视和反思。

　　尽管是艺术创作，但它确实带来警觉和思考。若我们对科技可能产生的后果不加思考和控制，所谓“新力量”有可能给人类未来的生存发展带来威胁，像当前生物技术、人工智能的发展等，存在不同程度、不同方式“反噬”人类的风险。

　　所谓“反噬”是一种较形象的说法，是指人的某种行为或创造物反过来伤害到人自身。“反噬”也有程度的差异，自近代科技革命以来，人们就一直在防范科技成果的不良影响。当科技力量不断增强，这种不良影响可能超出人类整体可控范围，或形成根本性、全局性的影响，“反噬”话题随之为全球共同关注。

　　中新社记者：科技伦理治理被视作全世界面临的共同难题，西方社会如何着手解决这一问题？西方国家与中国的努力有何异同？

　　李正风：科技伦理治理是防范风险非常重要的方面，旨在通过向善的价值观念和相应的伦理规范，引导和约束科技行为。

　　近代科学建制化以来，西方科学技术发展较快，科技先行国家或科技发达国家在科技向纵深发展中先行一步，较早感受到科技发展及其应用可能带来的风险，治理行动也更早。

　　比如，科技伦理委员会在欧美科技发达国家最早成立于20世纪60年代。作为科技伦理治理中比较典型的审查和约束机制，其主要用来评估和审查研究的伦理风险，一旦未充分考虑可能存在的伦理问题，或因伦理风险过大未得到伦理委员会批准，研究后续工作都会受到应有的约束。

　　欧美科技发达国家在科技伦理治理上已形成自下而上较为成熟的系统。但不同发展状态和不同文化背景的人对科技伦理的理解存在差异，治理的重点和方式会因文化传统、制度结构、社会包容度而不同，所以各国建立的科技伦理治理体系也存在差异。从某种程度讲，某个国家认为最好的治理机制，到其他国家不见得仍是最好。

　　中国是科技后发并快速追赶的国家，在文化传统和制度建设上有自身特点，要建立的科技伦理治理体系既要应对当代生命科学、人工智能等新兴科技领域提出的社会伦理问题，也要适应本国发展阶段面临的特殊挑战。

　　中新社记者：今年3月，中国首个国家层面的科技伦理治理指导性文件——《关于加强科技伦理治理的意见》出台，这是继国家科技伦理委员会成立之后，中国科技伦理治理的又一标志性事件。您如何看待中国科技伦理治理的突出特点？

　　李正风：这一文件的出台非常重要，一方面和中国所处的发展阶段密切相关，另一方面也和中国科技伦理治理面临的挑战有关。改革开放以来，中国科学和技术快速发展，比以往更频繁更直接地面对各式科技伦理问题，尤其是前沿问题。

　　中国在2016年提出建设世界科技强国，这和英国在16、17世纪建设成为世界科技强国，以及德国在19世纪逐渐成为世界科技强国的历史背景有很大不同。

　　今天的科技，包括生命科学、信息科技等，更多涉及到以人类自身为对象的研究。而以前的科学家更多是将机械运动或无机世界作为主要研究对象。相对而言，过去科技发展本身引发的社会伦理问题不像今天这么集中，而当下几乎科技发展的每一步都会面对社会伦理问题。中国要在这样的背景之下建成世界科技强国，就必须在科技伦理问题上成为负责任有担当的国家。

　　另一方面，一些欧美国家有比较长的时间探索完善自身科技伦理治理体系，中国科技伦理治理发展相对起步较晚，要在较短时间内建立起行之有效的科技伦理治理体系，一是必须加大科技伦理治理的力度，二是必须形成整体性治理的布局，特别是补足补强治理体系中的短板。中国出台《关于加强科技伦理治理的意见》，标志着国家科技伦理治理真正进入加强整体治理、全面治理的新阶段。

　　对科技伦理治理而言，共同责任意识的塑造也非常必要。比如人脸识别技术产品，如何使用才能不损害公众的隐私权？随着人们对科技发展的伦理意识不断觉醒，有关共识的塑造也有了现实基础。

　　中新社记者：在科技发展全球化背景下，科技伦理问题不再局限于某一特定的国家或地区，您认为全球科技伦理治理面临怎样的挑战，如何共同应对？

　　李正风：全球科技伦理治理面临的突出挑战之一是不同国家不同发展阶段带来的差异，这使得伦理倾销的问题有可能出现。伦理倾销是指在伦理治理系统发展较成熟的国家，一些违背科技伦理规范的科学研究很难进行，但它们却可能被转移到伦理规范不是很健全的国家去开展。

　　当代科技发展的伦理问题具有跨越国家边界和种族界限的外部性。不论生物医学技术、人工智能技术治理，还是数据跨境使用都需要不同国家共同努力，全球相互协作。因此，构建全球科技伦理治理的信任和合作机制非常重要。

　　在此过程中，不仅各国要制定行之有效的规范和制度，也要逐步形成科技伦理治理的国际标准和国际公约，破除狭隘的国家保护主义、民族主义，从人类命运共同体的立场出发，建立全球科技伦理治理中的信任、磋商机制，发挥并集成不同国家的智慧和力量。

　　随着科技不断发展，人们对风险有更深刻的认知后，伦理的规范也在不断和行政管制、法律约束对接，伦理的规范不再完全是软约束。

　　科技伦理治理绝非要阻碍科技发展，而是要把握好科技发展方向，为科技的健康发展清除阻碍。同时，拓宽科技健康发展的道路，让科技真正造福人类。理解科技伦理治理的重要作用，是各国协力构建全球科技伦理治理体系的重要基础。

　　受访者简介：

　　李正风，清华大学科学社会科学学院教授，中国科学院学部-清华大学科学与社会协同发展研究中心主任、中国科协清华大学科技传播与普及研究中心副主任、科技发展与治理研究中心副主任，曾任清华大学社会科学学院副院长、中国发展战略研究会副理事长。中国社会学会常务理事、中国自然辩证法研究会常务理事、中国科学学与科技政策研究会常务理事、科学学研究副主编、Cultures of Science副主编。研究领域包括科学技术的社会研究、科技哲学、科技伦理与科技文化、科技发展战略与政策、科技传播与普及等。