科技伦理教育任务紧迫，如何在中小学阶段开启科技伦理启蒙？

人工智能、基因编辑、ChatGPT、辅助生殖技术……科技创新的快速发展，使人类在越来越多的前沿探索闯入“无人区”，面临的科技伦理挑战也日益增多。很多人把科学技术比喻为双刃剑和“潘多拉魔盒”，这些新技术在释放技术红利、造福人类的同时，也催生了新的科技伦理风险和科技治理挑战。 

伟大的科技，还要有伟大的伦理。科技创新应守好伦理“大门”，我们要坚持“科技伦理先行”，塑造科技向善的文化理念和保障机制，让科技创新更有温度和力度。把科技向善的文化理念融入我们的教育中，从小培养孩子“科技发展为人类服务”的价值取向，以人为本，做负责任、有诚信、有道德的科研，培养有使命感的科技后备人才。科技伦理视域下，道德成为一种能力要求，科技伦理教育成为一项复杂、紧迫、艰巨的任务。如何在学校加强科技伦理教育？《教育家》杂志邀请多位资深专家进行研讨——

主持人：王湘蓉

《教育家》杂志社副总编辑

涂善东

中国工程院院士、化工装备安全技术专家华东理工大学教授

孙茂松

欧洲科学院外籍院士，清华大学人工智能研究院常务副院长

彭耀进

北京干细胞与再生医学研究院“致一”研究员科技伦理研究中心主任

王惠敏

华东师范大学人类受试者保护委员会主任认知神经科学研究所所长

庞建新

优必选科技副总裁，优必选深圳研究院副院长

议题一：如何在中小学阶段开启科技伦理启蒙？

王湘蓉：

当下，已进入“深度科技时代”，如何在中小学阶段开启科技伦理启蒙？科技伦理教育的本质在于培养科技伦理观，培养以人为本和科技向善的观念是科技伦理教育的核心目的。那么，科技伦理教育的培养路径有哪些？如何建立整体的科技伦理教育体系？

涂善东：

科技伦理的概念要放在科技时代的角度来考虑。作为工科教师，我们积极倡导工程伦理教育，其价值取向与科技伦理是一样的。工程科技的初心是造福人类，工程实践确实改变了世界，但用得好就是正向的改变，用不好就是负面的改变，这就涉及工程伦理的教育问题，作为“全面工程教育”不可缺少的部分，需要嵌入教育的各个阶段。

建议在中、小学阶段做更多的正面引导。可以分三个层次设置相应的活动，一是鼓励学生积极参与公益志愿活动，培养对残疾人、老人、病人、弱者的同情心，提升对社会需求的认知；二是支持学生组织面向弱势群体的社团乃至面向未来技术的研发机构展开活动；三是鼓励学生开发技术，帮助有困难的群体（比如开发智能拐杖、机器人助手、自动洗澡、医工结合产品等)，特别重视帮助穷人的技术，如：便宜的衣、食、住、行、交流的方式和工具，进而可望实现低碳生活方式。通过这些活动，让学生们从小就知道科学技术的根本目的是以人为本、是为了创造人类更加美好的生活。

在大学层面，除了继续中小学的正面教育，还要强调工程风险的案例教学，建立可接受风险和不可接受风险的概念，从而理解工程科技伦理的重要性；应将工程科技伦理嵌入教学和相关科技活动中。我上工程导论课时，常常给学生强调，作为一个工程师，不仅要懂得工程有好的一面，还要懂得工程有可能出现的风险。所以工程师不能单纯谈技术实现，比技术更重要的是道德底线和职业操守。工程所系，社会福祉，人民安康，进入工程及其相关领域，都要恪守工程伦理和职业道德。“公众安全，永在首位；履职专业，精益求精；言行如一，惟诚惟信；进取不懈，矢志创新。”这是我在2015年提出的“工科毕业生誓言”，我很高兴看到，近年来在毕业季到来的时候，许多大学都组织毕业生们以此进行宣誓。

同时，社会公众伦理水准的提高，直接影响我们的科技伦理教育。因为教育不仅仅是在学校，家庭教育也非常重要，社会环境对孩子潜移默化的影响也无法回避。

王惠敏：

学术不端也属于科研伦理的范畴。学术不端行为发生的主要原因是他们没有基本的学术诚信或科研诚信的概念。比如有学生投稿，迟迟没得到答复，未经咨询就默认为期刊拒稿，于是另投了一家期刊，结果两个期刊同时刊发了出来，造成重复投稿。我们学校开设科研伦理课程，就是要告诉学生应该如何避免这种情况。

现在很多学校是用惩罚的手段来处理学术或科研不端行为。其实，我们更应该引导学生怎样做，保证朝着正确的方向，避免去触碰一些红线。目前在学校里，90%以上的学生没有接触过这方面的教育。一定要告诉学生如何才能避免在写作中发生类似错误，而不是只靠查重界定。孟子曾提出，诚者天之道也，诚之者人之道也。中小学教育就要给学生灌输学术诚信的观念，让学生形成一种习惯。在讲学术诚信时，要把学术或科研诚信的核心价值观传递给学生，包括诚实、开放性、公平性、可靠性等。不仅要对学生进行科技伦理教育，我们的老师和校长也要补上这一课。

彭耀进：

目前，大多数教育从业者尚未将科技伦理纳入科技研发和教育过程中，其中一个重要问题是没有为科研人员提供科技伦理教育。如果一个实验室的负责人高度重视科技伦理，那么实验室的其他工作人员和学生也会重视。伦理争议是科研过程中固有且不可避免的。我们需要认识到科技的双重性，在推动人类社会发展的同时，也可能引发潜在的伦理争议、社会风险和法律冲突。

将科技伦理教育融入科研和知识教育过程中，需要我们不断反思潜在的社会影响和伦理问题，而非提供绝对标准的答案。通过教育，我们可以培养学生的批判性思维和信息素养，鼓励他们参与现实世界中可能涉及伦理和政策讨论的话题。

因此，我们需要创造一个良好的环境氛围。一方面，应当加大对于有违伦理的科研行为的惩罚力度，以表明对伦理准则的严肃态度。另一方面，应加强对负责任创新的科学家的鼓励和保护。我们应该总结那些在科技伦理方面树立了典范的科学家经验，同时推动我国科技伦理教育机制和环境的完善。只有这样，我们才能够实现科技与伦理的和谐发展，并确保科技创新为社会带来更大的利益。

议题二：当前科技伦理教育的困境有哪些，如何突破？

王湘蓉：

培养学生的科技伦理观念是一项重要、紧迫、艰巨的教育任务，在教学中，如何培养学生的科技伦理素养？当前科技伦理教育的困境有哪些，如何突破？

王惠敏：

欧美非常强调公众参与，在社会层面上要加强科技伦理教育的宣传或者科普工作，可以利用一些媒体、博物馆、展览馆等让公众有更多的了解。我们国家现在有一些比较大的项目，像脑计划或者新药开发的大项目可以多跟公众介绍，也更容易得到公众的理解和支持，对一些新的科学技术的开发都能够得到大家的支持，同时把伦理概念传输给老百姓。技术不可避免地会带来个人隐私泄露的问题，以及人的身份认识，科技伦理并不仅仅是为科技发展保驾护航，还应该跟科技同时发展、同时进步。科学技术发展所涉及的伦理问题，应该是伦理学家、科学家、法律学家一起去做研究，我们的很多教育，还要基于我们把最新的研究成果跟最新的科学进步同时传授给所有相关人员。

庞建新：

很多人问，人工智能，未来会不会取代人？会不会造成严重的失业问题？我们在做人工智能教育时，应该树立什么样的价值观或者基本准则。一是让大家了解人工智能或者机器人技术发展的历史，对人类带来了正向的作用；二是要懂得去判别人工智能，给大家带来的好处与坏处；三是要懂得如何应用人工智能技术去解决生活中的各种问题；四是要鼓励或者倡导用人工智能的技术和机器人技术为我们的美好生活做贡献。

现在对于人工智能新技术，有一些负面的口径。我们在做技术时，面临很多挑战。现实生活中有很多人工智能将超越人类、人工智能会使人失业、机器人未来要杀人等负面宣传，电影、电视中大量的宣传，比如星球大战、终结者等，无限放大机器人的能力，这种影响已深入人心，使很多企业在市场宣传推广时遇到很多困难，在市场宣传教育上花费的精力也会更多。人工智能技术给人类带来的正面影响很多，比如给人类社会带来进步、给大家生活带来便捷。同时，可能引起风险的部分，可以通过技术的进步、规范使用流程和法律手段去抑制。

科技伦理的发展进度跟技术发展是有落差的。现在技术发展的速度超过了法律、伦理道德，以及人们的认知，很容易失控。要解决这个问题，只能依赖于行业的自律、从业者的自律，这就对教育提出了很大的挑战。

议题三：我们应该教育学生坚守什么样的伦理价值？

王湘蓉：

面对科技产品的各种不确定性，我们该如何解决科技伦理教育的问题？在这样的实践背景下，我们应该教育学生坚守什么样的伦理价值？人工智能在各领域，尤其是教育领域应该如何合理运用？评判的标准是什么？

庞建新：

大家提到机器人，我们突出人的属性，但实际上是中文翻译的问题。机器人（Robot）是一种能够半自主或全自主工作的智能机器。我们做机器人的时候，也会有很多伦理上的挑战。比如美国一个老太太因为孤独把亚马逊的智能音箱作为自己的伴侣。日本一些年轻人跟机器人结婚。大家就会思考这个问题，AI机器人跟人的关系是什么？现在出生率本身就很低，大家结婚的意愿也很低，未来大家不愿意跟人结婚了，跟机器结婚，是不是会对人类文明产生巨大冲击，所以需要从更高维度去理解，就是人类跟人工智能的关系到底是什么？是应该授予它权利，还是只授予它义务？对行业的发展会带来什么影响？我们希望把机器人当成我们的家人吗？

20世纪80年代比尔·盖茨提出要让家家户户都有机器人，让机器人成为家庭成员、家庭的管家，机器人是人们忠实的伙伴。那么从这个意义上说，机器人一旦被确认是人，就要给他权利与义务，赋予他充分的信任。作为企业来说，科技伦理是让我们的科技创新能够为人类社会服务，创造更多正面的价值，非常重要的就是要自我约束。技术的发展肯定会超过规则、法律的发展，很多时候要靠自我约束。

孙茂松：

近几年国际上高度重视人工智能伦理规范。人工智能可能会导致人类文明形态发生变化，这就必然会产生伦理问题。2012年以来，人工智能在一些比较专用的领域取得了成功，比如人脸识别等，引发了关于科技伦理的初步讨论。而2022年横空出世的ChatGPT代表了通用人工智能的新发展，机器已经掌握了相当高的人类语言能力，更是把人工智能伦理推到了迫在眉睫的地步。形势逼人，我们必须有所动作。如要尽快把国际上和国内已经形成的人工智能伦理的若干共识审视、凝练并发布出来，加强宣传。再如应在大学本科教育、研究生教育中开设科技伦理课程，向学生讲授人工智能伦理的基本原则，加强引导。

目前在人工智能伦理具体问题的界定上，还是不太明确。这方面需要搜集、整理一批典型案例，由人工智能专家和伦理专家一起界定出在人工智能各类具体实践和应用场景中，哪些做法是适当的，哪些又是有违科技伦理的，从而把科技伦理的基本原则具体化，增加其可操作性。比如，通用人工智能对数字经济带来的巨大助推作用将是十分显著的，但其可能带来的负面影响也特别明显，是一把锋利的双刃剑。这其实是智能工具所具有的本质属性，它能在智力层面帮助人类，但同时也可能以一种不恰当的方式介入人类社会，这就需要我们努力发挥它的长处、谨慎规避它的短处。

对智能工具，应该教育学生树立正确的使用观念，而不能简单地禁用。我们讨论科技伦理问题，目的是让科技更好地为人类服务。特别是人工智能，作为人的智力延伸，更好地造福于人类，在这个过程中，我们需要规范好人和机器之间的关系。

彭耀进：

我们绝大部分的科研其实是有一定的底线共识的，但是有一些很难去明确划分界限。在一些具有伦理争议性的科技领域，在进行科研时，我们就需要遵守一系列程序性规范，其中包括法律法规及标准。我们在做科研时，许多方面都涉及程序性伦理问题，例如在研究开始之前获取生物材料时需要知情同意和伦理审查，在研究过程中要遵守什么规范、原则、做到什么程度应该把实验停下来，国内、国际合作时，当注意什么，都涉及程序性的伦理问题。

另一个重要原则是公平公正。在科研初期，就应考虑所开发的技术或产品是否能够造福更广泛的人群。

2023年3月，在伦敦举行的第三届人类基因组编辑国际峰会上，公平公正获取的问题是讨论最多的话题之一。例如，在基因治疗领域，癌症的基因治疗方法非常昂贵，如何解决高昂的费用问题成为人们关注的焦点。解决这个问题可以从技术层面着手。

此外，还需要平衡收益和风险，进行风险控制。新兴科技的特点之一就是不确定性和风险。面对各种不确定性，我们应以负责任的态度推动科技的发展。同时，科学家、伦理学家、法学家以及公共政策制定者等不同主体应共同参与和协同治理，这是一种非常重要的理念性改变。科技伦理教育的核心在于向公众或社会群体传授两类知识，一是科学知识，二是与科技伦理相关的知识，以提高整个社会的科技伦理意识，推动高质量和可持续的科技发展，最终增进人类福祉。

王湘蓉：

今天我们谈了科技伦理教育的问题，各位老师都对科技伦理教育表达了自己独到的观点，包括一些共识性的观点。科技伦理问题已经引起了各界的重视，从小在孩子的心中种下正确的价值观，未来我们的科技伦理治理体系会更加规范、完善，从而实现科技向善，让科技更好地为人类服务。

—  END  —

来源 | 本文刊于《教育家》2023年6月刊第4期，原标题《加强科技伦理教育，让教育更有温度和力度》

编辑 | 邢晓凤

设计 | 阳晓

统筹 | 周彩丽