|
—————— 建议立法禁止人工智能产生或实施伤害人类的内容 黄璞琳 2022年11月ChatGPT发布后，人工智能再次在全球掀起热潮，成为顶极流量话题。我国继百度发布“文心一言”人机互动大语言模型，阿里、华为、腾讯等科技巨头也纷纷宣布开发类似的人工智能大语言模型。2023年4月11日，国家互联网信息办公室就其起草的《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见。该规章征求意见稿拟将“生成式人工智能”，定义为“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”；拟要求“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的”，均需遵守该项规章。该规章征求意见稿拟规定，“提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗”，并符合相关要求，如，“采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视”，“体现社会主义核心价值观”等等。 人工智能技术发展，有无可能产生“有自主意识”的人工智能？这看起来是个很玄学的问题，既是逻辑问题、技术问题，也会成为法律规则问题。但不管有无结论，在推进人工智能技术发展的同时，我们必须未雨绸缪，必须先行解决人工智能技术的基础伦理问题，确定人工智能技术发展的基础伦理规则。同样地，生成式人工智能技术发展，也务必先行立法确定基础伦理规则，有效而坚决防止生成式人工智能技术产生、输出甚至实施、运行伤害人类本身以及人类社会、法治国家正常运转秩序的内容。 科幻小说家艾萨克▪阿西莫夫通过其机器人系列小说，提出了机器人学四大法则，分别是：（1）第零法则：机器人不可以伤害人类的整体利益，也不可以在人类整体利益遭遇危险时袖手旁观。（2）第一法则：机器人不得伤害人类，或因不作为而使人类受到伤害。（3）第二法则：除非违背第一法则，机器人必须服从人类的命令。（4）第三法则：在不违背第一及第二法则的情况下，机器人必须保护自己。 阿西莫夫笔下的机器人，是非常高级的人工智能。因此，包括生成式人工智能在内的人工智能基础伦理规则，也有必要借鉴阿西莫夫提出的机器人学法则。有必要通过立法等途径，明确人工智能技术不得产生、输出、运行和实施伤害人类本身以及人类社会、法治国家正常运转秩序的内容，并采取底层技术措施在技术逻辑上实现只要相关内容会伤害人类本身以及人类社会、法治国家正常运转秩序，就会自动或者强制终止相关人工智能。 但遗憾的是，国家互联网信息办公室这次发布的《生成式人工智能服务管理办法（征求意见稿）》，未能完全体现落实“人工智能技术不得产生、输出、运行和实施伤害人类本身以及人类社会、法治国家正常运转秩序的内容”之要求。建议在《生成式人工智能服务管理办法（征求意见稿）》第四条增加一项，明确规定：提供生成式人工智能产品或服务，不得产生、输出、运行和实施伤害人类本身以及人类社会、法治国家正常运转秩序的内容。 |
|
|
