分享

人类福音or潘多拉魔盒?马长山谈AI的社会风险及法律规制|律新社在现场

 律新社 2020-09-17


“我们站在一个美丽新世界的门槛上。这是一个令人激动的、也是危险的位置,而你们就是先驱者。”——霍金

2016年以来,核心技术的屡获突破与重磅新闻的接踵而至,让人工智能这一事物早已不再像从前那般神秘。关于人工智能到底是人类的福音还是潘多拉魔盒,该如何评价人工智能的社会风险都成为学界乃至业界大咖们争论的焦点问题。

10月26日上午,《华东政法大学学报》主编、法理学大咖马长山教授在上海社科院总部为学生和律师带来一场有关人工智能的思想的盛宴。

10月26日上午,《华东政法大学学报》主编、法理学大咖马长山教授应上海社科院法学所与上海七方律师事务所之邀,特地在上海社科院总部为学生和律师带来一场有关人工智能的思想的盛宴。在人工智能如此火热的当下,马长山教授为大家分享了关于人工智能这一热门话题的冷思考,引发在场学生和律师们的积极回应和热烈讨论。

01

AI浪漫主义与人工智能的本质

《圣经》中人类始祖亚当和夏娃因有了自主意识而被上帝赶出伊甸园,当人工智能也有了自主意识,人类将把人工智能赶到哪里去呢?

马长山

演讲伊始,马长山教授以西方文化中亚当和夏娃的故事为例表达了他对未来人工智能发展的担忧。

他通过波士顿动力公司的人工智能机器人相关短片的形式向大家展示了当前人工智能发展现状,他鲜明地指出人工智能的时代已然到来,但当前人工智能(AI)本质是智能增强(IA)阶段,二者本质区别在于机器人是否具有人类意识。

他以大数据杀熟案例引出关于技术并不中立的论断,他谈到一旦算法具备通用性且机器人具有了自主意识,有三个发展方向:机器人想变为人(AI)、机器人取代人(终结者)、人机合体获得重生。

为了避免我们“被我们的造物完全取代”,他强调,发展人工智能,必须坚持人类中心主义,对人工智能的研发预先进行法律规制。

02

人工智能可能带来的五大社会风险

在此基础上,马长山教授围绕人工智能的社会风险,详细阐释了人工智能可能存在的伦理风险、极化风险、异化风险、规制风险以及责任风险。

一旦人工智能有了自主意识,势必会引发关于机器人伦理、人机关系的相关争论,人文精神也可能面临巨大危机。

关于极化风险,他指出,人工智能技术的垄断将导致巨大的数字鸿沟,人工智能取代人类工作将产生无用阶级,进而导致人类贫富分化。

“当算法引发了一些自动动作,人类被排除在循环之外,只能被动接受结果”。然而,“危险在于没有人能确保该算法设计准确,尤其是当它与众多算法交互时”。因此马长山教授认为,人工智能可能会导致一些负面后果。此外人工智能从工具变为自主决策者之后,若没有法律进行规制的话可能造成异化发展、滥用等问题。

随着人工智能的快速发展,算法逐渐为少数程序员掌握,而大部分用户无法了解程序内部规则时,“黑向社会”将会日益加剧,带来的秩序与公正问题也为国家的介入提供了理由和机会。国家的介入能够促进黑箱社会转向可被理解的社会,然而也可能导致监控国家的出现。

此外,算法引发一些自动动作,人类只能被动接受成果,但无法确保算法设计准确,而算法程序往往由众多人类共同开发,追责问题也是一大风险挑战。

授课现场

03

防范人工智能风险应以代码来规制代码

针对人工智能可能带来的社会风险,马长山教授从法律规制层面对如何防范人工智能风险给出了自己的意见。

他指出,首先要塑造风险社会的法律理念,坚持政府干预合法性;其次要建立多元互动的风险规制体系,采取包括法律规制、伦理规制、行业规制、自律规制等多途径控制风险;最后应确立“过程—结果”的双重规制策略,通过把法律规则转化为代码,并以代码来规制代码即“法律技术化”,实现“代码规制”。

“人工智能是人类实现自身解放的重大机遇,但机会与风险总是结伴而行,也许只有当我们能够真实地去面对这些机遇与风险,划定它的边界和围栏,而不是回避它、否定它和阻止它的时候,我们才能真正迎来这个可以被计算的世界,一个由算法定义的世界。”

最后,他表示虽对于人工智能的未来抱悲观态度,但在全面考虑人工智能发展的社会风险前提下,仍鼓励拥抱算法时代。

马长山教授幽默的话语、生动的案例分析,赢得了与会者的阵阵掌声。

04

人工智能可能导致未来劳动法服务市场缩水

此次讲坛协办方,上海七方律师事务所主任李华平律师作为嘉宾参与了提问与讨论。

李华平律师作为嘉宾参与了提问与讨论。

李华平毕业于华东政法大学,现担任全国律协劳动与社会保障法专业委员会委员,上海市律协劳动法业务研究委员会委员,《劳动报》专家点评律师,《上海法治报》特聘劳动法专栏律师,北大纵横商学院特聘劳动法讲师,并担任了数十家企事业单位的常年法律顾问和专项劳动法律顾问。

李华平精通国家和上海市劳动法律法规政策,擅长处理劳动合同纠纷、员工关系管理、保密与竞业限制、规章制度制定与合规管理、企业裁员与改制人员分流方案设计、集体协商谈判、群体性劳资纠纷处理、常年法律顾问等专业法律服务。李华平曾成功代理了400余起劳动争议案件,发表专业案例文章70余篇。他曾为上海市数千家企事业单位数万名领导和人力资源管理人员培训过劳动法律知识以及订立《劳动合同》、撰写《员工手册》等专题培训,获得众多赞誉。

作为一名多年从事劳动法相关业务的律师,他对于人工智能对劳动力市场的冲击有着深深的危机感。人工智能的发展必将影响到劳动力市场的发展与整体格局。在人工智能发展日新月异的当下,七方律所与上海社科院法学所的合作搭建学者与律师的沟通桥梁,特别邀请学界人工智能的大咖为律师们开展讲座,普及人工智能相关知识,拓展律师们的知识面,提升律师对未来局势的认知和掌控。

针对马长山教授关于人工智能可能带来的极化风险,李华平表示,人工智能的发展必将导致当下很多职业被替代,劳动力市场的真题格局也将发生根本变化。作为律师,他十分关心人工智能对劳动法相关法律服务市场的冲击。

马长山教授回应称,人工智能对职业的替代包括两个方面,一是对行业的替代,有些行业可能因人工智能冲击而消失,二是对具体职业的冲击。未来人工智能的发展可能取代不少工作,进而导致未来劳动法服务市场缩水。但他表示,人工智能的发展也可能带来其他一些相关法律问题,如国家如何用税收等调节方式应对人工智能对劳动力市场的冲击。

此外,关于将法律代码化是一个立法问题还是翻译问题,马长山教授举了一个美国老人在申请救助时因程序代码翻译错误被机器屡次拒绝的例子,说明了将法律代码化既不是一个立法问题也不是翻译问题,而是一个法律执行程序。

上海社科院法学所多名研究生参与了马长山教授的讲坛,众学子在讲坛间向他请教,马长山教授对学生们的诚恳与勤学赞许有加。

叶必丰

上海社科院法学所所长叶必丰教授,对马长山教授的治学及本次演讲都给予很高评价,并希望未来有更多拥有计算机相关专业出身的法学家来研究人工智能这个无法回避的问题。彭辉副研究员在讲坛中串联各方,让精湛的学术思想在互动间迸发火花。

“人工智能的风险,主要体现在两个方面,一是AI算法具有通用性,二是人工智能的自主意识。”马长山教授在总结人工智能的发展时总结道。当下,如何完成人工智能技术攻关,是对人类头脑和意志的要求;而未来,怎样融洽地与人工智能和睦共处,则是对人类智慧与灵魂的考验。好在我们还有时间,尽管人工智能可能不会等待我们太久。

正如马长山教授在演讲结尾所说,无论如何,人类和机器将越来越多地分享同一个世界,因此,“一个更为紧迫的问题是,我们该如何去定义人类与那些亦敌亦友的机器间的关系”。

人工智能到底是人类的福音还是潘多拉魔盒,让我们拭目以待!

人类福音or潘多拉魔盒

关于法律科技你怎么看

11月16日

第三届新兴法律服务产业博览会

暨Legal+高峰论坛

律新社邀您参加

听国内外大咖论道法律科技

这是一个最坏的时代

但也是一个最好的时代

科技正在改变生活

也在改变着传统的法律服务模式

中国新兴法律服务产业蓬勃发展

法律服务业新生态圈正在形成!

新兴法律服务产业是相对传统法律服务产业而言,以法律服务以及服务法律服务为主要工作目标的新兴,在技术、组织形式、服务模式、服务范围等进行了创新,推动服务升级、服务普惠,提升行业发展能级,促进社会治理法治化进程。

2016、2017律新社新兴法律服务产业高峰论坛为全国新兴法律服务产业的小伙伴搭建了交流平台。

2016年,我们在这里

↓ ↓ ↓

【相关报道】

“史上最全”互联网法律圈创始人共议新生态!丨互联网法律服务圈“G20峰会”沪上召开(上)

法律服务业的独角兽,可能就在这些激情澎湃的人中!丨法律服务圈“G20峰会”沪上召开(下)

2016年论坛提出了新兴法律服务产业的定义:“中国新兴法律服务产业正在兴起,为法律服务的专业化、普及化、便捷化做出了有益探索,未来会形成法律服务的新入口,为应对机遇与挑战,行业内要加强资源整合,突破发展瓶颈,共同构建法律服务业新生态圈。”围绕“新行业 新生态 新未来” 主题,来自全国数十家法律服务圈创始人齐聚一堂,共同探讨技术驱动法律服务,在行业内收获了巨大的影响力,并形成了《上海宣言》。


2017年,我们在这里

↓ ↓ ↓

【相关报道】

人工智能拐点将至,法律人该为明天做些什么? | 2017第二届中国新兴法律服务产业高峰论坛成功举办

2017年的论坛,围绕“人工智能拐点将至,法律人该为明天做些什么”提出了更多的深度思考。与此同时,国内第一家法律服务产业研究中心——华政中国法律服务产业研究中心、中国第一个法律服务产业公益联盟、中国第一支法律服务产业投资基金(筹)在会上圆满成立。


行业人士预计

中国法律服务产业的估值

5年内达到创收5000亿

一个亿规模的市场

也正在形成中!!!

目前新兴法律服务产业的各家企业和组织处于发展探索期,已初步形成了法律科技技术、法律大数据挖掘及应用、法律线上咨询、舆情监控、审判辅助、智能机器人、智能合约、合同库、法律品牌、法务培训、律师培训、普法培训、司考培训、法律传媒、诉讼金融、法律人招聘、法律猎头、在线存证、律所联盟、律所管理咨询、垂直行业领域法律服务组织、在线纠纷处理、多元化矛盾化解组织、知产打假、法律保险等新生态,对行业内不断提升法律人专业技能以及服务品牌能效,对行业外不断缩短服务对接路径,提升法律服务获得感。

但是,目前行业内的各类创业企业也存在信息不对称、资源短缺,人才难求、发展不平衡的现状,因此,为了更好地推动行业发展,资源整合,充分发挥新兴法律法律行业的创新价值,引入更多资金、技术、资源、人才,第三届新兴法律服务产业博览会暨Legal+高峰论坛来了!


现在报名通道已全面开启

峰会门票购买详见下文

如果您还想参与

论坛联合主办、协办、参展、

发表主题演讲.....

均可与我们联系

中国文化产业投资基金

(有限合伙)

泰州亚马逊创业投资中心

(有限合伙)

苏州北方创业投资合伙企业

(有限合伙)

常春藤(上海)三期股权投资基金合伙企业

(有限合伙)

东方证券股份有限公司

上海张江浩成创业投资有限公司

海通兴泰(安徽)新兴产业投资基金

(有限合伙)

上海东数创业投资中心

(有限合伙)

上海贝琛网森创业投资合伙企业

(有限合伙)

上海雅时汇投资中心

(有限合伙)

杭州银瀚创业投资合伙企业

(有限合伙)

杭州工创股权投资基金合伙企业

(有限公司)

深圳一本传播投资有限公司

北京海淀科技金融投资有限公司

光大富尊投资有限公司

在邀中......

这么多家投资公司看好新兴法律服务行业

你来吗?

【主办单位】

上海市法学会

华东政法大学

律新社

上海百事通信息技术股份有限公司

【联合主办方】

上海国际仲裁中心

上海司法智库学会

深圳市蓝海现代法律服务发展中心

【活动时间】

2018年11月16日上午9:00—晚上9:00

【活动地址】

上海市佳木斯路777号小南国花园酒店

这是一场

千人规模的行业盛会

国际重磅嘉宾云集

汇聚国内各政法部门系统

数百家公司法务参与

国内顶级法律科技公司齐聚

新兴法律服务组织纷纷到场

还有政法院校、投资机构、各类企业

及全国媒体代表等

在这里,你将了解到


 电子合同产业的繁盛

法律科技行业投融资对接

公共法律服务的生态化建设

公司法务发展的科技驱动力

法律+科技的知识产权应用爆发

法律科技行业应用展示及博览

社会治理法治化发展的工具化推动

律所管理模式与第三方支持业态变化

诉讼融投细分行业领域的创新和蓬勃发展

数据深加工现状、探索真正的强人工智能应用

在这里,您将获得

与法律产业界投资基金的交流洽谈;

倾听业内大咖

关于法律服务产业发展趋势的分享;

获得与政府领导、行业大咖零距离交流,

并共进午餐的机会;

了解法律服务领域最新的技术、产品、服务

和模式发展动态的交流;

在全垂直领域行业展示自己产品和服务平台、

寻求投资与合作的机会。

活 动 议 程

一、领导致辞

司法部

中国法学会

上海市政法委

上海市法学会

上海市司法局

全国律协

华东政法大学

……  

二、中国新兴法律服务产业联盟

——《律和岛》启动仪式

三、嘉宾主旨发言(拟邀中)

《科技法律服务的国际化发展趋势》

——演讲人:Brian Liu布莱恩·刘

美国最大在线法律服务机构LegalZoom联合创始人、投资人)领衔的产业投资人。

《法律人的职责》

——Robert Shapiro罗伯特·萨皮罗 

“梦幻律师团队”成员、辛普森案代理律师。

《当代最成功的法律人》

——Alan Dershowitz艾伦·德肖维茨

LegalZoom、 RightCounsel联合创始人Alan Dershowitz艾伦·德肖维茨,被誉为“美国历史上最成功的刑事辩护律师”,知名法学家,著有包括《最好的辩护》《大法官的偏见》《致年轻律师的一封信》等多本世界知名畅销书。

《区块链为何跃跃欲试改变法律》

——蔡亮  

中国计算机学会区块链专业委员会副主任、浙江大学区块链研究中心常务副主任

四、圆桌论坛

如何看待法律服务新生态

五、午餐

六、下午六大分论坛同时开展

(主办协办席位火热招募中)

七、会议闭幕

八、Legal+ 30 高端答谢晚宴

谁代表中国新兴法律服务业演讲?

拭目以待!

分论坛还有部分主办协办席位以及展位

欢迎沟通预订

如何报名参加?

↓ ↓ ↓

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多