|
在过去十年，中国互联网各阶层的话语权发生了明显的变化。占总人口2%比例的社会上层拥有70%的互联网话语权，而占总人口60%以上的社会底层，仅拥有1%的话语权。回过头来，我们应该意识到，人们对于新技术的影响总是在短期内高估其社会影响，却完全低估了它产生的长期负效应和不可逆的后果。 在我们探索如何最大程度弥合技术带来的风险与长期的负面影响时，首先不能离开关于技术伦理的讨论。Thoughtworks将“追求科技公平的未来”作为社会使命的最高目标，全球在2018年后持续开启了很多关于技术伦理的讨论。虽然节制人性在新科技的讨论面前十分重要，但是仅仅聚焦在伦理论证本身也有一定局限，如果不去质疑技术的设计问题和社会发展需求的上下文，则无法推动真实有效的进步。因此，负责任技术的提出让我们在技术实践和技术伦理的基础上进一步思考技术的价值，要求我们在追求技术卓越之上，更长远地看待技术专家和技术企业应尽的社会责任。
Thoughtworks 推动负责任技术的三个阶段 Thoughtworks在上个月全新发布了与MIT Technology Review合作的《The current state of responsible tech》研究报告，研究表明，大中型企业在负责任技术相关的议题和实践投资中有较强共性，优先次序依次为可持续发展、数据隐私与保护、算法偏见以及多元和包容。 为了更好地理解负责任技术概念在中国的语境，2022年，Thoughtworks中国区社会影响力（SIP-DEISSC）团队联合CX团队以及安全团队合作开发了《负责任技术的破局之道》在地研究报告。本研究报告的初衷在于探索负责任的技术如何应用于以上四个议题方向的国内实践，尝试进一步抽象出跨议题本身的思考方式来建立个体基础认知、解读领域问题与影响并激发本土创新举措。 欧美对于技术的批判由来已久，无论是《1984》还是卓别林在《摩登时代》展现的机器化工人早已让欧美国家的公众开始警惕机器乌托邦。长达200多年的工业革命带来了西方的繁荣，也带来了更多环境、人口和气候等复杂的全球性社会问题。科技和工业的飞速发展在现实中并没有缓解贫困，反而加剧了经济不公和阶级分化。虽然中国没有经历持久的工业革命，但是过去近30年互联网的飞速发展改变了本土的商业和产业形态，也几乎改变了我们每一个人的生活方式，技术浸染了社会与个体生活的方方面面。尽管如此，与疫情共处的三年中，与技术交织的社会问题被无限暴露：· 上海高龄老人因无手机扫场所码被拒、无法开展核酸检测甚至无绿码不被允许搭乘公交车等，当智能手机成为生活必需，占中国15%以上的老年群体被遗忘；· 拥有自主性的平台并没有带来人的解放，外卖骑手依旧被劳动禁锢，隐型的算法和决策让骑手在劳动过程中不得不“自我剥削”并形成无法改变的平台依赖；· 河南储户因取款难而被随意赋红码，且一律按照防疫政策被隔离，当公权力毫无约束地利用技术进行社会治理时，也同时带来了公众对于技术治理的“反治理”呐喊。· ...试想，如果我们能在产品开发之初考虑到广泛用户群体包括老年人、残障等多元人群诉求，在产品迭代和演进中持续思考伦理要素以及用更为人性的治理视角而非技术控制，这些恶性影响将被降至最低。技术利好推迟了我们对技术副作用的反思，然而当所有行业放缓了脚步，迟到多年的技术反思更显得迫在眉睫。
经行业数据收集研究发现，「不负责任的技术」应用带来的风险与损失仍广泛存在 智能时代不再像工业时代那样，技术更多被认为是理性的工具，因为工业时代中技术是作为“制造”和“使用”的方式；如今，智能技术重塑了人和社会的关系，个人数据的搜集与再利用的过程让人成了技术的延伸，人的主体性消失。而从产品设计之初，到开发、传播、应用技术或监管技术等每个环节也融入了开发者和决策者们所秉持的价值观，人被设计在系统中，在这构建一切的过程中技术从来不可能中立。福柯的“权力-知识”的理论指出，知识和技术不是价值中立的工具，知识的新形式和社会控制的新形式在起源上是相互联系的。以此可见，技术是一种社会控制的体系，它支撑着社会的构建和治理体系，是一种社会关系的体现。技术不但塑造了我们如何认知世界，更塑造着我们生存的未来。
基于Thoughtworks全球对于负责任技术的定义，我们的报告同时参照了联合国互联网普遍性指标模型R.O.A.M-X（即ROMAX原则）。也就是说，在基于人权（R）、开放（O）、可及（A）和多方利益（M）四大原则进行技术开发和设计的过程中，坚持隐私保护、同理心、公平等价值观，从而在交叉的业务议题中找到解题方法和落地实践。 简单来说，负责任的技术是回应技术作恶的命题，虽然技术带来的负面效应不能归咎于技术本身，我们讨论负责任的技术也并不是如何支持或者反对技术。负责任的技术讨论的不仅是技术本身如何承担责任，它探讨的更是技术如何交汇文化、社会的议题，负责任技术的概念更体现了我们对于美好社会和正向价值观的追求。
报告研究的三个阶段 在梳理和聚合议题领域问题的过程中，我们发现负责任技术的纵向影响因素包括了人、技术和实体环境三个属性；体现负责任技术的横向维度则包括挑战思维惯性和打开广泛用户视角，纳入伦理因素至技术实践全流程以及实现多元价值和包容性增长。
负责任的技术：人、技术与实体环境的互构模型 从“人”的角度看，负责任的技术鼓励产品实践者、参与者把人的全面发展或者环境更可持续作为内在需求考虑到早期设计中，才能事先避免技术的带来的负面效应和风险： 挑战思维惯性和打开广泛用户视角：对于实践者来说，个体的价值观和思考方式是一切具体实践的关键起点，如何在早期最大限度避免把人所固有的认知偏见和思维惯性带入到设计和开发中显得尤为重要；对于决策者来说，企业应该看到可以真正代表企业产品终端用户的广泛群体，关注到不同群体的特殊价值而非一味的经济价值。承认每个使用者的尊严和权利，充分保障多方劳动者的利益，并坚持长期主义，才能带来个人和社会福祉的最大化。
以算法偏见议题为例，技术带来的负面影响的因素融入到了从设计到开发的各个环节 从“技术”的角度看，新兴技术会推动社会的前进，如果我们追求一个更加公平的未来，我们应该以公平的原则选择和拥有技术，而不是进一步加剧现今社会中已有的偏见和歧视： 纳入伦理因素至技术实践全流程：新兴技术发展迅速并通常伴随伦理挑战，通过聚焦技术设计和实践中的各个步骤，不但在横向维度的技术流程阶段 ，还需要在纵向维度构筑影响技术走向与呈现利益相关的因子，例如社会舆情、市场和利益相关方等。在横纵相交的节点上明确技术实践过程中的潜在问题和痛点，将公平原则和伦理考量纳入从设计到开发的全流程，降低道德风险，以免出现不可控的风险、侵权或是责任问题，使负责任技术成为新常态。 从“实体环境”的角度看，技术在不同的政策、文化和基础设施条件下都有不同的实践和影响，负责任的技术强调了企业遵守不同文化下的政策合规的底线，更强调了对于经济、社会和环境负责的三重底线原则： 实现多元价值和包容性增长：法律法规通常滞后于新兴技术实践，不同国家的数字经济监管政策又千差万别，算法推荐、平台治理或是AI伦理规范等在不同的国家和地区都正在面临挑战，不同行业因为技术引进又会持续带来监管问题。我们期望通过关注实体环境中市场政策、制度能力、治理框架和学界研究等不同维度，捕捉这些维度中正在凝聚而成的趋势和高潜能话题，持续挖掘负责任技术在其背后的机会点，找到多元价值并实现可持续的、包容性增长。 需要特别注意的是，实施落地举措的过程中虽然可以从以上任何一个纵向因素或横向角度起步，但人、技术和实体环境的三个属性并不独立存在，它们相互依存并互相影响。技术不但成为调节组织、个人与实体环境动态平衡的媒介，它本身又在内外多层次、纵横交叉的复杂环境中承担着重要作用。 总之，负责任的技术必然离不开负责任的技术工作者，面对科技发展所带来不可预测的未来，我们是这场责任唤醒运动中不可或缺的重要角色。站在新的无知之幕面前，我们需要不断探索更公平的人机共生原则，更加小心地将技术融入到我们未来的生活。同时，我们的重要责任不仅是对于技术发展的不断学习和反思，更重要的是，我们应该持续思考如何秉持正向的价值观并将其作为义务嵌入到产品开发和决策的过程。 《负责任技术的破局之道》报告是Thoughtworks立足于中国本土发布的第一份研究报告，在研究的过程中受限于时间、议题广度以及相关学术资料等局限而无法展示负责任技术所涵盖的所有内容。但是，除了Thoughtworks全球范围内的经验丰富的相关领域专家外，我们未来也会继续联手本土的同行、学者和客户持续推动负责任技术在中国的研究和实践，让今天的技术发展更合乎社会价值，让我们的每一个选择更对未来负责。 |
|
|
