扫码立即加入《欧盟人工智能法》课程 一、问题概述 开发生成式AI可能非常昂贵,可能耗费高达数千万美元,大多数企业和组织选择采用第三方生成式AI工具或使用自己的数据微调这些模型。一般问题和商业风险包括:
这个问题列表不是详尽无遗的,还有许多其他挑战,包括训练和使用生成式AI的能源密集性质。 许多国际组织,如联合国教科文组织、经济合作与发展组织,已经发布了关于负责任使用AI的一般原则性指导。企业和组织应考虑实施员工政策和生成式AI培训,以鼓励负责任的实验和使用。 二、生成式AI及IP 生成式AI有许多知识产权不确定性。虽然完全减轻这些知识产权风险是不可能的,但以下考虑可能对企业和组织在这一不断发展的技术领域中导航知识产权考虑有用。 三、机密信息 机密信息是不公开的、可能有或可能没有商业价值的、以保密方式传达的、并得到合理保护的信息。它包括商业秘密,这是一种由于其秘密性质而具有(潜在)经济价值或提供竞争优势的机密信息。 使用生成式AI工具的企业和组织可能会无意中泄露商业秘密或放弃商业敏感信息的保密性,如果这些信息被用于训练或提示AI工具。他们应考虑实施一系列技术、法律和实际保障措施,以防止这种情况发生。 说明:风险与缓解措施并非一一对应关系。
四、IP侵权 许多生成式AI工具是在受知识产权保护作品的大量(有时是数十亿)训练下进行的。有多个正在进行的法律纠纷声称,使用这些作品来训练AI、训练的AI模型及其输出是知识产权侵权。这些案件主要集中在版权和商标上,但理论上,其他知识产权也可能涉及,如工业设计、数据库权利和专利发明。 AI工具、其训练、使用和输出是否代表知识产权侵权存在重大法律不确定性。答案可能因管辖区域而异。企业和组织应考虑通过使用符合知识产权的工具,尽可能寻求赔偿,审查数据集,并实施技术和实际措施来减少侵权的可能性。
五、开源义务 AI生成的代码可能受到开源义务的约束。当一个软件应用程序或代码是开源的,意味着源代码对公众可用,并且用户通常被授予某些权利和自由来使用、修改和分发软件。然而,这些权利和自由伴随着用户必须遵守的义务,例如归属,这些义务根据管理软件的特定开源许可证而变化。 企业和组织应考虑这种风险是否适合他们的代码,调查潜在的赔偿,并实施技术和实际措施来减少开源义务产生的可能性。
六、深度伪造 在许多国家,肖像和声音受到保护,尽管这种保护并没有统一。保护形式包括一些知识产权(例如在普通法国家中的假冒),不正当竞争法,人权,宪法权利和公开权。 生成式AI有可能模仿特定人物的肖像或声音,有些工具专门为此目的设计。企业和组织应考虑与这些能力相关的风险。
七、AI输出中的知识产权和所有权 目前尚不清楚,由AI工具生成的新内容,如文本、图像或其他创意作品,是否可以受到知识产权的保护,如果可以,谁拥有这些权利。即使AI输出没有知识产权保护,也可能有合同条款规定其使用。生成式AI输出中知识产权的存在和所有权不明确。 企业和组织应在输出的知识产权所有权方面寻求合同上的明确性,并考虑仅在AI输出的知识产权所有权对其商业模式不是关键的情况下使用生成式AI。
八、检查清单 企业和组织可以使用许多措施来促进负责任和合法合规的使用生成式AI。以下清单对于希望建立负责任的做法并导航这个快速发展领域的企业和组织可能是有用的。 员工政策和培训 1. 实施员工政策和培训,指导适当使用,并鼓励负责任的实验和使用生成式AI,包括: 2. 了解生成式AI相关的机会、风险和局限性。 3. 避免在提示中使用机密信息。 4. 限制对使用商业秘密训练的生成式AI的访问,仅限于有权访问该信息的员工。 5. 避免在提示中使用第三方知识产权,以最小化侵权输出。 6. 避免使用“深度伪造”生成式AI工具。 风险监控和风险档案管理 7. 监控案例法和法规的变化。 8. 根据不断变化的风险和法院决定定期评估和更新政策。 9. 向业务明确传达法律风险,根据业务风险偏好采取实践。 10. 维护AI工具列表,根据风险档案进行分类,例如所有员工都可以使用的工具的白名单,使用机密信息的受限工具,以及禁止使用的工具。 记录保存 11. 考虑记录AI工具是如何训练的。 12. 要求员工标记AI生成的输出,并保留使用的提示的记录。 13. 记录人类在创作过程中的作用。AI工具评估 14. 审查外部采购工具的条款和条件(包括那些在内部数据上训练的工具),以 15. 了解提供商是否存储您的提示。 16. 了解工具所训练的数据。 17. 寻求使用适当许可或公共领域训练数据的工具,或具有防止使用受保护数据的技术保障措施。 18. 确定提供商是否提供针对知识产权侵权的赔偿以及条件是什么。 19. 由信息安全专家审查和监控生成式AI工具。 20. 探索在本地或私有云上存储的私有生成式AI工具,以增强控制和保证。 21. 从提供商那里寻求关于机密信息的适当保护和保证。 数据评估 22. 在训练AI时审查数据集,并考虑知识产权所有权和许可覆盖范围。 AI输出 23. 检查生成式AI提供商关于输出中的知识产权和所有权的条款。 24. 在使用输出前检查知识产权侵权。 25. 将人类输入和创造力与AI输出整合,以保持对输出所有权的控制。 26. 建立关于输出所有权的协议。 27. 记录人类在创作过程中的作用。 28. 获得必要的同意和许可,以合成某人的声音或肖像。
|
|