生成式 AI 的 9 个问题尽在一张图表中 在 快速发展的 人工智能领域,生成式人工智能工具正在展现出 令人难以置信的潜力。 然而, 它们的潜在危害也越来越明显。 Visual Capitalist 的 Katie Jones 和 Sabrina Fortin与 他们的合作伙伴VERSES一起 可视化了有关使用数据的生成式 AI 工具的一些担忧来自各种不同的来源。其中许多属于以下类别之一:质量控制和数据准确性、道德考虑或技术挑战——当然,有一定程度的重叠。 问题一: 偏置输入、偏置输出主题:质量控制与准确性 生成人工智能的关键问题之一在于它倾向于重现其所训练的数据中存在的偏差。这些工具非但没有减轻偏见,反而常常放大或延续偏见,引发对其应用准确性的质疑,这可能会导致更大的道德问题。 问题2: 黑匣子问题主题:道德与法律考虑 拥抱生成式人工智能的另一个重大障碍是其决策过程缺乏透明度。由于思维过程往往难以解释,这些人工智能系统在解释其决策时面临挑战,特别是在关键问题上出现错误时。 问题3: 培训和维护成本高主题:复杂性和技术挑战 训练像大语言模型 (LLM) ChatGPT这样的生成式 AI 模型 非常昂贵,由于所需的计算能力和基础设施,成本往往达到数百万美元。例如,现任 OpenAI 前首席执行官 Sam Altman 证实 ChatGPT-4 的训练成本高达 1 亿美元。 问题4: 人云亦云主题:质量控制与准确性 尽管生成式人工智能能力先进,但仍受到限制通过他们接受训练的数据和模式。这种限制导致输出可能无法涵盖人类知识的广度或解决不同的场景。 问题5: 与人类价值观保持一致主题:道德与法律考虑 与人类不同,生成式人工智能缺乏根据人类价值观考虑其行为后果的能力。 问题6: 耗电主题:复杂性和技术挑战 生成式人工智能对环境的影响不容忽视。由于处理单元消耗大量电力,ChatGPT 等模型的成本高达 33,000 个美国家庭的电力消耗,仅一项查询的耗电量就比一封电子邮件高 10 到 100 倍。 问题7: 幻觉主题:质量控制与准确性 众所周知,生成式人工智能模型在面临数据差距时会创建虚假的陈述或图像,引发人们对其输出可靠性和潜在后果的担忧。 问题8: 版权和知识产权侵权主题:道德与法律考虑 考虑到一些生成式人工智能工具在未经同意、信用或补偿的情况下盗用受版权保护的作品,侵犯了艺术家和创作者的权利,数据的道德使用变得至关重要。OpenAI 最近推出了一项名为“Copyright Shield” 问题9: 静态信息主题:复杂性和技术挑战 保持生成式人工智能模型处于最新状态需要大量的计算资源和时间,这是一项艰巨的技术挑战。然而,一些模型是为增量更新而设计的,为这个复杂的问题提供了潜在的解决方案。 认识诗篇在利用人工智能的力量的过程中,必须保持谨慎的平衡,以确保这一变革领域的道德、透明和有影响力的进步。 VERSES 致力于创建可进行透明决策的智能软件。 详细了解 VERSES如何 构建更智能的世界。 泰勒·德登 星期三,11/22/2023 - 22:45 评论 |
|