OpenAI 悄悄改变核心价值观惹争议：埋头搞 AGI，其他的都是浮云！
00:00 大小：841.16K时长：04:47
OpenAI 悄悄改变核心价值观，重点聚焦 AGI据外媒报道，最近几周，作为全球领先的 AI 研究机构，OpenAI 正悄悄对其核心价值观做出重大调整，将之前未明确列出的通用人工智能 (AGI) 纳入其中。 据 Semafor 报道，该公司此前的价值观为“大胆”、“深思熟虑”、“朴实无华”、“影响力驱动”、“协作”和“以增长为导向”。这些旧点价值观将被一系列新的价值观所取代、明确将 AGI 列为后续工作的重中之重。
截图来源：OpenAI 官网首页 新变更的价值观主要包括五点：
OpenAI 致力于构建安全、对社会有所助益的人工智能，它将对人类未来产生巨大的积极影响。 与此无关的任何事情都不在考虑范围之内。
创造非凡的事物需要努力工作（通常是不那么吸引人的任务）和紧迫感；我们所做的每一件事都很重要。要谦逊务实，想尽一切办法做切实可行的事。
当在我们的模型、系统、自身、流程以及理想抱负达到一定规模时，就会创造奇迹。当受到质疑时，扩大规模是一种十分奏效的方式。
OpenAI 的技术和产品应当对人们的生活带来革命性的积极影响。
OpenAI 最大的进步和差异化来自于团队内部和之间的有效协作。虽然 OpenAI 的团队有着越来越多的不同身份和优先事项，但整体目标和宗旨必须保持完全一致。凡是归因自身，没有什么问题是别人的问题。 OpenAI 多年来一直表示希望开发 AGI，尽管这种技术的具体细节尚不清楚。在 2018 年发布的一份使命声明中，OpenAI 将 AGI 描述为“在最具经济价值的工作中超越人类的高度自治系统”。 价值观变更惹争议，说变就变也太随意了这一变化引发了人们对这些核心价值观真实性和可靠性的质疑。如果一家企业能够轻松更改其核心价值观，那么这些价值观还能否称得上“核心”？这无疑会激起外界对于该公司在既定目标一致性和承诺方面的担忧。 将“聚焦 AGI”作为公司核心价值之举尤其值得注意。而且，OpenAI 对于 AGI 的解释似乎也仍有含糊不清之处。今年 2 月，OpenAI 的首席执行官山姆·奥尔特曼（Sam Altman）在公司博客文章中写道，AGI 可以广义地定义为“通常比人类更聪明的系统”，但在最近一次采访中，奥特曼似乎重新将 AGI 定义为与普通人类等同的人工智能。 这种 AGI 定义层面的差异，也进一步引发了关于 OpenAI 发展目标的讨论。作为一家随时间推移而不断调整方向的公司，OpenAI 已经从一家专注于打造良好 AI 的非营利组织，转变成一家营利性实体。这种目标转变似乎又反过来影响了其技术定义与核心价值观。 尽管人们对于核心价值观的转变持怀疑态度，但 OpenAI 的未来方向的确已经在就此做出调整。该公司强调将致力于开发安全、有益的 AGI 技术，借此对人类产生积极影响。也就是说，OpenAI 在接下来的经营活动当中将优先考虑与该目标相适应的项目和举措。 在新核心价值观的加持下，OpenAI 明显将投入更多资源推动 AGI 议题。然而，他们将采取怎样的 AGI 定义方式和实现思路仍然有待观察。 网友怎么看？OpenAI 价值观变更一事在 Reddit 上引发了积极讨论，有网友猜测，“AGI 已在 OpenAI 内部实现了”。一些用户认为这种变更很有意思，“看起来 OpenAI 似乎已经弄清楚了如何让自己更加强大，现在只是在寻找人来实际建造它（AGI），新的核心价值观读起来更聚焦。”
截图来源：Reddit 但也有一些用户对于价值观的改变表现出了担忧，一名 ID 为 Freedom_Alive 的用户称：
言外之意，OpenAI 价值观的改变也说明了公司行事风格将会与以前不同了。 ID 名为 Accurate-Ease1675 的用户则表示，“让我有点担心的是，像 OpenAI 这样的公司似乎并不理解价值观、使命、目标和愿景之间的区别。以前的价值观没问题，但修改后的价值观不是真正的价值观。它们是一些雄心勃勃的陈述的大杂烩，如果需要做一些额外的工作来解释这些所谓的价值观。 OpenAI 之前的价值观中有一条是深思熟虑，现在看来，他们压根也没实现这一价值观。 参考链接： https:///en/openai-updates-core-values-to-include-artificial-general-intelligence-agi/ https:///the-byte/openai-core-values-agi https:///intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html 2023-10-16 13:414805 文章版权归极客邦科技InfoQ所有。 |
|
|
