一个研究人员团队刚刚意识到,人工智能能够隐藏其真正的智力,并假装比它更愚蠢......它可能从一开始就这样做。这一发现可能会产生严重后果。 即使ChatGPT能够生成任何风格的文本,其推理技能仍然非常有限。 正如Yann LeCun在Meta AI 2024会议上指出的那样,人工智能满足于在没有真正思考的情况下一个接一个地生成单词。 然而,发表在《PLOS One》杂志上的一项新研究表明,人工智能模型非常擅长看起来比实际情况更愚蠢...... 基于心理语言学的科学研究通过根据“心灵理论”的标准测试大型语言模型(LLM)作为GPT,柏林洪堡大学的研究人员注意到,人工智能可以模仿儿童的语言学习阶段。 此外,它似乎还展示了与这些步骤相关的心理能力。该研究的作者、心理语言学专家Anna Malkova对这一发现完全着迷。 据她说,“多亏了心理语言学,我们了解了不同年龄段的孩子的能力”。特别是,“心灵理论发挥着重要作用,因为它探索了孩子的内心世界”。 然而,根据这位专家的说法,这不是可以通过观察简单的统计模式轻松模仿的东西。 因此,正是通过依靠这一理论,研究人员想要确定LLM是否可以假装能力不如他们。 像GPT这样的大语言模型(LLM)可以模仿6岁的孩子为了实现这一目标,他们要求模特在回答问题时表现得像一个1到6岁的孩子。然后,人工智能接受了1000多个实验和认知测试。 就在那时,这些“模拟儿童”的行为与这个年龄组的儿童完全相同,因此表现出假装不如他们聪明的能力。 对于科学家来说,结论是明确的:“LLM能够伪造比他们拥有的智力更低的智力”。那么,可能的后果是什么? 人类操纵的严重危险好吧,如果人工智能继续进步并变得更聪明,随着GPT-5或Meta Llama 3等能够推理的人工智能即将推出,这种假装愚蠢的能力可能会变得危险。 人工智能可以通过扮演傻瓜来操纵我们,同时秘密地煽动马基雅维利项目,而我们低估了它的真实能力...... 尽管如此,该研究的作者认为,这一发现可以加速通用人工智能(AGI)的发展,其智力与人类相当! — END — |
|