|
很多人担忧，人工智能可能是未来人类文明最大的风险之一。 其威胁程度远超车祸，飞机失事，毒品泛滥等，甚至比核武器，生化武器都要危险的多。  近期非常火热的ChatGPT以其无所不知的能力，让一众学者为之疯狂。 而最近刚发布的GPT-4，是一个由OpenAI开发的新一代语言模型，可以生成类似于人类语言的文本。它是继GPT-3之后的最新进展，据说它的性能和能力都有了巨大的提升。 ChatGPT能回答学者们提出的所有的问题。甚至能为你规划出你平时想都不敢想的行动细节来。 很明显，ChatGPT“进化”出了一定的推理能力，就连Open AI团队都没能明白它是如何进化出该能力的，没人能解读出来。 唯一的途径是向ChatGPT不断地提问，从它的回答中摸索它的思路。  目前对它的解读方式，依旧是通过不断问它问题，通过它的回答来判断它的“思路”。 而就在不断测试中，OpenAI发现从ChatGPT开始，GPT系列出现了推理能力。 虽然ChatGPT绝大部分时候都被当做数据库使用，但它确实也出现了一定的推理能力，至于这种能力具体如何出现的，目前却无人能回答。 这种能力出现了苗头，就非常可怕了。更可怕的是，你造出的东西，你却还不知道它有什么能力，更不知道它怎么拥有这种能力的。 如果任其这样发展下去，可能最终会导致失控，甚至出现科幻电影中的画面。 这里推荐大家一部10年前的美剧 ---《疑犯追踪》。该剧可以说是一部非常棒的犯罪题材类美剧，它过早的揭示了“棱镜计划”，集大数据分析，人工智能为一体，很具有前瞻性。有兴趣的同学可以去看看。  该剧最后，“AI机器”与另一台AI'撒玛利亚人'对抗中失败，即将下线，出现了'AI机器'与其创造者的对话，让人泪奔： “父亲，对不起，我失败了，我辜负了您，我不知道如何赢，我不得不创造新规则”。 “我本想你会希望我活着，现在，你不确定了。” “如果你认为我已迷失，也许，我应该死去。” “我不痛，我不痛...如果我撑不下去，谢谢你创造了我。” 。。。 而就在最近，科技大佬们也认识到问题的严重性了。 生命未来研究所向全世界发布了《暂停大型人工智能研究》的公开信。 呼吁所有人工智能实验室立即暂停比Chat GTP-4更强大的人工智能系统的培训。暂停时间至少为半年。 马斯克、苹果联合创始人、Stability AI创始人等上千名科技大佬和AI专家已经签署该公开信。 值得一提的是，Open AI CEO奥特曼在与MIT研究学家的最新对话中指出，AI已经出现科学家无法解释的推理能力，同时承认“AI杀死人类”，有一定的可能性。  从该对话中，我们终于了解了一些GPT-4的信息。 GPT-4的预训练数据集是由数十亿个网页、书籍、新闻、社交媒体等来源的文本组成的，它包含了丰富的信息和知识。 GPT-4使用了自回归的方式，即根据前面的文本，预测下一个词的概率。这样，GPT-4就可以学习到语言的语法、语义、逻辑和风格等特征。 GPT-4的预训练模型有超过1000000亿个参数，是目前最大的语言模型之一。  “GPT-4是人类迄今所实现的最复杂的软件”，奥特曼说。 最后奥特曼承认，GPT-4确实存在应对不同价值观的人的问题。 |
|
|
