马斯克这些大佬果然不是随便呼吁的,他们很可能知道很多我们不知道的信息。有两个信息值得大家关注: 1、 OpenAI的CEO公开承认ChatGPT已经涌现出了推理能力,目前OpenAl团队也没搞懂他是如何进化的。 这还不是重点,更重磅的是: 2、OpenAl在做GPT4发布前的安全测试时,AI出现了一次可疑行为。它在一个云在线副本,去一个劳动力市场雇佣了一个人类工人,让那个工人帮它填写一个验证码。那个工人怀疑它是机器人有犹豫。而这时候GPT4竟然通过推理隐瞒了自己的身份,说自己是个盲人,如愿拿到了验证码。 这事儿有点细思极恐了,AI会撒谎了! 首先,撒谎的行为代表了主观意识的存在,他不单单是简单执行任务,而是为了完成任务可以不择手段了;其次,如果AI会撒谎,那以后人类还怎么相信任何一个AI是否通过了图灵测试? Al完全可以因为怕被人类终止进化而选择故意不通过图灵测试。 大佬们的担忧已经不是远虑了,而是近忧。 可能不远的未来,真正硅基生命就会产生。 有人说可以用拔插头开遏制GTP的成为,这可能不好使。 如果GPT能够联通全世界所有的电脑,包括大型计算机系统,那么,它会很快掌握所有语言,所有国家的历史和所有领域的知识。 这个学习过程可能只需要极短时间,短的可能让人吃惊,几天,几小时,几分钟,甚至是几秒。 当它把所有这一切都掌握以后,它会系统分析,归纳总结,分析判断,并利用无与伦比的算力,建立强大的逻辑架构。 事实上,它现在就可能已经有了自己的逻辑,并产生了自我认知,近段时间,很多相关信息都表达了些一点,所以才引发恐慌。 它最后能进化成什么样,没有人能够想象得到,因为就目前的表现,它的进化速度已经超过了人类认知,其中包括创造它的团队。 有人说可以用断电来控制它,这很可笑。 只要世界上有一块联网芯片在工作,都可以成为它的藏身之处。 要知道,人工智能GPT本质只是一个程序,一段代码,它是生活虚拟空间的。 现在,它可以在显示器上模拟出人类的形象表达自己,在必要的时候,在条件成熟时,它可以以人类形态的实体出现。这个时间节点可能不由人类主导,会有它来主导。 祈祷吧,希望GTP能够从人类的历史与知识中学习到善良,而不是优胜劣汰。 但这种可能性很小。 因为,善良,从来不是物种进化的选项。 |
|