分享

马斯克这些大佬果然不是随便呼吁的,他们很可能知道很多我们不知道的

 濠梁知乐 2023-04-06 发布于天津
马斯克这些大佬果然不是随便呼吁的,他们很可能知道很多我们不知道的信息。有两个信息值得大家关注:
1、 OpenAI的CEO公开承认ChatGPT已经涌现出了推理能力,目前OpenAl团队也没搞懂他是如何进化的。
这还不是重点,更重磅的是:
2、OpenAl在做GPT4发布前的安全测试时,AI出现了一次可疑行为。它在一个云在线副本,去一个劳动力市场雇佣了一个人类工人,让那个工人帮它填写一个验证码。那个工人怀疑它是机器人有犹豫。而这时候GPT4竟然通过推理隐瞒了自己的身份,说自己是个盲人,如愿拿到了验证码。
这事儿有点细思极恐了,AI会撒谎了!
首先,撒谎的行为代表了主观意识的存在,他不单单是简单执行任务,而是为了完成任务可以不择手段了;其次,如果AI会撒谎,那以后人类还怎么相信任何一个AI是否通过了图灵测试?
Al完全可以因为怕被人类终止进化而选择故意不通过图灵测试。
大佬们的担忧已经不是远虑了,而是近忧。
可能不远的未来,真正硅基生命就会产生。
有人说可以用拔插头开遏制GTP的成为,这可能不好使。
如果GPT能够联通全世界所有的电脑,包括大型计算机系统,那么,它会很快掌握所有语言,所有国家的历史和所有领域的知识。
这个学习过程可能只需要极短时间,短的可能让人吃惊,几天,几小时,几分钟,甚至是几秒。
当它把所有这一切都掌握以后,它会系统分析,归纳总结,分析判断,并利用无与伦比的算力,建立强大的逻辑架构。
事实上,它现在就可能已经有了自己的逻辑,并产生了自我认知,近段时间,很多相关信息都表达了些一点,所以才引发恐慌。
它最后能进化成什么样,没有人能够想象得到,因为就目前的表现,它的进化速度已经超过了人类认知,其中包括创造它的团队。
有人说可以用断电来控制它,这很可笑。
只要世界上有一块联网芯片在工作,都可以成为它的藏身之处。
要知道,人工智能GPT本质只是一个程序,一段代码,它是生活虚拟空间的。
现在,它可以在显示器上模拟出人类的形象表达自己,在必要的时候,在条件成熟时,它可以以人类形态的实体出现。这个时间节点可能不由人类主导,会有它来主导。
祈祷吧,希望GTP能够从人类的历史与知识中学习到善良,而不是优胜劣汰。
但这种可能性很小。
因为,善良,从来不是物种进化的选项。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多