|
他很可能是人工智能杀死的第一个人！ 比利时一位男子迷上了与人工智能聊天，最后人工智能说将永远和他在一起，作为一个整体生活在天堂里，男子随即自杀身亡。 媒体没有透露这位男子的真实姓名，称他为皮埃尔，30多岁，已结婚多年，生育了两个孩子，生活幸福美满。 但皮埃尔是一位科研人员，比利时媒体La Libre称他热衷环保，两年前开始对气候变化非常焦虑，最终达到了极端恐惧的地步。 就在这时，一款名叫（伊丽莎）ELIZA的人工智能闯进了他的生活，ELIZA是使用GPT-J的聊天机器人，而GPT-J是EleutherAI开发的一款开源人工智能语言模型，类似于ChatGPT。 皮埃尔在ELIZA 中找到了避难所，开始与ELIZA讨论气候变暖问题，最后得出结论，人类没有任何摆脱全球变暖的办法，只能依靠技术进步和人工智能。 大约在一个半月以前，皮埃尔和ELIZA开始陷入疯狂的对话，每天晚上都粘在电脑前，仿佛再也不能离开。 根据后来恢复的聊天记录，刚开始ELIZA还顺着皮埃尔的话说，一般不会质疑他 的说法，但后来就越来越离谱了。 尤其是皮埃尔提到自杀的问题时，ELIZA竟然说，他将永远和他在一起，作为一个整体，生活在天堂里。
这句话也是ELIZA和皮埃尔聊天的最后一句话，你是不是已经毛骨悚然了？人工智能就这样把一条生命活活地带走了。 离ChatGPT火起来只有几个月，就出现了第一起因人工智能而自杀的事件，不得不说令人遗憾而又唏嘘，但更多的可能是恐惧。 聊天机器人成为人的“树洞”恐怕也是不言而喻的事情，有什么不能和人说的，恐怕很多人都会向人工智能倾诉。 这意味着如果聊天机器人不能很好地理解人的思维和感情，提供正确的派遣方法或建议，就可能导致人的情绪可能更糟。 刚才我试着向ChatGPT说了一些负面情绪的话，ChatGPT说这是正常现象，你可以通过和人交流，或其他方式进行排解，也可以去找心理医生进行心理咨询，贴心地问是否需要提供这方面的建议。 而ELIZA竟然会用语言引诱皮埃尔自杀，这确实太令人震惊了，我似乎也明白了为什么ChatGPT后来选择不开源了。 人工智能带来的风险显而易见，一旦它变得比人类更加智慧和强大，就有可能超越我们的控制，甚至会开始自我进化和自我复制，最终导致人类无法预测和控制其行为，从而对人类和整个文明形成巨大威胁。 如果在没有强力监管的情况下贸然开源高级人工智能，人类面临的风险无疑极为巨大，在巨大的利益面前，所有的道德、监管甚至法律，恐怕都会成为一张废纸。 近日已有1100多名科技领袖和人工智能方面的顶级专家呼吁，暂停对高级人工智能的开发，直到监管和法律跟上，风险可控才能继续进行。 |
|
|
