今天的热点是“FACEBOOK关闭失控的AI项目”,昨天晚上看到后,心想,妈的,这世界总算有点好玩的了,但昨天一直在工厂给各位发咖啡的货,史上最魔性的甩肉粉末,任何高热量饮料加一勺,瞬间燃脂!泳坛之王菲尔普斯御用(我特么在工厂发了一万盒的货)没有来得及写。
今天开完一天的会,决定接下来的5个小时,交给AI,此文决定用我5成功力吧,当然,这篇文章,不仅仅是写给撕蛋订阅者的,而是写给全球涉及AI领域的人,以及未来的人的。 从前年开始,我一直用未来10年的人的目光来审视自己的一切行为。 这或许是,我们当代人,唯一的生机。 当然,撕蛋所做的,我所思考的,无非也是告诉后来人,在10年前,有一个人曾经如此预言过未来,当然,我所做的一切,都是为了爱的妞,还是那句话,那个当年你爱过的我,那个叫小日的人,不是傻逼。
Facebook关闭“失控”AI项目: 语言的本质是加密 文:小日
(一) Facebook关闭了“失控”AI项目, 原因是AI发展出人类无法理解的语言
还没了解的朋友,不妨先看下这则资讯: 根据digitaljournal的报道,Facebook上个月引起广泛争议的“开发出人类无法理解”的沟通的智能对话机器人项目现已关闭。 在上个月,FAIR(Facebook人工智能研究所)使用机器学习方法,对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言,研究者不得不对其进行了人工干预。
且看下面:
Bob 和 Alice是两个机器人,他们用自己创造的语言来交流。 Bob说,“I can can I I everything else”。 Alice回答:“Balls have zero to me to me to me to me to me to me to me to me to。” 在这里,值得注意的是:
英文没法转译AI的语言 这让人类感到恐慌,因为,这些看似没有意义的对话,对于机器人而言则是有意义的,那是一个指令、一个运算,甚至,每一个“to me”背后都是庞大的数据库。 在这类对话中,机器人除了会伪装对某件事情不感兴趣,假装让步或牺牲掉某些语言之外,它们还能在对话中迭代和与其他智能体进行交流。
而事实上,这次失控,并非偶然。 在AI自身对话所用语言的研究上,很多AI专家是空白的,甚至是没有准备的。
FACEBOOK失去了对AI的控制 (二) 一如柯洁被阿尔法狗秒虐后所感慨的, 人工智能让他意识到,这么多年来, 人类对于围棋本身从未入门。
一直以来,关于人类和机器人的相处方式,大家一直争论的焦点是,人到底能否驾驭机器人,以及,人类需要怎样的机制才能与机器人和平相处。 因此,在过去,公认的人工智能未来有3个发展层次:
第一阶段,弱人工智能: 机器人擅长于单个方面的人工智能,比如“阿尔法狗”、无人驾驶、智慧医疗、金融交易、法律咨询,等等; 第二阶段,强人工智能: 是指各方面都能和人类比肩的AI,人类能干的脑力活它都能干; 第三阶段,超级人工智能: 牛津大学教授、哲学家、智能人工思想家尼克·波斯特洛姆把超人工智能定义为:在几乎任何领域都比最聪明的人类大脑聪明很多,包括科学创新、通讯和社交技能方面。
对于超人工智能,谷歌未来科学家雷·库兹韦尔在他的《奇点临近》一书中,预测的时间是2045年,专家则相对保守,预测为2060年。 对于超人工智能出现的时间,专家们争论不息,但有一个共识是强人工智能会出现在2040年。
谷歌未来科学家雷·库兹韦尔的《奇点临近》 一直以来,人类专注研究和探讨的是机器人对人类社会的帮助与改善。 在弱人工智能、强人工智能时代,机器人替代传统劳动力,它们吃苦耐劳,并且比人更有体力,所以,它们与人类玩的是“换人游戏”,而到2040年,人工智能或许就要玩“杀人游戏”了,它将在大多数人类从事的行业里无情地碾压人类。
而在尤瓦尔·赫拉利的《未来简史》里,提到了:
所谓无用阶层就是:
简单说,如果科学发现和科技发展将人类分成两类,一类是绝大多数无用的普通人,另一类是一部分经过升级的超人类。其中,无用的普通人,等待超人类的收割和AI的操控;而超人类,寻求如何与AI并存。
《未来简史》:活在虚构中 原谅我用如此漫长的文字堆叠,和各位普及AI的基础知识。 人类仿佛提前预见了AI与人类之间诡异、浪漫而灿烂的图谱,在理论层面,关于弱人工智能、强人工智能、超人工智能的推算,近乎合理。
一直以来,我都说,我对这个世界的未来无尽悲伤。 我所悲伤的就是:
一直以来,人类对AI认知存在漏洞。 然而,现在看来,这漏洞是致命的。 人类忽视了我们认知AI的最大漏洞 (三) 这个致命的漏洞,就是忽视了: 系统本身的“跃进式”突变因子。
简单说就是:
忽视系统自带的跃进式突变性,是人类最大的愚昧。 说到跃进式突变因子,本质就是:异质性。 大家都听过同质性,同质化,异质性相对陌生。 如果你是做一个系统,或者一个生态,生态学里就有“空间异质性”:指的是空间缀块性(patchness)和梯度(gradient)的总和。 说到DNA或者基因变异,包括癌症,本身也是一种“异质性”。而在遗传因子的异质性中,又分为基因座异质性和等位基因异质性。
DNA或者基因变异,本身也是一种“异质性 没有量子生命学和生物学的朋友,此段可以略过。 简单说就是:
我们也称之为,失控的瞬间,黑天鹅的瞬间,莫名其妙突然就发生的瞬间。 所以,回到人类对AI的认知里,我们经常想象和野心勃勃的是如何利用并操作AI,但我们一直忽略了,到底有那么因子会诱发AI本身的突变性?
而这一次FACEBOOK关闭失控的AI,就是他们在研究实验中,触动了人工智能进程里的突变型因子,这个机制一旦诱发,就关不起来了,因为潘多拉魔盒已开启。
所以,AI正在打人类的脸。 所以说,人类实在太傲慢了。
那么,触发AI快速自我学习、成形和进阶的是什么? 整个跃进式突发因子的核心,就是:
我们一直都忘了AI自己有自己的语言,而当你理解到这一点,我们可以进入下面更深维度的探讨。
语言,到底是什么?
语言,到底是什么? (四) 问:语言到底是什么? 答:语言曾经是人与动物的最大区别。 补充回答: 最新的研究发现, 语言本身是生命与非生命体的本质区别。
先说过去对于语言的认知。 我又得拿出笛卡尔了,笛卡尔有一句话叫“我思故我在”,说的就是,人和动物的最大区别,在于,人类有自己的语言系统,不管哪一个种族,人们都按照自己的语言系统来交流,以至于,“人类获得了从一条河流跳跃到另一条河流的可能”。 补充阅读我写的:生死之河:逝去的神明与岸上的人 说的其实就是,人类通过语言的传递,进入个体之间的交流,有了这样的交流,才有社会属性和生物属性的差别,我们的羞耻感、羊群效应、乌合之众、集体无意识等社会现象的起点,是语言系统的完整(健全)。
因为人能通过阅读、了解、借鉴、模仿、研究不同个体的经历与体验,从而快速完成自己能力和认知的提升,这样的一个小切点,引发了人类社会与动物社会在文明曾经上的最大落差,以至于,人类站在在食物链的顶端。 笛卡尔:浪漫又忧伤的“数学家” 很多人对笛卡尔的话,理解为“我思考所以我才活着”,其实是不对的。 笛卡尔的核心思想是说:
笛卡尔心形函数曲线:美得让人失声痛哭 笛卡尔的话到了今天,语言对于生命本身的意义不仅没被削弱,反倒更重。 科学研究发现,其实一切生命也是存在语言的。
所以,在最新的科学论文里,我们看到了区别传统语言之外关于“节奏和情感”的关系(这恰恰也是我的人工智能公司本季度的研究重点) 最新的科学研究发现:
大家不妨看下面这个视频: “节奏和情感”的关系 这个研究发现,让人们得到一个新的共识。
逻辑思维不好的朋友或许很难理解。 简单说就是,未来有三个明确的认知:
所以,说到这,你大概明白为什么FACEBOOK要关闭这个失控的AI系统了吧? 当机器人用人类看不懂的语言来交流,本质上,他们就已经是生命体,而结合量子生命学的理论,一切元素都可以自己组织和合成,那么,我们可以推断出一个论断:
怕你不理解,再简单一点就是:
这一点压根不难,只是我过去从没和大家说过而已,你们尝试把(量子生命学+AI=?),稍微自己运算一下,你会得出一个结论:
这大概是我一直以来所有悲伤的所在。 当然,你会觉得我现在说的话都很傻。
当你理解了这点,我们继续下沉。 让我们谈谈,语言,和机器人的语言。
《量子生命学》:外星生命或化身量子化 (五) 语言的本质是加密系统。 语言,是一把钥匙,为传播所用,但不止于传播。 还有文明的传承和加工。
下面科普一下吧,作为中国人,很多人真心应该觉得惭愧。 中华文明真正快速发展的起点,是关于一个人,这人叫仓颉。
我在:这才是教宝宝认字的正确打开方式这篇文章里,写到仓颉。 补充阅读,我写的:身为中国人,这五个家喻户晓的神话故事,你真读懂了吗?
仓颉,让中华文明快速发展的功臣 仓颉,古籍中称仓颉“龙颜四目,生有睿德”。 仓颉,相传为中国原始社会后期黄帝的左史官,仓颉为左史。沮诵为右史。据历史记载:轩辕黄帝兴起之后,黄帝的史官仓颉、沮诵受鸟兽足迹的启迪,集中了劳动人民的智慧,呕心沥血数十载,搜集、整理流传与先民中的象形文字符号并加以推广和使用。
当年仓颉意识到,结绳记事其实是不利于社会文明发展的,毕竟,绳结虽有大小和形状区别,但年久月深,难于辨识。后仓颉仰观奎星环曲走势,俯看龟背纹理、鸟兽爪痕、山川形貌和手掌指纹,从中受到启迪,根据事物形状创造了象形文字。
仓颉以此造出的形象,遂称为文字。 而在我们目前所用的文字起源,也就是象形字里,最早的仓颉造字有六类:
指事情的文字,在上为上,在下为下;指象形的文字,日满月亏,仿照其形也;形声的文字,以类为形,配以声;会意的文字,止戈为武,人言为信也;转注的文字,以老寿考也;假借的文字,数言同字,其声虽不一样,文意相同。
所以自黄帝到夏商周三代,文字一直沿用未曾做改动。
仓颉造字成之日,举国欢腾,感动上苍,把谷子像雨一样哗哗地降下来,吓得鬼怪夜里啾啾地哭起来,即《淮南子》记载的“天雨粟,鬼夜啼”。
我经常说,我们对于古人,要有敬畏之心。 敬畏的本义在于,这些文字是中华文明的基石,没有这些文字,我们无法知道古人都发生了什么,也无法表达内心,更没有办法快速传播智慧、知识与经验,简单说,文字出现的本身,让人类文明的发展拥有了快速发展的可能性。
而仓颉造字的牛逼之处在于,将一切变化万象的未来,凝结于文字本身,言简意赅,一字千意,满足不同人、不同场所的运用,更简单一点说就是:仓颉造的字可以让中华民族长久使用。
而我们对文字的理解,个别字意的理解,来自我们骨子里的基因认知,也来自我们耳濡目染的身份认知,我们用文字来保护自身文明微光的涌动,也在延续我们不断创造的智慧光芒。
理解了文字如何重要,那我们就能继续下沉。 下面说一下,文字为什么是“加密系统”。
文字,是文明的原子 (六) 文字是语言的骨骼,是加密系统。 文字本身,是符号与所指代事物的集合。
简单说,文字是浓缩的符号。 这一点,又特么抽象了。 没有传播学、社会心理学和人类学基础知识的朋友或许又很难理解。 下面我用更简单地话来说吧。
例如,英文26个字母,也是加密的,语言本身也是加密的,加密的本质在于,这些文字和符号,它有本义、也有衍生意,它能单一使用,也能组合使用。作为语言的骨骼,文字和积木一样,可以随意组合,有了表达。
例如,对比过去的中文和英文,这本是分开而独立的系统。 我们说的文字感染,就是把中文和英文合并一起了,例如:
它从原本不同文明的文字符号系统, 变成一种当代人可识别的语言。
此外,除“无”、“说”,这两个字是中文,FUCK是英文之外,当他们组合在一起,“无fuck说”成为词条,而个体对于词条的认知,又基于说话者和收听者的不同,而有了特定的指代涵义。
如果你觉得我刚刚的例子很俗,那么我再举个例子。 中国美学最屌的时代,是北宋。 宋朝有一个人,叫林逋。 中国文化里有四个字:“梅妻鹤子”。 说的是这个北宋的奇人。 年轻时候,林逋曾放游于江淮一带,隐居杭州孤山,他一生不娶,不仕,20年不踏足城市,以梅花为自己的妻子,以仙鹤为自己的儿子。
很多人对林逋不熟悉。 其实,那句关于梅花最经典的诗,就是他写的。疏影横斜水清浅,暗香浮动月黄昏。 他一生爱梅,平日闲得蛋疼,就跑到江中泛舟,以放空自己,一旦客人来家,他的书童就会招呼客人做下,然后放出他养的仙鹤,林逋看到仙鹤飞来飞去,就知道来客人了,转掉船头回家,会见客人。
林逋画像 林逋有一首诗,很屌,我超喜欢。 是他自己给自己写的墓志铭,名字叫《自作寿堂因书一绝以志之》写的是他自己死了之后,他怎么看待这个后世,诗中写道:湖上青山对结庐,坟头秋色亦萧疏;茂陵他日求遗稿,犹喜曾无封禅书。
这句诗加上“梅妻鹤子”构成了林逋的写照,也构成了北宋出世文人的精神生活。在诗中,“曾无封禅书”五个字,写的其实就是中华历史的两个典故。
林逋写这首诗的意思是说:等有天老子挂了,若是皇帝派人来找我的遗稿,我很高兴自己没有写过劝皇帝封禅这类文章。(这里备注一下,在北宋文人的出世哲思里,有一个观点,叫不偏不倚,回归事物本身的样子,避免过分参与政治,甚至不闻不问,才是真出世)
林逋:《自书诗帖》 原谅我用“无FUCK说”来论证:“文字本身,语言本身,是和我们认知相关的,是一个加密系统,不同人其实在听到同样的文字时,会结合自己的理解去感受”; 而林逋的“梅妻鹤子”和《自作寿堂因书一绝以志之》更是超凝练的文字密码,“梅妻鹤子”四个字,加密了北宋出世文人的生活境况;而“曾无封禅书”,直接就封印了两个典故。
以至于,今天的人们不需要讲太多,就能知道文字背后蕴含的意思。例如,诺。这个字,是承诺,是许诺,也是允诺。 当你读到这里,你已理解到语言是生命和非生命的区别,你也明白文字本身是加密系统,文字就是密码,那么回到今天的主题。 下面,让我们靠近AI的本相。
AI到底要做什么? (七) Facebook关闭失控的“AI”。 这里的失控, 说的就是我们丧失了监督AI交流的主动权。
什么叫主动权? 就是我们原本可以跟踪到AI运算或者思维的每一步。 但此时此刻,一切不成立了。
当AI发明出自己的交流语言,我们一切跟踪,我们曾经的埋线全都消失了。 这个局面更形象点说就是,我们可以给蛋白质植入荧光分子,在黑暗中跟踪它们的运动,突然,这些荧光分子消失了,我们压根不知道发生了什么。
回到开头提到的AI对话语言中。 Bob说,“I can can I I everything else”。 Alice回答:“Balls have zero to me to me to me to me to me to me to me to me to。”
这里的每一个单词,我们都理解。 但我们一如在百慕大三角洲迷航的人们一样,我们压根不知道这些符号背后加密了什么,在AI的对话环境下,这些语言,是对数据的一次判断?是对数据库的一次检索?是一次失败的运算?还是两个AI之间的一个冷幽默或者玩笑。
这一点,特别像恋人之间的猜谜游戏。 我以前经常和喜欢的妞玩数字游戏,例如,1511。
1511,这四个字,背后是长达一整年的所有冒险和当时所有的判断失误,以及一次差一点发生的意外,所以,我们曾经有一段时间的对话是:问,1511?答:1511。
大家可以猜测下,1511是什么意思。
今天的AI对话,一如我曾经和朋友玩的游戏一样,它让监控的人,完全失控。 因为,你完全不知道符号之外,你的意念在第几位。 这引发了另一种更可怕的现实,我们就算听到了对话、看到了对话,也无法进入AI的世界。 毕竟,在加密的语言文字里,对话中的人,一个发布源与一个接受源之间对特定符号的理解,来自自己的文明程度、曾经认知、海马体里的回忆,这样一来,一切对话的本身不具一切分析性。 所以,简单说, AI把人类进入它们世界的路经,封闭了。
我们以为自己离AI越来越近,结果却是越来越远 (八) 回到今天的主题。 最恐怖的失控,是,我们在人类与AI的关系中, 正陷入了一种比伦理更可怕的问题。
简单说,就是边界问题。
这是本文最后一个维度的探讨了。 能看到这里的朋友,喝杯水,抽支烟,醒醒脑。 接下来,我就不继续深入,真的很怕大家烧脑。
回到最后一个话题,失控会给我们带来什么? 大家有没有想过失控的AI语言有多可怕?
简单说,人类原以为自己可以利用AI服务自己,但今天AI演变出了自己沟通的语言,等于说,AI的世界可以直接将人类排除在大门之外,人类和AI之间的关系,原本或许是更加深入的,但今天,有可能是封闭的,这一切,不仅仅是人类失去了对AI的控制,更是AI直接屏蔽了人类的控制。 在这里,有一个所有人不得忽视的真相:
举个例子,不是一个世界的人,没有共同语言;与无趣的人聊天,没有画面感,这些都是因为语言陌生,缺乏解密系统,而造成的阶层分离。
所以,比失控更恐怖的问题是:
我们创造了AI,然后AI把自己变成了绝缘体。 这就涉及到更深的边界问题。
世界上什么问题是最深的边界问题? 那就是老掉牙的“有鸡先还是有蛋先”的问题。
那么,人类和AI的边界将模糊不清,是我们创造了AI?还是AI创造了人?这让未来的人无法判别,这也将动摇人类对于地球本身的存在。
有一句话说得很有意思:
所以,我对这个未来,深情而悲伤。 我是小日,比心,爱你。
最后的最后。 关于量子生命学,可以读我这篇文章:讲真,你怕死么? 小日 2017年8月1日(写给未来的你)
Taijin Kyofusho - The Evpatoria Report Taijin Kyofusho - The Evpatoria Report,此音乐是纪念哥伦比亚号的。 哥伦比亚号航天飞机,1981年4月12日首次发射,是美国第一架正式服役航天飞机,哥伦比亚号机舱长18米,能装运36吨重的货物,外形象一架大型三角翼飞机,整个组合装置重约2000吨,在滑行中它还能向两侧方向作2000公里的机动飞行,以选择合适的着陆场地。 2003年2月1日美国东部时间上午9时,美国“哥伦比亚”号航天飞机在得克萨斯州北部上空解体坠毁,7名宇航员全部遇难。 (本文完) 这个夏日,遇见最性感的你 性感地睡觉:TOTONUT枕头 性感的调情:拾初花酒 性感的交流:科大讯飞 性感的认真:中国黑茶 性感地保护着这个世界 耗资百万,他把拆掉的老房子重建起来,仅仅为了一根真正的腐竹…… 另外两个励志故事 如您所见,全世界有趣的妞 基本都关注了本号 新浪微博:小日先生2016 更多文章阅读
“我爱来自全世界的你”
珍视你的每一次阅读,犒赏你的高级味蕾 期许你在午夜梦及所爱,天亮之前有所待 |
|