| 共 41 篇文章 |
|
深度 | 神经网络和深度学习简史第四部分：深度学习终迎伟大复兴。深度学习的密谋。每一层都以受限波尔兹曼机器（RBM）开始，就像上图所显示的隐藏单元和可见单元之间并没有连接的玻尔兹曼机器（如同亥姆霍兹机器），并以非监督模式进行数据生成模式的训练。「由Hinton的深度神经网络课堂之一所激发，Mohamed开始将它们应用于语音——但是深度神... 阅2 转自红豆居士 公众公开 18-05-05 18:14 |
乔丹教授在机器学习领域里一个重要的贡献就是关于参数化模型和非参数模型的研究，他认为非参数模型还没有开始发展。然而，使用LDA模型并不比使用HDP模型具有更多的优势，有时候甚至恰恰相反。乔丹教授非常看好非参数模型，他说到“贝叶斯非参数模型刚刚在机器学习领域里点亮了未来，将如同经典的非参数模型有着广阔的舞台和发展前景”。如果这... 阅56 转0 评0 公众公开 17-02-26 20:11 |
Learning About Statistical Learning | Hacker News plinkplonk 2598 days ago [-] I wrote a supplementary blog post to Brad''s ( http://pindancing.blogspot.com/2010/01/learning-about-machin...Reinforcement Learning.(w) Probabilistic Graphical Models: Principles and Techniques (Adaptive Computation and Machine Le... 阅134 转1 评0 公众公开 17-02-26 20:10 |
2007 NIPS deep learning workshop组织者：Yoshua Bengio (Yann LeCun在AT&T时的同事)Yann LeCun(Hinton的博士后)Ruslan Salakhutdinov(Hinton的博士后)Hugo Larochelle(Hinton的博士后)这次workshop恰好是Hinton的60岁生日。组织者：Kai Yu(NEC-lab)Ruslan Salakhutdinov(Hinton的博士后)Yann LeCun(Hinton的博士后)Geoffrey HintonYoshua... 阅391 转0 评0 公众公开 17-02-26 20:08 |
深度学习（十二）从自编码到栈式自编码。当然自编码隐藏层可以比输入层的神经元个数还多，然后我们可以在神经网络的损失函数构造上，加入正则化约束项进行稀疏约束，这个时候就演化成了稀疏自编码了，因此我们接着就说说稀疏自编码。B、比如采用自编码，我们可以把网络从第一层开始自编码训练，在每一层学习到的隐藏特征表示后作为下一层的输入... 阅1475 转11 评0 公众公开 17-02-26 14:42 |
9.1、AutoEncoder自动编码器[转]Sparse AutoEncoder稀疏自动编码器：降噪自动编码器DA是在自动编码器的基础上，训练数据加入噪声，所以自动编码器必须学习去去除这种噪声而获得真正的没有被噪声污染过的输入。9.2、Sparse Coding稀疏编码。然形如主成分分析技术（PCA）能使我们方便地找到一组“完备”基向量，但是这里我们想要做的是找到一组“... 阅63 转0 评0 公众公开 17-02-26 14:18 |
随机森林。R 源代码：library( ”randomForest” ) data(iris) set.seed(100) ind=sample(2,nrow(iris),replace=TRUE，prob=c(0.8,0.2)) iris.rf=randomForest(Species~.,iris[ind==1,],ntree=50,nPerm=10,mtry=3,proximity=TRUE,importance=TRUE) print(iris.rf) iris.pred=predict( iris.rf,iris[ind==2,] ) table(observed=ir... 阅253 转4 评0 公众公开 17-02-26 14:12 |
深度学习阅读笔记（二）之自动编码器SAD.（6）DAE分类：基于稀疏理论的DAE，基于统计理论的DAE，基于鲁棒理论的DAE，基于卷积理论的DAE。采用堆叠编码器进行特征提取首先对堆叠的编码器进行逐层的非监督训练，然后加入一个瓶颈层和一个隐含层用于分类，然后对整个系统进行微调；2）堆叠自动编码器与深度信念网络的区别：DBNs有关的研究包括堆叠... 阅1651 转5 评0 公众公开 17-02-26 14:01 |
所以这就变成一个鸡与蛋的问题: 给定生成权值(generative weights, gene-weights for short), 我们可以学习得到认知权值(recognition weights, reco-weights); 给定认知权值, 我们可以学习得到生成权值.其中神经元k在神经元j的上层, e是学习速率, pj是神经元j被使用当前生成权值的前一层神经元的当前状态驱动时的激活概率.其中qj是神经元j被使... 阅99 转0 评0 公众公开 17-02-26 13:54 |
自联想神经网络是很古老的神经网络模型，简单的说，它就是三层BP网络，只不过它的输出等于输入。DBN神经网络模型。使用层叠波尔兹曼机组成深度神经网络的方法，在深度学习里被称作深度信念网络DBN，这是目前非常流行的方法。然而， 胡邵华等，采用深度信念网络实现了对三维瑞士卷数据的2维表示，其自编码网络节点大小依次为3-100-50-25-10-2. ... 阅2166 转10 评0 公众公开 17-02-26 13:54 |
