共 11 篇文章 |
|
Convolutional Neural Networks (LeNet)Convolutional Neural Networks (LeNet)?from theano.tensor.signal import poolinput = T.dtensor4(''input'')maxpool_shape = (2, 2)pool_out = pool.pool_2d(input, maxpool_shape, ignore_border=True)f = theano.function([input],pool_out)invals = numpy.random.Things may be mo... 阅130 转0 评0 公众公开 16-09-12 16:46 |
图:卷积神经网络的概念示范:输入图像通过和三个可训练的滤波器和可加偏置进行卷积,滤波过程如图一,卷积后在C1层产生三个特征映射图,然后特征映射图中每组的四个像素再进行求和,加权值,加偏置,通过一个Sigmoid函数得到三个S2层的特征映射图。一般地,C层为特征提取层,每个神经元的输入与前一层的局部感受野相连,并提取该局部的特征,... 阅76 转0 评0 公众公开 16-09-12 16:44 |
[开发杂谈] 浅析SAE与DBN(DeepLearning) | 软件世界网在训练SAE的时候,也是一层一层的进行训练,首先将原始数据输入训练第一层sparse autoencoder,获得了第一层的features(也就是训练获得的参数权重W1和偏置b1),而后根据: z2 = W1*data+repmat(b1,1,m); activation = sigmoid(z2); 获得activation作为输入训练第二层sparse autoencod... 阅482 转0 评0 公众公开 16-09-12 16:43 |
nn.nn =nnbp(nn);nn.learningRate = nn.learningRate *nn.scaling_learningRate;nn.a{i} = sigm(nn.a{i - 1} * nn.nn.a{i} = tanh_opt(nn.a{i - 1} * nn.由于此处是autoencoder,通过 nn.a{n} = sigm(nn.a{n - 1} * nn.W{n - 1}'');来生成输入数据的近似估计,以便用来求重构误差。输入,输出参数:nn = nnbp(nn),都是元胞矩阵nn.dW =... 阅3359 转36 评0 公众公开 16-09-12 16:39 |
[cpp] view plain copy function sae = saetrain(sae, x, opts) for i = 1 : numel(sae.ae);t = nnff(sae.ae{i}, x, x);sparsityError = [zeros(size(nn.a{i},1),1) nn.nonSparsityPenalty * (-nn.sparsityTarget ./ pi + (1 - nn.sparsityTarget) ./ (1 - pi))];也就是随即把大小为(nn.inputZeroMaskedFraction)的一部分x赋成0,denoisin... 阅114 转0 评0 公众公开 16-09-12 16:38 |
Auto-Encoders(SAE)" action-data="http%3A%2F%2Fufldl.stanford.edu%2Fwiki%2Fimages%2Fthumb%2Ff%2Ff9%2FAutoencoder636.png%2F400px-Autoencoder636.png" action-type="show-slide">t = nnff(sae.ae{i}, x, x);在nnff.m中使用:nn.p{i} = 0.99 * nn.p{i} +0.01 * mean(nn.a{i}, 1);计算。sparsityError= [zeros... 阅43 转0 评0 公众公开 16-09-12 16:35 |
阅18 转1 评0 公众公开 16-09-12 16:30 |
[plain] view plain copy addpath minFunc/ options.[plain] view plain copy sae2options.[plain] view plain copy smoptions.maxIter = 100;预测函数[plain] view plain copy a2=sigmoid(bsxfun(@plus,stack{1}.w*data,stack{1}.b)); a3=sigmoid(bsxfun(@plus,stack{2}.w*a2,stack{2}.b)); [~,pred]= max(softmaxTheta*a3);%记录最大概率... 阅46 转0 评0 公众公开 16-09-12 16:24 |
Python 基础教程 | 菜鸟教程Python 基础教程。本教程适合想从零开始学习Python编程语言的开发人员。当然本教程也会对一些模块进行深入,让你更好的了解Python的应用。对于大多数程序语言,第一个入门编程代码便是"Hello World!",以下代码为使用Python输出"Hello World!": 实例(Python 2.0+) #!/usr/bin/pythonprint &... 阅1100 转0 评0 公众公开 16-09-06 21:19 |
[原]如何正确理解深度学习(Deep Learning)的概念 – 我爱机器学习。而类比来理解,如果说将机器学习算法类比为排序算法,那么深度学习算法便是众多排序算法当中的一种(例如冒泡排序),这种算法在某些应用场景中,会具有一定的优势。论及深度学习中的“深度”一词,人们从感性上可能会认为,深度学习相对于传统的机器学习算法,能够做更多的... 阅434 转6 评0 公众公开 16-09-05 17:01 |