2017年数据与智能暑假讨论班第1讲.神经网络计算模型与BP算法实验室同学、崇志宏TEL：13814066974东南大学计算机学院数据与智能实验室cse.seu.edu.cn/people/zhchong认知计算与数据处理：联结主义的套路
东南大学数据与智能实验室D&IntelLab
提纲I.神经网络计算模型?计算模型?神经网络计算模型?神经网络计算模型的应用II.BP算法与RNN-->LSTM的研究范式?基于图的BP算法?BP算法的矩阵表示?各种模型的BP算法?RNN到LSTM的BP算法原因III.Tensorflow的张量流编程模式?计算图?BP计算图
?分布体系结构IV.课后作业东南大学数据与智能实验室D&IntelLab
参考资料其他相关文献（PPT内标注）?Mind?Behaviour
东南大学数据与智能实验室D&IntelLab
神经网络计算模型
东南大学数据与智能实验室D&IntelLabAlgorithm=Logic+Control：LogicProgramming
I.PimitiveElementII.RuletoStructurePrimitiveElementsDataDrivenProgramming
CellularAutomata
东南大学数据与智能实验室D&IntelLabhttps://en.wikipedia.org/wiki/Cellular_automaton
神经网络计算模型
东南大学数据与智能实验室D&IntelLab
神经网络模型：拉格朗日网络
东南大学数据与智能实验室D&IntelLab
神经网络计算模型：非构对象存储和访问
东南大学数据与智能实验室D&IntelLab聚集存储与操作并发访问与操作
相似/相关检索匹配/蕴含/查询语义/蕴含序列化动态结构和变长记录存储--块存储分布聚集
神经网络计算模型XOR函数的神经网络计算
神经网络计算模型：数据驱动编程
神经网络计算模型：多类别竞争学习
东南大学数据与智能实验室D&IntelLab
神经网络计算模型：主成分分析
Perceptron的关系？
神经网络计算模型：样本生成
东南大学数据与智能实验室D&IntelLab
神经网络计算模型：局限性
提纲I.神经网络计算模型?计算模型?神经网络计算模型?神经网络计算模型的应用II.BP算法与RNN-->LSTM的研究范式?基于图的BP算法?BP算法的矩阵表示?各种模型的BP算法?RNN到LSTM的BP算法原因III.Tensorflow的张量流编程模式?计算图?BP计算图
?分布体系结构IV.课后作业东南大学数据与智能实验室D&IntelLab
权值的变化
BP算法
BP算法
东南大学数据与智能实验室D&IntelLab
BP算法
BP算法：矩阵形式
东南大学数据与智能实验室D&IntelLab
BP算法：局部性
东南大学数据与智能实验室D&IntelLab
BP算法：BPThroughTime
BP算法：隐含马尔科夫模型
Ctw=1
BP算法：LSTM
BP算法：LSTMCt
Long-Short-Term-Memory
东南大学数据与智能实验室D&IntelLab
提纲I.神经网络计算模型?计算模型?神经网络计算模型?神经网络计算模型的应用II.BP算法与RNN-->LSTM的研究范式?基于图的BP算法?BP算法的矩阵表示?各种模型的BP算法?RNN到LSTM的BP算法原因III.Tensorflow的张量流编程模式?计算图?BP计算图
?分布体系结构IV.课后作业东南大学数据与智能实验室D&IntelLab
张量编程模式
张量编程模式：BP
张量编程模式：BP权值W对损失J的导数计算图？
东南大学数据与智能实验室D&IntelLab
张量编程模式：分布体系结构
提纲I.神经网络计算模型?计算模型?神经网络计算模型?神经网络计算模型的应用II.BP算法与RNN-->LSTM的研究范式?基于图的BP算法?BP算法的矩阵表示?各种模型的BP算法?RNN到LSTM的BP算法原因III.Tensorflow的张量流编程模式?计算图?BP计算图
?分布体系结构IV.课后作业东南大学数据与智能实验室D&IntelLab
|
|
