Create your Gitee Account
Explore and code with more than 5 million developers,Free private repositories !:)
Sign up
This repository doesn't specify license. Without author's permission, this code is only for learning and cannot be used for other purposes.
Clone or download
Cancel
Notice: Creating folder will generate an empty file .keep, because not support in Git
Loading...
README.md

从0开始的智能计算

把一些重要的数值计算方法用原始的C++语言实现出来 更加深入的学习DeepLearn,同时这也是我重头学习DL的项目,看了也学了这么多,重头再来又是另外一番风景。 为了省去一些不必要的底层计算,所有的矩阵相关的计算我使用C++的线性代数框架Eigen实现

注:所有的实现都是CV实现,没有NLP,因为C++不具备繁重的字符串处理能力,暂时不写NLP,测试用例是对每一个调用的单元测试,能够更直观的看到每一个输出和函数、成员方法工作状态

1. 激活函数

什么是激活函数?
激活函数的用途?
有哪些激活函数、性质和特点?
应用中如何选择合适的激活函数?

2. 损失函数

2.1 均方误差损失
2.2 交叉熵损失
2.3 交叉熵损失
    2.3.1 交叉熵损失的两个图像
        2.3.1.1 指数图像
        2.3.1.2 对数图像
        2.3.1.3 交叉熵损失+Sigmoid激活函数
2.4 svm合页损失
2.5 Smooth L1损失
2.6 梯度爆炸

3. 神经网络

3.1 全连接神经网络单层实现 [ANNLayer](./sss.md)
3.2 卷积神经网络
3.3 循环神经网络
    3.3.1 RNN
    3.3.2 LSTM
    3.3.3 GRU
3.4 图卷积神经网络
    3.4.1 GCN 
    3.4.2 GNN

4. 多层神经网络

4.1 构建自己的模型
4.2 池化
4.3 全连接
4.4 ResNet
4.5 AlexNet
4.6 GoogleNet
4.7 HighWay Network

5. 并行计算

5.1 CUDA
5.2 OpenCL
5.3 FPGA

6. 分布式计算

6.1 OpenMPI
6.2 MPCH

参考文献

Eigen基础使用参考

[Python神经网络编程]

[神经网络设计]

Comments ( 0 )

Sign in for post a comment

About

原来这里还有一个坑没填系列(明年考完研在填坑吧) spread retract
Cancel

Releases

No release

Contributors

All

Activities

load more
can not load any more