本文总结了 cs231n lecture11 的知识点，介绍了计算机视觉的一些方向： 语义分割：upsampling downsampling 图像分类和定位 多目标检测: RCNN Fast-RCNN Faster-RCNN YOLO

本文总结了 cs231n lecture 10的知识点，介绍了常见的 CNN 结构 AlexNet VGG GoogLeNet ResNet AlexNet [Krizhevsky et al. 2012] 输入：227x227x3

本文总结了 cs231n lecture 9的知识点，介绍了循环神经网络原理，以及 LSTM 模型循环神经网络（RNN）是一类用于处理序列数据的神经网络，可以扩展到更长的序列，大多数循环网络也能处理可变长度的序列。 需要一个额

线性回归公式的推导如下图，平面上有一些点，然后我们想用一个直线来拟合它，就是找出最小化下面的那个平方误差的 m 和 b 我们将 SE 化简，然后对 m和b 求偏导 我们会得出在最优的拟合曲线上有两点 \((\overli

前向分布算法AdaBoost 就是一种前向分布算法，可以认为Adaboost算法是“模型为加法模型、损失函数为指数函数、学习算法为前向分布算法”时的二类分类学习方法。 加法模型： 对于加法模型，在给定训练数据及损失函数L(y

假设检验神经学家测试一种药物对反应时间的效果，分别对100只老鼠注射一单位剂量的药，已知没有注射药物的老鼠的平均反应时间为1.2s。100只被注射药物的老鼠的平均反应时间为1.05s，标准差是0.5s，我们想知道的是这个药对反应时间到

集成学习集成学习通过构建并结合多个学习器来完成学习任务，通常获得比单一学习器更好的泛化性能，这针对弱学习器尤为明显 个体学习器个体学习器通常由一个现有的算法从训练数据产生，集成中若只包含同种类型的个体学习器，那么称之为同质集成，若包含

中心极限定理我们可以从任何分布中取很多次样本均值（也不一定是均值，样本和也可以），将其画在图上会发现它趋近于一个正态分布 正偏态分布和负偏态分布： 正峰态分布和负峰态分布： 你会从图中发现，当样本容量从5增加到25时，得到的分

统计学基础概念样本均值：\( \overline{x}\ \) 总体均值：\( \mu \) 方差：$$\sigma^2 = \frac{\Sigma_{i=1}^N (x_i - \mu)^2}{N} \=\frac{\Sigma_

在测试的时候，需要注意 \(\mu_j\) 和 \(\sigma_j\) 不能用测试时的数据求得，需要用训练时的数据的移动平均值 上面的是对全链接神经网络的BN层，如果是对CNN，它的每一层输出层是 NxCxHxW，在 对每个 C

激活函数 Sigmoid 将输入压缩至[0,1] 三个问题： 饱和神经元会杀死梯度 输出不是 0-centered，这样会导致梯度是恒正或恒负 exp() 计算量大 ReLU（Rectified Linear Un

import numpy as np ?np.maximum np.maximum 是 element-wise 取最大，同时也有broadcasting 机制 np.maximum([1,2,5],[2,3,4]) array(