梯度下降法的核心思路：在函数的曲线（曲面）上初始化一个点，然后让它沿着梯度下降的方向移动，直到移动到函数值极值的位置，这个位置视具体的问题而定，可能是极小值也可能是极大值。因为如果是凹函数那就是梯度上升的方向了。 梯度可以通过求偏导的方式计算，因为一个函数在某一点的导数描述了这

参数作为模型从历史训练数据中学到的一部分，是机器学习算法的关键。根据经典的机器学习文献，可以将模型看作假设，而参数是根据特定的数据集对假设进行的具体调整。简单来说，模型参数就是模型内部的配置变量，可以用数据估计它的值。 控制模型参数分布的参数，被称为超参数。事实上，模型超参数是模

神经网络，顾名思义，是由神经元所组织的网络。现在，我们来看下神经网络的结构。下面这张图，这是一个比较简单的神经网络结构。 这是一个 2 层神经网络。因为，一般情况下，输入层不算，隐藏层算 1 层，输出层算 1 层，一共 2 层。 在一个神经网络中通常会分这样几层：输入层、隐藏层

一般来说，损失函数，又称为代价函数，用来评价模型的预测值与真实值的不一致程度，它是一个非负实值函数。如果损失函数越小，模型的性能就越好。 神经网络解决的现实问题主要有两大类：分类问题与回归问题。 分类问题分类问题，指的是将不同的样本划分到已知的类别中，如经典的识别手写数字，就是

为什么使用激活函数为什么使用激活函数，激活函数有什么用呢？事实上，激活函数实现去线性化，给神经网络提供了非线性建模能力。换句话说，如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合。如果使用激活函数的话，激活函数给神经元引入了非线性因

阅读完《TensorFlow 学习摘要（三） 深度学习 - TensorFlow 快速入门》，再补充几点 TensorFlow 的基本使用。 常量我们可以创建一个常量 op, 产生一个 1x1 矩阵。 m = tf.constant([[3.]]) 变量参见《TensorF

TensorFlow是什么Tensor（张量）意味着 N 维数组，Flow（流）意味着基于数据流图的计算，TensorFlow 即为张量从图的一端流动到另一端。 TensorFlow 计算模型TensorFlow 中的所有计算都会被转化为计算图上的节点，换句话说，使用 Tens

1981 年的诺贝尔医学奖，颁发给了 David Hubel 和 Torsten Wiesel，以及 Roger Sperry。前两位的主要贡献是，发现了人的视觉系统的信息处理是分级的。从视网膜出发，经过低级的 V1 区提取边缘特征，到 V2 区的基本形状或目标的局部，再到高层的

导数是微积分中的重要基础概念。导数的本质，是通过极限的概念对函数进行局部的线性逼近。当函数 y=f(x) 的自变量 x 在一点 x0 上产生一个增量 Δx 时，函数输出值的增量 Δy 与自变量增量 Δx 的比值在 Δx 趋于 0 时的极限 a 如果存在，a 即为在 x0 处的导数

Python 的 numpy 库提供矩阵运算的功能。因此，我们需要导入 numpy 包进行矩阵的运算。这里，我们导入 numpy 包，并起了一个 np 的别名便于后面的使用。 import numpy as np; 行矩阵、列矩阵与零矩阵列矩阵是只有一列的矩阵。这里，我们使

在数学中，矩阵是一个 m x n 个数排成 m 行与 n 列的数表。 行矩阵、列矩阵与零矩阵行矩阵是只有一行的矩阵。 列矩阵是只有一列的矩阵。 零矩阵，所有元素都等于 0 的矩阵。 矩阵的加法两个矩阵相加，即它们相同位置的元素相加。 现在，我们来看一个案例。 事实上，

安装好 Anaconda 后，我们就可以比较顺利地安装 TensorFlow 了。本文主要介绍基于 Mac 的 pip 方式安装，其他方式可以阅读相关文档进行实践。 第一步，我强烈建议升级 pip 或者 pip3 到最近版本。 sudo easy_install --upgr

关于 Python 使用目前，Python有 2.x 版与 3.x 版。本教程主要以 Python 3.x 版本为基础。首先，要确保你的电脑上安装的 Python 版本是 3.x 版本。 关于 Python 的使用，推荐 廖雪峰的 《Python教程》与 埃里克·马瑟斯 的《Py

基于角色的访问控制，只验证访问数据的角色，但是没有对角色内的用户做细分。举个例子，用户甲与用户乙都具有用一个角色，但是如果只建立基于角色的访问控制，那么用户甲可以对用户乙的数据进行任意操作，从而发生了越权访问。因此，在业务场景中仅仅使用基于角色的访问控制是不够的，还需要引入基于数

基于角色的访问控制，英文是 Role-Based Access Control，简称 RBAC。它通过建立用户与角色的对应关系，使得每个用户可以拥有多个角色，每个角色可以拥有多个权限。基于角色的访问控制会定义多个不同的角色，不同角色实际上就是一个权限的集合。基于角色的访问控制中，