Posts by hostmaster

机器学习中的非凸优化 - PAGE 算法 学习笔记

概述 不同方法的收敛速度和迭代次数不同,我们会根据需要找到最适合的方法。 下文计划描述的算法有 GD,SGD,PAGE。 $\epsilon$-solution 我们需要找到一个方式来描述算法当前解的优劣。 最简单的方法就是用 $\left\Vert\nabla f\left(\hat x\right)\right\Vert_2$。 那我…
Read article

梯度下降法 学习笔记

概述 梯度下降法用于求解多变量局部最小值点问题,常用于机器学习。 过程 如果一个函数 $F\left(\mathbf x\right)$ 在邻域内有定义且可导,那么 $F\left(\mathbf x\right)$ 在 $\mathbf a$ 点沿着在 $F$ 在 $a$ 点的负梯度(Gradient)方向 $-\nabla F\left(a\right)$…
Read article

机器学习 分类问题

概述 本文将讲述基础的机器学习理论。从零开始,推导一个机器学习模型。 目的 我们的目的很简单,做出一个能识别手写数字的模型。为了简单起见,本文只讨论如何让模型区分两个数字,即输入手写图片,让模型判断是 $3$ 还是 $7$。 表示方式 为了配合 MNIST 训练集,我们统一使用 $28 \times 28$ 大小的 8-bit 灰度图片,…
Read article

布尔函数 学习笔记

布尔(Boolean)函数的傅里叶分析 对比普通函数的傅里叶分析,我们试图将傅里叶分析的思想迁移到布尔函数上。傅里叶分析找到一组正交基(Orthogonal Basis)。我们在布尔函数上也能找到这样的基。具体来说,令 $$\chi_i\left(x\right) = \prod\limits_{j \in i}x_j$$ ,选系统 $\chi_i : i \subseteq \left[n\right]$…
Read article

单位根反演 学习笔记

简述 单位根反演(unit-root-inversion),是一种将原式通过转换为一些带有单位根的式子,然后通过单位根的性质计算的方法。 公式 $$\left[d \mid n\right] = \frac1d\sum\limits_{i = 0}^{d - 1}\omega_d^{ni}$$ 证明 当 $d \mid n$ 时,上述式子…
Read article