大海

梯度检查

发表于 2019-08-01 更新于 2026-09-21 分类于深度学习，训练技巧本文字数： 1.8k 阅读时长 ≈ 7 分钟

通过数值梯度（numerical gradient）和解析梯度（analytic gradient）的比较进行梯度检查，这个过程有助于得到更准确的网络

学习Gradient checks中提到的技巧和注意事项

发表于 2019-07-31 更新于 2026-09-21 分类于软件工程本文字数： 807 阅读时长 ≈ 3 分钟

单元测试（unit testing，简称UT）是用于测试源代码不同单元的软件测试方法，能够有效提高代码质量和可维护性

发表于 2019-07-28 更新于 2026-09-21 分类于软件工程本文字数： 1.2k 阅读时长 ≈ 4 分钟

主要内容：

发表于 2019-07-18 更新于 2026-09-21 分类于机器学习，分类器本文字数： 2.4k 阅读时长 ≈ 9 分钟

在分类问题上经常会遇到一个名词 - 决策边界。对它有一些了解但是没有很多的认识，同时很难直观去理解高维数据分类问题的决策边界

理清决策边界的概念，同时可视化决策边界

发表于 2019-07-17 更新于 2026-09-21 分类于机器学习，神经网络本文字数： 1.5k 阅读时长 ≈ 6 分钟

参考线性SVM分类器实现神经网络分类器。cs231n assignment2中实现了自定义层数和数量的神经网络模型，参考其实现完成单个类的神经网络分类器

发表于 2019-07-17 更新于 2026-09-21 分类于机器学习，分类器本文字数： 1.2k 阅读时长 ≈ 4 分钟

模仿线性SVM分类器实现softmax分类器

发表于 2019-07-17 更新于 2026-09-21 分类于机器学习，分类器本文字数： 1.2k 阅读时长 ≈ 4 分钟

参考线性SVM分类器实现逻辑回归分类器，并进行决策边界可视化

发表于 2019-07-14 更新于 2026-09-21 分类于机器学习，分类器本文字数： 1.8k 阅读时长 ≈ 6 分钟

最近重温cs231n课程，完成了课堂作业assignment1，记录一下线性SVM分类器相关的概念以及实现

发表于 2019-07-11 更新于 2026-09-21 分类于机器学习，分类器本文字数： 1.8k 阅读时长 ≈ 7 分钟

最近重温cs231n课程，完成了课堂作业assignment1，记录一下KNN分类器相关的概念以及实现，包括通用的分类器训练及测试过程

发表于 2019-07-06 更新于 2026-09-21 分类于深度学习，优化与调度本文字数： 796 阅读时长 ≈ 3 分钟

AdaGrad、RMSProp以及Adam都是逐元素的自适应学习率方法（per-parameter adaptive learning rate methods），根据每个神经元的梯度变化进行权重调整，能够有效的提高模型精度