大海

梯度检查

发表于 2019-08-01 更新于 2026-08-31 分类于算法与模型，软件工程，模型训练与优化，测试与可靠性本文字数： 1.8k 阅读时长 ≈ 7 分钟

通过数值梯度（numerical gradient）和解析梯度（analytic gradient）的比较进行梯度检查，这个过程有助于得到更准确的网络

学习Gradient checks中提到的技巧和注意事项

发表于 2019-07-31 更新于 2026-08-31 分类于工具与效率，开发者工具（CLI/IDE/调试），软件工程，开发与运维， CI/CD 与自动化，测试与可靠性本文字数： 807 阅读时长 ≈ 3 分钟

单元测试（unit testing，简称UT）是用于测试源代码不同单元的软件测试方法，能够有效提高代码质量和可维护性

发表于 2019-07-28 更新于 2026-08-31 分类于软件工程，开发与运维， CI/CD 与自动化，测试与可靠性本文字数： 1.2k 阅读时长 ≈ 4 分钟

主要内容：

发表于 2019-07-18 更新于 2026-08-31 分类于算法与模型，经典机器学习方法，深度神经网络架构本文字数： 2.4k 阅读时长 ≈ 9 分钟

在分类问题上经常会遇到一个名词 - 决策边界。对它有一些了解但是没有很多的认识，同时很难直观去理解高维数据分类问题的决策边界

理清决策边界的概念，同时可视化决策边界

发表于 2019-07-17 更新于 2026-08-31 分类于算法与模型，项目复现，软件工程，深度神经网络架构，高质量编码实践，从零实现核心算法本文字数： 1.5k 阅读时长 ≈ 6 分钟

参考线性SVM分类器实现神经网络分类器。cs231n assignment2中实现了自定义层数和数量的神经网络模型，参考其实现完成单个类的神经网络分类器

发表于 2019-07-17 更新于 2026-08-31 分类于算法与模型，项目复现，经典机器学习方法，经典模型复现本文字数： 1.2k 阅读时长 ≈ 4 分钟

模仿线性SVM分类器实现softmax分类器

发表于 2019-07-17 更新于 2026-08-31 分类于算法与模型，项目复现，经典机器学习方法，从零实现核心算法本文字数： 1.2k 阅读时长 ≈ 4 分钟

参考线性SVM分类器实现逻辑回归分类器，并进行决策边界可视化

发表于 2019-07-14 更新于 2026-08-31 分类于算法与模型，项目复现，经典机器学习方法，经典模型复现本文字数： 1.8k 阅读时长 ≈ 6 分钟

最近重温cs231n课程，完成了课堂作业assignment1，记录一下线性SVM分类器相关的概念以及实现

发表于 2019-07-11 更新于 2026-08-31 分类于算法与模型，项目复现，经典机器学习方法，从零实现核心算法本文字数： 1.8k 阅读时长 ≈ 7 分钟

最近重温cs231n课程，完成了课堂作业assignment1，记录一下KNN分类器相关的概念以及实现，包括通用的分类器训练及测试过程

发表于 2019-07-06 更新于 2026-08-31 分类于算法与模型，领域综述，模型训练与优化， AI 工程化方法论本文字数： 796 阅读时长 ≈ 3 分钟

AdaGrad、RMSProp以及Adam都是逐元素的自适应学习率方法（per-parameter adaptive learning rate methods），根据每个神经元的梯度变化进行权重调整，能够有效的提高模型精度