某轮次的退步是正常的

我注意到，我偶尔某天的速写练习会画的比昨天差，要画更长时间且感觉观感不好。

我也注意到我做有氧拳击时，偶尔会感觉突然连架势怎么摆都忘记了，感觉出拳没力道，打的没手感。

这让我偶尔会怀疑人生，我要给自己做一下心理疏导。

经研究后，我发现，暂时性的退步是学习过程中的非常正常的现象，不如说，倘若一直没有感觉到退步，那才是问题！我们细究。首先以我较为熟悉（其实也只是“较为”了，也就学了个表面）的神经网络的训练过程中寻求比喻去让我理解，然后将它推广到一切内隐性知识上，而非只有拳击和绘画。

神经网络的比喻

首先，我要说一切训练自己的直觉（模型）的学习，即内隐性知识 Implicit Knowledge 的学习，即使用归纳法去进行的学习，都能够用神经网络的训练过程去作为比喻。

和这种知识相对的，则是外显知识 Explicit Knowledge，这种知识使用演绎法去学习，就像学习编程。

当然，它们并非完全割裂——从感性到理性到感性嘛，它们是可以互相转化的。当然这里我不聊这个。

我当前所采用的绘画练习的方法（即大量地做某个画师的速写去尝试掌握他的风格），可以理解为在我的脑子里训练这样一个神经网络，他的作品是输入，我的练习是输出，我观测它们之间的差异，并用来指导下一次的练习，这一行为就是损失函数。

而无论是在实际的神经网络中，还是在这里的内隐性知识的学习中，某个轮次的误差反而变得更大了，这是正常的，而且很可能是健康的：

1. loss曲线从来都不是平滑下降的，关键是整体趋势下降
2. 这一轮次挑战的数据是新鲜的——拳击我在做新动作，速写我在练一些之前我跳过去因为觉得角度太难的作品，我既有的直觉模型面对这些新问题当然发挥会不好
3. 权重更新太大——对某个特定的误差我矫枉过正，用力过猛，导致“越过了山脊”——虽然跳出了当前的局部最优，但却跑过头了，但这也给我了更大的一个进步的空间
4. 损失函数优化了——在大量的实践中，我的眼睛，我的感受更毒辣了，我发现了一些我以前从来没有发现的问题，这让我自以为退步

但人脑也有自己特有的问题：

1. 我当前的状态确实不好，如疲劳，酒精等影响我的大脑
2. 在睡眠时，大脑会“重演”白天的练习，并试图“压缩”我学到的知识，试图“重写路由”，这个过程本身就会带来损失

（然后我写不下去了，人脑确实远比神经网络复杂，再深耕需要进到脑科学了，总之睡眠很重要，总之人脑自身的各种骚操作也会带来暂时的，表面上的退步，但放得更长远去看，它是进步的必经之路）

以及，从神经网络中我还学到什么？对了，需要验证集！我不能光“写生”了，我要变着花样强迫原创——将原图模糊后再做速写，默写，从其他画师或真实照片做风格迁移，以及完全原创。我可不能过拟合了。

一切内隐性知识的必经之路

一切内隐性知识，无论是绘画，还是拳击，还是投篮，还是弹吉他，均是如此。
偶尔画的更差，打的更乱，这是脑内的高维参数模型的变更导致的自然的抖动。倘若没有这个抖动，才更要注意呢！这证明我没有进步！

稍微更具体一些，在训练时，大脑会进行突触修剪和重连，旧的动作回路被剪掉，但新的动作回路还没能完全替代旧的，抖动是这个替代过程的体现。

而且，这种抖动，是越接近跃迁（质变）时越剧烈的，它证明一个旧世界正在被破坏，一个新世界正在形成。

我虽然非常想这么说，但这很可能不切实际，按照我既有的经验，质变从来都是来的很微妙的，摊地很开的，不做比较还真意识不到发生了质变。所以这话还是删掉。

所以，坦然接受它，乃至期待它吧。