可教室太静了，这一句话就显得格外的清楚了。

姚先生本来还低头看着教案，听见这一声，他抬起了头。

目光落到後排的李东身上，他笑了笑。

“李东教授，你这个问题，问得很好，”老人慢条斯理地说道，“网络要是真就一直这麽懒、一直围着起点打转，那它顶多算个换了身皮的核方法，谈不上学到什麽新东西。

它真正开始学，是从它肯挪窝、肯把那些旋钮往远了拧、在底层自己长出一套有用特征来的那一刻起的。”

“这中间隔着的那道坎叫逃离 ntk机制，进入特征学习。”

“至於这道坎卡在哪儿，又该怎麽迈过去……”

姚先生笑着摇了摇头。

“这恰恰是现在还没有几个人能说清楚的事。”

姚先生话音一落，李东却愣在了那里。

周围几个学生偷偷瞄他，心里都犯起了嘀咕。

好家夥。

这个问题难成这样了？

连东神都被说懵逼了？

然而李东并没有被说懵。

他愣住的原因只是因为……刚才他的脑子里毫无征兆地冒出来一些更深的东西。

【当网络宽到极限的时候，不再被看成一堆死板的旋钮，而是化作了一片连续的“概率分布”】

【每一个神经元，都成了这片分布里的一粒尘埃。】

【训练也不再是苦哈哈地一个个拧旋钮，而是这一整片分布，在一个叫 wasserstein空间的几何世界里，顺着最省力的方向流动。】

这是把训练直接写成了一道描述质量如何流动的偏微分方程啊。

而顺着这道方程往下，那道卡了无数人从懒惰到特征学习的坎，竟隐隐约约露出了一点能绕过去的缝。

这才是李东懵逼的原因，他立刻就反应了过来……

这是姚先生脑子里的思路，是姚先生那些还没来得及说出口、甚至自己都未必理顺了的灵感。

它们被薪火相传进阶版的效果，塞进了李东的记忆宫殿里。

可紧接着李东又觉得不对劲。

刚才他坐在底下听，姚先生讲了那麽久，他脑子里也只是把旧东西串了串，半点新的没冒出来。

偏偏是他喃喃问了那一句、姚先生回了他那一句之後。

这股灵感才出现的。

“不会吧……”

“难道非得我开口问才能……触发这个效果？”

他越想越觉得是这个理。

於是李东抬起头，有些抱歉地，看了一眼教室里那一张张还懵着的脸。

对不住了，各位。

接下来我要干的这些事，真不是我自己想这麽干的。

……

於是在智班这一屋子人的眼皮子底下……

李东自打问完头一个问题以後，就完全停不下来了。

“姚先生，那顺着这个往下想。”

“要是干脆别盯着一个个参数看了，把整张网络拉到无限宽，看成一片连续的分布，训练是不是就能看作这片分布的演化？”

姚先生握着粉笔的手，微微一顿。
本章未完，请翻下一页继续阅读.........