时间一晃，就到了2015年年底。

加州旧金山，openAI的办公室里。

气氛有些压抑。

宽敞的办公区里，满地都是揉成团的废纸、吃剩的披萨盒子，还有横七竖八丢在地上的空咖啡杯。

墙上挂着好几块巨大的白板。

上面密密麻麻写满了各种复杂的数学公式、神经网络架构图。

只不过，这些公式上面，全被红色的记号笔画了一个又一个的大叉。

伊利亚顶着两个黑眼圈，头发乱糟糟的。

他已经连续好几天没怎么合眼了。

现在，他正盯着面前的电脑屏幕，双手烦躁地在键盘上乱敲，嘴里不停地念叨着脏话。

“又崩了！

又忘了！”

“这破模型，简直就是个只有七秒记忆的金鱼！”

伊利亚气得一巴掌拍在桌子上。

办公室里其他的顶尖科学家们，一个个也都是满脸的颓废和绝望。

这几个月来，openAI的进展，完全可以用四个字来形容，那就是：惨不忍睹！

根本推不动！

他们当初信誓旦旦，要走生成式AI这条路。

要让机器去人类的海量文本，学会人类的语言逻辑。

这想法听着确实很牛。

马斯克也给他们搞来了钱，搞来了算力。

纪元公司地下的超级算力中心，对他们无限量敞开供应。

按理说，兵强马壮，粮草充足，直接开干就完了。

可是，一动手，这帮顶尖大脑就全傻眼了。

他们被一个最底层的数学逻辑给卡住了脖子。

这个逻辑的名字，叫序列。

此时全硅谷，乃至全世界的AI圈子，处理自然语言用的都是一套叫RNN的东西。

全称叫循环神经网络。

虽然又升级了一下，搞了个叫LStm的东西，叫长短期记忆网络。

但也就名字听着挺高大上。

其实说白了，原理非常死板。

它就是完全模仿人类看书的习惯。

人类怎么看书？

从左到右，一个字一个字地看，一句话一句话地读。

我看第一段，再看第二段。

这种方式，对人类来说很正常。

但是！

把这套玩意儿放到显卡上去跑，简直就是一场灾难！

纪元公司地下室里的那些英伟达显卡，是用来干嘛的？

那是用来搞并行计算的！

什么是并行计算？

就是一万个小学生，同时坐在教室里，每人拿一张卷子，大家一起埋头算加减乘除。

一秒钟，一万道题就算完了。

效率非常之高！

可是，RNN这个破架构，偏偏是个单行道！

它规定了，机器必须先看完第一个字，才能看第二个字。

看完第二个字，才能去处理第三个字。
本章未完，请翻下一页继续阅读.........