第21章 征服奥尔特曼，拒绝招揽
因为时间行程的约束，牛剑和奥尔特曼把会面时间定在了第三天的下午。
对于国际机器学习大会的闭幕式与晚宴，两个走在人工智能领域最前沿的人都没有什么太大的兴趣。
纽约四季酒店的顶楼套间里，牛剑看着衣着考究的侍应生将带冰渣的香槟酒倒入郁金香杯，玻璃杯壁凝结的水珠在壁灯的光芒中折射出细碎金芒。
即便是贵为院士的吴梦达，也从来没有经历过这种待遇。
资本主义的资本家，毕竟还是这个世界最会享受的那一批人，他们的奢靡，远远超出了常人的想象。
“所以你认为transformer架构会成为自然语言处理的新方向？“
山姆·奥尔特曼把玩着镀银开瓶器，金属表面倒映出他修剪精致的鬓角。
两人刚刚针对生成式AI这个大方向，互相探讨交换了意见，而谈论的内容，不约而同的集中到人工智能的底层架构上。
“根据openAI的实验数据，这种架构在长文本生成时的显存占用是LSTM的三倍。“
牛剑端起香槟浅抿一口，气泡在舌尖炸开，混合着香槟的气味，给了他之前从来没有体验过的感受。
“这正是您团队在arXiv上发布的论文里提到的门控注意力机制的价值。“
“我们学习了这一点，通过动态屏蔽冗余注意力头，成功将显存占用压缩到原始架构的72%”
“你还看过我们刚刚发布的论文？”奥尔特曼略微吃惊的看着面前的二人，“那篇文章可还没有经过同行评审，你们就不怕里面的东西有问题？”
“哦不对，你们已经成功实践了，而且还取得了比我们更好的结果。”
“上帝啊，你们是怎么做到如此快的速度的。”
“这种速度，来源于我们中心几十个拥有高素养的博士的共同努力。”
牛剑脸不红心不跳，张着嘴扯起了谎，把先进院吹得连坐在一旁的吴梦达都有些不好意思了。
“我们使用FP16半精度数据作为算法的主要数据结构，这一改变使得算法的性能得到了极大的优化。”
“FP16？！”
奥尔特曼微微解开了领结，不知道为什么，他感觉这间顶级套房有些燥热。
“牛，说实话，我现在真的很想知道你们是怎么做到这一点的。”
他身子微微前倾，早已没了刚开始会面时的松驰感。
“我们之前使用单精度数据替换双精度的过程中，就已经被梯度爆炸的问题折磨的够呛了。”
“非常希望您能给我们一点小小的建议，或许这会让我们少走很多弯路。”
面对这赤裸裸的请求，吴梦达第一个坐不住了。
他不方便直接出言拒绝，只是咳嗽了两声，示意侍应生给自己换杯热水过来。
“这酒我喝的不太习惯。”
听到吴梦达的话，奥尔特曼虽然脸上依旧挂满笑容，但心里却暗暗骂了一声。
‘华夏人该死的含蓄表达。’
他本来想借着势，从牛剑嘴里套出点东西出来，现在看来，恐怕是很难了。
“奥尔特曼先生，这个涉及的东西太多，其中很多内容都不是一个人的成果。”
“因此在征求他们的同意之前，我并不能透露太多。”
果不其然，牛剑以成果非他一人独有为理由，婉拒了奥尔特曼的请求。
在说完这些话后，牛剑紧紧的盯着面前这位投资者，从其眼中捕捉到了一丝烦躁。
‘看来，要想从奥尔特曼这里爆出chatGPT的算法，只凭讨论技术是肯定做不到的。’
面对真正纯粹的研究者，牛剑或许能够用技术交流的方式取得对方的认可。
但如果拿同样的套路去应对奥尔特曼这种资本家，恐怕只会在背地里得到一个大傻子的称呼。
“不过如今有幸遇上您这位同路人，我虽然不能说的太多，进行一些简单的技术交流还是可以的。”
牛剑让侍应生拿来一张纸，然后在上面写写画画起来。
“为了应对梯度爆炸的问题，我在残差模块里嵌入了自适应归一化层。”
水笔的墨水在纸上微微有些扩散，这张纸的材质明显有些不太适合书写。
“侍应生，侍应生！”
奥尔特曼生气的大喊，让后者连忙拿了一沓A4纸过来。
“就像这样——把Sigmoid激活函数替换成ELU，在每个梯度传播阶段用蒙特卡洛采样评估稳定性。”
牛剑继续在纸上书写，他这次是的的确确透露了不少内容出来，但若是想凭借着这点东西就搞定半精度训练的难题，那就是在痴人说梦。
按照已经走通过的技术路线，想要达到这种程度至少还有动态学习率衰减算法，LAMB优化器等等数个专业技术需要突破。
但这些东西，可都不是免费的。
意犹未尽的奥尔特曼看着停止讲解的牛剑，瞬间明白了后者的意思。
“或许我们可以进行合作，无论是技术上还是商业上。”
奥尔特曼对着吴梦达继续说道：“吴教授也是如此，openAI欢迎像您这样的天才，我们的知识凝聚在一起，或许能够改变整个世界。”
“当然，我能给出的待遇也极为丰厚。”奥尔特曼不给两人插嘴的机会，“只要能够挂职，我就能说服董事会，给两位开出相当于首席架构师的年薪。”
又是赤裸裸的当面诱惑，正在喝水的吴梦达差点把自己给呛到。
“哈哈，奥尔特曼先生，我跟吴老师都已经是华夏一家研究所的员工了，没办法做出这种身兼数职的事情。”
“不过若是有机会，或许您的公司可以和我们单位进行合作。”
牛剑并没有把话给说死，他写下一行英文，这是先进院的英文名称，借此就可以搜索到对应的官网。
跟其他国企研究所一样，这个网站做的稀烂，不过最基本的介绍和联系方式倒是一应俱全。
“可以，我回去就会跟董事会好好的讨论一下。”
“按照我们之前在人工智能上的投入，openAI至少能拿出来三亿美金用来进行外部投资。”
奥尔特曼能得到这个信息，已经是超出了他的预计。
三人在顶层套房又闲聊的一会后，奥尔特曼便按照牛剑的要求，派人将其送到了另外一家酒店。
以色列的代表正在这里等候着他，牛剑很好奇这些素以精明著称的犹太人会给出什么条件。
“一千万美金，牛先生，我们开出这个价。”
“对应您在这一方面的所有知识产权。”