第三百七十二章 且听龙吟
第三百七十二章 且听龙吟 (第2/2页)他突然意识到有点儿不对。
一点七七秒?
刚才l100的模拟结果是使用的同一个任务吧,那个时间是多少来着?
丁耀先感觉浑身一激灵,既觉得有可能是自己记错了,又隐约觉得似乎真有这个细节。
这个模拟软体对过去的模拟结果都有历史记录,l100的模拟结果就在前面三个,丁耀先咽了口口水,问道:「我们再对比一下l100的结果?」
没人提出反对。赵文渊把这次结果的标签页单独拖了出来,留在屏幕的一边,然後在屏幕的另一边打开了l100的模拟历史记录。
任务预计完成时间六点八四秒。
冰芯这边的人也都意识到哪里不对了。
算力提升了百分之三十多,但是训练速度变成了原来的四倍。
封装负责人的身子往前探了探,喃喃地说出口:「这怎麽可能?」
刚才输入参数的时候,封装带宽的数据已经被压缩到很保守的水平了,对冰芯来说属於没有技术挑战。
相对应的,通信效率就会很受影响,这种多芯粒设计受到的影响最大。
怎麽可能会出现这样的结果?
丁耀先也抬起头看向赵文渊,想让他给个解释。
他甚至都没问问题,很显然,两组数据的对比显得不合常理,这需要一个解释。
赵文渊淡淡一笑。
「看起来大家都很惊讶,可能是因为你们对大模型的训练管线不太了解。」赵文渊开口道,语气平淡,仿佛在讨论一件微不足道的小事。其实他心里已经乐开了花。
虽然技术方向是大家头脑风暴出来的,但是既然是我来讲解和演示,那这个逼就让我一个人装吧。
冰芯的各位,准备好,表演开始了!
「l200的异构设计不只是拿几个小芯粒堆起来而已,它是为汤圆的训练管线特意设计过的。」赵文渊用手指着屏幕上的四块芯粒,说道,「我们对训练的每一步任务都做了精细的规划,会用到哪种算子,任务量有多大,编译器都可以提前规划好,这是一种在训练开始之前就进行过的宏观优化,训练一旦开始,所有的计算都会在同一个芯粒里完成,只有在最後reduce的阶段才需要进行通信。」
「这样,在密集运算的过程中,每一个芯粒其实都是一个完整的晶片,显存读取也被降到了最低。」
「为什麽我们能用比英伟达落後的制程达到效率上的反超?」
「英伟达要照顾所有的用户,而我们只需要考虑汤圆就可以。」
「答案就是这麽简单。」
赵文渊话说完,全场安静。
他静静的享受了几秒钟这会议室里的宁静,直到一个清脆的鼓掌声将这宁静打破。
是廖伯韬。
他一边慢慢鼓掌,一边脸上露出了一个真诚的笑容。「赵总还说自己是外行人,我看赵总对晶片设计是真正的内行啊。」廖伯韬说道,「先想好要跑什麽任务,才进行晶片设计,苹果做m系列的时候走得就是这条路。软硬体能够协同设计,才能做到效率的天花板上,源智在这方面得天独厚啊。」
说完他叹了一口气:「这条路,冰芯还没有走过。」
这话一出来,会议室里的人都有点儿明白他的意思了,所有的目光都汇聚在廖伯韬的身上。
廖伯韬环顾了一下四周,最终把目光放在韩路一身上,开口道:「韩总,冰芯和源智的合作,可以就按照你们刚才提的路线来。」
「设计方案你们出,冰芯负责把它生产出来,l200就是冰芯下半年的核心项目。」廖伯韬说这话的时候,心里也久违的升起了一点儿激动的情绪。
他做技术五十年了,见到这种突破性的东西还是会觉得兴奋。
这个东西做出来,如果真能有模拟中的效果,甚至只有它百分之八十的效果,也算是在计算晶片的领域走出了一条新路来。
这不是口号里说的国产替代。
这是真真正正在技术边界上的探索和创新。
韩路一也能看到廖伯韬的真诚,他站起身走到廖伯韬身边,两人再次握了握手。
「廖总,合作愉快。」
「合作愉快。」在合作意向达成之後,两家企业的合作具体以什麽形式、以谁主导,这才算是定了下来。
当然,会议到这还没结束,接下来双方要以同一个研发团队的方式来讨论问题了。
第一个要定的就是时间线。
丁耀先拿出冰芯先前准备的时间表快速看了一眼,说道:「冰芯这边,最快五月底之前成立项目组,人手到位。」
「我们这边的设计已经开始了,预计在九月之前把设计定稿。」薛兆恒下了保证书。
两边合计了一下,如果一切顺利的话,今年年底应该能进行第一次流片。
再留三个月的缓冲期,四到五月就能拿到测试集群了,离现在将近一年。
韩路一皱了皱眉头,问道:「丁总,能不能再快点儿?」
丁耀先尴尬地笑了笑。
要是别人这麽说,他就直接开怼了,不到一年就拿到产品,这个速度在晶片领域已经是火箭速度了好吗?嫌慢?找别人去!
但是问话的人是韩路一,他只能一边在心中默念「莫生气」,一边陪着笑解释道:「韩总,这已经是我们这边全年无休才能出来的方案了,晶片研发不是软体开发,就是要这麽长时间。」
全年无休,这话倒是把韩路一说得不好意思了。他笑了一下,说道:「我们对技术能力还是有自信的,如果软体方面我们能提供什麽支持,丁总尽管开口。」
这话说的丁耀先心中一动,脸上的笑容也变得真诚了许多:「那刚才的那款模拟软体,是不是能——」
「当然,我一会让赵总和你聊细节,如果有什麽功能改进上的需求也可以和他讲。」
两家的时间线协调完了,丁耀先在时间表上手动写了个更新後的日期,然後在上面画了个圈。
「明年四月一日之前,让第一套l200集群上线!」
看着这个日期,韩路一默默想着,这个日期还挺有意义的。
汤圆第一次在公众面前亮相,也是这一天。
等到会议开完,已经是傍晚的时候了,源智的四个人从冰芯总部出来,恰好能看到一片晚霞。
源智总部的大楼就在远处的一片晚霞中迎接着他们。
几人沿着街道往回走。
赵文渊拿出手机来,屏幕上摺叠的全都是知乎的提示。
他打开app,中午那个回答下面已经有几百条评论了,其中最高赞的一条是:「且听龙吟是吧?提头来见是吧?还敢说一年内国产晶片跑通训练?建议答主留下姓名,一年以後回来考古。到时候如果真有哪家跑通了,我直播吃」
赵文渊看着这条评论,没有回覆的兴趣,反倒是修改了原答案。
你以为我是吹牛,其实我是真有东西,这才是在网际网路装逼的精髓。
「更新:刚开完一个会,保密程度比较高,不能多说,我只能说——」
「诸君,且听龙吟。」
点击发布,赵文渊心满意足地收起了手机。
韩路一好奇的扫了他一眼:「怎麽了?」
赵文渊背着手,面对着满天红霞,语气云淡风轻:「没什麽,给网友做了一点儿简单的科普。」
韩路一摇了摇头,今天可是给老赵装爽了,但是结果很好,他懒得拆穿。
这种低成本的开心,总比买个楼便宜。
「看来明天是个好天气。」韩路一突然开口道。
「啊?你怎麽知道?」赵文渊问道。「朝霞不出门,晚霞行千里嘛。」