李白文学

字: 大 中 小
关灯 护眼
李白文学 > 首富从看见信息面板开始 > 第二百六十八章 得一可安天下

第二百六十八章 得一可安天下

第二百六十八章 得一可安天下 (第2/2页)

L100backenddetected.(检测到L100后台)
  
  runtimeinitialized.(运行时已初始化)
  
  kernelfusionenabled.(算子融合已启用)
  
  memoryplannerinitialized.(显存规划已初始化)
  
  multi-cardschedulerready.(多卡调度准备就绪)
  
  服务加载完毕。
  
  21B模型进入运行状态。
  
  薛兆恒呼吸微急。
  
  他没去手动输入问题、看模型回复。
  
  模型回什么,是做模型的人该操心的事。
  
  他只看硬件性能和利用效率。
  
  服务器里存着硅明平时测试用的脚本,能大量生成模型输入,对承载能力做压测。
  
  他没犹豫,运行测试脚本。
  
  监控数值开始变化。
  
  最先跳的是显存利用率。
  
  以前跑开源小模型,硅明自己的算子库连显存都分配不好,七成显存白白空着。
  
  眼下这个数字远远越过30%。
  
  75%……82%……88%……
  
  最后差不多稳在95%。
  
  没检测到回灌压力前,压测脚本还在加大并发。
  
  实时吞吐量已到二十五万词元/秒。
  
  薛兆恒记得,同样的测试上次卡在两万就上不去了。
  
  算力芯片上,真正衡量软件水平的关键指标叫模型算力利用率(ModelFLOPUtilization,MFU)。它不直接显示在面板上,因为计算它要用芯片算力的极限值。
  
  若理论上芯片能跑1000TFLOPS,模型实际只用到200TFLOPS,MFU就是20%。
  
  跑21B模型,每生成一个词元约需2×21B,也就是大概42GFLOPs。
  
  二十五万词元每秒对应250000×42GFLOPs=10500TFLOPS。
  
  L100理论算力600TFLOPS,32卡集群就是32×600=19200TFLOPS。
  
  10500÷19200=54.7%。
  
  54.7%?
  
  薛兆恒心算完,总疑心自己看错了位数。
  
  他打开计算器,又算一遍。
  
  确实是54.7%。
  
  要知道,英伟达最先进的H200,MFU极限也只在60%上下。
  
  这一刻,薛兆恒心跳快得像二十多年前和老婆结婚那晚。
  
  他一直以为L100的路子不对,硅明落到今天这步,是芯片设计败了。
  
  可这一刻他意识到:自己缺的只是一套软件。
  
  有了它,硅明就真成了中国的英伟达。
  
  薛兆恒缓缓起身,回头看向韩路一。韩路一正带着若有若无的笑看他。
  
  “薛总,我没骗你吧?”韩路一说道。
  
  薛兆恒仍能听见胸口剧烈的心跳。
  
  这是这么多年,他离梦想最近的一刻。
  
  算力国产化,真在他手里实现了。
  
  又深呼吸几次,他才开口:“韩总,对不起。”
  
  韩路一尚未答话,薛兆恒又道:“我为刚才的傲慢向您道歉。这套软件的价值比L100大,比硅明大,我竟以为您是个骗子。”
  
  韩路一上前一步,拍拍他肩膀,笑道:“薛总言重了。这样严谨的作风,正是芯片研发最需要的;我还指望你将来带队做出更好的芯片。”
  
  “况且,软硬件缺一不可,说不上谁价值更大。没有L100,软件层也只是空中楼阁。”韩路一给他递了个台阶。
  
  薛兆恒心里却清楚,这层适配软件不是两家合作攻坚出来的,而是源智团队全靠逆向做出来的;能做硅明,自然也能做别家显卡。
  
  真正稀缺的从来不是显卡,而是这种快速完成软件层适配的能力。
  
  硅明被选中,是运气。
  
  几百兆的适配层,U盘传进来不过几秒;可有了这几百兆文件,硅明二十亿的估值怕要翻上一百倍还多。
  
  要知道,全中国都在找突破英伟达体系的国产化替代方案。
  
  中国AI芯片市场规模三年前就已达三千亿。
  
  哪怕只拿下百分之十,也是三百亿营收,足够撑起一家几千亿市值的公司。
  
  薛兆恒不算成功的商人,却在芯片行业浸淫多年,对这些数字了如指掌。
  
  他没有对源智提供的文件动歪心思,反倒感激韩路一的信任——他完全可能偷偷留下备份,转头告诉投资人。
  
  可他也明白,源智团队的技术能力,价值远高于这几百兆文件。
  
  唯有让硅明与源智合作,才有可能继续探国产算力的极限。
  
  当然,薛兆恒不知道,韩路一敢把U盘放心交给他,是因为机房里一切电子设备都在视界监控之下;他若真想偷备份,也会第一时间被发现并删除。
  
  还好,他没机会发现这套魔法般的防御机制。
  
  薛兆恒删掉适配文件,集群重启后,与韩路一一前一后走出机房。
  
  已是晚上八点。
  
  “韩总,时间不早了,您今天又舟车劳顿,我就不留您吃饭了。”薛兆恒脸上挂着不好意思的干笑,“您好好休息,明天看完库存,我再请您吃鹏城特色。”
  
  说到底,薛兆恒这个创业公司CEO过得比韩路一寒酸多了:没秘书,没助理,连司机也没有。
  
  他急着见韩路一,本就有失礼数;又拖到这么晚,想安排宴请,身边连个人都没有,只好尴尬地送未来老板离开。
  
  好在韩路一不在意这些。
  
  在他看来,工作优先;能把薛兆恒拉进队伍,将来死心塌地搞研发,这几个小时就没白花。
  
  硅明这笔交易成功,至少汤圆短期内的推理算力算解决了。
  
  薛兆恒一直送韩路一上车。车门关上前,韩路一又看了一眼薛兆恒的属性面板。
  
  【薛兆恒】
  
  【研发(芯片)SS|管理D|稳定SS】
  
  【特技:芯片研发|供应链管理】
  
  【词条:从无到有|凤雏】
  
  “韩总,回酒店?”刘彧坐在副驾驶上,回头问了一句。
  
  韩路一回头看向陆明洲:“明洲,你来两天了,吃过什么好吃的馆子没?先去把晚饭吃了。”
  
  说罢,他望向窗外。
  
  卧龙凤雏,得一可安天下。
  
  如今两人都在我手,英伟达,你又将如何应对?
『加入书签,方便阅读』
热门推荐
和离后,神医王妃野翻全京城 十八道金牌追令,开局混沌道体! 越界心动 Apop之我在首尔当外教 NBA:开局满级力量,库里被我惊呆了 娇软美人在末世封神了 龙族:从西游记归来的路明非 赘婿出山 泥泞 股神传奇