关灯
护眼
字体:大 中 小
上一章
目录
下一页
韩路一回头看了赵文渊一眼,发现他没有要问问题的意思。
他随后用对讲机和外面联系了一下。
“问题在网络拓扑。”韩路一说。
声音通过对讲机、再通过视频传到了江松然耳朵里。他马上在电脑上翻找起原始的网络拓扑图来。
这是他自己设计的,为的就是把集群的效率打满。
张彪很快就换好衣服,拿着打印好的拓扑图走了进来。
图和实际一对比,很快就能看出问题了。
江松然原本设计的是为了降低推理组之间通信延迟,把几个关键节点尽量放在同一个低延迟域里。
但云垠实际交付的时候,却没有完全按照这张图来进行部署。
他们使用了自己内部更标准、更容易维护的方法。
普通的、对通信延迟不敏感的服务器,这种接法完全没问题,属于为了可维护性做的小小牺牲,大家都可以容忍。
但是对大模型的使用场景来说,这一点小延迟就会被放大很多倍。
单点测试当然没问题,整机测试也没问题,因为问题出在服务器间的通信。
江松然的推断其实是对的,再给他一段时间,加上赵文渊的现场排查,他们应该也能查出来。
只是没有韩路一这么快罢了。
赵文渊看着两份图,脸色变得很难看。
他昨晚查了一整夜,什么GPU、驱动、配置、算子、服务、调度,全都查了,结果问题不在他能看到的任何软件层面。
而在机房布线。
还好韩总亲自来了,赵文渊心想。
江松然则在视频那边咽了口口水韩总他是怎么看出来的?他之前是不是连这个原始的网络拓扑图都没看过?
张彪这边,已经迅速叫现场的运维工程师过来,通过节点间测速确认了问题。
排查完之后,修复起来就容易了。还不到十分钟,刘然就带着两个人跑了过来。
“韩总,韩总!实在是不好意思。”刘然气喘吁吁的说,“不知道你已经到了,不然我肯定全程陪同的。我听说你这边发现了点儿问题?”
张彪上前解释了一下。
刘然的脸色有点儿难看了。
这个事明显是云垠做错了,明明是要讨好的客户,怎么第一件事就没办好。
“韩总,我的。”刘然赶紧说,“我现在就叫人来,加班加点儿给你换好。”
韩路一背后有国网电力投资,这是他巴结都巴结不好的资源。
韩路一对这些表面功夫倒是不在意,他现在只想看修复之后每秒请求数能达到多少。
现在是争分夺秒的时候,只要能做到三十以上,那就是胜利。
刘然带来的人真的是加班加点、全力以赴的在工作,几个小时之后,线按照拓扑图的要求重新接过了。
赵文渊再次运行了压测程序。
每秒请求数缓缓上升。
八。
十六。
二十七。
三十九。
五十一。
最后停在了五十一,离理论极限还差了一点点。
但是理论是理论,实际能做到这个水平,已经可以说相当厉害了。
这就是江松然设计的链路的含金量。
看到这个结果,在场的所有人都松了一口气,包括一直等着看结果的刘然。
韩路一看着机房里亮起来的一排排服务器的指示灯。
汤圆,他制作的第一款大模型,终于在属于自己的集群上运行起来了。
从这一刻开始,他有自己的通用大模型了,从头到尾,视界出品。
第二百四十五章 已省略
姜亦心最近压力有点儿大。
从参加工作到现在,满打满算不到一年,姜亦心已经做到了产品线的总负责人,直接汇报给代行CEO职责的苏念念。
说是火箭升职也不为过了。
现在汇报给姜亦心的下属,最年轻的一个也比她多五年的工作经验,更别提还有比她多工作十几年的李文。
如果别人遇到她这样的情况,会有什么感觉呢?
姜亦心不知道,但是她现在最常感觉到的是
怕被人拆穿。
就是那种,“其实我没有这么好,都是大家不小心被我骗到了,如果有一天被人看到我真实的一面,我就完蛋了”的感觉。
如果苏念念知道她的想法,一定会告诉她,职场中最重要的标准只有一个,不是年龄,不是工作经验,甚至不是行业地位、技术能力。
而是能够带来影响的能力。
在某些岗位上,就是赚钱的能力。
姜亦心虽然工作的时间短,但是她是
本章未完,请点击下一页继续阅读>>『加入书签,方便阅读』
上一章
目录
下一页
天竹小说手机版 - 随时随地畅读精品小说
澜和文学手机站 - 小说阅读更轻便
知暮小说移动端 - 精选免费小说合集
山青小说手机版 - 畅读全网热门小说
月然书院手机版 - 小说迷的移动书架
风缤小说手机端 - 免费追更每一本好书
云初小说手机版 - 精选小说轻松看
寒涟小说手机版 - 小说更新实时推送
明歌小说手机站 - 精彩小说掌上读
清珏小说手机端 - 海量精品小说免费读
澜语小说移动版 - 小说迷的掌中宝
逸华小说手机站 - 热门小说即时更新
天桂小说手机版 - 免费小说随时读
风竹小说手机端 - 精选完本小说推荐
云明小说手机站 - 小说迷必备阅读站
书冉小说手机版 - 精彩小说免费在线
澜山小说移动端 - 精选原创小说合集
寒竹小说手机版 - 免费阅读完本佳作
清蝉小说手机端 - 小说迷的最佳阅读平台
风翎小说手机版 - 精选网络小说在线阅读