返回第181节  首富从AI浪潮开始首页

关灯 护眼     字体:

上一页 目录 下一页

,你有什么建议吗?”

    江松然微微沉吟了一下,没有马上回答。

    这个问题其实有点儿敏感。江松然当过管理者,当然知道对于任何一家公司来说,采购都是敏感话题,更何况 AI用显卡的单卡价格都在十万以上,五百张就是五千万的采购,金额可不小。

    如果是为了安全,他最好是给出一家国产头部大厂的推荐,大厂内控严厉,给他回扣的风险小,韩路一也更不会怀疑他。

    但是江松然在做过调查之后,确实发现了一个更好的选择,只是说出来未必对他本人是一件好事。

    他没有犹豫太久,还是咬了咬牙,说出了更冒险的版本:“有一家,叫硅明半导体( Sili-Lun),总部在鹏城,也是个创业公司,去年刚开始量产第一款产品,叫L100,算力 600 TFLOPS,片间互联带宽 600 GB/s,对标的是英伟达的 H100。硬件的料很足,而且还有一个对我们来说是优点的缺点他们的软件做的很差,完全没有训练的落地配套,买家全是在做推理。”

    “所以硅明对咱们来说格外合适,五千多万的单子,对他们来说是救命稻草,而且他们的销路不好,有现货。”江松然把自己的思考都说了出来,“再加上他们的软件弱,硬件强,按硬件单价算性价比就特别高。而我们根本不用他们的配套软件,相当于采购的钱全花在硬件上了。”

    这话说完,江松然也心里打鼓。

    他明确表示了这是他提前调查过的厂家,韩路一会不会怀疑他吃了回扣?

    他心里默默想了一句话:他以国士待我,我当以国士报之。

    韩路一面上不动声色,只是眼睛发亮。

    他没什么犹豫,直接说道:“江博士你费心了,确实很适合源智现在的需求。这样,你不方便出差,一会我让我的助理过来找你,你和他交代清楚,让他跑一趟鹏城。”

    江松然心里松了一口气。

    不让他经手他感到挺庆幸的,至少可以避嫌。

    正事聊完,韩路一最后又说了一句:“你既然说有信心,我很期待咱们把自己的集群搭起来的那天。”

    实际上江松然说的还保守了,他不只是有信心。这个事情他做过一遍了,再做一遍当然是十拿九稳。

    实际上现在见识过了源智科技的技术潜力,他觉得不止是五百卡、千卡的集群,就算是万卡也不是不能尝试。

    要知道,想把显卡集群做大,其中的技术难度是指数级上升的。

    因为真正的挑战来源于在使用过程中,集群里的各个节点之间的通信。想要完成大模型的训练,就要让各个节点之间数据完全同步。假设只有十个人,想要让他们互相交流一个信息,不是什么太难的事情;可是如果扩大到一百个、一千个人,每个人都各自在做自己的事情,即使是简单的信息同步也很难做到。

    而且万卡集群比起千卡集群,运算速度并不能提升十倍,受通信带宽的限制,能达到七八倍就不错了。

    成本极高,收益不大,既然这样,那为什么还要做万卡集群呢?直接做很多个小集群不行吗?

    那是因为万卡集群能做到千卡集群做不到的事情,就是训练超大模型。

    基于现在的大模型理论,模型越大,参数越多,模型的能力就越强。可是想要把那么多信息训练到一个模型里,就需要能够同时容纳所有原始信息的内存,只有使用万卡这个规模的集群,才有可能训练出这样的超大模型来。

    可以说万卡集群才是英伟达体系王冠上的明珠。

    而现在,江松然已经有野心在源智科技用国产显卡挑战万卡集群了。

    当然了,AI训练用显卡的成本,即使国产的成本低很多,单卡价格也在十万元人民币以上。要做万卡集群,单是显卡成本就要十亿。更别说这个级别的集群,配套的机房、电力、冷却、存储等等成本加起来是显卡本身的一倍左右,万卡集群的总投入要在二十亿以上。

    但是这些事情江松然都不担心。那不是 CEO应该担心的问题吗?他相信到时候韩路一会解决的。

    这些念头在江松然的脑子里转了一圈,什么都没说出口。

    只是他那颗因为家中变故而变得沉寂的心,突然又火热起来了。

    

    第二百章 这是政策性采购

    两人结束了短暂的交谈,韩路一便准备接着去工作了。

    他还有很多苦力活要做。

    走出会议室的时候,韩路一又突然提了一句:“招人的事,你别有压力,不用消耗你的关系。”

    韩路一这是真心实意的,现在 AI Infra正是热门的领域,能招到江松然一个人才他已经很满意了,他当然也知道源智科技现在不是什么知名大厂,担心江松然消耗自己的名声去招人,反而拖累了他。

    江松然听到眨了眨眼,说:“我在
本章未完,请点击下一页继续阅读>>

『加入书签,方便阅读』

上一页 目录 下一页