手机浏览器扫描二维码访问
吴财满脸好奇,追问道:“芯片的问题都解决了,难道还有其他难题?”
叶老微微叹了口气,神色中带着几分忧虑:“还不是算力的问题嘛!
就说咱们的GPU制造,和星耀相比,差距还很大。
鹰尾巴的幻光100芯片,拥有800亿晶体管,80GB显存,带宽高达3TBs,专为超大数据、超复杂的计算任务设计,像AI训练、大规模计算、气候模拟这些,它都能轻松应对。
反观咱们国产的GPU,明月的辉光9系列,性能大概只和鹰尾巴幻光1050相当,橘子的耀光910B算力勉强能和鹰尾巴的幻影100较量一下,可跟幻光100比起来,尤其是在显存和带宽上,差距就太明显了,耀光910B的带宽只有56GBs。
不仅如此,芯片之间的互联技术上,幻光100支持高效的多GPU协作,能让多个芯片同时工作,效率能提升好几倍,国产GPU在这方面技术差得远,带宽低,芯片间协作能力不行,想做高效并行计算,难如登天。”
吴财若有所思地点点头,又问道:“你说的是AI领域吗?”
叶老肯定地点点头:“没错,就是AI。
虽说在工业生产和应用领域,咱们国家的AI技术比山鹰国领先,像国内很多工厂引入AI实现生产流程自动化,提升了生产效率和产品质量,港口利用AI优化货物装卸和运输调度,提高了运营效率。
但在生成式AI方面,因为算力不足,和山鹰国还是有不小的差距。
像训练山鹰目前最强那种超大规模的语言模型,需要大量的GPU算力支持,才能完成海量数据的处理和复杂模型的训练,从而实现自然语言处理、文本生成、对话交互等强大功能。
咱们由于算力受限,在训练同等规模和复杂度的模型时,就会面临效率低、成本高,甚至难以实现的问题,这就导致生成式AI的发展受到制约。”
吴财皱眉问道:“既然我们的算力受限,为什么不多弄点GPU堆呢?”
叶老无奈地摇了摇头,说道:“吴财啊,你这话说起来简单,可实际操作起来,那成本高得超乎想象。
就说要赶超山鹰目前最强大语言模型CGT吧,咱们先从算力需求来讲。”
“CGT训练所使用的算力是极其庞大的。据估算,它训练一次的算力消耗,大概需要数百万个鹰尾巴的幻影100运行数周时间。咱们就算找到性能相当的国产GPU来替代,成本也低不了。
以鹰尾巴的幻影100为例,一颗市场价格大概在1万刀左右,这还不算配套的服务器、散热设备等周边硬件成本。”
“假设我们要搭建一个算力集群来追赶CGT的训练水平,保守估计需要500万个GPU。
光GPU采购成本就得500亿刀,这还只是硬件的基础投入。”
“除了硬件,还有运行成本。这些GPU需要24小时不间断运行,电力消耗就是天文数字。
按照一个GPU一天消耗3度电来算,500万个GPU一天就需要1500万度电。以工业用电每度1元来计算,一天的电费就是1500万元,一年下来电费就得54.75亿元。
而且,数据中心的维护、管理,专业技术人员的薪酬等,每年又是一笔巨额开支,至少几十亿。”
“另外,训练过程中,为了保证数据的准确性和多样性,还需要购买和处理海量的数据,数据的采集、清洗、标注等环节,又得花费大量资金,至少数十亿甚至上百亿美元。
这样算下来,从硬件采购到运行维护,再到数据处理等一系列环节,想要达到赶超CGT的算力水平,前期投入至少得1000亿刀以上,每年的持续运营成本也得几百亿刀。”
抗战:从冀中平原走上热血战场 关东山,黑刀客 回大明摄政 重生六十年前,靠着先知被封神了 闪婚,老婆竟是高冷总裁 废材也飞仙 德云:从大师兄开始崛起 官场:分手后,我转身考上省组部 官场:救了女领导后,我一路飞升 逆天神识 说我不配当师兄,我退宗了你哭啥 带着满级账号穿越宝可梦 冷冰冰的剑修和她那财迷小道侣 三国:乱世第一枭雄 和星际大佬结婚后,我被带飞了! 综影视之男主都是恋爱脑 仙子阿姨,您当魔教夫人不合适吧 弘未来人生 我在大唐做战神 狩魔大宗师
替嫁新娘神医夫人她开挂了简介emspemsp关于替嫁新娘神医夫人她开挂了为了查清母亲去世的真相,孟绮回到江都,代替同父异母的姐姐嫁给面貌丑陋双腿残疾的顾家大少爷。都以为她是乡下丫头空长一副好皮囊,卸掉马甲的她却轰动全世界。...
一个男人和一个女人,一个混沌祖宝和祖宝器灵,两只老虎,以及一众宗门弟子家人,成神的故事。如果您喜欢玄天运石,别忘记分享给朋友...
联盟特搜官简介emspemsp关于联盟特搜官新书天刀金手指在修仙已签约精灵世界之联盟特搜官关键词丶宠物小精灵丶神奇宝贝丶精灵宝可梦。这个世界是神奇的,有各种各样神奇的生物,简称宠物小精灵,而这个世界又是残酷而又黑暗...
醒掌天下权,醉卧美人膝,五千年风华烟雨,是非成败转头空!21世界最年轻的历史学家凌云,意外重生到了大明宣宗长子,大明战神朱祁镇的身上,他要为战神正名,他要打造一个牢不可破的大明!!!...
三十而立,四十不惑。中年危机,人生脱轨。一夜之间,全数归零。何去何从,谁人知晓。身处迷雾,四面楚歌。突入重围,冲上云霄。宝剑锋从磨砺出,梅花香自苦寒来。你若奋斗,必定辉煌。如果您喜欢金牌律师的荆棘花冠,别忘记分享给朋友...
甘霖绑定系统的时候,系统失败了999次,即将被抹杀。系统该吃吃该喝喝,享受的日子没剩几天,千万记住那个男人就是恶魔,招惹到他就死定了!甘霖懂了。刚开始斯文败类影帝我为利益不择手段,挡我的都该死。阴郁黑化徒弟我为复仇隐忍蛰伏,挡我的都该死。冷血无情杀神我为篡位谋划多年,挡我的都该死。再后来人前凶残阴戾如恶狼,人后暴躁撒娇小奶狗。我怕黑,三分钟内赶来陪我。你不能喜欢别人,你只能喜欢我。听见了没,老子离不开你,敢跑我打断你的腿!甘霖嗯?男人没有你我会死,别离开好不好。甘霖嗯。系统以为带了个青铜,没想到宿主当场超神带躺赢!如果您喜欢偏宠反派的主神回来了,别忘记分享给朋友...