重生之AI教父

CloseAI

首页 >> 重生之AI教父 >> 重生之AI教父最新章节(目录)
大家在看重生:权势巅峰 官场:被贬后,我强大身世曝光 我靠打爆学霸兑换黑科技 我成了少年何雨柱 真伤拉满,连鬼神也杀给你看! 大一实习,你跑去749收容怪物 官场从秘书开始 工厂里的夫妻 医路坦途 重生破案:我的眼睛能锁定凶手 
重生之AI教父 CloseAI - 重生之AI教父全文阅读 - 重生之AI教父txt下载 - 重生之AI教父最新章节 - 好看的都市小说

第201章 ChatGPT的代价

上一页书 页下一章阅读记录

只是想要得到这个模型,就得大几个亿美金进去。后续ChatGPT提供给用户使用,所需要的算力和设备只会更多。

因为训练模型只是单个实体在持续更新自己的内容,耗费的资源虽多,却是一次性的,一劳永逸。

而用户在使用的时候则是多个内容不再变化的实体持续推理,模型则需要反复根据用户不同的新输入一直生成回复。

虽然推理比训练的损耗小了许多,但也架不住百万千万的用户一起使用。

当时微软为了ChatGPT的广泛使用,在六十多个数据中心,给OpenAI腾出了几十万张GPU显卡,简直是壕无人性。

惹得自家的员工都嫉妒坏了,为什么他们OpenAI可以用,我们微软自己的员工用不了?

这不公平!

“ChatGPT级别的模型的大小还是跟现在我做过的那些差了太远了。”孟繁岐在心中开始飞速地计算了起来。

他需要估算出,自己到底大概需要多少张泰坦Z,一会才好跟老黄讨价还价。

深度学习的模型参数很容易计算,不过算完总是容易忘记。

孟繁岐有一套独特的办法,使得他可以对各个经典模型参数量之间的比例基本上了如指掌。

那就是以郑爽为基本计量单位。郑爽日薪百来万,一年就是六七个亿,可以记录6.5亿为一爽。

经典的残差网络,也就是孟繁岐去年的成名作,差不多0.033爽。

ChatGPT,1760亿参数,差不多250爽。

也就是说,孟繁岐目前经常训练的模型,参数量上距离ChatGPT得有7600多倍的差距。

这实在是现阶段难以负担的规模。

“不过好在ChatGPT的爆火后来引发了许多学者去思考如何将这个模型压缩得更小。”

孟繁岐对此感到庆幸,由于ChatGPT规模实在太大了,导致绝大部分玩家都根本玩不起这个东西。

因而整个业界都在想办法,到底怎么样才能够以百分之一百分之二左右的规模做到类似、乃至接近ChatGPT的效果。

“所以说,人穷也是有好处的,穷则思变嘛!”

若不是大家都玩不起250爽的大模型,又怎么会一个个都如此擅长把3到4爽大小的模型做好呢?

“我可以初步实现一版本十多亿左右参数的迷你ChatGPT,这样我需要的显卡数量大约在800到1000张左右,总价两三百万美金,这就在我很容易负担的范围之内了。”

孟繁岐希望黄仁勋为谷歌大脑提供一大批显卡是没错,但如今的他可并不缺钱了。

显卡进了谷歌,势必要被分走一大部分,用途上,也不能够百分百自己说了算。

不如多花点钱,自己先做一个超算中心。

微软那样上万张A100的究极奢华十亿美金计算中心,孟繁岐做不起,但做一个大几百、乃至千张泰坦Z的规模,还是负担得起的。

不就是钱嘛!不差钱!

唯一的问题在于,不知道老黄的泰坦Z到底生产了多少。

毕竟虽然两边都有合作的意向,可若是存货不多,黄仁勋也不可能真的让孟繁岐把这批显卡全都自己搬走了。

喜欢重生之AI教父请大家收藏:(m.38xs.com)重生之AI教父三八小说更新速度全网最快。

上一页目 录下一章存书签
站内强推攀高枝 凡人修仙传 诸神愚戏 无敌六皇子 疯批小师叔她五行缺德 十日终焉 从水猴子开始成神 官家天下 咬春靥 快穿之炮灰得偿所愿 过分野 异兽迷城 流氓帝师 我的法宝都是规则系 九龙至尊 摆脱生子系统后她成了兽世主宰 天渊 我有一剑 快穿之在小世界里边苟边吃瓜 封总,太太想跟你离婚很久了 
经典收藏国民法医 我不是戏神 我一个明星,搞点副业很合理吧? 年代1960:穿越南锣鼓巷, 重生96:权力之巅 戏假成真:演瘾君子这么像?查他 我在港综抽奖 开局被拒,转身拥御姐娇妻入怀 四合院:从供销社售货员开始 真伤拉满,连鬼神也杀给你看! 娱乐:我想做资本,不想当影帝 十抽满命!我一级一个金色词条! 极品仙园 一天涨一万战斗力,你跟我单挑? 大一实习,你跑去749收容怪物 觉醒:这么猛的辅助哪里找! 娱乐:重生豪门公子,玩转香江 你都手撕鬼王了,还说不会武功? 官道风流 港片:港岛大佬欢喜哥枭雄路 
最近更新我00后,有钱有爱,就不恋爱 系统在手,不享受岂不是浪费? 徒儿,下山祸害十大女帝去吧 别人打网游,我拿系统刷现实 世界折磨我,我掀桌了 分手后,一首偏爱火爆全网 我包养的对象!竟是京圈大小姐? 最强搬运工 高武:我能吸收异兽能量 高中刚毕业,我就实现了财富自由 灵气复苏:剑途 空无之路 我在幕后,创造诡异 我随手浇水的植物变异了? 别搞我,我真不想变女神啊! 打灯人的故事3 双穿:从在厕所捡到修真少女开始 系统赶时间,让我每秒签到一次 登仙失败?重生五百年直接无敌! 穿越千年:赴一场红颜之约 
重生之AI教父 CloseAI - 重生之AI教父txt下载 - 重生之AI教父最新章节 - 重生之AI教父全文阅读 - 好看的都市小说