ChatGPT 有多烧钱?大模型训练一次 200-1200 万美元

爱评测
2023
02/21
22:21
IT之家
分享
评论

来源:IT之家  

IT 之家 2 月 19 日消息,ChatGPT 风靡全球后,科技巨头们纷纷入局,生成式 AI 其背后以大模型为基础的人工智能成为业界投入的方向。

IT 之家了解到,所谓 " 大模型 ",通常是在无标注的大数据集上,采用自监督学习的方法进行训练。之后在其他场景的应用中,开发者只需要对模型进行微调,或采用少量数据进行二次训练,就可以满足新应用场景的需要。

然而,训练通用大模型非常 " 烧钱 "。据国盛证券报告《ChatGPT 需要多少算力》估算,GPT-3 训练一次的成本约为 140 万美元,对于一些更大的 LLM(大型语言模型),训练成本介于 200 万美元至 1200 万美元之间。以 ChatGPT 在 1 月的独立访客平均数 1300 万计算,其对应芯片需求为 3 万多片英伟达 A100 GPU,初始投入成本约为 8 亿美元,每日电费在 5 万美元左右。

如果将当前的 ChatGPT 部署到谷歌进行的每次搜索中,需要 512820.51 台 A100 HGX 服务器和总共 4102568 个 A100 GPU,这些服务器和网络的总成本仅资本支出就超过 1000 亿美元。

国盛证券认为,在公有云上,对于以谷歌等全球科技大企业而言,百万至千万美元级别的训练成本并不便宜,但尚在可接受范围内、并非昂贵。

THE END
广告、内容合作请点击这里 寻求合作
数码
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

博主 i 冰宇宙暗示,小米 13 Ultra 会在 4 月份发布。i 冰宇宙爆料,小米 13 Ultra 支持 120 倍变焦,而且小米加入了长焦优化算法,使得 50 倍数码变焦也能拥有很高的样张效果。
每日快讯
经查,苹果已经正式将 iPad mini 3 列为停产产品(obsolete product)。
每日快讯
此前不久,欧洲理事会有关统一电子设备数据线的提议通过批准,并表示自 2024 年起各类在欧盟范围内销售的手机、平板、数码相机等电子设备必须统一使用 Type-C 充电接口。除了需要统一使用 Type-C 充电接口...
每日快讯
从今年中旬开始,折叠屏手机找到了新的发展方向,那就是轻薄。从三星的 Galaxy Z Fold 4 到小米的 MIX Fold 2,轻薄的机身让消费者只需一台手机就能实现轻薄和大屏的体验,实现了另一种层面的产品 " 成熟 ...
每日快讯
市场研究机构 TrendForce 公开了 2022 年第四季度全球智能手机市场报告,苹果以 24.6% 份额超越三星成为全球第一。据悉,今年第四季度全球智能手机总出货量达 2.89 亿部,较上季度下降 0.9%。
每日快讯

相关推荐

1
3