智东西
编译 | 香草
编辑 | 李水青
(资料图片)
智东西8月10日消息，据外媒报道，国内互联网巨头正在抢购高性能的英伟达（NVIDIA）芯片，用于构建生成式AI系统。
据知情人士透露，百度、字节跳动、腾讯和阿里已向英伟达订购了价值10亿美元的共约10万张A800芯片，将于年内交付，另外价值40亿美元的芯片将于2024年交付。
两名了解此事的字节员工表示，其公司已储备了至少1万张英伟达芯片，并订购了近7万张A800芯片，将于明年交付，价值约7亿美元。
A800芯片是英伟达用于数据中心的尖端芯片A100的“替代版”，为中国市场专供。由于华盛顿去年为遏制中国技术而实施的出口限制，国内科技公司只能购买数据传输速率低于A100的A800。
英伟达发言人称，消费互联网公司和云服务提供商每年都会在数据中心组件上投资数十亿美元，往往提前好几个月就下订单。
随着生成式AI的热度高涨，许多科技公司都在开发自己的大语言模型。英伟达的芯片成为全球科技公司的热门产品，为大语言模型的开发提供了强大的计算能力支撑。
据知情人士透露，字节跳动有许多小团队正在开发各种生成式AI产品，其中包括一款代号为Grace的聊天机器人，目前正在进行内部测试。今年5月，字节跳动曾在其社交媒体应用TikTok上测试了聊天机器人Tako；又在6月推出了大模型B端业务“火山方舟”，供企业试用不同的大语言模型服务。
▲聊天机器人Tako测试截图（图源：Watchful）
腾讯云于4月发布了一个新的服务器集群，采用英伟达H800芯片，可以支持大语言模型训练、自动驾驶和科学计算。阿里也囤积了数千块H800芯片，计划将其所有产品都纳入大语言模型，包括淘宝和高德地图等。百度也开发了自己的聊天机器人，名为文心一言。
然而，大语言模型训练需求的增长也导致全球芯片库存不足，从而导致芯片的成本也在增长。一位英伟达经销商称，其手中的A800芯片价格上涨了50%以上。
结语：大模型热潮或引发芯片供应不足
阿里、字节等互联网巨头向英伟达下单订购50亿美元芯片，预计在今年和明年陆续交付。大量的芯片需求主要是出于AI产品开发的需要，其背后的大语言模型训练需要强大的算力支撑。
在生成式AI这个科技热潮下，大厂们都想交出一份令用户满意的答卷。然而，芯片的供需不平衡等也是不可忽视的问题。
来源：路透社等
责任编辑：Rex_11
营业执照公示信息