谷歌开源TorchTPU,挑战英伟达AI芯片主导地位

科技/AI
谷歌周二将TorchTPU开源,现有PyTorch应用改一行配置即可跑在自家TPU与谷歌云上;亚马逊前一天发布TorchNeuron对接Trainium,并向PyTorch上游提交解耦英伟达芯片的代码。两家云厂商从开发者最常用的框架层切入,试图松动英伟达在AI芯片上的软件优势。
谷歌开源TorchTPU,挑战英伟达AI芯片主导地位

谷歌周二宣布,适配自家芯片的PyTorch版本TorchTPU已作为开源项目发布。开发者改动一行配置,就能把原本跑在英伟达显卡上的AI应用迁到谷歌的张量处理单元(TPU)和谷歌云。

就在前一天,亚马逊刚发布同类工具TorchNeuron。两家云厂商同时把矛头对准英伟达最坚固的那块地盘:AI开发者默认写代码的地方。

PyTorch是构建、训练和运行AI模型最常用的开源工具包,2016年由Meta(当时的Facebook)开发,2022年转交Linux基金会托管。业内常引用的一个估算称,约85%的AI应用建立在它之上。

它诞生时,英伟达的GPU已是AI研究的标配硬件,许多特性从一开始就围绕CUDA生态打磨。这层历史惯性,正是后来者最难撼动的部分。

TorchTPU主打的卖点是不用重写。现有应用保持代码不动,靠配置切换就能跑在TPU上,顺带把负载带进谷歌云。

谷歌称,项目与Meta、Hugging Face、vLLM的开发商Inferact、SGLang的开发商RadixArk等方直接协作,力求功能与代码库和原版PyTorch保持一致。

配套工具同步上线:一套TPU agent suite帮开发者迁移应用、排查报错;端侧AI工具LiteRT也做了更新,让手机、笔记本和嵌入式设备上的PyTorch应用跑得更顺。

“改一行配置就能换芯片”这句,最容易让人走神的还是宿舍桌上那台嗡嗡响的旧机器:寒假没回家,窗玻璃蒙着雾,为跑通一段几十行的PyTorch示例,从下午盯进度条盯到熄灯,显卡风扇响得戴耳机都压不住。第一条损失曲线降下来时,人站在楼道里半天没动。如今同样的活,一行配置就能换个芯片,门槛是塌了,可方向盘是不是也换到了卖云的人手里?

亚马逊周一的TorchNeuron做的是同一件事:把AI应用平移到自研芯片Trainium和AWS,同样不必重写代码。

它多走了一步,向PyTorch主项目提交代码,把若干特性与英伟达芯片解耦,让这套框架默认对任何硬件都更开放。

两条路线的算盘不同。谷歌做的是适配层,绑定自家云;亚马逊想改的是PyTorch的地基,一旦上游接纳,所有非英伟达芯片都能分到好处。

英伟达卖的不只是芯片。十几年攒下的CUDA算子库、调试工具、文档,以及一大批踩过坑的工程师,才是迁移时真正要付的账。

换芯片,代码可以改,性能得重新调。同样的并行策略、同样的显存预算,落到不同架构上表现可能差出一截,这部分工作没有一行配置能省。

TPU只能通过谷歌云获得,便利和锁定是同一枚硬币。小团队多养一套后端就多一份维护成本,迁不迁往往看算力配额和客户落在哪朵云上。

最先可能动心的是两类人:推理成本压得喘不过气的服务商,以及被多家云厂商争抢的大模型团队。前者对价格敏感,后者手里有筹码。

开发者不会因为多了一个选项就集体出走。变化在于默认值不再唯一:框架层若真与硬件脱钩,议价权就从卖卡的一方,部分转到掌握调度权的一方。

这场较量的答案不会写在发布会的页面上,而会落在开发者下次建仓库时敲下的第一条命令里。