- dotx95天前13947
Google Cloud 宣布与 Meta 的 PyTorch 团队共同开发的 TorchTPU 已在 GitHub 开源,TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项,现有代码几乎无需改动即可运行。
vLLM、SGLang、llm-d、TorchTitan 等框架已接入,Hugging Face Transformers v5 可直接把模型部署到 TPU。
^-^
主楼 - 暂无回复
Google Cloud 宣布与 Meta 的 PyTorch 团队共同开发的 TorchTPU 已在 GitHub 开源,TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项,现有代码几乎无需改动即可运行。
vLLM、SGLang、llm-d、TorchTitan 等框架已接入,Hugging Face Transformers v5 可直接把模型部署到 TPU。
^-^