返回首页
RadarAI··论文与技术

Google Cloud 扩展第八代 TPU 产品线,Lisa Su 确认 AMD EPYC 为 TPU 8tx 主机处理器

中文摘要

Google发布第八代TPU产品线,Lisa Su确认AMD EPYC处理器助力TPU 8tx,并通过多项新技术优化算力效率与模型运行。

English Summary

Google launched four 8th-gen TPUs with AMD EPYC processors for the TPU 8tx, introducing new tools to boost performance and reduce latency for AI workloads.

原文节选

Lisa Su 转发并祝贺 Google Cloud 发布第八代 TPU 新品,包括面向超大上下文窗口和高机架计算密度的 TPU 8i Max,以及面向安全机密推理的 TPU 8tx。Google 称这是首次在一年内推出四款不同 TPU 系统,并开放 TorchTPU 原生运行 PyTorch 与 Hugging Face 模型、开源 TPU Sync 降低 KV 传输延迟超 90%、Agent Compute Engine 减少闲置算力。Lisa Su 补充 AMD EPYC 担任 TPU 8tx 的主机处理器。