谷歌推出超级电脑架构 Hypercomputer,整合主流深度学习框架

文章正文
发布时间:2023-12-09 06:55

IT 之家 12 月 7 日消息,谷歌今日在推出全新大语言模型 Gemini 1.0、云端 AI 芯片 TPU v5p 外,还推出了超级电脑架构 AI Hypercomputer。

IT 之家获悉,AI Hypercomputer 电脑架构号称 " 软硬结合 ",整合了为 AI 优化的硬件、开源软件、主流深度学习框架,并号称采用灵活的定价模式,便于商业及研究部门使用。

谷歌介绍称,传统深度学习硬件主要凭借硬件性能来加强 AI 计算速度,而 AI Hypercomputer 超级电脑架构实现了 " 软硬结合 ",利用软件与硬件的协同式设计,提升 AI 训练效率。

谷歌声称,AI Hypercomputer 支持 JAX、TensorFlow 与 PyTorch 等深度学习框架,以及 Multislice Training 与 Multihost Inferencing 等软件,还深度整合了谷歌 Kubernetes Engine(GKE)与 Compute Engine 两款基础架构服务。

IT 之家同时发现,谷歌强调了 AI Hypercomputer 在定价费率方面的独特性,谷歌声称该 AI 结构提供了更灵活的消费模式,使用了一项名为 "Dynamic Workload Scheduler" 的平台计费基准,提供 "Flex Start" 与 "Calendar"。

Flex Start 主要用来微调模型,承载学术实验及较短的训练任务,或进行蒸馏、离线推理及批量性的任务,计费标准主要基于 AI 任务所使用的 GPU 与 TPU 量。

而 Calendar 模式则可替 AI 任务预留开始时间,适用于需要精确开始时间及模型训练持续时间的任务,计费标准主要基于时间长度。

首页
评论
分享
Top