114B音视频模型搬上摩尔线程:MAGI-2 Preview单步从15.6秒降到565毫秒
Sand AI 的 MAGI-2 Preview 是一个约 114B 参数、每 token 约激活 6B 的音视频生成模型,此前只在 CUDA 生态里运行。借助兼容层 torchada,vLLM-Omni 的既有实现几乎原样跑在摩尔线程 MUSA 上,再沿执行路径逐项优化:首次可运行版本每步去噪 15.6 秒,应用全部改动后最新测量为 565 毫秒。这些数字来自不同代码树和会话,只在各自段落内比较。
Sand AI 的 MAGI-2 Preview 是一个约 114B 参数、每 token 约激活 6B 的音视频生成模型,此前只在 CUDA 生态里运行。借助兼容层 torchada,vLLM-Omni 的既有实现几乎原样跑在摩尔线程 MUSA 上,再沿执行路径逐项优化:首次可运行版本每步去噪 15.6 秒,应用全部改动后最新测量为 565 毫秒。这些数字来自不同代码树和会话,只在各自段落内比较。
已读完全部报道