跳到主要内容
返回时间线
Hugging Face Blog来源发表:

手术模拟不再只靠数值模型:从临床胆囊切除录像学动力学,单卡实时响应器械动作

核心概要

NVIDIA 发布 Cosmos3-H-Dreams,把交互式生成式手术模拟从桌面缝合任务推进到临床胆囊切除场景。此前 Cosmos-H-Dreams 在 dVRK 桌面缝合上学习视觉动力学,不显式建模组织形变与接触;新模型改用 CMR Surgical Versius 平台临床录像与机器人运动学训练,以 Cosmos 3 为底座,经教师—学生蒸馏得到四步与两步去噪检查点,在单张 RTX PRO 6000 GPU 上实时运行并接受运动学控制。

AI-generated editorial illustration: NVIDIA Cosmos3-H-Dreams: Bringing Clinical Surgery to Life Through Generative Simulation

深度剖析

生成式手术模拟的适用场景从受控桌面环境扩展到人体内的临床胆囊切除画面,器械动作可直接驱动生成视频的后续演化。 上一版 Cosmos-H-Dreams 基于 Cosmos-Predict2.5,只在 dVRK 桌面缝合这一基础验证场景上提供交互式生成模拟。 新模型以临床手术中录制的视频与机器人运动学为学习对象,据发布方所知是首个用临床胆囊切除录像训练、支持实时运动学控制的生成式手术模拟器。

模型不显式建模场景几何、组织形变和物理交互,而是从同步的视频与机器人运动学中直接学习视觉动力学。 数值模拟需要显式写出几何、形变与接触,生成式路线把这一部分换成从数据中学到的画面演化。 训练数据限定为同时可见两件器械的片段,即左侧 Cadiere 抓钳与右侧单极钩,并限制相机指令以突出器械驱动的交互;动作空间为 28 维,含双臂位姿与夹爪、能量控制、摇杆轴与按键,视频为 832 x 480、动作按 10 Hz 对齐。

为在实时控制回路中生成,双向教师模型被蒸馏成按新动作分块出帧的因果学生模型,并配流式推理运行时。 双向教师先在 24 帧未来画面上适配,再扩展到 72 帧,即 10 Hz 下 2.4 秒与 7.2 秒,以获得更长的外科动力学学习序列。 因果教师强制让学生用录制上下文练习顺序生成,Self-Forcing 再用自身生成上下文、在教师与学习到的评判器引导下训练,以缓解交互推演中的误差累积;首个学生每块四步去噪,两步版本另行训练而非把四步模型少采样几次。

启示与展望

已展示的范围是胆囊切除这一术式、两件受控器械与单张 RTX PRO 6000 GPU 上的实时生成,四步与两步检查点分别对应画质与推理开销的取舍。发布方把扩展至胆囊切除全部阶段、与显式几何和接触力学结合、引入外科医生评估、支持更多器械以及闭环训练自主手术策略列为后续研究方向。

发布方指出视觉真实只是验证起点,不等于生物力学准确,画面还须跟随平移、旋转与夹爪指令;长推演中小误差会累积,改变器械几何或解剖结构。四步与两步检查点的取舍是推理更快但画质更低,且这些方向均属研究计划而非已确立的临床能力。