NVIDIA 發布 Cosmos3-H-Dreams:即時生成式手術模擬,單張 RTX PRO 6000 就能跑
NVIDIA 在 10 月 20 日釋出 Cosmos3-H-Dreams——用真實膽囊切除手術影像訓練的即時生成式世界模型,支援手術機器人動作即時操控,單張 RTX PRO 6000 可跑 43fps。
NVIDIA 在 10 月 20 日於 Hugging Face 發布 Cosmos3-H-Dreams:一個專為手術機器人打造的即時、動作條件式生成式世界模型。它的訓練資料不是合成影像,而是 CMR Surgical Versius 手術機器人系統在真實膽囊切除手術中錄下的影像與機器人動作數據。
從縫合練習台,走進真實手術室
上一代 Cosmos-H-Dreams(基於 Cosmos-Predict2.5)只做得到 dVRK 系統的桌面縫合練習。這次的新版本把戰場搬進臨床場景:組織被牽引時會拉伸、反光會位移、器械會遮住解剖構造、電燒的煙會擋住視線——這些都是傳統數值模擬器難以重現的細節。
做法上它走世界模型的路線:不顯式計算場景幾何與組織形變,而是直接從同步的影像+機器人運動學數據學會「畫面會怎麼變」。NVIDIA 表示,據其所知,這是第一個用真實臨床膽囊切除錄影訓練、又支援即時動作操控的生成式手術模擬器。
單卡即時運算:43fps 的生成式手術室
Cosmos3-H-Dreams 基於 Cosmos 3 家族的 Cosmos3-H-Embodied-Nano(160 億參數),搭配 NVIDIA 的 FlashDreams 串流推理函式庫加速。模型從內視鏡影像出發,根據機器人動作指令即時生成「攝影機接下來會看到什麼」。
硬體門檻意外地親民:單張 NVIDIA RTX PRO 6000 就能互動運行。模型卡數據顯示,在 832×480 解析度下,兩步版本約 43fps、四步版本約 30fps(畫質較高)。場景中有兩支可見器械:Cadiere 抓鉗與單極電鉤。
開源授權,瞄準手術機器人研究
模型權重與配套程式碼已同日釋出,採用 NVIDIA Open Model License,商業與非商業用途皆可。官方列出的用途包括:手術機器人策略的模擬評估、可遠端操控的世界模型探索,以及為機器人膽囊切除生成合成訓練數據。
要潑一盆冷水:視覺逼真不等於醫學正確。Cosmos3-H-Dreams 目前仍是研究工具,生成場景在能支撐生物力學或臨床結論之前,必須經過嚴格驗證。但作為「讓 AI 在虛擬病人身上先練幾百萬台手術」的基礎設施,這一步的分量不小。
資料來源
- Hugging Face(NVIDIA 官方部落格):〈NVIDIA Cosmos3-H-Dreams: Bringing Clinical Surgery to Life Through Generative Simulation〉(2026-10-20)
- Unite.AI:〈NVIDIA Releases Cosmos3-H-Dreams Real-Time Surgical World Model〉(2026-10-20)