開機即用的企業 AI 工作台
卡買了卻閒置,是採購最不願意看到的事
驅動 / CUDA
Kubernetes
GPU 排程器
多人權限
下載模型
推論框架
給人用的介面
4 – 12 週,而且需要一位懂 Kubernetes 與 CUDA 的工程師
通電 → 開工
作業系統、驅動、Kubernetes、AI-Stack、模型與工作流,出廠前全部裝好
環境建置時間
出廠前已完成
需要的機器數
單機架構,不必先建叢集
需要新增的專職人力
現有 IT 團隊即可接手維運
硬體規格完全相同,差異只在出廠預裝的模型、工作流與樣板
硬體 + 作業系統 + 驅動 + Kubernetes + AI-Stack Enterprise + 通用模型與開發環境
= ixCORE + Physical AI 軟體包:Isaac Sim、Isaac Lab、Omniverse Kit
= ixCORE + 影音軟體包:影片在地化管線、本機影片生成、語音辨識與合成
把上面任何一台變成可以對外收費的服務。純軟體加購,不佔用任何 GPU
先買一台自用,用得好之後再加購 ixCSP 對外營運 — 第二次是純軟體交易
不必先問規格 — 先問他想解決什麼
你們現在最想解決哪一件事?
一群人要用 AI,但沒有共用平台
ixCORE
影片要出多語言版本、要大量視覺素材
ixSTUDIO
要做機器人、產線或場域模擬
ixFORGE
這些算力只給自己人用,還是要對外收費?
只給內部使用
維持前三款即可
要對外或跨單位收費
加購 ixCSP
有機房嗎?
沒有,只有辦公室
1 – 2 卡機型
有機房,供電與散熱沒問題
4 – 8 卡機型
GPU 到貨當天就能開工,不必先養一個 Kubernetes 團隊
同一張卡
硬體切割技術只能等分成四份,
這組配置排不進去。
AI-Stack 的軟體定義分片可以
依實際需求切成任意大小,
最小粒度 1 GB。
預裝:AI-Stack Enterprise、開源大型語言模型、對話介面、知識庫與 AI 助理、程式開發環境、語音辨識
| 配額 | 跑什麼 | 誰在用 |
|---|---|---|
| 32 GB | 大型語言模型對話服務 | 全公司 |
| 24 GB | 影像生成 | 行銷 |
| 16 GB | 知識庫與 AI 助理 | 業務與客服 |
| 8 GB | 即時語音轉文字 | 會議記錄 |
| 8 GB | 語音合成 | 客服機器人 |
四個馬上用得到的場景,不需要客製開發
全公司 · 人資 · 客服 · 法遵
把制度、SOP、產品規格、歷年問答變成問得到答案的助理。
新人不必翻共用資料夾,也不必一直問前輩。
研發團隊
程式補全、程式碼審閱、單元測試生成,全部在自己機房裡跑。
私有程式碼不必送到外部服務。
法務 · 業務 · 財會
長文摘要、條款比對、多語翻譯、報告初稿。
一份 200 頁的規格書,幾分鐘拿到重點與風險條款。
全公司
語音轉文字、自動摘要、抽出待辦與負責人。
會議一結束,紀錄就在信箱裡。
以上四項共用同一張卡的不同切片,彼此不搶資源;隨時可再切一份給新的用途
你的影片從來不必離開公司,就能變成十種語言
既有影片轉成多語言版本
抽出音軌 → 去除原始人聲 →
混入目標語言配音 → 燒錄字幕
投資報酬最好計算:
一支影片出五種語言,
直接對比外包報價與工期
從一句話產出成片
文字、影像、影片、聲音輸入 →
輸出帶原生立體聲的影片
行銷素材、產品概念、
展場內容,當天就能看到
第一版
整條管線用到四個大小不同的服務,而且不會同時滿載 — 剩餘算力可同時服務其他部門
影片與素材的產能瓶頸,通常不在創意,在等外包
行銷 · 海外業務
一支中文產品影片,當天出英、日、韓、泰、越版本。
人聲換成目標語言、字幕同步燒錄。
人資 · 產品 · 品保
內部課程、作業標準、安全講習配上多語旁白與字幕。
內容涉及製程與內規,不必送到外部服務。
電商營運 · 品牌
商品情境圖、短影音、節慶改版素材量產。
改一個檔期不必重新發包。
業務 · 行銷
針對特定客戶客製 demo 影片,名稱與場景即時替換。
提案前一天還能改。
素材涉及未發表產品、客戶影像或內部流程時,這條產線的價值不只是快,而是「不必外流」
要做 Physical AI,資料中心的 GPU 不一定派得上用場
這不是效能差距 — NVIDIA 官方硬體需求明文指出,不具備 RT Core 的 GPU(包含 A100 與 H100)不支援 Isaac Sim
單卡訓練完成一個導航策略
Isaac Lab 大規模平行模擬
八卡訓練吞吐
官方基準測試
H100 能執行的模擬場景數
Hopper 架構不含 RT Core
任務規劃模型
32 GB
視覺理解模型
24 GB
模擬環境
20 GB
餘裕
12 GB
合計約 88 GB — 一張卡放得下整條鏈。兩張 32 GB 的顯示卡不夠,且顯存無法合併
在模擬裡失敗,比在產線上失敗便宜好幾個數量級
機器人研發 · 自動化
手臂取放、移動導航、避障策略在模擬中訓練後再上真機。
撞壞一次真機的成本,可以換幾千次模擬。
廠務 · 智慧製造
改線、換設備、調動線之前,先在數位孿生裡跑一遍。
看得到瓶頸與干涉,再決定要不要動實體。
品保 · 視覺檢測
瑕疵樣本本來就稀少,收一年可能只有幾十張。
在模擬裡生成幾萬張帶完整標註的影像。
機器人研發
人在模擬裡操作、機器在旁邊學,軌跡直接進訓練管線。
不必等真機備妥就能開始累積資料。
模擬與渲染需要具備 RT Core 的 GPU — 這是資料中心運算卡做不到的部分
前三個 SKU 是「我要用 AI」,這一個是「我要賣 AI」
佔用的 GPU 顯存
控制平面不消耗算力
開始提供服務所需機器
門檻從機房降到一台
服務模式
算力、模型、用量計費
| 項目 | 內容 |
|---|---|
| 適合誰 | 系統整合商、資料中心與電信業者、對外提供算力的研究機構、想讓閒置 GPU 產生收益的企業 |
| 包含什麼 | 服務商店(方案上架、選購、自助開通)、標準相容 API 閘道、用量計費、多租戶隔離、帳務報表、金流串接 |
| 為什麼是加購 | 控制平面不佔用 GPU,加購不會減少任何可販售的算力;同時它建構在 AI-Stack 之上,算力方案直接沿用平台既有規格 |
| 三種組合 | ixCORE 販售算力時數 | ixSTUDIO 販售影音生成服務 | ixFORGE 販售模擬算力 |
同一批硬體,從成本中心變成收入來源
系統整合商 · 資料中心
既有客戶名單多一條產品線,不必自建計費與開通流程。
方案上架、選購、自助開通都是現成的。
大學 · 研究機構 · 醫院
各系所、各實驗室用多少算多少,帳單自動產生。
共儀中心不必再用人工排班表分配。
集團 IT · 共享服務中心
各事業部的用量清楚可查,預算編列有依據。
不再是「IT 買了大家用」的一筆糊塗帳。
已有 GPU 的企業
自用之外的空檔開放給外部付費使用。
同一批硬體,多一份收入。
控制平面不佔用 GPU — 加購 ixCSP 不會減少任何可自用或可販售的算力
同一張卡同時滿足圖形模擬與大型模型兩種需求
・ 要執行兆級參數的前沿模型,或單一模型需要四卡以上張量平行 → 建議選用具備高速卡間互連的資料中心 GPU
・ 要做機器人模擬、影音生成、或同時服務多個部門的中型模型 → RTX PRO 6000 是更合適的選擇
主動說明適用邊界,是為了讓上面那些「只有這張卡做得到」的說法站得住
| GPU | 機器人模擬 | 影音生成 | 說明 |
|---|---|---|---|
| H100 / H200 / A100 | 官方不支援 | 可執行但規格過剩 | Hopper 架構不含 RT Core,無法執行任何 3D 與渲染工作流 |
| 消費級顯示卡(雙卡) | 可以 | 可以 | 顯存分散於兩張卡;授權條款與專業卡不同,資料中心部署請確認自身合規 |
| RTX PRO 6000(96 GB) | 官方明列支援 | 官方建議機型 | 單卡 96 GB GDDR7,含 RT Core,涵蓋模擬、渲染與大型模型推論 |
對應 NVIDIA 公開部署建議:容器串流與批次訓練共用同一個 GPU 池
互動式模擬走容器串流、批次訓練走容器排程,兩者共用同一個 GPU 池 — 這正是 NVIDIA 公開部署建議的作法
| 項目 | 傳統虛擬工作站路徑 | AI-Stack 容器化路徑 |
|---|---|---|
| GPU 虛擬化授權 | 需要(依 GPU 數量計價,年度訂閱) | 不需要 |
| 授權伺服器 | 需要額外部署與維運 | 不需要 |
| 虛擬化平台 | 需要(授權費近年大幅調漲) | 不需要 |
| 客體作業系統 | 每個虛擬機各自授權 | 不需要 |
| 適用限制 | — | 限 Linux 容器、限含 RT Core 的 GPU |
NVIDIA 的軟體都是容器,但誰能用、用多久、怎麼收回、算誰的錢 — 那一層要自己補
選擇大顯存專業卡的客戶,本來就需要一個資源管理層 — 否則多卡的價值發揮不出來
| 比較項目 | GPU 內建的硬體切割 | AI-Stack 軟體定義分片 |
|---|---|---|
| 隔離層級 | 硬體級(專屬運算單元與顯存) | 軟體定義(攔截運算 API) |
| 份數 | 最多四份 | 更多,最小粒度 1 GB |
| 切割方式 | 等分,規格固定 | 任意大小:96 → 32+24+16+8+8 |
| 重新配置 | 需停止整張卡重新設定 | 動態調整 |
| 誰能用 / 多久 / 怎麼收回 / 算誰的錢 | 完全沒有 | 專案審核、配額、生命週期、閒置回收、成本分析 |
四種機型皆為單機架構,依組織規模選擇
八張專業卡加上主機系統,實際耗電約 6 至 7 kW,一般辦公室電力迴路無法負荷。導入前請先確認機房供電與散熱條件
需求訪談
工作負載與人數
機型建議
含機房條件確認
出廠預裝
模型與工作流
到場通電
當天開始使用
| 機型 | GPU | 顯存 | 建議放置 | 對應組織 |
|---|---|---|---|---|
| ixNODE-1 | 1 張 | 96 GB | 工作站,一般辦公室 | 個人與概念驗證 |
| ixNODE-2 | 2 張 | 192 GB | 工作站或小型機櫃 | 小型團隊 |
| ixNODE-4 | 4 張 | 384 GB | 機櫃 | 部門 |
| ixNODE-8 | 8 張 | 768 GB | 需要機房環境 | 全公司或對外營運 |
客戶最常問的五題
看要做什麼。文字模型訓練與推論,H100 很適合;但機器人與場域模擬需要 RT Core,那是 H100 沒有的硬體單元,官方硬體需求也明文不支援。兩者是互補不是取代。
三個理由:資料落地、成本可預期、以及不受速率限制。持續性的工作負載用自有硬體,通常在一年內就會比按量計費划算;而敏感素材本來就不該送出去。
現有 IT 團隊即可。平台把 GPU 分配、專案審核、配額與回收都做成介面操作,不需要有人專職寫 Kubernetes 設定。
可以。從單卡機型開始,軟體與工作流完全相同;日後擴充到多卡或加購其他 SKU,既有設定與資料都可沿用。
平台不綁定特定模型。新模型出來時匯入鏡像即可上線,過去建立的專案、配額與資料都不受影響。
從一次 30 分鐘的訪談開始,不必先決定買什麼
需求訪談
30 分鐘
談你們現在最想解決的事、
有多少人要用、有沒有機房。
不談規格。
現場示範
60 分鐘
用你們自己的素材或情境跑一次。
影片在地化、知識問答或
模擬訓練,挑一個。
機型建議書
一週內
含機型、預裝清單、機房條件、
導入時程與驗收項目。
可直接進採購流程。
數位無限軟體股份有限公司 INFINITIX | www.infinitix.co