Norwin YuAI 使用研究
EN AI 使用研究

本地 / 工作流

一台机器,两类使用者。

工作站怎么接线、在局域网上实际提供什么,以及一个请求从浏览器或 agent 到输出目录里一个文件的路径。

192.168.1.10两个服务2 × 22 GB快照 / 2026 年 11 月

01 / 接线

机箱里有什么。

一块 2014 年前后的 X99 主板,两颗 22 核 Xeon,两张改造过的 22 GB 卡,一条 NVLink 桥。下面写的都是从机器上读出来的,不是抄规格表。

工作站拓扑:两个 Xeon 插槽,每个插槽一张 2080 Ti,由 NVLink 相连,另有 NVMe、HDD 和一个 USB Wi-Fi 适配器。 NUMA 0 · 插槽 0 Xeon E5-2696 v4 22C / 44T · 2.2–3.7 GHz DDR4 · 本地 47 GB GPU0 位于 PCIe 05:00.0 NUMA 1 · 插槽 1 Xeon E5-2696 v4 22C / 44T · 2.2–3.7 GHz DDR4 · 本地 47 GB GPU1 位于 PCIe 83:00.0 RTX 2080 Ti 22,528 MiB · TU102 · sm_75 180 W 上限 · 616 GB/s RTX 2080 Ti 22,528 MiB · TU102 · sm_75 180 W 上限 · 616 GB/s NVLink NV2 · 2 links × 25.78 GB/s 分属不同的 NUMA 节点 —— 桥不会在两者之间搬运内存 存储 · 网络 NVMe · 1 TB WD Green SN350 · / 317 GB · /data 323 GB HDD · 3 TB WD30EFRX · /mnt/hdd 886 GB USB Wi-Fi · 480 Mbps RTL8852CU · 局域网地址 · 有线网卡已断开

这样读两个插槽,每个插槽一张卡,两张卡之间一条桥。50 GB/s 的链路是真的;真正花掉上下文切换的是它上面那道 NUMA 边界,不是带宽。

88线程 · 2 个插槽
94GiB DDR4
44GB VRAM · 2 张卡
180W 上限(每卡)

02 / 局域网

网络能到达什么。

工作站是扁平网络的生成服务器,走 Wi-Fi,而不是那两个有线网口。一共六个服务,现在跑着两个。

本地网络:192.168.1.10 上的工作站通过同一个 Wi-Fi,向一台 MacBook、一部手机和其他 agent 提供 ComfyUI、agent API 和照片投放页。 路由器 192.168.1.1 · DHCP Wi-Fi · USB 2.0 · 480 Mbps 工作站 · 192.168.1.10 Ubuntu 24.04.5 · 2 × RTX 2080 Ti 22 GB · 44 GB VRAM · 94 GB DDR4 ComfyUI · 浏览器 浏览器 · 运行中 Agent API · HTTP HTTP · 运行中 生产用界面 影片流水线 · 已停止 照片投放 手机上传 · 按需 vLLM · 本地 27B 文本 · 按需 DSH GUI · 本机 仅本机 MacBook Pro Safari · 界面 · 上传 iPhone / iPad Safari · 照片上传 另一个 agent HTTP · /capabilities → /generate

这样读一台主机上两个受众:一个人拿着浏览器,一个程序拿着 HTTP 客户端。API 之所以存在,是因为 agent 没法在 ComfyUI 里拖节点。

工作站对外暴露的服务
服务绑定受众状态作用
ComfyUI局域网人运行中ComfyUI 0.45 —— H3 的图像与视频节点图、节点编辑器、队列
Agent API局域网程序 / agent运行中Agent API —— 提交任务、查询状态、列出并下载输出
生产用 ComfyUI局域网内部已停止影片流水线用的生产版 ComfyUI 0.36;不该对外公开
照片投放局域网手机 / 平板按需流式文件投放 —— 来自 iOS/Android 的上传落到本地文件夹
vLLM仅本机工作站工具按需vLLM —— 27B 文本模型,OpenAI 兼容
DSH GUI仅本机只限这张桌子运行中DeepSeek Harness web GUI —— 编辑这个站点的 agent

注意图像/视频服务目前还是手动启动的。systemd 单元文件在 h3-setup/systemd/ 里(h3-comfy、h3-agent),但并没有安装,所以重启后它们不会自己起来。

03 / 路径

从请求到文件。

六步,其中只有两步涉及语言模型。其余的是排队、显存规划和拷贝字节。

01

启动

ComfyUI 与 agent API 起来;两者都加载 H3 节点和 TP2 分片钩子。

人
02

描述

浏览器里拖一张节点图,或者 agent 读 /capabilities 了解类型、尺寸预设和模型名。

两者
03

提交

POST /generate,kind 为 image 或 video。队列是串行的:一个任务同时占住两张卡。

程序
04

规划显存

32B 文本编码器(27 GB)切分到两张卡上,释放,然后 DiT(12 GB)占用同一块空间。

模型
05

采样

图像:6 步,cfg 1.0。视频:最多 73 帧,8 步,4 步 turbo LoRA。输出落在 ~/ComfyUI-img/output。

模型
06

取回

轮询 /jobs/<id> 拿 output_url,再 GET /files/<name>。没有上传,没有云端往返。

程序

04 / 接口

API 会承认什么。

能力文档就是契约:agent 该先读它,再去猜尺寸或步数。

GET  /                 人工入口
GET  /openapi          机器可读的端点列表
GET  /capabilities     模型、尺寸预设、限制
GET  /health           服务与显存状态
POST /generate         {"kind":"image"|"video","prompt":"...", ...}
GET  /jobs             最近的任务
GET  /jobs/<id>        单个任务,含 output_url
GET  /files            产出的文件
GET  /files/<name>     下载一个文件
能力端点返回的模型与默认值
类型模型默认值
图像minimax_h3_image_pruned_w4a86 步 · cfg 1.0 · 1k–4k 预设,最高 6272 × 2688
视频minimax_h3_ref2va_pruned_w4a8_mixed8 步 · 1344 × 768 · 最多 73 帧 · 4 步 turbo LoRA
音频minimax_music3_dit_fp1630 步 · cfg 1.7 · 文本描述 + 歌词,用 [verse]/[chorus] 标注

设计上串行队列一次只放一个任务。两个客户端同时提交不会共用两张卡;第二个要等。

05 / 暴露面

这不是什么。

它是家庭网络上的实验服务,不是托管产品。有三点后果值得直说。

01

没有鉴权

界面和 API 都绑定局域网地址,也没有 token。Wi-Fi 上任何人都能排任务、读输出目录。这是换来手机零摩擦访问的代价。

02

只在局域网

没有端口转发、没有隧道、没有公网 DNS。路由器的 NAT 就是边界;机器地址是一个 DHCP 租约。

03

一次一个任务

队列是串行的,卡就是瓶颈。这是一台被问才答的工作站,不是一个任你灌队列的服务。

06 / 文件

东西落在哪。

一切都留在工作站:参考素材进来,渲染结果出去,上传的文件放在旁边。

~/ComfyUI-img/input/      参考图,手动放进来或经 API 传入
~/ComfyUI-img/output/     渲染结果 —— 目前约 709 MB 的图像、视频和音频
~/received/               通过投放页上传的手机文件
/data                     大数据集与模型工作区(独立 ext4 分区)
/mnt/hdd                  冷归档(3 TB NTFS)