01 / 接线
机箱里有什么。
一块 2014 年前后的 X99 主板,两颗 22 核 Xeon,两张改造过的 22 GB 卡,一条 NVLink 桥。下面写的都是从机器上读出来的,不是抄规格表。
这样读两个插槽,每个插槽一张卡,两张卡之间一条桥。50 GB/s 的链路是真的;真正花掉上下文切换的是它上面那道 NUMA 边界,不是带宽。
02 / 局域网
网络能到达什么。
工作站是扁平网络的生成服务器,走 Wi-Fi,而不是那两个有线网口。一共六个服务,现在跑着两个。
这样读一台主机上两个受众:一个人拿着浏览器,一个程序拿着 HTTP 客户端。API 之所以存在,是因为 agent 没法在 ComfyUI 里拖节点。
| 服务 | 绑定 | 受众 | 状态 | 作用 |
|---|---|---|---|---|
| ComfyUI | 局域网 | 人 | 运行中 | ComfyUI 0.45 —— H3 的图像与视频节点图、节点编辑器、队列 |
| Agent API | 局域网 | 程序 / agent | 运行中 | Agent API —— 提交任务、查询状态、列出并下载输出 |
| 生产用 ComfyUI | 局域网 | 内部 | 已停止 | 影片流水线用的生产版 ComfyUI 0.36;不该对外公开 |
| 照片投放 | 局域网 | 手机 / 平板 | 按需 | 流式文件投放 —— 来自 iOS/Android 的上传落到本地文件夹 |
| vLLM | 仅本机 | 工作站工具 | 按需 | vLLM —— 27B 文本模型,OpenAI 兼容 |
| DSH GUI | 仅本机 | 只限这张桌子 | 运行中 | DeepSeek Harness web GUI —— 编辑这个站点的 agent |
注意图像/视频服务目前还是手动启动的。systemd 单元文件在 h3-setup/systemd/ 里(h3-comfy、h3-agent),但并没有安装,所以重启后它们不会自己起来。
03 / 路径
从请求到文件。
六步,其中只有两步涉及语言模型。其余的是排队、显存规划和拷贝字节。
启动
ComfyUI 与 agent API 起来;两者都加载 H3 节点和 TP2 分片钩子。
人描述
浏览器里拖一张节点图,或者 agent 读 /capabilities 了解类型、尺寸预设和模型名。
提交
POST /generate,kind 为 image 或 video。队列是串行的:一个任务同时占住两张卡。
规划显存
32B 文本编码器(27 GB)切分到两张卡上,释放,然后 DiT(12 GB)占用同一块空间。
模型采样
图像:6 步,cfg 1.0。视频:最多 73 帧,8 步,4 步 turbo LoRA。输出落在 ~/ComfyUI-img/output。
取回
轮询 /jobs/<id> 拿 output_url,再 GET /files/<name>。没有上传,没有云端往返。
04 / 接口
API 会承认什么。
能力文档就是契约:agent 该先读它,再去猜尺寸或步数。
GET / 人工入口
GET /openapi 机器可读的端点列表
GET /capabilities 模型、尺寸预设、限制
GET /health 服务与显存状态
POST /generate {"kind":"image"|"video","prompt":"...", ...}
GET /jobs 最近的任务
GET /jobs/<id> 单个任务,含 output_url
GET /files 产出的文件
GET /files/<name> 下载一个文件
| 类型 | 模型 | 默认值 |
|---|---|---|
| 图像 | minimax_h3_image_pruned_w4a8 | 6 步 · cfg 1.0 · 1k–4k 预设,最高 6272 × 2688 |
| 视频 | minimax_h3_ref2va_pruned_w4a8_mixed | 8 步 · 1344 × 768 · 最多 73 帧 · 4 步 turbo LoRA |
| 音频 | minimax_music3_dit_fp16 | 30 步 · cfg 1.7 · 文本描述 + 歌词,用 [verse]/[chorus] 标注 |
设计上串行队列一次只放一个任务。两个客户端同时提交不会共用两张卡;第二个要等。
05 / 暴露面
这不是什么。
它是家庭网络上的实验服务,不是托管产品。有三点后果值得直说。
没有鉴权
界面和 API 都绑定局域网地址,也没有 token。Wi-Fi 上任何人都能排任务、读输出目录。这是换来手机零摩擦访问的代价。
只在局域网
没有端口转发、没有隧道、没有公网 DNS。路由器的 NAT 就是边界;机器地址是一个 DHCP 租约。
一次一个任务
队列是串行的,卡就是瓶颈。这是一台被问才答的工作站,不是一个任你灌队列的服务。
06 / 文件
东西落在哪。
一切都留在工作站:参考素材进来,渲染结果出去,上传的文件放在旁边。
~/ComfyUI-img/input/ 参考图,手动放进来或经 API 传入
~/ComfyUI-img/output/ 渲染结果 —— 目前约 709 MB 的图像、视频和音频
~/received/ 通过投放页上传的手机文件
/data 大数据集与模型工作区(独立 ext4 分区)
/mnt/hdd 冷归档(3 TB NTFS)