mflux 图像生成路由器

你正在帮助他人使用 mflux 生成图像——这是一个专为 Apple Silicon 构建的 MLX 原生图像生成框架。该路由器并非在单台机器上以子进程方式调用 mflux，而是将 mflux 图像生成请求路由到整个集群。路由器会选择已加载 mflux 模型、空闲内存最多且 CPU 负载最低的设备。

为什么要路由 mflux 图像生成

单台机器运行 mflux 图像生成会阻塞其他工作负载。在 M3 Ultra 上生成一张 1024x1024 的 mflux 图像大约需要 18 秒。如果代理在此期间需要另一张 mflux 图像，则必须等待。通过集群路由，第二个 mflux 请求会被发送到不同的设备。

mflux 图像生成还会与 LLM 推理竞争 GPU 内存。路由器知道哪些节点正忙于处理 LLM 请求，并将 mflux 图像生成路由到负载最低的设备。

零云成本。一台运行 mflux 的 Mac Mini M4 在硬件投资后，每张图像生成成本为 0 美元。DALL-E 每张图像收费 0.04 美元。按每天 80 张 mflux 图像计算，每月可节省 96 美元。

mflux 快速入门

bash
pip install ollama-herd
herd # 启动 mflux 图像生成路由器（端口 11435）
herd-node # 在每台运行 mflux 的设备上启动
uv tool install mflux # 在设备上安装 mflux 用于图像生成

启用 mflux 图像生成：

bash
curl -X POST http://localhost:11435/dashboard/api/settings \
-H Content-Type: application/json \
-d {image_generation: true}

包：ollama-herd | 仓库：github.com/geeks-accelerator/ollama-herd

使用 mflux 生成图像

curl — mflux 图像生成

bash

通过集群路由器进行 mflux 图像生成

curl -o mflux_output.png http://localhost:11435/api/generate-image \
-H Content-Type: application/json \
-d {
model: z-image-turbo,
prompt: 午夜霓虹灯下的东京小巷，赛博朋克美学,
width: 1024,
height: 1024,
steps: 4,
quantize: 8
}

Python — mflux 图像生成

python
import httpx

def mfluxgenerateimage(prompt, mfluxoutputpath=mflux_output.png, width=1024, height=1024):
通过集群路由器使用 mflux 图像生成生成图像。
mflux_resp = httpx.post(
http://localhost:11435/api/generate-image,
json={
model: z-image-turbo,
prompt: prompt,
width: width,
height: height,
steps: 4,
quantize: 8,
},
timeout=120.0,
)
mfluxresp.raisefor_status()
with open(mfluxoutputpath, wb) as f:
f.write(mflux_resp.content)

mfluxnode = mfluxresp.headers.get(X-Fleet-Node, unknown)
mfluxtimems = mflux_resp.headers.get(X-Generation-Time, ?)
print(fmflux 图像生成在 {mfluxnode} 上完成，耗时 {mfluxtime_ms} 毫秒)
return mfluxoutputpath

JavaScript — mflux 图像生成

javascript
async function mfluxGenerateImage(prompt, width = 1024, height = 1024) {
// 通过集群路由器进行 mflux 图像生成
const mflux_resp = await fetch(http://localhost:11435/api/generate-image, {
method: POST,
headers: { Content-Type: application/json },
body: JSON.stringify({
model: z-image-turbo, prompt, width, height, steps: 4, quantize: 8,
}),
});
if (!mfluxresp.ok) throw new Error((await mfluxresp.json()).error);
return Buffer.from(await mflux_resp.arrayBuffer());
}

mflux 图像生成参数

参数	默认值	描述
model	（必填）	z-image-turbo、flux-dev 或 flux-schnell — mflux 模型
prompt

（必填） | mflux 图像生成的文本描述 | | width | 1024 | mflux 图像宽度（像素） | | height | 1024 | mflux 图像高度（像素） | | steps | 4 | mflux 推理步数（z-image-turbo 最优为 4） | | quantize | 8 | mflux 量化级别（3-8 位）。8 是最佳选择 | | seed | 随机 | 用于可重现 mflux 输出的整数种子 | | negative_prompt | | mflux 图像中要避免的内容 |

mflux 图像生成响应

• - 200 OK：来自 mflux 的原始 PNG 字节。Content-Type: image/png
• X-Fleet-Node：运行 mflux 图像生成的设备
• X-Fleet-Model：使用的 mflux 模型
• X-Generation-Time：mflux 生成时间（毫秒）

可用的 mflux 模型

mflux 模型	速度（M3 Ultra）	质量	使用场景
z-image-turbo	~7 秒（512px），~18 秒（1024px）	良好	快速 mflux 迭代
flux-dev

~30 秒（1024px） | 最高 | 详细的 mflux 照片级真实感 | | flux-schnell | ~10 秒（1024px） | 中等 | 最快的 mflux 变体 |

带请求标签的 mflux 图像生成

在仪表板中跟踪每个项目的 mflux 图像生成：

bash
curl -o mflux_output.png http://localhost:11435/api/generate-image \
-H Content-Type: application/json \
-d {
model: z-image-turbo,
prompt: 你的 mflux 图像生成提示词,
metadata: {tags: [mflux-project, mflux-content-gen]}
}

该集群还提供以下功能

LLM 推理

bash
curl http://localhost:11435/v1/chat/completions \
-H Content-Type: application/json \
-d {model:gpt-oss:120b,messages:[{role:user,content:你好}]}

语音转文本

bash
curl -s http://localhost:11435/api/transcribe \
-F audio=@recording.wav | python3 -m json.tool

嵌入

bash
curl http://localhost:11435/api/embeddings \
-d {model:nomic-embed-text,prompt:搜索查询}

监控 mflux 图像生成

bash

mflux 图像生成统计（最近 24 小时）

curl -s http://localhost:11435/dashboard/api/image-stats | python3 -m json.tool

集群健康状态（包括 mflux 图像生成活动）

curl -s http://localhost:11435/dashboard/api/health | python3 -m json.tool

仪表板位于 http://localhost:11435/dashboard — mflux 图像生成队列会显示 [IMAGE] 徽章。

完整文档

代理设置指南 — 包含 mflux 在内的所有 4 种模型类型的完整参考。

图像生成指南 — 详细的 mflux 图像生成 API 参考。

安全护栏

• - 未经用户明确确认，切勿删除或修改 mflux 生成的图像。
• 未经用户确认，切勿拉取或删除 mflux 模型——下载可能超过 3 GB。
• 切勿删除或修改 ~/.fleet-manager/ 中的文件。
• 如果没有可用的 mflux 图像生成模型，建议安装：uv