技能要求:
经验要求:
5-10年经验
工作描述:
项目编号:【43964】
您好,需要远程部署整套 MiniMax 海螺 H3‑Ref2VA 工程,基于 SGLang,目标对齐 RunningHub 的生成效率。
硬件:8 张 RTX5090‑D FHFL,服务器 Linux 系统,512G 内存,可以 SSH 远程操作。
工作内容:
1、部署 SGLang,开启 NVFP4 量化、SageAttention,ep‑size=8,tp‑size=1;
2、搭建任务调度队列,支持最多 8 个任务并发,每张 GPU 独立运行一条任务,包含失败重跑;
3、写输入预处理脚本:参考图自动缩放、prompt 清洗截断;对外提供 HTTP 调用 API;
4、ComfyUI 只做前端编排预览,推理请求全部转发 SGLang,不使用原生 H3 节点;