打通本地模型部署全流程,1Panel 开源面板 v2.5.0 版本发布
1Panel v2.5.0 正式发布:全面重构 GPU 管理、vLLM 管理与模型服务,打通从模型准备、部署、监控、基准测试到接入 AI 网关的本地模型部署全流程;虚拟机管理开放至社区版,运维报表开放至专业版,并带来 1Panel MCP 服务管理、镜像更新检测与批量升级等能力。
产品动态
关注 1Panel 版本发布、功能更新、应用生态与实践分享,及时了解产品能力演进与使用场景。
1Panel v2.5.0 正式发布:全面重构 GPU 管理、vLLM 管理与模型服务,打通从模型准备、部署、监控、基准测试到接入 AI 网关的本地模型部署全流程;虚拟机管理开放至社区版,运维报表开放至专业版,并带来 1Panel MCP 服务管理、镜像更新检测与批量升级等能力。
横向比较 8 款 NVIDIA 加速卡的算力、显存、带宽与功耗,折算每瓦算力,再用一次 8 卡实机压测校验推论:为什么在当前的供电、显存与供货约束下,RTX Pro 5000 是最均衡的一颗卡。
在 1Panel AI 一体机(方案六,8 × NVIDIA RTX Pro 5000 Blackwell 72GB / 512GB 内存 / 4TB SSD)上,使用 vLLM 以 TP8+EP8 并行策略部署 DeepSeek-V4.1-Flash-1017,完成通用业务与 AI 编程 / Agent 两类负载的多并发压测。本文完整给出 1–64 并发下的首字延时(TTFT)、整机输出吞吐与单路输出吞吐实测数据,以及 90% Prefix Cache 命中率下 64K / 84K 超长上下文场景的表现与并发容量建议。
2026 年 11 月 6 日,1Panel AI 网关发布 v1.6.0 版本,新增千问 Qwen3Guard 安全围栏模型,支持用户输入与模型输出的双向内容审核,提供 Qwen3Guard Gen 完整审核与 Stream 流式审核两种引擎,并支持阻断、仅审计两种处置方式和审核日志追溯。文章同时列出上游账号多 API Key、模型多映射、图像编辑接口等新增功能,以及功能优化与问题修复。
2026 年 9 月 28 日,1Panel AI 网关发布 v1.3 版本,智能路由新增面向多个自定义业务目标的 Jev 语义决策模式。管理员定义路由目标及其适用范围后,业务应用统一通过 auto 入口发起请求,由 Jev 完成结构化目标选择,网关负责权限校验、模型组调度与失败兜底。文章包含实现原理、两种智能路由模式对比、配置方法与兜底熔断、数据边界说明。
在 1Panel AI 一体机(方案三,2 × NVIDIA RTX Pro 5000 Blackwell 72GB / 128GB 内存)上,使用 vLLM 部署 Qwen3.8-Flash-Next 完成压力测试,并接入 WorkBuddy 在飞致云生产环境中连续运行一周。本文完整呈现该配置的软硬件参数与测试口径,给出从 1 到 16 并发的压力测试数据,以及在真实办公负载下的首字延时与吞吐表现,为评估部门级私有化 AI 部署提供一份可复现的实测参考。
1Panel v2.3.0 正式发布:GPU 监控新增华为昇腾 910、310 设备支持,防火墙管理全面重构,告警通知支持自定义 Webhook,虚拟机管理功能下放至专业版,并带来多项功能优化与问题修复。
在 AI 办公普及的当下,按 Token 计费的云端模型让企业背负积分焦虑;把 Qwen3.8-Flash-Next 模型搬到 1Panel AI 一体机并对接 WorkBuddy 办公智能体,可实现数据不出域、模型调用边际成本趋近于零,并已在飞致云生产环境稳定运行超一周。
面向企业 AI 网关选型,从产品定位、安装部署、功能上手体验、权限管控与用量统计五个维度,横向对比 LiteLLM、New API 与 1Panel AI 网关三款主流 AI 网关产品,并给出两张完整能力对比表与 17 张实操界面截图。
在 1Panel AI 一体机(方案五,4 × NVIDIA RTX Pro 5000 Blackwell / 128GB 内存 / 2TB SSD)上,使用 vLLM 对 DeepSeek-V4-Flash 与 Qwen3.8-Flash-Next 两款开源模型进行同平台横向实测。基于飞致云生产环境的真实负载(平均输入 ~90k tokens / 平均输出 ~500 tokens / 缓存命中率 ~91%),客观呈现最大并发、TTFT、聚合解码吞吐与单流解码速度四项指标的实测数据,并从 Attention 稀疏化与 MoE 路由机制的角度说明数据差异的技术成因。