获取验证码
继演示AI Assistant for VCF使用谷歌Gemini公有云大模型之后,本篇演示将VCF内置AI助手对接本地PAIS 3.0私有AI服务;实现完全内网运行大模型,无需调用公有云LLM;对接有硬性前置条件:PAIS模型端点必须配置FQDN域名,**不支持纯IP地址访问**;分三步完成配置:获取PAIS OpenAI兼容接口地址、在VCF Operations添加VCF Private AI提供商、选择PAIS内已经部署的模型;当前版本AI Assistant为**只读模式**,不可执行修改基础设施操作,内置25个技能工具;提供AI Observability观测面板查看Token消耗、TPS、延迟、审计日志;未来版本将支持自定义技能、技能市场、读写操作能力。
有VMware全系列产品官方资源和定制版资源需求的可以移步:
AI Assistant for VCF可以对接PAIS3.0本地私有化大模型;PAIS端点必须配置FQDN,禁止直接使用IP;在VCF Operations扩展配置中添加VCF Private‑AI提供商,填入OpenAI‑compatible地址与API‑Token;当前版本只读模式,内置25个运维技能;AI Observability面板可观测调用指标;未来迭代支持自定义技能、读写操作。
| 项目 | 详情 |
|---|---|
| 作者 | William Lam(Broadcom VCF杰出平台架构师) |
| 发布日期 | 2026‑09‑11 |
| 软件版本 | VCF9.1.1,PAIS 3.0 |
| 功能场景 | AI Assistant for VCF 对接本地PAIS私有大模型,数据不出私有云,不依赖公有LLM |
| 硬性约束 | PAIS模型端点必须使用FQDN域名,不支持纯IP地址 |
| 当前助手模式 | 只读模式,不能修改VCF/vSphere基础设施 |
| 内置能力 | 25个内置运维Skills(工具集),可在Tools标签页查看 |
| 观测能力 | AI Observability面板:Token用量、TPS请求速率、请求延迟、模型变更审计日志 |
| 未来规划 | 自定义技能、社区技能市场、受控读写基础设施操作 |
PAIS已经完成部署,模型端点就绪,并且生成有效的PAIS API访问Token;
PAIS服务配置FQDN域名,AI Assistant不支持直接使用IP地址作为Base‑URL;
AI Assistant for VCF组件已经在VCF环境启用;
网络层面:VCF Operations组件网络可以连通PAIS模型端点FQDN;处理PAIS自签名TLS证书信任。
步骤1:从vSphere UI获取PAIS OpenAI兼容端点FQDN地址
登录vSphere客户端,进入运行PAIS模型端点的vSphere Namespace命名空间,切换【服务配置】标签页,复制OpenAI‑compatible的Base‑URL(必须为FQDN域名,不能是裸IP)。
⚠️注意:如果PAIS部署只配置IP,必须重新部署PAIS指定FQDN,否则AI Assistant无法接入。
步骤2:VCF Operations添加LLM提供商「VCF Private AI」
登录VCF Operations管理界面,导航菜单:【扩展 > 高级配置 > LLM Providers】;
点击【Add Provider】新增提供商,类型选择 VCF Private AI;
粘贴步骤1拿到PAIS FQDN端点URL,填入PAIS生成的API‑Token;
接受PAIS生成的自签名TLS证书;完成保存,建立连通。
步骤3:Models标签页选择PAIS内部部署的大模型
切换到【Models】标签,页面自动发现PAIS后端所有已部署模型;可切换不同模型做能力基线对比;选中的模型将成为AI Assistant的后端推理模型。
✅ 只读模式(当前版本):仅查询、分析、输出文档信息,不可以执行任何修改、创建、删除vSphere/VCF资源的动作;不能直接生成PDF输出文件。
✅ 内置25个Skills运维工具集,Tools标签页可以完整查看全部工具;用于查询集群、vSAN、告警、资源、版本、配置等信息。
✅ AI Observability可观测面板:统计token消耗、tokens‑per‑second、请求延迟、模型配置变更审计日志,用于排错与用量统计。
🔮 未来版本路线:
支持用户自定义编写Skills工具;
构想技能市场,Broadcom与社区共享运维技能;
增加受控的读写操作,带访问权限和安全护栏,实现AI驱动运维变更。
☑ 最常见故障:PAIS使用IP地址作为端点,AI Assistant直接拒绝接入,必须FQDN。
☑ PAIS自签名证书:添加LLM Provider环节必须确认接受证书,否则HTTPS连接失败。
☑ 网络连通:VCF Operations服务组件网络需要可达PAIS的FQDN,检查防火墙与DNS解析。
☑ 模型列表为空:确认PAIS命名空间中模型实例状态正常运行,API‑Token权限有效。
☑ 当前只读不等于永久只读,后续版本会引入受安全管控的写操作能力。
Q1:PAIS服务只有IP没有域名,可以直接填IP接入AI Assistant吗? A:不行,硬性限制,必须FQDN;需要重新部署PAIS配置域名参数。
Q2:现在AI Assistant能不能让它帮我修改vSphere配置、创建虚拟机? A:当前版本只读模式,不能做任何变更操作;未来版本会带安全护栏开放受控写操作。
Q3:25个Skills工具是做什么的? A:内置运维工具集合,AI调用工具查询VCF、vSphere、vSAN、告警、硬件、版本各类信息,用于回答运维问题。
Q4:AI Observability面板能看到什么? A:Token消耗、推理TPS、请求延迟、模型配置变更审计日志,用于性能评估与审计。
Q5:对比使用Google Gemini公有云,PAIS本地模式优势是什么? A:全部推理运行企业VCF内网,运维提示词、基础设施数据不会流出私有云,满足数据隔离合规要求。
William Lam博文演示VCF9.1.1中将AI Assistant for VCF对接PAIS3.0本地私有AI服务,实现完全内网大模型运维助手,不需要公有云LLM;硬性前提PAIS模型端点必须配置FQDN域名,不支持裸IP接入;三步配置:从Namespace获取PAIS OpenAI兼容FQDN地址、在VCF‑Operations新增VCF‑Private‑AI LLM提供商填入URL与API‑Token、选择PAIS后端部署的模型;当前AI‑Assistant运行在只读模式,内置25套运维Skills工具,不支持修改基础设施;AI Observability提供token用量、TPS、延迟、审计日志;产品路线规划后续支持自定义技能、社区技能市场、带安全防护的读写运维操作;部署时注意处理PAIS自签名证书、DNS解析、网络连通问题。