一键登录 更安全快捷
邮箱登录
我已阅读并接受 用户协议 隐私政策

VCF9.1.1:AI Assistant for VCF对接PAIS本地私有大模型完整解析

继演示AI Assistant for VCF使用谷歌Gemini公有云大模型之后,本篇演示将VCF内置AI助手对接本地PAIS 3.0私有AI服务;实现完全内网运行大模型,无需调用公有云LLM;对接有硬性前置条件:PAIS模型端点必须配置FQDN域名,**不支持纯IP地址访问**;分三步完成配置:获取PAIS OpenAI兼容接口地址、在VCF Operations添加VCF Private AI提供商、选择PAIS内已经部署的模型;当前版本AI Assistant为**只读模式**,不可执行修改基础设施操作,内置25个技能工具;提供AI Observability观测面板查看Token消耗、TPS、延迟、审计日志;未来版本将支持自定义技能、技能市场、读写操作能力。

有VMware全系列产品官方资源和定制版资源需求的可以移步:

AI Assistant for VCF可以对接PAIS3.0本地私有化大模型;PAIS端点必须配置FQDN,禁止直接使用IP;在VCF Operations扩展配置中添加VCF Private‑AI提供商,填入OpenAI‑compatible地址与API‑Token;当前版本只读模式,内置25个运维技能;AI Observability面板可观测调用指标;未来迭代支持自定义技能、读写操作。

一、文章基础信息总览

项目详情
作者William Lam(Broadcom VCF杰出平台架构师)
发布日期2026‑09‑11
软件版本VCF9.1.1,PAIS 3.0
功能场景AI Assistant for VCF 对接本地PAIS私有大模型,数据不出私有云,不依赖公有LLM
硬性约束PAIS模型端点必须使用FQDN域名,不支持纯IP地址
当前助手模式只读模式,不能修改VCF/vSphere基础设施
内置能力25个内置运维Skills(工具集),可在Tools标签页查看
观测能力AI Observability面板:Token用量、TPS请求速率、请求延迟、模型变更审计日志
未来规划自定义技能、社区技能市场、受控读写基础设施操作

二、对接前置要求

  1. PAIS已经完成部署,模型端点就绪,并且生成有效的PAIS API访问Token;

  2. PAIS服务配置FQDN域名,AI Assistant不支持直接使用IP地址作为Base‑URL

  3. AI Assistant for VCF组件已经在VCF环境启用;

  4. 网络层面:VCF Operations组件网络可以连通PAIS模型端点FQDN;处理PAIS自签名TLS证书信任。

三、完整配置3步骤实操解读

  1. 步骤1:从vSphere UI获取PAIS OpenAI兼容端点FQDN地址

    登录vSphere客户端,进入运行PAIS模型端点的vSphere Namespace命名空间,切换【服务配置】标签页,复制OpenAI‑compatible的Base‑URL(必须为FQDN域名,不能是裸IP)。

    ⚠️注意:如果PAIS部署只配置IP,必须重新部署PAIS指定FQDN,否则AI Assistant无法接入。

  2. 步骤2:VCF Operations添加LLM提供商「VCF Private AI」

    • 登录VCF Operations管理界面,导航菜单:【扩展 > 高级配置 > LLM Providers】;

    • 点击【Add Provider】新增提供商,类型选择 VCF Private AI

    • 粘贴步骤1拿到PAIS FQDN端点URL,填入PAIS生成的API‑Token;

    • 接受PAIS生成的自签名TLS证书;完成保存,建立连通。

  3. 步骤3:Models标签页选择PAIS内部部署的大模型

    切换到【Models】标签,页面自动发现PAIS后端所有已部署模型;可切换不同模型做能力基线对比;选中的模型将成为AI Assistant的后端推理模型。

四、AI Assistant当前能力与限制

  • 只读模式(当前版本):仅查询、分析、输出文档信息,不可以执行任何修改、创建、删除vSphere/VCF资源的动作;不能直接生成PDF输出文件。

  • ✅ 内置25个Skills运维工具集,Tools标签页可以完整查看全部工具;用于查询集群、vSAN、告警、资源、版本、配置等信息。

  • AI Observability可观测面板:统计token消耗、tokens‑per‑second、请求延迟、模型配置变更审计日志,用于排错与用量统计。

  • 🔮 未来版本路线:

    • 支持用户自定义编写Skills工具;

    • 构想技能市场,Broadcom与社区共享运维技能;

    • 增加受控的读写操作,带访问权限和安全护栏,实现AI驱动运维变更。

五、关键坑点与排错提示

  • ☑ 最常见故障:PAIS使用IP地址作为端点,AI Assistant直接拒绝接入,必须FQDN。

  • ☑ PAIS自签名证书:添加LLM Provider环节必须确认接受证书,否则HTTPS连接失败。

  • ☑ 网络连通:VCF Operations服务组件网络需要可达PAIS的FQDN,检查防火墙与DNS解析。

  • ☑ 模型列表为空:确认PAIS命名空间中模型实例状态正常运行,API‑Token权限有效。

  • ☑ 当前只读不等于永久只读,后续版本会引入受安全管控的写操作能力。

六、高频问答

Q1:PAIS服务只有IP没有域名,可以直接填IP接入AI Assistant吗? A:不行,硬性限制,必须FQDN;需要重新部署PAIS配置域名参数。

Q2:现在AI Assistant能不能让它帮我修改vSphere配置、创建虚拟机? A:当前版本只读模式,不能做任何变更操作;未来版本会带安全护栏开放受控写操作。

Q3:25个Skills工具是做什么的? A:内置运维工具集合,AI调用工具查询VCF、vSphere、vSAN、告警、硬件、版本各类信息,用于回答运维问题。

Q4:AI Observability面板能看到什么? A:Token消耗、推理TPS、请求延迟、模型配置变更审计日志,用于性能评估与审计。

Q5:对比使用Google Gemini公有云,PAIS本地模式优势是什么? A:全部推理运行企业VCF内网,运维提示词、基础设施数据不会流出私有云,满足数据隔离合规要求。

全文总结

William Lam博文演示VCF9.1.1中将AI Assistant for VCF对接PAIS3.0本地私有AI服务,实现完全内网大模型运维助手,不需要公有云LLM;硬性前提PAIS模型端点必须配置FQDN域名,不支持裸IP接入;三步配置:从Namespace获取PAIS OpenAI兼容FQDN地址、在VCF‑Operations新增VCF‑Private‑AI LLM提供商填入URL与API‑Token、选择PAIS后端部署的模型;当前AI‑Assistant运行在只读模式,内置25套运维Skills工具,不支持修改基础设施;AI Observability提供token用量、TPS、延迟、审计日志;产品路线规划后续支持自定义技能、社区技能市场、带安全防护的读写运维操作;部署时注意处理PAIS自签名证书、DNS解析、网络连通问题。

用户留言 User Comments