获取验证码
iSCSI存储组网存在两种标准配置方案。独立存储私网环境推荐开启巨帧,MTU设置9000,减少数据包数量,降低CPU开销、提升存储吞吐量。硬性前提:整条传输路径所有网络设备(ESXi物理网卡、vSwitch、交换机端口、存储控制器网口)MTU数值保持完全一致。如果链路中有老旧交换机、防火墙不支持9000巨帧,全网统一采用默认MTU 1500,禁止混合配置,否则出现数据包分片、丢包、虚拟机IO延迟抖动。
有VMware全系列产品官方资源和定制版资源需求的可以移步:
虚拟化集群使用独立二层网络对接iSCSI阵列,运维仅在ESXi主机设置MTU9000,接入交换机维持默认1500。业务运行后间歇性出现iSCSI重传、存储IO延迟突增,严重时虚拟机磁盘卡死。调整交换机MTU与主机匹配后延迟恢复正常。
1.1 初期无效排查操作
检查网线、更换网口、调整iSCSI多路径策略,无法消除IO抖动;监控存储流量无带宽打满现象,很难直接定位MTU不匹配问题。
1.2 分层定位真实故障根因
数据包从ESXi发出为9000字节帧,到达交换机无法转发超大帧,直接丢弃或者强制分片。iSCSI对分片异常敏感,触发TCP重传,造成存储访问卡顿。 现场验证修复:要么全网所有节点统一MTU9000,要么全部回退至1500,杜绝一条链路两种MTU规格。
1、核心成因:链路两端MTU不一致引发帧丢弃、分片异常
巨帧(MTU9000)作用是增大单次传输数据包载荷,减少协议包头损耗。端到端任意一台设备MTU更小,大包无法透传。iSCSI基于TCP协议,大量分片会加重CPU负载,网络设备不支持分片时直接丢包。
2、次要成因1:ESXi vSwitch与上行网卡MTU不统一
很多场景只修改物理网卡,虚拟交换机MTU保持默认1500,主机内部数据包直接被截断,巨帧设置失效。
3、次要成因2:管理网与iSCSI存储网复用网卡
单网卡同时承载业务管理流量与iSCSI存储流量,无法同时适配两套MTU标准,不建议混布。
4、次要成因3:跨三层路由部署iSCSI启用巨帧
三层设备(路由器、防火墙)大多不支持超大帧转发,跨网段iSCSI存储网络不建议开启9000巨帧,优先MTU1500。
1、第一步:组网评估,选定MTU规格
独立二层存储私网、所有交换机和存储控制器支持巨帧:全网统一MTU=9000。 存在三层转发、老旧网络硬件、共享链路场景:全网统一MTU=1500。
2、第二步:ESXi端完整配置(vSwitch+物理网卡同步修改)
进入ESXi网页端,找到iSCSI对应的vSwitch,修改交换机MTU;再修改绑定的物理上行网卡MTU,两者数值必须相同。配置完成后重启网卡生效。
3、第三步:交换机侧统一配置
连接ESXi与iSCSI存储的交换机端口,将对应access/trunk接口MTU修改为相同数值;全局MTU模式与端口配置同步。
4、第四步:iSCSI存储控制器端口设置
登录存储管理界面,修改参与iSCSI业务的网口MTU,和主机、交换机参数保持一致。
5、第五步:端到端连通性测试验证
使用ping -l测试大包连通性。Windows:ping -f -l 8972 存储IP;Linux/ESXi:vmkping -d -s 8972 存储IP。测试无丢包,代表巨帧链路正常。
| 故障现象 | 根因分析 | 标准解决方案 |
|---|---|---|
| iSCSI存储偶发IO延迟飙升,虚拟机磁盘卡顿,带宽并未跑满 | 链路两端MTU不一致,巨帧数据包被交换机丢弃,触发TCP重传 | 核查整条链路所有设备MTU,统一数值;执行大包ping测试确认连通性 |
| ESXi网卡MTU设9000,但是大包ping测试不通 | vSwitch MTU未同步修改,或交换机端口不支持巨帧 | 同步vSwitch与物理网卡参数,检查交换机硬件是否支持Jumbo Frame |
| 同网段设备MTU统一9000,跨网段iSCSI访问持续丢包 | 中间三层路由设备不支持超大帧转发 | 跨三层场景全网改为MTU1500,iSCSI尽量二层直连组网 |
| 新建iSCSI会话正常,长时间高负载后出现存储断连 | 小流量业务无大包,负载提升产生超大数据包,才暴露MTU冲突问题 | 存储网络上线前必须完成大包长通测试,不能仅依靠日常业务验证 |
| 多路径iSCSI,部分路径稳定、部分路径IO抖动 | 多条存储链路MTU配置不统一,路径之间参数不一致 | 逐条检查所有物理链路交换机、网口配置,所有路径保持参数一致 |
1. 误区:只要ESXi设置MTU9000就能生效,交换机不用改动纠正:MTU属于端到端约束,只要路径任意设备不匹配,巨帧无法正常转发,极易引发隐形丢包。
2. 误区:MTU9000数值直接填入ping测试长度纠正:IP头、TCP头占用开销,测试数据包大小应使用8972,而非9000,否则直接不通。
3. 误区:管理网和iSCSI存储网共用网卡,分别配置不同MTU纠正:单张物理网卡只能使用一套MTU参数,存储流量建议独立网卡、独立vSwitch隔离部署。
4. 误区:所有iSCSI环境都应当启用9000巨帧提升性能纠正:混合老旧网络、跨三层组网场景,启用巨帧风险远大于收益,稳妥方案使用MTU1500。
5. 误区:MTU不匹配故障一定会产生明显网络告警纠正:轻负载场景几乎无异常,业务压力上涨后故障才显现,属于典型隐蔽性网络故障。
组网规划规范:生产环境iSCSI优先搭建独立二层存储私网,与管理网络、业务虚拟机网络物理隔离。
MTU选型规范:全二层、硬件全部支持巨帧→统一MTU9000;跨三层、存在老旧网络设备→统一MTU1500,禁止混合部署。
配置变更规范:修改全网MTU属于重大网络变更,安排业务低峰窗口,变更完成后执行端到端大包连通性测试。
上线验收规范:iSCSI存储上线前,持续30分钟大包ping测试,无丢包才算链路验收通过。
故障排查流程:iSCSI IO延迟抖动→检查存储网络链路MTU配置→执行vmkping大包测试→统一整条链路MTU参数→复测存储访问稳定性。