做网络运维这些年凡是涉及业务断网的改造我都习惯先问一句有没有办法让设备自己扛住故障华为交换机堆叠iStack就是我最常用来回答这个问题的技术。简单说它把两台或更多物理交换机在逻辑上合并成一台设备统一管理、统一配置控制面由主交换机负责转发面则由所有成员共同承担。这个技术我最早是为了解决一个数百人办公网的汇聚层单点故障后来在数据中心接入层、园区万兆组网里也反复用到。这篇文章不讲那些特别冷僻的理论主要分享我实际部署 iStack 时的选型思路、配置过程、验证手段以及后面维护中踩过的几个必须提醒新手的坑。无论你是刚接触堆叠的网络新人还是打算给现有网络做高可用改造的运维同学应该都能省下不少摸索时间。1. 为什么堆叠——一台设备顶不住两台又怕维护累1.1 一个典型场景百人规模办公网的单点故障我第一次认真考虑堆叠是因为一个特别常见的破事。某公司办公网的汇聚交换机用了三年多板卡上某个端口开始频繁闪断。网络维护的人都知道这种隐藏故障最折磨人——白天业务看着正常一到晚上流量稍大就出问题。当时全网就靠这一台汇聚设备撑着交换机后面挂着十几个接入交换机的千兆上联所有员工的办公流量、打印、文件共享全走它。要换设备就得断网断网就意味着整个办公室瘫痪。后来我和同事商量干脆在这个位置部署一套 iStack 堆叠用两台物理设备组成逻辑单台。这个方案最打动我们的点不是“技术先进”而是它把两个问题一起解决了单点故障没了上联带宽也翻倍了。当时网上关于堆叠的教程不多我们边查文档边测试前后折腾了两个晚上才把整套拓扑稳定跑起来。现在回头看那些时间花得非常值。1.2 堆叠到底解决了什么冗余、带宽和管理堆叠带来的收益我会用三个词概括冗余、带宽、省心。冗余这块最好理解。一台成员设备故障另一台继续转发业务只要不是整堆叠都挂掉业务基本不受影响。实际维护中我遇到过某台成员设备的电源模块损坏堆叠系统自动把转发压力全部切到另一台现场业务没有任何感知。带宽这块重点是跨设备链路聚合。普通链路聚合只能把同一台设备上的多个端口捆在一起堆叠之后可以把两台设备上的端口捆成一个逻辑口吞吐能力直接叠加。比如两台设备各出一个万兆口组成 Eth-Trunk逻辑上就是一个 20G 的链路。管理这块原本要分别登录两台设备现在一个管理 IP、一份配置配置自动同步到所有成员。这个“一台设备”的感觉在做接入层改造的时候尤其重要因为运维人手往往不多设备越多越难管。1.3 “多台变一台”背后的隐藏成本堆叠不是没有代价。多台设备当成一台设备意味着成员之间必须软件版本一致、堆叠 ID 唯一、域编号一致维护方式跟单机完全不同。这也是为什么网上总有人质疑“堆叠不好用”然后举例时往往是把线拔了、或者堆叠 ID 配置冲突导致起不来。所以我不建议把一个还没想清楚物理连接和业务拓扑的堆叠直接上线。堆叠的配置命令本身不多真正的难点在于设计哪两台设备配对、用哪些端口做堆叠口、业务口怎么规划、跨设备聚合怎么接。这些想明白了后面操作就是照方抓药。2. iStack 底层机制角色选举、堆叠 ID 与“一台设备”的真相2.1 主备从角色如何产生很多人以为堆叠的主备关系和传统双机热备差不多——主设备干活备设备在旁边等着。这是误解。在华为 iStack 体系里主交换机、备用交换机、从交换机这三个角色真正区别主要在于控制面管理而不是转发。主交换机负责整个堆叠系统的管理面配置同步、版本管理、协议状态维护等相当于这个逻辑设备的“大脑”。备用交换机是主交换机的影子平时也参与业务转发只是随时准备在主交换机故障时接替控制面。从交换机则更多承担转发任务。选举规则说穿了很简单先比优先级数字越大越优先优先级相同比 MAC 地址越小越优先再相同就看堆叠 ID。这有点像几个同事同时开会谁职位高谁牵头职位相同就看谁先到。设备刚上电时会有一个启动协商过程正常情况下几秒到十几秒就能选出主交换机。2.2 堆叠 ID 决定了什么槽位号和接口命名堆叠 ID 是我见过的坑里最容易被忽略的一个。每个成员必须有一个唯一的堆叠 ID范围通常是从 0 到 9。这个 ID 一旦确定会直接体现在接口编号上假设某台成员设备的堆叠 ID 是 1那它的业务口编号就是 10GE1/0/1、10GE1/0/2 这种格式堆叠 ID 是 2 的设备接口就是 10GE2/0/1、10GE2/0/2。也就是说堆叠 ID 本质上充当了设备在堆叠系统里的“槽位号”。好多新手第一次配置堆叠登录第二台设备后按照单机习惯找接口结果发现原来的 10GE0/0/1 变成了 10GE2/0/1直接懵了。这不是设备坏了是堆叠 ID 生效后的正常变化。配置堆叠 ID 也要小心。设备默认堆叠 ID 是 0如果两台设备都不改它们就都是 0逻辑上根本分不清谁是哪个成员。正确的做法是先通过stack slot 0 renumber 1这种命令把设备重新编号保存并重启后再加入堆叠系统。2.3 域编号、优先级、系统 MAC 和 MAD 的关系堆叠里还有一个容易踩雷的参数叫域编号。域编号用来区分同一网络中的不同堆叠系统默认是 0。如果同一个二层网络里有两套以上堆叠域编号必须配成不同值否则邻居发现机制会串味。优先级的作用前面说过范围一般是 1 到 255默认 100。想让哪台设备当主就把它的优先级调大。主设备确定后整个堆叠系统会对外表现一个虚拟的系统 MAC二层邻居看到的是一个统一设备。这里必须提到 MADMulti-Active Detection多主检测。堆叠如果发生分裂但没有检测机制两台设备会各自认为自己是主出现“双主”状态网络里就会出现 MAC 地址漂移、ARP 表抖动、网关冲突等一堆怪问题。MAD 就是用来防止这种情况的机制它依赖域编号来识别对端是否属于同一个堆叠系统。所以生产环境配堆叠域编号和 MAD 是配套动作不能只配一半。3. 组网和端口规划环形还是链形、跨设备聚合怎么接3.1 环形连接的冗余逻辑华为盒式交换机的堆叠物理连接方式主要有环形和链形两种。我的建议一直很明确生产环境只做环形不做链形。环形连接的意思是成员设备之间通过堆叠口首尾相连形成一个环路。比如两台设备A 的 1/1 口连 B 的 2/1 口A 的 1/2 口连 B 的 2/2 口两条线形成一个环。正常工作时系统内部的流量既可以从 A 到 B也可以从 B 到 A任何一条堆叠链路断开系统仍然可以经由另一条链路通信。链形连接就危险得多。比如三台设备串成一条线中间任何一根堆叠线缆断开整个堆叠系统就会从断点处分裂成两个独立系统。这等于把你精心设计的高可用直接打回单点故障。我见过不止一次运维图省事只拉了一根堆叠线结果某次光纤被老鼠咬断网络直接瘫痪。3.2 堆叠口的本质与接线要点华为盒式设备的堆叠口本质上是由业务口转换而来的逻辑接口。你可以把 10GE 口、40GE 口绑定到逻辑堆叠口上让它专门承担堆叠互联流量。这意味着一个 10GE 口一旦被绑定到堆叠口就不能再当普通业务口用了。规划端口时我习惯先数清楚这台设备的业务口需求再决定哪几个口划给堆叠。比如一台设备有 4 个万兆上联口我会选其中两个做堆叠口剩下两个做跨设备聚合上联到核心。不要贪心把所有高速口都做堆叠口否则业务侧反而没有足够的接入能力。物理连线这块有个容易忽略的点请使用原厂堆叠线缆或对应规格的光模块不要随便找个网线或者低速率光模块凑合。堆叠口之间承载的是系统内部的跨设备转发流量带宽和稳定性要求都很高。另外堆叠线缆建议单独走线做好标签不要让它在机柜里和其他网线缠在一起。后面排错时标签清楚能省很多时间。3.3 跨设备 Eth-Trunk 怎么设计堆叠真正的价值在很大程度上要靠跨设备 Eth-Trunk 来体现。普通链路聚合只在单台设备内做跨设备聚合则把两台成员设备上的端口放入同一个 Eth-Trunk对外表现为一条逻辑链路。举个例子某台接入交换机需要双上联到汇聚层汇聚层由两台设备做堆叠。我可以把 10GE1/0/21 和 10GE2/0/21 都加入 Eth-Trunk 1一根线上联到接入交换机的 A 口另一根上联到 B 口。当堆叠中某一台成员设备故障时Eth-Trunk 仍然能够通过另一台成员继续转发整个链路不中断。配置跨设备 Eth-Trunk 时需要注意两端聚合模式必须一致成员端口速率保持一致建议采用 LACP 动态聚合模式这样协商更可靠。另外Eth-Trunk 的成员端口千万不要包含已经绑定为堆叠口的物理端口否则配置会冲突。4. 配置实操两台 S 系列交换机完成 iStack4.1 硬件准备、连线方式和初始登录以两台华为 S 系列盒式交换机为例比如常见的 S5720 或 S5730 系列。部署前先准备好两台设备、两根堆叠线缆或对应光模块、一根 console 线。把两台设备放到可以同时操作的位置先把版检查一遍登录每台设备执行display version确认两台设备的软件版本一致。如果版本不一致先统一版本再继续不要带着差异做堆叠。接下来是清空旧配置。如果设备是二手或者测试留下的建议执行reset saved-configuration并重启让设备回到出厂状态。不要嫌麻烦残留配置往往是堆叠建立失败的隐形原因。物理连线建议采用环形方式设备 A 的 10GE 口连接设备 B 的 10GE 口设备 A 的另一个 10GE 口连接设备 B 的另一个 10GE 口形成两条堆叠链路。先不要着急把所有业务口都接上等堆叠建立验证通过后再恢复业务连线。4.2 命令行从堆叠 ID 到堆叠口绑定下面是两台设备的大致配置流程。不同版本命令可能有细微差异以你设备实际使用的版本为准但整体思路是一样的。第一台设备计划作为成员 1优先级调高让它当主system-view stack slot 0 renumber 1 stack member 1 priority 200 stack domain 100 quit save reboot第一台重启后继续配置堆叠口并绑定物理端口system-view interface stack-port 1/1 port member-group interface 10GE1/0/49 interface stack-port 1/2 port member-group interface 10GE1/0/50 quit save reboot第二台设备计划作为成员 2system-view stack slot 0 renumber 2 stack member 2 priority 100 stack domain 100 quit save reboot第二台重启后配置自己的堆叠口system-view interface stack-port 2/1 port member-group interface 10GE2/0/49 interface stack-port 2/2 port member-group interface 10GE2/0/50 quit save reboot这里要特别提醒堆叠口编号里的“1/1”“2/1”前面的数字就是堆叠 ID。也就是说interface stack-port 1/1是在为堆叠 ID 为 1 的成员配置第一个堆叠口interface stack-port 2/1是在为堆叠 ID 为 2 的成员配置第一个堆叠口。绑定物理端口时接口编号也要带着相应的堆叠 ID 前缀。配置完成后两台设备再重启一次正常情况下就能在物理线缆连通的状态下自动建立堆叠。4.3 重启后如何验证堆叠建立后不要急着接业务先用验证命令确认系统状态正常。我常用的验证命令就四个命令作用关键输出display stack查看堆叠成员和角色成员列表、Master/Standby/ Slave 角色display device查看硬件状态所有成员的型号、状态是否 Normaldisplay eth-trunk 1查看聚合链路跨设备成员口是否都在 Updisplay interface brief查看接口概况堆叠口和业务口的 Up/Down 状态实际操作中我的验证清单大概是这样display stack中能看到两台设备的堆叠 ID、优先级、角色状态为稳定display device中所有成员状态为 Normal通过一个管理 IP 登录能同时管理两台设备在业务口上做连通性测试跨成员转发正常。如果条件允许最好再做一次主备切换测试手动重启主交换机观察备用交换机是否顺利接管控制面业务中断时间是否在可接受范围内。这个测试看起来麻烦但能提前暴露很多潜在问题。5. 排错实录分裂、配错、换备件时我怎么处理5.1 堆叠分裂的典型症状堆叠分裂是我在运维中最不愿意看到的情况之一但很多人第一次遇到时根本不知道是分裂。典型症状是原本正常的网络突然大量丢包、设备管理地址时而通时而不通、交换机日志里出现一堆 MAC 地址漂移告警。用display stack查看时如果发现原本应该在一起的成员变成了独立状态或者出现了两个 Master基本可以断定堆叠已经分裂。此时如果没配 MAD两台设备会各自按照自己的独立配置转发业务同一个广播域里出现两台设备同时工作结果就是二层环路和地址冲突。5.2 一次误拔堆叠线缆的根因定位我跟同事处理过一起典型事故。某次机房调整值班同事本来只是理顺上联光纤结果手一抖把堆叠线缆从设备上拔下来了。由于当时这套堆叠没有配置 MAD设备立刻分裂成两个独立系统同一个管理 IP 在两台设备上都能登录核心交换机上 ARP 表疯狂抖动整个楼栋的网络直接“抽风”。当时排查思路是这样的先看物理链路发现堆叠口 Down再看display stack只能看到本机且角色变成了 Master登录另一台设备发现它也认为自己是 Master。到这里基本确认是堆叠线缆被误拔导致的“双主”。我们把线缆插回去后事情还没完——两台设备不会自动恢复成一个统一的堆叠系统需要手动重启其中一台让它重新以备用成员身份加入。这个案例给我最大的教训不是“拔线不对”而是“没配 MAD 的堆叠根本不是高可用”。从那以后我的所有堆叠配置都强制加上 MAD。5.3 恢复流程与 MAD 的作用MAD 的核心逻辑是堆叠分裂后让其中一侧自动进入禁用状态主动关闭业务口从而避免双主。华为盒式设备常见的有直连检测和中间设备检测两种方式。直连检测需要在成员设备之间额外拉一条检测链路中间设备检测则借助二层交换机转发检测报文。配置 MAD 前必须先配置堆叠域编号。直连检测的命令大致是system-view stack mad detect mode direct使用中间设备检测的命令大致是system-view stack mad detect mode relayMAD 生效后如果堆叠因为线缆断开而分裂其中一侧会检测到多主随即关闭自己的业务口只保留堆叠口和检测链路。这样就不会出现两边同时转发业务的情况。恢复时先把堆叠线缆重新插好然后在处于备用状态的那台设备上手动恢复业务口或者直接重启备用设备让它重新加入堆叠。注意插回线缆不等于系统自动恢复一定要再执行一遍display stack确认角色和成员状态已恢复正常。5.4 配置错误导致的堆叠建立失败还有一种常见问题是配置错误导致堆叠根本建不起来。我见过最多的是堆叠 ID 冲突和域编号不一致。两台设备都保持默认堆叠 ID 0系统无法区分或者两台设备域编号不同互相不认。处理方式不复杂把其中一台设备下线登录后重新执行stack slot 0 renumber 1或renumber 2设置唯一 ID再确认两台设备的域编号一致保存后重启。如果设备已经加入过其他堆叠建议先清空配置再去设置新的堆叠参数。排查这类问题建议按顺序检查先看物理连接是否 Up再看堆叠 ID 是否唯一接着看域编号和优先级最后看软件版本是否一致。把这几项过一遍大多数堆叠建立失败的问题都能找到根因。6. 运维向升级、备件更换与长期稳定心得6.1 升级顺序先备后主、回退准备堆叠环境的版本升级顺序非常重要。常规思路是先升级备用成员观察备用成员正常加入堆叠后再升级主成员。这样做的好处是即使升级备用成员时出现问题主成员还能继续转发业务不至于全网断联。我在一次升级中吃过亏。当时图省事把所有升级文件一次性传到设备 flash 里结果文件名写错设备重启后一直找不到启动文件进不了系统。最后靠着 console 线进入引导菜单手动指定正确的启动文件才算恢复。从那以后我升级前必做三件事备份当前配置、核对升级包文件名、准备好回退用的旧版本文件。升级最好选择业务低谷窗口执行不要在工作时间搞。即使准备工作再充分也要预留至少半小时的应急时间。6.2 备件更换的标准化动作堆叠环境里换备件最忌讳的是把新设备直接插上堆叠线就上电。新设备如果没有清空配置、堆叠 ID 和域编号不一致很可能把整个堆叠系统搞乱。我的标准流程是新设备先单机登录确认软件版本与现行堆叠一致执行reset saved-configuration清空配置并重启设置好堆叠 ID、优先级和域编号然后关机按预定方案连接堆叠线缆最后上电观察display stack输出。整个过程不要急每一步都验证后再继续。如果维护的堆叠数量比较多建议做一张台账记录每套堆叠的成员信息成员序号、堆叠 ID、优先级、MAC 地址、机房位置、堆叠口占用情况。时间久了你会发现这张表比一堆零散的命令行记录管用得多。6.3 我个人坚持的两条习惯最后分享两条不算技术、但很影响稳定性的习惯。第一堆叠线缆一定要用不同颜色标签区分贴上“堆叠线勿拔”的警示标识并且把所有堆叠口在端口描述里写清楚。运维现场人多手杂物理层面的标识是最有效的保护。第二每次动设备之前先执行一次display stack和display device确认成员状态正常。这个动作只需要几秒钟但能让你在动手前就发现那些“看起来没事、其实已经异常”的隐患。堆叠设备上线后我很少再为单台交换机故障半夜爬起来。设备稳定不是靠运气是每一次操作前多想一步换来的。希望这篇分享能让你在部署华为交换机堆叠时少走一段弯路。