本文阐述了Linux系统下HBA卡的常用基本操作,包括如何通过命令或日志查找HBA,如何查找WWN以及设置永久绑定,以及HBA卡安装完成之后如何识别存储设备。 主机外接存储的准备工作: HBA卡与操作系统的安装顺序决定了主机外接存储的操作步骤。如果HBA安装在操作系统之前,那么连接磁盘还是比较简单的。安装程序检测到发现的硬件并准备所需模块。如果适配器安装于操作系统之后,或在操作系统安装之后有变更,则用户需要手动安装。本文以Emulex 1000作为示例HBA。 HBA安装于操作系统之前:安装程序发现硬件,准备模块 HBA安装或变更于操作系统之后:用户手动安装 lspci命令查看HBA: [root@sandboxlinux etc]# lspci 00:00.0 Host bridge: VIA Technologies, Inc. VT82C693A/694x [Apollo PRO133x] (rev c4) 00:01.0 PCI bridge: VIA Technologies, Inc. VT82C598/694x [Apollo MVP3/Pro133x AGP] 00:04.0 ISA bridge: VIA Technologies, Inc. VT82C686 [Apollo Super South] (rev 40) 00:04.1 IDE interface: VIA Technologies, Inc. VT82C586A/B/VT82C686/A/B/VT8233/A/C/VT8235 PIPC Bus Master IDE (rev 06 00:04.2 USB Controller: VIA Technologies, Inc. USB (rev 16) 00:04.3 USB Controller: VIA Technologies, Inc. USB (rev 16) 00:04.4 Host bridge: VIA Technologies, Inc. VT82C686 [Apollo Super ACPI] (rev 40) 00:09.0 Ethernet controller: Realtek Semiconductor Co., Ltd. RTL-8139/8139C/8139C (rev 10) 00:0a.0 Ethernet controller: 3Com Corporation 3c905 100BaseTX [Boomerang] 00:0c.0 Fibre Channel: Emulex Corporation: Unknown device fa00 (rev 01) 00:0c.1 Fibre Channel: Emulex Corporation: Unknown device fa00 (rev 01) 01:00.0 VGA compatible controller: ATI Technologies Inc Rage XL AGP 2X (rev 27) 如果已经安装了HBA,使用上述命令确认HBA芯片集的类型。此命令列出了适配器的芯片集。本例显示,Fibre Channel Emulex card, device fa00 , rev 01。 在消息日志中查找HBA: 另一个在服务器中查找HBA类型的方法是查看消息日志文件最后一次启动过程中保存的信息。本例中,在/var/log/目录下执行“more messages |grep HBA”我们看见两个Emulex LP10000 HBA。 [#/var/log/more messages |grep HBA Oct 18 14:55:21 sandboxlinux kernel: scsi0 : HBA: Emulex LightPulse LP10000 on PCI bus 00 device 60 irq 11 Oct 18 14:55:21 sandboxlinux kernel: scsi1 : HBA: Emulex LightPulse LP10000 on PCI bus 00 device 61 irq 9 Emulex HBA驱动: Emulex驱动位于/lib/modules/2.4.21-4.EL/kernel/drivers/scsi 。SCSI驱动文件是lpfcdd.o。 /lib/modules/2.4.21-4.EL/kernel/drivers/scsi 3w-xxxx.o ata_piix.o ide-scsi.o lpfcdd.orig scsi_mod.o st.o aacraid BusLogic.o ips.o megaraid2.o sd_mod.o sym53c8xx_2 aic7xxx dpt_i2o.o libata.o megaraid.o sg.o sym53c8xx.o aic7xxx_old.o gdth.o lpfcdd.o lsmod命令验证模块已被加载。本例显示驱动已被加载,名为lpfcdd。 /sbin/lsmod Module Size Used by Tainted: P ide-cd 34016 0 (autoclean) cdrom 32576 0 (autoclean) [ide-cd] mousedev 5624 1 (autoclean) input 6144 0 (autoclean) [mousedev] iptable_filter 2412 1 (autoclean) ext3 89960 2 jbd 55060 2 [ext3] lpfcdd 295016 18 aic7xxx 162064 4 sd_mod 13360 25 [emcp] scsi_mod 112680 5 [emcpmpap emcpmp 如何使用Emulex lputil工具查找WWN: 通过执行lputil,可通过Emulex “lputil”工具查找HBA卡的WWN名。选择2“Adapter Information”,之后选择4“IEEE Address”。此地址将会被显示成为2个8位16进制字符,即为WWN。 Emulex永久绑定: 在光纤网络环境下,EMC推荐永久绑定驱动,但不强制要求,目的是限制网络存储只能通过预定义的端口进行通讯。如不绑定,则无法保证服务器端与EMC存储阵列通过光纤网络通讯逻辑路由的一致性。如果交换机的物理配置发生变更(如调换线缆或主机重启),逻辑路由将无法保持一致,这将会导致数据损坏。注意Emulex驱动的永久绑定是基于target的,而非LUN。可通过两种方式来实现永久绑定,使用Emulex配置文件/etc/lpfc.conf,或在/etc/modules.conf文件中添加选项。 lpfc.conf文件包含所有控制驱动初始化的参数。此文件一经修改,需要经过重新编译和加载才能使改动生效。也就是说,如果lpfc.conf文件中添加了永久绑定则必须重新加载。 配置lpfc.conf文件的步骤: 在lpfc.conf文件中配置永久绑定,首先在lpfc.conf文件中查找lpfc_bind_entries参数并将此参数设置成该主机实际的绑定数目。例如:int lpfc_bind_entries =4; 定义了4个绑定。 第二,选择一种永久绑定的方式。Emulex有三种永久绑定的方法: lpfc_fcp_bind_WWNN将指定的World Wide Node Name绑定至target ID lpfc_fcp_bind_WWPN将指定的World Wide Port Name绑定至target ID lpfc_fcp_bind_DID将指定的port ID绑定至target ID EMC推荐通过WWPN永久绑定。只能使用一种永久绑定方式。当指定target ID时,Target 0不能被使用,因为target 0是为控制器保留的。 第三步,查找lpfc_automap参数并将其设置为0。 第四步,查找lpfc_scandown参数并将其设置为0。 第五步,保存lpfc.conf文件。 第六步,使用make build命令编译驱动。 第七步,使用make install命令在当前运行的内核安装驱动。make install参数将驱动复制到/lib/modules/$myversion/kernel/drivers/scsi($myversion是内核版本)。 我们按照target device WWPN建立FCP绑定。lpfc_fcp_bind_WWPN将指定WWPN绑定至target ID。该绑定确保分配的target在重启之后仍被保存。绑定内容格式为:“NNNNNNNNNNNNNNNN:lpfcXtY”,NNNNNNNNNNNNNNNN是16bit数代表着target WWPN。X是物理硬件适配器编号,Y是分配的target。多条语句之间以逗号相间隔,以分号为结束。目前无法将适配器target指定给特定的sd设备,/dev/sdX。 例如:char *lpfc_fcp_bind_WWPN[]={'21000020370cf8263:lpfc1t0'}; 举例1: char *lpfc_fcp_bind_WWPN={.NNNNNNNNNNNNNNNN:lpfcXtY.}; vi /etc/lpfc.conf int lpfc_bind_entries =4; int lpfc_automap parameter=0; int lpfc_scandown=0; char *lpfc_fcp_bind_WWPN={'50060160006000ed:lpfc0t1', '50060168006000ed:lpfc0t2','50060160006000ed:lpfc1t1', '50060168006000ed:lpfc1t2'}; 本例中我们修改了lpfc.conf文件,将参数lpfc_bind_entries,lpfc_automap和lpfc_scandown设置为0,并通过lpfc_fcp_bind_WWPN绑定WWPN。 配置module.conf文件的步骤: 在module.conf文件中配置永久绑定,首先为系统中每一个adapter指定WWNN/WWPN以及target信息,之后通过在文件中添加永久绑定参数修改module.conf文件。 首先,将lpfc_bind_entries参数设置成主机实际绑定的数量:比如:lpfc_bind_entries=4。 第二步,将lpfc_scandown参数设置成“0”。 第三步,将lpfc_automap参数设置成“0”。 第四步,选择lpfc_fcp_bind_WWPN, lpfc_fcp_bind_WWNN 或lpfc_fcp_bind_DID, target ID设置绑定类型。 EMC推荐通过WWPN实现永久绑定。 第五步,保存对/etc/modules.conf文件的更改。 第六步,通过执行/sbin/#./modprobe lpfcdd更新lpfcdd模块。 举例2: #/etc/more modules.conf alias parport_lowlevel parport_pc alias scsi_hostadapter sym53c8xx alias scsi_hostadapter1 lpfcdd alias scsi_hostadapter2 lpfcdd alias eth0 tlan options scsi_mod max_scsi_luns=256 scsi_allow_ghost_devices=1 options lpfcdd lpfc0_topology=0x02 lpfc1_topology=0x02 lpfc_network_on=0 lpfc_use_data_direction=0 lpfc_automap=0 lpfc_scandown=0 lpfc_bind_entries=4 lpfc_fcp_bind_WWPN={.50060160006000ed:lpfc0t1,50060168006000ed:lpfc0t2,50 060160006000ed:lpfc1t1,50060168006000ed:lpfc1t2.}; 本例中我们修改了/etc/modules.conf文件,设置lpfc_automap=0, lpfc_scandown=0, lpfc_bind_entries=4,并通过lpfc_fcp_bind_WWPN={“50060160006000ed:lpfc0t1,50060168006000ed:lpfc0t2,50060160006000ed:lpfc1t1,50060168006000ed:lpfc1t2”}绑定WWPN。 识别存储设备: HBA安装结束并重启系统之后,用户可以通过执行“more messages |grep SCSI”识别HBA发现的磁盘设备。 本例中我们看到的设备从sda到sdf。 举例3: |
|