数码之家

标题: 眼馋了很久,终于出手上10G网络了 [打印本页]

作者: pcdoctor    时间: 2019-12-14 22:24
标题: 眼馋了很久,终于出手上10G网络了
看别人玩10G网络的视频很久了,种草也已经很久了,终于到了割草的时间

买的10G交换机是
NETGEAR 8-Port 10G Ethernet Smart Managed Plus Switch (XS708E)
[attach]529252[/attach]

最近亚马逊这台交换机降价一点,不想再等了,人生苦短,及时行乐,就出手买了,

顺便买了两张10G网卡,先做一个测试

10G网卡
Aquantia AQtion 10G Pro NIC, 5-Speed Ethernet Network Adapter with PCIe 3.0 and RJ-45
[attach]529251[/attach]




要做测试的机器包括
下载机,win2008, 全部机械硬盘,十多年前的旧电脑,千兆网下经常跑不满100MB/s 怀疑就是硬盘速度拖累了,估计上10G网络意义不大,
主力电脑win10, 7年前的主板,不支持M.2接口,只有SATA SSD, 估计上了10G网络,最快速度也就是SATA SSD的最大速度,大约500MB/s
黑群晖,11年的老主板,需要测试10G网卡兼容性,和10G网络下,实际阵列盘的速度
FreeNAS,一年前的主板,支持NVMe M.2, 测试这块10G网卡兼容性,测试没有缓存的阵列速度,加入NVMe缓存盘后的速度
OMV, 14年前的主板,测试兼容性,测试阵列速度,
白群晖,比较入门,不支持10G网络






作者: ww5223017240    时间: 2019-12-14 22:49
个人没啥意义吧,瓶颈在硬盘,企业用raid才会用的上吧
作者: yich    时间: 2019-12-14 22:49
提示: 作者被禁止或删除 内容自动屏蔽
作者: 摇摆    时间: 2019-12-14 22:51
硬盘怕是跟不上啊
作者: cpz0520    时间: 2019-12-14 22:55
坐等报告出炉
作者: panyaolin123    时间: 2019-12-14 22:58
本帖最后由 panyaolin123 于 2019-12-14 23:01 编辑

网件这个交换机不如mikrotik的CRS312划算,后者只要3k9,10个RJ45的10Gbps,4个SFP,里面热管+暴力扇一样不少,哦对还有双电源。
作者: zhiyiyunmeng    时间: 2019-12-14 23:48
ww5223017240 发表于 2019-12-14 22:49
个人没啥意义吧,瓶颈在硬盘,企业用raid才会用的上吧

硬盘现在也不是瓶颈了。SSD都3000MB/S以上了
作者: liuyangczbz    时间: 2019-12-15 00:15
这打折那打折最后呵呵呵:lol:
作者: oppo105    时间: 2019-12-15 07:29
我依然在百兆爬行
作者: g6666    时间: 2019-12-15 07:45
想什么呢?万兆网卡也才1250M/S理论实际也不过500-800M/S。你的网络真的能有那么快吗?不会的!
作者: 348531379    时间: 2019-12-15 08:19
我等坐等报告:lol:
作者: ww5223017240    时间: 2019-12-15 10:22
zhiyiyunmeng 发表于 2019-12-14 23:48
硬盘现在也不是瓶颈了。SSD都3000MB/S以上了

3000的SSD还不是主流吧,MLC的NVME不是谁都用得起的
作者: go2net    时间: 2019-12-15 11:44
万兆网络的意义不是上网, 而是局域网做NAS的时候, 可以把NAS的空间作为iSCSI共享给别的计算机使用, 速度和本地硬盘没有区别, 或者可以把ESXI的虚拟机存储位置设定为通过万兆网共享的空间
作者: pcdoctor    时间: 2019-12-15 15:24
ww5223017240 发表于 2019-12-15 10:22
3000的SSD还不是主流吧,MLC的NVME不是谁都用得起的

有了万兆网络环境,可玩的东西就更多一些了
作者: ww5223017240    时间: 2019-12-15 15:54
pcdoctor 发表于 2019-12-15 15:24
有了万兆网络环境,可玩的东西就更多一些了

举些例子给大家点提示呗,我千兆都想不出太多玩法,硬盘还是SATA2的
作者: pcdoctor    时间: 2019-12-15 17:27
ww5223017240 发表于 2019-12-15 15:54
举些例子给大家点提示呗,我千兆都想不出太多玩法,硬盘还是SATA2的

其实,多数人用电脑就是工具,不是玩具,

如果你自己没需求,没必要买用不到的东西
作者: ww5223017240    时间: 2019-12-15 17:36
pcdoctor 发表于 2019-12-15 17:27
其实,多数人用电脑就是工具,不是玩具,

如果你自己没需求,没必要买用不到的东西 ...

很多东西没接触过很难说自己需不需要,多接触点才会知道
作者: pcdoctor    时间: 2019-12-15 17:42
ww5223017240 发表于 2019-12-15 17:36
很多东西没接触过很难说自己需不需要,多接触点才会知道

多数人,在家里不会在局域网内传送大量文件,对10G网络没需求,1G已经足够了
作者: upkon    时间: 2019-12-15 21:53
g6666 发表于 2019-12-15 07:45
想什么呢?万兆网卡也才1250M/S理论实际也不过500-800M/S。你的网络真的能有那么快吗?不会的! ...

说明你的网卡、设备或者线路有问题,
正常的10G链路跑不到标称值的95%。那是什么垃圾玩意
作者: sgcc    时间: 2019-12-15 21:55
我千兆还没用上呢,主要是还没自己的房子,唉   想像的很美好,现实更残酷
作者: 18994625553    时间: 2019-12-15 22:20
确实是无法硬盘跟上,固态是不可能适应这种繁琐读和写,可以说,难。
作者: 黑夜圈圈    时间: 2019-12-15 22:47
摇摆 发表于 2019-12-14 22:51
硬盘怕是跟不上啊

把内存虚拟成硬盘速度就够了:lol:
作者: 1006518834    时间: 2019-12-16 09:08
10块钱Mellanox拆机卡真香还能改双口
作者: nnbuchicao    时间: 2019-12-17 15:52
添几台电脑,做无盘工作站?不然楼主你这是剁手了啊。
作者: zhiyiyunmeng    时间: 2019-12-17 21:21
ww5223017240 发表于 2019-12-15 15:54
举些例子给大家点提示呗,我千兆都想不出太多玩法,硬盘还是SATA2的

比如说那些有几十TB数据的人,千兆带宽你让他情何以堪。我千兆传输个软件10GB,都感觉很慢啊
作者: ww5223017240    时间: 2019-12-17 21:26
zhiyiyunmeng 发表于 2019-12-17 21:21
比如说那些有几十TB数据的人,千兆带宽你让他情何以堪。我千兆传输个软件10GB,都感觉很慢啊 ...

哪有个人有TB级的数据的啊,一般公司都不会有这么多资料,个人用千兆完全够了
作者: zhiyiyunmeng    时间: 2019-12-17 21:32
ww5223017240 发表于 2019-12-17 21:26
哪有个人有TB级的数据的啊,一般公司都不会有这么多资料,个人用千兆完全够了 ...

咱们论坛里几十TB的貌似不少啊
作者: ww5223017240    时间: 2019-12-17 21:47
zhiyiyunmeng 发表于 2019-12-17 21:32
咱们论坛里几十TB的貌似不少啊

都存了什么啊?蓝光电影一部也就60G吧
作者: zhiyiyunmeng    时间: 2019-12-17 21:48
ww5223017240 发表于 2019-12-17 21:47
都存了什么啊?蓝光电影一部也就60G吧

200GB 300GB的也有啊
作者: alex777    时间: 2019-12-18 09:01
家里装修遇到郁闷事情。

6类线 全铜 8线全通   书房那一路线 只能跑100mb 其他房间面板都能跑1000mb

火大,都想自己拉一路光纤线 走光信号
作者: pcdoctor    时间: 2019-12-18 11:29
买了二手HP NC523SFP和两条 SFP+ 3M线 ,的确要比RJ45接口的10网卡便宜一半

不过也就只能买一块SFP+接口的网卡,现在用的24口千兆交换机正好有两个SFP+口,正好一个连接电脑,一个口连接新的1万兆交换机
作者: 行走时光    时间: 2019-12-19 00:56
借三楼的用下:lol:
打土豪,分带宽!
作者: pcdoctor    时间: 2019-12-19 07:40
更新一下,买的两块10G网卡到了,结果windows 10自动识别,

黑群晖的旧主板不识别,只有一条PCI-e x16插槽,原来是插显卡的,现在用了一张PCI显卡, 这条x16的PCI-e条用来插10G网卡,结果我想的太简单了,插上网卡以后,系统根本就不引导了,BIOS也进不去了

还在继续测试中
作者: pcdoctor    时间: 2019-12-19 14:48
踏入10G的坑,旧电脑就要被真的淘汰了,哈哈哈哈
作者: pcdoctor    时间: 2019-12-19 15:31
FreeNAS可以识别 AQUANTIA AQtionAQN-107网卡,但是需要安装驱动,官网找到了这块网卡支持FreeBSD的驱动程序,是源代码,需要自己编译

FreeNAS默认是没有核心源代码的,我还要另外搞一套FreeBSD编译这个驱动

学习的东西很多啊

慢慢来
作者: pcdoctor    时间: 2019-12-19 15:42
从网上找到一段编译安装网卡驱动的方法

Hello,
I've send a few messages to Aquantia and I've finally found how to compile the driver.
The last github version is here (now v0.0.4): https://github.com/Aquantia/aqtion-freebsd/archive/master.zip
I've compiled the driver and obtained the if_atlantic.ko file.
The instructions to compile are:

    Load sources: fetch -o /tmp ftp://ftp.freebsd.org/pub/`uname -s`/releases/`uname -m`/`uname -r | cut -d'-' -f1,2`/src.txz
    Become superuser: su
    Unzip sources: tar xzf /tmp/src.txz -C /
    Download archive with driver and extract it
    Build driver: make
    Load driver: kldload ./if_atlantic.ko

作者: pcdoctor    时间: 2019-12-19 15:46
这位网友很热心,把编译好的.ko文件附送在后面,直接下载,进入su, 然后运行 kldload ./if_atlantic.ko ,就好了
用命令ifconfig,已经可以看到网卡了
作者: pcdoctor    时间: 2019-12-19 15:47
有兴趣的可以到英文论坛看看
网址
https://www.ixsystems.com/commun ... .76856/#post-538007
作者: pcdoctor    时间: 2019-12-19 15:54
还要学习一下FreeBSD怎么自动加载这个网卡驱动
作者: pcdoctor    时间: 2019-12-19 16:39
把驱动文件if_atlantic.ko复制到/boot/modules目录下面,

设置系统启动自动加载
打开/boot/loader.conf文件,在最后面增加一行
if_atlantic_load="YES"

保存即可,

重新启动系统后,就可以看到网卡了
作者: pcdoctor    时间: 2019-12-19 17:22
FreeNAS倒是识别的10G网卡了,现在直连了 FreeNAS和windows,两边的10G网卡,手动设置IP, windows 这边 10.10.10.1, Freenas这边10.10.10.2,

两边可以ping
也可以打开共享文件夹了,

但是,非常意外,速度只有100mbps,哈哈哈哈哈

还要研究怎么能跑到10G状态下了
作者: whgf    时间: 2019-12-19 21:02
10G!真不敢想像,家庭环境真用不上,宾馆旅店这类还是有应用价值的
作者: pcdoctor    时间: 2019-12-19 22:01
本帖最后由 pcdoctor 于 2019-12-19 23:21 编辑

老主板 技嘉ga-p35-ds3r, 第一条 pci-e x16 不支持网卡啊,这回没得玩了,哈哈哈
补充,插上网卡,不能启动,进不去BIOS

作者: pcdoctor    时间: 2019-12-19 23:14
安装OMV的老主板,asus m3a78-emh 第一条pci-e x16插槽,支持10G网卡,OMV系统启动了

lspci
能看到多了一个Ethernet controller,但是没有显示型号,
网卡AQtion AQN-107 支持Linux,但也是给了源代码,需要编译



作者: pcdoctor    时间: 2019-12-20 00:21
下载机,windows server 2008 R2, 旧主板 GA-MA78G-US2H,在第一条pci-e x16插槽安装10G网卡,很顺利,

系统启动后,上官网下载windows驱动,就正常了
作者: 小山峰    时间: 2019-12-20 10:18
万兆的太贵了。个人用太奢侈了,公司服务器用这个很好。我有一个工控机带光口不知道是用来干嘛的
作者: pcdoctor    时间: 2019-12-20 11:58
10G交换机到了,windows 上10G网卡表现立刻就正常了,之前连接千兆交换机,总是感觉反应迟钝,有时候竟然显示100Mbps连接,现在连接了万兆交换机,奇奇怪怪的问题就不见了,


另外还买了二手HP NC523SFP Dual Port 10GbE,附两条SFP+的线,价格才是一半,只是需要多等些日子
作者: pcdoctor    时间: 2019-12-20 11:59
小山峰 发表于 2019-12-20 10:18
万兆的太贵了。个人用太奢侈了,公司服务器用这个很好。我有一个工控机带光口不知道是用来干嘛的 ...

也就是玩一玩,实际使用,速度提升有限,毕竟sata接口的SSD,速度也不够快
作者: flyfish2008    时间: 2019-12-20 12:11
10M跑满,你就超过全国90%了
作者: pcdoctor    时间: 2019-12-20 23:19
10G交换机的两个风扇噪音可不小啊,放在书桌旁边,明显吵,

看来还要考虑用的时候再开启,平常还是用会千兆交换机了,需要大量传送数据的时候再插上万兆交换机
作者: siyatu2001    时间: 2019-12-21 09:59
你本机文件硬盘互拷速度也没多快吧,ssd小文件拷贝也就几十M

作者: pcdoctor    时间: 2019-12-21 16:29
siyatu2001 发表于 2019-12-21 09:59
你本机文件硬盘互拷速度也没多快吧,ssd小文件拷贝也就几十M

我保存的文件,视频和音频占了绝大部分
作者: pcdoctor    时间: 2019-12-22 01:19
10G交换机,连接windows, freenas, 都是10G网卡,

Windows 上面开一个10G RamDisk

一个10G视频文件,从虚拟盘写入freenas 18.8秒,从freenas 读到ramdisk ,15.4秒



可以算出来freenas阵列的平均写入速度大约540MB/s 读出的速度,大约646MB/s


用一个三星SSD测试freenas, 读写被限制在了SSD的极限,460MB/s

用一个wd1TB黑盘测试freenas, 读写速度是机械硬盘的极限,读出100MB/s,


下载机,没有使用磁盘阵列,都是机械硬盘,独立使用的,所以,完全没必要安装10G网卡了






作者: pcdoctor    时间: 2019-12-22 01:21
内存虚拟磁盘的软件,用的是ImDisk


作者: pcdoctor    时间: 2019-12-24 04:03
挖掘旧主板的潜力,发现了手头两个就主板,GA-MA78G-US2H,asus m3a78-emh ,用的都是AMD 780G芯片组,都支持板载显卡,都支持pci-e 2.0
第一条x16 pci-e插槽,都可以支持10G网卡,windows 2008下面已经驱动,工作正常了,OMV下面就需要自己编译驱动了


作者: pcdoctor    时间: 2019-12-24 10:51
在主板m3a78-emh 上安装了debian 10, 把10G网卡插入pci-e x16, 系统启动后,10G网卡顺利识别,可以取得IP

接下来就是把驱动程序移植到OMV上面去了
作者: pcdoctor    时间: 2019-12-24 17:23
发现装了debian 10没什么用,还是不会安装openmediavault上面的网卡驱动

有网友成功安装了这块10G网卡,方法是先安装debian9,确认有了网卡驱动后,然后再从debian安装omv
作者: pcdoctor    时间: 2019-12-24 22:16
先装了debian 9,

需要编译代码所以,要安装内核头文件
安装

sudo apt-get install linux-headers-$(uname -r)


获得最新版驱动,编译,安装

sudo apt-get -y install git

cd

git clone https://github.com/Aquantia/AQtion.git

cd AQtion

make

sudo make install

sudo reboot

From <https://forums.linuxmint.com/viewtopic.php?t=225121>


然后根据自己的电脑情况,增加网卡设置

Ip addr add 192.168.0.145/24 dev enp2s0

Ip link set enp2s0 up



作者: pcdoctor    时间: 2019-12-24 22:40
OMV设计是系统和数据分离的,重新安装系统,不影响数据

debian 9 安装好了10G网卡驱动以后,从debian 安装OMV

然后重新挂载文件系统,然后设置共享设置权限,原来的数据就可以从windows访问了

测试了一下10G网卡下,写入omv速度 200MB/s, 从omv读出的速度350MB/s ,复制文件过程,CPU占用率已经满100%了

硬件速度估计已经被榨干了
作者: pcdoctor    时间: 2019-12-25 03:05
搞定了freenas, openmediavault, 黑群晖就麻烦多了
作者: pcdoctor    时间: 2019-12-25 03:18
我的旧主板只能安装DSM6.1.7, Linux和内核版本只有3.10.102,
怎么编译还不会,

还不清楚这个版本能不能支持10G网卡的源代码
作者: pcdoctor    时间: 2019-12-25 03:26
不过,在黑群晖/lib/modules目录下看到了一个熟悉的名字 atlantic.ko

这样隐隐透露一丝希望啊,只要找个支持10G网卡的主板,再装一次黑群晖看看,会不会不用编译代码就能支持了
作者: pcdoctor    时间: 2019-12-30 16:37
折腾到现在,终于明白,限制速度的主因,还是因为主板太老了,

1. 新组装的freenas就不用说了,新主板发挥了万兆网卡的能力,在没有ssd缓存的情况,都可以实现600MB/s速度,已经很满意了

2. 运行黑群晖的主板,ga-p35-ds3r,由于没有板载显卡,所以pci-e x16插槽,只能支持显卡,不能支持网卡,所以这块主板最终还是要被替换的
这块主板唯一优点,就是主板上有8个SATA口

3. 运行omv的主板,M3A78-EMH HDMI, 6个SATA, 有板载显卡,所以pci-e x16插槽支持万兆网卡,写入大约200MB/s , 读出340MB/s,主要拖累是CPU,写入已经用满了CPU, 由于需要装7块硬盘,所以还需要一个pci-e 转sata卡,或者pci转sata卡,经过测试,只连接一块硬盘的需求下,两种转接卡,对速度没有影响

4. 用来替换黑群晖主板的是一块m-ATA主板, P5G41-M LE,最大的缺点,只有4个SATA口,第二个缺点就是只支持pci-e 1.0, 有板载显卡,x16 的pci-e口可以支持万兆网卡,由于要测试7块硬盘,加了一块pci-e x1转4SATA转接卡,测试下来,写入150MB/s 读出195MB/s, 性能明显被限制在了这块4口SATA的转接卡上了,又加了一块pci转4口SATA转接卡,分了一个SATA,这样下来,速度提高了,写入到了200MB/s,读出速度330MB/s,这已经是这块主板能支持的最高速度了,pci-e x1 1.0口最高速度250MB/s ,4口sata PCI-e转接卡本身是2.0版的,但只能运行在1.0d的速度下,链接两块硬盘,已经是用满了, PCI 口的速度133MB/s, 链接一块硬盘刚刚好

真的要发挥万兆网卡的速度,还得是新主板啊





作者: amano512    时间: 2019-12-30 19:21
楼主折腾的不错啊,我也是万兆电口方案,不过我没买交换机,现在的电口都吵,所以我选择的方案是在freenas上装两块双口万兆网卡,共4个口,达成简单网桥,连接4台客户机,也可以实现万兆效果,使用感觉还可以,条件满足的时候可以跑到800MB/s
作者: pcdoctor    时间: 2019-12-30 20:37
amano512 发表于 2019-12-30 19:21
楼主折腾的不错啊,我也是万兆电口方案,不过我没买交换机,现在的电口都吵,所以我选择的方案是在freenas ...

那是你的freenas主板好啊,可以支持两块万兆网卡
作者: pcdoctor    时间: 2019-12-30 21:04
黑群晖的主板,ga-p35-ds3r,板载千兆网卡,小螃蟹 RTL 8111B,还是不够稳定啊,
正在折腾,就少不了大量复制数据,结果黑群晖总是异常的没响应,死机一样,后来加了一块pci接口的千兆网卡,放弃板载网卡,就没问题了
作者: amano512    时间: 2019-12-30 21:14
pcdoctor 发表于 2019-12-30 20:37
那是你的freenas主板好啊,可以支持两块万兆网卡

用的超微的板,有4个pcie3.0 8x的槽
作者: pcdoctor    时间: 2019-12-31 07:27
今天买的二手电口的万兆网卡到了,HP NC523SFP Dual Port 10GbE,送两条线,价格差不多是才一半,

安装到omv5上面,自动识别了

测试了一下,从内存盘写入omv5,速度是190MB/s, 读出速度大约270MB/s

比较下来还是要慢一些的

作者: pcdoctor    时间: 2019-12-31 07:28
买的万兆交换机只有一个电口,不能买更多电口网卡了
作者: pcdoctor    时间: 2019-12-31 15:31
使用的一个24口千兆网卡,dell powerconnect 2724,有两个SFP接口,发现只能支持1G速度,而且查了一下,不支持SFP+的线,这两个口就没什么用处了
作者: 时师傅    时间: 2020-1-2 01:54
硬盘不行上阵列柜吧,10+10+10+10+....100个10
作者: pcdoctor    时间: 2020-1-3 22:12
同样的一块主板6口SATA, 系统是OMV5
之前装7块硬盘做的测试
从内存盘写入omv5,速度是190MB/s, 读出速度大约270MB/s
多出来的一个硬盘用扩展卡pci-e 2口SATA转接卡和pci 4口SATA转接卡,对速度没有什么影响

之后测试了安装8块硬盘,
同样是从内存盘读写OMV5
如果是PCI-e 2口SATA转接卡连接2个硬盘,
从内存盘写入omv5,速度是170MB/s, 读出速度大约195MB/s
很明显多一块硬盘性能影响还是很大的
如果再多插一块PCI 4口SATA转接卡,分一个硬盘,读写性能就有变化了
从内存盘写入omv5,速度是170MB/s, 读出速度大约270MB/s

可以证明速度瓶颈就在主板总线了,最根本的问题,还是主板有点过时了,支持10G网卡运作能力不够了


接下来就考虑把手边8年前的i7-2700k电脑给升级了,就可以把主板cpu内存给替换下来,给nas用,哈哈哈

作者: xp1816    时间: 2020-1-12 15:12
这个交换机是不是有点大?  感觉ASUS的那块10G的交换机要小巧一点,但是好像又没有光口:mad:
作者: pcdoctor    时间: 2020-1-12 21:22
xp1816 发表于 2020-1-12 15:12
这个交换机是不是有点大?  感觉ASUS的那块10G的交换机要小巧一点,但是好像又没有光口 ...

你说的是带2个万兆网口的华硕交换机么,两个万兆网口对我来说不够用
作者: ladenaiqq    时间: 2020-1-14 00:35
我这服务器都是光纤连接。[attach]571266[/attach]
[attach]571267[/attach]

作者: bill0757    时间: 2020-1-29 00:46
上了10G的话,家里连接用光纤才好喔,顺便买个熔纤机自己做接头吧。
作者: 蓁蓁    时间: 2020-1-31 18:16
oppo105 发表于 2019-12-15 07:29
我依然在百兆爬行

百兆是太慢了
作者: 蓁蓁    时间: 2020-1-31 18:18
ww5223017240 发表于 2019-12-17 21:26
哪有个人有TB级的数据的啊,一般公司都不会有这么多资料,个人用千兆完全够了 ...

蓝光片多的 几十个T应该差不多
作者: x51163    时间: 2020-2-2 18:44
这么快的网络,下载电影吗?有没有好的站点推荐一下呀
作者: xl121301    时间: 2020-2-7 15:23
可以做PT,可以下小姐姐。功能很多啊。
作者: hc605    时间: 2020-2-7 16:08
其实感觉百兆基本够用了,家里目前千兆
作者: jinbh    时间: 2020-2-7 16:20
瓦见都没见过更别说玩了




欢迎光临 数码之家 (https://www.mydigit.cn/) Powered by Discuz! X3.4