環境:
- 多個 PROXMOX 5 (KVM) 伺服器(核心:4.15.18-30-pve)
- 運行 Debian 9、10 和 11 的虛擬機器(vitrio /qemu-guest-agent 各自 Debian 版本的目前版本)
- 透過 virtio_net 核心模組連接的網路卡
- 透過 Linux 橋接器連接的虛擬機
- 1Gbit網路交換機
問題
- VM 的傳輸速度大多只有 5 Mbit/s 左右
- 有時會達到約 950Mbit/s 的完整傳輸速率,但在相反方向測試時,通常(並非總是)僅為 5 Mbit/s
- 一台主機上虛擬機器之間的傳輸速率約為 20Gbit/s(舊伺服器)
測試
- 測試是透過 iperf3 完成的
- KVM主機之間的傳輸速率還可以,雙向約950Mbit/s
- 我在主機之間來回移動虛擬機,但沒有看到問題的模式。
- 測試是使用不同的虛擬機器(Debian 9-11)完成的
測試 vm 到 vm 的兩個方向 (perf3)
root@@HOST1:~# iperf3 -c @HOST2
Connecting to host @HOST2, port 5201
[ 5] local 192.168.40.121 port 59440 connected to 192.168.40.52 port 5201
[ ID] Interval Transfer Bitrate Retr Cwnd
[ 5] 0.00-1.00 sec 109 MBytes 918 Mbits/sec 22 352 KBytes
[ 5] 1.00-2.00 sec 107 MBytes 900 Mbits/sec 16 253 KBytes
[ 5] 2.00-3.00 sec 107 MBytes 898 Mbits/sec 2 390 KBytes
[ 5] 3.00-4.00 sec 108 MBytes 910 Mbits/sec 7 423 KBytes
[ 5] 4.00-5.00 sec 109 MBytes 913 Mbits/sec 3 419 KBytes
[ 5] 5.00-6.00 sec 93.3 MBytes 783 Mbits/sec 19 165 KBytes
[ 5] 6.00-7.00 sec 92.3 MBytes 775 Mbits/sec 3 375 KBytes
[ 5] 7.00-8.00 sec 107 MBytes 895 Mbits/sec 27 358 KBytes
[ 5] 8.00-9.00 sec 110 MBytes 920 Mbits/sec 9 322 KBytes
[ 5] 9.00-10.00 sec 109 MBytes 914 Mbits/sec 17 327 KBytes
- - - - - - - - - - - - - - - - - - - - - - - - -
[ ID] Interval Transfer Bitrate Retr
[ 5] 0.00-10.00 sec 1.03 GBytes 883 Mbits/sec 125 sender
[ 5] 0.00-10.04 sec 1.02 GBytes 876 Mbits/sec receiver
iperf Done.
root@@HOST1:~# iperf3 -s
-----------------------------------------------------------
Server listening on 5201
-----------------------------------------------------------
Accepted connection from 192.168.40.52, port 35006
[ 5] local 192.168.40.121 port 5201 connected to 192.168.40.52 port 35008
[ ID] Interval Transfer Bitrate
[ 5] 0.00-1.00 sec 598 KBytes 4.90 Mbits/sec
[ 5] 1.00-2.00 sec 699 KBytes 5.72 Mbits/sec
[ 5] 2.00-3.00 sec 1.38 MBytes 11.6 Mbits/sec
[ 5] 3.00-4.00 sec 871 KBytes 7.14 Mbits/sec
[ 5] 4.00-5.00 sec 1.36 MBytes 11.4 Mbits/sec
[ 5] 5.00-6.00 sec 1.43 MBytes 12.0 Mbits/sec
[ 5] 6.00-7.00 sec 1.23 MBytes 10.3 Mbits/sec
[ 5] 7.00-8.00 sec 592 KBytes 4.85 Mbits/sec
[ 5] 8.00-9.00 sec 1.20 MBytes 10.1 Mbits/sec
[ 5] 9.00-10.00 sec 1.35 MBytes 11.4 Mbits/sec
- - - - - - - - - - - - - - - - - - - - - - - - -
[ ID] Interval Transfer Bitrate
[ 5] 0.00-10.04 sec 10.6 MBytes 8.89 Mbits/sec receiver
-----------------------------------------------------------
Server listening on 5201
-----------------------------------------------------------
設定網路卡
- 伺服器端 1Gbit/s 全雙工(使用 ethtool 測試)
- 英特爾適配器
有誰知道如何進一步隔離問題甚至了解問題。
答案1
升級到版本6後問題解決。