☰

Как рассчитать пропускную способность сокета PCIe во время работы с помощью Process Control Monitor?

tag-icon • tag-icon graphics-card motherboard nvidia-graphics-card bandwidth pci-express
Как рассчитать пропускную способность сокета PCIe во время работы с помощью Process Control Monitor?

Я работаю в области глубокого обучения и пытаюсь выявить узкое место в конвейере нашего графического процессора.

Мы используем Ubuntu на материнской плате Intel Xeon с 4 видеокартами NVIDIA Titan RTX. Использование графического процессора, измеренное nvidia-smi, кажется довольно низким, хотя использование памяти графического процессора составляет около 97%.

Поэтому я пытаюсь понять, является ли автобус узким местом.

Я скачалПКМи я запускаю его для мониторинга трафика PCIe 3.0 x16.

Processor Counter Monitor: PCIe Bandwidth Monitoring Utility 
 This utility measures PCIe bandwidth in real-time

 PCIe event definitions (each event counts as a transfer): 
   PCIe read events (PCI devices reading from memory - application writes to disk/network/PCIe device):
     PCIeRdCur* - PCIe read current transfer (full cache line)
         On Haswell Server PCIeRdCur counts both full/partial cache lines
     RFO*      - Demand Data RFO
     CRd*      - Demand Code Read
     DRd       - Demand Data Read
   PCIe write events (PCI devices writing to memory - application reads from disk/network/PCIe device):
     ItoM      - PCIe write full cache line
     RFO       - PCIe partial Write
   CPU MMIO events (CPU reading/writing to PCIe devices):
     PRd       - MMIO Read [Haswell Server only] (Partial Cache Line)
     WiL       - MMIO Write (Full/Partial)
...
Socket 0: 2 memory controllers detected with total number of 6 channels. 3 QPI ports detected. 2 M2M (mesh to memory) blocks detected.
Socket 1: 2 memory controllers detected with total number of 6 channels. 3 QPI ports detected. 2 M2M (mesh to memory) blocks detected.
Trying to use Linux perf events...
Successfully programmed on-core PMU using Linux perf
Link 3 is disabled
Link 3 is disabled
Socket 0
Max QPI link 0 speed: 23.3 GBytes/second (10.4 GT/second)
Max QPI link 1 speed: 23.3 GBytes/second (10.4 GT/second)
Socket 1
Max QPI link 0 speed: 23.3 GBytes/second (10.4 GT/second)
Max QPI link 1 speed: 23.3 GBytes/second (10.4 GT/second)

Detected Intel(R) Xeon(R) Gold 5122 CPU @ 3.60GHz "Intel(r) microarchitecture codename Skylake-SP" stepping 4 microcode level 0x200004d
Update every 1.0 seconds
delay_ms: 54
Skt | PCIeRdCur |  RFO  |  CRd  |  DRd  |  ItoM  |  PRd  |  WiL
 0      13 K        19 K     0       0      220 K    84     588  
 1       0        3024       0       0        0       0     264  
-----------------------------------------------------------------------
 *      13 K        22 K     0       0      220 K    84     852

На мгновение проигнорируйте фактические значения. У меня значения гораздо больше. :-)

Как рассчитать пропускную способность сокета PCIe во время работы с помощью Process Control Monitor?

Почему указаны только две розетки?

решение1

Отgithub opcm:

socket относится к сокетам ЦП, а не к слотам или устройствам PCIe. У вас система с 2 сокетами ЦП, верно? Вывод --help описывает переключатель -B для вывода пропускной способности на сокет ЦП (см. также предостережение здесь с частичными операциями). pci-iio.x — это другая утилита, которая показывает пропускную способность на устройство PCIe.

Связанный контент