Ich habe einen einfachen CUDA-Kernel (mit zwei Vektoren der Größe N), der ziemlich ähnlich ist zuzu diesem Cuda-Blog hier. Ich habe nur ein paar Dinge geändert, z. B. die Messung über mehrere Proben laufen zu lassen. Also, sagen wir, 1000 Mal laufen zu lassen und diese Messung anschließend in eine txt-Datei zu schreiben. Wenn ich jetzt die Messungen für die Übertragung eines Vektors auf das Gerät plotte, erhalte ich folgendes:
Wenn wir uns nun die Standardabweichung als vertikale Fehlerbalken ansehen, sollte klar sein, dass die Datenbewegungen aus irgendeinem Grund mit der Größe schwanken, da die Fehlerbalken in einem Log-Log-Diagramm ziemlich konstant sind. Dies kann validiert werden, wenn nur die Standardabweichung dargestellt wird
Wenn ich das gleiche Programm aus demcuda-Blog, dann bekomme ich bei jedem 10. Durchlauf oder so auch Bandbreitenschwankungen. Woher kommt das? Ich habe das gleiche Verhalten auf zwei verschiedenen GPUs beobachtet, einer V100 und einer RTX2080. Entschuldigen Sie die Unannehmlichkeiten bezüglich der Bilder, aber ich habe nicht genug Reputationspunkte.
Antwort1
Als einVon einem Benutzer des Nvidia-Entwicklerforums vorgeschlagenIch habe es mit fixiertem Speicher statt mit nicht fixiertem Speicher versucht und das hat ziemlich gut funktioniert. Die Schwankungen sind fast vollständig verschwunden.