서버에서 소비자급(고급) GPU를 사용할 때 고려해야 할 사항은 무엇입니까?

Question

동기 부여:

우선, 컴퓨터 과학, 소프트웨어 개발 및 서버 Linux 관리에 대한 지식이 있더라도 서버 하드웨어를 살펴 본 적이 없으며 서버 하드웨어에 대한 완전한 "초보"입니다. 이 질문이 대부분의 사람들에게 사소한 것이라면 죄송합니다.

저는 매우 집약적인(단일 포인트) 컴퓨팅 요구 사항이 있는 소프트웨어를 개발 중입니다. 필요한 TFlops에 도달하기 위해 OpenCL(2.1) 프레임워크를 선택하고 대부분의 컴퓨팅을 CPU를 사용하여 고급 소비자용 AMD 그래픽 카드에서 수행합니다. GPU(Linux OS)를 구동합니다. 이제 여러 컴퓨터를 통해 이를 확장하려고 합니다.

이러한 기계를 구성하는 방법을 살펴보면 표준(소비자) ATX 타워가 이상적이지 않다는 것이 금방 분명해졌습니다. 각 브랜드는 자체 섀시 모양을 가져오며 기본적으로 냉각 공기 흐름이 좋은 19인치 인클로저에 쉽고 편리하게 쌓을 수 없습니다. , 공유 APC, 케이블 관리 등

이 목표를 가지고 저는 서버가 포함된 랙 캐비닛을 찾기 시작했고 다음과 같은 사실을 발견했습니다.

• Instinct/Tesla와 같은 HPC용으로 설계된 GPU는 소비자 GPU보다 비용이 10배 더 비쌉니다. 이는 주로 소비자 장치에서 "느린" 이중 부동 소수점을 가져오기 위한 것입니다(그리고 해당 가격으로 기업에 판매할 수 있기 때문입니다).
• 해당 GPU를 사용하더라도 PCI-Express 스페이서가 필요합니다.
• GPU 지원 서버는 최대 2슬롯 그래픽 카드만 허용합니다(현재 고급 소비자 GPU는 일반적으로 3슬롯입니다).
• 19인치 캐비닛용으로 설계된 ATX 3U 또는 4U 섀시를 찾았습니다. 하지만 소비자 하드웨어와 함께 장착하는 섀시 중 하나를 장착하면 ECC, 다중 APC 등이 제외됩니다.

질문:

1개 또는 2개의 소비자급 GPU를 호스팅할 서버를 구입하려면 무엇을 고려해야 합니까?

나는 이미 인터넷을 검색하는 데 많은 시간을 보냈고 질문에 대한 기본적인 이해를 얻을 수 없었습니다. 예를 들어 다음은 내 마음에 떠오르는 몇 가지 아이디어입니다.

• 좋은 생각입니까, 아니면 전혀 가능합니까? 여러 텍스트(웹 페이지)에서는 해당 시스템을 함께 작동시키는 어려움, 비호환성, 드라이버 문제 등에 대해 불평합니다.
• 모든 2U-3U 서버 섀시에 3슬롯 그래픽 카드를 수용할 수 있습니까? 아니면 둘?
• 일부 서버(예: Gigabyte Gxxx)는 GPU가 포함된 HPC용으로 특별히 설계되었습니다. 이것이 표준(예: HPE Proliant, IBM..) 서버와 실제로 어떤 차이를 가져옵니까?
• 대부분의 서버는 소비자급 GPU 카드에 필요한 PCI-express v4 x16을 지원합니까?
• 서버 인클로저의 공기 흐름이 소비자 등급 GPU 카드(일반적으로 하단에 3개의 통풍구)와 호환됩니까?
• 전원 연결에 문제가 있나요?

Answer 1

우리는 서버에서 많은 GPU를 사용합니다. 그러나 따라야 할 단일 규칙이 있습니다.

제조업체에서 정확한 서버 모델에 대해 명시적으로 지원하는 부품만 사용하십시오.

이 규칙을 어기지 마십시오.