PROXMOX에서 VGPU활용 -2-
우리 서버는 현재 그래픽이 타이탄 V2 2개개 쿼드로 2개 4090하나가 있다. 하지만 엔비디아에서는 공식적으로 쿼드로 제외하고 나머지 제품들에게는 VGPU를 지원하지 않아서 사용자들에게 그래픽카드 자원을 나눠서 보내주기가 어려웠다.
그래서 인터넷에서 검색을 해서 알아 온게 있으니
4090인경우
도커에서 Fractional GPU로 분활을 해서 자원을 나눌수 있는 걸 알아내서 이번에 길로 직접 해보았다.
설치는 단순하다. 리눅스에 도커를 설치를 하고 Nvidia-docker install를 해서 개조된 컨테이너 이미지를 불려와서 사용하면 되는 것이었다.
참고 사이트
Installing the NVIDIA Container Toolkit — NVIDIA Container Toolkit 1.15.0 documentation
GitHub - allegroai/clearml-fractional-gpu: ClearML Fractional GPU - Run multiple containers on the same GPU with driver level memory limitation ✨ and compute time-slicing
ClearML Fractional GPU - Run multiple containers on the same GPU with driver level memory limitation ✨ and compute time-slicing - allegroai/clearml-fractional-gpu
allegroai아래 사진은 도커 컨데이너에서 성공해서 그래픽카드를 살짝 노동시키고 있는 장면이다.
타이탄 V 같은 경우
그래픽카드가 3000번째 이전 같은 경우는 드라이버를 살짝 조작을 하면 가능하다고한다.
그래픽카드에서는 막히지 않았는데 드라이버에서 막아버린것이다
아니 엔비디아 외 그런짓을..
GitHub - DualCoder/vgpu_unlock: Unlock vGPU functionality for consumer grade GPUs.
Unlock vGPU functionality for consumer grade GPUs. - DualCoder/vgpu_unlock
DualCoder아래와 같은걸 사용하면 VM에서도 VGPU를 나눠서 VM에서 게임이나 딥러닝이 가능해진다.
원리는 간단하다
- 먼저 자신의 그래픽카드와 엔터프라이즈 급 그래픽카드에서 같이 사용한 GPU칩을 조사한다.
- 기존 드라이버 파일에서 엔터프라이즈 급 그래픽카드로 인식을 시켜 VGPU를 활용할수 있게 한다.
- VM같은경우 VM에서 사용할 GPU Core나 RAM을 선택해서 이용하면된다.
VM사용경우 GPU 자원에서 10%여유를 남기고 나머지를 할당하면 된다
안그러면 GPU가 갑작이 뻐더 버리는 경우가 생기기 떄문
PolloLoco / NVIDIA vGPU Guide · GitLab
Tutorial for setting up vGPU Unlock on PVE 8.x
Proxmox를 사용하는 사람이라면 위 레포를 이용하면 좋은 걸과를 얻을 것이다!
Proxmox는 여러가지 선택을 할수 있어서 씹고뜯고 맛보고 즐길수 있다.