리눅스 7.3, VRAM 부족 시 성능 대폭 개선
Linux 7.3 improves performance when running out of vRAM
VRAM 오버커밋은 이론상 성능 문제일 뿐이지만, 실제로는 안정성 문제를 일으킨다. amdgpu 드라이버의 제출 경로에서 TTM이 drm_exec 헬퍼를 사용하지 않아 -EDEADLCK가 발생하면 제출을 재시도하지 않고 실패하기 때문이다. 저자는 이 문제를 해결하기 위해 2024년에 제출된 패치셋을 리베이스하고 남은 버그를 수정하여 리눅스 7.3에 병합했다.
VRAM이 부족하면 게임이 충돌하고 성능이 바닥을 치는 것은 피할 수 없는 현실일까? 이 글은 그 질문에 답하기 위해 VRAM 오버커밋의 성능 영향과 커널의 교착 상태 처리 방식을 분석한다.