GPU 커널 최적화, LLM이 며칠 걸려도 못 푼 문제를 푸는 법

A primer on GPUs and kernel optimization

저자는 2025년 12월 LLM 강화학습 연구를 위해 프레임워크 Jam을 직접 만들기 시작했고, 약 10개월 뒤 공개를 앞두고 있다. 이 글은 그 여정의 첫 편으로, fp32·bf16·fp8 같은 부동소수점 형식의 범위와 정밀도, thread·warp·block·SM으로 이어지는 GPU 실행 구조, HBM·레지스터·shared memory·occupancy 개념을 차근차근 설명한다. 이어 Jam의 실제 커널 최적화 사례를 통해 병목을 찾는 직관과 도구, LLM과 함께 커널을 개발하는 최근 워크플로까지 다룬다.