GPT-2를 순수 CMake로 구현, Q16.16 정수 연산으로 실행
Implementation of GPT-2 in pure CMake
AlpinDale이 공개한 gpt2.cmake는 GPT-2 모델을 순수 CMake로 구현한 프로젝트입니다. CMake 스크립트만으로 모델을 정의하고, Q16.16 고정소수점 정수 연산을 통해 추론을 수행합니다. 전체 모델과 장난감 모델을 모두 지원하며, Hugging Face에서 가중치를 다운로드해 사용할 수 있습니다. 이 프로젝트는 CMake의 스크립트 언어가 얼마나 강력한지 보여주는 동시에, 기존의 딥러닝 프레임워크 없이도 신경망을 구현할 수 있음을 입증합니다.
GPT-2를 순수 CMake로 구현하고 Q16.16 정수 연산으로 실행한다.
HN 토론
19- voxelghost
[지연됨]
- inoffensivename
에이프릴 러드게이트의 말을 인용하자면: "역겹다. 그런데 맘에 들어."
- ahartmetz
참고로, 이건 아마도 느린 걸 비웃을 만큼조차 빠르지 않을 가능성이 높다. 그걸 보려면 한 시간 이내에 뭔가가 일어나는 걸 봐야 하니까. 한 번에 하나의 코어만 사용할 수 있는데, 그게 최악은 아니다: CMake는 인터프리터 방식이고 문자열 기반 타입이라서, 모든 숫자는 매번 문자열 -> 숫자로, 그리고 보통 다시 숫자 -> 문자열로 변환해야 한다.