웹캠 프레임을 LLM으로 실시간 분석하는 단일 함수 Jev 스타일 래퍼
A single function Jev-like wrapper for LLMs, including vision models

Jev 스타일 래퍼를 확장해 이미지 입력을 지원하는 단일 함수를 구현했다. LLM의 토큰 확률(logprobs)을 읽어 선택지에 대한 확률 분포를 얻는 방식으로, 비전 모델에도 적용된다. RTX 3090에서 Gemma 4 12B로 초당 1프레임, OpenAI gpt-6-luna로 0.2 FPS를 기록했다. 조건을 자연어로 바꿀 수 있는 유연성이 장점이다.
재미있는 점은 이것이 비전 모델에서도 작동한다는 것이다.