브라우저에서 직접 돌려보는 로컬 모델의 의사결정 실험
OpenJev
OpenJev는 브라우저에서 로컬 모델이 선택지 확률을 직접 읽는 방식과 JSON으로 토큰을 생성하는 방식을 비교하는 실험이다. 백엔드 없이 WebGPU로 동작하며, 모델 크기별 성능과 실제 타이밍을 측정할 수 있다. 입력 데이터는 페이지를 떠나지 않고 Hugging Face 가중치는 브라우저 캐시에 남는다.
직접 점수는 표시된 선택지 토큰에만 적용된 소프트맥스이며, 보정된 신뢰도가 아니고 모델이 선호할 수 있는 모든 답변을 포함하지도 않습니다.