Ollaya, 로컬에서 10ms 만에 의사결정 모델 실행
Ollaya – Ollama for open-source, Jev-style decision models
Ollaya는 오픈소스 도구로, 텍스트나 JSON에 대해 타입이 지정된 질문을 던지면 캘리브레이션된 답변을 밀리초 단위로 반환한다. RTX 4090에서 Laya 모델은 5개 질문에 약 10ms 만에 응답하며, TypeSafe API와 호환되어 기존 SDK를 그대로 사용할 수 있다. 데이터는 로컬에서 처리되고, macOS·Windows·Linux·Docker를 지원한다.
티켓, 이메일, 사용자 메시지는 종종 가장 민감한 데이터입니다. Ollaya를 사용하면 이미 있는 곳에서 점수가 매겨집니다.