JevStyle 体验 Demo

AI Agent 的本地分类与路由

在 Python 中完成文本分类、请求路由和固定选项评分。小型开源模型支持 CPU、CUDA 与 Apple silicon，可保留大模型或人工回退。

直接体验 Demo 本地运行

从你的任务开始

先按输入、标签和运行环境选择方法，再在自己的数据上比较结果。

Python 本地文本分类比较传统分类器与决策模型，保留低置信度回退。本地决策模型与 Apple silicon按固定选项、后端和硬件选择运行方式。请求路由与大模型回退先在本地选择工作流，再处理需要升级的请求。本地路由工具选型比较 JevStyle、Semantic Router、scikit-learn 和 SetFit。收据与截图的本地判断PyTorch 图片请求示例，以及人工核验边界。替换只返回标签的 LLM 调用明确选项、测量错误与覆盖率，并保留回退。

当前版本与服务状态

Python 软件包为 jev-style 0.6.2。2B v4 已于 2026-10-27 发布：PyTorch 支持文本与图片，MLX 和 GGUF 仅支持文本。默认本地文本模型为 0.8B v3。

托管 API 已恢复，使用 2B v4 Q4_K_M，仅支持文本，一次处理一个请求。本地模型与 Hugging Face Demo 是独立入口，托管服务的状态不代表本地模型不可用。

维护者：Chaoliang Yan（严超亮），GitHub：lawrence3699。项目与 TypeSafe 无隶属或背书关系。

训练出处：2B v4 部分训练使用 TypeSafe Jev 1.14 公共 API 生成的软标签。Python 软件包不附带教师的原始回答数据集。参见模型与训练来源。

核对日期:

一次请求，每个选项都有分数

一张客服工单，三个问题，一次调用。

每个选项都有概率

“I was billed twice. Please refund one charge.”

{"refund": {"type": "noul", "instructions": "The customer asks for money back."}}

示例输出：退款概率 0.967。实际结果取决于模型与输入。

三个问题共用一段 state: Hi, I was billed twice for my March plan. Please refund one of them today.

托管 API 文档

托管 API 已恢复，使用 2B v4 Q4_K_M，仅支持文本，最多 8,000 个输入 token，一次处理一个请求。 核对日期：2026-10-29.

每个账号的每日额度
10,000
托管 API 状态
API 运行正常
每次输入 token
8,000
每个选项一个，无需解析文本
概率

    

    
  • 不存储请求内容
  • 失败请求不计次
  • 开源本地模型仍可使用
完整接口文档 

  


  

    
    
应用场景

    
工单分类
一次请求判断团队、退款诉求与紧急程度。

    

    
  


  

    

      

        
开源模型

        
也可以自己运行

        

        
Hugging Face GitHub 快速开始

      

    
HF download counts are file-request counts, not unique users. How downloads are counted.




    

      
      

        

          
          
          
          
        

        
      

    


    

      
模型

      

      

        
        
        

        
每 3 小时自动从 Hugging Face API 同步一次；浏览器能访问 Hugging Face 时显示实时数据。平台统计本身最多可能延迟一天。

      

    


    

      
评测

      
Jev-Style 2B v4: JevBench v1.4.1 public accuracy 74.9%; Decision Index 0.3 public score 44.37.
Single self-runs, not official board ranks. Hardware, test protocols, confidence intervals, and limitations: read the model guide.

    


    

      
快速开始
打开仓库 

      

        

        

          

          
# Python 3.10+; run inside a virtual environment.
python -m pip install "jev-style[torch]"
jev-style serve --release 2b --backend torch
# Open http://127.0.0.1:8765
# For Apple silicon text-only: install "jev-style[mlx]" and use --backend mlx.

        

      

    


  


  

    
将 JevStyle 接入你的项目
从完整教程、可运行案例和模型选择开始。

    

      本地大模型路由在本地选择路由，将不确定的决策交给大模型。
      客服工单分类一次请求判断负责团队、退款诉求与紧急程度。
      Claude Code 调用审核通过本地模型和明确规则检查工具调用。
      评估你自己的数据衡量准确率、校准、覆盖率和延迟。
    

  


  

    
    
  



选择模型，核对结果
JevStyle 是用于本地分类、路由和评分的开源工具；小型决策模型为预定义选项返回概率。
模型选择对照（英文）比较 0.8B 与 2B 的输入、后端和权重大小。评测与复现（英文）查看公开自测结果、协议、出处和限制。
可以离线运行吗？
安装依赖并下载模型后，可以在本机处理输入。在线 Demo 和托管 API 是独立服务；使用它们会将输入发送到相应服务。
应该选择哪个模型？
文本任务可以从 0.8B v3 开始，在自己的数据上对照测试 2B v4。图片输入需要 2B v4 的 PyTorch 后端；MLX 和 GGUF 构建仅支持文本。
它会生成聊天回复吗？
它为是/否、多选和有序评分问题返回概率，不生成自由文本回复。把不确定的情况交给人工或现有大模型。
关于项目与维护者 · 托管 API 文档

  

    

      

        
说明

        
我在做一系列小模型：每个只负责一类判断，给出校准过的概率，小到能在你自己的电脑上运行。严超亮 · UNSW

      

      

        
联系我

        
欢迎实习、工作和科研合作机会：yanchaoliang369@gmail.com。

        

          
          GitHub 
          Discord