Jev:把模型决策压缩进一次函数调用,应用该如何接住?

2026-09-20 34 预计阅读时间: 1 分钟
来源: oschina.net AI 摘要 Original link

Disclaimer: This article is an AI-assisted summary. Read it together with the original source when precision matters. The summary may omit context, version differences, or edge cases and is not official documentation.

预计阅读时间:5 分钟

TypeSafe AI 结束隐身状态,并开放首款 System One Model——Jev 的早期访问。创办人 Diogo Almeida 曾参与 ChatGPT 背后的指令跟随方法研究。这次值得关注的不是又一个聊天窗口,而是另一种产品定位:让软件提交非结构化状态,再取得可用于下一步处理的决策。

从聊天回答转向应用决策

“函数调用级别的智能”提供了一个理解 Jev 的角度:应用遇到难以完全写成规则的状态时,调用模型辅助判断,而不是要求它写一段长篇回复。对开发者而言,关键问题也随之改变——不只是回答是否自然,还包括结果能否被程序解析、动作是否在允许范围内,以及出错时系统如何退回安全状态。

目前给出的信息只说明了 Jev 的定位和早期访问状态,并没有提供可据此确认的 API 格式、延迟数字或输出字段。下面的代码是本地模拟的集成方式,不是 Jev SDK 示例

先定义决策契约,再接入模型

假设客服系统收到一句状态描述:“支付请求超时,客户称被扣款两次。”与其让模型自由生成操作步骤,不如先限定它只能建议 retryescalateignore。其中 escalate 只是转人工;退款、扣款等资金操作不在这个决策接口的权限内。

可以这样实践:将模型输出当作不可信输入解析,验证字段和动作集合,再交给现有业务流程执行。下面的脚本用固定 JSON 代替真实模型响应,因此无需账号或依赖即可运行:

# 保存为 decision_demo.py,然后运行:python decision_demo.py
import json

ALLOWED_ACTIONS = {"retry", "escalate", "ignore"}
state = "支付请求超时,客户称被扣款两次"

# 本地演示数据:接入真实模型时,替换为模型返回的文本。
model_output = '{"action":"escalate","reason":"可能存在重复扣款,需人工核查"}'


def parse_decision(raw: str) -> dict[str, str]:
    value = json.loads(raw)
    if not isinstance(value, dict):
        raise ValueError("决策必须是 JSON 对象")
    if set(value) != {"action", "reason"}:
        raise ValueError("决策字段不符合约定")
    if value["action"] not in ALLOWED_ACTIONS:
        raise ValueError("不允许的动作")
    if not isinstance(value["reason"], str) or not value["reason"].strip():
        raise ValueError("缺少决策理由")
    return value


try:
    decision = parse_decision(model_output)
except (json.JSONDecodeError, ValueError):
    decision = {"action": "escalate", "reason": "无法验证模型输出"}

print(json.dumps({"state": state, "decision": decision}, ensure_ascii=False))

这段代码展示的是接口边界,而非模型能力:解析失败会转人工,但解析成功也不等于可以直接执行高风险操作。实际接入时,还要明确输入如何传给模型、超时如何处理,以及决策记录如何供人复核。

试用时看什么

Jev 的价值需要在具体工作流里验证。适合从动作少、反馈明确、能够人工兜底的环节开始,记录模型建议、最终执行动作和人工修正。评估时不要只看“答对了多少次”,还要看错误建议的代价、异常输出的频率,以及一次判断是否真的比现有规则或人工分流更合适。早期访问阶段,先把权限和回退路径设计好,比急着让模型接管业务动作更重要。


相关推荐