先把五个层次拆开

讨论“Jev 不输出文本还会不会思考”时,最容易把不同概念压成一件事。至少应该区分:输入上下文、模型内部表征、内部计算、对外可见的 Chain-of-Thought,以及最终自由文本输出。

输入上下文是模型获得的任务状态。删除输出文本并没有删除输入;一个分类器也必须看到足够证据。内部表征是模型把输入编码后的状态,内部计算是从这些状态得到答案的过程。它们是否使用类似自然语言的中间形式,仅凭 API 无法判断。

可见 Chain-of-Thought是调用方收到的推理过程。它可能帮助人检查,也可能只是事后生成的解释。最终自由文本则是面向人或下游解析器的输出。Jev 明确放弃的是自由文本接口,并以类型化概率答案取代它;这不自动说明内部没有计算。

不生成 prose,不等于没有计算

TypeSafe 声称 Jev 并行产生多个答案,而生成式 LLM 通常逐 token 采样。官方介绍可以支持“输出接口和采样叙述不同”,但不足以证明每一步内部机制。即使返回只有一个枚举值,模型也可能经过复杂变换;即使生成了很长的推理文本,也不保证结论正确。

所以我们拒绝两个对称的跳跃:不能因为没有可见思维链,就断言 Jev 不会推理;也不能因为厂商称其为新架构,就断言它以某种更先进方式完成了等价推理。

文本可能同时服务人和模型

用户的担忧是合理的:生成式模型的中间文本不只是展示层,也可能像草稿纸一样帮助分解任务、保留局部结论、回看矛盾。尤其在数学、多跳检索、长程规划和代码调试中,允许更多计算往往会改变表现。

但运行时有另一类问题:答案空间固定、证据集中、判断相互独立。若把这些问题强行包装成长对话,输出 token 可能主要是协议成本。Jev 的价值假设,正是针对这种“System One shaped query”。这个假设需要逐任务验证,不能从速度数字外推到所有认知任务。

可实验的假设

我们准备测试两个维度。第一是上下文密度:保持事实不变,分别提供短而密、长而有噪声、缺失关键字段的状态,观察准确率与校准变化。它能检验 Jev 是否依赖精心压缩的输入。

第二是问题拆分:把一个复合路由问题改写为多个原子 Noul/Score,再由确定性代码合成最终分支。比较单问题与拆分工作流的准确率、延迟、成本和错误相关性。这也对应厂商对 workflow 的公开描述,但本地结果尚未产生。

第三组对照会让 DeepSeek 使用严格结构化输出,在固定模型版本、提示与输入的前提下比较 thinking-enabledthinking-disabled 两种推理模式,并分别记录推理 token、最终输出 token、延迟、成本与任务质量。DeepSeek 官方文档将思考模式和返回的 reasoning_content 分开描述,因此这个实验衡量的是推理模式整体带来的质量与成本差异,不能单独证明可见文本本身对正确率的因果贡献。若未来 API 支持只隐藏返回轨迹而不改变内部推理,还应另设一组可见性对照。

未解决问题

  • Jev 的内部架构、计算深度和 RLCD 细节尚未完整公开;
  • 概率在我们的中文任务、长上下文和分布漂移下是否校准,未知;
  • 原子问题拆分会减少歧义,还是放大多个概率误差,未知;
  • 没有可见推理轨迹时,失败诊断应该依赖哪些观测,未知;
  • Jev 版本升级后,既有提示、阈值和答案空间能否稳定复用,未知。

现阶段最稳妥的结论只有一个:可见文本不是内部计算的同义词,但是否需要生成文本取决于任务。 这条边界只能由对照实验逐步画出来。