Jev决策模型：返回概率的AI新范式

技术要点

本次分享的核心是TypeSafe AI发布的一种新型AI模型——Jev决策模型。与以往广泛使用的、主要返回文本或代码的大语言模型不同，Jev模型的核心输出是一个浮点数，代表概率。

其关键变化与能力体现在三个方面：

1. 处理是非题：当询问一个陈述句（如“明天下雨”）是否正确时，Jev模型返回一个0到1之间的浮点数。0表示该陈述为假的概率为100%（即肯定不成立），1表示为真的概率为100%（即肯定成立），0.99则表示有99%的可能性成立。
2. 处理选择题：当提供多个选项（如A、B、C、D）时，Jev模型会为每个选项返回一个正确的概率值。通过比较这些概率，可以立即判断哪个选项最可能为真。
3. 执行评分任务：用户可以提供一组评分标准，然后让Jev模型对一份原始材料（如一篇文章、一个网页）进行打分。模型会根据给定的标准，输出一个量化的评分结果。

素材中通过两个具体的浏览器插件应用展示了这些能力：

• 语义查找：将浏览器的Ctrl+F功能改造为语义查找。其原理是依次取出网页的每个段落，向Jev模型提问“本段落是否与用户的搜索词相关？”。Jev返回一个相关度的概率值，系统据此筛选出概率最高的段落作为结果。
• 网页评分：用户定义一套从低分到高分的评分标准（例如，“论点缺乏依据”为低分，“推理结构严密，有实据支撑”为高分）。Jev模型根据这套标准，自动为新打开的网页生成一个质量评分。

原理与背景

Jev决策模型的设计动机，源于将AI的输出从“定性描述”转向“定量判断”。素材中指出，一旦AI模型返回量化的结果（如浮点数概率），许多以前无法直接数字化处理的问题，顿时都能用计算机程序来处理和自动化了。

这种模型解决的核心问题，是将模糊的、需要人类语义理解或价值判断的任务，转化为可计算、可排序、可比较的概率或分数。例如，判断段落相关性、评估内容质量，这些任务传统上依赖人工或复杂的规则引擎，而Jev模型提供了一种通过概率来近似判断的方法。

然而，这种设计也带来了显著的争议和担忧。著名开发者西蒙·威利斯（Simon Willison）评价Jev实际上代表着机器学习系统的“倒退”，走向“黑箱系统”。他指出，以前的大模型虽然不能保证100%正确，但至少可以要求它们解释自己的决定。而Jev模型只提供一个浮点数，这个数字是如何得出的，对用户而言是完全未知的。这种缺乏可解释性的特性，引发了对其可能被用于简化复杂评估（如求职者排名）的担忧。

落地建议

对于工程师和技术决策者而言，Jev模型所代表的“概率化输出”范式，在特定场景下具有应用价值。以下是通用的落地考虑：

1. 适用场景识别：Jev模型或其类似原理的模型，适用于需要将主观判断或语义关联转化为客观数值的场景。例如，内容审核中的相关性判断、用户反馈的情感倾向量化、文档质量的自动初筛等。在这些场景中，明确的评分标准或判断维度是模型有效工作的基础。
2. 实施步骤：
   • 首先，明确需要评估的对象和评估标准。标准需要尽可能具体、可操作。
   • 其次，将评估任务分解为模型可处理的单元（如段落、句子、特征点）。
   • 然后，调用模型对每个单元进行概率或分数输出。
   • 最后，根据输出结果进行排序、筛选或聚合，形成最终的决策依据。
3. 注意事项：
   • 理解局限性：模型返回的概率或分数是统计意义上的估计，并非绝对真理。在关键决策中，仍需结合人工复核或其他验证手段。
   • 关注可解释性：如果业务场景对决策过程的透明度和可解释性要求较高，需谨慎使用此类“黑箱”概率输出模型。应考虑是否有其他可提供推理过程的模型或方法作为补充。
   • 标准制定：评分标准或判断维度的质量直接决定模型输出的有效性。制定标准时需要充分理解业务逻辑，并可能需要进行多轮测试和调整。