V2EX 最热主题
15:57 · Jun 2, 2024 · Sun
V2EX-最热主题
大家是如何限制 LLM 输出格式为 JSON
#v2ex
Telegraph
|
source
Telegraph
大家是如何限制 LLM 输出格式为 JSON
lqw3030: 最近遇到一个问题,无论我用哪家(智谱、moonshot 、DeepSeek...等)都会存在有一定概率回复带引导词,或非完整的 json: { "usage": { "prompt_tokens": 185, "completion_tokens": 304, "total_tokens": 489 }, "created": 1717295221, "model": "GLM-4", "id": "123", "error": null, "choices": [ { "finish_reason":…
Home
Powered by
BroadcastChannel
&
Sepia