
JS
第一种方法较为简便,适用于结构简单、无复杂嵌套的JSON场景,也是日常使用较多的方式。它直接在语句中生成JSON,无需示例格式,比如:
当然,这种形式也存在一些问题:

Meta
严格来讲,第三种方式并不算生成JSON格式。但由于JSON的目的是方便提取和稳定生成,许多框架采用类HTML标签包裹内容,再通过正则表达式提取,虽然形式不同,但同样可以实现相近的效果。以OpenDevin的系统提示为例(已翻译),可以通过正则表达式提取与标签间的内容,从而获取智能体需要在终端执行的命令。这种方法清晰高效,便于操作。
这种方式对经过智能体调优的模型效果更佳。以上介绍了几种常见的JSON输出形式,但在实际应用中,大模型(特别是开源小模型)可能无法稳定输出标准格式,常见问题是:
若进一步提高难度,便是按照指定格式生成内容。此时,大模型需在生成时,同时确保内容按格式正确组织于JSON中。
在这种情况下,基本上只有GPT-4系列模型能够按照该指令生成符合要求的JSON。可以将生成任务与输出JSON任务分离,先让模型以自然语言形式输出结果,将其转化为槽位填充问题,再根据生成的内容填入预定义的JSON结构中。这种方法能大幅提升输出成功率,不过会增加token消耗。为降低成本,建议使用价格更低的模型完成填充部分。目前,一些开源库对生成JSON的输出进行了优化。比如,JSon_repAIr库可修复大模型输出的JSON格式问题;instructor库能将大模型的输出转换为基于Pydantic的模型,提升了数据处理的规范性和效率。这些工具在实际应用中发挥了重要作用。
Copyright © 2025 IZhiDa.com All Rights Reserved.
知答 版权所有 粤ICP备2023042255号