请问哪个大模型 api 能支持输出标准严谨的 json 格式

一个非常简单的办法,那就是出错自动重试,不要把问题想复杂了

模型输出错误，有几种模式，只要针对这几个模式处理其实就可以

1 . 字符串中出现未转义的换行\n
2. 输出 JSON 之前废话
3. ```json 前缀和```尾缀

更加复杂可以流式解析 json, 根据有限状态选择性抛弃 token ， 但对大多数人来讲没必要

kimi 可以 response_format 参数

gpt 系列用 json schema 指定格式效果挺好的

GPT4-o 或 4o-mini 都行，启用 json-mode

https://platform.openai.com/docs/guides/json-mode

指定 response_format 啊

Cohere 的 c4ai-command-r 模型系列，可以直接输出 JSON 没有任何其他废话

我处理过小文本，也遇到这样的情况：从歌曲文件名和元信息中提取歌手和歌曲名称，转换成 json 格式。在线模型比本地 7B 模型效果要好，另外可以在回答中找 json 信息，把回答中不相干的内容去掉。

谢谢大家的建议, 昨天分析了下，导致转换失败的原因大致有几个：
1. 输出的 json 里有注释语句之类的废话，里面的内容可能会导致歧义
2. value 是列表时，里面的符号也会产生歧义，比如 冒号逗号分号 的中英混用，
3. 还有转义符的问题

整理了下大家的一些解决方案：
1. 明确 json 格式的情况，可以用 function call ， 这是最严谨稳定的方式，但是如果爬的内容不确定，灵活度就不够;
2. 用可以声明 response_format 的模型，贴中提到的有 openai 系列，Gemini 1.5 flash/pro,c4ai-command-r 模型系列。
3. langchain 等第三方工具
4. 重试与 finetune

我为了方便尝试了第三个方法，设置了 3 次重试，并且在对话中记录上一次成功的最长 json 串，在重试时加入 prompt 中作为参考 finetune ，这样下来一万条数据出错次数降低到了 3 条。这是我的解决方案，仅供参考