智谱 AI 发布 Batch API

2024-05-21 09:21:06 +08:00
 AIInception

智谱 AI 的开放平台已推出全新的 Batch API ,专为无需即时反馈并需使用大模型处理大量请求的场景设计。

通过该服务,开发者可以通过文件提交大量任务,不仅价格降低 50%、无并发限制,还能在 24 小时内完成任务处理。

Batch API 的典型应用场景包括:

支持的 Batch API 的模型以及价格

GLM-4:价格为 0.05 元 / 千 tokens GLM-3-Turbo:价格为 0.0005 元 / 千 tokens

立即调用: https://open.bigmodel.cn/dev/howuse/batchapi

1622 次点击
所在节点    OpenAI
7 条回复
AIInception
2024-05-21 09:21:43 +08:00
使用 RAG-GPT 集成智谱 AI 快速搭建 OpenAI Cookbook 智能客服

https://blog.csdn.net/zhuyingxiao/article/details/139069567
lchynn
2024-05-21 11:36:48 +08:00
折算下来每 M Token 要 50 元。
性价比并不好, 不如 混元和 deepseek , 就是对比 moonshot ,minimax 等也算贵的。
大部分 RAG 场景, 并不需要很高的推理能力。只有编程和复杂任务规划智能体才需要接近 GPT4 水平的 GLM4 ;
而 GLM3 能力又和弱智的文心一眼 ERINE 3 差不多。
AIInception
2024-05-21 11:46:10 +08:00
DeepSeek 目前确实是性价比最高的
chuck1in
2024-05-21 15:53:58 +08:00
关键现在很多翻译软件不支持 智谱 AI 是个大问题的感觉。
AIInception
2024-05-21 16:35:37 +08:00
如果能正常访问 OpenAI ,使用 GPT 系列的模型作为 LLM 底座,整体效果还是更有保障一些。
neptuno
2024-05-22 21:27:28 +08:00
国内的 ai ,如果兼容 openai 的接口,会加分很多
AIInception
2024-05-22 21:48:48 +08:00
智谱、DeepSeek 、Kimi ,它们现在都有兼容 OpenAI 的 API 。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://ex.noerr.eu.org/t/1042476

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX